ПРЕДИСЛОВИЕ

Настоящий курс разбивается на две части — элементарную (главы 1—6) и специальную (главы 7—11). Последние пять глав могут служить базой для спецкурсов — теории суммирования случайных величин, теории стохастических процессов, элементов математической статистики.

Теория вероятностей рассматривается в книге исключительно как математическая дисциплина, поэтому получение конкретных естественно-научных или технических результатов в ней не является самоцелью. Все примеры в тексте книги имеют целью только разъяснение общих положений теории и указание на связь этих положений с задачами естествознания. Конечно, одновременно эти примеры дают указания на возможные области приложения общетеоретических результатов, а также развивают умение применять эти результаты в конкретных задачах. Хорошо, если изучающий теорию вероятностей имеет перед глазами какие-нибудь явления материального мира для того, чтобы общая математическая схема заполнялась определённым смыслом. Такое направление изучения даёт возможность читателю выработать своеобразную теоретико-вероятностную интуицию, которая позволяет предвидеть в общих чертах выводы раньше, чем применён аналитический аппарат. Заметим далее, что без систематического решения задач изучать теорию вероятностей нельзя, в особенности на первых порах.

Первые четыре параграфа первой главы* являются незначительной переработкой неопубликованных рукописей А. Н. Колмогорова.

Я счастлив поблагодарить здесь моих дорогих учителей А. Н. Колмогорова и А. Я. Хинчина, много помогавших мне своими советами и беседами, касавшимися узловых вопросов теории вероятностей.

Б. Гнеденко.

ВВЕДЕНИЕ

Цель настоящей книги состоит в изложении основ теории вероятностей— математической науки, изучающей закономерности случайных явлений.

Возникновение теории вероятностей относится к середине XVII века и связано с именами Гюйгенса, Паскаля, Ферма и Якова Бернулли. В переписке Паскаля и Ферма, вызванной задачами, поставленными азартными игроками и не укладывающимися в рамки математики того времени, выкристаллизовались постепенно такие важные понятия, как вероятность и математическое ожидание. При этом, конечно, нужно отдавать себе ясный отчёт, что выдающиеся учёные, занимаясь задачами азартных игроков, предвидели и фундаментальную натурфилософскую роль науки, изучающей случайные явления. Они были убеждены в том, что на базе массовых случайных событий могут возникать чёткие закономерности. И только состояние естествознания привело к тому, что азартные игры ещё долго продолжали оставаться тем единственным конкретным материалом, на базе которого создавались понятия и методы теории вероятностей. Это обстоятельство накладывало отпечаток и на формально-математический аппарат, посредством которого решались возникавшие в теории вероятностей задачи: он сводился исключительно к элементарно арифметическим и комбинаторным методам. Последующее развитие теории вероятностей, а также широкое привлечение её результатов и методов исследования в естествознание и в первую очередь в физику показали, что классические понятия и классические методы не потеряли своего интереса и в настоящее время.

Серьёзные требования со стороны естествознания (теория ошибок наблюдений, задачи теории стрельбы, проблемы статистики, в первую очередь статистики народонаселения) привели к необходимости дальнейшего развития теории вероятностей и привлечения более развитого аналитического аппарата. Особенно значительную роль в развитии аналитических методов теории вероятностей сыграли Муавр, Лаплас, Гаусс, Пуассон. С формально-аналитической стороны к этому же направлению примыкает работа творца неевклидовой геометрии Н. И. Лобачевского, посвящённая теории ошибок при измерениях на сфере и выполненная с целью установления геометрической системы, господствующей во вселенной.

С половины XIX столетия и приблизительно до двадцатых годов нашего века развитие теории вероятностей связано исключительно с именами русских учёных — П. Л. Чебышева, А. А. Маркова, А. М. Ляпунова.- Этот успех русской науки был подготовлен деятельностью В. Я. Буняковского, широко культивировавшего в России исследования по применению теории вероятностей к статистике, в особенности к страховому делу и демографии. Им был написан первый в России курс теории вероятностей, оказавший большое влияние на развитие в России интереса к этой области науки. Основное непреходящее значение работ Чебышева, Маркова и Ляпунова в области теории вероятностей состоит в том, что ими было введено и широко использовано понятие случайной величины. С результатами Чебышева относительно закона больших чисел, с «цепями Маркова» и с предельной теоремой Ляпунова мы познакомимся в соответствующих разделах настоящей книги.

Современное нам развитие теории вероятностей характеризуется всеобщим подъёмом интереса к ней, а также расширением круга её практических приложений. В этой напряжённой научной работе советская школа теории вероятностей продолжает занимать выдающееся положение, а если говорить об общих проблемах, то в их развитии она занимает первое место. Среди представителей советских учёных прежде всего должны быть названы имена С. Н. Бернштейна, А. Н. Колмогорова и А. Я. Хинчина. В процессе изложения мы будем вынуждены самим существом дела вводить читателя в курс преобразовавших лицо теории вероятностей идей и результатов советских учёных. Так, уже в первой главе мы будем говорить о фундаментальных работах С. Н. Бернштейна и А. Н. Колмогорова по основаниям теории вероятностей. В двадцатых годах нашего столетия А. Я. Хин- чин, А. Н. Колмогоров, Е. Е. Слуцкий и П. Леви установили тесную связь между теорией вероятностей и метрической теорией функций. Эта связь оказалась весьма плодотворной. На этом пути удалось найти окончательное решение классических задач, поставленных ещё Чебышевым, а также значительно расширить содержание теории вероятностей. Полностью к советскому периоду относится создание А. Н. Колмогоровым и А. Я.Хинчиным в тридцатых годах теории стохастических (вероятностных, случайных) процессов, которая теперь стала основным направлением исследований в теории вероятностей. Указанная теория служит прекрасным образцом того органического синтеза математического и естественно-научного мышления, когда математик, овладев физическим существом узловой проблемы естествознания, находит для неё адэкватный математический язык. Нам важно заметить, что решение классических за тач теории вероятностей оказалось тесно связанным с теорией стохастических процессов. Элементы этой важной новой главы теории вероятностей будут изложены нами в главе десятой. Упомянем, наконец, о новом разделе математической статистики, созданном преимущественно работами

А. Н. Колмогорова и Н. В. Смирнова, получившем название «непараметрические задачи статистики». Некоторое представление о содержании этого раздела науки дают §§ 57—59.

Вообще нужно сказать, что бурное развитие теории вероятностей за последние сто лет неразрывно связано с традициями и достижениями русской, а теперь советской науки. И не только новые основные теоремы были доказаны нашими соотечественниками, но ими были проложены новые пути развития теории вероятностей. О влиянии работ советских учёных на современное развитие теории вероятностей можно судить хотя бы по тому, что теперь не появляется и не может появиться хотя бы в какой-нибудь мере ценная книга или статья по теории вероятностей, которая не основывалась бы на работах советских авторов и не имела бы на них ссылок.

За последние десятилетия неизмеримо выросла роль, которую играет теория вероятностей в современном естествознании. После того как молекулярные представления о строении вещества получили всеобщее признание, стало неизбежным широкое использование теории вероятностей и в физике и в химии. Заметим, что с точки зрения молекулярной физики каждое вещество состоит из огромного числа малых частиц, находящихся в непрерывном движении и в процессе этого движения воздействующих друг на друга. При этом о природе этих частиц, о существующем между ними взаимодействии, характере их движения и пр. известно мало. В основных чертах эти сведения исчерпываются тем, что частиц, из которых состоит вещество, очень много и что в однородном теле они близки по своим свойствам. Естественно, что при таких условиях обычные для физических теорий методы математических исследований становились бессильными. Так, например, аппарат дифференциальных уравнений не мог привести в указанной обстановке к серьёзным результатам. Действительно, ни строение, ни законы взаимодействия между частицами вещества в достаточной мере не изучены, и при таких условиях применение аппарата дифференциальных уравнений должно носить элементы грубого произвола. Но даже если бы этой трудности не существовало, уже одно количество этих частиц представляет собой такую трудность в изучении их движения, которую преодолеть с помощью обычных уравнений механики нет возможности.

К тому же и методологически такой подход неудовлетворителен. Действительно, задача, которая здесь возникает, состоит не в изучении индивидуальных движений частиц, а в изучении тех закономерностей, которые возникают в совокупностях большого числа движущихся и взаимодействующих частиц. Закономерности же, возникающие вследствие массовости участвующих в их возникновении ингредиентов, имеют своё собственное своеобразие и не сводятся к простому суммированию индивидуальных движений. Более того, эти закономерности в известных пределах оказываются не зависящими от индивидуальных особенностей участвующих в их порождении частиц. Конечно, для

изучения этих новых закономерностей должны быть найдены и соответствующие новые математические методы исследования. Какие же требования должны быть в первую очередь предъявлены к этим методам? Понятно, что в первую очередь они должны учитывать то, что изучаемое явление носит массовый характер; таким образом, для этих методов наличие большого числа взаимодействующих частиц должно представлять не дополнительную трудность, а облегчать изучение возникающих закономерностей. Далее недостаточность знаний о природе и строении частиц, а также о характере их взаимодействия также не должно ограничивать эффективности их применения. Этим требованиям лучше всего удовлетворяют методы теории вероятностей.

Чтобы сказанное не было понято ошибочно, мы ещё раз подчеркнём следующее обстоятельство. Говоря, что аппарат теории вероятностей лучше приспособлен для изучения молекулярных явлений, мы ни в какой мере не хотим сказать, что философские предпосылки использования теории вероятностей в естествознании лежат в «недостаточности знаний». Основной принцип состоит в том, что при изучении «массовых» явлений возникают своеобразные новые закономерности. При изучении явлений, обусловленных действием большого числа молекул, учёт всех свойств каждой молекулы не нужен. Действительно, при изучении явлений природы необходимо отвлекаться от учёта несущественных подробностей. Рассмотрение же всех деталей, всех существующих связей, в том числе и несущественных для данного явления, приводит лишь к тому, что само явление затемняется и овладение им отодвигается ввиду такой искусственно усложнённой обстановки. Классики марксизма неоднократно подчёркивали это обстоятельство. Естествоиспытатель не может упускать из виду следующее основное положение марксистско- ленинской философии: «Чтобы познавать отдельные стороны (или частности общей картины мировых явлений), мы вынуждены вырывать их из их естественной или исторической связи и исследовать каждую в отдельности по её особым причинам и следствиям» (Ф. Энгельс, Анти-Дюринг, стр. 20, изд. 1948 г., слова в скобках принадлежат В. И. Ленину, см. «Материализм и эмпириокритицизм», стр. 134, изд. 1946 г.).

Насколько удачно произведена схематизация явления, насколько удачно выбран математический аппарат для его изучения, мы можем судить по согласию теории с опытом, с практикой. Развитие естествознания, в частности физики, показывает, что аппарат теории вероятностей оказался весьма хорошо приспособленным к изучению многочисленных явлений природы.

Указанная связь теории вероятностей с потребностями современной физики лучше всего поясняет те причины, в силу которых в последние десятилетия теория вероятностей превратилась в одну из наиболее быстро развивающихся областей математики. Новые теоретические

результаты открывают новые возможности для естественно-научного использования методов теории вероятностей. Всестороннее изучение явлений природы толкает теорию вероятностей на разыскание новых закономерностей, порождаемых случаем. Теория вероятностей не отмежёвывается от запросов других наук, а идёт в ногу с общим развитием естествознания. Понятно, что сказанное не означает, что теория вероятностей является лишь вспомогательным средством для решения тех или иных практических задач. Наоборот, следует подчеркнуть, что за последние три десятилетия теория вероятностей превратилась в стройную математическую дисциплину с собственными проблемами и методами доказательств. В то же время выяснилось, что наиболее существенные проблемы теории вероятностей служат делу решения различных задач естествознания.

Мы определили в самом начале теорию вероятностей как науку, изучающую случайные явления. Отложив выяснение смысла понятия «случайное явление (событие)» до первой главы, мы сейчас ограничимся несколькими замечаниями. Если в обыденных представлениях, в житейской практике считается, что случайные события представляют собой нечто крайне редкое, идущее вразрез установившемуся порядку вещей, закономерному развитию событий, то в теории вероятностей мы откажемся от этих представлений. Случайные события, как они понимаются в теории вероятностей, обладают рядом характерных особенностей; в частности, все они происходят в массовых явлениях. Под массовыми явлениями мы понимаем такие, которые имеют место в совокупностях большого числа равноправных или почти равноправных объектов и определяются именно этим массовым характером явления и лишь в незначительной мере зависят от природы составляющих объектов.

Заметим, что весь ход развития теории вероятностей показывает, в какой жестокой борьбе материалистических концепций с идеалистическими выкристаллизовывались её понятия и идеи. Стихийно материалистическим взглядам Я. Бернулли, Лапласа, Лобачевского, Чебышева, Маркова и многих других выдающихся учёных прошлого противопоставлялись открыто идеалистические концепции ряда других математиков и статистиков (К. Пирсон, П. А. Некрасов, Р. Мизес и др.). Эта борьба продолжается и теперь. На примере мизесовского определения вероятности мы увидим, что взглядам советских учёных, развитым в плане марксистско-ленинской философии, противопоставляются идеалистические построения, порой старательно замаскированные словами «опыт», «практика», «естествознание».

Теория вероятностей, подобно другим разделам математики, развилась из потребностей практики; в абстрактной форме она отражает закономерности, присущие случайным событиям массового характера. Эти закономерности играют исключительно важную роль в физике и других областях естествознания, военном деле,

разнообразнейших технических дисциплинах, экономике и т. д. В последнее время в связи с широким раавитием предприятий, производящих массовую продукцию, результаты теории вероятностей используются не только для браковки уже изготовленной продукции, но, что важнее, для организации самого процесса производства (статистический контроль в производстве). Это лишний раз подтверждает правильность положений философии диалектического материализма об этапах научного исследования: «От живого созерцания к абстрактному мышлению и от него к практике — таков диалектический путь познания истины, познания объективной реальности». (В. И, Ленин, Философские тетради, стр. 146, изд. 1948 г.). Связь теории вероятностей с практическими потребностями, как уже было отмечено, была основной причиной бурного развития её в последние три десятилетия. Многие её разделы были развиты как раз в связи с ответами на запросы практиков. Здесь кстати вспомнить замечательные слова основателя нашей отечественной школы теории вероятностей П. Л. Чебышева: «Сближение теории с практикой даёт самые благотворные результаты, и не одна только практика от этого выигрывает; сами науки развиваются под влиянием её: она открывает им новые предметы для исследования или новые стороны в предметах давно известных... Если теория много выигрывает от новых приложений старой методы или от новых развитий её, то она ещё более приобретает открытием новых метод, и в этом случае наука находит себе верного руководителя в практике».

ГЛАВА 1

ПОНЯТИЕ ВЕРОЯТНОСТИ

Достоверное, невозможное и случайное события

На основе наблюдений и опыта наука приходит к формули- • ровке закономерностей, которым подчиняется течение изучаемых ею явлений. Простейшая и наиболее распространённая схема устанавливаемых закономерностей такова:

При каждом осуществлении комплекса условий О происходит событие А.

Так, например, если вода при атмосферном давлении в 760 мм нагревается выше 100° по Цельсию (комплексу условий S), то она превращается в пар (событие Л). Или другой пример: при любых химических реакциях каких угодно веществ, без обмена с окружающей средой (комплекс условий (5) общее количество вещества (материи) остаётся неизменным (событие Л). Последнее утверждение носит название закона сохранения материи. Читатель легко может самостоятельно указать примеры других подобных закономерностей, заимствованных из физики, химии, биологии и других наук.

Событие, которое неизбежно происходит при каждой реализации комплекса условий ®, называется достоверным. Если событие А заведомо не может произойти при осуществлении комплекса условий S, то оно называется невозможным. Событие Л, которое при реализации комплекса условий <5 может произойти, а может и не произойти, называется случайным.

Из этих определений ясно, что, говоря о достоверности, невозможности, «случайности какого-либо события, мы всегда будем иметь в виду его достоверность, невозможность или случайность по отношению к какому-либо определённому комплексу условий ©.

В предложении 1 утверждается достоверность события А при осуществлении комплекса условий ©. Утверждение о невозможности какого-либо события при реализации данного комплекса условий не доставляет чего-либо существенно нового, так как они легко сводятся к утверждениям типа 1: невозможность события А равносильна достоверности противоположного события А, заключающегося в том, что событие А не происходит.

Простое утверждение о случайности события имеет лишь очень ограниченный познавательный интерес: оно сводится лишь к указа* нию на то, что комплекс условий ® не отражает всей совокупности причин, необходимых и достаточных для появления события Л. Такое указание нельзя считать совершенно бессодержательным, так как оно может послужить стимулом к дальнейшему изучению условий появления события Л, но само по себе оно ещё не даёт нам положительного знания.

Но имеется широкий круг явлений, когда при многократном осуществлении комплекса условий ®, доля той части случаев, когда событие Л происходит, лишь изредка уклоняется сколько-нибудь значительно от некоторой средней цифры, которая, таким образом, может служить характерным показателем массовой операции (многократного повторения комплекса ®) по отношению к событию Л.

Для указанных явлений возможно не только простое констатирование случайности события Л, но и количественная оценка возможности его появления. Эта оценка выражается предложениями вида:,

Вероятность того, что при осуществлении комплекса условий Ъ произойдёт событие Л, равна р. х

Закономерности этого второго рода называются вероятностными или стохастическими закономерностями. Вероятностные закономерности играют большую роль в самых различных областях науки. Например, не существует способов предсказания, распадётся ли данный атом радия за данный промежуток времени или нет, но можно на основании опытных данных определить вероятность этого распада: атом радия распадается за промежуток времени в t лет с вероятностью

р = 15-(Х000486^

Комплекс условий ® в этом примере состоит в том, что рассматривается атом радия, в течение данного числа лет не подвергаемый каким-либо необычайным внешним воздействиям, подобным бомбардировке быстрыми частицами, в остальном условия его существования не существенны: неважно, в какую среду, какой температуры он погружён и т. п.; событие Л состоит в том, что атом этот в течение заданного периода в t лет распадётся.

Кажущаяся нам теперь совершенно естественной идея, ^то вероятность случайного события Л при известных условиях допускает количественную оценку при помощи некоторого числа

Р = Р(Л),

получила систематическое развитие впервые в XVII веке в работах Ферма (1601—1665), Паскаля (1623 — 1662), Гюйгенса и особенно Я. Бернулли (1654—1705). Их исследованиями и было положено начало теории вероятностей. В качестве математической дисциплины с тех пор теория вероятностей непрерывно развивается, обогащаясь

$ 1) ДОСТОВЕРНОЕ, НЕВОЗМОЖНОЕ И СЛУЧАЙНОЕ СОВЫТИЯ 16 всё новыми важными результатами. Её применимость к изучению реальных явлений самой различной природы тоже находит всё новые блестящие подтверждения.

Несомненно, что понятие математической вероятности заслуживает углублённого философского изучения. И основная специфическая философская проблема, выдвигаемая самим существованием теории вероятностей и успешным её применением к реальным явлениям, состоит в следующем: при каких условиях имеет объективный смысл количественная оценка вероятности случайного события Л при помощи определённого числа Р (Л), называемого математической вероятностью события Л, и какой объективный смысл этой оценки. Ясное понимание взаимоотношения между философскими категориями случайного и необходимого является неизбежным предварительным условием успешного анализа понятия математической вероятности, но этот анализ не может быть полным без ответа на поставленный нами вопрос о том, при каких условиях случайность допускает количественную оценку в виде числа — вероятности.

Каждый исследователь, имеющий дело с применениями теории вероятностей к физике, биологии, артиллерийской стрельбе, экономической статистике или любой другой конкретной науке, в своей работе исходит по существу дела из убеждения, что вероятностные суждения выражают собой некоторые объективные свойства изучаемых явлений. Утверждать, что при некотором комплексе условий О появление события Л имеет вероятность р, это значит утверждать наличие между комплексом условий ® и событием А некоторой вполне определённой, хотя и своеобразной, но от этого не менее объективной, существующей независимо от познающего субъекта, связи. Философская задача и заключается в выяснении природы этой связи. Только трудность этой задачи сделала возможным то парадоксальное обстоятельство, что даже среди учёных, не стоящих на идеалистических позициях в общих вопросах философии, можно встретить стремление вместо положительного решения проблемы снять её, объявив вероятностные суждения имеющими отношение только к состоянию познающего субъекта (измеряющими степень его уверенности в наступлении события Лит. п.).

Весь разнообразный опыт применения теории вероятностей в самых различных областях учит, что самая задача количественной оценки вероятности какого-либо события имеет разумный объективный смысл только при некоторых совершенно определённых условиях.

Данное выше определение случайности события А при комплексе условий <3 чисто отрицательно: событие случайно, если оно не необходимо и не невозможно. Из случайности события в этом чисто отрицательном смысле ещё совсем не вытекает, что имеет смысл говорить о его вероятности как о некотором определённом, хотя бы и

неизвестном нам числе. Иначе говоря, не только утверждение — «событие А при комплексе условий S имеет определённую вероятность Р (А)», — но и простое утверждение, что эта вероятность с у щ е- с т в у е т, является содержательным утверждением, нуждающимся в каждом отдельном случае в обосновании или в случае, когда оно принято в качестве гипотезы, — в последующей проверке.

Например, физик, встретившись с новым радиоактивным элементом, будет заранее предполагать, что для атома этого элемента, предоставленного самому себе (т. е. не подвергаемого внешним воздействиям чрезвычайно большой интенсивности), существует, некоторая вероятность распада за промежуток времени /, зависимость которой от времени имеет вид

р = 1 —е-^,

и поставит перед собой задачу определения коэффициента а, характеризующего скорость распада нового радиоактивного элемента. Может быть поставлен вопрос о зависимости вероятности распада от внешних условий, например, от интенсивности космического излучения: при этом исследователь будет исходить из допущения, что каждой достаточно определённой совокупности внешних условий соответствует некоторое определённое значение коэффициента а.

Точно так же обстоит дело и во всех других случаях успешного и оправдавшего себя на опыте применения теории вероятностей. Поэтому задачу философского выяснения реального содержания понятия «математической вероятности» можно сделать заранее безнадёжной, если требовать определения, применимого к любому событию А при любом комплексе условий S.

Различные подходы к определению вероятности

Число различных определений математической вероятности, предложенное теми или иными авторами, очень велико. Мы не станем сейчас разбираться во в&х логических тонкостях этих многочисленных определений. Всякое научное определение такого рода основных понятий, как понятие вероятности, является лишь утончённой логической обработкой некоторого запаса очень простых наблюдений и оправдавших себя долгим успешным применением практических приёмов. Интерес к логически безупречному «обоснованию» теории вероятностей возник исторически позднее, чем умение определять вероятности различных событий, производить вычисления с этими вероятностями, а также использовать результаты произведённых вычислений в практической деятельности и в научных исследованиях. Поэтому в основе большинства попыток научного определения общего понятия вероятности легко рассмотреть те или иные стороны конкретного познавательного процесса, приводящего в каждом отдельном случае к фактическому определению вероятности того или иного события, будь

то вероятность выпадения хотя бы одной шестёрки при четырёх бросаниях игральной кости, или вероятность радиоактивного распада, или вероятность попадания в цель. Некоторые определения берут в качестве исходного пункта несущественные, побочные стороны реальных процессов,— такие определения совсем бесплодны. Другие выдвигают какую-либо одну сторону дела или какие-либо способы фактического нахождения вероятности, применимые не во всех случаях, — такие определения, несмотря на их односторонность, должны быть рассмотрены более внимательно.

С очерченной сейчас точки зрения большинство определений математической вероятности может быть разделено на три группы:

Определения математической вероятности как количественной меры «степени уверенности» познающего субъекта.

Определения, сводящие понятие вероятности к понятию «равно- возможности» как к более примитивному понятию (так называемое «классическое» определение вероятности).

Определения, отправляющиеся от «частоты» появления события в большом количестве испытаний («статистическое» определение).

Определениям второй и третьей групп посвящены §§ 4 и 7. Конец настоящего параграфа мы посвящаем критике определений первой группы. Если математическая вероятность есть количественная мера степени уверенности познающего субъекта, то теория вероятности оказывается чем-то вроде раздела психологии. В конечном итоге последовательное проведение такой чисто субъективистской концепции вероятности неизбежно приводит к субъективному идеализму. В самом деле, если допустить, что оценка вероятности имеет отношение только к состоянию познающего субъекта, то и все выводы из вероятностных суждений (суждений вида 2) лишаются объективного, не зависящего от познающего субъекта, содержания. Между тем, на вероятностных суждениях типа 2 наука основывает много положительных выводов, которые по своей значимости ничем не отличаются от выводов, полученных без обращения к вероятностям. Например, физика все «макроскопические» свойства газов выводит из предположений о характере вероятностей того или иного поведения отдельных молекул. Если этим выводам приписывать объективное, независимое от познающего субъекта значение, то и в исходных вероятностных гипотезах о течении «макроскопических» молекулярных процессов необходимо видеть что-то большее, чем констатацию наших психологических состояний, возникающих при размышлении о движении молекул.

Для тех, кто стоит на точке зрения независимой от нас реальности и принципиальной познаваемости внешнего мира, а также считается с тем фактом, что вероятностные суждения успешно используются в Целях познания внешнего мира, несостоятельность чисто субъек- тивного определения математической вероятности должна быть абсо- лютно ясной. На сказанном можно было бы и закончить обсуждение

2 Зак. 1826. Б. В. Гнеденко

определений первой группы, если бы они не находили себе опоры в первоначальном обиходном смысле слова вероятность. Дело в том, что в обычной речи выражения «вероятно», «очень вероятно», «мало вероятно» и т. п. действительно выражают просто отношение говорящего к вопросу об истинности или ложности какого-либо единичного суждения. Поэтому необходимо подчеркнуть одно обстоятельство, на которое мы не обращали до сих пор специального внимания. Когда в § 1 мы сразу сосредоточили своё внимание на вероятностных закономерностях вида 2, противополагая их строгим причинным закономерностям вида 1, то мы поступали в полном соответствии со всей практикой успешного научного применения понятия математической вероятности, но с самого начала несколько отклонились от обычного «донаучного» смысла слова «вероятность»: если во всех реальных научных применениях теории вероятностей «вероятность» есть вероятность появления некоторого события Л, при условии осуществления некоторого принципиально воспроизводимого неограниченное количество раз комплекса условий © (только в такой обстановке высказывание

р = РИ)

выражает некоторую закономерность, имеющую объективный смысл), то в обычной речи принято говорить о большей или меньшей вероятности какого-либо вполне определённого суждения. Например, относительно суждений:

каждое чётное натуральное число, большее двух, можно представить в виде суммы двух простых чисел (4 = 2 + 2, 6 = 3 + 3, 8 = 5 + 3 и т. д.);

7 мая 1956 года в Москве выпадет снег, — можно сказать следующее: относительно суждения а) сейчас известно далеко не всё, но многие считают его весьма вероятным; точный ответ относительно суждения б) нужно думать удастся получить только 7 мая 1956 года. Однако, так как снег в Москве в мае выпадает крайне редко, в настоящее время суждение б) следует считать мало вероятным.

Подобным высказываниям относительно вероятности единичных фактов или вообще каких-либо определённых суждений (хотя бы и общего характера) действительно можно приписать только субъективный смысл: они отражают лишь отношение говорящего к данному ; вопросу. В самом деле, говоря о большей или меньшей вероятности определённого суждения, мы обычно совсем не имеем в виду подвергать сомнению применимость к нему принципа исключённого третьего, i Например, никто не сомневается, что на самом деле каждое из предложений а), б) истинно или ложно. Если подобные сомнения и высказывались так называемыми интуиционистами по поводу суждения а), то во всяком случае в обычном сознании возможность говорить о большей или меньшей вероятности этого предложения никак не связана с сомнениями в применимости к нему принципа исключённого

третьего. Если когда-либо предложение а) будет доказано или опровергнуто, то все предварительные оценки его вероятности, высказываемые в настоящее время, потеряют смысл. Точно так же, когда наступит 7 мая 1956 года, легко будет обнаружить — истинно суждение б) или нет: если снег в этот день выпадет, то потеряет смысл мнение о том, что это событие мало вероятно.

Полное исследование всего разнообразия психических состояний сомнения, промежуточных между категорическим признанием и категорическим отрицанием единичного суждения, как бы оно ни было интересным для психологии, лишь завело бы нас далеко в сторону от основной для нас задачи выяснения смысла имеющих объективную научную ценность вероятностных закономерностей.

Поле событий

В предыдущем параграфе мы видели, что определение математической вероятности как количественной меры «степени уверенности» познающего субъекта не улавливает содержания понятия вероятности. Мы возвращаемся, следовательно, к вопросу, откуда берутся объективные вероятностные закономерности. Простые и непосредственные ответы на этот вопрос претендуют дать классическое и статистическое определения вероятности. Мы увидим далее, что оба эти определения отражают существенные стороны действительного содержания понятия вероятности, хотя каждое из них в отдельности и недостаточно. Полное понимание природы вероятности требует их синтеза. В ближайших параграфах мы займёмся исключительно классическим определением вероятности, которое исходит из представления о равновозможно ст и как объективном свойстве различных возможных вариантов течения изучаемых явлений, основанном на их реальной симметрии. Только с таким представлением равновозможности мы и будем в дальнейшем иметь дело. Определение же вероятности через «равновоз- можность», понимаемую в чисто субъективном смысле одинакового «правдоподобия» для познающего субъекта, является разновидностью определений вероятности через «степень уверенности» познающего субъекта, которые мы уже исключили из рассмотрения.

Прежде чем перейти к классическому определению понятия вероятности, мы сделаем несколько предварительных замечаний. Будем считать фиксированным комплекс условий S и станем рассматривать некоторую систему S событий Д, В, С, ... ), каждое из которых должно при каждом осуществлении^комплекса ® произойти или не произойти). Мзжду событиями системы S могут

существовать известные соотношения, с которыми мы постояннно будем иметь дело и которые поэтому прежде всего изучим.

Если при каждом осуществлении комплекса условий S, при котором происходит событие Л, происходит и событие В, то мы будем говорить, что Л влечёт за собой ) В, и обозначать это обстоятельство символом

ЛсВ или символом

ВеЛ.

Если Л влечёт за собой В и в то же время В влечёт за собой Л, т. е. если при каждой реализации комплекса условий S события Л и В оба наступают или оба не наступают, то мы будем говорить, что события Л и В равносильны и будем обозначать это обстоятельство символом Л = В.

Событие, состоящее в наступлении обоих событий Л и 6, будем называть произведением событий Л и В и обозначать АВ.

Событие, состоящее в наступлении хотя бы одного из событий Л и В, будем называть суммой событий Л и В и обозначать А -р В.

Событие, состоящее в том, что событие А происходит, а событие В не происходит, будем называть разностью событий Л и В и обозначать А— В.

Пусть, например, комплекс условий S состоит в том, что внутри квадрата, изображённого на черт. 1, выбирается наудачу точка, не

расположенная ни на одной из двух изображённых на этом чертеже окружностей. Обозначим через А событие «выбранная точка лежит внутри левой окружности» и через В событие «выбранная точка лежит внутри правой окружности». Тогда события А, А, В, В, А-^В, АВ состоят в попадании выбранной точки внутрь областей, заштрихованных на соответствующих фигурах черт. 1.

Рассмотрим другой пример. Допустим, что комплекс условий <5 состоит в том, что на стол бросается (один раз) игральная кость. Обозначим через А выпадение на верхней грани кости*) шести очков, через В — выпадение трёх очков, через С—выпадение какого-либо чётного числа очков, через D — выпадение какого-либо числа очков, кратного трём. Тогда события А, В, С и D связаны следующими соотношениями:

АсС, AdD) BcD,A-VB = D, CD = A.

Определение суммы и произведения двух событий обобщается на любое число событий:

A + B+...+2V обозначает событие, заключающееся в наступлении хотя бы одного из событий А, В,а

AB...N

обозначает событие, заключающееся в наступлении всех событий А, В, ..., N.

Событие называется достоверным, если оно с необходимостью должно произойти (при каждой реализации комплекса условий ®). Например, при бросании двух игральных костей достоверно, что сумма очков будет не меньше двух.

. Событие называется невозможным, если оно заведомо не может произойти (ни при одной реализации комплекса условий S). Например, при бросании двух игральных костей невозможно появление суммы очков, равной тринадцати.

Очевидно, что все достоверные события равносильны между собой. Поэтому законно обозначать все достоверные события одной буквой. Мы будем употреблять для этого букву /7. Все невозможные события тоже равносильны между собой. Мы будем обозначать любое невозможное событие буквой V.

Два события А и А называются противоположными, если для них одновременно выполняются два соотношения:

А + А=и, AA=V.

*' Тральная кость представляет собой деревянный или костяной куб, каждой грани которого нанесены соответственно 1, 2, 3, 4, 5. и 6 очков.

Например, если при бросании одной игральной кости С обозначает выпадение чётного числа очков, то

U — С=С

есть событие, состоящее в выпадении нечётного числа очков.

Два события А и В называются несовместимыми, если их совместное появление невозможно, т. е. если

AB=V.

Если

л = в1 + вн-...+^

и события Bt попарно несовместимы, т. ее BiBd=V при 1ф),

то говорят, что событие А подразделяется на частные случаи Bv В^.*м Вп. Например, при бросании игральной кости событие С, состоящее в выпадении чётного числа очков, подразделяется на частные случаи Е^ Ev Е6> состоящие соответственно в выпадении 2, 4 и 6 очков.

События Ви В^ ..., Вп образуют полную группу событий, если хотя бы одно из них непременно должно произойти (при каждом осуществлении комплекса ®), т. е. если

в1+в9+..+вй=(л

Особенно существенны для нас в дальнейшем будут полные группы попарно несовместимых событий. Такова, например, при однократном бросании игральной кости система событий

£ц Е^, Е^ Е^, Е„ В6,

состоящая, соответственно, в появлении 1, 2, 3, 4, 5 и 6 очков.

В каждой задаче теории вероятностей приходится иметь дело с каким-либо определённым комплексом условий @ и с какой-либо определённой системой S событий, наступающих или не наступающих после каждой реализации комплекса условий S. Относительно этой системы целесообразно сделать следующие допущения:

если системе S принадлежат события А и В, то ей принадлежат также события АВ, Л + В, А — В\

система S содержит достоверное и невозможное события.

Система событий, удовлетворяющая этим допущениям, называется полем событий.

Заметим ещё в заключение, что во всех рассмотрениях теории вероятностей равносильные между собой события могут заменять друг друга. Поэтому мы условимся в дальнейшем любые два равносильных события считать просто тождественными друг другу.

Классическое определение вероятности

Классическое определение вероятности сводит понятие вероятности к понятию равновероятности (равновозможности) событий, которое считается основным и не подлежит формальному определению.. Для примера: при бросании кубика, который имеет точную форму куба и изготовлен из вполне однородного материала, равновероятными событиями будут выпадения какого-нибудь определённого числа очков (1, 2, 3, 4, 5, 6), обозначенного на гранях этого куба, поскольку в силу наличия симметрии ни одна из граней не имеет объективного преимущества перед другими. Классическое определение вероятности может быть сформулировано так:

Если событие А подразделяется на т частных случаев, входящих в полную группу из п попарно несовместимых и равновозможных событий, то вероятность Р(Д) события А равна

Например, при однократном бросании игральной кости полная группа попарно несовместимых и равновероятных событий состоит из событий

Ev Е^ fg, Е^ Е^ Е^

которые состоят соответственно в выпадении 1, 2, 3, 4, 5, 6 очкоь Событие

С = Е^ -f~ Е^ + £6,

состоящее в выпадении чётного числа очков, подразделяется на три частных случая, входящих в состав полной группы несовместимых и равновероятных событий. Поэтому вероятность события С равна

р(о=|=|.:

Очевидно также, что в силу принятого определения

Р№) = 4-^^

Р(Е, + £9)==4 = 1, и I. Д. -

В теории вероятностей широко используется следующая терминология, к которой мы часто впоследствии будем обращаться. Представим себе, что для выяснения вопроса, произойдёт или не произойдёт событие А (например, выпадение числа очков, кратного трём), необходимо произвести некоторое испытание (т. е. осуществить комплекс условий ©), которое дало бы ответ на поставленный вопрос (в нашем примере требуется бросить игральную кость). Полная группа

попарно несовместимых, и равновероятных событий, которые могут произойти при таком испытании, называется полной группой воз можных результатов испытания. Те из возможных результатов испытания, на которые подразделяется событие Л, называются результатами испытания, благоприятствующими Л. Пользуясь этой терминологией, .можно сказать, что вероятность Р (Л) события Л равняется отношению числа возможных результатов испытания^ благоприятствующих событию Л, к числу всех возможных результатов испытания.

Понятно, что такое определение предполагает, что отдельные возможные результаты испытания равновероятны.

Рассмотрим теперь бросание двух костей. Если кости правильны, то выпадение каждой из 36 возможных комбинаций числа очков на первой и второй кости можно считать равновероятными. Так, скажем, вероятность выпадения в сумме 12 очков равна г]№ Выпадение в сумме 11 очков возможно двумя способами: на первой кости 5, а на другой 6, на первой кости 6, а на второй 5. Поэтому вероятность выпадения в сумме одиннадцати очков равна 2/3б = 1/18. Читатель легко проверит, что вероятности выпадения той или иной суммы очков даются следующей таблицей:

Таблица 1

Число очков

2

3

4

5

6

7

8

9

10

11

12

Вероятность

1

36

2

36

3

36

4

36

5

36

6

36

5

36

4

36

3

36

2

36

1

36

Рассмотрим какую-либо группу G, состоящую из п попарно несовместимых равновозможных событий (назовём их элементарными событиями):

^1, ^2> • • * * ^пэ

и рассмотрим систему S, состоящую из невозможного события I/, всех событий Ек группы G и всех событий Л, которые могут быть подразделены на частные случаи, входящие в состав группы G.

Например, если группа G состоит из трёх событий Еъ Е^ и Е^ то в систему S входят события *) V, Ev Е^ Е^ Ev4-E^ Е^Д-Е^ ^1 + ^3’ У = Ех + Е^ + Е3.

Легко установить, что система S есть поле событий. В самом деле, очевидно, что сумма, разность и произведение событий из S

входят в S; невозможное событие V входит в S по определению, а достоверное событие U входит в 5, так как оно представляется в виде

L7=B1 + £2+...+£„.

В соответствии с приведённым определением каждому событию Л, принадлежащему к построенному сейчас полю событий S, приписывается вполне определённая вероятность

Р(Л)=;,

где т есть число тех событий Е4 исходной группы О, которые являются частными случаями события А. Таким образом, вероятность Р(Л) можно рассматривать как функцию от события А» определённую на поле событий S.

Функция эта обладает следующими свойствами:

Для каждого события А поля S

Р(Л)>0.

Для достоверного события U

р«0=1.

Если событие А подразделяется на частные случаи В и С и все три события А, В и С принадлежат полю S, то

Р(Л) = Р(В) + Р(С).

Это свойство называется теоремой сложения вероятностей.

Свойство 1 очевидно, так как дробь ~ не может быть отрицательной. Свойство 2 не менее очевидно, так как достоверному событию U благоприятствуют все п возможных результатов испытания, и поэтому

Р(^) = 7=1*

Докажем свойство 3. Пусть событию В благоприятствуют т\ а событию С—т" событий Е4 группы G. Так как события В и С по допущению несовместимы, то события Еъ благоприятствующие одному из них, отличны от событий Е4) благоприятствующих другому* Всего, таким образом, имеется т' + т" событий Еъ благоприятствующих появлению одного из событий В или С, т. е. благоприятствующих событию В~\~С = А. Следовательно,

Р(Л) = ^±^ = у+^ = Р(В) + Р(С).

^то и требовалось доказать.

Мы ограничимся здесь указанием ещё нескольких свойств вероятности.

Вероятность события Д, противоположного событию Д, равна

Р(Д) = 1 —Р(Д).

Действительно, так как

A^-A = U,

то, согласно уже доказанному свойству 2,

Р(Д + Д)=1,

а так как события Д и Д несовместимы, то по свойству 3 Р(Д+Д) = Р(Д) + Р(Д).

Два последних равенства доказывают наше предложение.

Вероятность невозможного события равна нулю,

В самом деле, события U и V несовместимы, поэтому

РМ + Р(Ю = Р(^), откуда следует, что

Р(Ю = о.

Если событие Д влечёт за собой событие В, то

Р(Д)<Р(В).

Действительно, событие В может быть представлено как сумма двух событий А и АВ. Отсюда в силу свойств 3 и 1 получаем:

Р(В) = Р(Д + ДВ) = Р(Д) + Р(ДВ)>Р(Д).

Вероятность любого события заключена между нулем и единицей. .

Из того, что для любого события Д имеют место соотношения

Vc Д+ V=A=AUcU)

следует в силу предыдущего свойства, что имеют место неравенства 0=Р(У)<Р(Д)<Р(Ц)=1.

Примеры

Мы рассмотрим теперь несколько примеров вычисления вероят- ностей событий, пользуясь классическим определением вероятности. Приводимые нами примеры носят исключительно иллюстративный характер и не претендуют на то, чтобы сообщить читателю все основные методы расчёта вероятностей.

Пример 1. Из колоды карт (36 карт) наудачу вынимаются три карты. Найти вероятность того, что среди них окажется точно один туз.

решение. Полная группа равновероятных и несовместимых событий в нашей задаче состоит из всевозможных комбинаций по три карты, их число равно Cf6. Число благоприятствующих событий можно подсчитать следующим способом. Один туз мы можем выбрать С\ различными способами, а две другие карты (не тузы) можно выбрать С^з различными способами. Так как для каждого определённого туза две остальные карты могут быть выбраны С^ способами, то всего благоприятствующих случаев будет Cj • С|3. Искомая вероятность, такйм образом, равна

4 32 • 31

1 * 1-2 _ 31-16 _ 496 36-35-34 “35-3-17— 1785 881:2.3"

т. е. немного больше 0,25.

Пример 2. Из колоды карт (36 карт) наудачу вынимаются три карты. Найти вероятность того, что среди них окажется хотя бы один туз.

Решение. Обозначим интересующее нас событие буквой А: оно может быть представлено в виде суммы трёх следующих несовместимых событий: At — появление одного туза, Д2— появления двух тузов, А3— появления трёх тузов.

Рассуждениями, аналогичными тем, которые мы привели при решении предыдущей задачи, легко установить, что число случаев, благоприятствующих

событию Ai равно С1 • С|2,

»Аз»С4 • С32,

»A3»С4 • С32.

Так как число всевозможных случаев равно с|8, то

с^.с^16-31

Р(Л)=

- 0,2778,

С|6 “ 3.35.17

С^2_ 3-16

PW=

, 0,0269,

С^ 3.35-17

С® • С’а _1

Р=

- 0,0006.

г ^3/

С®.3.35-17

В силу теоремы сложения

Р И) = Р (Л)+р и^+р и3) = ^ ~ 0,3053.

Этот пример можно решить и иным методом. Событие А, противоположное А, состоит в том, что среди вынутых карт не окажется ни одного туза. Очевидно, что три нетуза можно вынуть из колоды карт С|2 различными способами и, следовательно,

31-83-17-731-83-17-70,6947.0,6947.ti. 32-ЗЬЗО

31-8

3-17-7

31-8

3-17-7

0,6947.

0,6947.

V 1С|636-35-34

Искомая вероятность равна

Р (А) = 1 — Р (Л) ~ 0,3053.

Примечание. В обоих примерах выражение «наудачу» означало, что всевозможные комбинации по три карты равновероятны.

Пример 3. Колоду карт, состоящую из 36 карт, наудачу разделяют на две равные части. Чему равна вероятность, что в обеих частях окажется по равному числу красных и чёрных карт.

Выражение «наудачу» означает, что всевозможные разделения колоды на две равные части равновероятны.

Решение. Нам нужно найти вероятность того, что среди наудачу вынутых из колоды 18 карт 9 будут красными и 9 — чёрными.

Общее число различных способов, которыми можно выбрать 18 карт из 36, равно Сэе- Благоприятствующими способами окажутся все те, при которых из 18 красных карт будут извлечены какие-то 9 и из 18 чёрных карт будут извлечены какие-то 9. 9 красных карт можно извлечь Cis различными способами и 9 чёрных также Cj8 различными способами. Так как при извлечении 9 определённых красных карт 9 чёрных можно извлечь С^ различными способами, то общее число благоприятствующих способов равно С?8 • Ci8. Искомая вероятность равна, следовательно,

^18*^18 (18!)4Р —£1836! (9!)4 •

Чтобы составить себе представление о величине этой вероятности и при этом не производить утомительных вычислений, мы воспользуемся формулой Стирлинга, согласно которой имеет место следующее асимптотическое равенство:

п\~ V^n^ие~п»

Таким образом, имеем:

18!— 1818^-18 V 2^1^9!— 99 е-9 /27^9,36! — 3686 -)/2т -36,

§ 5] примеры 29 и значит,

(/2^18.1818.6-18)4

После несложных преобразований находим, что

г /18л 15

Пример 4. Имеются п частиц, каждая из которых может находиться с одной и той же вероятностью -— в каждой из N(N > п) ячеек. Найти вероятность того, что: 1) в определённых п ячейках окажется по одной частице, 2) в каких-то п ячейках окажется по одной частице.

Решение. Эта задача играет важную роль в современной статистической физике, и в зависимости от того, как образуется полная группа равновероятных событий, приходят к той или иной физической статистике: Больцмана, Бозе-Эйнштейна, Ферми-Дирака.

В статистике Больцмана равновероятными считаются любые мыслимые распределения, отличающиеся не только числом, но и индивидуальностью частиц: в каждой ячейке может помещаться любое число частиц от 0 до ги

Общее число возможных распределений мы подсчитаем следующим способом: каждая частица может находиться в каждой из N ячеек, следовательно, п частиц можно распределить по ячейкам № различными способами.

В первом вопросе число благоприятствующих случаев будет, очевидно, п\ и, значит, вероятность того, что в определённые п ячеек попадёт по одной частице, равна

Во втором вопросе число благоприятствующих случаев будет в С^ раз больше и, значит, вероятность того, что в какие-то п ячеек попадёт по одной частице, равна

■ C^-nt м

Р^ — N’t N»(N—n)f

В статистике Бозе-Эйнштейна считаются тождественными случаи, когда частицы меняются местами между ячейками (важно только, сколько частиц попало в ячейку, но не индивидуальность попавших частиц), и полная группа равновероятных событий состоит из всевозможных распределений п частиц по N ячейкам, причём за одно Распределение принимается целый класс больцмановских распределений, отличающихся не числами содержащихся в определённых ячейках частиц, а только самими частицами. Для наглядного представления

о различии статистик Больцмана и Бозе-Эйнштейна рассмотрим частный пример: N= 4, я = 2. Всевозможные распределения в этом примере можно записать в виде следующей таблицы, в которой а и b— наименования частиц. В статистике Больцмана все 16 возможностей представляют собой различные равновероятные события, в статистике же Бозе-Эйнштейна случаи 5 и 11, 6 и 12, 7 и 13, 8 и 15, 10 и 16 попарно отождествляются и мы имеем группу из 10 равновероятных событий.

Таблица 2

Случаи

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15.

16

Ячейки

ab

а

а

а

b

b

b

ab

b

а

а

а

b

b

ab

b

b

а

а

а

b

ab

b

b

b

а

а

а

Вычислим теперь общее число равновероятных случаев в статистике Бозе-Эйнштейна. С этой целью заметим, что всевозможные размещения частиц по ячейкам мы можем получить следующим путём: расположим ячейки на прямой вплотную друг к другу, расположим далее рядом одну возле другой на той же прямой наши частицы. Рассмотрим теперь всевозможные перестановки частиц и перегородок между ячейками. Таким образом, как легко сообразить, будут учтены всевозможные заполнения ячеек, отличающихся как порядком расположения частиц в ячейках, так и порядком расположения перегородок.

Число этих перестановок равно (N-^-n — 1)!. Среди этих перестановок имеются и тождественные: каждое распределение по ячейкам считается (N—1)! раз, так как мы различали, какие перегородки были между ячейками, а кроме того, каждое распределение по ячейкам мы снова считали по и! раз, так как мы учитывали не только число частиц в ячейке, но и то, какие это частицы и в каком порядке они расположены. Таким образом, каждое распределение по ячейкам мы считали и! (/V—1)1 раз, отсюда число различных в смысле Бозе-Эйнштейна распределений частиц по ячейкам равно

(п + М— 1)!

nUN — 1)! е

Таким образом, число равновероятных событий в полной группе событий нами найдено. Теперь мы легко можем ответить на вопросы

J

нашей задачи. В статистике Бозе-Эйнштейна вероятности рг и ра равны

_1«'.(V—1)!

(л+^— I)!-(я +ЛГ— 1)!’ n\(N— 1)!

_ CN _ NUN— 1)!

Р»(n + ^— l)t~ (N — n)UN+n — 1)!

n\(N — 1)!

Рассмотрим, наконец, статистику Ферми-Дирака. Согласно этой статистике в ячейке может находиться либо одна частица либо не находится ни одной: индивидуальность частиц уничтожается.

Общее число различных распределений частиц по ячейкам в статистике Ферми-Дирака подсчитать легко: первая частица может быть расположена N различными способами, вторая — только N—1, третья—(Л/ — 2) и, наконец, п-я— (N—л+1) различными способами. Таким образом, п частиц по N ячейкам могут быть расположены

различными равновероятными способами.

Легко сообразить, что в статистике Ферми-Дирака искомые вероятности равны

p2 = l

Рассмотренный пример -показывает, насколько важно точно опре- делять, какие события считаются в задаче равновероятными»

Геометрические вероятности

Ещё в самом начале развития теории вероятностей была замечена недостаточность «классического» определения вероятности, основанного на рассмотрении конечной группы равновероятных событий. Уже тогда частные примеры привели к некоторому видоизменению этого определения и построению понятия вероятности также для случаев, когда мыслимо бесконечное множество исходов. При этом попрежнему основную роль играло понятие «равновероятности» некоторых событий.

Общая задача, которая ставилась и привела к распространению понятия вероятности, может быть сформулирована следующим способом.

Пусть имеется, например, на плоскости некоторая область G и в ней содержится другая область g с квадрируемой границей.

В область G наудачу бросается точка и спрашивается, чему равна вероятность того, что точка попадёт в область g. При этом выражению «точка бросается наудачу в область О» придаётся следующий смысл: брошенная точка может попасть в любую точку области G, вероятность попасть в какую-либо часть области О пропорциональна мере этой части (длине, площади и т. д.) и не зависит от её расположения и формы.

Таким образом, по определению, вероятность попадания в область g при бросании наудачу точки в область О равна

_ mes^mes G

Рассмотрим несколько примеров.

зятся точками квадратазятся точками квадратаПример!. Задача о встрече. Два лица А и В условились встретиться в определённом месте между 12 часами и часом. Пришедший первым ждёт другого в течение 20 минут, после чего уходит. Чему равна вероятность встречи лиц А и В, если приход каждого из них в течение указанного часа может произойти наудачу и моменты прихода независимы *).

зятся точками квадрата

зятся точками квадрата

Решение. Обозначим моменты прихода лица А через х и лица В через у. Для того чтобы встреча произошла, необходимо и достаточно, чтобы

|£ —у|<20.

Станем изображать х и у как декартовы координаты на плоскости; в качестве единицы масштаба выберем минуту. Всевозможные исходы изобра- сторонами 60; благоприятствующие

встрече — расположатся в заштрихованной области.

Искомая вероятность равна ) отношению площади заштрихованной фигуры к площади всего квадрата:

_602 —402 _ 5Р~ 602— 9 •

Некоторые инженеры-исследователи применяли задачу о встрече к решению следующей проблемы организации производства. Рабочий

обслуживает несколько однотипных станков, каждый из которых в случайные моменты времени может потребовать внимания рабочего. Может случиться, что в то время, когда рабочий занят у одного станка, потребовалось его вмешательство у других станков. Требуется найти вероятность этого события, т. е., иными словами, среднюю длительность ожидания станком рабочего (иначе говоря, простой станка). Заметим, однако, что схема задачи о встрече мало пригодна для решения этого производственного допроса, так как никакого условленного времени, в течение которого станки обязательно требуют к себе внимания рабочего, не существует, а длительности операции рабочего у станка не постоянны. Помимо этой основной причины, нужно указать на сложность вычислений в задаче о встрече для случая большого числа лиц (станков). А эту задачу нередко нужно решать для большого числа станков (в текстильном производстве, например, некоторые ткачихи обслуживают до 280 ткацких станков).

Пример 2. Парадокс Бертрана. Теория геометрических вероятностей неоднократно подвергалась критике заtпроизвольность определения вероятности событий. При этом многие авторы приходили к убеждению, что для бесконечного числа исходов нельзя дать объективного, не зависящего от способа расчёта, определения вероятности. В качестве особенно яркого выразителя этого скептицизма можно привести французского математика прошлого века Жозефа Бертрана. В своём курсе теории вероятностей он привёл ряд задач на геометрические вероятности, в которых результат зависел от метода решения. В качестве примера приведём одну из задач, рассмотренных Бертраном.

Наудачу берётся хорда в круге. Чему равна вероятность, что её длина превосходит длину стороны вписанного равностороннего треугольника?

Решение 1. По соображениям симметрии можно заранее задать направление хорды. Проведём диаметр, перпендикулярный к этому направлению. Очевидно, что только хорды, пересекающие диаметр в промежутке от четверти до трёх четвертей его длины, будут превосходить стороны правильного треугольника. Таким образом, искомая вероятность равна .

Решение 2. По соображениям симметрии можно заранее закрепить один из концов хорды на окружности. Касательная к окружности в этой точке и две стороны правильного треугольника с вершиной в этой точке образуют три угла по 60°. Условию задачи благоприятствуют только хорды, попадающие в средний угол. Таким образом, при этом способе вычисления искомая вероятность оказывается равной одной третьей.

Решение 3. Чтобы определить положение хорды, достаточно задать её середину. Чтобы хорда удовлетворяла условию задачи,

3 Зак. 1826. Б. В. Гнеденко.

необходимо, чтобы её середина находилась внутри круга, концентрического данному, но половинного радиуса. Площадь этого круга равна одной четверти площади данного; таким образом, искомая вероятность равна -~.

Мы должны теперь выяснить, в чём причина неоднозначности решения нашей задачи. Лежит ли причина в принципиальной невозможности определить вероятность для случаев бесконечного числа возможных исходов или же причина лежит в том, что мы приняли в процессе решения какие-либо недопустимые предпосылки.

Дело, как легко усмотреть, заключается в том, что за решение одной и той же задачи, пользуясь тем, что в условии задачи не определено понятие проведения хорды наудачу, выдаются решения трёх различных задач. В самом деле, в первом решении вдоль одного из диаметров заставляют катиться круглый цилиндрический стержень. Множество всех возможных мест остановки этого стержня есть множество точек отрезка АВ длины, равной диаметру. Равновероятными считаются события, состоящие в том, что остановка произойдёт в интервале длины Л, где бы внутри диаметра ни был расположен этот отрезок.

Во втором решении стержень, закреплённый на шарнире, расположенном в одной из точек окружности, заставляют совершать колебания размером не более 180°. При этом предполагается, что остановка стержня внутри дуги окружности длины h зависит только от длины дуги, но не от её положения. Таким образом, равновероятными событиями считаются остановки стержня в любых дугах окружности одинаковой длины. Несогласованность определений вероятности в первом и во втором решениях становится совершенно очевидной после такого простого расчёта. Вероятность того, что стержень остановится в промежутке от А до х, согласно первому решению равна -^-. Вероятность того, что проекция точки пересечения стержня с окружностью во втором решении попадёт в тот же интервал, как показывают элементарно геометрические подсчёты, равна

Черт. 3.Черт. 3.,12х — D

Черт. 3.

Черт. 3.

arc cos—~— лD

_ Dпри X ^и2

D — 2х — arc cos ——- яD

при X<-y.

Наконец, в третьем решении мы бросаем наудачу точку внутрь круга и спрашиваем себя о вероятности попадания внутрь некоторого меньшего концентрического круга.

Различие постановок задач во всех трёх случаях совершенно очевидно.

Пример 3. Задача Б ю ф ф о н а. Плоскость разграфлена параллельными прямыми, отстоящими друг от друга на расстоянии 2а. На плоскость наудачу ) бросается игла длины 2/ (/ < а). Найти вероятность того» что игла пересечёт какую-нибудь прямую.

Решение. Обозначим через х расстояние от центра до ближайшей параллели и через <р — угол, составленный иглой с этой параллелью. Величины х и ср полностью определяют поло-у^

жение иглы. Всевозможные ТXW/

положения иглы определяют- ся точками прямоугольника ।У/

со сторонами а и тс. Из аV

черт. 4 видно, что для пересечения иглы с параллелью необходимо и достаточно, т —-

чтобы-Черт. 4.

х С / sin ср.

Искомая вероятность в силу сделанных предположений равна отношению площади заштрихованной на черт. 5 области к площади

прямоугольника

Р=УЫП^^=^- о

Заметим, что задача Бюффона является исходным пунктом для решения некоторых проблем теории стрельбы, учитывающих размеры

снаряда.

Черт. 5.Пример 4. На горизонтальную

плоскость, разграфлённую параллельными прямыми, отстоящими друг от друга на расстоянии 2а, наудачу *♦) брошен выпуклый контур, диаметр которого меньше 2а.

Найти вероятность того, что контур пересечёт одну из параллельных прямых.

Решение. Положим сначала, что выпуклый контур является многоугольником с п сторонами. Пусть его стороны пронумерованы от номера 1 до номера и. Если многоугольник пересекается с какой- либо параллельной прямой, то это пересечение должно произойти по каким-либо двум сторонам. Обозначим через р^^р^ вероятность того, что пересечение произойдёт по Z-й и у-й сторонам. Очевидно, что событие Д, состоящее в том, что брошенный многоугольник пересечёт одну из параллельных прямых, может быть представлено в виде следующей суммы попарно несовместимых событий:

Д = (Д12-|-Д13-{- ... Ц- Д1Л) + (Д23 -|- Д24 + ••• +^2п)+ •••

••• Ч” (-^п-2> п-1 4“ ^п-2, п) Ч~ ^п-Ь го

где через АцУО* Z= 1, 2, ...; j = 1, 2, . •.) обозначено событие, состоящее в пересечении с параллельной прямой Z-й и у-й сторо_н. По теореме сложения вероятностей

Р = Р(Л) = [Р(Л12) + Р(Л18)+ ... +Р(Д^)4-

+IPGM + ... +РМ+ ••• Ч-Р^-ь^»

= (P124"Pl84- • • • +Р1п)4-(Р2з+Р24+ •• • Ч-Дв^Ч" • • • +Р«-1,п*

Пользуясь равенством Рц=р^, мы можем записать вероятность р иным способом:

р=у КРюЧ^РхаЧ- • • • 4~Pin) + (^214~Р28 + • • • ~\*р^ Ч- • • • • • • + (Pnl +Рп2+ • • • + Рп. п-1)]*

п

Но сумма 2 Pty ^ положено ри = 0, представляет собой не что иное, как вероятность пересечения Z-й стороны многоугольника с одной из параллельных прямых. Если длину Z-й стороны обозначить через 2^, то из задачи Бюффона находим, что

п

V' 2/*

Рм ” яа *и, следовательно,я

Если обозначить через 2s периметр многоугольника, то мы найдём, что

§7]

Мы видим, таким образом, что вероятность р не зависит ни от числа сторон, ни от величины сторон многоугольника. Отсюда мы заключаем, что найденная формула верна и для любого выпуклого контура, так как мы всегда можем рассматривать этот последний как предел выпуклых многоугольников с безгранично возрастающим числом сторон.

Статистическое определение вероятности

Классическое определение вероятности при переходе от простейших примеров к рассмотрению сложных задач, в особенности же задач естественно-научного или технического характера, наталкивается на непреодолимые трудности принципиального порядка. Прежде всего, в большинстве случаев возникает вопрос о возможности нахождения разумного способа выделения «равновозможных случаев». Так, например, из соображений симметрии, на которых основаны наши суждения о равновероятности событий, вывести вероятность распада атома радиоактивного вещества за определённый промежуток времени, или же определить вероятность того, что родившийся ребёнок окажется мальчиком, представляется невозможным. Этой трудности не существует для статистического определения вероятности, к которому мы и переходим.

Длительные наблюдения над появлением или непоявлением события А при большом числе повторных испытаний, происходящих при неизменном комплексе условий (5, показывают, что число появлений события А подчиняется устойчивым закономерностям. А именно, если мы через у обозначим число появлений события А при л неза- висимых испытаниях, то оказывается, что отношение ~ при достаточно больших п для большинства таких серий наблюдений сохраняет почти постоянную величину, причём большие отклонения наблюдаются тем реже, чем многочисленнее произведённые испытания. Более того, оказывается, что для тех случаев, к которым применимо классическое определение вероятности, это колебание частоты происходит около вероятности события р. Мы увидим впоследствии, что этот эмпирический факт имеет глубокие основания в теореме Бернулли. То, что при большом числе испытаний частота события остаётся почти постоянной, 'даёт нам возможность расширить круг явлений, для которых мы будем говорить об их вероятности.

При таком определении мы сохраняем за вероятностью её объективный, не зависящий от познающего субъекта смысл. То, что заключение о наличии у того или иного события вероятности мы можем вынести лишь после некоторых предварительных наблюдений, нисколько не обесценивает наши выводы, так как познание закономерностей никогда не берётся из ничего, ему всегда предшествуют эксперимент, наблюдение. Сами эти закономерности, конечно, существовали и до

38 ПОНЯТИЕ ВЕРОЯТНОСТИ . [гл. 1 вмешательства экспериментирующего и мыслящего лица, но были лишь неизвестны науке.

Представим себе, что относительно события Л принципиально возможно проведение неограниченной последовательности независимых друг от друга испытаний в неизменных условиях S. Если в результате достаточно многочисленных наблюдений замечено, что частота события Л ведёт себя достаточно правильно и почти всегда колеблется около некоторой, вообще говоря, неизвестной, постоянной, то мы скажем, что это событие имеет вероятность.

За численное значение этой вероятности может быть приближённо при большом числе п независимых испытаний, производящихся в неизменных условиях (5, принята частота события А.

Понятно, что при этом мы не определяем вероятность, а лишь постулируем её существование и указываем способ её приближённого определения. При этом, подчеркнём это вторично, последовательность испытаний нами используется не для определения вероятности, так как любое объективное свойство изучаемого явления, в том числе и вероятность события Л, должно определяться исключительно из структуры самого явления, безотносительно к тому, производится или не производится эксперимент, присутствует или отсутствует экспериментирующий интеллект. Тем не менее эксперименту нами отводится существенная роль: во-первых, именно эксперимент позволяет подметить существующие в природе теоретике-вероятностные закономерности, во-вторых, он позволяет приближённо находить неизвестные вероятности изучаемых нами событий и, наконец, он даёт возможность производить проверку правильности тех теоретических предпосылок, которые мы делаем в наших исследованиях. Последнее обстоятельство требует пояснения. Представим себе, что некоторые соображения дают нам основание считать, что вероятность некоторого события А равна р. Пусть, далее, при проведении нескольких серий независимых испытаний оказалось, что частоты в подавляющем числе серий значительно отклоняются от величины р. Это обстоятельство даёт нам основание высказать сомнение относительно правильности наших априорных суждений и предпринять более детальное исследование тех предпосылок, из которых мы исходили в своих априорных выводах. Так, например, в отношении некоторой игральной кости мы делаем предположения о её геометрической правильности и однородности материала, из которого она изготовлена. Из этих предварительных предпосылок мы вправе сделать вывод, что при бросании кости вероятность выпадения некоторой грани, например, грани

с номером 5, должна быть равна ~. Если неоднократные сериидо- статочно многочисленных испытаний (бросаний) в нашем примере систематически показывают, что частота появления этой грани значительно отличается от ~, то мы усомнимся не в существовании опре-

делённой вероятности выпадения этой грани, а в наших предпосылках о правильности кости или в правильности организации процесса наших испытаний (бросаний).

В качестве иллюстрации почти постоянства частот при больших числах испытаний рассмотрим распределение новорождённых по полу по месяцам. Данные заимствованы из книги Г. Крамера «Математические методы статистики» и представляют собой официальные данные шведской статистики за 1935 г.

Таблица 3

Месяц

1

2

3

4

5

6

7

8

9

10

И

12

За год

Всех

7280

6957

7883

7884

7892

7609

7585

7393

7203

6903

6552

7132

88 273

Мальчиков . .

3743

3550

4017

4173

4117

3944

3964

3797

3712

3512

3392

3761

45 682

Девочек . . .

Частота рождения дево

3537

3407

3866

3711

3775

36^5

3621

3596

3491

3391

3160

3371

42 591

чек

0,486

0,489

0,490

0,471

0,478

0,482

0,462

0,484

0,485

0,491

0,482

0,473

0,4825

На черт. 6 показано уклонение частоты рождений девочек по месяцам от частоты рождений девочек за год.

Заметим, что в случае статистического определения снова имеют место такие свойства вероятности:

вероятность досто- „ , * *

верного события равна *' ~ 5 *

единице;*

вероятность невозможного события равна нулю;

если случайное со- </4—i—,—,—।—।—-т—i—।—।—।—,—г* бытие С является суммой " f г 8 ч s s 7 8 9 Ю 11 12 конечного числа несо-церт

вместимых событий ЛпI

А^ ..., Aw имеющих вероятность, то его вероятность существует и равна сумме вероятностей слагаемых

Р(С) = Р(Л1) + Р(Л2)+ ... 4-р(л„).

В заключение мы должны остановиться на весьма распространённой, в особенности среди естествоиспытателей, концепции вероятности, данной Р. Мизесом. Согласно Мизесу раз частота по мере увеличения опытов всё меньше и меньше уклоняется от вероятности р, то в пределе должно быть

р = Игл —.

7»-» 09 П

Это равенство Мизес предлагает считать определением понятия вероятности. По его мнению, любое априорное определение обречено на неудачу и лишь данное им эмпирическое определение способно обеспечить интересы естествознания, математики и философии, причём раз классическое определение имеет лишь весьма ограниченное применение, а статистическое определение применимо ко всем имеющим научный интерес случаям, то классическое определение через равно- возможность, основанную на симметрии, Мизес предлагает вовсе отбросить. Более того, Мизес считает вообще ненужным выяснение структуры явлений, для которых вероятность является объективной числовой характеристикой, для него достаточно наличия эмпирической устойчивости частоты.

Мы не будем останавливаться на деталях теЪрии Мизеса, в частности, на тех ограничениях и условиях, которые он дополнительно накладывает на последовательность испытаний. За подробностями его теории мы отошлём читателя к книге Мизеса «Вероятность и стати-, стика», а за более развёрнутой критикой — к статье А. Я. Хинчина*). Здесь же мы ограничимся лишь немногими замечаниями, которые должны показать читателю неприемлемость концепции Мизеса.

Выдвинутые Мизесом положения нашли горячих поклонников, особенно среди представителей естественных наук, в значительной степени благодаря убедительной критике узости и ограниченности классических понятий и призыву к опыту для определения вероятности. Но мы знаем по той уничтожающей критике, которую дал В. И. Ленин различным направлениям идеализма в своей бессмертной книге «Материализм и эмпириокритицизм», что не каждый учёный, говорящий о том, что он основывает свою теорию на опыте, действительно строит материалистическую теорию. Так случилось и с Мизесом. В конечном счёте его принципиальные установки вполне согласуются с философией Маха, да и сам Мизес не скрывает этого и открыто об этом заявляет.

В концепции Мизеса вероятность теряет свой характер объективной числовой характеристики некоторых реальных явлений. Действительно, до производства бесконечного числа испытаний нельзя даже говорить про вероятность того или иного события, а поскольку этого нельзя осуществить, то и вообще мы лишены возможности в каких-либо условиях использовать теорию вероятностей. Следует заметить при этом, что, требуя от частот сходимости к вероятности, Мизес выставляет такое требование; какого не предъявляют ни в одной области естествознания. Ведь, в самом деле, никто из нас не откажется от понятия температуры только потому, что мы не можем произвести бесконечного числа измерений и не можем проверить, будут ли результаты этих измерений стремиться к пределу,

♦) «Учение Мизеса о вероятностях и принципы физической статистики», Успехи физических наук, т. IX, вып. 2, 1929 Г.

§8 если бы мы их всё же стали производить. Или не станем же мы говорить, что какой-либо предмет не имеет размеров только потому, что последовательность наших измерений не стремится к пределу. Более того, следуя за Мизесом, мы вообще не можем говорить о температуре тела или о существовании размеров предмета до тех пор, пока не появится мыслящий субъект, не начнёт производить измерения и не убедится в том, что их результаты стремятся к пределу.

Аксиоматическое построение теории вероятностей

До недавнего времени теория вероятностей представляла собой ещё не сложившуюся математическую науку, в которой основные понятия были недостяточно чётко определены. Эта нечёткость приводила нередко к парадоксальным выводам (вспомним, парадоксы Бертрана). Естественно, что приложения теории вероятностей к изучению явлений природы были слабо обоснованы и встречали порой резкую и обоснованную критику. Нужно сказать, что эти обстоятельства мало смущали естествоиспытателей и их наивный теоретиковероятностный подход в различных областях науки приводил к крупным успехам. Развитие естествознания в начале текущего столетия предъявило к теории вероятностей повышенные требования. Возникла необходимость в систематическом изучении основных понятий теории вероятностей и выяснении тех условий, при которых возможно использование её результатов. Вот почему особенно важное значение приобрело формально-логическое обоснование теории вероятностей, её аксиоматическое построение. При этом в основу теории вероятностей как математической науки должны быть положены некоторые предпосылки, являющиеся обобщением многовекового человеческого опыта. Дальнейшее же её развитие должно строиться посредством дедукции из этих основных положений без обращения к наглядным представлениям, к выводам, «согласно здравому смыслу». Иными словами, Теория вероятностей должна строиться из аксиом так же, как любая сформировавшаяся математическая наука — геометрия, теоретическая механика, абстрактная теория групп и т. д.

Впервые такая точка зрения была высказана и развита в 1917 г. советским математиком С. Н. Бернштейном. При этом С. Н. Бернштейн исходил из качественного сравнения случайных событий по их большей или меньшей вероятности.

Имеется иной подход, предложенный А. Н. Колмогоровым. Этот подход тесно связывает теорию вероятностей с современной метрической теорией функций, а также теорией множеств. Настоящая книга следует пути, предложенному Колмогоровым.

Мы увидим, что аксиоматическое построение основ теории вероятностей отправляется от основных свойств вероятности, подмеченных на примерах классического и статистического определений»

Аксиоматическое определение вероятности, таким образом, как частные случаи включает в себя и классическое и статистическое определения и преодолевает недостаточность каждого из них. На этой базе удалось построить логически совершенное здание современной теории вероятностей и в то же время удовлетворить повышенные требования к ней современного естествознания.

Более подробное изложение аксиоматики Колмогорова мы отложим до дополнения 1. Сейчас мы станем исходить как из данного из некоторого множества S случайных событий. В дополнении 1 будет дано построение множества S случайных событий, исходя из первичного понятия — множества элементарных событий.

Для того чтобы элементарные операции не выводили нас за пределы множества уже определённых случайных событий, мы потребуем выполнения следующих условий:

Если множеству 5 принадлежат события Д и В, то ему принадлежат также события А-^-В, АВ и А — В.

Система 5 содержит достоверное U и невозможное V события ).

Легко понять, что первое требование влечёт за собой принадлежность множеству S сумм, произведений и разностей конечного числа событий, принадлежащих S. Как и в § 3, мы назовём эту систему событий полем событий.

Во многих важнейших задачах нам потребуется от поля событий требовать большего, а именно

Если счётное множество событий Av А2, . .., Ап,... принадлежит полю 5, то их сумма Д14“^з + • • • + Ai + • • • и произведение Д1Д2.. .Дп... также принадлежат S. Такие поля событий называются борелевскими.

Как и прежде, мы скажем, что события А и В несовместимы, если их произведение равно V. Если события Д и Д несовместимы и в сумме дают достоверное событие, то они называются противоположными.

Теперь мы можем перейти к формулировке аксиом, определяющих вероятность.

Аксиома 1. Каждому случайному событию А аз поля событий S поставлено в соответствие неотрицательное число Р(Д), называемое его вероятностью.

Аксиома 2. P(U) = 1.

Аксиома 3 (аксиома сложения). Если события Аь Д2,...

..., Ап попарно несовместимы, то

р (Л, + ла+... + л„) = р (Л) + Р(Л3)+... + р (л„):

4343АКСИОМАТИЧЕСКОЕ ПОСТРОЕНИЕ ТЕОРИИАКСИОМАТИЧЕСКОЕ ПОСТРОЕНИЕ ТЕОРИИ

43

43

АКСИОМАТИЧЕСКОЕ ПОСТРОЕНИЕ ТЕОРИИ

АКСИОМАТИЧЕСКОЕ ПОСТРОЕНИЕ ТЕОРИИ

Для классического определения вероятности свойства, выраженные аксиомами 2 и 3, не нужно было постулировать, так как эти свойства вероятности были нами доказаны.

Из сформулированных аксиом мы выведем несколько важных элементарных следствий *).

Прежде всего, из очевидного равенства

U = V-\-U

и аксиомы 3 мы заключаем, что

P^-PW + PW.

Таким образом,

Вероятность невозможного события равна нулю.

Для любого события А

Р(Л) = 1 —Р(Д).

Каково бы ни было случайное событие А,

0<Р(Д)<1.

Если событие А влечёт за собой событие В, то Р(Д)<Р(В).

Пусть А и В— два произвольных события. Поскольку в суммах Л + В = Л + (В— ЛВ) и В = ЛВ + (В— ЛВ) слагаемые являются несовместимыми событиями, то в соответствии с аксиомой 3

Р (Л + В) = р (Л) 4- р (В — ЛВ); р (В) = р (ЛВ) + Р (В — ЛВ).

Отсюда вытекает теорема сложения для произвольных событий Л и В

Р (Л + В) = Р (Л) + Р (В) — P (ЛВ).

В силу неотрицательности Р (ЛВ) отсюда заключаем, что

Р(Л + В)<Р(Л) + Р(В).

По индукции теперь выводим, что если Аъ Л2, .. м Ап— произвольные события, то имеет место неравенство

РИ1+^+...+^}<Р(А)4-РИ9)+--- + РИ»)-

Система аксиом Колмогорова непротиворечива» так как существуют реальные объекты, которые всем этим аксиомам удовлетворяют. Например, если за U принять произвольное конечное множество с конечным числом элементов U= {alf a2, ...., аи\» за S—совокупность всех подмножеств {a<i#a<2, . ..,0<в},

*) Как мы увидим в дополнении 1, учение о вероятности этими аксиомами сведено к теории меры, определённой на борелевских телах множеств. <-ама вероятность есть неотрицательная аддитивная функция множества.

то, положив Р(^1)=Р1, Р(^)=Р2’ ••• Р(яи) = А1, где Pv Р^ ••• .Рп — произвольные неотрицательные числа, удовлетворяющие равенству р^р^А- • • • А"Рп = h а Р (ач> ^ • • а*) = ^ + • • • .. . + Pi , мы удовлетворим всем аксиомам Колмогорова.

Система аксиом Колмогорова неполна: даже для одного и того же множества U вероятности в множестве 5 мы можем выбирать различными способами.

Так, в рассмотренном нами примере с игральной костью мы можем положить или

Р (£J = р (52) = ... = р (£6) = 1(1)

или

Р(£1) = Р(52) = Р(58) = 1, Р(£4) = Р(£6) = Р(5в)=^(2)

и т. д.

Неполнота системы аксиом теории вероятностей не является свидетельством их неудачного выбора или недостаточной работы мысли при их создании, а вызвана существом дела: в различных задачах могут встретиться явления, при изучении которых требуется рассматривать одинаковые множества случайных событий, но с различными вероятностями. Например, могут встретиться игральные кости, из которых одна правильная (точный куб с одинаковой плотностью в каждой точке), другая неправильная. В первом случае система вероятностей будет задана системой равенств (1), а во втором, скажем, системой (2).

Дальнейшее развитие теории нуждается в дополнительном предположении, которое носит название расширенной аксиомы сложения. Необходимость введения новой аксиомы объясняется тем, что в теории вероятностей постоянно приходится рассматривать события, подразделяющиеся на бесконечное число частных случаев.

Расширенная аксиома сложения. Если событие А равносильно наступлению хотя бы одного из попарно несовместимых событий Ап А^ ..., Ап, ..., то

Р(Л)=Р(л1)+Р(л3) + ...+Р(л#)+<..

Заметим, что расширенная аксиома сложения может быть заменена равносильной ей аксиомой непрерывности.

Аксиома непрерывности. Если последовательность событий Bv В^, ..., Впэ ... такова, что каждое последующее влечёт за собой предыдущее и произведение всех событий Вп есть невозможное событие, то

P(SJ—> 0 при п-юо.

Докажем эквивалентность только что сформулированных предложений.

4545АКСИОМАТИЧЕСКОЕ ПОСТРОЕНИЕ ТЕОРИИАКСИОМАТИЧЕСКОЕ ПОСТРОЕНИЕ ТЕОРИИ

45

45

АКСИОМАТИЧЕСКОЕ ПОСТРОЕНИЕ ТЕОРИИ

АКСИОМАТИЧЕСКОЕ ПОСТРОЕНИЕ ТЕОРИИ

Из расширенной аксиомы сложения следует аксиома непрерывности. Действительно, пусть события Вр В^ ..., Вп> ... таковы, что

Вг о Вй zd ... о Вп о ...

и при любом /г ^ 1 l^v.о)

Очевидно, что

Вп=25Л+1+П^.А=пк>п

Так как события, стоящие в этой сумме, попарно несовместимы, то согласно расширенной аксиоме сложения

ОО

P(s„)=2 р(ва+1)+Р(П вк\к=пк>п

Но в силу условия (3)

Р(1И) = о, Л > п поэтому

Р(В„)= 2 Р(вЛ+1).

е. Р(ВП) есть остаток сходящегося ряда

2р(вЛ+1) = р(в1).

Поэтому Р (Вп) —> 0 при п -> оо.

Из аксиомы непрерывности следует расширенная аксиома сложения. Пусть события Др Д2, ..., Лп, .., попарно несовместимы и

А = Л1 + Д2+ ... +ДП+

Положим

2 Ак.

Ясно, что B„^tc:Bn. Если событие Вп наступило, то наступило какое- нибудь из событий A^i^n) и, значит, в силу попарной несовместимости событий Аь события Д<+1, Д<+8, ... уже не наступили. Таким образом, события В<+1, В^ ... невозможны, и, следовательно,

невозможно событие Д В^. По аксиоме непрерывности Р (Вп) -> О при п -> оо. Так как

А = Дх + Д2 + ... 4- Ап + Вп+1,

то по обычной аксиоме сложения

р и)=р (да+р (д8)+• • •+р (да+р (в„+а -

ПОО

= ит s р(да= 2 р(да.

п->оо &=1&=1

§ 9. Условная вероятность и простейшие основные формулы

Мы уже говорили, что в основе определения вероятности события лежит некоторая совокупность условий <5. Если никаких ограничений, кроме условий ©, при вычислении вероятности Р (А) не налагается, то такие вероятности называются безусловными.

Однако в ряде случаев приходится находить вероятности событий при дополнительном условии, что произошло некоторое событие В. Такие вероятности мы будем называть условными и обозначать символом Р(Д/В); это означает вероятность события А при условии, что событие В произошло. Строго говоря, безусловные вероятности также являются условными, так как исходным моментом построенной теории было предположение о существовании некоторого неизменного комплекса условий ®.

Пример 1. Брошены две игральные кости. Чему равна вероятность того, что сумма выпавших на них очков равна 8 (событие А), если известно, что эта сумма есть чётное число (событие в)?

Таблица 4

(1.1)

(2,1)

(3.1)

(4,1)

(5,1)

(6,1)

(1.2)

(2,2)

(3,2)

(4^)

(5,2)

(6,2)

(1.3)

(2,3)

(3,3)

(4.3)

(5,3)

(6,3)

(1.4)

(2.4)

(3,4)

(4,4)

(5,4)

(6,4)

(1.5)

(2.5)

(3,5)

(4,5)

(5,5)

(6,5)

(1.6)

(2.6)

(3,6)

(4,6)

(5,6)

(6,6)

Все возможные случаи, которые могут представиться при бросании двух костей, мы запишем в таблице 4, каждая клетка которой содержит запись возможного события: на первом месте в скобках указывается число очков, выпавших на первой кости, на втором месте — число очков, выпавших на второй кости.

Общее число возможных случаев—36, благоприятствующих событию А — 5. Таким образом, безусловная вероятность

Если событие В произошло, то осуществилась одна из 18 (а не 36) возможностей и, следовательно, условная вероятность равна

Р(л/в)=А.

Пример 2. Из колоды карт последовательно вынуты две карты. Найти а) безусловную вероятность того, что вторая карта окажется тузом (неизвестно, какая карта была вынута вначале) и б) условную вероятность, что вторая карта будет тузом, если первоначально был вынут туз.

Обозначим через Л событие, состоящее ’в появлении туза на втором месте, а через В — событие, состоящее в появлении туза на первом месте. Ясно, что имеет место равенство

А^АВ^АВ.

В силу несовместимости событий АВ и АВ имеем: Р(Л)=Р(ЛВ) + Р(ЛВ).

При вынимании двух карт из колоды в 36 карт могут произойти 36 • 35 (учитывая порядок!) случаев. Из них благоприятствующих событию АВ—4 • 3 случаев, а событию АВ—-32 • 4 случая. Таким образом, р(Лх 4.3 . 32-4 _ 1 г 36 • 35 ’36-35" 9 *

Если первая карта есть туз, то в колоде осталось 35 карт и среди них только три туза. Следовательно,

pws>=6-

Общее решение задачи нахождения условной вероятности для классического определения вероятности не представляет труда. В самом деле, пусть из п единственно возможных, несовместимых и равновероятных событий Лр Л2, ..., Ап

событию А благоприятствует т событий,»В»к»

»АВ»г»

(понятно, что г^к, г ^.ту Если событие В произошло, то это означает, что наступило одно из событий Л^, благоприятствующих В. При этом условии событию А благоприятствуют г и только г событий А^ благоприятствующих АВ. Таким образом,

W6)-T=f-W_ (1)

п

Точно так же можно вывести, что

p№)=^-О')

Понятно, что если 4(B) есть невозможное событие, то равенство (1) (соответственно (1')) теряет смысл.

Каждое из равенств (1), (1') эквивалентно так называемой теореме умножения, согласно которой

Р (4В) = Р (4) Р (8/4) = Р (8) Р (4/8),(2)

то-есть: вероятность произведения двух событий равна произведению вероятности одного из этих событий на условную вероятность другого при условии, что первое произошло.

Теорема умножения применима и в том случае, когда одно из событий 4 или В есть невозможное событие, так как в этом случае вместе с Р (4) = 0 имеют место равенства Р (А[В) = 0 и Р (48) = 0.

Говорят, что событие 4 независимо от события 8, если имеет место равенство

Р(4/8) = Р(4),(3)

т. е. если наступление события В не изменяет вероятности события 4. Если событие 4 независимо от В, то в силу (2) имеет место равенство

Р(4)Р(8/4) = Р(8)Р(4).

Отсюда находим, что

P(B/A) = P(S),(4)

т. е. что событие В также независимо от 4. Таким образом, свойство независимости событий взаимно.

Понятие независимости событий играет значительную роль в теории вероятностей и в её приложениях. В частности, большая часть результатов, изложенных в настоящей книге, получена в предположении независимости тех или иных рассматриваемых событий.

В практических вопросах для определения независимости данных событий редко обращаются к проверке выполнения для них равенств (3) и (4). Обычно для этого пользуются интуитивными соображениями, основанными на опыте.

Так, например, ясно, что выпадение герба на одной .монете не изменяет вероятности появления герба (решки) на другой монете, если только эти монеты во время бросания не связаны между собой (например, жёстко не скреплены). Точно так же рождение мальчика у одной матери не изменяет вероятности появления мальчика (девочки) у другой матери. Это события независимые.

Для независимых событий теорема умножения принимает особенно простой вид, а именно, если события 4 и В независимы, то

Р(48)=Р(Д).Р(В),

4949ПРОСТЕЙШИЕ ОСНОВНЫЕ ФОРМУЛЫПРОСТЕЙШИЕ ОСНОВНЫЕ ФОРМУЛЫ§ 91

49

49

ПРОСТЕЙШИЕ ОСНОВНЫЕ ФОРМУЛЫ

ПРОСТЕЙШИЕ ОСНОВНЫЕ ФОРМУЛЫ

Мы обобщим теперь понятие независимости двух событий на совокупность нескольких событий.

J События Въ В* ..., В8 называются независимыми в совокупности, если, для любого события Вр из их числа и произвольных в1о В{„ Bir (in фр) из их же числа события В, и Вч, В^, ..., В<г взаимно независимы.

В силу предыдущего это определение эквивалентно следующему: при любых 1 < ii < Ц < ... < ir < s и г (1 < г < $)

р {В,, В^ ... В,Д = Р {В,,} Р {В,-}... р {S/J.

Заметим, что для независимости в совокупности нескольких событий недостаточно их попарной независимости. В этом можно убедиться на следующем простом примере. Представим себе, что грани тетраэдра окрашены: 1-я в — красный цвет (Л), 2-я — в зелёный (В), третья — в синий (С) и 4-я — во все эти три цвета (АВС). Легко видеть, что вероятность грани, на которую упадёт тетраэдр, при бросании, в своей окраске иметь красный цвет равна ~: граней четыре и две из них

имеют в окраске красный цвет. Таким образом,

РИ) = 1.

Точно так же можно подсчитать, что

Р (В) = Р (С) = Р (Д/В) = Р (В/С) = Р (С/Д) =

= Р (В/Д) = Р (С/В) = Р (Д/С) =1

события Л, В, С, таким образом, попарно независимы.

Однако если нам известно, что осуществились события В и С, то заведомо осуществилось и событие Л, т. е.

Р(А/ВС) = 1.

Таким образом, события А, В, С в совокупности зависимы.

Формула (Iх), которая в случае классического определения была нами выведена из определения условной вероятности, в случае аксиоматического определения вероятности будет взята нами в качестве определения. Таким образом, в общем случае при Р (Л) > О по определению

Р(г/л)=;иа.

(В случае Р (Л) = 0 условная вероятность Р (В (А) остаётся неопределённой.) Это позволяет нам перенести автоматически на общее понятие вероятности все определения и результаты настоящего параграфа.

4 Зак. 1826. Б. В. Гнеденко.

Предположим теперь, что событие В может осуществиться с одним и только с одним из п несовместимых событий Лр Л2, ..., Ап. Иными словами, положим, что

В = 5 ВА„(5)

где события ВА^ и ВА^ с разными индексами I и j несовместимы. По теореме сложения вероятностей имеем:

Р(В)= 2 Р(вм

г = 1

Использовав теорему умножения, находим, что

p(B)=2p(A)P(W

г=1

Это равенство носит название формулы полной вероятности и играет основную роль во всей дальнейшей теории.

В качестве иллюстрации рассмотрим два примера.

Пример 1. Имеется пять урн:

2 урны состава At — по два белых шара и одному чёрному,

урна состава Л2— по 10 чёрных шаров,

урны состава А^— по 3 белых шара и одному чёрному. Наудачу выбирается урна и из неё наудачу вынимается шар. Чему равна вероятность, что вынутый шар белый (событие В)? Так как вынутый шар может быть только из урны 1-го, 2-го или 3-го состава, то

В = Л^ В -j- А^В -}- А^В.

По формуле полной вероятности находим, что

Р (В) = р (Л,) р (В/Л,) + р (Л3) р (В/Л2) н- р (Л8) р (BjA^.

Но ясно, что 91\ 9

Р(Л,) = -|, Р(Л2)=1, Р(Л3)^|,

P(B/^y=|, р(вл2) = о, Р(В/Л8)=|.

Таким образом,

2 . 2j 1 о г.2г (В)— -53 + 55 4 — зо*

Пример 2. Известно, что вероятность поступления & вызовов на телефонную станцию за промежуток времени t равна Pt (А); (6 = 0, 1, 2, ...).

Считая, что появления какого-либо числа вызовов за два соседних промежутка времени являются событиями независимыми, найти вероятность поступления s вызовов за промежуток времени длительности 2А

Решение. Обозначим через Л* событие, состоящее в поступлении к вызовов за время т. Очевидно, что мы имеем следующее равенство:

л* = лм* + лм^1 +... + лм°

которое означает, что событие Лы можно рассматривать как сумму $4-1 несовместимых событий, состоящих в том, что за первый промежуток времени^длительности / наступает / вызовов, а за следующий промежуток той же продолжительности—s — Z G = 0, 1, 2, . .., s). По теореме сложения вероятностей

Р№ = 2 Р(лиГЬ.

1 = 0

По теореме умножения вероятностей дляч независимых событий Р (лиг h = Р (лЬ р (ЛГ') = Pt (0 • Pt (s - 0-

Таким образом, если положить

^(S)=P(-^).

то

8

р«^= ^PtU)-Pt<s-iY(6)

Впоследствии мы увидим, что при некоторых весьма общих условиях (А = 0, 1, 2, ...)

PtW”^1^,(7)

где а — некоторая константа.

Из формулы (6) мы находим, что

S8

1=01 = 0

Но

88

ti i\{s — i)\ s! ti i\Vs — iy. st'si

1 = 01 = 0

Поэтому

PM^-'^ — (s = 0, 1, 2, ...).

Таким образом, если для промежутка времени длительности t имеет 1 место формула (7), то для промежутков времени, в два раза больших, | и, как легко убедиться, для любых кратных / промежутков времени | характер формулы для вероятности сохраняется.1

Мы в состоянии теперь вывести важные формулы Бейеса или, I как иногда говорят, вероятности гипотез. Пусть попрежнему имеет ч место равенство (5). Требуется найти вероятность события А^ если | известно, что В произошло. Согласно теореме умножения имеем: . | р ^ = р (в) р (л^в)=р ш р (в/ла.I

ОтсюдаI

иепольвуя формулу полнойвероятности,находим, что|

р (Л</5) = —.I

2р (л,)р (в/лаI

j-iI

Полученные нами формулы носят название формул Бейеса. Общая я схема применения этих формул к решению практических задач такова. Я Пусть событие В может протекать в различных условиях, относи- ■ тельно характера которых может быть сделано п гипотез: Av А^ Ап. я По тем или иным причинам нам известны вероятности Р(Л^) этих I гипотез до испытания. Известно также, что гипотеза А^ сообщает ■ событию В вероятность Р (B^At). Произведён опыт, в котором событие В ■ наступило. Это должно вызвать переоценку вероятностей гипотез А^ ■ формулы Бейеса количественно решают этот вопрос.■

В артиллерийской практике производится так называемая при- ■ стрелка, имеющая своей целью уточнить наши знания относительно Я условий стрельбы (например, правильность прицела). В теории при- ■ стрелки широко используется формула Бейеса. Мы ограничимся при- ■ ведением чисто схематического примера исключительно ради иллю- ■ страции характера задач, решаемых этой формулой.■

Пример 1. Имеются пять урн следующего состава:■

2 урны(состава Лт) по 2 белых и 3 чёрных шара,я

2 урны(состава Л2) по 1 белому и 4 чёрных шара,I

урна(состав Л3)— 4 белых и 1 чёрный шар.■

Из одной наудачу выбранной урны взят шар. Он оказался белым ■ (событие В). Чему равна после опыта вероятность (апостериорная ■ веррятность) того, что шар вынут из урны третьего состава? ■

Согласно предположениюI

PW=|,Р(л2)=|,Р(л3)—|; I

?№) = !, Р(В/Л8) = 1, Р(В/Л8) = 1I

Согласно формуле Бейеса имеем:

Р W°) - р (Л1) Р WA^ + Р (Л2) Р (В/Л2) + Р (Л3) Р (В/Л3) ~

1 А

_55—4 _ 2

~ 1 2 х 1 21 А “10 ~ 5;

5 ‘ 5 + 5 ’ б + б 5

Точно так же находим:

§ 10. Примеры

Мы приведём несколько более сложных примеров на использование изложенной теории.

Пример 1 *). Два игрока А и В продолжают некоторую игру до полного разорения одного из них. Капитал первого равняется а руб., капитал второго — b руб. Вероятность выигрыша каждой партии для игрока Л равна р. а для игрока В равна q; p-\-q = l (ничьи отсутствуют). В каждой партии выигрыш одного игрока (и, значит, проигрыш другого) равняется 1 рублю. Найти вероятность разорения каждого из игроков (результаты отдельных партий предполагаются независимыми).

Решение. Обозначим через рп вероятность разорения игрока Л, когда он имеет п руб. Очевидно, что искомая вероятность есть ра и что

Ра+6 = °. Po=L(О

Если игрок А имел п руб. перед некоторой партией, то его разорение может осуществиться двумя различными способами: или он очередную партию выиграет, а всю игру проиграет, или он проиграет и партию и игру. По формуле полной вероятности поэтому

Рп = Р -Pn^-H-Pn-v

Относительно рп мы получили уравнение в конечных разностях; легко видеть, что его можно записать в следующем виде:

Я(Рп~ Pn-l)=P(PnV\— PnY(2)

Рассмотрим сначала решение этого уравнения при р~ q—--. При этом допущении

Pn+l~Pn=Pn — Рп-1 = • • • = Р1~Ро = с>

где с — постоянная. Отсюда находим, что

Рп = РоА-«С-

Поскольку /20 = 1 И р<1+ь = 0, то

Рта"1 а + Ь’

Таким образом, вероятность разорения игрока А равняется 1 а b

Ра а + b а-^Ь*

Подобным же путём найдём, что в случае р = ^ вероятность разорения игрока В равна

а^ь"а+Ъ’

В общем случае при рфд из (2) находим, что

qH П (рк~рк-д=рп П kpk*i— рк).

к—1Й = 1

После сокращений и учёта соотношений (1) находим, что

Рп+l" Рп = ^‘ (Р1"1)-

Рассмотрим разность рп+ъ— рп; очевидно, что о Ц- b — 1а -р Ъ ~— 1

РаФЬ Рп~~ 2 ^Рк-И Рк) ^ (/?) ^]1) =

к*»пк*=п

Поскольку ра4.ъ = ^, тоПоскольку ра4.ъ = ^, тоа так как р0=1, тоа так как р0=1, торрРР

Поскольку ра4.ъ = ^, то

Поскольку ра4.ъ = ^, то

а так как р0=1, то

а так как р0=1, то

р

р

Р

Р

Исключив из двух последних равенств величину pv находим, что

Рп"

Отсюда вероятность разорения игрока А

q^+b— qapb \q J

Pa qa-vb—рал-b /р \a-Vb

Подобным же путём находим, что вероятность разорения игрока В при рфд равна

Из этих формул мы можем сделать следующие выводы: если капитал одного из игроков, например В, несравненно больше капитала игрока А, так что практически b можно считать бесконечно большим по сравнению с а, а игроки одинаково искусны, то разорение В практически невозможно. Вывод будет совсем иной, если А играет лучше, чем В, и, значит, р> q. Считая 6 ~ со, находим, что

Отсюда мы делаем тот вывод, что умелый игрок даже с малым капиталом может иметь меньше шансов на разорение, чем игрок с большим капиталом, но менее умелый.

К задаче о разорении игрока сводится решение некоторых задач физики и техники.

Пример 2. Найти вероятность того, что станок, работающий в момент /0, не остановится до момента /0 + /, если известно, что 1) эта вероятность зависит только от величины промежутка времени Uo> ^о + 0» 2) вероятность того, что станок остановится за промежуток времени Д^ пропорциональна Д^ с точностью до бесконечно малых высших порядков *) относительно Д/.

События, заключающиеся в остановке станка в непересекающиеся промежутки времени, независимы между собою.

Решение. Обозначим искомую вероятность через р (Q: Вероятность того, что станок остановится за промежуток времени М равна

1 — р (Д^) = а Д^+ о (At), где а — некоторая постоянная.

Определим вероятность того, что станок, работавший в момент /0, не остановится до момента ^-j- ^+ДА Для осуществления этого события необходимо, чтобы станок не остановился за периоды времени длины t и М; в силу теоремы умножения, таким образом,

p^t-V^ = p(f) • р (М) = р (f) (X —аМ—о(Д0).

Отсюда

(3)

Перейдём теперь к пределу, положив Д/—>0; из того, что существует предел правой части равенства (3), вытекает, что существует также предел левой части. В результате находим, что

Решение этого уравнения есть функция р (^) = Се-^, где С—постоянная. Эта постоянная находится из того очевидного условия, что р(0)=1. Таким образом,

/?(/) = в-°А

Первое условие задачи налагает на режим работы станка большие ограничения, однако существуют производства, где оно выполняется с большой степенью точности. В качестве примера можно привести работу автоматического ткацкого станка. Заметим, что к рассмотренной задаче сводится много других вопросов, например, вопрос о распределении вероятностей длины свободного пути молекулы в кинетической теории газов.

Пример 3. При составлении таблиц смертности часто исходят из таких допущений: 1) вероятность того, что некоторое лицо умрёт в течение времени от t до 1-\-М, равна

р (А ^+ ДО = а (О Д^+ о (М)}где a(f) — неотрицательная, непрерывная функция.

) считается, что смерть данного лица (или его выживание) за рассматриваемый промежуток (0, Z2) времени не зависит от того, что было до момента tv 3) вероятность смерти в момент рождения равна нулю.

Исходя из высказанных предположений, найти вероятность смерти лица А до того, как оно достигнет возраста t.

Решение. Обозначим через к(/) вероятность того, что лицо Д доживёт до возраста t, и вычислим я:(?4-А0- Очевидно, что из допущений, принятых в задаче, вытекает равенство тг^+А^^ти^тг^+А/; /),

где ^(^ + ^^0 обозначает вероятность дожить до возраста ^+А^, если лицо А уже дожило до возраста t. В соответствии с первым и вторым допущениями

тг (^4~ ^ 0 = 1 — Р (А ^+ А^) = 1 — о (0 А/— о (А/);

поэтому к (^+ АО = к (0 [1 — а (t) А/ — о (АО).

Отсюда находим, что к (7) удовлетворяет следующему дифференциальному уравнению:

Решением этого уравнения при учёте третьего условия задачи будет функция

t

J а (а) da

-к^=е 0

Вероятность умереть прежде, чем будет достигнут возраст /, таким образом, равна t

Р а («) da

1 —тг (0= 1 —е °

При составлении таблиц смертности для взрослого населения нередко пользуются формулой Макегама, согласно которой

а (^) = a -f- ре^,

постоянные а, р, ^ — положительны ). При выводе этой формулы исходили из допущения, что взрослый человек может умереть от причин, не зависящих от возраста, и причин, зависящих от возраста, причём вероятность смерти растёт с увеличением возраста в геометрической прогрессии. При таком дополнительном предположении

Пример 4. В современной ядерной физике для измерения интенсивности источника частиц используются счётчики Гейгера-Мюллера.

Частица, попавшая в счётчик, вызывает в нём разряд, длящийся время т, в протяжение которого счётчик не регистрирует частицы, попадающие в счётчик. Найти вероятность того, что счётчик сосчитает все частицы, попавшие в него за время t, если выполняются следующие условия: 1) вероятность того, что за промежуток времени ^в счётчик попадут к частиц, не зависит от того, сколько частиц попало в счётчик до начала этого промежутка; 2) вероятность того, что за промежуток времени от £0 до /0+^ в счётчик попадёт к частиц, задаётся формулой *)

где а — положительная постоянная; 3) т— постоянная величина.

Решение. Обозначим через А^— событие, состоящее в том, что все попавшие за время t в счётчик частицы были сосчитаны; через Вд(/) — событие, состоящее в том, что за время t в счётчик попало к частиц.

В силу первого условия задачи при Z^>x

P{/l(Z+AW = PM(f)}P{e0.(At)i +

+ Р{Л(^—с)}Р{В0(т))Р{31(А/)}+о(Л/), а при 0^/^т

р М (/+ ДО} = Р {Л (Z)} Р {Во (А/)} + Р {So (0} Р № (АО! +^ (АО.

Обозначим для краткости записи ^(0 —Р{Л (0}> тогда на основании второго и третьего условий задачи при 0^/^т

те (Z+ ДО = те (0 е~а“ + e”waLte"ut + о ^

и при ^^т

к (/ -|~ А/) = к (/) e~uExt Ц- к (Z— т) e"a%^e~tl' -|- о (ДО-

Путём перехода к пределу при Д/~>0 находим, что при 0^/^т имеет место равенство

^- = -ате(0+ае"а*,(4)

а при ^т — равенство

• ^L = — а[те$ — n(t—Т)е~от].(5)

Из уравнений (4) находим, что при O^Z^tтЦ/)^-^ (с 4-at).

Из условия

1Г (0) == 1

определяем постоянную с» Окончательно при 0^/^т ir(0 = e-o<(i+«0-(6)

При т^/^2т вероятность тс(^) определяется из уравнения

_^Г-= ~t)e-OTl =

= — а [л(0 —e~°^~T^ (1 +<г (/—т))е~'аг] = = -а[«(0 — е-°#(1+а(/— т))].

Решение этого уравнения даёт нам: .। v . я2(^ — т)2 \

” (0 = е (<^i + atН.

Постоянное сА может быть найдено из того, что согласно (6) тс (т) = е~а^ (1 4~ ат).

Таким образом, ^ = 1 и для т ^ / ^ 2т

К V) = e-at [1 + at

Методом полной индукции можно доказать, что для (л—1)т^/^пт имеет место равенство

п

А=0

ГЛАВА 2

ПОСЛЕДОВАТЕЛЬНОСТЬ НЕЗАВИСИМЫХ ИСПЫТАНИЙ

В настоящей главе мы изучим основные закономерности, относящиеся к одной из важнейших схем теории вероятностей — схеме последовательности независимых испытаний. В это понятие мы вкладываем следующий смысл.

Рассматривается последовательность полных групп событий Д18\ Дз8), ...» Д^, s= 1, 2, .. ., п. Вероятность появления события Д(8) (/=1, 2,,..,&) в группе с индексом s не зависит ни от этого индекса, ни от того, какие события появились или появятся в других группах ).

Часто бывает полезно придерживаться иной терминологии и говорить, что производится п независимых испытаний, каждое из которых имеет к несовместимых исходов д[8), Д^, ..., Д^, причём вероятность исхода Д^ не зависит от номера испытания s и равна р^ (/ = = 1, 2, ..., Л); в силу несовместимости и единственной возможности исходов Д^8), очевидно, имеем ^рг=^* Эта схема впервые была рассмотрена Я. Бернулли в важнейшем частном случае к = 2; по этой причине указанный случай носит название схемы Бернулли. В схеме Бернулли обычно полагают pv=p, р2=1—p = q.

Подробное исследование таких последовательностей испытаний заслуживает исключительного внимания как в силу непосредственного их значения в теории вероятностей и в приложениях, так и в силу выявившейся в процессе развития теории вероятностей возможности обобщения тех закономерностей, которые впервые были открыты при изучении схемы последовательности независимых испытаний, в частности схемы Бернулли. Многие факты, подмеченные на этой частной схеме, впоследствии служили путеводной нитью при изучении более сложных схем. Сделанное замечание относится как к прошлому, так

и к современному развитию теории вероятностей. Мы убедимся впоследствии в этом на примерах закона больших чисел и теоремы Муавра-Лапласа.

. Вероятности Pn^mv т^ .. .^т^

Простейшая задача, относящаяся к схеме независимых испытаний, состоит в определении вероятности Pn(mv т^.^т^ того, что при п испытаниях события Д1д) наступят тх раз, А^— т2 раз, . события А^—тк раз. При этом, конечно, должно быть выполнено равенство

^ -|- ^2 + • • • + ^ — ^-

Мы ограничимся подробным рассмотрением этой задачи для случая схемы Бернулли, предоставив читателю вывод формул и их исследование в общем случае. Для схемы Бернулли мы обозначим событие А^ через Д(У), событие Д^— через А^\ число появлений событий Д(8)— через у. и вероятность Pn^mv т^)— через Рп(/д), где m = mv

Сначала мы найдём вероятность того, что события Д(8) наступают при определённых т испытаниях (например, при $п s2, . ..,sw) и при остальных п-^-т не наступают. По теореме умножения для независимых событий эта вероятность равна

p™qn-m.

По теореме сложения вероятностей искомая вероятность Pu(in^ равна сумме только что вычисленных вероятностей для всех различных

способов т появлений события и п — т непоявлений среди п испыта

nlт\ (п — т)!nlт\ (п — т)!ний. Число таких способов, как известно из теории сочетаний, равно

nlт\ (п — т)!

nlт\ (п — т)!

; следовательно, искомая вероятность равна

nW = cup -q •(1)

Так как все возможные несовместимые между собой исходы п испытаний состоят в появлении события Д(8) 0 раз, 1 раз, 2 раза, ..., л раз, то ясно, что п

2 рм(«) = ь

m=sO

Это соотношение может быть выведено также без учёта теоретиковероятностных соображений из равенства

m=o

Легко заметить, что вероятность Рп (т) равна коэффициенту при хт в разложении бинома \q-Vpx^H по степеням х; в силу этого свой-

ства совокупность вероятностей Рп^т^ называют биномиальным законом распределения вероятностей.

Немного изменив наши рассуждения, читатель без труда убедится в том, что

Р ^mv т„...>тЛ ——;• «Р^(1')

а также в том, что эта вероятность является коэффициентом при х^х^.. ,х^ в разложении по степеням х полинома (Pj^+ р2х2 “Ь + • • • "VP^kY*

Имея в виду постановку общих задач, относящихся к схеме независимых испытаний, мы рассмотрим числовые примеры. В этих примерах мы не станем немедленно доводить до конца вычисление искомых вероятностей, а оставим это до того момента, когда у нас будут подготовлены удобные методы для этого вычисления.

Пример 1. Имеются два сосуда А и В, каждый объёмом в 1 дм\ В каждом из них содержится по 2,7 • 1022 молекул газа. Эти сосуды приведены в соприкосновение так, что между ними происходит свободный обмен молекулами. Чему равна вероятность того, что через сутки в одном из сосудов молекул окажется по меньшей мере на одну десятимиллиардную часть больше, чем в другом?

Для каждой молекулы вероятность находиться в том или ином сосуде через сутки одна и та же и равна половине. Таким образом, как бы производится 5,4 • 1022 испытаний, для каждого из которых вероятность попасть в сосуд А равна ^г. Пусть у.— число молекул, попавших в сосуд Л, и, значит, 5,4- 1022— у. есть число молекул, попавших в сосуд В. Нам нужно определить вероятность того, что

I -(5,4• 1023 -^ | >= 5 4 . 1()1з

иначе говоря, мы должны найти вероятность

р = р{ (р—2,7-1022|>2,7-Ю12}.

Согласно теореме сложения

р=2р( Н = »»},где сумма распространена на те значения т, для которых|т —2,7 • 1022|>2,7 • 1012.

Пример 2. Вероятность изделию некоторого производства оказаться бракованным равна 0,005. Чему равна вероятность того, что из 10 000 наудачу взятых изделий бракованных изделий окажется а) ровно 40, б) не более 70.

В нашем примере п = 10 000, р = 0,005, поэтому по формуле (1) находим, что

а) Лоооо (40) = С^ооо (O,995)"60 (0.005)40.

6363^11]вероятности Рп (шр т^.^т^

63

63

Вероятность Р{р-^7О) того, что число бракованных изделий окажется не более семидесяти, равна сумме вероятностей числу бракованных изделий оказаться равным 0, 1, 270. Таким образом,

б) Р { Р-< 70 } = 2 Рп ^ = 2 ^000(0,995)100(”,-"1(0,005)т. ш=0т = о

Рассмотренные -примеры показывают, что непосредственное вычисление вероятностей по формуле (1) (а также по формуле (1')) часто представляет большие технические трудности, поэтому возникает задача отыскания простых приближённых формул для вероятностей Ри(тУ а также для сумм вида

2 PnWm=s

при больших значениях п. Эти задачи будут решены в §§ 12 и 13. Теперь же мы обратимся к установлению элементарных фактов, касающихся поведения вероятностей Рп (т) при постоянных п. Начнём с изучения Рп(т) как функции т. Для 0^т<п, как легко подсчитать,

Рп (m + 1) и — ^ р .

PnW ^4-1 '7’ отсюда следует, что

D > р,м.

если (п — т) р > (т + 1)^, т. е. если пр — q > т\

Pn<m-V\^ = PH (т\

если т = пр— q и, наконец,

P„(m+ 1) <Рп<т^ если т> пр — q.

Мы видим, что вероятность Рн (т) с увеличением т сначала возрастает, затем достигает максимума и при дальнейшем росте т убывает. При этом если пр — q является целым числом, то максимальное значение вероятность Рп (т) принимает для двух значений т, именно для mQ = пр — q и mQ = пр — q 4~ 1 = пр -]- р. Если же пр — q не является целым числом, то максимального значения вероятность Рп (т) достигает при т = т^ равном наименьшему целому числу, большему т0. Число т0 называют вероятнейшим значением м& у,. Мы видели, что если пр — q есть целое число, то у. имеет два вероятнейших значения — mQ и ^ = /п0-4~ 1.

Отметим, что если пр — q < 0, то

^п(0)>^(1)>... >Рп М а если пр — q = о, то

>п(0) = ^(1)>^(2)>>Рп^).

В дальнейшем мы увидим, что при больших значениях п только для т, близких к вероятнейшему значению jx, вероятности Рп (т) сколько-нибудь заметно отличаются от нуля. Этот факт впоследствии будет доказан нами, а сейчас проиллюстрируем сказанное численным примером.

Пример. Пусть п — 50, р = -^.

Вероятнейших значений два: т0 = пр— q = 16 и /и0 + 1 = 17.

Значения вероятностей Рп0п) с точностью до четвёртого десятичного знака представлены в таблице 5.

Таблица 5

т

р^

т

PnW

т

PnW

<5

0,0000

13

0,0679

23

0,0202

5

0,0001

14

0,0879

24

0,0113

6

0,0004

15

0,1077

25

0,0059

7

0,0012

16

0,1178

26

0,0028

8

0,0033

17

0,1178

27

0,0012

9

0,0077

18

0,1080

28

0,0005

10

0,0157

19

0,0910

29

0,0002

11

0,0287

20

0,0704

30

0,0001

12

0,0470

21

0,0503

>30

0,0000

22

0,0332

. Локальная предельная теорема

При рассмотрении числовых примеров предыдущего параграфа мы пришли к выводу, что при больших значениях nt mv т^, .. t тк вычисление вероятностей Р^т^ ..., т^ по формуле (!') § И представляет значительные трудности. Возникает необходимость в асимптотических формулах, позволяющих с достаточной степенью точности определять эти вероятности. Впервые формула такого рода была найдена Муавром (de Moivre) в 1730 г. для частного случая схемы Бернулли при p = q = ^ а затем обобщена Лапласом (Laplace) на случай произвольного р, отличного от 0 и 1.

Эта формула получила название локальной теоремы Лапласа; мы в целях восстановления исторической справедливости будем называть её локальной теоремой Муавра-Лапласа. Изложение мы начнём с доказательства аналогичной теоремы для общего случая схемы независимых испытаний, а затем выделим из неё как частный случай теорему Муавра-Лапласа,

мы введём несколько обо-мы введём несколько обо-Прежде чем формулировать теорему, значений: положим

мы введём несколько обо-

мы введём несколько обо-

?i=l—л (Z - 1, 2, . ..,А),

(1)(1)ПН — nPi

(1)

(1)

Vпр^Чг *

Величина х^ зависит не только от I (т. е. от р^> но также от п и от т^ однако мы в целях сокращения письма не вводим новых индексов.

Локальная теорема. Если вероятности pv р^-'»>Рк появления соответственно событий А^\ А^Х . ..,Л^ в s-ом испытании не зависят от номера испытания и отличны от 0 и от 1 (О < pi < 1, / = 1, 2, ..., ^), то вероятность Рп (т^ т^ ..., т^ того, что при пнезависимых испытаниях события А^\1= 1,2,..., £) появятся пц раз ^тх-\-т^-\-...-^т^^пХ удовлетворяет соотношению *)

Ч 2

V^ Р^Ч, »Ц, . . .,»нУ.—к^т-— *] («-*<») (2)

(2п) У^р^ТТ/^

равномерно для всех т4 (7=1, 2, .. ., k), для которых х{ находятся в произвольных конечных интервалах а^ ^ а^ Ь^

Доказательство. Приводимое нами доказательство опирается на известную из курса Анализа формулу Стирлинга

s! = )/27rs • s8e-8e^X

в которой остаточный показатель 08 удовлетворяет неравенству

1М<1$.(3)

Заметим, что формула (1) может быть записана иначе

^ = пр4-у-^У"пРгдъ

откуда следует, что если х4 остаются ограниченными, то соответствующие им числа т- возрастают до бесконечности вместе с п.

Применение формулы Стирлинга даёт нам:

Р„ («рщ) = --21—^ pW ...р^ =

к

= —I I Р^е i=i ^ =

J£ ^2кт^ m™ie~~mi] ^=1

где

6 = 0n 6Wi 0Wa — ... — 6m^.

В силу оценки (3) имеем:

Если а^.^ХуС^, то соответствующие хгм значения т^ удовлетворяют неравенствам

"I# > пр4 4- at V пр^ = прi (1 + Oj j/^)

и, значит, для всех указанных значений пц имеет место оценка

кк(5)(5)

к

к

(5)

(5)

Отсюда мы видим, что каковы бы ни были интервалы (а^, Ь^), величина 0 равномерно относительно xi в этих интервалах стремится к нулю при п -> оо, а следовательно, множитель 5е при тех же условиях равномерно стремится к единице.

Рассмотрим теперь величину

кк

lg^» =lg^» =[Tp^^-V^ig^

lg^» =

lg^» =

L-^X^i/^ 1 S npt

В условиях теоремы величины ^ у ^ (1 <2 Z ^ &) при достаточно больших п могут быть сделаны сколь угодно малыми, поэтому мы можем воспользоваться разложением в степенной ряд

функций 1g м _]_ х. W Ль) е Ограничившись двумя первыми членами, \г пр 4/

мы находим, что

Оценка остаточного члена равномерна в любом конечном интервале изменения xv Таким образом,

Так как согласно формуле (1)

ккпп

'2lxiVnMi=^l(.mi — npi)='^tm1 — n^lPi = n — n=0, 4 = 1» = 1г = 1г = 1

ТО к

= —У-1-^ + о(-Ц),■=1 х V п

и, значит, равномерно относительно х^ в любых конечных интервалах а4 xi^bi при ясо имеет место соотношение

В условиях теоремы второй множитель правой части этого равен- счва при п -* оо стремится к единице и притом равномерно в каждом конечном интервале изменения х^1=\. 2, ...,&).

Легко видеть, что соотношения (5),- (6) и (7) доказывают нашу теорему.

ЛокальнаятеоремаМуавр а-Л ап л а с а. Если вероятность наступления некоторого события в п независимых испытаниях постоянна и равна р (0 </?<!), вероятность Рп(т^ того. что в этих испытаниях событие А наступит ровно т раз, удовлетворяет при п—> оо соотношению

Vnpq Рп (т): —^- в"1(8)

равномерно для всех т. для которых х находится в каком-либо конечном интервале.

Доказательство. Теорема Муавра-Лапласа, как мы уже говорили во введении к настоящему параграфу, является частным случаем только что доказанной нами теоремы. Здесь к = 2, qx = q, q^X—q, Pi=P,

.m — np

no=l—p = q. mY — m. nu = n— m. x — x.——7=—,

121 ynpq

n-m — nq V^qn-m — nq V^qm — np Vnpqm — np VnpqПодставив эти обозначения в соотношение (2), находим, чтоПодставив эти обозначения в соотношение (2), находим, чтоVnpqP^my.y-e ^2VnpqP^my.y-e ^2Очевидно, что это соотношение эквивалентно (8).Мы можем теперь довести до конца вычисления в примерах предыдущего параграфа.Пример 1. В примере 2 предыдущего параграфа нам нужно было определить Рп(т) при п =10 000, /п = 40, р = 0,005. По только что доказанной теореме имеем:Очевидно, что это соотношение эквивалентно (8).Мы можем теперь довести до конца вычисления в примерах предыдущего параграфа.Пример 1. В примере 2 предыдущего параграфа нам нужно было определить Рп(т) при п =10 000, /п = 40, р = 0,005. По только что доказанной теореме имеем:P«w~P«w~1 т—пр \2—-1е 2 V V"M / .У2тспр^1 т—пр \2—-1е 2 V V"M / .У2тспр^Для нашего примераДля нашего примераVnpq = VЮ 000- 0,005 • 0,995 = У49,75 ~ 7,05,Vnpq = VЮ 000- 0,005 • 0,995 = У49,75 ~ 7,05,Следовательно,Следовательно,ФункцияФункцияЫ£-1,42.Vnpq1_ Ml3Рп W ~7= в 2”7,05 V1 -- ср(х)=--^=е 2Ы£-1,42.Vnpq1_ Ml3Рп W ~7= в 2”7,05 V1 -- ср(х)=--^=е 2

n-m — nq

V^q

n-m — nq

V^q

m — np Vnpq

m — np Vnpq

Подставив эти обозначения в соотношение (2), находим, что

Подставив эти обозначения в соотношение (2), находим, что

VnpqP^my.y-e ^2

VnpqP^my.y-e ^2

Очевидно, что это соотношение эквивалентно (8).

Мы можем теперь довести до конца вычисления в примерах предыдущего параграфа.

Пример 1. В примере 2 предыдущего параграфа нам нужно было определить Рп(т) при п =10 000, /п = 40, р = 0,005. По только что доказанной теореме имеем:

Очевидно, что это соотношение эквивалентно (8).

Мы можем теперь довести до конца вычисления в примерах предыдущего параграфа.

Пример 1. В примере 2 предыдущего параграфа нам нужно было определить Рп(т) при п =10 000, /п = 40, р = 0,005. По только что доказанной теореме имеем:

P«w~

P«w~

1 т—пр \2

—-1е 2 V V"M / .

У2тспр^

1 т—пр \2

—-1е 2 V V"M / .

У2тспр^

Для нашего примера

Для нашего примера

Vnpq = VЮ 000- 0,005 • 0,995 = У49,75 ~ 7,05,

Vnpq = VЮ 000- 0,005 • 0,995 = У49,75 ~ 7,05,

Следовательно,

Следовательно,

Функция

Функция

Ы£-1,42.

Vnpq

1_ Ml3

Рп W ~7= в 2

”7,05 V

1 -- ср(х)=--^=е 2

Ы£-1,42.

Vnpq

1_ Ml3

Рп W ~7= в 2

”7,05 V

1 -- ср(х)=--^=е 2

табулирована; краткая таблица значений этой функции приведена в конце книги. По этой таблице находим, что

Р„(ОТ)~^ = 0,00206.

нам:нам:Точные подсчёты без использования теоремы Муавра-Лапласа дают

нам:

нам:

Ри (w)~ 0,00197.

Для иллюстрации характера приближений, даваемых теоремой Муавра-Лапласа, а также для геометрического пояснения проделанных при её доказательстве аналитических преобразований, мы рассмотрим численный пример.

Vnpq Рп(т),Vnpq Рп(т),Пусть вероятность р равна 0,2. В таблицах 6—9 собраны зна

Vnpq Рп(т),

Vnpq Рп(т),

чения т, х —вероятностей Рп(тУ величин

Vnpq

Таблица 6

/2 = 4

т

0

1

2

3

4

PnW

0,4096

0,4096

0,1536

0,0256

0,0016

X

—1,00

0,25

1,50

2,75

4,00

V"npqpnW

0,3277

0,3277

0,1229

0,0205

0,0013

0,2420

0,3867

0,1295

0,0091

0,0001

1 —

а также функции ф(х)=~-^с 2 с точностью до четвёртого деся-

Z7.JZZ

030* л

*• * n-zs

OJO -*

е* • Т п=Ю0 \...• •*П-400

l* W То 30 Тз ~7535 яГ*

Черт. 7а.

тичного знака соответственно для числа испытаний п = 4,25, 100, 400.

На черт. 7а ординаты изображают значения вероятностей Р^Оп)

т

X

VnpqPnW

? (^)

т

X

P^W

V npq РnW

0

—2,5

0,0037

0,0075

0,0175

8

1,5

0,0623

0,1247

1

0,1295

1

-2,0

0,0236

0,0472

0,0540

9

2,0

0,0294

0,0589

0,0540

2

—1,5

0,0708

0,1417

0,1295

10

2,5

0,0118

0,0236

0,0175

3

— 1,0

0,1358

0,2715

0,2420

11

3,0

0,0040

0,0080

0,0044

4

—0,5

0,1867

0,3734

0,3521

12

3,5

0,0012

0,0023

0,0009

5,

0,0

0,1960

0,3920

0,3989

13

4,0

0,0003

0,0006

0,0001

6

0,5

0,1633

0,3267

0,3521

14

4,5

0,0000

0,0000

0,0000

7

1,0

0,1108

0,2217

0,2420

>14

>4,5

0,0000

0,0000

0,0000

Таблица 7

п = 25п = 25Т а б л и ц а 8п= 100

п = 25

п = 25

m

X

P«W

VnpqPnW

V (x)

m

X

PnW

VnpqPnW

<?(^)

8

—3,00

0Д006

0,0023

0,0044

21

0,25

0,0946

0,3783

0,3867

9

-2,75

0,0015

0,0059

0,0091

22

0,50

0,0849

0,3396

0,3521

10

—2,50

0,0034

0,0134

0,0175

23

0,75

0,0720

0,2879

0,3011

11

—2,25

0,0069

0,0275

0,0317

24

1,00

0,0577

0,2309

0,2420

12

—2,00

0,0127

0,0510

0,0540

25

1,25

0,0439

0,1755

0,1826

13

-1,75

0,0216

0,0863

0,0862

26

1,50

0,0316

0,1266

0,1295

14

-1,50

0,0335

0,1341

0,1295

27

1,75

0,0217

0,0867

0,0862

15

— 1,25

0,0481

0,1923

0,1826

28

2,00

0,0141

0,0565

0,0540

16

—1,00

0,0638

0,2553

0,2420

29

2,25

0,0088

0,0351

0,0317

17

-0,75

0,0788

0,3154

0,3011

30

2,50

0,0052

0,0208

0,0175

18

—0,50

0,0909

0,3636

0,3521

31

2,75

0,0029

0,0117

0,0091

19

20

-0,25

-0,00

0,0981

0,0993

0,3923

0,3972

0,3867

0,3989

32

3,00

0,0016

0,0063

0,0044

при различных целочисленных значениях абсциссы т. Из чертежа видно, что с увеличением п величины Рп(т) равномерно убывают. Для того чтобы на чертеже точки \т, Рп (/п)] уже для рассматриваемых значений п не слились с осью абсцисс, мы выберем резко различные масштабы по осям координат.

Рассмотрение вместо абсцисс т и ординат Рп Qn) абсцисс хп = ^^=- и ординат уп (т.) = V npq Рп(Х) означает 1) перенос начала координат в точку (пр, 0), находящуюся вблизи от максимальной ординаты Рп(т\ 2) увеличение единицы масштаба по оси абсцисс в Vnpq раз (иными словами, сжатие чертежа по оси абсцисс в У npq раз), 3) уменьшение единицы масштаба по оси ординат

Т а б л и ца 9

72 = 400

т

. X

PnW

VnpqPnW

9 ()

т

X

PnW

VnpqP»W

<p(x)

56

—3,000

0,0004

0,0034

0,0044

81

0,125

0,0492

0,3956

0,3957

57

—2,875

0,0006

0,0051

0,0064

82

0,250

0,0478

0,3828

0,3867

58

—2,750

0,0009

0,0076

0,0091

83

0,375

0,0458

0,3666

0,3719

59

—2,625

0,0014

0,0104

0,0127

84

0,500

0,0432

0,3459

0,3521

60

—2,500

0,0019

0,0156

0,0175

85

0,625

0,0402

0,3215

0,3282

61

-2,375

0,0027

0,0218

0,0238

86

0,750

0,0368

0,2944

0,3011

62 ,

1—2,250

0,0037

0,0298

0,0317

87

0,875

0,0332

0,2656

0,2721

63

—2,125

0,0050

0,0399

0,0417

88

1,000

0,0295

0,2362

0,2420

•64

—2,000

0,0066

0,0525

0,0540

89

1,125

0,0259

0,2070

0,2119

65

-1,875

0,0089

0,0679

0,0684

90

1,250

0,0223

0,1788

0,1826

66

-1,750

0,0108

0,0862

0,0862

91

1,375

0,0190

0,1523

0,1550

67-

-1,625

0,0134

0,1075

0,1065

92

1,500

0,0160

0,1279

0,1295

68

— 1,500

0,0164

0,1316

0,1295

93

1,625

0,0132

0,1059

0,1065

69

—1,375

0,0198

0,1583

0,1550

94

1,750

0,0108

0,0865

0,0862

70 ,

—1,250

0,0234

0,1871

0,1827

95

1,875

0,0087

0,0696

0,0684

71 ‘

—1,125

0,0271

0,2175

0,2119

96

2,000

0,0069

0,0553

0,0540

72 1

—1,000

0,0310

0,2483

0,2420

97

2,125

0,0054

0,0433

0,0417

73

-0,875

0,0349

0,2789

0,2721

98

2,250

0,0042

0,0335

0,0317

74

—0,750

0,0385

0,3081

0,3011

99

2,375

0,0032

0,0255

0,0238

75

—0,625

0,0419

0,3317

0,3282

100

2,500

0,0024

0,0192

0,0175

76

—0,500

0,0447

0,3580

0,3521

101

2,625

0,0018

0,0142

0,0127

77

—0,375

0,0471

0,3766

0,3719

102

2,750

0,0013

0,0105

0,0091

78

—0,250

0,0487

0,3919

0,3867

103

2,875

0,0009

0,0075

0,0064

79

—0,125

0,0497

0,3973

0,3957

104

3,000

0,0008

0,0054

0,0044

80 1

1

—0,000

0,0498

0,3985

0,3989

в У npq раз (иными словами, растяжение чертежа по оси ординат в Vnpq раз).

На черт. 76, в, г изображены кривая j/ = <p(x) и преобразованные только что описанным способом точки [m, PnV^V т- е« точки [хп, ,уп(я01- Мы видим, что уже при я = 25 точки [хп, з^п(т)1 сливаются на графике с соответствующими точками кривой у = ф(х). Это совпадение становится ещё лучше при больших чем 25 значениях п.

Чтобы получить наглядное представление о том, в какой мере можно пользоваться асимптотической формулой Муавра-Лапласа при конечных п*), т. е. заменять биномиальный закон при вычислении вероятностей Рп{т) функцией у = ф(х), приведём пример. Для

простоты рассмотрим случай p = q = — и возьмем лишь те п, для которых возможно значение хпт=1; такими могут быть, напри-

Черт. 76,в,г.|Черт. 76,в,г.|

Черт. 76,в,г.|

Черт. 76,в,г.|

мер, и = 25, 100, 400, 1156. Именно для них хпт=1 при /п=15, t 55, 210,595.t

Положимдля краткости4

Р„(т) = РпI

иf

■1 - . е3=QnI

V2itnpq 1.

при p = q= и хпт=Х. р

Согласно локальной теореме Муавра-Лапласа отношение -™-

Чп должно стремиться к единице, когда п -> оо. Вычисление при названных выше значениях п даётТаблица 101

пРпQn^п' Qn^nlQn250,097420,096790,000631,0065. 100..0,048470,048390,000081,0030- 4000,0242070,0241940,0000131,0004 .11560,0142360,0142340,0000021,0001пРпQn^п' Qn^nlQn250,097420,096790,000631,0065. 100..0,048470,048390,000081,0030- 4000,0242070,0241940,0000131,0004 .11560,0142360,0142340,0000021,0001

п

Рп

Qn

^п' Qn

^nlQn

25

0,09742

0,09679

0,00063

1,0065

. 100..

0,04847

0,04839

0,00008

1,0030

- 400

0,024207

0,024194

0,000013

1,0004 .

1156

0,014236

0,014234

0,000002

1,0001

п

Рп

Qn

^п' Qn

^nlQn

25

0,09742

0,09679

0,00063

1,0065

. 100..

0,04847

0,04839

0,00008

1,0030

- 400

0,024207

0,024194

0,000013

1,0004 .

1156

0,014236

0,014234

0,000002

1,0001

§ 13. Интегральная предельная теорема

Только что выведенную локальную предельную теорему мы используем для вывода другого предельного соотношения теории вероятностей — интегральной предельной теоремы. Изложение начнём с простейшего частного случая этой теоремы — интегральной теоремы Муа- вра-Лапласа.

Интегральная теорема Муавр а-Лапл аса. Если р есть число наступлений события в п независимых испытаниях, в каждом из которых вероятность этого события равна р, причём О < р < 1, то равномерно относительно а и b (— оо ^ а ^ b 4- сю) при п -> оо имеет место соотношение

Доказательство. Введём для краткости письма обозначение

Р„(а,6) = Р а<^ЛЕг<ЬI V npq

Эта вероятность, очевидно, равна сумме 2 Рп W, распространённой на те значения т, для которых а ^ хт < Ь, где попрежнему т— пр.

VnpqVnpqобозначено хт = ——=г.

Vnpq

Vnpq

Определим теперь функцию j/ = H„ (х) следующим образом:

.пр

ДЛЯ X < Хо =-—.- и

V«pq

^ = П„(х) =^ = П„(х) =ДЛЯ Х>ХП4ДЛЯ Х>ХП4Vnpq Рп (т) для хт ^ хVnpq Рп (т) для хт ^ х1 \ ngVnpq Vnpq ’Хт*1 («1 = 0, 1,.,.,/г).1 \ ngVnpq Vnpq ’Хт*1 («1 = 0, 1,.,.,/г).

^ = П„(х) =

^ = П„(х) =

ДЛЯ Х>ХП4

ДЛЯ Х>ХП4

Vnpq Рп (т) для хт ^ х

Vnpq Рп (т) для хт ^ х

1 \ ng

Vnpq Vnpq ’

Хт*1 («1 = 0, 1,.,.,/г).

1 \ ng

Vnpq Vnpq ’

Хт*1 («1 = 0, 1,.,.,/г).

Очевидно, что вероятность Рп(т) равна площади, ограниченной кривой у = Пп (х), осью ОХ и ординатами в точках х = хм и

х ^w+i> т* е*

Pn (m) = Vnpq Рп W <*т н — х^ = |Пй (х) dx.

Отсюда следует, что искомая вероятность Рп (а, б) равна площади, заключённой между кривой у = Пм (х), осью ОХ и ординатами в Точках хт и х—, где т и т определяются посредством неравенств "

ааЬЬаа

а

а

Ь

Ь

а

а

Таким образом,

PtAn, Ь)= [ II„(x)dx

^т^т'т'тъ

^т

^т

'т

'т

Так как максимальное значение вероятности Pn(w) приходится на значение т0 = [(« + 1)р], то максимальное значение П^Дх) приходится на интервал

- 0 < Шу—^д ^ ^ < /«о + 1 —^ < 2 .

Vnpq Vnpq Vnpq

В этом интервале действует локальная теорема Муавра-Лапласа, и мы можем поэтому заключить, что при всех достаточно больших значениях м •

1тахПм(х) < 2—т= max г 2

Отсюда мы прежде всего выводим, что

жтЖт®т

| р^ | = | Jllw(x)^— J Пп(х)^х|< f тахПп(л:)^4- ЪаЪ

ат„

4- | тахПп<х^х<уЛ^( — б + ^ + х,» — а)< 2 ^^ а

и что, следовательно, lim рп = 0.

П -> ОО

Таким образом, ^(о, Ь) только на величину бесконечно малую от- •Ъ'

личается от Пп(х)б/х.

а

Мы предположим сначала, что а и b—конечные числа. При этом предположении согласно локальной теореме при а <; хт < b

Пп (-^w) — у"2к ^2^ °н ^м^’

где «гг(А7т) —^ 0 при п->оо равномерно относительно хт. Очевидно, что и при промежуточных значениях аргумента

Пп W = -1= Г Ml + ?„ (jcjjs

причём lim max ап(х)=0. Действительно, при любом tn в интер- п->со а<.ос<Ъ

вале хт ^ х < хш+1 имеем:

— —

И„ (х) = II „ (х,„) = -= е 3 11 + «» to L

у2л

где

аиМ = е 2 KtoJ + i]—1. Так как

^ /, । ।, шах(|а|, |*|)

<IXN* хт\<

то ясно, что

lim max а (х) = 0.

11-у со а<ос<Ъ

Собрав вместе найденные оценки, получаем, что

РДа, b) = 4= е » dx^Rn,агде

Rn yW / ^ ^ ^ (Х) dx+р”‘аТак какь

I Rn К max | «„ (х) | • -= е 2 dx + р„, а<св<ЪV J

а

то из сказанного ясно, что lim RH = 0. П -> ОО

В сделанном нами по ходу доказательства частном предположении теорема доказана. Нам остаётся освободиться от этого ограничения. С этой целью прежде всего заметим, что

1 е *^ ^г=1.

Поэтому для любого е > 0 можно выбрать столь большое Д, что

4= Г ё~ 2" dz > 1 — 4-,

4= Г е »dz = 4= Ге » dz< — .

V2te JV^ J8

—ooA

Выберем далее, в соответствии с доказанным, столь большое п, что при — А ^ а b < А будет:

Р^а.^-^^е 3^|<|.а

Тогда очевидно, что

Р„(-А А)>1 —у,

Р( —оо, —Д) + Р(Д, 4-оо)= 1 — Р( — А, А) <у.

Теперь докажем, что при любых а и b (— оо ^ а ^ b ^ 4“ оо) будет:

чем, очевидно, и закончится доказательство теоремы Лапласа.

Для этого надо разобрать отдельно различные случаи расположения на прямой точек а и b относительно интервала (— А, Д). Разберём, например, случай а^ — А, Ь^А (остальные предоставим читателю).

В этом случае

^(«, Ь^Р.Да, — А) + Р„(-А, А) + Р„(А, 6).

ПоэтомуР„ (а, 6)ПоэтомуР„ (а, 6)г1е 3 dzг1е 3 dz< |^n(«, — А)< |^n(«, — А)++2 йг2 йг

Поэтому

Р„ (а, 6)

Поэтому

Р„ (а, 6)

г1

е 3 dz

г1

е 3 dz

< |^n(«, — А)

< |^n(«, — А)

+

+

2 йг

2 йг

Мы перейдём теперь к выводу интегральной предельной теоремы в общем случае схемы последовательности независимых испытаний. Пусть попрежнему ^ (Z == 1, 2, ..., А?) означает число появлений событий Л^ (5= 1, 2, ...» /г) в п последовательных испытаниях. В зависимости от случая числа ^ могут принимать лишь значения О, 1, 2,..., п, причём так как в каждом испытании возможны к исходов и эти исходы несовместимы, то должно иметь место равенство

^1 + ^2 + • • •(1)

Станем теперь на величины у^, |л2, ..., ^к смотреть как на прямоугольные координаты точки в ^-мерном евклидовом про

странстве.

При этом результаты п испытаний изобразятся точкой с целочисленными координатами, не меньшими нуля и не большими и; будем в дальнейшем называть такие точки целочисленными. Равен

ство (1) показывает, что результаты испытаний изобразятся не произвольными целочисленными точками в гиперкубе 0 ^ р.^ п (/ = 1, 2, ..., ^), а лишь теми из них, которые находятся в гиперплоскости (1). На черт. 8 изображено положение возможных резуль

татов испытаний в гиперплоскости

(1) для случая л = 3, А = 3.

Произведём преобразования координат по формулам

_ H — npt xi —

VtipiQi

(i=l, 2, A; ^=1 — p{).

Уравнение гиперплоскости (1) в новых координатах перепишется в следующем виде:

к

5 ^/»р^ = 0.(2)

t = 1

Точки гиперплоскости (2), в которые перешли целочисленные точки гиперплоскости (1), условимся также называть «целочислен- ными».

Обозначим через ^(G) вероятность того, что в результате п испытаний числа ^(/=1, 2, ..., к) появлений каждого из возможных исходов окажутся такими, что точка с координатами

попадет внутрь области G.

Тогда имеет место следующая

Теорема. Если в схеме последовательности независимых испытаний в каждом из испытаний возможны к исходов, причем вероятность каждого из исходов не зависит от номера испытания и отлична от 0 и от 1, то какова бы ни была область G гиперплоскости ^, для которой (к—Х^-мерный объём её границы равен нулю, равномерно относительно G при п-> со имеет место соотношение

Рп\ G jdVf

'(2л)к-1 2 PiQi О

где dv означает элемент объёма области Q и интеграл распространяется на область Q.

Доказательство. Так как доказательство и по идее и по осуществлению является почти полной копией рассуждений, проведённых при доказательстве интегральной теоремы Муавра-Лапласа, то мы можем ограничиться лишь кратким изложением, предоставив читателю проведение его во всех деталях. Изложение мы начнём с того, что произведём два элементарных подсчёта. Прежде всего найдём число Sk (п^ возможных исходов в результате п испытаний, в каждом из которых могут произойти к несовместимых событий.

Числа SK(n) удовлетворяют следующему соотношению:

пsj«) = 2 s^r).(3)

г —О

Действительно, это равенство означает, что событие Дк может появиться любое число п— г раз ^^.п— г^п); в каждом из этих случаев для остальных к — 1 событий могут представиться S/^^r) исходов. Так как при различных г эти исходы различны, то отсюда и вытекает равенство (3). Для случая схемы Бернулли (А = 2)

s2(«) = » + i,

поэтому для к = 3 имеем:

2 (г+1)=г—о

Это равенство наводит на мысль о том, что формула для SA. (п) имеет вид

St№-( <" +±=1> =(4)

Предположим, что эго равенство, доказано для всех k ^N и покажем, что тогда оно верно и при ^ = ^-[“l» т* е- что имеет место равенство

яп

Sn-V1W= S Sy(r) = 2 Cy^.N—1 = Cn^-N.

r=0Г"0

Последнее утверждение вытекает из следующей легко проверяемой цепочки равенств:

_ (n + N)\ _ (л + 1)(л + 2)...(л + ^) _ п\ N\N\

_ n(«+l)... ^n + N— 1) . (zz + 1).. .(/2 ч-/V— 1)

“’(N— 1)!

л>ПI — 1

= C^N—1Cn_i-f-w—1 + C(n„2)-|_ jv = • • • =

= 2 Cr+N—

r = o

и тр. д.

Нам понадобится знание величины (А — 1)-мерного объёма той части гиперплоскости (2), которая определяется неравенствами

1Л ^ V Qi1Л ^ V Qi(/=1, 2, ..., к\(/=1, 2, ..., к\

1Л ^ V Qi

1Л ^ V Qi

(/=1, 2, ..., к\

(/=1, 2, ..., к\

(*-1)1(*-1)1к/=1кП™4 = 1к/=1кП™4 = 1В этой области гиперплоскости (2) содержатся все её «целочисленные» точки, изображающие результаты испытаний. Этот объём, как легко проверит читатель, хотя бы путём интегрирования, равен

(*-1)1

(*-1)1

к

/=1

к

П™

4 = 1

к

/=1

к

П™

4 = 1

«и =

Отнесём теперь точкам (хх, х2, ... , х^) гиперплоскости (2), где

.к), a — целые числа, непересекаю-

Щиеся параллелепипедальные области, содержащие эти точки, диаметра, ^е большего максимального расстояния между двумя целочисленными ближайшими точками [на черт. 8 одна из таких областей, около точки О» 1, 1) заштрихована].

Все эти области будут иметь один и тот же объём d4)t а в сумме будут давать объём У, несколько больший, чем Dt но нетрудно ви- Деть, что при л -> оо отношение объёмов -и и ^ стремится к единице.

Поэтому d-и =Поэтому d-и =[1 + о (1)]. Легко видеть, что при д->оо объём d/u 1[1 + о (1)]. Легко видеть, что при д->оо объём d/u 1стремится к нулю, как -^==~.Определим теперь в каждой точке гиперплоскости (2) функциюстремится к нулю, как -^==~.Определим теперь в каждой точке гиперплоскости (2) функциютс (хр х2, ..., x7J следующим образом: в каждой «целочисленной» точке (х1$ х2, ..., х%) и окружающей её области положимтс (хр х2, ..., x7J следующим образом: в каждой «целочисленной» точке (х1$ х2, ..., х%) и окружающей её области положимл (Хр х2, ..., х„) = ^ Р^т^ т^ ....т^^л (Хр х2, ..., х„) = ^ Р^т^ т^ ....т^^Л—1Д (« + 0г = 1Л—1Д (« + 0г = 1fcр-('""fcр-('"".... т^ [1-|-0 4)1-.... т^ [1-|-0 4)1-

Поэтому d-и =

Поэтому d-и =

[1 + о (1)]. Легко видеть, что при д->оо объём d/u 1

[1 + о (1)]. Легко видеть, что при д->оо объём d/u 1

стремится к нулю, как -^==~.

Определим теперь в каждой точке гиперплоскости (2) функцию

стремится к нулю, как -^==~.

Определим теперь в каждой точке гиперплоскости (2) функцию

тс (хр х2, ..., x7J следующим образом: в каждой «целочисленной» точке (х1$ х2, ..., х%) и окружающей её области положим

тс (хр х2, ..., x7J следующим образом: в каждой «целочисленной» точке (х1$ х2, ..., х%) и окружающей её области положим

л (Хр х2, ..., х„) = ^ Р^т^ т^ ....т^^

л (Хр х2, ..., х„) = ^ Р^т^ т^ ....т^^

Л—1

Д (« + 0

г = 1

Л—1

Д (« + 0

г = 1

fcр-('""

fcр-('""

.... т^ [1-|-0 4)1-

.... т^ [1-|-0 4)1-

Вне указанных областей положим

к(хр х2, .хп)=0.

Станем откладывать значения функции тс (хр х2, ..., х^ на перпендикулярах к гиперплоскости в точках (Хр х2, ..., x7f), считая от гиперплоскости в направлении той части пространства, в которой 2 х^ У npiqi > 0. Геометрически построенная функция изобразится ступенчатой гиперповерхностью: ^-мерный объём, ограничиваемый гиперповерхностью и гиперплоскостью, равен

^^(^р -^2» x1^d<u = ^Puimv т^ . .., /п7()=1.

Вероятность P(G) попадания результатов испытаний в область G, очевидно, равна

Р^ = 5 Р»<тх> т^, тку

где суммирование распространяется на все «целочисленные» точки, находящиеся в области О. Записав P(G) в виде

P(G) = 2 лС^ъ хй, ..., x^d^),

замечаем, что искомая вероятность почти равна объёму цилиндра, ограниченного с одной стороны гиперплоскостью (2), с другой — гиперповерхностью тс(х1, х2, ...» хъ\ и с образующими, проходящими через границу области О перпендикулярно к гиперплоскости (2). Разница между ними равна величине | ап— рп|, где ап—-сумма объёмов, находящихся над принадлежащими G частями областей, окружающих целочисленные точки, не принадлежащие G, а РЛ — сумма объёмов, находящихся над не принадлежащими G частями областей, которые окружают целочисленные точки, входящие в область G.

Предположим теперь, что область G расположена в ограниченной части гиперплоскости (2) и её граница является квадрируемой (д—2)-мерной поверхностью. Согласно локальной предельной теоремеПредположим теперь, что область G расположена в ограниченной части гиперплоскости (2) и её граница является квадрируемой (д—2)-мерной поверхностью. Согласно локальной предельной теоремепри этих условияхпри этих условиях* (хр х2xj =* (хр х2xj =еЧ2МеЧ2М01 • #2 • • 9к (2л)«=-1 ^р^01 • #2 • • 9к (2л)«=-1 ^р^(1 + т„) =(1 + т„) =dy V^n^-^-ptp^... риdy V^n^-^-ptp^... ри(5)(5)ГДе ^ = ^(хп х2, .е.эх^ равномерно для всех точек области G стремится к нулю при п -> оо. Таким образом,ГДе ^ = ^(хп х2, .е.эх^ равномерно для всех точек области G стремится к нулю при п -> оо. Таким образом,р(о)=2 Gр(о)=2 Gк—1к—1(6)(6)

Предположим теперь, что область G расположена в ограниченной части гиперплоскости (2) и её граница является квадрируемой (д—2)-мерной поверхностью. Согласно локальной предельной теореме

Предположим теперь, что область G расположена в ограниченной части гиперплоскости (2) и её граница является квадрируемой (д—2)-мерной поверхностью. Согласно локальной предельной теореме

при этих условиях

при этих условиях

* (хр х2xj =

* (хр х2xj =

еЧ2М

еЧ2М

01 • #2 • • 9к (2л)«=-1 ^р^

01 • #2 • • 9к (2л)«=-1 ^р^

(1 + т„) =

(1 + т„) =

dy V^n^-^-ptp^... ри

dy V^n^-^-ptp^... ри

(5)

(5)

ГДе ^ = ^(хп х2, .е.эх^ равномерно для всех точек области G стремится к нулю при п -> оо. Таким образом,

ГДе ^ = ^(хп х2, .е.эх^ равномерно для всех точек области G стремится к нулю при п -> оо. Таким образом,

р(о)=2 G

р(о)=2 G

к—1

к—1

(6)

(6)

В силу выбора областей, окружающих целочисленные точки, величина |ап — рп| не может превысить объёма, находящегося над теми из этих областей, которые имеют общие точки с границей области G. Этот объём не превышает произведения (к — 2)-мерного объёма границы области G (обозначим его буквой и) на удвоенный диаметр области, окружающей «целочисленную» точку плоскости (2) и на максимальное значение функции тс (xv х2, .. ., х Д В силу (5) максимальное значение тс(хр ха, ..., х^) для всех достаточно больших значений п не превышает

2it(0, 0, .... 0) = 2iZ

Наибольший диаметр областей, окружающих целочисленные точки, не превышает наибольшего расстояния между соседними целочисленными точками и, следовательно, не больше, чем

Таким образом,Таким образом,шах\<М<^шах\<М<^Pi9i +Pj9j < nkPiQiPjq^Pi9i +Pj9j < nkPiQiPjq^/2Ул min(^j) */2Ул min(^j) *

Таким образом,

Таким образом,

шах\<М<^

шах\<М<^

Pi9i +Pj9j < nkPiQiPjq^

Pi9i +Pj9j < nkPiQiPjq^

/2

Ул min(^j) *

/2

Ул min(^j) *

1«п-М<4/2.«.1«п-М<4/2.«.9192 ••• Qu . 1_

1«п-М<4/2.«.

1«п-М<4/2.«.

W^-1 ^p^t min ^p^q^ V П

и> следовательно, при л -> оо

(7)

6 Зак. 1826. Б. В. Гнеденко.

(8)(8)dv.dv.PtqtPtqtЧ = 1Ч = 1- qk- qkшах | тп | -^ Ошах | тп | -^ Окк1-^0.1-^0.(10)(10)(ЮЭ(ЮЭР»(5)>1-у.Р»(5)>1-у.= di) = a- (2it)»-i= di) = a- (2it)»-ipm ...q^кpm ...q^к— (9) (2a)»-1— (9) (2a)»-18282Согласно определению многомерного интеграла при п-со

(8)

(8)

dv.

dv.

Ptqt

Ptqt

Ч = 1

Ч = 1

- qk

- qk

шах | тп | -^ О

шах | тп | -^ О

к

к

1-^0.

1-^0.

(10)

(10)

(ЮЭ

(ЮЭ

Р»(5)>1-у.

Р»(5)>1-у.

= di) = a- (2it)»-i

= di) = a- (2it)»-i

pm ...q^

к

pm ...q^

к

— (9) (2a)»-1

— (9) (2a)»-1

82

82

в 2 du

QQp^L_ (2«)»-i .■•qk'p^L_ (2«)»-i .■•qk'РазностьРазностьW)-2 GW)-2 Gпри л —> оо стремится к нулю, так как при л -► со имеет место соот ношение (7), а также

Q

Q

p^L_ (2«)»-i .■•qk'

p^L_ (2«)»-i .■•qk'

Разность

Разность

W)-2 G

W)-2 G

к

ииСоотношения (6), (8), (9) доказывают теорему для случая ограниченных областей с квадрируемой границей. Для неограниченных областей мы проведём следующее рассуждение. Пусть з > 0—произвольное число. Опишем около начала координат в гиперплоскости (2) (А—1)-мерную сферу S столь большого радиуса R, что *)

и

и

1 V л Jq^ • •• д* е— 2л4adv

(2к)®-12м<

В силу только что доказанной теоремы для достаточно больших п

Пусть теперь G— неограниченная область с квадрируемой в каждой конечной части гиперплоскости (2) границей. Разобьём область О

на две—внутреннюю (GJ и внешнюю (Ga) к сфере S; ясно, что

Р(О) = Р(О1) + Р(Оа).

В силу (9) и (10) для любого е>0 мы можем выбрать столь большое R, что при всех достаточно больших п

|р(Оа) — [ 1/ 41do I< i'(11)

Кроме того, при достаточно больших п, как было только что доказано, 1^(О1)~ f(12)

Так как е>0 произвольно, то неравенства (11) и (12) полностью доказывают нашу теорему.

Замечание. Только что доказанной теореме мы придали форму, в которой все переменные хр х2, . . ., хп играют одинаковую роль.

В интегральной теореме Муавра-Лапласа мы, однако, предпочли проводить рассуждения, нарушив однородность переменных xt и х^ только с переменным x = xv Геометрически это означало, что мы рассматриваем не сами результаты испытаний (целочисленные точки на прямой х1 + х2 = 0), а их проекции на ось ОХ. Подобным же образом мы можем, нарушив однородность и в общем случае, рассмотреть интегрирование не по области О, а по её проекции О' на какую-либо координатную гиперплоскость, скажем, на плоскость хд = 0. Элемент объёма dDr в гиперплоскости xfe = О связан с элементом объёма du гиперплоскости (2) соотношением

d^' = dtFCoscp,

где <р — угол между указанными гиперплоскостями. Легко подсчитать, что

СО8Ф =СО8Ф =VPkQkV 2м.VPkQkV 2м.

СО8Ф =

СО8Ф =

VPkQk

V 2м.

VPkQk

V 2м.

В координатной гиперплоскости элемент объёма dVadx^dx^ ... dxkwV поэтому имеет место равенство

,/..^2...»», re-IS^do = V (2л)®-12р(5( J

Qi4t • • • Чк-i | ^^Pk jQi4t • • • Чк-i | ^^Pk jк1 dxx ... dxk_vк1 dxx ... dxk_v

Qi4t • • • Чк-i | ^^Pk j

Qi4t • • • Чк-i | ^^Pk j

к

1 dxx ... dxk_v

к

1 dxx ... dxk_v

В подинтегральной функции мы должны произвести замену хл на его выражение через xv х2> ...» -^й-г

Й —1

X6 = ~ УрТ^ Vpfltxt.

В результате этой замены мы имеем:

i^-‘f».(-+^+2 s xV”-

i=l4=1к!<4<j<k—lк

= Q (Xj, Xg,^Й—1)е

Интегральная предельная теорема может быть, таким образом, сформу* лирована иначе, а именно:

В условиях интегральной предельной теоремы при п-^оо

р <°) - V "w-’r^J="*6 '"■*"’ ■ '‘■,) ^ а ■ ■ •<‘х‘--(и>

Понятно, что интегральная теорема Муавра-Лапласа является частным случаем только что доказанной теоремы: она легко может быть полу- ( чена из формулы (14).J

Для этого достаточно заметить, что в схеме Бернулли А = 2, p=pv q = ра = Х—р.

При £ = 3 формула (14) принимает следующий вид:

w) у (2к)2р3 J вdx^dx*

где

р8 = !—Р1—/>2,

QVXy x^=qt^Y +g)x*-Ha(l +^)^4-2 J^M2X1X8 =

_ q^2 f X2 _|_ x2 _|_ 2 1/ ^£5 x xa).

Ре V 1 1 a I у qtqt i tj

Простой подсчёт показывает, что

Ps = 1 — Pi — Ра = qfl»—p^ поэтому

Q (xb xa) = —— (-^ + ^ + 2 j/"^ xxxa^.

§ 14. Применение интегральной теоремы Муавра-Лапласа

В качестве первого приложения интегральной теоремы Муавра- Лапласа мы оценим вероятность неравенства

где е > 0 — постоянное.

Имеем

и, значит, в силу интегральной теоремы Муавра-Лапласа

lim Р < I — — р < е I = —zr е Мг = L п -> оо 11 л I ) у 2п J

Итак, каково бы ни было постоянное е > 0, вероятность неравен- ” — Р <8 стремится к единице.

Обнаруженный нами факт был впервые найден Я. Бернулли; он носит название закона больших чисел или теоремы Бернулли. Теорема Бернулли и её многочисленные обобщения являются одними из важнейших теорем теории вероятностей. Через них именно теория соприкасается с практикой, именно в них заложен фундамент успехов применения теории вероятностей к различным проблемам естествознания и техники. Об этом будет подробнее сказано в главе, посвящённой закону больших чисел; там же мы дадим доказательство теоремы Бернулли более простым методом, отличным, как от только что изложенного, так и от употреблённого Я. Бернулли.

Мы рассмотрим теперь типичные задачи, приводящие к теореме Муавра-Лапласа.

Производится п независимых испытаний, при каждом из которых вероятность наступления события А равна р:

I. Спрашивается, чему равна вероятность того, что частота наступления события А отклонится от вероятности р не более чем на а? Эта вероятность равна

П. Какое наименьшее число испытаний нужно произвести для того, чтобы с вероятностью, не меньшей 0, частота отклонялась от вероятности не больше чем на а. Нам нужно определить п из неравенства р{| £-?]<«}>?.

Вероятность, фигурирующую в левой части неравенства, мы заменяем приближённо по теореме Муавра-Лапласа интегралом. Для определе

ния п в результате получается неравенство

dx>^dx>^

dx>^

dx>^

Ш. При данной вероятности 0 и числе испытаний п требуется определить границу возможных изменений | -^ — р j. Иными словами, зная 0 и л, нужно найти а, для которого

Р{| п —Р|<а} = ^

Применение интегральной теоремы Лапласа даёт нам для определения а уравнение

в 2 rfx = 0.

Численное решение всех рассмотренных нами задач требует умения вычислять значения интеграла

при любых значениях х и решать обратную задачу — по величине интеграла Ф(х) вычислять соответствующее значение аргумента х. Для этих расчётов требуются специальные таблицы, так как интеграл (1) при 0<х<оо в конечном виде через элементарные функции не выражается. Такие таблицы составлены и имеются в конце настоящей книги.

Черт. 9 даёт наглядное представление о функции Ф (х). При помощи таблицы значений функции Ф(х) можно вычислять по формуле Да, ^) = Ф(^) — Ф(я) также значение интеграла

1 г--

Таблица функции Ф(х) составлена только для положительных х; для отрицательных х функция Ф (х) определяется из равенства

ф(—х)=—Ф(х).

Мы теперь в состоянии довести до конца решение примера 1 § 11.

Пример 1. В при* мере 1 § 11 нам нужно было найти вероятность

p = 2P{|i = m}, где сумма распространена на те значения т, для которых

|от—2,7-10ffl|> 2,7-10^

при условии, что общее число испытаний п = 5,4 • 1023 и р = ^.

Так как

Р =Р =^J^=| =± Р /'Л—^1 >2,33 • 101.

Р =

Р =

5,4.1022. п I V^M)

РРВ силу теоремы Лапласа

Р

Р

Так как

е 2 dx < — I хе ^ dx = — e 2,х Jz

32

ТОТО1 ——=еу2л • 1051 ——=еу2л • 1052,7.1002,7.100<1О-1°о<1О-1°о

ТО

ТО

1 ——=е

у2л • 105

1 ——=е

у2л • 105

2,7.100

2,7.100

<1О-1°о

<1О-1°о

О том, как мала эта вероятность, можно судить по следующему сравнению. Предположим, что шар радиуса 6000 км наполнен белым песком, в который попала одна чёрная песчинка. Размер песчинки равен 1 мм?. Наудачу из всей этой массы песчинох берётся одна; чему равна вероятность того, что она будет чёрного цвета?

Легко подсчитать, что объём шара радиуса 6000 км немногим меньше Ю30 мм? и, следовательно, вероятность извлечь чёрную песчинку немногим больше 10~80.

Пример 2. В примере 2 § 11 нам нужно было найти вероятность того, что число бракованных изделий окажется не больше семидесяти, если вероятность для каждого изделия быть бракованным равна р = 0,005 и число изделий равно 10 000. По только что доказанной теореме эта вероятность равн#

Р {Н<7О} = РР {Н<7О} = Р50 < р— пр 20 1

Р {Н<7О} = Р

Р {Н<7О} = Р

V49J5 Vnpq/49^5 )

= Р= Р— 7,09 <— 7,09 <^ — прVnpq^ — прVnpq<2,84<2,84

= Р

= Р

— 7,09 <

— 7,09 <

^ — прVnpq

^ — прVnpq

<2,84

<2,84

= Ф (2,84) — Ф (— 7,09) = Ф (2,84) + Ф(7,09) = 0,9975.

Значения функции Ф(х) при х = 7,09 в таблицах нет, мы заменили его половиной, совершив при этом ошибку, меньшую 10“10.

Естественно, что в примерах настоящего и предыдущего параграфов, равно как и в любых других задачах, относящихся к определению вероятностей Рп(т) при каких-либо конечных значениях тип по асимптотическим формулам Муавра-Лапласа требуется оценка совершаемой при такой замене ошибки. В течение очень долгого времени теоремы Муавра-Лапласа применялись к решению подобного рода задач без сколько-нибудь удовлетворительной оценки остаточного члена. Создалась чисто эмпирическая уверенность, что при п порядка нескольких сотен или ещё большем, а также при р, не слишком близких к 0 или 1, употребление теорем Муавра-Лапласа приводит к удовлетворительным результатам. В настоящее время существуют достаточно хорошие оценки погрешностей, совершаемых при пользовании асимптотической формулой Муавра-Лапласа *).

Мы остановимся ещё на обобщении теоремы Бернулли на случай общей схемы последовательности независимых испытаний. Пусть в каждом испытании возможны к исходов, вероятность каждого из них соответственно равна pv р^ ..., рк и р2, ..., рй— числа появлений каждого исхода в последовательности п независимых испытаний. Определим вероятность одновременного осуществления неравенств

|~—Р1|<8Р |—Р2|<82,.--> |- — РЦОъ(2)

г. е. неравенств

1**1 < S*1**1 < S*

1**1 < S*

1**1 < S*

Последнее из этих неравенств, собственно, является следствием предыдущих, так как согласно (2) § 13 первые &—1 из неравенств (2) лают оценку 6-1»-i

|х6| = | —У дГ^f-xJ<y дГЕ121_6<.(3)

Согласно (16) § 13 вероятность первых к — 1 неравенств (2) [а следовательно, также неравенства (3)] имеет своим пределом при л -> оо интеграл

(2к)~^й J'" Jdxxdx4... dxk_x - 1.

§ 15. Теорема Пуассона

Мы видели при доказательстве локальной теоремы Муавра-Лап- ласа, что асимптотическое представление вероятности Рп(т) посред-

1

ством функции —т=е 2 действует тем хуже, чем больше вероят- V 2л

ность р отличается от половины, т. е. чем меньшие значения р или q приходится рассматривать, и это представление отказывается служить при р = 0, 7 = 1, а также при р = 1, q = 0. Однако значительный круг задач связан с необходимостью вычисления вероятностей Р^^т^ именно при малых значениях р *). Для того чтобы в этом случае теорема Муавра-Лапласа дала результат с незначительной ошибкой, необходимо, чтобы число п испытаний было очень велико. Возникает, таким образом, задача разыскания асимптотической формулы, специально приспособленной для случая малых р» Такая формула была найдена Пуассоном.

Рассмотрим последовательность серий

^21» ^22»

^31 > ^82> ^33

^nl> ^п2> ^п8’ • • •> ^пп»

в которой события одной серии взаимно независимы между собой и имеют каждое вероятность рП) зависящую только от номера серии. Через р.г- обозначается число фактически появившихся событий л-й серии.

Теорема Пуассона. Если рп->й при п->со, то ат

Р(нп=«)-^е(1)

гдеап = прп.Доказательство. Очевидно, чтоРп ("О = Р {^ = ^ = « (1 -р^"” ==”'(^(х — ^.\П~т =

т\ (п — т)\ \ п ) \ п /

Пусть т фиксировано. Выберем произвольно е > 0. Тогда можно выбрать Д = Д(е) столь большим, чтобы при а*^А было

aw — y° /1_*

т\ е2 *

Рассмотрим сначала те номера п^ для которых аи ^ Д. Для этих л, по неравенству 1 — х < е*®, 0 <; х ^ 1:

a™8

рп^<—хв П П^ 2" ПРИ п>2т

Поэтому для указанных п

8.8

< 2"+2 —®*

Рассмотрим теперь те номера п, для которых ап^,А. Так как lim <(1— —) —= 0 при ап^А и при постоянном т »->со \\ п /)

то в силу формулы (2) при л>-л0(е)

ат

Рп (т)7 е ап <е,

ч. и тр. д.

Заметим, что теорема Пуассона имеет место и в том случае, когда вероятность события А в каждом испытании равна нулю. В этом случае ап = 0.

Обозначим

Полученное распределение вероятностей носит название закона Пуассона.

Легко подсчитать, что величины Р (т) удовлетворяют равенству 2 р (т) = 1. Изучим поведение Р (т) как функции т. С этой целью рассмотрим отношение

Р(т) д

Р(т — \) т е

Мы видим, что если m>at то P(m)<P(w—1), если же т<а то Р(т)>Р(т— 1), если, наконец, т = а, то Р(т) =р(т—1). Отсюда мы выводим, что величина Р(т?) возрастает при увеличении т от 0 до т0 = [а], и при дальнейшем увеличении т убывает. Если а — целое число, то Р(т) имеет два максимальных значения: при т0 = а и при т^ = а—1. Приведём примеры.

Пример 1. Вероятность попадания в цель при каждом выстреле равна 0,001. Найти вероятность попадания в цель двумя и более пулями, если число выстрелов равно 5000*).

Считая каждый выстрел за испытание и попадание в цель — за событие, мы можем для вычисления вероятности Р(рп^2) воспользоваться теоремой Пуассона. В рассматриваемом примере

ап = пр = 0,001 • 5000 = 5.

Искомая вероятность равна

P{^>2}=SP«(«) = l-P„(0)-Pn(l).

«1 = 2

По теореме Пуассона

Ри^~е-\ Рп{\)~Ъе-\

Поэтому '

Р {Рп > 2} ~ 1 - бе-6 ~ 0,9596.

Максимальное значение вероятность Рп(т) принимает при /п = 4 и /п = 5. Эти вероятности равны с точностью до четвёртого десятичного знака

Р(4) = Р(5)~О,1751.

Вычисления по точной формуле дают с точностью до четвёртого знака Рб000 (0) = 0,0071, РБ000 (1) = 0,0354 и, следовательно,

Р^п> 2} =0,9575.

Ошибка от использования асимптотической формулы меньше 0,25°/0 вычисляемой величины.

Пример 2. На прядильной фабрике работница обслуживает по несколько сотен веретён, каждое из которых прядёт свой моток пряжи При вращении веретена пряжа из-за неравномерности натяжения, неровноты и других причин в моменты времени, зависящие от случая, рвётся. Для производства важно знать, как часто могут происходить обрывы при тех или иных условиях работы (сорт пряжи, скорость веретён и т. д.).

Считая, что работница обслуживает 800 веретён и вероятность j обрыва пряжи на каждом из веретён в течение некоторого проме- | жутка времени т равна 0,005, найти наиболее вероятное число обрывов и вероятность того, что в течение промежутка времени т про- ' изойдёт не более 10 обрывов.

Так как

ап = пр = 0,005 • 800 = 4,

то наиболее вероятных чисел обрывов за промежуток времени т будет два: 3 и 4. Их вероятности

^800 (3) = ^зоо (4) = с^ • 0,005* . 0,995’88.

По формуле Пуассона имеем:

Люо (3) = ^800(4) ~е-* = ^ . в-* = 0,1954.

Точное значение Р800(3) = Р800 (4) = 0,1945. Вероятность того, ; что число обрывов за промежуток времени т будет не более 10. равна

10со

Р{р„<ю}=2Р800 (W) = 12 ^800^У

т=0т»11

В силу теоремы Пуассона

P8oo(w)~|fe"4 0» = 0, 1, 2. ...),

§ 15] поэтому§ 15] поэтомуp{h»<io} = i-2S^4-«1=11p{h»<io} = i-2S^4-«1=11НоНоJj т! 6 ^ U1M 12! ^ 13УJj т! 6 ^ U1M 12! ^ 13У412 •= ^*-< = 0,00276.412 •= ^*-< = 0,00276.С другой стороны,m! *~ <11!* + 12! е т=пС другой стороны,m! *~ <11!* + 12! е т=п41313!41313!Таким образом,Таким образом,4^24411135 е4^24411135 е= 0,00284.= 0,00284.

§ 15] поэтому

§ 15] поэтому

p{h»<io} = i-2S^4-

«1=11

p{h»<io} = i-2S^4-

«1=11

Но

Но

Jj т! 6 ^ U1M 12! ^ 13У

Jj т! 6 ^ U1M 12! ^ 13У

412 •

= ^*-< = 0,00276.

412 •

= ^*-< = 0,00276.

С другой стороны,

m! *~ <11!* + 12! е т=п

С другой стороны,

m! *~ <11!* + 12! е т=п

413

13!

413

13!

Таким образом,

Таким образом,

4^244

11135 е

4^244

11135 е

= 0,00284.

= 0,00284.

0,99716 < Р [уп < 10} < 0,99724.

Подобно тому, как и при использовании теоремы Муавра- Лапласа, возникает вопрос об оценке совершаемой ошибки при замене точной формулы для вычисления Pn(w) на асимптотическую формулу Пуассона.

Из равенства

/>„«»=(.-.у „,-Ч-У_

гдегде

где

где

мы легко можем найти эту оценку для случая т = 0. В самом деле, так как при любом положительном х

0<1— е-«<х1

то каковы бы ни были ап и п:

Так как

ООо„ СОъ

к \п) ^ 2в2“г 3 ^ \ л У

А«2А«8

= 2п2 •*2л8 Л 2L\в®п8 * п — ам2л(л — #,3*

П V п)

то

2(л-яп) •

Из того, что Rn неотрицательно, мы заключаем, что при замене Рп (0) на е-*0^ мы несколько увеличиваем вероятность Pw (0).

§ 16. Иллюстрация схемы независимых испытаний

В качестве иллюстрации использования предыдущих результатов для целей естествознания мы рассмотрим весьма схематически проблему случайных блужданий частицы на прямой линии. Эта задача может рассматриваться как прообраз реальных физических задач теории диффузии, броуновского движения и пр.

Представим себе, что в определённые моменты времени частица, находящаяся в начальный момент в положении х = 0, испытывает случайные толчки, в результате которых она получает смещение вправо или влево на единицу масштаба. Таким образом, в каждый из этих моментов частица с вероятностью ^ смещается на единицу вправо или с такой же вероятностью — на единицу влево. В результате п толчков частица переместится на расстояние р- Ясно, что в этой задаче мы имеем дело со схемой Бернулли в чистом виде. Отсюда следует, что при каждых п и т мы можем вычислить вероятность того, что рь = т; а именно

Р{р, = т} =Р{р, = т} =сп4 W?»если — «<»*<«.сп4 W?»если — «<»*<«.0, если | т | > п.0, если | т | > п.

Р{р, = т} =

Р{р, = т} =

сп4 W?»если — «<»*<«.

сп4 W?»если — «<»*<«.

0, если | т | > п.

0, если | т | > п.

При больших значениях п, как Муавра-Лапласа,•Р (р- = т}-При больших значениях п, как Муавра-Лапласа,•Р (р- = т}-это следует из локальной теоремыэто следует из локальной теоремы1 --1 р 2ПУ2тгя1 --1 р 2ПУ2тгя(1)(1)

При больших значениях п, как Муавра-Лапласа,

•Р (р- = т}-

При больших значениях п, как Муавра-Лапласа,

•Р (р- = т}-

это следует из локальной теоремы

это следует из локальной теоремы

1 --

1 р 2П

У2тгя

1 --

1 р 2П

У2тгя

(1)

(1)

На полученную формулу мы сможем смотреть следующим образом. Пусть в начальный момент имелось большое число частиц, имеющих координату х = 0. Все эти частицы независимо друг от друга начинают перемещаться по прямой под влиянием случайных толчков.

Тогда после п толчков доля частиц, переместившихся на расстояние т^ даётся формулой (1).

Понятно, что мы рассматриваем идеализированные условия движения частиц и реальные молекулы движутся при гораздо более сложных условиях, однако полученный результат даёт правильную качественную картину явления.

В физике приходится рассматривать более сложные примеры случайных блужданий. Мы ограничимся столь же схематическим рассмотрением влияния 1) отражающей стенки, 2) поглощающей частицы

стенки.

Представим себе, что на расстоянии s единиц вправо от точки Х=0 имеется отражающая стенка; так что частица, попавшая в какой-либо момент времени на эту стенку, при следующем толчке с вероятностью единица выбивается в том же направлении, откуда

она пришла.

Для наглядности станем изображать положение частицы на плоскости (х, /). Путь частицы изобразится при этом в виде ломаной линии. При каждом толчке частица передвигается на единицу «вверх» и на единицу вправо или влево (каждый раз, когда х < s, с веро

ятностью половина). Если же x = s, то при очередном толчке частица сдвигается на единицу влево.

Для подсчёта вероятности р (р.=т) поступим следующим образом: мысленно откинем стенку и разрешим частице двигаться свободно, как если бы не было стенки. На чертеже показаны такие идеализированные пути, приводящие в точки А и А\ симметрично расположенные относительно стенки. Ясно, что для того, чтобы реальная частица, дви

гаясь с отражениями, достигла точки

А, необходимо и достаточно, чтобы частица, двигающаяся в идеали

зированной обстановке (без отражающей стенки), достигла либо точки Л, либо точки Л'. Но вероятность попасть в точку А в идеализированной обстановке, очевидно, равна

Р{р = »0Р{р = »0

Р{р = »0

Р{р = »0

Точно так же вероятность попасть в точку А' равна (абсцисса точки А' равна 2s — от)

Р {|i = 2s — ml = ;—гР {|i = 2s — ml = ;—г

Р {|i = 2s — ml = ;—

г

Р {|i = 2s — ml = ;—

г

Искомая вероятность, следовательно, равна

Рп (пц s) = Р {р. = т\ + Р {р. = 2s — тД.

Если воспользоваться локальной предельной теоремой Муавра-Ла- пласа, то находим, что

I(2e—m)a\

P„(m, s)~—= е а» +e 2” I.

V 2кп IJ

Это известная формула из теории броуновского движения. Она приобретает более симметричный вид, если начало координат поместить в точке х = s и, следовательно, перейти к новой координате г по формуле z = x—s. В результате этой замены получим, что

1( J£±*L№—•?

Р^ = ^ = Р№\к-у8, s\ =Р^ = ^ = Р№\к-у8, s\ =1{g 2П -Ug2»

Р^ = ^ = Р№\к-у8, s\ =

Р^ = ^ = Р№\к-у8, s\ =

У 2л и (

Мы перейдём теперь к рассмотрению третьей схематической задачи,

когда на пути частицы поставлена в точке x = s поглощающая пере- ' городка. Частица, попавшая на перегородку, в дальнейшем движении участия уже не принимает. Очевидно, что в этом примере вероятность . попасть в точку х = т(т<з) после п толчков будет меньше, ; чем Pn(m) (т. е. меньше вероятности попадания в эту точку без * поглощающей стенки); обозначим искомую вероятность симво-;

лом PnQn\s\

Для подсчёта вероятности Рп (пц s) снова мысленно уберём погло- : щающую стенку и предоставим тем самым частице свободно дви- ч гаться по прямой. Частица, попавшая ; в некоторый момент времени в положе- ; ние х =ь s, оказывается в последующие моменты времени справа и слева от ^’ прямой х = s с одной и той же вероят- zностью. Точно так же после попадания

/на прямую x = s частица с одной и

/той же вероятностью может попасть-

/как в точку А^т. п\ так и в точку!

✓A! (2s — пцпу Но в точку А1 частица'

может попасть, только попав предварительно в положение х = s, поэтому для sвсякого пути, ведущего в точку А\

имеется путь, симметричный относи- . 1Lтельно прямой х = s и ведущий в точку

А; точно так же для всякого запре- '

щённого в действительном движении пути, приводящем в точку Д, существует симметричный относительно прямой x = s путь, приводя- , щий в точку А’. При этом заметим, что мы рассматриваем симметрию | путей, только начиная с момента попадания на прямую х = s. Прове-1

дённые рассуждения показывают нам, что из путей, приводящих в точку Д в идеализированном движении, мы должны отбросить при подсчёте числа благоприятствующих случаев в реальном движении ровно столько, сколько путей ведёт в точку А\ Отсюда, очевидно, следует, что

Pn ^т, s) = Р {|л = т\ — Р {р = 2s — т^

В силу локальной теоремы Муавра-Лапласа имеем: —i(2s—т)а

Рн (т, s) ~-^ ^е ^ — е ^ }. у

7 Зак. 1826. Б. В» Гнеденко

ГЛАВА 3ЦЕПИ МАРКОВА

§ 17. Определение цепи Маркова

Непосредственным обобщением схемы независимых испытаний является схема так называемых цепей Маркова, впервые систематически изученная известным русским математиком A. An М а р- ковым. Мы ограничимся изложением элементов его теории.

Представим себе, что производится последовательность испытаний, в каждом из которых может осуществиться одно и только одно из к несовместимых событий А^, AaS), . ^./А^ (верхний индекс, каки в предыдущей главе, обозначает номер испытания). Мы скажем, что последовательность испытаний образует цепь Маркова, точнее, простую цепь Маркова, если вероятность в $4~ ^-м испытании (s = 1, 2, 3,...) осуществиться событию ASf^y*» 1, 2, ...,&) зависит только от того, какое событие произошло при s-м испытании и не изменяется от добавочных сведений о том, какие события происходили в более ранних испытаниях или произойдут в более поздних.

Часто при изложении теории цепей Маркова придерживаются иной терминологии и говорят о некоторой физической системе S, которая в каждый момент времени может находиться в одном из состояний Av А2, ..., А^ и меняет своё состояние только в моменты /р /2, ..., /п, ... Для цепей Маркова вероятность перейти в какое- либо состояние А^ (Z= 1, 2, ..., k) в момент т (Zg<T < /8+1) зависит только от того, в каком состоянии система находилась в момент Ц18_х < t< t8\ и не изменяется от того, что становятся известными её состояния в более ранние моменты.

Для иллюстрации рассмотрим два схематических примера.

Пример 1. Представим себе, что частица, находящаяся на прямой, движется по этой прямой под влиянием случайных толчков, происходящих в моменты tv t^ t^, ... Частица может находиться в точках с целочисленными координатами a, a + L a-f-2, ..м6; в точках а и b находятся отражающие стенки. Каждый толчок перемещает частицу вправо с вероятностью р и влево с вероятностью q = 1 — р, если только частица не находится у стенки. Если же

§ 181 частица находится у стенки, то любой толчок переводит её на единицу внутрь промежутка между стенками. Мы видим, что приведённый пример блуждания частицы представляет собой типичную цепь Маркова. Точно так же можно бы было рассмотреть случай, когда частица прилипает к одной из стенок или к обеим из них.

Пример 2. В модели Бора атома водорода электрон может находиться на одной из допустимых орбит. Обозначим через А^ событие, состоящее в том, что электрон находится на Z-й орбите. Предположим далее, что изменение состояния атома может наступать только в моменты tv t^ t^ ... (в действительности эти моменты представляют собой случайные величины). Вероятность перехода с Z-й орбиты на у-ю в момент t8 зависит только от Z и / (разность у— I зависит от количества энергии, на которую изменился заряд атома в момент Q и не зависит от того, на каких орбитах находился электрон в прошлом.

Последний пример представляет собой цепь Маркова с бесконечным (правда, только в принципе) числом состояний; этот пример был бы несравненно ближе к реальной обстановке, если бы моменты перехода нашей системы в - новое состояние могли бы меняться непрерывно.

§18. Матрица перехода

Мы ограничимся далее изложением простейших фактов для одно* родных цепей Маркова, в которых условная вероятность появления события А^1^ в (s-(-I)-m испытании при условии, что в s-м испытании осуществилось событие А^, не зависит от номера испытания. Мы назовём эту вероятность вероятностью перехода и обозначим букве® р^; в этом обозначении первый индекс всегда будет обозначать результат предшествующего испытания, а второй индекс указывает, в какое состояние перейдёт система ^ последующий момент времени.

Полная вероятностная картина возможных изменений, осуществляющихся при переходе от одного испытания к непосредственно следующему, задаётся матрицей

(

Pu Pia ••• Pi А • Ра1Р22 • * • Pak 1'

. ...ее I

.Рк\Рка • • • Pw

составленной из вероятностей перехода, которую мы будем называть матрицей перехода.

Отметим, каким условиям должны удовлетворять элементы этой матрицы. Прежде всего они, как вероятности, должны быть

7**.

неотрицательными числами, т. е. при всех / и У

0<ру<1.

Далее из того, что при переходе из состояния А^ в s-м испытании система обязательно переходит в одно и только в одно из состояний А^г\ в (s-j-l)-M испытании вытекает равенство

к

ДрЦ=Х 0=1, 2А).

Таким образом, сумма элементов каждой строки матрицы перехода равна единице.

Наша первая задача в теории цепей Маркова состоит в определении вероятности перехода из состояния А^ в s-м испытании в состояние $*п) через п испытаний. Обозначим эту вероятность значком Ptj(ny

Рассмотрим какое-нибудь промежуточное испытание с номером s-\-m. В этом испытании осуществится какое-то одно из возможных событий Д^^^С^ ^r^k). Вероятность такого перехода, согласно с только что введенными обозначениями, равна Pty (т). Вероятность же перехода из состояния Д^^в состояние А^^ равна РуДп— т^ По формуле полной вероятности

к

Р</(«)=(1)

Обозначим через тсп матрицу перехода через п испытаний

/Рп(л)Р,а(л) PVk^\

VnM^t”) ••• Ркк(п)/

Согласно (1) между матрицами тг8 с различными индексами существует соотношение

(0</И<Л).

В частности, при л = 2 находим, что

27^2 = ^1 е ^1 ==при л = 3

8 ТСз= TCi • 1t2.= ТСj • ТГ^ = Лц.

и вообще при любом п п тсп = кР

Отметим частный случай формулы (1): при т = 1 п

Г*1

В качестве упражнения предлагается читателю написать матрицу перехода для первого примера предыдущего параграфа.

Теорема о предельных вероятностях

Теорема. Если при некотором $>0 все элементы матрицы перехода к8 положительны, то существуют такие постоянные числа p^{j^\^ 2, ..., ^), что независимо от индекса i имеют место равенства

Нш Р<Дп) = р5. й-»оо

Доказательство. Идея доказательства этой теоремы весьма проста: сначала устанавливается, что наибольшая из вероятностей PijW с ростом п не может возрастать, а наименьшая не может убывать; далее показывается, что максимум разности Р^(п)— PyW (I, /=1, 2, ..., Л) стремится к нулю, когда п-*оо» Этим доказательство теоремы, очевидно, завершается. Действительно, в силу известной теоремы о пределе монотонной ограниченной последовательности мы заключаем из первых двух указанных свойств вероятностей Ру (/г), что существуют

lim min PtHn^=pA

П-^СО 1<к<й и

lim max P(j (л) = p,. й->оо1<<<й

А так как в силу третьего из указанных свойств

lim max |Ръ(л)—Р^(я)| = 0, n->ool<<, l<k то

Pj = Pj = Pj*

Мы перейдём теперь к осуществлению намеченного плана. Заметим прежде всего, что при п > 1 имеет место неравенство

*к

pij W = S Р«Рц (»—!)> min Pv• (л — 1) 2 Ри =l—ll<l<kz—1

= min Py(n—1).

Это неравенство имеет место при каждом I, в частности при том, при котором

Pi)W= min Ру^п).

Таким образом, •min Ру^п)^ min Р4Лп— 1).

1<<<А1«<А

Подобным же путём легко обнаружить, что max PMri^^ шах Ри^п—1). 1<<<Л1<<<к'

Мы можем считать, что п > s, и поэтому имеем право записать по формуле (1), что к

Pi} 00 = ,2 Pit (О • Pf} (п — s).

Рассмотрим разность

Ру («)—Рц («) = ,2 Pir (О Pfj {n — ^j— Sj Pfr (s) • Pf} (n — s) = к

= 2 [P<r(s)-PZr(s)]Prj(n —s). r=l

Обозначим положительные разности P<r(s)—PiAs) символом p^, а неположительные разности через —p«w. Так как'

*iiPiAsi-iiPtAs)-!,

r*lr=l

TO*

к

2 [P<r0)-PZr(s)] = 2p2)-2P^) = 0(2)

r—1(r)(r)

Из этого равенства заключаем, что .(Г) W

Так как по предположению при всех i и r(Z, г=1, 2, 3, ..., &)

Р<г($) > 0, то.

к

2P«r)< 2p«(0=i. (г).г=1

Таким образом, 0<Л«<1.

Пусть h = max hu.

Так как число возможных исходов конечно, то наряду с величинами Кц величина Л удовлетворяет неравенствам

04Л<1.^

]4з (1) находим, что при любых i и 1(1, 1= 1, 2, ..., ft)

I Ру W -Ру (”) I - IS ₽^ («—s) -5 ^Py (n—s)\< W(Г)

<1 max Prj(n— s)SP«— min РгЛп—s)S?«rJ |< l<r<fc(n 1<г<й(r)

^Al max Pyj^n — s)— min PrAn— s)|*C l<r<fcl<r<&

max \Р4Дп— s)— PiAn — s)| i«, Kit

и, следовательно, также

max |Ру(я) — PiAn)\<h max \Ptj(n —s) — Pv(n — s)|.

i«.x<k 4i<<, «&

Применив это неравенство [yj раз, найдём, что max |Ру(я)—Ру(я)|<лЫ max I Ру (я — [yl^ —

i<i. К»1«, l<fc I ' Ls J /

Так как всегда

I Py (m) —Py (/га) |<1, то ясно, что

max |(n) — P^ (/z) К A1 d J.

i<<. К» 3

Г /i 1

При n-^oo также Ь- -> oo, поэтому в силу (3) отсюда следует, что lim max |Р«(л) — ^y(zz)l = O. n->ool<<, i<ic

Из доказанного заключаем также/ что ’2ipj=i. ^-1

Действительно, кк

ГЛАВА 4

СЛУЧАЙНЫЕ ВЕЛИЧИНЫ И ФУНКЦИИ РАСПРЕДЕЛЕНИЯ

Основные свойства функций распределения

Одним из основных понятий теории вероятностей является понятие случайной величины. Прежде чем переходить к формальному его определению, мы остановимся на рассмотрении примеров.

Число космических частиц, попадающих на определённый участок земной поверхности в течение промежутка времени определённой длины, * подвержено значительным колебаниям в зависимости от многих случайных обстоятельств.

Число вызовов, поступивших от абонентов на телефонную станцию в течение определённого промежутка времени, также является случайной величиной и принимает те или иные значения в зависимости от случайных обстоятельств.

Размер уклонения точки падения снаряда от центра цели определяется большим количеством разнообразных причин, носящих случайный характер. В результате в теории стрельбы вынуждены считаться с явлением рассеивания снарядов около центра цели как со случайным явлением и рассматривать указанные уклонения как случайные величины.

Скорость молекулы газа не остаётся неизменной, а меняется в зависимости от столкновений с другими молекулами. Этих столкновений очень много даже в течение короткого промежутка времени. Зная скорость молекулы в данный момент, нельзя с полной определённостью указать её значение, скажем, через 0,01 или 0,001 секунды. Изменение скорости молекулы носит случайный характер.

Приведённые примеры показывают с достаточной определённостью, что со случайными величинами приходится иметь дело в самых разнообразных областях науки и техники. Возникает естественная и притом весьма важная задача создания методов изучения случайных величин.

Несмотря на всю разнородность конкретного содержания приведённых нами примеров, все они с точки зрения математики представляют одну и ту же картину. А именно, в каждом примере мы имеем дело 9 величиной, так или иначе характеризующей исследуемое явление.

§201

Каждая из этих величии под влиянием случайных обстоятельств способна принимать различные значения. Заранее предсказать, какое значение примет эта величина, нельзя, так как оно меняется случайным образом от испытания к испытанию.

Таким образом, для того чтобы знать случайную величину, прежде всего необходимо знать те значения, которые она может принимать. Однако одного перечня значений случайной величины ещё недостаточно, чтобы по ним можно было делать какие-лйбо существенные выводы. Действительно, если в третьем примере рассмотреть газ при разных температурах, то возможные значения скоростей молекул останутся теми же самыми, тогда как состояния газа будут различны. Таким образом, для задания случайной величины необходимо знать не только, какие значения может она принимать, но и как часто, т. е. с какой вероятностью она принимает эти значения.

Разнообразие случайных величин весьма велико. Число принимаемых ими значений может быть конечным, счётным или несчётным; значения могут быть расположены дискретно или заполнять интервалы сплошь или же не заполнять интервалы, но располагаться всюду плотно. Для того чтобы задавать вероятности значений случайных величин, столь различных по своей природе, и притом задавать их одним и тем же способом, в теории вероятностей вводят понятие функции распределения случайной величины.

Пусть $ — случайная величина и х — произвольное действительное число. Вероятность того, что $ примет значение, меньшее чем х, называется функцией распределения вероятностей случайной величины £:

F(x) = P{S<x}.

Условимся в дальнейшем, как правило, случайные величины обо значать греческими буквами, а принимаемые ими значения — строчными латинскими.

Резюмируем сказанное: случайной величиной называется переменная величина, значения которой зависят от случая и для которой определена функция распределения вероятностей*).

Рассмотрим примеры функций распределения.

Пример 1. Обозначим через р. число появлений события Л в последовательности п независимых испытаний, в каждом из которых вероятность его появления постоянна и равна р. В зависимости от случая р. может принимать все целочисленные значения от 0 до п включительно. Согласно результатам главы 2

Рп W = Р {И = /и) = C”pVW.

Функция распределения величины у определяется следующим способом:

0длях ^ О,

F^ = ^f*^ для °<х<№>

ДЛЯX > п.

Функция распределения представляет собой ступенчатую линию со скачками в точках х = 0, 1, 2, ..., п; скачок в точке х = к равен Pw(&).

Рассмотренный пример показывает, что так называемая схема Бернулли может быть включена в общую теорию случайных величин.

Пример 2. Пусть случайная величина $ принимает значения О, 1, 2, ... с вероятностями

p„ = p{5 = «}=l±-(я==0, 1, 2,...).

где X > 0 — постоянная. Функция распределения величины 5 представляет собой как бы лестницу с бесконечным числом ступенек, со скачками во всех неотрицательных целочисленных точках. Величина скачка в точке х = п равна рп; при х < 0 имеем F (х) = 0. Про случайную величину, рассмотренную в настоящем примере, говорят, что она распределена по закону Пуассона.

Пример 3. Мы скажем, что случайная величина нормально распределена, если её функция распределения имеет вид

х (з—а)2Ф(х) = С j* е ^ dz,

— ОО

где С>0, а>0, а—постоянные. Впоследствии мы установим связь между постоянными а и С и выясним теоретико-вероятностный смысл параметров а и а. Нормально распределённые случайные величины играют особо важную роль в теории вероятностей и её приложениях, в дальнейшем у нас будет много поводов убедиться в этом.

Заметим, что если в двух первых рассмотренных нами примерах случайные величины могли принимать только конечное или счётное множество значений (дискретные величины), то случайные величины, распределённые по нормальному закону, могут принимать значения из любого интервала. Действительно, как мы увидим ниже, вероятность нормально распределённой случайной величине принять значение, заключающееся в интервале xt ^ £ < х2, равна

Ф №) — Ф (Xi) = С J е **’ dzах

р? следовательно, при любых х^ и х2 (х^ ф х2) положительна.

При помощи функции распределения случайной величины 6 можно определить вероятность неравенства Xj ^ В < ха при любых хх и хй. В самом деле, если через А обозначить событие, состоящее в том, что 5 примет значение, меньшее чем хй, через В — событие, состоящее в том, что 5<хп и, наконец, через С—событие хх^£ < х3, то, очевидно, имеет место следующее равенство:

Л = В+С.

Так как события Ви С несовместимы, то

Р(Л) = Р(В)+Р(С). Но

Р(Л) = Г(х2), РЮ = Р(х^ Р^С) = Р\Х1<^<Х^, поэтому

P{x1<$<x2} = F(x2)—FCxJ.(1)

Так как, по определению, вероятность есть неотрицательное число, то из равенства (1) следует, что при любых Xj и x2(x2>Xj) имеет место неравенство

т. е. что функция распределения любой случайной величины есть неубывающая функция.

Очевидно, далее, что функция распределения F(x) при любом х удовлетворяет неравенству

0«Л*Ю'(2)

Мы скажем, что функция распределения F ^ имеет при х = х0 скачок, если

Р(Хо + О)— F(x0 — 0) = С0>0.

Функция распределения может иметь не более чем счётное множество скачков. В самом деле, скачков размера, большего -j, функция распределения может иметь не более одного; скачков размера от одной четвёртой до половины ^ < Со<;^—не более трёх. Вообще скачков размером от ^ до ^зт может быть не более чем 2*— 1. Совершенно ясно, что мы можем пронумеровать все скачки, расположив их по величине, начиная с больших значений и повторяя равные значения столько раз, сколько скачков этой величины имеет функция F^x\

Установим ещё несколько общих свойств функций распределения» Определим F (— оо) и F (-]~ оо) равенствами

Гк— оо) = lim F(—п), F( + oo) = lim Л(~{-л)^-*4-оо»">О»

и докажем, что

F (— оо) = 0, Р( -|-оо) == 1.

Действительно, так как неравенство Е < Ц- оо достоверно, тоР{Е< + оо} = 1.

Обозначим через Q^ событие, состоящее в том, что к — 1 ^ Е < к. Так как событие 6 < -{- оо эквивалентно сумме событий Qb то на основании расширенной аксиомы сложения

Р{5< + оо}= f p{Qt}.

К =—ОО Следовательно, при п->оо

пп

2 P{Q)J = 2 [^W — ?&— l)J = f(«) — F( — л)-И. k=\ — nk=l—n

Отсюда, принимая во внимание неравенства (2), заключаем, что при л-> оо

Функция распределения непрерывна слева.

Выберем какую-нибудь возрастающую последовательность х0 < <Xi<x2< ... <хп< ..., сходящуюся к х.

Обозначим через Ап событие {хп<^Е<х}. Тогда ясно, что А^А^ при />У, и произведение всех событий Ап есть невозможное событие. По аксиоме непрерывности должно быть

Пт Р(ЛП) = lim {F(x) —F(xn)} = F(x)— \хтР(хп) = Я-»ООП-»ООП-»ОО

= Р(х)— Р(х—0) = 0 ч. и тр. д.

Точно так же можно доказать, что

. P{5<x}=F(x + 0).

Мы видим, таким образом, что каждая функция распределения является неубывающей, непрерывной слева и удовлетворяющей условиям Р (— оо) = 0 и Р ( + оо) = 1 функцией. Верно и обратное: каждая функция, удовлетворяющая перечисленным условиям, может рассматриваться как функция распределения некоторой случайной величины.

Заметим, что в то время как каждая случайная величина однозначно определяет свою функцию распределения, существует сколько угодно различных случайных величин, имеющих одну и ту же функцию распределения. Так, если Е принимает два значения —1 и 4“ Ь Каждое с вероятностью ~ и vj = — 5, то ясно, что всегда Е отлична

от т|. Тем не менее обе эти случайные величины имеют одну и ту же

функцию распределения

0 прих^— 1,

Р^ =

У при —1<х<1,

1 приХ> 1.

§ 2L Непрерывные и дискретные распределения

Иногда поведение случайной величины характеризуют не заданием её функции распределения, а каким-либо иным способом. Всякая такая характеристика носит название закона распределения случайной величины, если только по определённым правилам можно получить из неё функцию распределения. Так, законом распределения будет функция интервала Р {хь х2}, представляющая собой вероятность неравенства х1^6<х2. Действительно, зная Р\хъ х^» мы можем найги функцию распределения по формуле

F(x) = P{ —оо, х}.

Мы уже знаем, что и по F (х) можно найти для любых xt и х2 функ- цию Р {Xj, х2) : Р {xv х2} = F (х2) — F(х^.

Часто в качестве закона распределения полезно брать функцию множества Р {£}, определённую для всех борелевских множеств и представляющую собой вероятность того, что случайная величина 6 примет значение, принадлежащее множеству Е. Вероятность Р(Е\ в силу расширенной аксиомы сложения, есть вполне аддитивная функция множества, т. е. для любого множества Е, представляющего собой сумму конечного или счётного числа непересекающихся множеств Е^:

р^=^р^.

Из всевозможных случайных величин мы выделим прежде всего те, которые могут принимать только конечное или счётное множество значений. Такие величины мы будем называть дискретными. Для полной вероятностной характеристики дискретной случайной величины 6, принимающей с положительными вероятностями значения хи х2, х8, ..., достаточно знать вероятности p^Pj^^i*). Очевидно, что по совокупности вероятностей р^ можно определить функцию распределения F (х^ посредством равенства

в котором суммирование распространяется на все те индексы, для которых х^ < х.

♦) Эти и только эти значения хп мы назовём возможными значениями дискретной случайной величины 5.

Функция распределения любой дискретной величины разрывна, возрастает скачками при тех значениях х, которые являются возможными значениями 5. Величина скачков функции F (х) в точке х, как мы выяснили ранее, равна разности F(x-4~0) — F(x\

Если два возможных значения величины Е разделены интервалом, в котором других возможных значений Е нет, то в этом интервале функция распределения F(x) постоянна. Если возможных значений Е конечное число, например п^ то функция распределения F(x) представляет собой ступенчатую кривую с п^! интервалом постоянства. Если же возможных значений Е имеется счётное множество, то это последнее может быть и всюду плотным, так что интервалов постоянства у функции распределения дискретной случайной величины может и не быть. Пусть для примера возможными значениями Е будут все рациональные числа и только они. Пусть эти числа занумерованы каким-нибудь способом: ^ г2, ... и вероятности Р{ВвГА}=Рл определены посредством равенства ph = ^. В нашем примере все рациональные точки являются точками разрыва функции распределения.

В качестве другого важного класса случайных величин мы выделим те из них, для которых существует неотрицательная функция р (х), удовлетворяющая при любых х равенству

= J P^dz.

Случайные величины, обладающие этим свойством, называются непре рывними; функция р (х) называется плотностью распределения вероятностей.

Отметим, что плотность распределения вероятностей обладает следующими свойствами:

р^>0.

При любых xY и ха удовлетворяет равенству

Р{-«1<^<^е}= / P^dx.

хк

В частности, если р (х) непрерывна в точке х, то с точностью до бесконечно малых высших порядков Р (х ^ Е < х -}- dx\ =р (х) dx.

J p^x^dx = 1.

Величины, распределённые по нормальному или равномерному закону*), дают нам примеры непрерывных случайных величин*

Пример. Рассмотрим ближе нормальный закон распределения» Для него плотность распределения вероятностей равна

(а?—а)аp^ = C-e .

Постоянное С определяется, исходя из свойства 3. Действительно» (®—аР Cje ^ dx = l.

Заменой переменных ^^~ = х это равенство приводится к виду

г --Са J е » а* = 1.

Интеграл, стоящий в правой части этого равенства, известен под именем интеграла Пуассона, причём

J е 2 dz = У^*

Таким образом, находим, что

и, значит, для нормального распределения

1(®—а?

а у 2л

Функция р (х) достигает максимума при х = а, имеет точки перегиба при х = а±а; ось абсцисс служит для неё асимптотой при x~>ztoo. Для иллюстрации влияния параметра о на форму графика

плотности нормального распределения мы приводим на черт. 12 гра- фики р(х) при а = 0 и 1) а8 = 1, 2) а8=1, 3) о8 = 4. Мы видим, что чем меньше значение а, тем кривая р (х) имеет большее значение •

максимума и падает круче. Это означает, в частности, что вероятность попасть в интервал (— а, а) больше для той случайной величины, распределённой по нормальному закону (с параметром а = 0), для которой величина а меньше. Мы, следовательно, можем считать а характеристикой разбросанности значений величины Е. При а ф 0 кривые плотностей имеют ту же форму, но сдвинуты вправо (а > 0) или влево (а < 0) в зависимости от знака параметра а.

Помимо дискретных и непрерывных случайных величин существуют, разумеется, и другие случайные величины. Кроме величин, которые ведут себя в одних интервалах как непрерывные, а в других как дискретные, имеются величины, не являющиеся ни в одном интервале ни дискретными, ни непрерывными. К таким случайным величинам относятся, например, все те, функции распределения которых непрерывны, но при этом возрастают только на множестве лебегов- ской меры нуль. В качестве примера такой случайной величины приведём величину, имеющую функцией распределения известную кривую Кантора. Напомним построение этой кривой. Величина 6 принимает только значения между нулём и единицей. Следовательно, её функция распределения удовлетворяет равенствам

F(x)==0 при х<^0, ^(х) — ! при х>1.

Внутри интервала (0, 1) Е принимает значения только в первой и последней его третях, в каждой с вероятностью —. Таким образом,

х 11/ 2

В интервалах Го, у) и ^В интервалах Го, у) и ^, 1) Е снова может принимать значения, 1) Е снова может принимать значенияFW = ^ при з’<х<з'-

В интервалах Го, у) и ^

В интервалах Го, у) и ^

, 1) Е снова может принимать значения

, 1) Е снова может принимать значения

з

только в первой и последней трети каждого из них, в каждой с вероятностью ~. Этим определяются значения F(x) ещё в двух интервалах:

FW=4- пРи 9"<л:<9-> е* / х 378

fW = T при -gOCg”

Далее в каждом из оставшихся интервалов повторяется то же построение и этот процесс продолжается до бесконечности. В результате функция F(x) оказывается определённой на счётном множестве интервалов, являющихся интервалами смежности некоторого нигде не плотного совершенного множества меры нуль. На этом множестве доопределяем функцию F (х) по непрерывности. Величина Ес таким образом определённой функцией распределения не дискретна, так как её функция распределения непрерывна, но в то же время Е не непрерывна, так

как её функция распределения не является интегралом от своей производной.

Все введённые нами определения переносятся легко на случай условных вероятностей. Так, например, функцию F(x/B) = Р{$< х(В\ мы будем называть условной функцией распределения случайной величины Е при условии В. Очевидно, что р\х[В^ обладает всеми свойствами обычной функции распределения.

§ 22. Многомерные функции распределения

Систему из п величин Е1Э Е2, ..., Еп мы назовём случайным вектором или п-мерной случайной величиной» если определена вероятность совместного осуществления неравенств

^1 < Х^» Е2 < ^, . . ., $п < Хп

при всевозможных вещественных хи х2, ..., хп. Функция

^(^1> Х2, • . ., Хи) = Р {Е* < Хр 52 < х2) ..., Еп < хп}

называется д-мерной функцией распределения случайного вектора (61 > 62, • • •» ^п)*

В дальнейшем мы прибегнем к геометрической иллюстрации и станем рассматривать величины Еп Е2, ..., Еп как координаты точек «-мерного евклидова пространства. Очевидно, что положение точки (Ер Ч» • • •» ^п) зависит от случая и что функция F(xv ..., хп) при такой интерпретации даёт вероятность попадания точки (Ер ..., Еп) в «-мерный параллелепипед Ei < хп Е2<х2, ..., £п<хп с рёбрами, параллельными осям координат.

С помощью функции распределения легко вычислить вероятность того, что точка (Ev Е2> •. •, U) окажется внутри параллелепипеда

<4<4<i>iО'=1, 2, ...,п)»

где а^ и Ь^—произвольные постоянные. Нетрудно подсчитать, что Р {^1 ^61 < ^ц ^2^ 62<^2> • • •> ^П^ 4 < ^п} =

п

= F ^Ьъ ^ • • • I ^п) — 2 Pi + ^Pij^ • • • +

4 = 1 i<j

+ (-1)^^, а* а^ (1)

где через рц.„к обозначено значение функции F(cb с2> ..., си) при с^—'а^ ct = a<, ...» ск = ак и при остальных с8» равных &8. Мы предоставляем доказательство этой формулы читателю. Заметим, в частности, что F (xt, ..., xk-1,-f-oo, xk+1> ...^ xn) даёт нам вероятность того, что будет выполнена следующая система неравенств:

^1 < Х^» 62<Х2, . .., Ч-г^^к-Ъ 4*1 ^ xk*V 6n *с хп.

8 Зак. 1826. В. В. Гнеденко.

Так как. по расширенной аксиоме сложения вероятностей

Р (^ < Хь . • ., $Д.1 < X^_v fcA+1 < xkv\> • е •• ^n < xtA =

2 Р {^1• > 5fc-i < xk-v s ^ ^к < 5 + 1» ^Л+i

8='—оо

<-^А+1» • • ч ^п^ XJ = ^ (^1» • • •» xk-h 00) ^*4-1» • • •» хп)»

то F(xu ..., xk_v со, хкА.ъ ..., хп) является функцией распределения (п — 1)-мерной случайной величины (5П ..., ^—1? Sr+p • • •, £Д Продолжив этот процесс далее, мы можем определить 6-мерные функ-* ции распределения любой группы из 6 величин ^, ^ ..., ^К по формуле*

Fk (.xi^ xi^ • • •, х^ = p {5^ < Xi? . . ., ^^ < X^ = F (^1 > ^2» • • e» ^nX rue c8 — x8, если s = /r(l<v<^) и cs = -j-oo в иных случаях.

В частности, функция распределения случайной величины ^ равна

* F^ (**0 = F (ip с2, • • • > cnV

где все с^ (/ ф *) равны 4" °°> a ch = х.

Подобно тому как поведение одномерной случайной величины можно характеризовать не только посредством функции распределения, но и другими способами, многомерные случайные величины могут быть определены, скажем, посредством неотрицательной вполне аддитивной функции множества Ф {В}, определённой для любых борелев- ских множеств «-мерного пространства. Эту функцию мы определим как вероятность попадания точки ($п ..., |п) на множество Е. Этот способ вероятностной характеристики «-мерной случайной величины следует признать наиболее естественным и с точки зрения теоретической наиболее удачным.

Рассмотрим примеры.

Пример 1. Случайный вектор (?р ..., Еп) называется равномерно распределённым в параллелепипеде а4 ^ < bi (1 ^ i ^ «), если вероятность попадания точки (Ер Еа, •.., $п) в любую внутреннюю область указанного параллелепипеда пропорциональна её объёму и вероятность попадания внутрь параллелепипеда является достоверным событием.

. Функция распределения искомой величины имеет вид

x4^.at хотя бы при одном Z,

F^, .F^, .ПГ ч—а^ПГ ч—а^где с4 = х41 если а4^х4^.Ь41

F^, .

F^, .

ПГ ч—а^

ПГ ч—а^

. . и ,и Ci = L если х4 >

J e~Q^^ dxdy.J e~Q^^ dxdy.Пример 2. Двумерная случайная величина (Еп у распределена нормально, если для неё функция распределения равна

J e~Q^^ dxdy.

J e~Q^^ dxdy.

F^x, ^ = С J

где Q^x, j)— положительно определённая квадратичная форма.

Известно, что положительно определённая квадратичная форма от х и у может быть записана в виде

О мХ — ^LZl^ _ у (^-^I (-У-^)2

4—2Л2 гI’

где А и В — положительные числа, а г, а и b — вещественные числа, причём г подчиняется условию — 1 О < + 1.

Легко видеть, что при г^ф 1 каждая из случайных величин ^ и $2 подчинена одномерному нормальному закону. Действительно,

< xj = F (xn J- со) = С< xj = F (xn J- со) = СССХГ J e^Q^ ^dxdyССХГ J e^Q^ ^dxdy

< xj = F (xn J- со) = С

< xj = F (xn J- со) = С

ССХ

Г J e^Q^ ^dxdy

ССХ

Г J e^Q^ ^dxdy

_ Р (я-аУ .

(2)(2)Р^ — ВСУ^ J е ^ V }dx.

(2)

(2)

Постоянное С может быть выражено через А, В и г. Эту завися* мость можно найти из условия /71( + со)=1. Имеем:

Г J/1— 1» J/I — Г2

Отсюда

yr=^

— 2кЛВ •

Если г^ф\, то мы положим

А = oj VI—г», В = а2 у 1 - г9.

В этих новых обозначениях двумерный нормальный закон принимает такой вид:

Г (аз—ар 2г (я?—а) (у—Ь)L «1®1«2Г (аз—ар 2г (я?—а) (у—Ь)L «1®1«2(у—ьрт■ *2 J dxdy.(у—ьрт■ *2 J dxdy.F(xv х8) =

Г (аз—ар 2г (я?—а) (у—Ь)

L «1®1«2

Г (аз—ар 2г (я?—а) (у—Ь)

L «1®1«2

(у—ьрт

■ *2 J dxdy.

(у—ьрт

■ *2 J dxdy.

;1— f ( е ~аа-н

27WiaQ У1 — г2 J J

—ОО —ОО

Теоретико-вероятностный смысл входящих в эту формулу параметров будет выяснен в следующей главе.

При г2 = 1 равенство. (2) теряет смысл. В этом случае ^ и $2 связаны линейной зависимостью.

Подобно тому как это было сделано в одномерном случае, для многомерных функций распределения можно установить ряц свойств. Мы приведём их формулировки, предоставив читателю их доказательства. Функция распределения

есть неубывающая функция по каждому аргументу,

непрерывна слева по каждому аргументу,

удовлетворяет соотношениям

Р(-|-ОО, +со, ..., 4~°°)”^»

lim F^xv х^.» ...» хп) = 0(1^А<»

ОЗ^ —СО

при произвольных значениях остальных аргументов.

В одномерном случае мы видели, что перечисленные свойства необходимы и достаточны, чтобы функция F^ была функцией распределения некоторой случайной величины, В многомерном случае, оказывается, этих свойств уже недостаточно. Для Того чтобы функция F (хр ..., х^ была функцией распределения, помимо перечисленных трёх свойств, нужно добавить ещё следующее:

при любых at и ^(/=1, 2, ..., п) выражение (1) не отрицательно.

Что это требование может быть не выполнено, несмотря на наличие у функции F(xt, ...» хп) свойств 1 — 3, показывает следующий пример. Пусть

{

О, если х^О, или x-^-y^l, или у^О,

в остальной части плоскости.

Эта функция удовлетворяет требованиям 1 — 3, но для неё

^(i,i)_f(i,l)-f(l, i)+f(|, I)i, (3)

и, следовательно, четвёртое требование не выполнено.

Функция F (х, у) не может быть функцией распределения, ^ак как разность (3) согласно соотношению (1) равна вероятности попадания точки ($р У в прямоугольник y^Hi< 1,у <^$2<1.

Если существует такая функция p(xv х^..., х^ что при любых xv х^ ..., хп имеет место равенство

«1 ®2 оо и

F<xXxx^ .... хп^= ^ J ^p<zbz2x ...х 3^dzn...dz2 dzx, — ОО —ОО ОО

то эта функция называется плотностью распределения вероятностей случайного вектора (Еп Е2, ..., EJ. Легко видеть, что плотность распределения обладает следующими свойствами:

р(^и X» - м *п)>°-

Вероятность попадания точки (Еь Е2, . .., $п) в какую-нибудь область G равна

$--$р(хъ . .xtt)dxn...dxv

В частности, если функция pvxv х^ ..., хп) непрерывна в точке (хр ..., хп), то вероятность попадания точки (Ер Е2Еп) в параллелепипед Хк ^ Ед < Хк 4“ ^fc (6 = 1, 2, ..., п) с точностью до бесконечно малых высших порядков равна

р (хр х2, ..., xn) dxt dx^...dxn.

Пример 3. В качестве примера «-мерной случайной величины, имеющей плотность, приведём величину, равномерно распределённую в «-мерной области О. Если через V обозначим п-мерный объём области G, то плотность распределения будет равна

Р (хр х2, ..., х^ —Р (хр х2, ..., х^ —О, если (Хр х2, .х^^О»

Р (хр х2, ..., х^ —

Р (хр х2, ..., х^ —

у, если (xv х2, xn)£G

Пример 4. Плотность двумерного нормального закона даётся формулой

1Г (и—а)а 2г (ж—а) (у—6) ^z52!l

nfx. “^ —р 2(1—г8) [ »1«1«2®2 J.

*2^x4 VX—г1

Заметим, что плотность нормального распределения сохраняет

постоянное значение на эллипсах

(4)(4)(х-а? 2r (х-а) (y-^b) (y-bp = х2а1°1а2° 2

(4)

(4)

где X — постоянное; на этом основании эллипсы (4) носят название эллипсов равных вероятностей.

Найдём вероятность попадания точки (Ер Е2) внутрь эллипса (4). По определению плотности

Р(Х) = J j р(х, y^dxdy.Р(Х) = J j р(х, y^dxdy.(5)(5)60-)60-)

Р(Х) = J j р(х, y^dxdy.

Р(Х) = J j р(х, y^dxdy.

(5)

(5)

60-)

60-)

где через G(X) обозначена область, ограниченная эллипсом (4). Ддя вычисления этого интеграла введём полярные координаты

х — а = pcos9,

Интеграл (б) при этом принимает видИнтеграл (б) при этом принимает видcos 0 sin 6cos 0 sin 6sin2 9*sin2 9*у—b = psin6.

Интеграл (б) при этом принимает вид

Интеграл (б) при этом принимает вид

cos 0 sin 6

cos 0 sin 6

sin2 9*

sin2 9*

где для краткости обозначено

" cos29

Интегрирование по р даёт:

,2(1—Г»)

Р^ = -——Г do

2^2 /1— г» ) а» •

О

Интегрирование по 9 можно выполнить по правилам интегрирования тригонометрических функций, но в этом нет необходимости, так как оно автоматически производится с помощью вероятностных соображений. Действительно,

2*

Р ( 4- оо) = 1 = —===== I — •

2tw1ct8 V1 — г2 J s8

Отсюда

2л

J ^ = 2^62/1 — га о и, стало быть,

Р(Х) = 1— е 2(1-г’)е

Нормальное распределение играет исключительно большую роль в различных прикладных вопросах. Распределение многих практически важных случайных величин оказывается подчинённым нормальному закону распределения. Так, например, огромная практика артиллерийских стрельб, произведённая в различных условиях, показала, что рассеивание снарядов на плоскости при стрельбе из одного орудия на определённом прицеле подчиняется нормальному закону. В главе 8 мы увидим, что эта «универсальность» нормального закона объясняется тем, что всякая случайная величина, являющаяся суммой очень большого числа независимых случайных величин, каждая из которых

оказывает лишь незначительное влияние на сумму, распределена почти по нормальному закону.

Важнейшее понятие теории вероятностей—независимость событий— сохраняет своё значение и для случайных величин. В соответствии с определением независимости событий мы скажем, что случайные величины Ер S^ ..., Ъп независимы, если для любой группы Ц, ^ . ♦., Е^ этих величин имеет место равенство

р {ц < хч» е<2 < х<з^ < х^ =

— Р {^ "С Xi } Р ^ < Xi }.. .Р {£< < Xi }

при произвольных х^, хц, ..., х<к и любом А(1 ^.k^n). В частности, для произвольных хи х^ ..., хп выполняется равенство

Р{$1<-Кр ^а^^я» • • ^п < ^п! =

= Р{51<^1)Р{^<^}...Р{еп<^} или в терминах функций распределения

У7 (Хр х^, •.., хп) = Fx (Xj) • F^ (х2) • • • Fn \х^,

где F^x^ означает функцию распределения величины Е7г

Легко видеть, что верно и обратное предложение: если функция распределения F(xv х^, ..., хп) системы случайных величин Ev $2, ..., Ея имеет вид

^C^v ^2, • • •, х^ = F^ (^1) F^ (^2). •. Fn ^х.и\

где функции F-^x^ удовлетворяют соотношениям

^( + оо) = 1(6 = 1, 2, ..., п^

то величины Ер Е2> • • •, $» независимы и функции ^(xj, F^x^),... .. ., Fn (хп) являются их функциями распределения.

Проверку этого предложения мы предоставляем читателю.

Пример 5. Рассмотрим n-мерную случайную величину, компоненты которой ^1» ^2> • • • ’ ^П являются взаимно независимыми случайными величинами, распределёнными по нормальным законам

Р^ = -1-= |\ ^ dz.

В рассматриваемом примере функция распределения равна

F<xv х2, .... х„) = (2тг) аП°Г1/е "’к dz*ftawl —ОО

Если независимые случайные величины ^ ^ ..., $я имеют плотности распределения рх (х), р$ (х), . *., рДхД то n-мерная вели-

чина (£ь Е2, ..., £и) имеет плотность распределения, равную

P<*v х2, .... x^=p1(x1).p8<x2)...pn(ixtt).

Пример 6. Если величины Ер Е2, ..., Sn независимы и имеют плотности распределения *

Рк{х) = —^е^(1<А<я),

то л-мерная плотность распределения величины (^, Е2, .5П) равна

p(xv хй, x^-^l—Le 2 6=14 .(6)

V 12’”У ®1®2- • -®П

При л = 2 эта формула принимает вид

p(xv—6^2а^

r2Kata2

Сравнение этой функции с плотностью двумерного нормального закона (пример 4) показывает, что для независимых случайных величин 5Х и $2 параметр г равен 0.

При п = 3 формула (6) может быть истолкована как плотность распределения вероятностей компонент Еи Е2, ^з скорости молекулы по осям координат (распределение Максвелла), если только предположить, что

Q2 Q2 = О2 = —— ,1 а Нт *

где т — масса молекулы, а А— константа.

§ 23, Функции от случайных величин

Сведения, полученные нами о функциях распределения, позволяют нам приступить к решению следующей задачи: по функции распределения F(xp х2, ..., х^ совокупности случайных величин $п $2, ..., $п определить функцию распределения Ф (ух, у2> • • • > У к) величин 7), =Л(^, 62, • Q. 7)2 =/2(^1. •••• и»--. Чб =

Общее решение этой задачи весьма просто, но требует расширения понятия интеграла. Чтобы не отвлекаться в сторону чисто аналитических вопросов, мы ограничимся рассмотрением важнейших часгных случаев: дискретных и непрерывных случайных величин. В следующем параграфе будут изложены определение и основные свойства интеграла Стилтьеса; там мы дадим общую1 запись важнейших результатов настоящего параграфа.

Рассмотрим сначала случай, когда «-мерный вектор (Ер ..., Еп) имеет плотность распределения вероятностей р (хь ха, ..., х^. Из предыдущего видно, что искомая функция распределения определяется

DD1» ^2»1» ^2»• • > ^п) ^^i dx^« • ,dxn^• • > ^п) ^^i dx^« • ,dxn^равенством ф Oi, №

D

D

1» ^2»

1» ^2»

• • > ^п) ^^i dx^« • ,dxn^

• • > ^п) ^^i dx^« • ,dxn^

причём область интегрирования D определяется неравенствами Л (*!...., х^ <yi (i = 1,2ку

В случае дискретных случайных величин решение, очевидно, даётся с помощью «-мерной суммы, также распространённой на область D.

Мы применим теперь только что сделанное нами общее замечание относительно решения поставленной нами общей задачи к нескольким важным частным случаям.

Функция распределения суммы. Пусть требуется найти функцию распределения суммы

Ч=Л + ^ + • • • +^п>

если р(хп х^ ..., хп)—плотность распределения вероятностей вектора (Ер $2, ..., Еп). Искомая функция равна вероятности попадания точки (Ер Еа, ..., Еп) в полупространство ^ + $2+•••+^<-^ и> следовательно,

Ф (х) = J ... J р (Хр х^ ...» х„) dxx dxa.. .dxu.

Е ®^<х

Рассмотрим подробнее случай « = 2. Предыдущая формула принимает в этом случае такой вид:

X—хг

Ф (х) = J У р(хр х3)dxxdx^ = У у р(хъ x^dxxdxa. (1) Xv-VXi<x— со

Если величины ^ и 62 независимы, то р (х„ х2) = рх (х,) ра (х3) и равенство (1) может быть записано в таком виде:

X—ХоX

Ф (х) = у dxx У рх (Xj) р2 (х2) dx^ =Jdxx J рх (хх) ра (г—хх) dz= — JO*—ОО

X

= Jdz^Jp! (xx)p12(z — xx)dxx |.(2)

— 00

В общем случае формула (1) даёт:

Ф(х) =Ф(х) =dxj I р (г, хх — z^d-г.dxj I р (г, хх — z^d-г.(3)(3)-оо-оо

Ф(х) =

Ф(х) =

dxj I р (г, хх — z^d-г.

dxj I р (г, хх — z^d-г.

(3)

(3)

-оо

-оо

Последние равенства доказывают, что если многомерное распределение слагаемых имеет плотность распределения вероятностей, то их сумма также имеет плотность распределения. Эта плотность в случае независимых слагаемых может быть записана в виде

Р СО = J р, (х — z) Ръ (z) dz.(4)

Рассмотрим примеры.

Пример 1. Пусть ^ и ?2 независимы и равномерно распределены в интервале (а, Ь). Найти плотность распределения сум..*ы ц = 614- бу

Плотности распределения вероятностей ^ и 62 равны

|0 , если х^.а или х>Ь>

Р1кХ>)=Р^Х>) = ^1/

, если а<х^Ь.

( Ь— а ’

По формуле (4) находим, что

ъь

Рч (О = J Pl ФРг & —z)dz = ^^ J р2 (х — z) dz.аа

Из того, что при х < 2а

х — z < 2а — г < а,

а при х > 2Ь

х — z>2b — z > b^

заключаем, что при х < 2а и х > 2Ь

Пусть теперь 2а < х < 2Ь. Подинтегральная функция отлична от нуля только при тех значениях г, которые удовлетворяют неравенствам

а<х—z<b

или, что то же самое, неравенствамч

х — b < г < х — а.

Так как х > 2а, то х— а>а. Очевидно, что х — а ^Ь при х^.а-\-Ь. Следовательно, если 2а <^х ^.аД-Ь, то

ой—а

_ / „х f dz х — 2а

РДХ)— J

Точно так же при а-\-Ь<х^2Ь ь

, s Г dz 2b — х

Рт, Vе) — J ^_ ау — у —ар*ос—Ь

Собрав вместе полученные результаты, находим, что

О при х ^ 2а и х > 2Ь^ х — 2а п '। а

Рц W =Рц W =(5)(5)(Ь — аУ При 2а<*<$ + ^

Рц W =

Рц W =

(5)

(5)

^—^ при а4-6<х<26.

Функция р^(х) носит название закона распределения Симпсона.

Вычисления в рассмотренном примере значительно упрощаются, если воспользоваться геометрическими соображениями. Изобразим, как обычно, ^ и $2 как прямоугольные координаты на плоскости. Тогда вероятность неравенства St -j- Е2 < х при 2а < х ^ a -j- b равна вероятности попадания в дважды заштрихованный прямоугольный треугольник (черт. 13). Эта вероятность, как легко подсчитать, равна

2(a — b)*'

При а 4- b < х <^ 2Ь вероятность неравенства St 4- Ц<х равна вероятности попадания во всю заштрихованную фигуру. 'Эта вероятность равна

F (х) = 1 ^6 ^ — 12(6 — в)»'

Дифференцирование по х приводит нас к формуле (5).

В связи с рассмотренным примером интересно заметить следующее.

Общие вопросы геометрии привели Н. И. Лобачевского к необходимости решения следующей задачи: имеется группа из п взаимно независимых случайных величин Еп $2, ...» Еп, найти распределение вероятностей их среднего арифметического.

Эта задача была им решена только для случая, когда все ошибки равномерно распределены в интервале (—1, 1). При этом оказалось, что вероятность ошибке среднего api фметического заключаться в пределах от —х до х равна

рnr

где суммирование распространяется на все целые г от г = 0 до In — пхД

Пример 2. Двумерная случайная величина (Е^ $2) распределена по нормальному закону

Р (Х’ ^ = 9^Т-^З Х

Sica^g у 1 — Г2

ХехрХехр1 Кх — а^2(1-^1 «?1 Кх — а^2(1-^1 «?о, (* — «)(.? —6)^2о, (* — «)(.? —6)^2(J-w\)4 /г(J-w\)4 /г

Хехр

Хехр

1 Кх — а^

2(1-^1 «?

1 Кх — а^

2(1-^1 «?

о, (* — «)(.? —6)^2

о, (* — «)(.? —6)^2

(J-w\)

4 /г

(J-w\)

4 /г

Найти функцию распределения суммы т] = $14-$а. Согласно формуле (3)

p’W = 5^7f^7FX

. . f (1 Az — aP(Z — aAx — z — b).(x — z — b)'i

X J “p| - ^^(-^2'~+^

Обозначим для краткости x — a — b через v и z— а через и; тогда

1f4—2r+ Ы\ 1 du.

2(1-Г*М^ ^ % И

Так как

2 UD

°1 4” ^2

°1°2

У3

°3

Г °1+ 2лу34-®2

СГ1СТ2

v Gj + ra2

=2 T/r°? + 2rg1ga + g|

(®1 + ^з)2 \ ц У ®i 4~ 2гд1»3 + ®ag24-2rg1a2 + o^0^2

vCl + rg2IV2(l — r2)

g2 /a2 4- 2raxaa + a2 J c2 4- 2г$1да 4- g2

11^ V °1 + ^ГЧ °2 + q2^^^ V °1 + ^ГЧ °2 + q2^^то, введя обозначение

1

1

^ V °1 + ^ГЧ °2 + q2^^

^ V °1 + ^ГЧ °2 + q2^^

У G j 4- fG2

g2 V^ °i + 2fg^g2 -}- g|

мы приведём выражение для ^(х) к виду

■ гл^о^ + гга^а + а3 Так как

® = х—а—b и Je 3rf/=}/2ir, то

(ж—g—д)2Pi|W= . ■_.! „ ^«W5.

V 2л (aj + Зга^ + a-)

В частности, если случайные величины ^ и 52 независимы, то г = 0 и формула для ^(х) принимает вид

м*)м*)(ж—g —д)2

м*)

м*)

V 2” (® 1 + ®

Нами получен, таким образом, следующий результат: сумма нормально распределённых случайных величин распределена по нормальному закону.

Интересно заметить, что когда слагаемые независимы, имеет место и обратное предложение (теорема Г. Крамера): если сумма двух независимых случайных величин распределена по нормальному закону, то каждое слагаемое также распределено по нормальному закону. Мы не останавливаемся на доказательстве этого предложения, так как оно требует более сложного математического аппарата.

Пример 3. Распределение х2 Пусть $п $2^— не-

зависимые случайные величины, распределённые по одному и тому же нормальному закону с параметрами а и а.

Функция распределения величины

пх’=4 2 (е.—>)‘к=1

носит название ^-распределения.

Это распределение играет важную роль в различных вопросах статистики.

Мы вычислим сейчас функцию распределения величины С = -^е

V п

Она окажется независимой от а и о.

Очевидно, что для отрицательных значений аргумента функция распределения Ф (у) величины С равна 0; для положительных значе*

ний у фгнкция ФО) равна вероятности попадания точки (Ер ...,$п) внутрь шара

—а^=у4 • п • о\

&=1

Таким образом,

П 2

Ф (У) = f • • • J (у^У 6 f=1 2 dxi ^' *йх^

Перейдём для вычисления этого интеграла к сферическим координатам, т. е. сделаем замену

%! = р cos 62 cos 82.. .cos 8п_р

х2 = р cos 6j cos 62.. .sin 0n-1,

xn = p sin 6P

В результате этой замены

ФО)= J-. J J(y^e-^P”-iO(0)...6„.1)^^„_1...^ 2"2*

-yVn _£.

= сп J е »р«-Чр, О где постоянная *Т

22

c--r?W J- J°(’.-«»-.)^-f-^ ГСГС

22*

зависит только от п.

Эту постоянную легко вычислить, пользуясь равенством

Ф (+ оо) = 1 = Сй | е-^ р^-Чр = Сяг(у) . 2Т-1. О

Отсюда находим, что

фСУ) = — С Рп-1е 4 dp.

2"1 r(|)J

Плотность распределения случайной величины С при у ^ 0 равна ,

(6)(6)

(6)

(6)

Отсюда, в частности, при м-= 1 мы получим> естественно, плотность распределения, равную удвоенной плотности исходного нормального закона

е 2е 2(^>0).(^>0).

е 2

е 2

(^>0).

(^>0).

Черт. 14.Черт. 14.

Черт. 14.

Черт. 14.

При я = 3 мы получаем известный закон Максвелла

Уб 9 —^—~- у^е 2 .

V и

Пример 4. Функция распределения частного. Пусть плотность распределения вероятностей величины ($, iq) равна р (х, у)в Требуется найти функцию распределения частного С—

Согласно определению ^w=p{l<^}-

Если $ и т| изображают координаты точки на плоскости, то F^x) равна вероятности того, что точка (5, т|) попадёт в область, координаты точек которой удовлетворяют неравенству — <х. На черт. 14 эта область заштрихована.

Согласно общей формуле искомая вероятность равна со 2$0 оо

Л(х) = / j Р^' г)^^А- / $р1у» Z^dydz. (7) 0 —оо—оо «а?

Отсюда вытекает, что если $ и iq независимы, а рх (х) и р2 (х) — их плотности распределения, то

ооFt. ^ = /+ f — Fi ^xz^ р» dz- ^

о

о

—оо

Продифференцировав (7), находим, что

ооО

jMx) — J zp (zx, г)^г— Jzp(zx,z)dz.

О—оо

В частности, если 5 и tj независимы, то-

ооО

Pt. to ^ ZPt ^ Р2 ^ dZ~ S ZP1 ^ Ра ^ ^

.О—оо

(8)(8)(8')(8')Р <Х’ -У) = оJ/i5 еХР ( aw^yi — гIР <Х’ -У) = оJ/i5 еХР ( aw^yi — гI>2>22• ai Va2• ai Va22Найти функцию распределения частного ~Найти функцию распределения частного ~По формуле (8)1По формуле (8)1ООО —ооГ г2 г фг2 —2^ у + т2О —ооГ г2 г фг2 —2^ у + т22(1—г2)2(1—г2)1 ' 1И1в8]/"11 ' 1И1в8]/"1J гехрОJ гехрО^ П2йф2 — 2^,®^ + ®!]^ П2йф2 — 2^,®^ + ®!]2(1-г2)2(1-г2)4i4idz.dz.Пример 5. Случайная величина (5, iq) распределена по нормальному закону

(8)

(8)

(8')

(8')

Р <Х’ -У) = оJ/i5 еХР ( aw^yi — гI

Р <Х’ -У) = оJ/i5 еХР ( aw^yi — гI

>2

>2

2

• ai Va

2

• ai Va

2

2

Найти функцию распределения частного ~

Найти функцию распределения частного ~

По формуле (8)

1

По формуле (8)

1

О

О

О —оо

Г г2 г фг2 —2^ у + т2

О —оо

Г г2 г фг2 —2^ у + т2

2(1—г2)

2(1—г2)

1 ' 1И1в8]/"1

1 ' 1И1в8]/"1

J гехр

О

J гехр

О

^ П

2йф2 — 2^,®^ + ®!]

^ П

2йф2 — 2^,®^ + ®!]

2(1-г2)

2(1-г2)

4i

4i

dz.

dz.

Произведём под интегралом замену, положив — 2rot о2х + а2

“~2(1-Г2)а2®2

Выражение для pt(x) при этом принимает такой вид:

®i°a V1 —®i°a V1 —Цс^ — Зпз^х + с^Цс^ — Зпз^х + с^/ \OiGq 1^1—Г2

®i°a V1 —

®i°a V1 —

Цс^ — Зпз^х + с^

Цс^ — Зпз^х + с^

^ я (®1 Xй—2г®! а2х + а2) ^

если, в частности, величины $ и -q независимы, то

Плотность распределения величины С называется законом Коши.

Пример 6. Распределение Стьюдента. Найти функцию распределения частного С = ^, где 6 и ц — независимые величины, причём $ распределено по нормальному закону

Pi (*) —Pi (*) —па?2па?2

Pi (*) —

Pi (*) —

па?

2

па?

2

а т] = -£= (см. пример 3), V п

Р^ W =Р^ W =Согласно формуле (8')Согласно формуле (8')находим, чтонаходим, чтоР^ =Р^ =WO1WO1udauda

Р^ W =

Р^ W =

Согласно формуле (8')

Согласно формуле (8')

находим, что

находим, что

Р^ =

Р^ =

WO1

WO1

uda

uda

Плотность распределения вероятностей

^W^W

^W

^W

носит название закона Стьюдента (Стьюдент — псевдоним английского статистика Госсета, впервые нашедшего этот закон эмпирическим путём).

При д = 1 закон Стьюдента превращается в закон Коши,

Пример 7. Поворот осей координат. По функции распределения двумерной случайной величины ($, ц) найти функцию распределения величин

V = gcosa ~Н sina, tj'»-—J sin a 4“ Ч cos a. (9)

Обозначим через F^x, j) и Ф(х, у) функции распределения величин (6, т^) и ($', *q'). Если мы станем изображать ($, ц) и (5', ц') как

9 Зак. 1826. Б. В. Гнеденко.

прямоугольные координаты точки на плоскости, то легко видеть, что система осей E'Oq' получается из системы $0^ путём поворота последней на угол а. Мы ограничимся случаем 0 < а < -~, предоставив читателю вывод аналогичных формул для остальных значений а.

Так как при 0<а<4 sina>0 и cosa>0, то мы легко на

ходим:

— 6 sin a + 4 cos a < у } =— 6 sin a + 4 cos a < у } =Ф (х, у) = Р {6 cos а + 4 sin а < х;

— 6 sin a + 4 cos a < у } =

— 6 sin a + 4 cos a < у } =

= Р{ 5 < xcosa—у sina;= Р{ 5 < xcosa—у sina;4 < a sin a + j cos a } =4 < a sin a + j cos a } =

= Р{ 5 < xcosa—у sina;

= Р{ 5 < xcosa—у sina;

4 < a sin a + j cos a } =

4 < a sin a + j cos a } =

= F { x cos a —у sin a; x sin a -j-у cos a }.

Отсюда дифференцированием получаем соотношение между плотностями.

* (X, J) =* (X, J) =дФ (х, У)дР(х', уП

* (X, J) =

* (X, J) =

дх ду дх' ду'

=р(х с<>8 a —У sin a; х sin a -{-у cos a).(10)

Пример 8. Двумерная случайная величина (6, •/]) распределена по нормальному закону

Найти плотность распределения случайных величин

V = 6 cos a + Ч sin a, 4' = — х 5 sin a J- tj cos a.

Согласно равенству (10)

it (x', y') = p (x' cos a —y' sin a, x' sin a -J-У cos a) =

- *—exp I-Г4x'9 — 2 Bx'y' + Су'211, 2™^/! —r2 I 2(1—r8)L1 Jj

где обозначено

. cos2 aA=~r. cos2 aA=~rВВcos a sin acos a sin a2^ cos a sin a . sin2 a’1’2°2’sin9 a — cos2 a COS a sin a2^ cos a sin a . sin2 a’1’2°2’sin9 a — cos2 a COS a sin asin2 a 1 o „ cos a sin a , cos2 a22.Г-°1^^2°2sin2 a 1 o „ cos a sin a , cos2 a22.Г-°1^^2°2

. cos2 aA=~r

. cos2 aA=~r

В

В

cos a sin a

cos a sin a

2^ cos a sin a . sin2 a

’1’2°2’

sin9 a — cos2 a COS a sin a

2^ cos a sin a . sin2 a

’1’2°2’

sin9 a — cos2 a COS a sin a

sin2 a 1 o „ cos a sin a , cos2 a

22.Г-

°1^^2°2

sin2 a 1 o „ cos a sin a , cos2 a

22.Г-

°1^^2°2

Ив полученной формулы мы заключаем, что поворот осей переводит нормальное распределение в нормальное.

Заметим, что если угол а выбран так, что

то В = 0 и

Аос^В^г»

у') =™ —е2(1-^.

2it51<j2 V1 — г2

Это равенство означает, что любая нормально распределённая двумерная случайная величина путём поворота осей координат может быть приведена к системе двух нормально распределённых независимых случайных величин. Этот результат может быть перенесён на /z-мерные случайные величины.

Можно доказать более сильное предложение, исчерпывающе характеризующее нормальное распределение вероятностей. Пусть на плоскости имеется невырожденное (т. е. не сосредоточенное на одной прямой) распределение вероятностей. Для того чтобы это распределение было нормальным, необходимо и достаточно, чтобы двумя различными способами можно было на плоскости выбрать оси координат ^ОЦ и т^О^ такие, что координаты ^ и 52, так же как 41 и т]2, рассматриваемые как случайные величины с заданным распределением вероятностей, были.бы независимы.

§ 24. Интеграл Стилтьеса

Дальнейшее изложение существенно использует понятие интеграла Стилтьеса. Для облегчения изучения последующих параграфов мы приводим здесь определение и основные свойства интеграла Стилтьеса, не останавливаясь при этом на доказательствах.

Предположим, что в интервале (а, 6) определены функция f^ и неубывающая функция F(x) с ограниченной вариацией. При этом мы для определённости будем предполагать,, что функция F^ непрерывна слева. Если а и b конечны, то разделим интервал (а, 5) точками а = х0 < хг < х2 < ... < хп = b на конечное число частичных интервалов (хй х<+1) и образуем сумму

Д/м^м—^и-Л],

где х4—произвольное число, выбранное в сегменте (х$_ъ хД Станем теперь увеличивать число точек подразделения, одновременно приближая длину максимального из частичных интервалов к нулю. Если при этом написанная выше сумма стремится к определённому пределу

J= 11m 2 (/&) [F(x()—/^-J], (1)

то этот предел называется интегралом Стилтьеса от функции / (х) с интегрирующей функцией F(x) и обозначается символом

ь

J = j/(x)^(x).(2)

а

Несобственный интеграл Стилтьеса, когда промежуток интегрирования бесконечен, определяется обычным путём: рассматривается интеграл по произвольному конечному интервалу (а, £); величины а и b произвольным образом заставляют стремиться к —оо и + °°1 если при этом существует предел

lim U^dF^Y0-4—00 J6-400 о

то этот предел называется интегралом Стилтьеса от функции /(х) чо функции F(x) в промежутке (—оо, оо) и обозначается

J/(x)dF(x).

Можно доказать, что если функция / (х) непрерывна и ограничена, то предел суммы (1) существует, как в случае конечных, так и в случае бесконечных пределов интегрирования.

В некоторых случаях интеграл Стилтьеса существует и для неограниченных функций J^xy Для теории вероятностей рассмотрение таких интегралов представляет значительный интерес (математическое ожидание, дисперсия, моменты и пр.).

Заметим, что всюду в дальнейшем мы считаем» что интеграл от функции f(x) существует тогда и только тогда» когда существует интеграл от |/(х)| с той же интегрирующей функцией F (х).

Для целей теории вероятностей важно распространить определение интеграла Стилтьес^ на тот случай, когда функция /(х) может иметь конечное или счётное множество точек разрыва. Можно доказать (см. В. И. Гливенко, Интеграл Стилтьеса, стр. 116), что всякая ограниченная функция, имеющая конечное или счётное множество точек разрыва, в частности, всякая функция ограниченной вариации, интегрируема при любой интегрирующей функции ограниченной вариации. При этом требуется несколько видоизменить само определение интеграла Стилтьеса, именно, при образовании предела (1) надо рассматривать только такие последовательности подразделений интервала интегрирования на части, что каждая точка разрыва /(х) входит в число точек деления всех подразделений, за исключением, быть может, конечного числа их.

Заметим, что при установлении пределов интегрирования важно указывать, включается в промежуток интегрирования или нет тот или

иной его конец. Действительно, из определения интеграла Стилтьеса мы получаем следующее равенство (символ а — 0 означает, что а включено в промежуток интегрирования, а символ а 4“ О— что а исключено из него):.

ъп.

Г /(х) dF (х) = lim 2 / (xj [F(ха - F (х,.J] -'

„-оп^” <-1■

= lim S/Ml^M — ^(*<-t)l+ lim /(*i)[F(*i) —

Ъ

-F(x0)] = J /(x) dF(x) +/(a) [F(a + 0) - F (a)], a+o

Таким образом, если /(a) ф0 и функция F (х) имеет скачок при х = а, то*

ъъ

J /(x)dF(x) — / /(x)dF(x)=/(a)[F(a + 0)-F(a—0)].

a—0a4-°

Это обстоятельство указывает на то, что интеграл Стилтьеса, распространённый на промежуток, сводящийся к одной точке, может давать отличный от нуля результат. Мы условимся в дальнейшем, если не будет сделано особой оговорки, правый конец промежутка исключать, а левый включать в интервал интегрирования. Это условие позволяет написать следующее равенство:

ь

J dF(x) = F(») —F(a). а.

В самом деле, по определению,

6п

(dF(x)= lim 5 [F(xa —F(x<_1)]= lim [F (x„) - F (x0)] = *n->OO<=»l. n->oo

= F(6)-F(a)

(напомним, что F(x^ по определению, непрерывна слева и для неё, следовательно, F (р) = lim F (6 — s))..

«->о

В частности, если F(x) есть функция распределения случайной величины 6, то

ь

JdF(x) = F(»)— F(a)==P{a<$<6}, а

Ъ

pF(x) = F(6) = P{e<6}.

Если F (х) имеет производную и является интегралом от нее, то из того, что по формуле конечных приращений

F to) — F to-1) = Р (»i) (Xi — xt_ J,

где хг.А <xt < xtl следует равенство

6n

x)tfF(x)=llm 2/to) PW-^to-i)^

#|->OO <e»l

a

= Hm 5 / to) p ^ to — ^_i) = f / (x) p (x) dx. a

Мы видим, что в -этом случае интеграл Стилтьеса сводится к обыкновенному интегралу.

Если F(x) имеет скачок в точке х = с^ то, выбрав подразделения так, что при некоторых значениях индекса xft<c<xfc+1, имеем:

&к

Г / (х) dF (х) = lira 2 / to) [F to) -F to-i)l +

Jn-»oo ^ = 1

a n +/M [ F(xk^— F (x*)] + Hm 2 /to) t^<^) - Fto-J] = n->oo i«=A+ 2

0b

- j*/(x) dF (x) + / / (x) dF (x)+/ (c) [F (C + 0) — F (c - 0)]. ae4-0

В частности, если изменение функции F(x) происходит только в точках cv с2> ..мсп1 •.., то

&ОО

Г/(х)dF^= 2 /to)[F(cn+0)-F(C„-0)] П=1 а

и интеграл Стилтьеса сводится к ряду.

Перечислим основные свойства интеграла Стилтьеса, которые нам потребуются в дальнейшем. Доказательства этих свойств легко могут быть проведены читателем, исходя из определения интеграла Стилтьеса и пользуясь рассуждениями, используемыми в теории обычного интеграла.

При a <ct<c^<.. .<cw<b

ьп с<+1

С /(х^Р(х)= 5 f /to</F(x) [e = c0, 6 = C„+J.

Постоянный множитель выносится за знак интеграла ъъ

J с/ (х) dF (х) = с J /(х) dF (х). аа

Интеграл от суммы функций равен сумме их интегралов

Ь пп Ь

J ^/t^dF<x) = s (Mx)dF(x).

J <—12=1 J

аа

Если / (х) ^> 0 и Ь > а, то ъ f/(x)^(x)>0. а

Если ^(х) и F2(x)—монотонные функции с ограниченным изменением, а ^ и сй — произвольные постоянные, то

ъъъ

J№d\C1FAx^A-cA^ = cx j'/W^W + cg JJ^dF» (x). aaa

Если F (x) = J g(a) dO (а), где c—постоянное, g^—не- в

прерывная функция и О (я) — неубывающая функция с ограниченным изменением, то ъъ

J / (х) dF (х) = J / (х) g (х) dQ (х). аа

Использовав понятие интеграла Стилтьеса, мы можем написать общие формулы для функции распределения суммы

Ji^2Ji^2двух независимых слагаемых, а также частногодвух независимых слагаемых, а также частногоF (х) = / Ft (х—z) dF» (г) = J F» (х - г) dFx (г)

Ji^2

Ji^2

двух независимых слагаемых, а также частного

двух независимых слагаемых, а также частного

ооО

F (х) = J Fx (xz) dF» (z) + J [1 - Fx (xz)J dF9 (z) 0—oo

независимых случайных величин £x и $2 в предположении, что Р{Еа = 0}=0.

ГЛАВА 5

ЧИСЛОВЫЕ ХАРАКТЕРИСТИКИСЛУЧАЙНЫХ ВЕЛИЧИН

В предыдущей главе мы видели, что наиболее полная характеристика случайной величины даётся её функцией распределения. Действительно, функция распределения одновременно указывает на то, какие значения может принимать случайная величина и с какими вероятностями. Однако в ряде случаев о случайной величине тре- ( буется знать гораздо меньше, требуется получить о ней лишь неко- | торое суммарное представление. Для теории вероятностей и её приложений большую роль играют некоторые постоянные числа, получаемые по определённым правилам из функций распределения j случайных величин. Среди этих постоянных, служащих для получения I общей количественной характеристики случайных величин, особенно | важны математическое ожидание, дисперсия и моменты различных порядков.

§ 25. Математическое ожидание

Начнём изложение с рассмотрения следующего схематического примера: предположим, что при стрельбе из некоторого орудия для поражения некоторой цели требуется один снаряд с вероятностью pv два снаряда — с вероятностью р^ три снаряда — с вероятностью рь и т. д. Кроме того, известно, что п снарядов заведомо достаточно для поражения этой цели. Таким образом, известно, что

Р1 + Ра+ ••• +P»=L

Спрашивается, сколько в среднем потребуется снарядов для поражения указанной цели.

Для ответа на поставленный вопрос будем рассуждать так. Предположим, что производится очень большое число стрельб в указанных выше условиях. Тогда на основании теоремы Бернулли мы можем утверждать, что относительное число стрельб, в которых для поражения цели потребовался только один снаряд, приблизительно равно pv Точно так же два снаряда потребовалось приблизительно

137137

137

137

МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕМАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ§251

МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ

МАТЕМАТИЧЕСКОЕ ОЖИДАНИЕ

в 1ООр2°/о стрельб и т. д. Таким образом, «в среднем» на поражение одной цели потребуется приблизительно

1еР1 + 2*р2+ ••• ~Vn'Pn снарядов.

Аналогичные задачи по подсчёту среднего значения случайной величины возникают в самых разнообразных задачах. Вот почему в теории вероятностей вводят в рассмотрение особое постоянное, носящее название математического ожидания. Мы сначала дадим определение для дискретных случайных величин, отправляясь от только что рассмотренного примера.

Пусть

XV *^2* е • • ’ Xw • е •

обозначают возможные значения дискретной случайной величины Е, а

Pi. Р* •••» Рп» •••

-—соответствующие им вероятности.

ОО

Если ряд 2 хпРп сходится абсолютно, то его сумма назы- л=1

вается математическим ожиданием случайной величины $ и обозначается М$.

Для непрерывных случайных величин естественным будет следующее определение: если случайная величина 5 непрерывна и р(х)— её плотность распределения, то математическим ожиданием величины 5 называется интеграл

MS = J хр ^dx(1)

в тех случаях, когда существует интеграл

J \x\p(x)dx.

Для произвольной случайной величины 5 е функцией распределения F (х) математическим ожиданием называется интеграл

№ = $xdF(x).• (2)

Пользуясь определением интеграла Стилтьеса, мы можем дать простое геометрическое истолкование понятию математического ожидания: математическое ожидание равно разности площадей, заключённых между осью ординат, прямой у = 1 и кривой у = F (х) в интервале (О, -{• °°) и между осью абсцисс, кривой у = F (х) и осью ординат в промежутке (—со, 0;. На черт. 15 соответствующие площади заштрихованы и указано, с каким знаком следует взять в сумме

р W = -^=ехр а У 2лр W = -^=ехр а У 2л(х — аУ \2а*(х — аУ \2а*

р W = -^=ехр а У 2л

р W = -^=ехр а У 2л

(х — аУ \2а*

(х — аУ \2а*

каждую из площадей. Заметим кстати, что геометрическая иллюстрация позволяет математическое ожидание записать в таком виде:

(3)(3)м$ = - Jp<x)dx-V Jo — WW-—ООО

(3)

(3)

Сделанное замечание позволяет во многих случаях находить математическое ожидание почти без вычислений. Так, для случайной вели

чины, распределённой по закону, указанному в конце §21, математическое ожидание равно половине. '

Заметим, что среди рассмотренных нами ранее случайных величин, случайная величина, распределённая по закону Коши (пример 5 § 23), не имеет математического ожидания.

Перейдём к рассмотрению

примеров.

Черт. 15.Пример!. Найтимате

матическое ожидание случайной BeJ ичины !, распределённой по нормальному закону

Заменой х==—-— мы приводим вычисляемый интеграл к видуЗаменой х==—-— мы приводим вычисляемый интеграл к виду2 dz.2 dz.тото

Заменой х==—-— мы приводим вычисляемый интеграл к виду

Заменой х==—-— мы приводим вычисляемый интеграл к виду

2 dz.

2 dz.

то

то

По формуле (2) находим, что

1/(х—я)8

х—т= ехр ( — —

а V 2л X 2а2

М$ = а.

Мы получили важный результат, вскрывающий вероятностный смысл одного из параметров, определяющих нормальный закон: параметр а в нормальном законе распределения равен математическому ожиданию, .

Примерз. Найти математическое ожидание случайной величины 5, равномерно распределённой в интервале (а, 5).

Имеем:

f ~ dxb* — a*a-Vb

a

Мы видим, что математическое ожидание совпадает с серединой интервала возможных значений случайной величины.

Прим ер 3. Найти математическое ожидание случайной величины 6, распределённой по закону Пуассона

Р{6-*)=Т(*-0,1,2,...).

Имеем: оососо

ms—2^- и e=2j&‘ я 2й(л—oi^

=ae"aTi^-=a-

Если F(x]B) есть условная функция распределения для случайной величины 5, то интеграл

M(W) = Jx^(x/B)(4)

мы назовём условным математическим ожиданием случайной величины 5 относительно события В.

Пусть Bv Вйэ ..., Вп— полная группа несовместимых событий и Р^х(В^, Р(х)В^ ..., Р (х)В^— соответствующие этим событиям условные функции распределения величины 6. Обозначим через F (л:) безусловную функцию распределения величины 5; по формуле полной вероятности находим, что

А—1

Это равенство совместно с (4) позволяет нам получить следующую формулу:

которая, очевидно, может быть записана и иначе:

МЕ = М{М№)}.(5)

Только что найденная формула во многих случаях значительно упрощает вычисление математических ожиданий.

Пример 4. Рабочий обслуживает п однотипных станков, расположенных прямолинейно на расстоянии а друг от друга (черт. 16). Считая, что рабочий обслуживает станки, подходя к ним в порядке zп очерёдности, найти средний

о—о—о—о—-<>-—о—--о—-опереход (математическое ожи-

"* ^*1 дание величины перехода)

хмежду станками.

q 16Пронумеруем станки слева

направо от 1-го до л-го и обозначим через Вд событие, состоящее в том, что рабочий находится у станка с номером к. Так как все станки по условию задачи однотипны, то вероятность р^ того, что следующим станком, потребующим внимания рабочего, будет станок с номером ц равна ~ (1^/^л). Величина перехода X в этом случае равна

^( (^ — О аПРИ

г\(1 — к) апри к < и

По определению

кп

м№)=1-(2(а-о«+ 2 ^-^^<=1г=%+1

_ a fk(k—\) , (и — ^)(л — ^41)\_n I 2‘2)

= ^^-2(п + 1) А+л(л+ 1)1-

Вероятность рабочему находиться у к-го станка равна — , поэтому по формуле (5) находим, что

к«1

Известно, что

к=1к=1п (п + 1) (2л 4-1)6п (п + 1) (2л 4-1)6

к=1

к=1

п (п + 1) (2л 4-1)6

п (п + 1) (2л 4-1)6

поэтому

on

где 1= Хп — 1)а означает расстояние между крайними станками.

Математическим ожиданием «-мерной случайной величины (б^ Е2, ..., Еп) называется совокупность п интегралов

аН "П ... Jx^Ffx, ь • • •, Х^ — J X dF^x) = М^,

где Ffc(x)—функция распределения величины 5Й*).

Пример 5. Плотность распределения двумерной случайной величины (Еп Е2) задана формулой (двумерное нормальное распределение) р (xv х2) = ^—-^-= ехр { — 2(1_г2)—

2г(^ —аИхз —&) . (Xi — ^Ц.

«1=2"Т" в| Ji’

найти её математическое ожидание.

По определению

«1 = J J хд) (xit ,к9) dxt dx^ = у xtpv (х^ dxt

И

я2 == У У х^р (Хр х^) dx^ dx^ = у х^р^ (а*2) dx^.

В примере 2 § 22 мы видели, что

п (у \=1 eml (xi—a)4

Pi' ^ TV57 Р I9^—р

поэтому согласно результатам примера 1 настоящего параграфа находим, что

«16Z, «2 ^^ ^.

Нам удалось выяснить вероятностный смысл параметров а и b также и для двумерного нормального распределения.

Дисперсия

Дисперсией случайной величины $ называется математическое ожидание квадрата уклонения 5 от ME. Мы условимся дисперсию обозначать символом DE. Таким образом, по определению

D; = М (5 — МО3 = У х dF^ (х), .(1)

О

где через F^ (х) обозначена функция распределения случайной величины iq = (Е — МО2- Найдём связь между функцией F^(x) и Функцией распределения Fe(x) величины S. Имеем:

F^ (х) = 0 при х < О,

а при х > О

^(х) = Р{ч<х} = Р{(6-МО2<х} =

= р{—y^<s—ms< i^} = p{ms—/х<е<ме+У^} =

= a (MS + Ух) — Ft (MS — /х + 0).

Формула (1) переписывается так:

DS = J xd (Fe (MS+ Ух) - Ft (MS — /х + о)1 = О

= J xrfF^MS+l/x) —J xdFt (MS — Ух-1-0). оо

В первом интеграле произведём замену г = MS -|- Ух, а во втором — замену z = MS — Ух, в результате

J х dFt (MS + Ух) = J (г — MS)9 dFe (г), оМб

соМб

J X dFe (MS —1^+0)=. — J (г-MS)9 dF^z). О—co

Таким образом,

DS = /(г — MS)9 dF5(z).(2)

Так как

(г —MS)9 = г9—2гMS-Ь(MS)9 и MS —J г dFe (г),

то формула (2) может быть записана иначе

DS« Jz9dFe(z)—(JzdFe(z))’ = MS9—(MS)9.(3)

Так как дисперсия является неотрицательной величиной, то из последнего соотношения мы выводим, что

Jz9dFe(z)>(JzdFe(z))’e

Это неравенство представляет собой частный случай известного неравенства Буняковского-Коши.

Подобно математическому ожиданию дисперсия существует не для всех случайных величин. Так, рассмотренный нами ранее (пример 4 § 23) закон Коши не имеет конечной дисперсии.

Рассмотрим примеры вычисления дисперсии.

Пример 1. Найти дисперсию случайной величины 5, равномерно распределённой в интервале* (а, 6).

В нашем примере

J7 J b — a 8(^— a) 3

a

В предыдущем параграфе было найдено

Таким образом,

* n._^ + ^ + ^(аЛ-Ь\*(Ь — а)*

3 к 2 / ”12*

Мы видим, что дисперсия зависит только от длины интервала (а, 6) и является возрастающей функцией длины. Чем больше интервал значений, принимаемых случайной величиной, т. е. чем больше рассеяны её значения, тем больше дисперсия. Дисперсия, таким образом, играет роль меры рассеяния (разбросанности) значений случайной величины около математического ожидания.

Пример 2. Найти дисперсию случайной величины $, распределённой по нормальному закону

„=L_ exo I —

Мы знаем, что МЕ = л, поэтому

D£= J (х— а)2р (х)dx = -у^- J (х— а^е 2*а dx. Произведём под интегралом замену переменных, положив

при этом

D$ = -^= Г г^е 2 dz.

Интегрированием по частям находим, что

г2 е 2 й = j — ze 2 + J 6 2 ^ ~ V^^.

— ОО

Таким образом, окончательно

05 = а»

Мы выяснили, таким образом, вероятностный смысл второго параметра, определяющего нормальный закон. Мы видим, что нормальный закон распределения полностью определён математическим ожиданием и дисперсией. Это обстоятельство широко используется в теоретических изысканиях.

Заметим, что и в случае нормально распределённой случайной величины дисперсия позволяет судить о рассеянии её значений. Хотя при любых положительных значениях дисперсии нормально распределённые случайные величины могут принимать все вещественные значения, всё же рассеяние значений случайной величины будет тем меньше, чем меньше дисперсия; при этом вероятности значений, близких к математическому ожиданию, будут больше. Это обстоятельство было отмечено нами в предыдущей главе при первоначальном знакомстве с нормальным законом.

П р и м ер 3. Найти дисперсию случайной величины X, рассмотренной в примере 4 § 25.

Сохранив обозначения примера 4, находим, что кп

M^/Bft)=±(2^-Z)aa®+ J] Ц-к^^- 4=14=&4-1

“ ^ 1^-1) ' M2k-Wn-^ (в-А+1)(2л-26+1)]= =. _^ {6А9 — 6 (в 4-1) А + (2л 4-1) (« + 1)]

и, следовательно,

M(xa)=4-SM(xwe

А®1

= ^-[л(Л-Ь1)(2в+1)-3(п+1)9в +

+ «(« + 1) (2л +1)1 = 4 (в9—!)• Отсюда следует, что

D (X) = м (X9)—(MX)9 - 4 <"2-1) - ---v™- =

аЗ(л2_1)(л2 + 2)_ /2 /2.1.24

“18л2— 18 Vл — 1п(п — 1) \ ri^n — 1)/

Дисперсией л-мерной случайной величины (6П Е2, •••> 5*) называется совокупность л2 постоянных, определяемых формулой

^jk = ^ I * * * 5 ^^ ^^) ^^ МЕд) dF (хх, ха, хп)

(1<*О> 1<У<л). (4)

Так как при любых вещественных /у(1^/^л) пп п

/Щ^" М^)}2^/7^, Х2, ..., Х„) = 22-»м

то, как известно из теории квадратичных форм, величины bjk удовлетворяют неравенствам

ООпри к = 1, 2, ..при к = 1, 2, ..п.п.^и 612 . •• Ь1к ^21 623 • • • ^2к

О

О

при к = 1, 2, ..

при к = 1, 2, ..

п.

п.

^А:1 ^&2 • • * ^кк

Очевидно, что

^кк ~ DSfc.

. Величины bjk при кф) называются смешанными центральными моментами 2-го порядка величин^- и ^ очевидно, что Ь^ = Ь^.

Следующая функция от моментов второго порядка

носит название коэффициента корреляции между величинами ^ и ^. Коэффициент корреляции является мерой силы связи (линейной связи) между величинами £< и gj. Величина коэффициента корреляции, как это следует из неравенства Буняковского, заключена в пределах (-1, +1).

Значения ztl достигаются только в случае, когда $ и т) связаны линейной зависимостью.

В дальнейшем мы увидим, что для независимых величин коэффициент корреляции равен нулю.

Пример 4. Найти дисперсию двумерной случайной величины (’Р U> распределённой по невырожденному нормальному закону

р (*. у)р (*. у)12^^ уТ— г212^^ уТ— г2X ехр |X ехр |1 f(x —а)5 2(1-г») L <41 f(x —а)5 2(1-г») L <4ог (х-а^-Ь)alJ2ог (х-а^-Ь)alJ2I 0-^1I 0-^1

р (*. у)

р (*. у)

1

2^^ уТ— г2

1

2^^ уТ— г2

X ехр |

X ехр |

1 f(x —а)5 2(1-г») L <4

1 f(x —а)5 2(1-г») L <4

ог (х-а^-Ь)alJ2

ог (х-а^-Ь)alJ2

I 0-^1

I 0-^1

Согласно формуле (4) и результатам примера 2 настоящего параграфа и примера 1 § 25, находим, что

D$i = Op DEg ” a^

10 Вак. 1826. В. В, Гнеденко.

Далее

619 = »91= J [(* — а) (у — b)p{x, y)dxdy

Ш—ъу2а22 dyXШ—ъу2а22 dyXЗаменойЗаменойааdx.dx.1 I 7= е 2n»xaa V1 — Г2 J

Ш—ъу2а2

2 dyX

Ш—ъу2а2

2 dyX

Заменой

Заменой

а

а

dx.

dx.

2 =2 =ггУ — Ьа2

2 =

2 =

г

г

выражение для Д19 приводится к виду

6lg = »el=lJ |(01а9 ]Л — г^ + га^^е 3 ~ dzdt == ^ J tV^ dt^ е'^ dzV^^p^ X

X f te * dt Г ze ^ dz = ^о,.

Отсюда находим, что

J J (х-g) Су - Ь^р {х, у) dxdy^ ^ _ мм (6а_ М5а)

^р2V 0^10^2

Мы видим, что двумерный нормальный закон, так же как и одномерный, полностью определяется заданием математического ожидания и дисперсии, т. е. определяется заданием пяти величин М5р ме2, DEP D?2 и г.

Теоремы о математическом ожидании и дисперсии

Теорема 1. Математическое ожидание постоянной равно этой постоянной.

Доказательство. Постоянную С мы можем рассматривать как дискретную случайную величину, которая может принимать только одно значение С с вероятностью единица; поэтому

МС=С- 1 = С.

Теорема 2. Математическое ожидание суммы случайных величин равно сумме их математических ожиданий:

м^+^-ме+Мч.

Доказательство. Рассмотрим сначала случай дискретных случайных величин 5 и iq. Пусть av а^ ..., а^ ...—возможные значения величины 5 и pv p^t ..., рп, ...—их вероятности; bv b2, ..., Ьк, ... — возможные значения величины 7) и qv цй>.,., qb ... — вероятности этих значений. Возможные значения величины $ 4"^ имеют вид ап-\-Ьк^к, п= 1, 2, ...). Обозначим через рпк вероятность того, что $ примет значение ап, а ^ — значение Ьк. По определению математического ожидания

М(5 + ч)= 2 Van~V Ьк^рпк = 5 5 1ап + Ь^ рпк =n, 7с«=1?i = l & = 1

ООСООООО

= 2 ап (2 р»»к)+ 2 Ьк^РякУ72=1 А* = 1Л = !П=1

Так как по теореме о полной вероятности

ОООО

2 Рпк^^рп и 2 Рпк^^ Фок»1п=1

ТО

ОООООО •

2 «п 2 Рпк = 2 ^пРп ^ Ms п=1 Л—1?4=1

И ОООООО

2 ьк (2 Рпк) = 2 ЬкЯк = м^. к=1 п=1к=1

Доказательство теоремы для случая дискретвых слагаемых завершено.

Точно так же в случае, когда существует двумерная плотность распределения р(х,^) случайной величины (5, tj), по формуле (3) § 23 находим:

МС = М ($ + ^) = f xdFt (х) = J x^j*р(^х— ^)tif^</x =

= J J гр {г,у) dzdy-У / J УР {г,у) de dy= Jzp^^dz-yJ* ^^^«Мб + Мч.

В общем случае теорема 2 будет, доказана нами в дополнении 1.

Следствие 1. Математическое ожидание суммы конечного числа случайных величин равно сумме их математических ожиданий.

М (^+е8 +...+и=м$,+ме, +... + ме„.

Действительно, в силу только что доказанной теоремы

м &++...+О - М‘ч 4- м &+е8 +...+и=

»м1х+мея+м(ев+...+и“.---мб1+мщ-... + м^

Следствие 2. Математическое ожидание суммы

где р — случайная величина, принимающая лить целочисленные значения, случайные величины 5Р $2, • • • ^ зависят от р., математическое ожидание р конечно и ряд

2mimp{h>a}

сходится, существует и равно

м^~Дм^Р(и>д.

Доказательство. Действительно, условное математическое ожидание, при условии, что р = к, равно

м {^ = *} = м^+меа + •. • + м^.

Безусловное математическое ожидание

м;и=2 м!уи=м.р{и = А!} = 2р{и=а} 1 Mt,=

Л«1 гА«1з = 1

- 2 м^ 2 р ^=Ц - 2 м^р {ц»}.

j = l Jk=j3 = 1

Если слагаемые 5Р Е2> ^з> • • • одинаково распределены, т. е. если Р{^<х} = Р{$2<х}==... ^^(х), то

М^М^МЦ-

Действительно,

ml = 2 р {н = а} 2 ml=м$! 2 ар {ft = ц = Мч ■ м^. г к=1з=1к=1

Пример 1. Число космических частиц, попадающих на данную площадку, есть случайная величина р., подчинённая закону Пуассона с параметром а, каждая из частиц несёт энергию S, зависящую от случая. Найти среднюю энергию В, получаемую площадкой в единицу времени.

Согласно следствию 2 имеем:

м§ = м$-мр = аме.

§ 271

Пример 2. По некоторой цели стрельба введётся до п-го попадания, Считая, что выстрелы производятся независимо друг от друга и вероятность попадания при каждом выстреле равна р, найти математическое ожидание расхода снарядов.

Обозначим через Ч^ число снарядов, потраченных от (А—1)-го до ^-го попадания. Очевидно, что расход снарядов на п попаданий равен

^ = ^1 + ^2 + • • • + ^1 и, следовательно,

M£ = M^ + M^+...+M$w. Но

ме^м^-...-M^ и

М8,= 2^-.р-^ = 1,

fc"«0

следовательно,

М$ = ^.

Теорема 3. Математическое ожидание произведения независимых случайных величин ^ и *q равно произведению их математических ожиданий.

Доказательство. Если величины 5 и т^ дискретны; av a^t ..., аь ... —возможные значения В и pv р^ ..., ръ ... — вероятности этих значений; Ьъ Ь^ bw ... —возможные значения г] и ^1, ^2» • • •, 9™ • • • — вероятности этих значений, то вероятность того, что 5 примет значение а^ а т] — значение bw равна pkqn. По определению математического ожидания

МЦ = 2 МпРид» = 22 а^кЯп =1Ц flfrsal tt=*1

= (2 «кРк) (2 Мп) = М;Мт].

Лишь немногим сложнее доказательство для случая непрерывных величин, провести его мы предоставляем читателю.

Доказательство теоремы в общем случае мы отложим до дополнения L

Следствие 1. Постоянный множитель можно выносить за знак математического ожидания

мс$ = см$.

Это утверждение очевидно, так как, каково бы ни было 5, постоянное С и величину $ можно рассматривать как независимые величины.

Теорема 4. Дисперсия постоянного равна нулю.

Доказательство. Согласно теореме 1,

DC = М (С— МС)2 = М (С— С)2 = МО = 0.

Теорема 5. Если с — постоянное, то

D^ = ^2D$.

Доказательство. В силу следствия из теоремы 3

Dri = М И —1№]2 = М [^ — с MS]2 = = Мс2 [6 — MS]2 = с2М [5 — ММ2 = c^DL

Теорема 6. Дисперсия суммы независимых случайных величин 5 и т] равна сумме их дисперсий

О(Е+ч) = ОЕ + Оч.

Доказательство. Действительно,

D (6+7)) = М R + ч—М (6+ч)]9 = М КЕ- ME) + (Ч — Мч)р = = ое + Оч+2М(Е—м?)(ч—Мч).

Величины Е и ч независимы, поэтому независимы также величины 6—ME и ч — Мч; отсюда

М (Е — ME) (ч — Мч) = М (Е—ME) • М (ч — Мч) = 0.

Следствие 1. Если Еп Е2, . •., Ея — случайные величины, каждая из которых независима от суммы предыдущих, то

D (Ei + Е8+ ... +Е„) = DEt + DE2+ ... + DE„.

Следствие 2. Дисперсия суммы конечного числа попарно независимых случайных величин Ер 62> •••> ^п равна сумме их дисперсий.

Доказательство. Действительно,

D(Ei + e2+...+E„) = M(S (Е»-МЕй))а =

= MS S(Efc-MEfc)(E,-ME,)=S 2М(Ей-МЕ»)(Е,-МЕ,) =

3«\К«1Iteslja*!

= S DE»+ £ М&-МЕМ-МЕД

k=l ^^j

Из независимости любой пары величин Ej и Е; (6 ф J) вытекает что при к ф j

M(Eft-MEfc)(E—МЕ,) = О.

Этим, очевидно, доказательство завершено.

Пример 1. Нормированным уклонением случайной величины называется отношение

Доказать, что

Действительно, t и М^ рассматриваемые как случайные величины, независимы, поэтому в силу теорем б и 6

\V^) D; De

Пример 2. Вели 6 и iq— независимые случайные величины, то d(e—ч)=ое+оч.

Действительно, в силу теорем 6 и 7 D (— т)) = (— I)9 От) = D*q и DG — ^«DS + Dtj.

Пример 3. Теоремы 2 и 6 позволяют весьма просто вычислять математическое ожидание и дисперсию числа у. наступлений события Л при п независимых испытаниях.

Пусть рк есть вероятность появления события А при &-м испытании.

Обозначим через цл число появлений события А при fe-м испытании. Очевидно, что рл есть случайная величина, принимающая значения 0 и 1 с вероятностями qk = \—pk и pk соответственно.

Величина у., таким образом, может быть представлена в виде суммы

и = i^ 4-р-а 4~ • • • 4* ь»-

Так как

М^ = 0.?*4-1-рй=рк

D|*k«Mnl—(Мрк)2 = 0 -^4-1 -рк—p|=pk(l—pk) = pk^,

то доказанные теоремы позволяют заключить, что

M^^Pi+Pa-h...+р* и

Dp=Pi»i 4- р»ч» 4- • • • 4- РпЧп-

Для случая схемы Бернулли рд = р и, следовательно,

Му. = лр и Dy = ^.

Заметим, что отсюда

М^р; D~ = ~.пп п

§ 28. Моменты

Моментом h-го порядка случайной величины Е называется математическое ожидание величины (Е— а)к:

Ч^ = М^ — а^е(1)

Если а = 0, то момент называется начальным. Легко видеть, что начальный момент первого порядка есть математическое ожидание величины 5.

Если а = ME, то момент называется центральным. Легко видеть, что центральный момент первого порядка равен нулю, а центральный момент второго порядка есть не что иное* как дисперсия.

Начальные моменты мы станем обозначать буквой vb а центральные— буквой нь указывая в обоих случаях нижним индексом порядок момента.

Между центральными и начальными моментами существует простая связь. Действительно,

ь, - м (?—му" = 2 с» (- му1 ме1 = 2 с1 (- му”-1 ч- (2)

Так как vt = ME, то

П—2

н» = 2 (- i)n~* сЫ~к+(-1 Г"1 (л -1) №(3)

к=0

Выпишем эту связь между моментами для первых четырёх значений п:

Hi — о>

— vt 2(33

Нз^7»—3^ + 2vt

Hi = 7i — 4v8v, + 6 v? — 3vt

Этй первые моменты играют особо важную роль в статистике. Величина

Wk=M|E — а^(4)

носит название абсолютного момента А-го порядка.

Согласно определению математического ожидания М (5—а^ должно вычисляться по формуле

vfc(a) = J*rfG(x),(Г)

где О (х) обозначает функцию распределения величины (Е— а)*. Однако при действительных расчётах предпочитают пользоваться другой формулой:

Ч («) = / О — a)6 dF (*)•(8)

где F (х) — функция распределения величины L Для того чтобы формулы (!') и (5) не противоречили друг другу, необходимо, чтобы имели место равенства

JxdO(x)= J* (х —а)МД(х).

Докажем, что это действительно так.

Если к— нечётное число, то (В—а)*— неубывающая функция В и поэтому

О(х) —Р{(;— ау« < х^ = Р ^ — a <V^ =

= Р(Е<а+1/^} = f(«+|/х).

При нечётном ^, таким образом,

M^ — a^ = j®dF(aVVxy

Нетрудно подсчитать, что заменой г = а + ]/х мы приводим этот интеграл к виду (5).

Если же к— чётное, то (В — а}16 есть неотрицательная величина и, следовательно, G(x) = O при х<^0. При х>0

О(х)==Р{(£ —а)^<х} = Р{а —^<£<а + ^ «F^a-V Vх)— ^Ча— Vх "Ь0).

Таким образом, при чётном к

M^ — ay = JxdF (а 4" V*)~ J xdF^a — }/х-|~0).оо

Заменами г = а^-^/х в первом интеграле и z = а — з/х— во втором мы приводим М (5 — #)к к виду (5).

Мы доказали частный случай следующей теоремы, которая будет доказана в дополнении 1.

Теорема 1. Если F (х) — функция распределения величины 5, /(х)—непрерывная функция, то

M/(E) = //(x)dF(x).

Так как мы условились считать, что случайная величина 6 имеет математическое ожидание только в том случае, когда изображающий его интеграл абсолютно сходится, то ясно, что момент &-го порядка у величины 5 существует тогда и только тогда, когда сходится интеграл

JI х |fc d^ (х).

Из этого замечания следует, что если случайная величина Е имеет момент £-го порядка, то она имеет также моменты всех положительных порядков, меньших чем к. В самом деле, так как при г <6 |х|*>|х|г, если |х|>1, то

^x^dF^» J |х^|(х) + J \х№^<

< J l*W(*) + J \x\MFK<xVI»I<1I®I>1

Первый интеграл в правой части неравенства конечен в силу конечности пределов интегрирования и ограниченности подинтегральной функции, второй интеграл сходится в силу предположения.

Пример. Найти центральные и центральные абсолютные моменты случайной величины, распределённой по нормальному закону

Имеем:

|**=.~тУ (,~“р {-= Д/Л~Т dx-

^ = 0.^ = 0.^к=»1к=^к=»1к=При к нечётном, в силу нечётности подинтегральной функции,

^ = 0.

^ = 0.

^к=»1к=

^к=»1к=

При к чётном

Подстановкой ха = 2г мы приводим этот интеграл к виду

й-1 ” к-1

Н» = ЯЧ”Н» = ЯЧ”V -а*2 а г 8 e-*dz = Г х J

Н» = ЯЧ”

Н» = ЯЧ”

_^(*_1) (4-3)...

При к нечётном абсолютный момент равен

^* =

: I хъе 2 dx = о

ft—1 а»2 2 Г

Моменты функций распределения не могут быть произвольными величинами. Действительно, каковы бы ни были постоянные /0, ^,..., /п, квадратичная форма

пп п

Л, = Г (2 ^ ^ — а^УdF (X) = 2 S vfc+/ (а) M,> О

неотрицательна; поэтому первые Vj(a) должны удовлетворять следующим неравенствам:

*о(«) v^a) ... vft(a)

>0(6 = 1, 2, ..., пу>0(6 = 1, 2, ..., пу*1(«) *2(«) ••• ^+1(«)

>0(6 = 1, 2, ..., пу

>0(6 = 1, 2, ..., пу

Ч^ v6+1(a) ... v36(a)

Аналогичным неравенствам подчинены и абсолютные моменты.

Относительно абсолютных моментов мы докажем ещё следующую теорему.

Теорема 2. Если случайная величина 5 имеет абсолютный момент порядка ky то при любых f и t (0 < t < t < 6)

V где обозначено

mt = М | $ — а р, а — любое вещественное число.

Доказательство. Докажем сначала теорему для того случая, когда Д т и к — рациональные числа. Пусть для определённости

причём по предположению теоремы

p^s < и.

Пусть теперь г — какое-нибудь целое положительное число, меньшее чем и. Рассмотрим неотрицательную квадратичную форму

Гг—1г+112

my—iu^~\- ^mvUD-y mr^ii? = Пн | л: 12<z + ^^1 2^ ] dF^xy

a 7~

Условие её неотрицательности состоит, как известно, в том, что

т^ С mT„i • mr^v

<19~

Это неравенство, очевидно, может быть записано и в таком виде:

Если придать г последовательно значения от 1 до г, то мы получим последовательность неравенств

2

а 12*22.3

/^2 <^1^3,77 7

7~ “

Заметив, что всегда

^о=1»

перемножив выписанные неравенства и произведя сокращения, мы приходим к неравенству

т,+1<тг+1.

Таким образом,

£

7<1

или же

£-JL

7q

Это неравенство доказывает, очевидно, теорему в случае /, т и 6 рациональных.

Так как функция mt непрерывна относительно аргумента / в об* ласти 0<^<к. то предельным переходом мы убеждаемся в правильности теоремы при любых /, т и 6.

Заметим, что в только что доказанной теореме содержится следующее важное свойство моментов:

11£1

В примерах предыдущих параграфов два первых момента случайной величины полностью определяли её функцию распределения, если только заранее известен вид этой функции (так это имело место для распределений нормального, Пуассона, равномерного и др.). В математической статистике играют значительную роль законы распределения, зависящие от большего чем два числа параметров. Если заранее известно, что случайная величина подчинена закону вполне определённого вида, но неизвестны лишь значения параметров, то эти неизвестные параметры в важнейших случаях определяются через первые моменты. Если же нам неизвестно, к какому виду принадле-

жит функция распределения, то, вообще говоря, не только знание одних первых, но и знание всех целочисленных моментов не даёт возможности определить неизвестную функцию распределения. Оказывается, можно построить примеры различных функций распределе-' ния с одинаковыми моментами всех целочисленных порядков. В связи с этим возникает вопрос (проблема моментов): дана последовательность постоянных чисел

Cq = 1, Ср С^ lg, • • • J

при каких условиях существует такая функция распределения F ^xY Для которой при всех п имеют место равенства

с„ = f^dF (х);

когда эта функция единственна?

В настоящее время эта задача получила полное решение, мы не останавливаемся на нём, так как оно стоит в стороне от назначения нашей книги.

Среди прочих числовых характеристик наиболее существенную роль играют так называемые семиинварианты; их определение мы отложим до главы 7, сейчас же отметим только следующее. При сложении независимых случайных величин момент суммы, вообще говоря, не равен сумме моментов слагаемых. Для момента суммы независимых слагаемых 5 и т] имеет место равенство

м($+7])»= 2 c£miW~*-

Семиинварианты различных порядков обладают тем свойством, что при сложении независимых слагаемых семиинвариант суммы равен сумме семиинвариантов слагаемых того же порядка. Оказывается, что семиинвариант любого порядка к есть рациональная функция моментов порядков, меньших или равных к»

ГЛАВА6

ЗАКОН БОЛЬШИХ ЧИСЕЛ

Массовые явления и закон больших чисел

Огромный опыт, накопленный человечеством, учит нас, что явления, имеющие вероятность, весьма близкую к единице, почти обязательно происходят. Точно так же события, вероятность наступления которых очень мала (иными словами, очень близка к нулю), наступают очень редко. Это обстоятельство играет основную роль для всех практических выводов из теории вероятностей, так как указанный опытный факт даёт право в практической деятельности считать мало вероятные события практически невозможными, а события, происходящие* с вероятностями, весьма близкими к единице, практически достоверными. При этом на вполне естественный вопрос, какова должна быть вероятность, чтобы мы могли событие считать практически невозможным (практически достоверным), однозначного ответа дать нельзя. И это понятно, так как в практической деятельности необходимо учитывать важность тех событий, с которыми приходится иметь дело. Так, например, если бы оказалось, что при измерении расстояния между двумя селениями оказалось, что оно равно 5340 м и ошибка этого измерения с вероятностью 0,02 равна или меньше 20 м, то мы можем пренебречь возможностью такой ошибки и считать, что расстояние действительно равно- 5340 м. Таким образом, в нашем примере мы считаем событие с вероятностью 0,02 практически несущественным и в своей практической деятельности его не учитываем. В то же время в других случаях пренебрегать вероятностями 0,02 и даже ещё меньшими нельзя. Так, если при строительстве большой гидроэлектростанции, требующей огромных материальных затрат и человеческого труда, выяснилось, что вероятность катастрофического паводка в рассматриваемых условиях равна 0,02, то эта вероятность будет сочтена большой и при проектировании станции она должна быть учтена, а не отброшена, как это было сделано в предыдущем примере. Таким образом, только требования практики могут н£м подсказать критерии, согласно которым мы будем считать те или иные события практически невозможными или практически достоверными.

В то же время необходимо заметить, что любое событие, имеющее положительную вероятность, как £ы мала ни была эта вероятность, может произойти, и если число испытаний, в каждом из которых оно может произойти с одной и той же вероятностью, очень велико, то вероятность хотя бы однократного его появления может стать сколь угодно близкой к единице. Это обстоятельство постоянно следует иметь в виду. Однако если вероятность некоторого события очень мала, то чрезвычайно трудно ожидать его появления в каком- либо заранее определённом испытании. Так, если некто утверждает, что при первой же раздаче карт между четырьмя партнёрами каждый получит карты только одной масти, то естественно заподозрить, что при раздаче руководствовались каким-то определённым соображением, например, расположили карты в определённом, известном сдающему, порядке. Эта наша уверенность основывается на том, что вероятность такой раскладки при хорошей тасовке равна (9!)М1/361< 1,1 тЮ~18, т. е. чрезвычайно мала. Тем не менее однажды факт такой раскладки карт был зарегистрирован. Этот пример достаточно хорошо иллюстрирует различие между понятиями практической невозможности и невозможности, так сказать, категорической.

Из сказанного понятно, что в практической деятельности, да и в общетеоретических задачах, большое значение имеют события с вероятностями, близкими к единице или нулю. Отсюда становится ясным, что одной из основных задач теории вероятностей должно быть установление закономерностей, происходящих с вероятностями, близкими к единице; при этом особую роль должны играть закономерности, возникающие в результате наложения большого числа независимых или слабо зависимых случайных факторов. Закон больших чисел является одним из таких предложений теории вероятностей и при том важнейшим.

Под законом больших чисел теперь было бы естественно понимать всю совокупность предложений, утверждающих с вероятностью, сколь угодно близкой к единице, что наступит некоторое событие, зависящее от неограниченно увеличивающегося числа случайных событий, каждое из которых оказывает на него лишь незначительное влияние. Это общее представление о теоремах типа закона больших чисел можно сформулировать и несколько определённее: пусть дана последовательность случайных величин

61, ^,...» Ц ... (I)

Рассмотрим случайные величины Сп, являющиеся некоторыми заданными симметрическими функциями от первых п величин последовательности (1):

Если существует такая последовательность постоянных аи ай, . .. ...tan} ..., что при любом е>0

lim R {l^—-а„ | < е} = 1, (2)

П->оо

то последовательность (1) подчиняется закону больших чисел с заданными функциями /п.

Обычно, однако, в понятие закона больших чисел вкладывается гораздо более определённое содержание. А именно, ограничиваются тем случаем, когда fn есть среднее арифметическое величин 6Р $2, ..$п.

Если в соотношении (2) все величины ап равны одной и той же величине сц то говорят, что случайные величины Сп сходятся по вероятности к а. В этих терминах соотношение (2) означает, что Си — ап сходится по вероятности к нулю.

Наблюдая единичные явления, мы наблюдаем их вместе со всеми их индивидуальными особенностями, затемняющими проявление тех закономерностей, которые имеют место при наблюдении большого числа аналогичных явлений. То, что факторы, не связанные с существом всего процесса в целом, а проявляющиеся только в единичных его осуществлениях, при рассмотрении среднего из большого числа наблюдений взаимно погашаются, было замечено ещё давно.

Позднее этот эмпирический результат отмечался всё чаще и чаще и притом, как правило, без попытки найти его теоретическое объяснение. Впрочем, такое объяснение многим авторам и не требовалось, так как наличие закономерностей как в явлениях природы, так и в общественных явлениях для них было не чем иным, как проявлением правил божественного порядка.

Некоторые авторы до сих пор обедняют содержание закона больших чисел и даже искажают его методологическое значение, сводя его попросту к наблюдающейся на опыте закономерности. На самом же деле непреходящая научная ценность исследований Чебышева, Маркова и других исследователей в области закона больших чисел состоит не в том, что они подметили эмпирическую устойчивость средних, а в том, что они нашли те общие условия, выполнение которых обязательно влечёт за собой статистическую устойчивость средних.

В связи с этим нельзя не напомнить следующее основное положение материалистической диалектики: «Мышление, восходя от конкретного к абстрактному, не отходит, если оно правильно, от истины, а подходит к ней. Абстракция материи, закона природы, абстракция стоимости и т. д., одним словом все научные (правильные, серьёзные, невздорные) абстракции отражают природу глубже, полнее, вернее. От живого созерцания к абстрактному мышлению и от него к практике — таков диалектический путь познания истины, познания

объективной реальности». (В. И. Ленин, Философские тетради, стр. 146, ОГИЗ, 1947 г.)

История закона больших чисел не составляет исключения в этом общем пути познания истины.

Для иллюстрации действия закона больших чисел приведём следующий схематический пример. По современным физическим воззрениям любой газ состоит из огромного количества отдельных частиц, находящихся в непрестанном хаотическом движении. Про каждую отдельную молекулу нельзя предсказать, с какой скоростью она будет двигаться и в каком месте она будет находиться в каждый данный момент времени. Однако мы можем рассчитать при определённых условиях, в которых находится газ, долю тех молекул, которые будут двигаться с заданной скоростью, или долю тех из них, которые будут находиться в заданном объёме. Но, собственно, именно это и нужно знать физику, так как основные характеристики газа—давление, температура, вязкость и пр. — определяются не замысловатым поведением одной молекулы, а их совокупным действием. Так, давление газа" равно суммарному воздействию молекул, ударившихся о пластинку площади единица за единицу времени. Число ударов и скорости ударившихся молекул меняются в зависимости от случая, однако в силу закона больших чисел (в форме Чебышева) давление должно быть почти постоянным. Это «уравнивающее» влияние закона больших чисел в физических явлениях обнаруживается с исключительной точностью. Достаточно вспомнить, что, скажем, в обычных условиях даже очень точные измерения с трудом позволяют отметить уклонения от закона Паскаля о давлении жидкости. Противникам молекулярного строения материи это чрезмерно хорошее совпадение результатов теории с опытом даже служило своеобразным аргументом: если бы материя имела молекулярное строение, то наблюдались бы и уклонения от закона Паскаля. Эти уклонения, так называемые флюктуации давления, действительно удалось наблюдать, когда научились изолировать сравнительно небольшие количества молекул, в результате чего влияние отдельных молекул ещё не полностью нивелировалось и оставалось ещё достаточно сильным.

Закон больших чисел в форме Чебышева

Мы перейдём теперь к формулировке и доказательству теорем Чебышева, Маркова и др.; употребляемый при этом метод принадлежит Чебышеву.

Неравенство Чебышева. Для любой случайной величины Е, имеющей конечную дисперсию, при каждом е>0 имеет место-неравенство

р{|е-ме|>зку.. (о

П Зак. 1826. Б. В. Гнеденко.

Доказательство. Если F (х) обозначает функцию распределения случайной величины Е, то ясно, что

Р{|$ —М6|>3}=J dF^.

1®-мн>.

Так как в области интегрирования

I*—МЦ> 1 то

J dF(x)<^ J (х-МЧа^(х). м$1>в|«—ме|>в

Мы только усилим это неравенство, распространив интегрирование на все значения х

f dF(^)<^J (х—ME)2dF(x) = y. 1ж—*м^1>е

Неравенство Чебышева доказано.

Теорема Чебышева. Если Elt $2, ..., 5П, ... —последовательность попарно независимых случайных величин, имеющих конечные дисперсии, ограниченные одной и той же постоянной

D^CC 0;2<С, .... ЫП<С,

то, каково би ни било постоянное е > О,

П-»ооП-»оо(2)(2)

П-»оо

П-»оо

(2)

(2)

А' —1А—1А' —1А—1пп

А' —1А—1

А' —1А—1

п

п

Доказательство. Мы знаем, что в условиях теоремы

ип

и, следовательно,

Согласно неравенству Чебышева

Переходя к пределу при п->со^ получаем, что пп

&=17с = 1

А так как вероятность не может быть больше единицы, то отсюда и следует утверждение теоремы.

Мы отметим некоторые важные частные случаи теоремы Чебышева.

Теорема Бернулли. Пусть у»— число наступлений события А в п независимых испытаниях и р есть вероятность наступления события А в каждом из испытаний. Тогда, каково бы ни было е > О,

Ит рЛ^_р|<в}=1.(3)

Доказательство. Действительно, введя случайные величины ул, равные числу наступлений события А при А-м испытании, имеем:

Р = Н1 +^2+ •• • + Hw

А так как

Мр» = р, Dp.fe=M<4’

то теорема Бернулли является простейшим частным случаем теоремы Чебышева.

Так как на практике часто неизвестные вероятности приходится приближённо определять из опыта, то для проверки согласия теоремы Бернулли с опытом было проведено большое число опытов. При этом рассматривались события, вероятности которых можно считать по тем или иным соображениям известными, относительно которых легко проводить испытания и обеспечить независимость испытаний, а также постоянство вероятностей в каждом из испытаний. Все подробные опыты дали прекрасное совпадение с теорией. Мы приведём результаты нескольких таких легко воспроизводимых экспериментов.

Колода карт, состоящая из 36 карт, сто раз была разделена наудачу на две равные части. В таблице 11 приведены результаты этого эксперимента. В первом столбце указан номер испытания, во втором — число появившихся в одной из полуколод красных карт, в третьем — число случаев деления красных и чёрных карт пополам среди уже произведённых испытаний и, наконец, в четвёртом столбце даны значения частот.

В примере 3 (§ 5) было вычислено, что вероятность в полуколоде получить поровну чёрные и красные карты равна

11ЖР 36! (91/ U'

Cn»to^4i.^4ib^i^4i.>to^COCOCOCOCOCOCOCOCoCotOtOtOtOtOtOtOtOtOtOi-‘»-“—•—ь-ь-и—»-»i—ь-*

ОООО^ЮСл4ь.ООЬО^ОООО-<ЮСл>|ХСоЬО'-*ОсООО-^ОСл^Са5ЬО|-‘0000-')ОСл4ь.ООЬО|-»ОСООО-')ОСЛ*ьСОЬО>-‘

я s s<

s я =5

X

SQCofoNOOCDOOONOOOO^CDOOONQNOOCO^CDOOOW-OOO^OOKO ООСООМЧООЮн-ООн-СОн-ООО

w to 43

я 43 to

Я EC. X

X s 2 о

ьЗгЗьО^н-н-н-ОООЮЮ^ЮФООЧ^^^Ч^^ЧСЛЭСпД ^фк^^ rf^4^ ^^^^OJOJOJCoCOtObOW Ю*-*1-®

О Ok

M to to О (T> □ W 43

X s

^ о

о о о о о о о о о о о о о о о о о о о о о о о о о о оо о о о о о о о о о о о о о о о о о о о о о о ТоТоТо То То То То То То То То То То То То То То То То То То То То То То То То •—Т-Т-^ТоТо То То То То То со го гр со со со То со^сл со сл о ►^СлСлСО^й^СлСОФ^Ф^ЮСОЦХф^СлСО*—‘1—*ЬОЮС04^СЛОС04^»—•ЧОООО^-ЮСОСД'^СО»—'СЛ^ОСоЧОСоООСоОО '

to

о to

ОООООООООООООООООООООООООООООООМ'Ч'Ч^ЧММММ'ЧМООООООООООСЛСЛСЛСЛСЛСЛСЛСЛСЛ OOOO^OCnrfsb.COhOH-oOOO^OCn^COtOi—0000*ЧОСлФьСоЮ|—ООООМОСл4^СОЬОн-ОООО^ОСлФ»>СОЬЭь-

to s s Sc

s я E

ММООС0^-‘ООООООООММС0ОООС0О*ЧООСлООрОн-ООООМООООО«—‘tO^OtOOOOOOOO»—‘OO4OS00O

to 43

я 43 to

Я EC И

X s о ti О

£££££!$;Sf$!3Kk38K8^^8SgS8S£a£££~^^"~3;5;o555£5;££««£

2 2х

to О о я « 43

X s о fa О

оооооооооОООООООООООООООООООООООООООООООООООООоооо ТоТоТоТоТоТоТоТоТоТоТоТоТоТоТоТоТоТоТоТоТоТоТоТоТрТоТоТо to to to То То То То То То То to to to to to to To to to to to To ^^слсл^оо^^^^слслсл^сл^сл^слслотсл^^^слсл^слслслтттчслтт^^ссоочоослслсл

X to

о

to

I

н to Ок fa s ^ to

O)

ЗАКОН БОЛЬШИХ ЧИСЕЛ

о

Приводимый на черт. 17 график наглядно представляет изменение и._

частоты — в зависимости от числа испытаний. Вначале, когда число п опытов невелико, ломаная линия порой значительно уклоняется от прямой у = р~ 0,26. Затем с увеличением числа опытов ломаная в общем всё ближе и ближе подходит к этой прямой.

В рассмотренном случае получилось довольно значительное окончательное (при п = 100) уклонение частоты от вероятности (приблизительно равное 0,02). По теореме Лапласа вероятность получить такое уклонение или ещё большее равна р{|т-^|>°-02} =

= Р (I ^L I > 0,02 VII ~1 - 2Ф (0.02 /^ =U Vnpq I v pq \kг pq)

= 1 — 2Ф (0,02 У02610^74) = 1 — 2Ф (0,455) ~ 0,65.

Таким образом, если повторить указанный эксперимент большое число раз, то приблизительно в двух третях случаев получится укло- нение, не меньшее, чем полученное в нашем опыте.

Французский естествоиспытатель XVIII века Бюффон бросил монету 4040 раз, герб выпал при этом 2048 раз. Частота появления герба в опыте Бюффона приближённо равна 0,507.

Английский статистик К. Пирсон бросил монету 12 000 раз и при этом наблюдал 6019 выпадений герба, Частота выпадения герба в этом опыте Пирсона равна 0,5016,

В другой раз он бросил монету 24 000 раз, и герб при этом выпал 12 012 раз; частота выпадения герба при этом оказалась равной 0,5005. Во всех приведённых опытах частоты лишь немного уклонялись от вероятности — 0,5.

Теорема Пуассона. Если в последовательности независимых испытаний вероятность появления события А в к-м испытании равна р^ то

lim р Л £ —+^.+ - -.-^ I < е | = 1,

где, как обычно, через р обозначено число появлений события А в первых п испытаниях.

Введя в рассмотрение случайные величины pfc, равные числу появлений события А в k-м испытании, и заметив, что

Мрй = рь Х)н = Рк9к<^>

мы убеждаемся, что теорема Пуассона является частным случаем теоремы Чебышева.

Если последовательность попарно независимых случайных величин £х> $2, • • м ^ • • • кшкова^ что

М^ = М52=... = М^= :..=а и

d^<c, d;2<c, ..., DEn<C,

то, каково бы ни было постоянное е>0,

lim HItS — й|<е|=1.

П-»ОО I I п "I )

Этот частный случай теоремы Чебышева даёт основание правилу среднего арифметического, постоянно употребляющемуся в теории измерений. Предположим, что производится измерение некоторой физической величины а. Повторив измерения п раз в одинаковых условиях, наблюдатель получит не вполне совпадающие результаты хп х21 ...,хп, В качестве приближённого значения а принято брать среднее арифметическое из результатов наблюдений

д _ .дг1 + дг2+.-»+^пп

Если измерения лишены систематической ошибки, т. е. если

Mxt = Мх2 = ... = Мхп = а,

и если сами наблюдённые значения не обладают неопределённостью, то согласно закону больших чисел при достаточно больших значениях п с вероятностью, сколь угодно близкой к единице, мы ука-

данным путём можем получить значение, сколь угодно близкое к искомой величине а. Сказанное мы должны пояснить следующим: если измерительный прибор устроен так, что он не может давать точности отсчёта большей, чем некоторая величина 8, например, из- за того, что ширина деления шкалы, по которой производится отсчёт, равна 8, то, понятно, нельзя и рассчитывать получить точность измерения, большую, чем ±8. Каждое измерение в этом случае даёт результат с неопределённостью 8; но ясно, что при этом и среднее арифметическое будет обладать той же неопределённостью, как и каждое измерение. Это замечание учит нас, что если приборы дают нам результаты измерений с некоторой неопределённостью 8, то стремиться посредством закона больших чисел получить значение а с большей степенью точности является заблуждением, а сами произведённые при этом вычисления превращаются в арифметическую забаву.

Мы ограничимся формулировкой теоремы А. А. Маркова; её доказательство является очевидным следствием неравенства Чебышева.

Теорема Маркова. Если последовательность случайных величин $n 5g, ..., $л, ... такова, что при п-^оо

pD(2^0.(4)

то, каково бы ни было положительное постоянное в, пп

Если случайные величины $р Е9, ..., $п, ... попарно независимы, то условие Маркова принимает вид: при п -> оо

п

Отсюда видно, что теорема Чебышева является частным случаем теоремы Маркова.

§ 3L Необходимое и достаточное условие для законабольших чисел

Мы уже указывали, что закон больших чисел является одним из основных предложений теории вероятностей. Отсюда становится понятным, почему так много усилий было положено на то, чтобы установить наиболее широкие условия, которым должны удовлетворять величины Еь $2, е.., 6П, ..., чтобы для них имел место закон боль

ших чисел.

История вопроса такова. В конце XVII — начале XVIII века Яков Бернхлли нашёл предложение, получившее его имя. Теорема Бернулли была впервые опубликована в 1713 г., после смерти автора, в трактате «Ars Conjectandi» (Искусство строить догадки). Затем в начале XIX века Пуассон доказал аналогичную теорему в более широких условиях. До середины XIX века не было достигнуто каких-либо новых успехов. В 1866 г. великий русский математик П. Л. Чебышев нашёл метод, изложенный нами в предыдущем параграфе. Позднее А. А. Марков заметил, что рассуждения Чебышева позволяют получить более общий результат (см. § 30).

Дальнейшие усилия долго не приносили принципиальных успехов, и лишь в 1926 г. А. Н. Колмогоров получил условия, необходимые и достаточные для того, чтобы последовательность взаимно независимых случайных величин 5П ^, .. »,6П, •.. подчинялась закону больших чисел. В 1923 г. А. Я. Хинчин показал, что если случайные величины ^п не только независимы, но и одинаково распределены, то существование математического ожидания М$» является достаточным условием для применимости закона больших чисел.

В последние годы много работ было посвящено определению условий, которые следует наложить на зависимые величины, чтобы для них выполнялся закон больших чисел. Теорема Маркова принадлежит к предложениям этого рода.

Используя метод Чебышева, легко получить условие, аналогичное условию Маркова, но уже не только достаточное, но и необходимое для применимости закона больших чисел к последовательности произвольных случайных величин.

Теорема. Для того чтобы для последовательности

^2’ ^3> • • •

(как угодно зависимых) случайных величин при любом положительном s выполнялось соотношение

пп

»™ р{|12^—i-XM’‘l<4=1’w

ft—1fc=i

необходимо и достаточно, чтобы при п-^оо

(2 ^-мы)2

М—"°-(2)

«2+(2 (»-мей))8&=1

Доказательство. Предположим сначала, что (2) выполнено, И покажем, что у этом случае выполнено, также (1). Обозначив

через Фп(х) функцию распределения величины п

•к=1

Легко проверить следующую цепочку соотношений:

1 + s2 £21 + s2 £2J 1+Х»^*^^ |®1>6•J 1+Х»^*^^ |®1>6•

1 + s2 £2

1 + s2 £2

J 1+Х»^*^^ |®1>6•

J 1+Х»^*^^ |®1>6•

* Это неравенство доказывает достаточность условия теоремы.

• Покажем теперь, что условие (2) необходимо. Легко видеть, что

Р{Ы>И = / ад> J ^^„(х)»| ОС f > еI ас 1 > е

I ОС I <•

>Гт^^.«—-м^-я(3)

Таким образом,

0<М-^1<в=+Р{|^|>в}.

Выбирая сначала в сколь угодно малым, а затем п достаточно большим, мы можем сделать правую часть последнего неравенства сколь угодно малой. '

Отметим, что все теоремы, доказанные в предыдущем параграфе, легко вытекают из только что доказанного общего предложения. Действительно, так как при любом п и любых 5 имеет место неравенство

2 « '

к = 1

то в случае существования дисперсий отсюда вытекает неравенство

Таким образом, если условие Маркова выполнено, то выполнено также условие (2) и, следовательно, последовательность ^ $2,..., Еп,... подчиняется закону больших чисел.

Всё же мы должны заметить, что в более сложных случаях, когда у величин Ед не предполагается конечных дисперсий, доказанная теорема для фактической проверки применимости закона больших чисел весьма мало пригодна, так как условие (2) относится не к отдельным слагаемым, а к их суммам. Однако рассчитывать на то, что, не сделав никаких предложений о величинах Ед и о существующей между ними связи, удастся найти необходимые и достаточные условия, к тому же удобные для приложений, повидимому, нельзя.

Если предположить, что величины Ер $2, Е3, ... взаимно независимы, то можно показать, что условие (2) эквивалентно следующему: при /2 —> со

где обозначено

Практическое использование только что доказанных теорем встречает одно принципиальное затруднение: можем ли мы считать, что изучаемое нами явление или производственный процесс протекают под воздействием независимых причин? Не противоречит ли само понятие независимости нашим основным представлениям о взаимосвязи всех явлений внешнего мира? Мы не должны забывать при этом фундаментального положения материалистической диалектики, абсолютно чётко сформулированного товарищем Сталиным: «В противоположность метафизике диалектика рассматривает природу не как случайное скопление предметов, явлений, оторванных друг от друга, изолированных друг от друга и не зависимых друг от друга, — а как связное, единое целое, где предметы, явления органически связаны друг с другом, зависят друг от друга и обусловливают друг друга». («Вопросы ленинизма», стр. 536, 11 изд.)

Находясь на позициях философии диалектического материализма, мы не можем уклониться от выяснения реальных связей, имеющихся в изучаемом нами явлении. При математическом изучении тех или иных явлений природы, технических процессов или тех или иных общественных явлений мы прежде всего должны выводить наши основные предпосылки, опираясь на глубокое изучение существа самого явления, качественных его особенностей. Мы должны учи-

тывать изменение внешних условий, в которых протекает изучаемое нами явление и изменять, математический аппарат и предпосылки, лежащие в основе его применения, как только обнаружится, что условия осуществления явления изменились.

Признавая взаимосвязь всех процессов природы, материалистическая диалектика в то же время указывает на то, что эти связи могут быть существенными и несущественными для того или иного явления. Рассмотрение всех существующих связей, в том числе и несущественных, приводит лишь к тому, что само явление затемняется и овладение им отодвигается ввиду такой осложнённой обстановки. Несущественные для данного явления связи должны нами не учитываться, и всё наше внимание должно быть сосредоточено на основном. Мы всегда должны иметь в виду, что «для того чтобы познавать отдельные стороны (или частности общей картины мировых явлений), мы вынуждены вырывать их из их естественной или исторической связи и исследовать каждую в отдельности по её свойствам, по её особым причинам и следствиям» (Ф. Энгельс, Анти-Дюринг, стр. 20, изд. 1948 г.; слова в скобках принадлежат В. И. Ленину: «Материализм и эмпириокритицизм», стр. 134, изд. 1946).

Отбрасывая несущественные связи между причинами, под влиянием которых развивается изучаемое явление, мы приходим к возможности в качестве рабочего аппарата пользоваться независимыми случайными величинами. Насколько удачно мы произвели схематизацию явления, насколько удачно выбран нами математический аппарат для его изучения, мы можем судить по согласию созданной нами теории с практикой. Если наши теоретические результаты существенно расходятся с опытом, то мы должны пересмотреть предпосылки, в частности, если идёт речь о применимости закона больших чисел, то быть может придётся отказаться от предположения о полной независимости действующих причин и перейти к предположению об их зависимости, быть может и слабой.

Мы уже говорили, что накопленный опыт использования теорем о законе больших чисел показывает, что условие независимости удовлетворительно во многих важных задачах естествознания и техники.

Усиленный закон больших чисел

Нередко из теоремы Бернулли делают совершенно необоснованный вывод, что частота события А при безграничном увеличении числа испытаний стремится к вероятности события А. На самом же деле теорема Бернулли устанавливает только тот факт, что для достаточно большого числа испытаний п вероятность одного единственного неравенства:

может быть сделана больше чем 1 — т] при произвольном т) > 0. В 1909 г. французский математик Э. Борель обнаружил более глубокое предложение, согласно которому при любых е > 0 и т] > 0 можно указать такое л0, что, каково бы ни было s, вероятность одновременного выполнения неравенств

для всех п. удовлетворяющих неравенствам пй^п^.пй-\-8 больше чем 1—т].

Эту теорему мы выведем из теоремы А. Н. Колмогорова об усиленном законе больших чисел.

Неравенство А. Н. Колмогорова. Если взаимно независимые случайные величины $н £2,..., ^ имеют конечные дисперсии. то вероятность совместного осуществления неравенств

1С

IS& —мез)1<е(&=1, 2,...,я)

d=l

не меньше, чем п

1 —jf£dU

fc=l

Доказательство. Введём обозначения

к

Пусть, далее, Ек обозначает событие, состоящее в том, что

|SJ <е для/<&— 1 и |Sft|>e;

.Ео означает событие, состоящее в том, что|5}|<в для /<^п. Так как событие, состоящее в том, что хотя бы при одном А (1 ^ А ^ я) будет выполнено неравенство

|Sfc|>e(£=1,2я)

п

(иными словами, что max |S&|^>s) равносильно событию 2 Efc, ТО 1<к<пк»!

в силу несовместимости событий Е^ п Р{ max |Sfc|>e} = SP(5fc). l<fc<nк = Х

Согласно равенству ((5) § 26)

пп

р$„=2 Р(^) • м (s^e6) > 2 р (Ек). М №ку к&9к^1

Очевидно, далее, что

M(S№ = M{Sl + 2 2 ^+2^+2 2 w^1> j>k j>k j>K>k

>М$ + 2 2Ш2 2 w^bj>k • j>h>k

Так как осуществление события Ек налагает ограничение только на значения первых А из величин ^, а последующие остаются при этом условии независимыми друг от друга и от Sk, то

м адв^ = М (ад). м ад-)=О и

М(^/^ = 0(A=/=J. А> As, /> А>> 1).

Кроме того, согласно (1) имеет место неравенство м<ад)>62 (*>1).

Мы можем написать поэтому, что

DS#>.’2P{^hк=1

Отсюда я УР(5»} = Р{ max |S6|>e}<lDSn.

Неравенство А. Н. Колмогорова доказано. Мы скажем, что последовательность случайных величин £ц 52, £3» • • •

подчиняется усиленному закону больших чисел, если, каковы бы ни были е > 0 и ч > 0, можно указать такое п0, что для любого s и всех п, удовлетворяющих неравенствам п0 ^ п ^ п^ + з, вероятность неравенства

пи

maxI^S^ —4SM^l<s

больше, чем 1 — т\.

Теорема А. Н. Колмогорова. Если последовательность взаимно независимых случайных величия Ер Е2,... удовлетворяет условию

ООт<+"’П = 1

то она подчиняется усиленному закону больших чисел.

Доказательство. Положим с„=^-ме„, sn=£cfc, ^"Sw

Рассмотрим вероятность

Pw==p {max | vn О-s, 2W ^n < 2mH}.

Так как

Pm < P {max | уи | > e, 1 < n < 2wl+1}>

то согласно неравенству A. H. Колмогорова

Pm (^e)^ 2 D^e

Так как, далее,

P{max|»J>e для п>^<^Р№ т=^

где р определяется из неравенств 2p^v<2p+1, то ясно, что

ОО

P{max|v„|>e для »>v}<^2i 2 DV w=p у^з1214*1

После перемены порядка суммирования в правой части последнего неравенства получим:

Ш=р J<2W+1J=1

где сумма 2; распространена на те значения т^^ для которых 2^+1 > у.

При у^2р+1 коэффициент при D^ равен

S

13

4^” 4Р—1 ’ т > р

а при 2m,1+1 > />> 2mj> 2p+1 этот коэффициент равен -^Д^ ^ 3-16/3 -16

Таким образом:

оо2?+1оо _ с

S2i 2 os,«^Sd*,+3.16 2 у<

от=р^<а”,+1/=1j=2P+i+i

р2Р+1оо

<^t£dE,+ 3.4 2 5^ + 3-16 2 7^

^ = 1j=P + lJ=2P+1 + 1

Р2?+1 ьоо _ .

t^1^ ^з-.б 2 ^

3 = 13=9 Л-1j=2P+1-f-l

В силу сходимости ряда ^ ^

1°. Две последние суммы в написанном выше неравенстве могут быть сделаны сколь угодно малыми при р достаточно большом.

2°. Существует такая постоянная С, что D$n < Сп^ откуда еле* дует, что

JLVry ^^СрЗ 4Р+14Р-1 •

j=l

т. е. и первая сумма может быть сделана сколь угодно малой при достаточно большом р.

Из всего сказанного следует, что при л0 достаточно большом Р {max 1^0*6для п>^

может быть сделана сколь угодно малой, ч. и тр. д.

Следствие. Если дисперсии случайных величин Efc ограничены одной и той же постоянной Ct то последовательность взаимно независимых случайных величин $р £2, 53, ... подчиняется усиленному закону больших чисел.

Один окончательный результат, относящийся к усиленному закону больших чисел, был получен также А. Н. Колмогоровым для случая одинаково распределённых независимых слагаемых.

Теорема. Существование математического ожидания является необходимым и достаточным условием для применимости усиленного закона больших чисел к последовательности одинаково распределённых и взаимно независимых случайных величин.

Эту теорему мы можем вывести из уже доказанной нами теоремы А. Нч Колмогорова.

Действительно, из существования математического ожидания следует конечность интеграла |* Ixlrf/7^), где F^— функция распре* деления случайных величин $п.

Поэтому

= 2 АР {А <п = 1= 2 АР {А <п = 1§Р{|Ч>«} = 2 2 Р{а<|М<*4-1} = п=1n—1к>п

= 2 АР {А <

п = 1

= 2 АР {А <

п = 1

< J* | х j dF (х) < оо.< J* | х j dF (х) < оо.(О(Оm<A+i}<2 J |л;рР(х)< к °6<|Ф|<6+1

< J* | х j dF (х) < оо.

< J* | х j dF (х) < оо.

(О

(О

Введём в рассмотрение случайные величины

*( 6» при |Еп|<л,

”( О при 15П | > л.

Тогда получим: +”«

D^<MC= | x2rfF(x)<2(A+l)2P{A<|$|<A + l} _ *к-0

И

ОО00 W , о

2т<2 2ЦДр(*<щ<н-ч< п»1п=1й*=0

ОООО

«^p^cHKa+W + ipS 1.к=0п>к

Так как ОО

л2 ^ № Т" а ^ д » я> ft

то в силу (1) находим, что

т. е. С удовлетворяют усиленному закону больших чисел. Далее

P{£W^:C при каком-либо n">N\<. ^ Р{е»#:С} = п >^

-2р(|8*|>«}<|(2)

при N">N0(ey

Выберем v0 столь большим, чтобы при v^-v0 (s, ц)

-2 (^ -w

р( й=1

ИИ(4)(4)

И

И

(4)

(4)

Наконец, так как & удовлетворяет усиленному закону больших чисел, то

P^max|^|>^; n>v}<-^ при у^Св, ч),(5)

п где— М^'

Из (2),-(3), (4) и (5) выводим

P{max|«yn|>'n; n>v}<8

при v^max(v0, vb ^), т. е. и 5П удовлетворяют усиленному закону больших чисел.

Принципиальная роль усиленного закона больших чисел в теории вероятностей и в её приложениях весьма велика. Действительно, предположим на минуту, что, скажем, в случае одинаково распределённых слагаемых, имеющих конечное математическое ожидание, усиленный закон не имеет места. Тогда с вероятностью, сколь угодно близкой к единице, можно утверждать, что будут повторяться моменты, когда средняя арифметическая результатов наблюдений будет далека от математического ожидания. И это бы случилось даже в тех случаях, когда наблюдения производятся без систематической ошибки и с полной определённостью (величина 8, о которой была речь в § 30, равна 0). Можно ли было бы в таких условиях считать, что среднее арифметическое из результатов наблюдений сближается с измеряемой величиной, могли ли бы мы в этих условиях считать, что среднее арифметическое можно считать за приближённое значение измеряемой величины? Сомнительно.

ГЛАВА 7

ХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИИ

Мы видели в предыдущих главах, что в теории вероятностей широко используются методы и аналитический аппарат различных отделов математического анализа. Простое решение весьма многих задач теории вероятностей, особенно тех из них, которые связаны с суммированием независимых случайных величин, удаётся получить с помощью характеристических функций, теория которых развита в анализе и известна под именем преобразованийФурье. Настоящая глава посвящена изложению- основных свойств характеристических функций.

§ 33. Определение и простейшие свойствахарактеристических функций

Характеристической функцией случайной величины 5 называется математическое ожидание случайной величины е^ ). Если F(x) есть функция распределения величины 5, то характеристическая функция равна по теореме 1 § 28

/(0 = Je«®dF(x).(1)

Мы. условимся обозначать в дальнейшем характеристическую функцию и соответствующую ей функцию распределения одними и теми же буквами, но только соответственно малой и большой.

Из того, что | еи® | = 1 при всех вещественных /, следует существование интеграла (1) для всех функций распределения; следовательно, характеристическая функция может быть определена для каждой случайной величины.

Теорема 1. Характеристическая функция равномерно непрерывна на всей прямой и удовлетворяет следующим соотношениями

/(0) = 1, |/(01<1 (-оо </<«).(2)

Доказательство. Соотношения (2) немедленно вытекают из- определения характеристической функции. Действительно, по (1)

/(O)=Jl.dF(x) = l

И

1/(01= I Je«®dF(x)|< J |^®|dF(x) = j*dF(x)=L

Нам остаётся доказать равномерную непрерывность функции / (0. С этой целью рассмотрим разность

/ (/+А) —/ (0 = j* е«» ^ — 1) dF (х)

и оценим её по модулю. Имеем:

Пусть е>0 произвольно; выберем столь большое А, чтобы f dF(x)<|,

\®\>А

и подберём столь малое ht чтобы для | х | < А

|^—11<^.

Тогда

А

\^t-\-K>—f^\< j*|^ —l|dF(x)+2 J dF^xXe.

—AI ®I>A

Это неравенство доказывает теорему.

Теорема 2. Если iq = a$~["^ г^е а и b— постоянные^ то

где j^f) и Д(/) означают характеристические функции величин ч и i

Доказательство. Действительно,

А (0 =■ W^ = Me"(oUb) = е"ь Ме^ = е*% (of).

Теорема 3. Характеристическая функция суммы двух независимых случайных величин равна произведению их характеристических функций.

Доказательство. Пусть £ и ч — независимые случайные величины и С = ?+т|. Тогда очевидно, что вместе с 5 и т; независимы также случайные величины е^ и е*^. Отсюда вытекает, что

м?« = Me" R+l) = Me"* • eit4 = Me"*Me"4.

Это доказывает теорему,■

Следствие. Если•

* — Т причём каждое слагаемое независимо от суммы предыдущих, то характеристическая функция величины $ равна произведению характеристических функций слагаемых.

Применение характеристических функций в значительной степени опирается на свойство, сформулированное в теореме 3. Сложение независимых случайных величин, как мы видели в § 23, приводит к весьма сложной операции — композиции функций распределения слагаемых. Для характеристических функций эта сложная операция заменяется весьма простой — простым" умножением характеристических функций.''

- Теорема 4. Если случайная величина 5 имеет абсолютный момент п-го порядка, то характеристическая функция величины $ дифференцируема п раз и при k^n

(3)(3)/W (0) = W.

(3)

(3)

Доказательство; Действительно, &-кратное (^^л) формальное дифференцирование характеристической функции приводит к равенству

(4)

Но

и, следовательно, в силу предположения теоремы ограничен. Отсюда следуют существование интеграла (4) и законность дифференцирования. Положив в (4) /=0, находим, что

Математическое ожидание и дисперсия весьма просто выражаются при помощи производных от логарифма характеристической функции. В самом деле, положим

ТогдаТогдаф(о = ^/(0.

Тогда

Тогда

ф' (а=^й

^(0 =

ЖО-ЛО-ЧПО!2

Приняв во внимание, что / (0) — 1 и равенство (3), находим, что у (O)=/(O) = i|VU

ф" (0) = /" (0) — V' (О)]3 = zW — [/МУ2 = — D6. Отсюда

ме=1^(о)

иОЕ = -Г(0).иОЕ = -Г(0).(5)(5)

и

ОЕ = -Г(0).

и

ОЕ = -Г(0).

(5)

(5)

Производная 6-го порядка логарифма характеристической функции в точке 0, умноженная на /&, называется семиинвариантом к-го порядка случайной величины.

Как это непосредственно следует из теоремы 3, при сложении независимых случайных величин их семиинварианты складываются.

Мы только что видели, что первыми двумя семиинвариантами являются математическое ожидание и дисперсия, т. е. момент первого порядка и некоторая рациональная функция моментов первого и второго порядков. Путём вычислений легко убедиться, что семиинвариант любого порядка к есть (целая) рациональная функция первых к моментов. Для примера приведём явные выражения семиинвариантов третьего и четвёртого порядков:

/з^(о)=—{me8—зме2 • ме+2 [мб]3},

z^v (0) = МЕ4—4МЕ8МЕ —з [МЕ2]2 + 12МЕ2[МЕ)2 —6 [ME]4.

Рассмотрим теперь несколько примеров характеристических функций.

Пример 1. Случайная величина Е распределена по нормальному закону с математическим ожиданием а и дисперсией а2. Характеристическая функция величины Е равна

ПодстановкойПодстановкойit®— еit®— е(a—of2а9(a—of2а9dx.dx.

Подстановкой

Подстановкой

it®— е

it®— е

(a—of2а9

(a—of2а9

dx.

dx.

х — а ..

г =da

?(0?(0приводится к видуприводится к виду?(0=?(0=ее/2*/2*е 2 dz.е 2 dz.

?(0

?(0

приводится к виду

приводится к виду

?(0=

?(0=

е

е

/2*

/2*

е 2 dz.

е 2 dz.

Известно, что при любом вещественном «

оо—<а*^

—со—<«следовательно,ш——? (О = 8“ .

Пользуясь теоремой 4, мы можем без труда вычислить центральные моменты для нормального распределения и тем самым другим путём получить результат примера, рассмотренного в § 28.

Пример 2. Найти характеристическую функцию случайной величины 6, распределённой по закону Пуассона.

Согласно предположению величина 6 принимает только целочисленные значения, причём

Р^ = ^}=Т(* = °. ^ 2. •••).

где X > О — постоянная.

Характеристическая функция величины 6 равна сосо

Лс=О£=0

= е-х у ^.^ е-хл-хв» » вх (.«-!), А!

л»о

Согласно (5) отсюда находим, что

Me = l^(O) = X; D^ = —^^ = X.

Эти равенства были нами ранее (§ 25, пример 3) получены непосредственно.

/(О = f ^=/(О = f ^=Пример 3. Случайная величина В равномерно распределена в интервале (—а, а). Характеристическая функция равна

/(О = f ^=

/(О = f ^=

2а at *

Пример 4. Найти характеристическую функцию величины |ь, равной числу появлений события Л в п независимых испытаниях, в каждом из которых вероятность появления события Л равна р»

Величина р- может быть представлена как сумма

п независимых величин, каждая из которых принимает лишь два значения 0 и 1, соответственно с вероятностями ^ = 1—р и р. Величина у^ принимает значение 1, если событие А происходит в ^-м испытании, и значение 0, если событие А в ^-м испытании не происходит.

Характеристическая функция величины yfc равна

А (О == e^q + eU1p = q -уРеи.

Согласно теореме 3 характеристическая функция величины у. равна

п

/ю=Па(о=(?+^"Л

к=Л

Найдём ещё характеристическую функцию величины т) = - ~— .

¥ npq По теореме 2 она равна

= (де~и V -j-peU ^йр)".

Пример 5. Характеристические функции удовлетворяют равенству /(-0=7(0-:

Действительно,

/ (— 0 = $ е-«® dF (х) = J е«® dF (х) = //^

Формула обращения и теорема единственности

Мы видели, что по функции распределения случайной величины $ всегда можно найти её характеристическую функцию; для нас важно, что имеет место также обратное предложение: по характеристической функции функция распределения определяется однозначно.

Теорема 1. Пусть f^ и F (д:) — характеристическая функция и функция распределения случайной величины 5. Если хх и х2— точки непрерывности функции F (х), то

F(xa)-JF(x1)=A.eHm р^f^dt. (1)

Доказательство. Из определения характеристической функции следует, что интеграл

Jc = ^ J йf^dt

равен

С

Jc = 2_ f fl^*-^ — e^^-^dF^)^

Z^ J V tv

В последнем интеграле можно изменить порядок интегрирования, так как по г интеграл абсолютно сходится, а по t пределы интегрирования конечны. Таким образом,

^« (з—^0eU (з—ж2)^« (з—^0eU (з—ж2)ииdF^ =dF^ =

^« (з—^0eU (з—ж2)

^« (з—^0eU (з—ж2)

и

и

dF^ =

dF^ =

dt j dF (г) =5dt j dF (г) =51 J jpin/(#—ж,)—co 01 J jpin/(#—ж,)—co 0—-^ ^Jd/dF^).—-^ ^Jd/dF^).

dt j dF (г) =5

dt j dF (г) =5

1 J jpin/(#—ж,)

—co 0

1 J jpin/(#—ж,)

—co 0

—-^ ^Jd/dF^).

—-^ ^Jd/dF^).

e<t (з—а^e—it^—®^eit (з—а^ । e—it k«—®^

It

^ если а > О,— — , если а < О,^ если а > О,— — , если а < О,Из анализа известно, что при с -* оо

^ если а > О,

— — , если а < О,

^ если а > О,

— — , если а < О,

(2)

и эта сходимость равномерна относительно а в каждой области а > 8 > О (соответственно а < — 8), и при | а | ^ 8, при всех с

(3)

Положим для определённости, что х2>хп и представим интеграл Jc в виде следующей суммы:

а?!—6®1 + ^®й—8aJ2 + 8со

Jo — ] + / + /+/ + J <Кс, x; Xj, x2)dF(z), —ооа?! —8^+8я?3—8ж2+8

где для краткости обозначено

сОсОsin t (г — х2)tsin t (г — х2)t^dt^dt

с

О

с

О

sin t (г — х2)t

sin t (г — х2)t

^dt

^dt

и 8>0 подобрано так, что ^ + 8<x2 — 8,

В области — оо < z < хг — 8 имеют место неравенства z — хх < <—- 8 иг— х2 <—8. Поэтому мы на основании (2) заключаем, что при £->ОО

8

У Ф (с, z; х„ ха) dF (z) -* О.

—ОО

Аналогично при X3 + $<^< + °° и ПРИ с**00

°°

J^(c, z; xv х^ dF (г) -> 0.

а?2 4* 8

Далее, так как в области хг + 8 < z < х^ — 8 имеют место неравенства z— Xi >8 и z— х2 < 8, то согласно (2) при с-*оо ас^—6а^—6

J И*» z; хъ x^dFkX^ j dF(z') — F(xi—8) — F^ + S). xt 4* 8ж, Ц- 8

Наконец, в силу (3) мы можем воспользоваться оценками

a?, 4“ 8а?, 4* 6

I У Н^ z\ xv x^dF^z) |<2 у rfF(«) = 2[F(x1+o)—F(xt—8)] 07,-835,-8

и*

| У <Кс, г; xv, xj dF^ j<2 у dF(z) =2[F(a:9+ 8)—F(xa—8)]. a?2—8/pg—8

Таким образом, находим, что при любом 8 > О

Йт Jc = F(xa —8) — F (х, + 8) + Rt (8, х„ ха)

С -> ОО И

Нт Л = F (ха — 8) — F(xt + 8) + /?а (8, xv ха), с-> оо где

I Ri (8. xv х^ I < 2 {F (хг + 8)—F(xt — 8) + F (ха+8) — F (ха—8)} (/=1,2).

Пусть теперь 8-*0. При этом из того, что xt и ха являются точками непрерывности функции F(x), следуют равенства

lim F(xt4-8)= lim F^ —8) = F(x,)

8 ->08-> 0

И

lim F(xa4-8) = llm F (xa — 8) = F (xa), ?->o«-to

А так как Je не зависит от 3, то

lim Je — F(xa) — F (xj.с->оо

Равенство (1) носит название формулы обращения. Мы используем эту формулу для вывода следующего важного предложения (теорема единственности).

Теорема 2. Функция распределения однозначно определяется своей характеристической функцией.

Доказательство. Действительно из теоремы 1 непосредственно следует, что в каждой точке непрерывности функции F (х) применима формула

. 4* с

1/• ft —it Уo-itx

Г^Н lim lim f e /^dt,у-Ъ—00 C->OO JU

— 0

где предел по у берётся по множеству точек у, являющихся точками непрерывности функции F (х).

В качестве приложения последней теоремы мы докажем следующие предложения.

Пример 1. Если независимые случайные величины Et и 62 распределены нормально, то их сумма ^ = ^4“ ^2 также распределена нормально.

Действительно, если

М?1=Я1, 0^1 ^= $1> М$з==^2> 0^2 == ^2»

то характеристические функции величин ^ и 63 равны , ,1 2,2. ,1 2,2

По теореме 3 § 33 характеристическая функция /(/) суммы равна

Это—характеристическая функция нормального закона с математиче- ским ожиданием а = аг-\-а^ и дисперсией а ==а1-|-а2. На основании теоремы единственности заключаем, что функция распределения величины 6 нормальна.

Пример 2. Независимые случайные величины ^ и Е3 распределены по закону Пуассона, причём

Р& = *}—V-, Р{*а = *}=4лг-•

Докажем, что случайная величина $ = ^4-^2 распределена по закону Пуассона с параметром Х = Х}4-^-

Действительно, в примере 2 предыдущего параграфа мы нашли, что характеристические функции случайных величин $х и :2 равны /, (^ = ^ (e«-i)f дф = ^ (e«-i).

В силу теоремы 3 предыдущего параграфа характеристическая функция суммы 6 = $i + $a равна

т. е. является характеристической функцией некоторого закона Пуассона. Согласно теореме единственности единственное распределение, имеющее /(/) своей характеристической функцией, есть закон Пуассона, для которого

р|£ = 6)„<М2^ (6>0).

Д. А. Райков доказал обратное более глубокое предложение: если сумма двух независимых случайных величин распределена по закону Пуассона, то каждое слагаемое также распределено по закону Пуассона.

Пример 3. Характеристическая функция вещественна тогда и только тогда, когда соответствующая ей функция распределения симметрична, т. е. когда при любых х функция распределения удовлетворяет равенству

F(x) = l — F(— х + О).

Если функция распределения симметрична, то её характеристическая функция вещественна. Это доказывается несложным подсчётом:

f^ = ^e«®dF(x^ =

e^dF^—x-Y^-Y^е«® dF (х) — F (4-0) — F(- 0) =

оо

= ^(,e-«»-Yett®')dF(x) — F(4-0)—F(-0) = О

= 2 J cos tx dF (x) — ^X+O) — F (—0) = J cos tx dF (x)* о

(Напомним здесь, что мы условились включать нижний предел в интервал интегрирования и не включать верхний.)

Для доказательства обратного предложения рассмотрим случайную величину т| = — 6. Функция распределения величины ц равна С/(х)»Р{7)<х) = Р{Е>-х} = 1 — F(-x-f-0>

Характеристические функции величин Е и ч связаны соотношениемg(f) = М^ - Мв-^ = М^ =7(0-

Так как по условию /(/) вещественна, то /(0 = /(0 и» значит, g^=f^-

Из теоремы единственности мы теперь заключаем, что функции распределения величин Е и т) совпадают, т. е. что

F(x) = l — f(-x + 0), ч. тр. д.

Теоремы Хелли

В дальнейшем нам потребуются две теоремы чисто аналитического характера — первая и вторая теоремы Хелли.

Условимся говорить, что последовательность неубывающих функций

?^х\..., Fn{x), ...

сходится в основном к неубывающей функции F ^х\ если при п-юо она сходится к этой последней в каждой её точке непрерывности.

Впоследствии мы всегда будем считать, что функции Fn(x) удовлетворяют добавочному условию

Fn(—оо) = 0, и не станем далее оговаривать этого.

Отметим сразу же, что для сходимости в основном достаточно, чтобы последовательность функций сходилась к функции F^ на каком-нибудь всюду плотном множестве D. Действительно, пусть х — любая точка и х* и х" — какие-нибудь две точки множества D, такие, что х'^х^х". При этом также

W)<Fn(x^<Fn№

Следовательно,

lim Fn(x,)<. lim FH(x)<. Игл Fn(x)<. lim Fn(*")* n -» con->OO/з -> ooM-> CO

. А так как по предположению

lim FH (л/) = F (xf) и lim Fn (x^ = F (x"), n->OOn->oo

TO И

F(x')<. Hm Fn(x)<. lim Fn(x)<. F<x"y П -» ООn -> OO

Но средние члены в этих неравенствах не зависят от х' и х", поэтому

f (х— 0)<; lim FM(x)^ lim fn (x) ^ F (x -|- 0),

Если функция F(x) в точке х непрерывна, то F (х —0) = F(x) = F(x-|-0).

Следовательно, в точках непрерывности функции F(x) lim F„(x) = F(x).

П -> ОО

Первая теорема Хелли. Всякая последовательность ограниченных в совокупности неубывающих функций

FiUY F9(x)FnUX-..(1)

содержит по крайней мере одну подпоследовательность

FniUX рП1 UX --..F^UX

сходящуюся в основном к * некоторой неубывающей функции F{x\ Доказательство. Пусть D — какое-нибудь счётное всюду

плотное множество точек хь х2, ..., xn, ... Возьмём значения функций последовательности (1) в точке хк

^i (^i)> ^й^О» • ••>Ftt^Xi\ ...

Так как множество этих значений, по предположению, ограничено^ то оно содержит по меньшей мере одну последовательность

^11 (х1)» ^*12(xi)> •••> ^1п(х1)>(2)

сходящуюся к некоторому предельному значению, которое мы обозначим через О(х/). Рассмотрим теперь множество чисел

^*11 (хз)> F 12(^2), •. •, Р1п^\ ...

Так как и это множество ограничено, то существует в нём последовательность, сходящаяся к некоторому предельному значению О(х2). Таким образом, из последовательности (2) мы можем выделить подпоследовательность

^21 (*)» ^22 (Х)» • • •> ^2п (Х)> • • •’(3)

для которой одновременно lim F^ (xt) = G(xi) и lim f2n (x2) =» n-> oon->oo

Продолжим такое выделение подпоследовательностей

F&1 (х)у F^ 00» • • •> F^ kx\ • • •»(4)

Для которых одновременно имели бы место равенства lim Fkn (xr) = П-> oo

= O(xr) при всех r^.k. Составим теперь диагональную последовательность

^I) 00 > ^22 (^)> •> ^ш»их.~(5)

Вся она в конечном счёте выделена из последовательности (1), поэтому для неё lim Fnn (х^ = G (xi). Далее, так как вся диагональная Я->ОО

последовательность, за исключением лишь первого члена, выделена из последовательности (2), то lim Рпп(х^ = О(х2). Вообще вся диа- П->оо

тональная последовательность, за исключением первых её к— 1 членов, выделена из последовательности (4); поэтому для неё также lim Fnn (х^ = G ^х^ при каждом к. Полученный результат можно п -> оо

сформулировать так: последовательность (1) содержит по крайней мере одну подпоследовательность, которая во всех точках х^ множества D сходится к некоторой функции О(х), определённой на множестве D. При этом, так как функции Рпп (х) не убывают и равномерно ограничены, то, очевидно, и функция G (х) будет неубывающей и ограниченной.

Теперь ясно, что функцию О(х), определённую на множестве D, можно продолжить так, что она будет определена на всей прямой — оо<х<со, оставаясь неубывающей и ограниченной.

Последовательность (5) сходится к этой функции на всюду плотном множестве D; следовательно, она сходится к ней в основном, что и требовалось доказать. Заметим, что функция, полученная продолжением функции G, может оказаться не непрерывной слева. Но мы можем изменить её значения в точках разрыва так, чтобы восстановить это свойство. Подпоследовательность Рпп будет сходиться в основном и к таким образом «поправленной» функции.

Вторая теорема Хелли. Пусть/(х)— непрерывная функция и пусть последовательность неубывающих, ограниченных в совокупности функций

сходится в основном к функции F (х) на некотором конечном интервале а^х ^Ь, где а и b — точки непрерывности функции F[x)] тогда

lim Г/ (х) dFn (х) = f /(х) dF (х).

Л -> ОО JJ

аа

Доказательство. Из непрерывности функции /(х) вытекает, что как бы мало ни было положительное постоянное е, найдётся подразделение интервала а С х < b точками х0 = a, xv ..., xN=*b на частичные интервалы х^^х <СхЛ41 такое, что в каждом интервале (хь х&+1) будет выполняться неравенство |/(х)—/(xfc)|<s. Пользуясь этим обстоятельством, мы можем ввести вспомогательную функцию /в(х), принимающую только конечное число значений, определив её посредством равенств

7.^=/<х^ при Хк<Х<Х^Г

Очевидно, что для всех х в интервале а^х^Ь выполняется неравенство

|/(х)“/*(х)|<е.

При этом мы можем заранее выбрать точки деления хъ х* ..., ху_1 так, чтобы они были точками непрерывности функции F^xV В силу сходимости функций ^(х), ^(х), ^(х), ... к функции F(x), при достаточно больших п во всех точках деления будут выполняться неравенства

(6)

где М — максимум модуля /(х) в интервале а^х^Ь.

Без объяснений ясно, что

ьььь

| Г № dP (х) - f Ах) dFn (X) | < | J/ (x) dF (x) - jA(x) dF^ |+ aaaa

bbb

+ | J/,(x)dF(x)-f /.(x№(x)| + | J/.(x)rfF„(x)- aaa

b-J/(x)df„(x)|.

a

Нетрудно подсчитать, что первое слагаемое правой части не превосходит 8[F(A) — F(a)], а третье не превосходит e[Fn(£)—Fn(a)]. Что же касается второго слагаемого, то оно равно

IN — 1N—1|

| s /№Ы-ад-Ж)№+1)^^ fc=0к=0

N—lN—1

- I 2 /(x»)[F(xft+1)-F„(xfc+1)l- 2 /(xi)|F(xt)-Fe(x1)l| к«=0k*»b

и, следовательно, при достаточно больших п не превосходит 2е, как это вытекает из неравенства (6). В силу ограниченности функций Гл(х) в совокупности, сумма

• [f (») _ F(а)] + в [Fп (6) - Fn (а)] + 2.

может быть сделана сколь угодно малой вместе с е.

Обобщённая вторая теорема Хелли. Если функция f(x) непрерывна и ограничена на всей прямой —оо < х < оо, последовательность ограниченных в совокупности неубывающих функций

^1 С^)» ^2 00* • • • > ^п (^)> • • •

сходится в основном к функции F (х) и

lim Ftt (—00 ) = F(— 00),lim Fn (-)- 00) = F (-|- 00),

n->oon->QO

TOAA

Доказательство. Пусть Л<0 и В>0; положим

ввв

в

в

А

0000

Очевидно, что

| J/W dF^-J/(x) dFn (x) | <4 + J9 +J8.

Величины Jt и J8 можно сделать сколь угодно малыми, если выбрать А и В достаточно большими по абсолютной величине и притом такими, чтобы точки Л и В были точками непрерывности функции F (х), а п выбрать достаточно большим. В самом деле, пусть М — верхняя грань |/(х)| при —оо < х < со; тогда

f1<^[F(a)+f„(a)L

Л < АП/7 (+00) — F (В)] + Ж [Fn ( + <») - Fn (5) ]. Но

lim F(A) = 0, lim F(B) = F (+ 00).

A->—00B->oo

А так как, по предположению, lim F„ (A) - F (A), lim Fn (B) = F (B), n->oon~>oo

то наше утверждение об Jt и J8 доказано. Величина J2 при доста- точно большом п может быть сделана сколь угодно малой в силу теоремы Хелли для Конечного интервала.

Теорема доказана.

§ 36. Предельные теоремы для характеристическихфункций

Важнейшими с точки зрения приложений характеристических функций к выводу асимптотических формул теории вероятностей являются две.предельные теоремы — прямая и обратная. Эти теоремы устанавливают, что соответствие, существующее между функциями распреде-

§ 3б1 ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ ДЛЯ ХАРАКТЕРИСТИЧЕСКИХ ФУНКЦИЙ 193 ления и характеристическими функциями, не только взаимно однозначно, но и непрерывно.

Прямая предельная теорема. Если последовательность функций распределения

F^x^ Рп(х), ...

сходится в основном к функции распределения F(x), то последо- вательность характеристических функций

Л (О,

сходится к характеристической функции fit). Эта сходимость равномерна в каждом конечном интервале t.

Доказательство. Так как

к W = / ^^ (х), Г (0 = J e«»dP(х)

и функция eit36 непрерывна и ограничена на всей прямой —оо</<оо, то согласно обобщённой второй теореме Хелли при п-^оо

кМ^№

Утверждение, что эта сходимость равномерна в каждом конечном интервале /, проверяется буквально теми же рассуждениями, какие мы провели при доказательстве второй теоремы Хелли.

Обратная предельная теорема. Если последовательность характеристических функций

А(0, А(0.. .(1)

сходится к непрерывной функции /(/), то последовательность функций распределения

F i (*^)> ^з^У • • ч ^п^х\ • • •(2)

сходится в основном к некоторой функции распределения F(x) (в силу прямой предельной теоремы /(f) = J* ett®dF^x)').

Доказательство. На основании первой теоремы Хелли заключаем, что последовательность (2) непременно ^содержит подпоследовательность

^нС*)» ^W.^пи^^>(3)

Сходящуюся в основном к некоторой неубывающей функции F (х). При этом понятно, что функцию F (х) мы можем считать непрерывной слева:

lim F (xf) = F (х).

Об* -» ш—О

Вообще говоря, функция F (х) может и не быть функцией распреде» ления, так как для этого должны удовлетворяться ещё условия

13 Зак. 1826. Б. В. Гнеденкм.

F (— оо) = О и F (+ оо) = 1. Действительно, для последовательности функций

Fп (х) —Fп (х) —о221о221приприприпри— п<х <.п,— п<х <.п,приприх> п.х> п.

Fп (х) —

Fп (х) —

о

22

1

о

22

1

при

при

при

при

— п<х <.п,

— п<х <.п,

при

при

х> п.

х> п.

предельная функция F(x)s^ и, следовательно, F (—оо) и /7(+ оз) также равны ". Однако в условиях нашей теоремы, как будет сейчас показано, обязательно будет F (— оо) = 0 и F(-]-oo)=l.

В самом деле, если бы это было не так, то, приняв во внимание, что для предельной функции F (х) должно быть F (—оо)^0 и F(+oo)^l, мы имели бы:

8 = F(+oo)~ Р(—оо) <1.

Возьмём теперь какое-нибудь положительное число е, меньшее 1—8. Так как по условию теоремы последовательность характеристических функций (1) сходится к функции /(/), то/(0) = L А так как, сверх того, функция /(/) непрерывна, то можно выбрать достаточно малое положительное число т такое, что будет иметь место неравенство

->1—+Ю

4

Но в то же время можно выбрать -¥> — и настолько большое К, чтобы при k> К было

^ = РПк^-РПк^-Х)<^^-

Так как/п^(/) есть характеристическая функция, то

JЛй(0 dt= / [ J ^»dt^ dF„k (х). —Т—т

Интеграл, стоящий в правой части этого равенства, можно оценить следующим способом. С одной стороны, так как 1^®] = !, то

| Je»®^]< 2т.

С другой стороны,

J е**1® di = у sin тх,

Отсюда, применив первую оценку при | л:| ^-Y и вторую при ,х|>^Г, получаем:

/O^kl / ( f e^di\dF (х)|t*I I v \ J/ n I

I Я? 1 ^Х -*-Т

+ | J (/ ^^)^й&(х)|<2^+1|Ж| >Х —т

и, следовательно,

Это неравенство сохраняется и в пределе

что, очевидно, противоречит неравенству (4).

Таким образом, функция F(x), к которой сходится в основном последовательность F^xY есть функция распределения; согласно прямой предельной теореме её характеристическая функция равна /(0. Чтобы закончить доказательство теоремы, нам остаётся доказать, что и вся последовательность (2) сходится в основном к функции F^x\ Предположим, что это не так. Тогда найдётся подпоследовательность функций

F^' F^xY(5)

сходящаяся в основном к некоторой функции F* (х), отличной от F (х) по крайней мере в одной из точек непрерывности. По уже доказанному F*^ должна быть функцией распределения с характеристической функцией /(0. По теореме единственности должно быть

F* (х) = F (х).

Это противоречит сделанному предположению.

Заметим, что условия теоремы выполнены в каждом из двух следующих случаев:

Последовательность характеристических функций Д (0 сходится к некоторой функции /(0 равномерно в каждом конечном интервале £

Последовательность характеристических функций /п (О сходится к характеристической функции /(/).

Пример. В качестве примера использования предельных теорем рассмотрим доказательство интегральной теоремы Муавра-Лапласа.

В примере 4 § 33 мы нашли характеристическую функцию случайной величины in = ^ „_= :

Vnpq __

kW = \qe V "«-Vpe Г

Воспользовавшись разложением в ряд Маклорена, находим, что

где

р _ о У 1 1 и \к-грдк -уч^-рУ1

Так как при п -> со

Rn^^ то

В силу обратной предельной теоремы отсюда вытекает, что при любом X

ррУ-— прVnpqУ-— прVnpqв 8 dz,в 8 dz,

р

р

У-— пр

Vnpq

У-— пр

Vnpq

в 8 dz,

в 8 dz,

когда п —> оо.

Из непрерывности предельной функции легко вывести, что эта сходимость будет равномерна по х.

§ 37. Положительно определённые функции

Цель настоящего параграфа дать исчерпывающее описание класса характеристических функций. Приводимая нами ниже основная теорема была одновременно найдена А. Я. Хинчиным и С. Бохнером и опубликована впервые С. Бохнером.

Для формулировки и доказательства этой теоремы нам нужно ввести новое понятие. Мы скажем, что непрерывная функция /(/) вещественного аргумента t положительно определена в интервале — оо < / < оо, если, каковы бы ни были вещественные числа /п ^ •••» *п> комплексные числа $р В9, ..., $п и целое число п

п п

^^Ki—tk^^o.(1)

Перечислим несколько простейших свойств положительно определённых функций.

/(0)>0. В самом деле, положим /е = 1, ^ = 0, ^ = 1; тогда из условия положительной определённости функции /(О находим, что

Jj i/^-t^^f^ >0-

При любых вещественных t

/(-о=Ж

Для доказательства положим в (1) п = 2, 0 = 0, t2 = t, 5Р ;2 произвольны. Имеем по предположению

о< 2 S/(^—<,)е»^=/(о—о>е1ё;4-/(о—06^ + й=и = 1

+/(/-0)^+/^-/)^ =

=/ (0) (| ^ I3+1 ^13) +/(- /) е£+/ (О Оз. (2)

поэтому величина

. Г(-оеЛ+/(ООз

должна быть вещественной. Таким образом, если положить / (— /) = «^4-фр / (0 = «з 4* х?з> ^62 = 74-18, 1^ = 7 — й, то должно быть

«18 + ?1Т — а38 + М = °-

Так как ^ и 62, а следовательно, *[ и 8 произвольны, то должно быть «1 —«2=°. ?1+Р2 = 0-

Отсюда следует наше утверждение.

При любых вещественных t

1/Ю|</(0).

Положим в неравенстве (2) ^ =/(/), Е2 =—|/(01> тогда согласно предыдущему

2/(0)|/(0ls—|/(0|а1/(0| —1/(0 Г1/(01^о.

Отсюда при |/С0 | ф 0 получаем:

/(0)> |/(01 •

Если же |/(/)| = О, то опять-таки в силу свойства 1

/(°)> 1/(01-

Из доказанного следует, между прочим, что если положительно опре* делённая функция такова, что /(0) = 0, то /(0 = 0-

Теорема Бохнер а-Х и н ч и на. Для того чтобы непрерывная функция / (/), удовлетворяющая условию/(0) = 1, была характе- w ристической, необходимо и достаточно) чтобы она была положительно определённой.

Доказательство. В одном направлении теорема тривиальна. Действительно, если

/(0« Je^rfF(x),

где F (х)—некоторая функция распределения, то при любом целом л, произвольных вещественных tv t^ ... , tu и комплексных числах

$р Е2, ..., $п имеем:

мп_ п п Г.X

2 2 f^—t^^ = 2 2 Г ^^-9dF(x) ^ =

п п

= Г 2 ^e^-tj^dF^-

^п

п

= П 2 Wfc|2dF(x)>0.

Доказательство достаточности условий теоремы требует более сложных рассуждений.

Рассмотрим последовательность чисел /^^, зависящую от целочисленного параметра п. В силу положительной определённости функции /(х) мы имеем при любом N:

N—iN—t

k=0 j=o

Легко подсчитать, что в этой сумме имеется N—|г| слагаемых, для которых разность к—j равна г. Далее очевидно, что число г может изменяться от —N-\- 1 до N—1. Таким образом, имеет место, равенство

W- 2 (1—г»—N

Умножим обе части полученного равенства на в^® и проинтегрируем по х в пределах от —те до те:

теNте

J е<8®^> (х) dx = 2 (i-W® Je-<raseisa? ДХе

<^теf=—M

Известно, что ”. q для гф8^

e-ibr-s^dx-=.1

j(Зи для r = s.

Поэтому

8 tP W et8X dx = J eis$ dF$ (^>

—it—к

где, 2

F^^=^ jj®№dx

есть неубывающая функция с полным изменением, равным

№=4 / S^dx-m =1,

т. е. является функцией распределения.

На основании первой теоремы Хелли мы можем найти последовательность NK->oo при ^~* оо, для которой функции F^^ <П фиксировано!) сходятся к предельной; обозначим её через F^^xy Функция F^ (х) снова является функцией распределения, так как при любых N и произвольном е > О F$ (— тс — е) = О, Р^ (^ + е) = 1 и, значит, при произвольном s>0 также

F^ (— тс — s) = О, F^ (тс -{— s) = 1.

Согласно второй теореме Хелли

lim Г eisx dF^ (х) = Г eisxdF^ (х).

Л^оо JкJ

— ГС—К

Таким образом *),

/(4) = f e^dF^Hx)

при всех целочисленных s (s = О, ±1, zt2, ...).

Рассмотрим теперь последовательность характеристических функций fnVY определенных посредством равенства

ЯП

— ЯП где

F^-Fto^.

Легко проверить, что при всех целочисленных А /-0=/(!)•

Но каково бы ни было t, мы можем подобрать такую последовательность к = к^п^ t)^\ что

Из непрерывности функций f^ следует, что

п-»ооп-»ооП->ооП->оо(4)(4)

п-»оо

п-»оо

П->оо

П->оо

(4)

(4)

Если мы докажем, что при всех вещественных t х / (0 = Нт/„(/),\(5)

П^со

то доказательство теоремы будет завершено, так как /(/)—непрерывная функция и поэтому, в силу обратной предельной теоремы для характеристических функций, будет характеристической функцией.

С этой целью заметим, что из (3) и (4) следует равенство

JV"w -{^ w -<)]+'-О -

=ЛО + Um к (О —А(|)1.(6)

п->со Lx^/J

Обозначим:

6 = /—п

Согласно выбору величин к имеем 0^6<*~. По определению функ- ими /„(О

ЯП ^

|/п(0-А(|)| = | J e^^-W*^

J |еШ—l|</F„(x). -ЯПJ |еШ—l|</F„(x). -ЯП(7)(7)

J |еШ—l|</F„(x). -ЯП

J |еШ—l|</F„(x). -ЯП

(7)

(7)

Воспользовавшись неравенством Буняковского, находим, чтоВоспользовавшись неравенством Буняковского, находим, чтоЯПЯП(9)(9)Собрав вместе неравенства (7), (8) и (9), находим, чтоСобрав вместе неравенства (7), (8) и (9), находим, что

Воспользовавшись неравенством Буняковского, находим, что

Воспользовавшись неравенством Буняковского, находим, что

ЯП

ЯП

(9)

(9)

Собрав вместе неравенства (7), (8) и (9), находим, что

Собрав вместе неравенства (7), (8) и (9), находим, что

J 2 (1 — cos 9х) dF^-У-Щ- Rf* (6)),(8)

—яп

где символ Rfn (6) означает вещественную часть /„ (6). Так как cos г ^ cos az при 0 ^ а < 1 и — it ^ z < тс, то

1—RfH^ = J С1—cos Ox) dF „ (х) = j* (1—cos 9 • nz) dFn (zn)^ — ten—16

•< J* (1 — cos z) dFn (zri).

А так как

Fn(zn) = F<»)(z), TO

^^ dF ^ (г).^^ dF ^ (г).1 — RfnW < /(1 —cosz) d№ (z) = l — R

^^ dF ^ (г).

^^ dF ^ (г).

— я— я

Отсюда в силу (3) находим, что

Из непрерывности функции /(/) отсюда следует, что

lim /п(0-Л(^) =°*

Соотношение (5), как это видно теперь из (6), доказано.

§ 38. Характеристические функции многомерныхслучайных величин

В настоящем параграфе мы излагаем без доказательств основные сведения о характеристических функциях многомерных случайных величин.

Характеристической функцией л-мерной случайной величины (Ер Е^, ..., ^ называется математическое ожидание . величину

ее(<А+#.л+---+#„У, где tv t^..., tn—вещественные переменные:

/(^i. ^,/„) = Mexp(Z S^*)-(1)

fc = l

Если F (xv x^ ..., x^ есть функция распределения величины

(Ер Е2, ..., Ew), то, как мы знаем из предыдущего *),|

/(Л, ^ •••, U = / ••• / (ехр/ ^t^dF^ .... хп). (2)J

Подобно тому как и в одномерном случае, характеристическая|

функция л-мерной случайной величины равномерно непрерывна во | всём пространстве (— оо < ^ < 4- оо, 1 ^/ ^ п) и удовлетворяет еле- | дующим соотношениям:

/(О, 0, ..., 0) = 1,

1/(^1» ^2» • • •> ^n) I ^ 1( ^ ^ ^к ^ + °°i ^ = 1> 2, . • .),

/ (^1»^2» • • •*^ ~f(^V ^ • • •» ^п)*

По характеристической функции /Д, /2, ..., /п) случайной величины (Еи Е2, ..Ем) легко найти характеристическую функцию любой fe-мерной (&<л) величины (Ед, ^ ..., Ч^ компонентами которой являются величины ^(l^s^^)- Для этого в формуле (2) нужно положить равными нулю все аргументы t8 при s^yr(l ^А). Так, например, характеристическая функция величины Ei равна

/i(y=/(Vo.о).

Из определения вытекает, что если компоненты величины (Еп Е2, •••! ^п) являются независимыми случайными величинами, то её характеристическая функция равна произведению характеристических функций компонент

/(^1> ^2» •••> ^n) =/(V е / (^2) ••• /(О’

Так же как и в одномерном случае, многомерные характеристические функции позволяют легко находить моменты различных порядков.

♦) Ср. теорему 1 § 28 и замечание о многомерных интегралах Стилтьеса в § 27.

п-(О1-п-(О1-Так, например, мее • • =j / • • • j^^ • • • х”пdF х=> • • • - х^=

п

-(О1-

п

-(О1-

"/№, ^и

ti — t^ = ...=stn=Oti — t^ = ...=stn=Odt*1 dt**... dt>

ti — t^ = ...=stn=O

ti — t^ = ...=stn=O

Для вычисления характеристических функций полезно знать следующую теорему, доказательство которой без труда проведёт читатель.

Теорема 1. Если характеристическая функция величины (Б ^ •••> ^п) Равна /(^1> ^2» »• •» ^» то характеристическая функция величины (0^ + ^, О^24-а2, •• ’> ап^п + °п), гдз ^и ^ (1 ^7 ^ л) — вещественные постоянные, равна

ехр (г 2«Л)'/(а1^ °2Z2. V»)- n=l

Пример 1. Вычислим характеристическую функцию двумерной случайной величины, распределённой по нормальному закону:

/>(*, >0= 2^4^еХр{~2сГ^1%2—2г^^(3)

По формуле (2)

Ж У = 2л (1 -^ f / е44”*1”^^, y)dxdy.

Заменой переменных мы можем привести /(/,, t^ к виду

/А, У = е27J Je dud-v =

Пример 2. Применяя теорему 1, мы найдём характеристическую функцию величины (т|р т]2), распределённой по нормальному закону:

Р<х'^ = 2^П-^Х

^-^А^-^^^+^]}- W I 2(1 — г4) L ^^<jgsg J)

Если мы положим iql = a1El + a, т|2 = о^ 4* Ь, то величина (^ 62) будет распределена по закону (3). Согласно теореме 1 характеристическая функция величины (^и т]2) равна

<? (^, t^ = exp \iatx 4- lat^ — j (of Й 4- 2o1o2r/i& 4~ af 4) 1 •

Из определения характеристической функции вытекает следующая Теорема 2. Если f(tu f^ •••> Q есть характеристическая функция величины (£п $2, ..., Еп), то характеристическая функция суммы $t + $з + • ♦. + $п равна

fW-Ж tv-.., ty

Примечание. Заметим, что

/(0=Ж, «2, •., ^

есть характеристическая функция суммы ^^ + ^2+ ••• + Un- Пример 3. Применим теорему 2 к определению функции распределения суммы iqi + iq^ если (т^, т]2) распределена по закону (4).

Согласно теореме 2 характеристическая функция суммы nqx 4- т|2 равна

/ (/) = ехр Г И (а-^Ь)—— (а! 4" 2roi<33 + <4)1 •

Мы знаем (пример 1 § 33), что это—характеристическая функция нормального закона с математическим ожиданием, равным а 4-0, и дисперсией, равной а^ 4* 2га1а2 4- °2* Этот результат был нами получен ранее непосредственно (§ 23, пример 2).

Важно заметить, что в многомерном случае сохраняется следующая теорема.

Теорема 3. Функция распределения F(xv х^ ..., хп) однозначно определяется своей характеристической функцией.

Доказательство этого предложения основывается на формуле обращения.

Теорема 4. Если f{t^ t^ ..., t^—характеристическая функция^ a F(хп х2, ..., хп)—функция распределения случайной величины (^, Еа, ..., 6П\ то

Р {^й ^ ^л < ^л> = 1> 2, . •., п\ = т т т

“tSoT^F J J J П" нт f^v-'^ dttdt4...dtw — Т—Т -Тй=1

где ak и bk— любые вещественные числа, удовлетворяющие единственному требованию*. вероятность попадания на поверхность параллелепипеда ак^ ^к < Ьк (^ = 1, 2, ..., п) равна нулю.

Точно так же, как и в одномерном случае, имеют место прямая и обратная предельные теоремы для характеристических функций. Мы не будем на этом останавливаться.

Пример 3. Говорят, что ««мерная случайная величина ($n £2> • • •»^«^ имеет невырожденное (собственное) п-мерное нормальное распределение, если её плотность распределения имеет вид

р(*1, ^?-р(*1, ^?-

р(*1, ^?-

р(*1, ^?-

§ 381 где Q (хп ха, ..., х„) = 2 Ьм (х( — а<) (х./ — а,)

положительно определённая квадратичная форма, С, а4 и Ь^—действительные постоянные.

Несложные подсчёты показывают), что с=(/2^)-п у 5, где

*^П ^12 • • • ^1п

О — ^21 ^22 * • • ^2«

Обозначим через D4j минор D, соответствующий элементу btj1 тогда М^ = ау, a, = D^ = -^(у = 1, 2, ..

13^3 уо«ои

Определитель D и главные миноры его положительны.

Обычными подсчётами легко проверить, что характеристическая функция величины (5Р $2, ..., 5М) равна

^ = е^х к^3жХ

Таким образом, п-мерное нормальное распределение вполне опреде* ляется заданием математического ожидания и дисперсии.

Из выражения для характеристической функции д-мерной нормально распределённой случайной величины мы видим, что распределение величины

при любых 1 ^ч < *2 < • • • < z* ^ п будет ^-мерным нормальным распределением.

ГЛАВА 8

КЛАССИЧЕСКАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА *

§ 39. Постановка задачи

Интегральная предельная теорема Муавра-Лапласа, доказанная нами в главе 2, послужила источником большого цикла исследований, имеющих фундаментальное значение как для самой теории вероятностей, так и для её многочисленных приложений в естествознании, технических и экономических науках. Для того чтобы составить себе представление о направлении этих исследований, мы придадим теореме Муавра-Лапласа несколько иную форму. А именно, если, как это мы неоднократно делали, через ^ обозначить число появлений события А в ^-м испытании, то число появлений события А в п последовательных испытаниях равно 2 V-k* Далее, в примере 3, § 27 &=1 пп

мы подсчитали, что М2н = лР и D 5 Ил ~ nPQ* Поэтому теорема &=1к=1

Муавра-Лапласа может быть записана в таком виде: при /г—>оо

/с — Мр^)ъ g2

7-- < b -» f е 2 dz(1)

и словами сформулирована так: вероятность того, что сумма уклонений независимых случайных величин, принимающих два значения О и 1 с вероятностями, соответственно равными q и р = 1—q (О <р<1), от их математических ожиданий, делённая на квадратный корень из суммы дисперсий слагаемых, будет заключаться в пределах от а до Ь, при увеличении числа слагаемых до бесконечности, Ь равномерно относительно а и b стремится к интегралу у= ^е 2 ^» а

Естественно возникает вопрос: насколько тесно связано соотношение (1) со специальным выбором слагаемых jx^, не будет ли оно

иметь место и при более слабых ограничениях, наложенных на функции распределения слагаемых? Постановка этой задачи, а также её решение являются в основном делом Чебышева и его учеников А. А. Маркова и А. М. Ляпунова. Их исследования показали, что на слагаемые следует наложить лишь самые общие .ограничения, смысл которых состоит в том, что отдельные слагаемые должны оказывать незначительное влияние на сумму. В следующем параграфе мы дадим точную формулировку этого условия. Причины, в силу которых эти результаты приобрели огромное значение в приложениях, лежат в самом существе массовых явлений, изучение закономерностей которых, как мы говорили ранее, и составляет предмет теории вероятностей.

Одной из важнейших схем, по которой идёт использование резуль* татов теории вероятностей в естествознании и технике, состоит в еле* дующем. Считают, что процесс протекает под влиянием большого числа независимо действующих случайных факторов, каждый из кото* рых лишь ничтожно мало изменяет течение явления или процесса. Исследователь, интересующийся изучением процесса в целом, а не действием отдельных факторов, наблюдает лишь суммарное действие этих факторов. Приведём два типичных примера.

Пример 1. Пусть производится некоторое измерение. На резуль* тат неизбежно действует большое количество факторов, порождающих ошибки в измерении. Сюда относятся ошибки, вызванные состоянием измерительного прибора, которое может нечувствительно изменяться под влиянием различных атмосферных или механических причин. Сюда относятся личные ошибки наблюдателя, вызванные особенностями его зрения или слуха и также могущие незначительно изменяться в зависимости от психического или физического состояния наблюдателя, и т. д. Каждый из этих факторов породил бы -ничтожную ошибку. Но на измерении сказываются сразу все эти ошибки, наблюдается «суммарная ошибка». Иначе говоря, фактически наблюдаемая ошибка измерения будет случайной величиной, являющейся суммой огромного числа ничтожных по величине и независимых между собой случайных величин. И хотя эти последние неизвестны, так же как неизвестны их функции распределения, их влияние на результаты измерений заметно и поэтому должно быть подвергнуто изучению.

Пример 2. В процессе массового производства, существующего во многих отраслях промышленности, изготовляются большие партии одинаковых предметов. Обратим внимание на какую-нибудь числовую характеристику интересующего нас продукта. Поскольку это изделие находится в соответствии с техническими нормами, существует некоторая нормальная величина избранной нами характеристики. В действительности же всегда наблюдается некоторое отклонение от этой нормальной величины. При правильно поставленном процессе производства такие отклонения могут вызываться лишь случайными

причинами, каждая из которых производит лишь незаметный эффект. Суммарное же их действие производит заметное уклонение от нормы.

Подобных примеров можно привести сколько угодно.

Таким образом, возникает задача изучения закономерностей, свойственных суммам большого числа независимых случайных величин, каждая из которых оказывает лишь малое влияние на сумму. Этому последнему требованию мы придадим позднее более точный смысл. Вместо того чтобы изучать суммы очень большого, но конечного числа слагаемых, мы будем рассматривать последовательность сумм со всё большим и большим числом слагаемых и считать, что решения интересующих нас задач даются предельными функциями распределения для последовательности функций распределения сумм. Такого рода переход от конечной постановки задачи к предельной является обычным как для современной математики, так и для многих отделов естествознания.

Итак, мы пришли к рассмотрению следующей задачи: дана последовательность взаимно независимых случайных величин

о которых мы предположим, что они имеют конечные математические ожидания и дисперсии. В дальнейшем мы станем придерживаться следующих обозначений:

•fc—1к=1

Спрашивается, какие условия нужно наложить на величины $д, чтобы функции распределения сумм

(2)

сходились к нормальному закону распределения? В следующем параграфе мы увидим, что для этого достаточно выполнения условия Линдвбергал при любом т>0

где F^ (х) обозначает функцию распределения величины ^» Выясним смысл этого условия.

Обозначим через А^ событие, состоящее в том, что .

К*—«к1>^п(6 = 1, 2, ...» п)

й оценим вероятность.

Р{ max |£t — a6|>tB„}.'1 < А < n

ТакТакИР{Л!+Л3+ ... +л„}ИР{Л!+Л3+ ... +л„}п<^РМ,k^alп<^РМ,k^al

Так

Так

И

Р{Л!+Л3+ ... +л„}

И

Р{Л!+Л3+ ... +л„}

п

<^РМ,k^al

п

<^РМ,k^al

как

Р{ max |eft — as|> хВп\ =Р{Л1 + Л2+ ... +Л„| К к < п

то, заметив, что

Р Мл) = J dFk С*) <\х-ак\>гВпР Мл) = J dFk С*) <\х-ак\>гВп(тВ#)2 J* ^^ dFk 00\»-аь\>.вн(тВ#)2 J* ^^ dFk 00\»-аь\>.вн

Р Мл) = J dFk С*) <\х-ак\>гВп

Р Мл) = J dFk С*) <\х-ак\>гВп

(тВ#)2 J* ^^ dFk 00

\»-аь\>.вн

(тВ#)2 J* ^^ dFk 00

\»-аь\>.вн

находим неравенствонаходим неравенствоР{ max |£fc— ай|>тВ„}< 1<Л<пР{ max |£fc— ай|>тВ„}< 1<Л<пп^rS f ^-a^dF^xYп^rS f ^-a^dF^xY

находим неравенство

находим неравенство

Р{ max |£fc— ай|>тВ„}< 1<Л<п

Р{ max |£fc— ай|>тВ„}< 1<Л<п

п

^rS f ^-a^dF^xY

п

^rS f ^-a^dF^xY

В силу условия Линдеберга, каково бы ни было постоянное t > 0, последняя сумма при п-^оо стремится к нулю. Таким образом, условие Линдеберга представляет собой своеобразное требование равномерной малости слагаемых ^-(^—а^ в сумме (2).

Отметим ещё раз, что смысл условий, достаточных для сходимости функции распределения сумм (2) к нормальному закону, был вполне выяснен уже исследованиями А. А. Маркова и А. М. Ляпунова.

§ 40. Теорема Ляпунова

' Мы начнём с доказательства достаточности условия Линдеберга.

Теорема. Если последовательность взаимно независимых случайных величин 5Р Е2, ..., 5П, ... при любом постоянном т>0 удовлетворяет условию Линдеберга

^x-a^dF^»^^x-a^dF^»^(1)(1)

^x-a^dF^»^

^x-a^dF^»^

(1)

(1)

то при п -> сю равномерно относительно х

пп(2)(2)

п

п

(2)

(2)

Доказательство. Для краткости введём обозначения

t ^к "^ ^^

^пк к^ “^ Р {^пЛ < ^l*^пк к^ “^ Р {^пЛ < ^l*^пко

^пк к^ “^ Р {^пЛ < ^l*

^пк к^ “^ Р {^пЛ < ^l*

Dn

U Зак. 1826. Б. В. Гнедедко.

Очевидно, что

MU = 0, DU-3-DS

и, следовательно,

SDU-1.(2')

к=]

Легко убедиться, что условие Линдеберга в этих обозначениях принимает следующий вид:

lim 2Г xMF^^O.(Г)

Характеристическая функция суммы . пп

равра6=1 п fc==t

^W = Wnk^.

Нам нужно доказать, что

lim ?»(0=е".

п->со

С этой целью мы установим прежде всего, что множители /пл(0 при п-^оо равномерно относительно &(1^й^н) стремятся к L Действительно, принимая во внимание равенство М^к = 0, находим, что

/nit № - 1 = J (^ — 1 - Их) dFu1t (х).

Так как при любом вещественном а *)

(*>0)(*>0)] ^« — 1 — Za] ^« — 1 — Za^-\)dx <^.^-\)dx <^.l^-i-taK^,(3)

(*>0)

(*>0)

] ^« — 1 — Za

] ^« — 1 — Za

^-\)dx <^.

^-\)dx <^.

Из последнего неравенства далее следует, что

| ^« — 1 —/а + ^ | = [J ^е1х — 1 — ^) ^ j <о

аа

(3')(3')< С\e№-l-ix\dx<^dx = ^, И Т. Д.»о

(3')

(3')

то

V,*^—X\<^xadFn^x\

Пусть е — произвольное положительное число; тогда очевидно, что ( xadFnit(x) = J x»dFnlc(x^

|я>1<е

+ f х2^„6(*)<в2 + J XadF^x\ |^l>e|Ж|>е

Последнее слагаемое может быть, согласно (1'), при достаточно больших п сделано меньше, чем е2 Таким образом, для всех достаточно больших п равномерно относительно ^(1 ^А ^п) и t в любом конечном интервале | f | ^ Т

Отсюда мы заключаем, что равномерно относительно &(1^4^zz)

Шп/„*(/)=1.(4)

п-^оо

и что для всех достаточно больших п при t, лежащих в произвольном конечном интервале |/|^Т, выполняется неравенство

1Ла(*)-1|<|.(5)

Мы можем, следовательно, в интервале |/|^Т написать разложение (1g обозначает главное значение логарифма)

lg ?n to -= 1 Vgfnk to - S 1g U + (Ла to -1)1 = Л—1Л»1

= 2(М)-1) + Яп,(6)

k=*l

где

к»-^ S^^to-i)8.ft —1 8—2

В силу (5) п ОО им <2 Sli^to-ir^ /Л«1 8—2

ПП

А*1К*1

ТакТактотокак

Так

Так

то

то

21М) - 11 = 2 J И»-* 1 -^) dFnH W <^ *2 2 J Х^ ^^ ^ = Т ’

RnKv max 1/^(0-1|.

Из (4) вытекает, что равномерно относительно / в произвольном конечном интервале ]/|^7, при п -> оо

Rn^.(7)

Но п

.S^^-1^—^Рп.(8)

Л«1 где'

Рп = у + 2 J (^ — 1 — их) dFnk (х).

Пусть е>0 произвольно; тогда в силу (2')

+ 2 J (-^ + ^-1-//х)^(х).Ы1 |®|><- --

Неравенства е(3) и (3') позволяют получить следующую оценку:

|₽«К-Ц^2 J 1АГ1М/У»к<Х> + /22 J X,ldFnkW<lt«»l |»|<еА»1 |®|>*

<V*e2 J xMF^-Vf^ J xMFnk^ =

А=1 1®1<з• 6=1 । де |>s"

^Ч^^Н-^1-^^ J x9dF«^xV .

<t*l la?|>8

Согласно условию (lz) второе слагаемое при любом з>0 можеч быть сделано меньше любого т] > 0, лишь бы п было достаточно

(я>л0(е, т). Г)).(я>л0(е, т). Г)).|р»1 < 2П|р»1 < 2Пбольшим. А так как е > 0 произвольно, то мы можем его выбрать настолько малым, чтобы, каковы бы ни были т) > 0 и Т, для всех t, заключённых в интервале М^Т, выполнялось неравенство

(я>л0(е, т). Г)).

(я>л0(е, т). Г)).

|р»1 < 2П

|р»1 < 2П

Это неравенство показывает, что равномерно в каждом конечном интервале значений /

Пт рп = 0.(9)

П-^со

Собрав вместе соотношения (6), (7), (8) и (.9), мы получаем окончательно, что равномерно в каждом конечном интервале /

. Um 1g »«(<) = —4*

П->со6

Теорема доказана.

Следствие. Если независимые случайные величины £ь Е2, .. е

•.., 5П> • • • одинаково распределены и имеют конечную отличную * от нуля дисперсию^ то при п-^оо равномерно по х.

п®

^^—со

Доказательство. Нам достаточно проверить, что при сделанных предположениях выполнено условие Линдеберга. С этой целью заметим, что в нашем случае

. Вп=ь^

где b обозначает дисперсию отдельного слагаемого. Положив М^ = сц мы можем написать следующие очевидные равенства; *

ПА

5^ J (x—a^dF^xya.

Л—1 п\ш—а\>тВп

“"^i” J (х~a?dFx^= -!■ J ^x — a^dF^.

«—а | > тВп| .г—а | > тВп

В силу предположения о конечности дисперсии и её положительности заключаем, что интеграл, стоящий в правой части последнего равенства, стремится к нулю, когда п -* со.

Теорема Ляпунова. Если для последовательности взаимно независимых случайных величин В„ 5^ ..., Еп, .. - можно подобрать такое положительное число 8 > 0, что при п-^оа. ,

amSMibAr-a- ,.(ю)

- ^ k— 1*-*

то при п-* со равномерно по х

пп

п

п

Доказательство. Нам снова достаточно проверить, что условие Ляпунова (условие (10)) влечёт за собой выполнение условия Линдеберга. Но это ясно из следующей цепочки неравенств:

Пя

-^ 2 J ^x-a^dF^C

пк=1 ^—aK\>~Bn

^hx-ak l2+8^wfc=l^+s

§ 41. Локальная предельная теорема

Мы приведём теперь достаточные условия для применения другой классической предельной теоремы — локальной теоремы. При этом мы ограничимся рассмотрением только случая взаимно независимых слагаемых, имеющих одно и то же распределение вероятностей.

Условимся говорить, что дискретная случайная величина Е имеет решетчатое распределение, если существуют такие числа а и 4 > О, что все возможные значения 6 могут быть представлены в виде а -|- kh, где параметр к может принимать любые целые значения (—- оо < к < оо).

К решетчатым относятся, например, распределения- Пуассона, Бернулли и др.

Выразим теперь условие решетчатости распределения случайной величины Е в терминах характеристических функций. С этой целью докажем следующую лемму.

Лемма. Для того чтобы случайная величина Е имела решетчатое распределение, необходимо и достаточно, чтобы при некотором 1ф0 модуль её характеристической функции был равен единице.

Доказательство. Действительно, если £ распределена решетчато и р^ есть вероятность равенства Е = а -|- kh, то характеристическая функция величины Е равна

оо оо

J v) A PkP = е р^

Отсюда находим, что д сод

Л=—оо

Мы видим, таким образом, что для каждого решетчатого распределения

Кт)|--

Предположим теперь, что при некотором ^ ^ О

1/(01 “1.

и докажем, что при этом $ имеет решетчатое распределение. Последнее равенство означает, что при некотором 6

Таким образом,

J e"-®dF(x) = e” и, следовательно,

Отсюда вытекает, что

J cos (^х — 9) dF (x) = 1.

Для того чтобы это равенства было возможно, необходимо, чтобы функция F (х) могла расти только при тех значениях х, при которых

t cos(^x— 9) = L

Это означает, что возможные значения 5 должны быть вида

6 । , 2кx-^+6v

тр. д.

Число А мы будем называть тагом распределения.

Шаг распределения А максимален^ если ни при каких Ъ (— со < < b < оо) и Ai > А нельзя представить все возможные значения 6 в виде <> + АА1е

Для иллюстрации различия между понятиями шага распределения и максимального шага распределения рассмотрим такой пример. Пусть 5 может принимать в качестве своих значений все нечётные числа. Очевидно, что все значения 5 могут быть записаны в виде а -]- АА, где а = 0, А=1. Шаг А, однако, не будет максимальным, так как все возможные значения 5 можем записать также в виде d-f-AAp где b= 1, кх = 2.

Условия максимальности шага распределения можно выразить и в других терминах.

Во-первых. Шаг распределения будет максимальным тогда и только тогда, когда общий наибольший делитель попарных разностей возможных значений величины 6, поделённых на Л, равен единице.

Во-вторых. Шаг распределения Л максимален тогда и только i тогда, когда модуль характеристической функции в промежутке v<|/|<-^- меньше единицы и приравен единице.

Последнее утверждение немедленно вытекает из только что дока- 2я данной леммы. В самом деле, если при 0<^<-^-

№1-1,

то согласно доказанному величина — должна бцть шагом распределения, а так как

Л<£.

то шаг h не может быть максимальным.

Отсюда мы можем сделать такой вывод: если h—максимальный шаг распределения, то для каждого в > 0 найдётся такое число сп > О, что при всех / в интервале е ^ 1t1 ^ — е имеет место неравенство

1Г(01<в-ч(1)|

Пусть теперь случайные величины Elt Еа, ..., 5„, ... взаимно | независимы, решетчато распределены и имеют одну и ту же функ- : цию распределения F^x). Рассмотрим сумму|

Очевидно,; что она также является решетчатой случайной величиной | и возможные её значения могут быть записаны в виде na-^-kh. | Обозначим через Рп (А) вероятность равенстваj

См = па + кк\i

в частности, Рх (й) = Р {63 = а -|- kh } = рк.

Обозначим далее

ап -4- kh — Л- 2,

где Лп s= MCn, Вп =s= DCn nD£i«

Мы можем теперь доказать следующее предложение, очевидным образом обобщающее локальную предельную теорему Муавра-Лапласа.

Т^е б ре м а. Пусть независимые решётчатые случайные вели-

5р $2> • • *i ^15р $2> • • *i ^1Чйньг у ^ -t :: '" v|

5р $2> • • *i ^1

5р $2> • • *i ^1

мате-чтобыимеломате-чтобыимелоимеют одну и ту же функцию распределения F(x) и их матические ожидания и дисперсии конечны. Тогда для того равномерно относительно k (— со < k < оо) при п-> оо место соотношение

мате-чтобыимело

мате-чтобыимело

В1 А

^Рп^—2=в 2 h пХ /2л

необходимо и достаточно, чтобы шаг распределения h был макси- мольным.

Доказательство. Необходимость условия теоремы почти очевидна. Действительно, если шаг h не максимален, то возможные п

значения суммы Сп = 2 ^ будут содержать систематические пропуски: разность между ближайшими возможными значениями суммы не может быть меньше dht где d есть общий наибольший делитель разностей возможных значений Сп, делённых на h. Если А—не максимальный шаг, то d>l при всех значениях п.

Доказательство достаточности условия теоремы требует несколько более сложных рассуждений.

Характеристическая функция величины ВЛ(А=1, 2, 3, ...) равна

/(0= 2 р^**1^^ 2 р^^,Кеа—ООк»- СО

а характеристическая функция суммы С* есть

fn^—etant S PnWe“k\fce—ОО

Умножив последнее равенство на »-<»»*<-«№ и проинтегрировав его в пределах от —^ до ^, находим, что

и

^-Рп^ = j f»(t)e-<**-*»dt.

—ц

Заметив, что

кЬ = Внг^,^Ап — ап

(вместо гпк мы будем дальше писать г), можем написать

где обозначеногде обозначеноitAn/*(0 = ^~/(0,itAn/*(0 = ^~/(0,Положив, наконец, x = tBn, находим окончательно:.кВпITПоложив, наконец, x = tBn, находим окончательно:.кВпITdx.dx.иВ^hиВ^hЛегко подсчитать, что 1У2лЛегко подсчитать, что 1У2л™ = -L fe2n J™ = -L fe2n J, at?* ** 2 dx., at?* ** 2 dx.Представим разностьПредставим разностьRn = ^ [^Р„(А)Rn = ^ [^Р„(А)17=e42л17=e42лв виде суммы четырёх интегралов Rn = A"Vв виде суммы четырёх интегралов Rn = A"Vгдегдеа?9а?9—AC is» ^rgS=*— s 2 dxt J^k®i>A—AC is» ^rgS=*— s 2 dxt J^k®i>A€~lsx кВ„€~lsx кВ„'п'пA<\a\<«BnA<\a\<«Bn'п'п

где обозначено

где обозначено

itAn

/*(0 = ^~/(0,

itAn

/*(0 = ^~/(0,

Положив, наконец, x = tBn, находим окончательно:.

кВпIT

Положив, наконец, x = tBn, находим окончательно:.

кВпIT

dx.

dx.

иВ^h

иВ^h

Легко подсчитать, что 1

У2л

Легко подсчитать, что 1

У2л

™ = -L fe2n J

™ = -L fe2n J

, at?

* ** 2 dx.

, at?

* ** 2 dx.

Представим разность

Представим разность

Rn = ^ [^Р„(А)

Rn = ^ [^Р„(А)

1

7=e4

2л

1

7=e4

2л

в виде суммы четырёх интегралов Rn = A"V

в виде суммы четырёх интегралов Rn = A"V

где

где

а?9

а?9

—A

C is» ^rgS=*— s 2 dxt J^k®i>A

—A

C is» ^rgS=*— s 2 dxt J^k®i>A

€~lsx кВ„

€~lsx кВ„

'п

'п

A<\a\<«Bn

A<\a\<«Bn

'п

'п

где Л > О — достаточно большое, а @ > О — достаточно малое постоянные числа, более точные значения которых будут выбраны нами позднее.

В силу следствия из теоремы, доказанной в предыдущем параграфе, в любом конечном интервале значений / равномерно относительно t выполняется соотношение

, . .

Но отсюда следует, что каково бы ни было постоянное Л, ^ —> О(л —> оо).

Интеграл J2 оценивается посредством неравенства

Выбрав достаточно большое Л, мы можем сделать J2 сколь угодно малым.

Согласно неравенству (1) имеем:

J^J|

кВ

Отсюда ясно, что при л -* оо

J3^0.

Для оценки интеграла /4 мы заметим, что существование дисперсии влечёт за собой существование второй производной у функции /*'(/). Мы можем, следовательно, в окрестности точки / = 0 воспользоваться согласно (3) § 33 разложением

/* (0-1—^+oW,

и при | /1 ^ а, если в достаточно малб, получим:

„2/2\Г^\<Х-Ц-<е * .

Тогда при |х|^8вя

ПоэтомуПоэтому

Поэтому

Поэтому

Выбором достаточно • большого А мы можем добиться, чтобы интеграл J4 был сколь угодно мал. Теорема доказана.

Имеется ещё другой случай, когда естественно ставить вопрос о локальном поведении функций распределения сумм. Это — случай непрерывных распределений.

Здесь ставится вопрос о том, когда плотности распределения нормированных сумм сходятся к плотности нормального распредели

ния, если соответствующие функции распределения сходятся к нор- I мальной.Я

Оказывается, что для случая одинаково распределённых независи- * мых слагаемых с конечной дисперсией достаточным, является условие I интегрируемости плотности слагаемых в какой-либо степени S > 1. f

Если отказаться от этого условия, то легко указать примеры | случайных величин, имеющих плотности распределения вероятностей ) и принимающих значения только в ограниченном интервале, но для которых локальная теорема не имеет места (см. монографию Гне- | денко и Колмогорова).।

ГЛАВА 9

ТЕОРИЯ БЕЗГРАНИЧНО-ДЕЛИМЫХ ЗАКОНОВ РАСПРЕДЕЛЕНИЯ

Долгое время центральной задачей теории вероятностей считали отыскание наиболее общих условий, при, выполнении которых функции распределения сумм независимых случайных величин сходятся к нормальному закону. Весьма общие условия, достаточные для этой сходимости, были найдены, как мы говорили об этом в главе 8, А. М. Ляпуновым.

Попытки расширить условия Ляпунова увенчались успехом лищь в самые последние годы, когда были найдены условия, являющиеся не только достаточными, но и при весьма естественных ограничениях, необходимыми.

Параллельно с завершением классической проблематики возникло и развилось новое направление в теории предельных теорем для сумм независимых случайных величин, тесно связанное с возникновением и развитием теории стохастических (случайных) процессов. В первую очередь возник вопрос о том, какие законы, помимо нормального закона, могут быть предельными для сумм независимых случайных величин.

Оказалось, что класс предельных законов далеко не исчерпывается нормальным законом. Затем возник вопрос об определении условий, которые следует наложить на слагаемые, чтобы функции распределения сумм сходились к тому или иному предельному закону.

В настоящей главе мы ставим своей целью изложение некоторых исследований последних лет, посвящённых предельным теоремам для сумм независимых случайных величин. При этом мы ограничиваемся случаем, когда слагаемые имеют конечные дисперсии. Рассмотрение задачи без этого ограничения требует более громоздких вычислений; для ознакомления с её решением мы отсылаем читателя к упоминавшейся монографии Гнеденко и Колмогорова. В качестве простого следствия излагаемых нами общих теорем мы получим упомянутое нами необходимое и достаточное условие сходимости функций распределения сумм к нормальному закону.

§ 42. Безгранично-делимые законы и их основные свойства

Закон распределения Ф (х) называется безгранично-делимым* если, каково бы ни было натуральное число п* случайная величина, распределенная по закону Ф (х), является суммой п независимых случайных величин £ь Е2> • • •» ^™ с одним и тем же законом распределения Фп(х) (зависящим от числа слагаемых п\

Понятно, что это определение равносильно следующему: закон Ф (х) называется безгранично-делимым, если при любом п его характеристическая функция является и-й степенью некоторой другой характеристической функции.

Исследования последних лет показали, что безгранично-делимые законы играют значительную роль в различных вопросах теории вероятностей. В частности, оказалось, что класс предельных законов для сумм независимых случайных величин совпадает с классом безгранично-делимых законов.

Мы перейдём теперь к изложению необходимых нам для дальнейшего свойств безгранично-делимых законов. Это изложение мы начнём с доказательства того, что законы нормальный и Пуассона безгранично-делимы. Действительно, характеристическая функция нормального закона, имеющего математическое ожидание а и дисперсию а9, равна

Ф (0 = е 2.

При любом п корень /2-й степени из <?(/) есть снова характеристическая функция нормального закона, только с математическим ожи- данием т^ и дисперсией —.

Мы несколько обобщим встречавшееся ранее понятие закона Пуассона и скажем, что случайная величина 5 распределена по закону Пуассона, если она может принимать только значения ak-\-b* где а и Ъ — вещественные постоянные, а 6 = 0, 1, 2, ... и

Р{е = аА + 5} = ^А_,(1)

где X—положительное постоянное. Характеристическая функция для закона (1), как легко подсчитать, даётся формулой

Мы видим, что при любом п корень п-й степени из ср (/) есть снова характеристическая функция закона Пуассона, но с другими пара- метрами! а* — и — Ь. гп п

Теорема 1. Характеристическая функция безгранично-делимого закона не обращается в нуль.

доказательство. Пусть Ф (х) — безгранично-делимый закон и <р(/) — его характеристическая функция. Тогда, по определению, прй любом п мы имеем равенство '

?(0 = {?п(0Л(2)

где ?п(0 — некоторая характеристическая функция. В силу непрерывности функции ср (/) существует область значений аргумента |/|^ а, в которой ф(/)^0; понятно, что в этой же области ?«(О Ф °* ^Ри Д°статочно большом п мы можем величину | фл (01 = = }/| ср (/) | сделать сколь угодно близкой к единице равномерно по нЬКа)-

Возьмём теперь две взаимно независимые случайные величины т^ и ?]2, распределённые по некоторому закону F^x\ и рассмотрим их разность 71 = т]1 — v]2. Характеристическая функция величины т] равна

/* (/) = м^-^ = | М^1|2 = 1/(0|2-

Мы видим, таким образом, что квадрат модуля любой характеристической функции является характеристической функцией.

Далее, так как вещественная характеристическая функция имеет вид

f^ = J cosxldF (л),

то, следовательно, мы можем написать неравенство

J sin9 xtdF^=aJ sin9 xtdF^=a1 —/ (20 = J (1 — cos 2x0 ^ № = 2

J sin9 xtdF^=a

J sin9 xtdF^=a

= 2 J (1 —cos х0 (1 -[-cosxO^FCx)^ 4 J (1 —cosxO dF(x) = = 4 (1-/(0).

Из сказанного мы видим, что функция |<рп(0|2 удовлетворяет неравенству

1-|<?„(20|8<4(1-|?п(№

Из этого неравенства следует, что если п столь велико, что 1 — 1?п(0|<8 ПРИ |И*Са? то в той же области

- I?» (201 < 1 -1?» (20ia < 4(1 -|?n (0I8) < 8(1 - |?ft (01) < 8s.

Итак, в области | /1 ^ 2а

1— 1?п(01<8г.

Таким образом, при достаточно больших п в области |/|^2а, Vn (0, а вместе с тем и ф (/) в нуль не обращаются.

Подобным же способом мы докажем, что ф(/):£0 в области М < 4а, и т. д.

Это доказывает нашу теорему.

Теорема 2. Функция распределения суммы независимых слу* чайных величин» имеющих безгранично-делимые функции распре* деления» также безгранично-делима.

Доказательство. Очевидно, что для доказательства теоремы достаточно ограничиться случаем двух слагаемых. Если <р(/) и ф(O’- характеристические функции слагаемых, то по условию теоремы при любом п имеем:

т(0 = {?»(0Г, Ф(0-{Ф»(ОГ,

где ф„(/) и <{>„(/)—характеристические функции. Поэтому характеристическая функция суммы при любом п удовлетворяет равенству

х(0-? (О‘Ш-■{?•(<)-MOI*.

Теорема 3. Функция распределения* предельная (в смысле сходимости в основном) для последовательности безгранично-делимых функций распределения, сама является безгранично-делимой. Доказательство. Пусть последовательность Ф W (х) безгранично-делимых функций распределения сходится в основном к функции распределения Ф (х). Тогда

lim <pW (0 = ср (/)(3)

Л->оо

равномерно в каждом конечном интервале I. По условию теоремы П

при любом п функции (под |/ понимается его главное значение)

^W = wVWA(4)

являются характеристическими функциями. Из (3) заключаем, что при каждом п

limVW(0 = <P„(0.(5)

Из непрерывности ^(/) следует непрерывность fw(/). В силу пре* дельной теоремы для характеристических функций, ф„(0 есть характеристическая функция. Из (3), (4) и (5) находим, что при каждом п имеет место равенство

?(0={?п№П ч. тр. д.

§ 43. Каноническое представление безгранично-делимых законов

В дальнейшем мы ограничимся изучением безгранично-делимых -законов сконечной дисперсией. Целью настоящего параграфа является доказательство следующей теоремы, найденной в 1932 г. А. Н. Колмогоровым и дающей полную характеристику интересующего нас класса законов распределения.

§43)

имел ^^имел ^^eita?1/^} J_ ^Q (j^,eita?1/^} J_ ^Q (j^,(1)(1)Теорема 4. Для того чтобы функция распределения Ф (х) конечной дисперсией была безгранично-делимой, необходимо и достаточно, чтобы логарифм её характеристической функции

имел ^^

имел ^^

eita?1/^} J_ ^Q (j^,

eita?1/^} J_ ^Q (j^,

(1)

(1)

г^е ^вещественная постоянная, a G(x)—неубывающая функция ограниченной вариации.

Доказательство. Предположим сначала, что Ф(х)— безгранично-делимый закон и у (/)— его характеристическая функция. Тогда при любом п

где®.,,(О— некоторая характеристическая функция. Так как ?(/) ^0, то это равенство эквивалентно следующему*):

1g ? (О = «’g ?п (0 = «1g 11 + (?п (О — DJ.

Каково бы ни было Т при п->со равномерно в интервале р| <Т,?п (0 -♦ 1.

поэтому в любом конечном интерзале значений / величина | <р^ (/) —11 может быть сделана меньше любого, наперёд заданного числа, лишь бы п было достаточно велико. Мы можем, следовательно, воспользоваться равенством

lg [1 + (?п (О — 1J = (?» (О — 1) (1 + О (1)),

которое даёт:

1g ? (О = И™ я (?га (О — 1) — ,im я Г (е<#® — 1) </Ф„ (х),(2)

М~>ООП->ОО

где Фп(х)— функция распределения, имеющая <рп(/) своей характеристической функцией. Из определения математического ожидания и связи между функциями Фл (х) и Ф (х) следует, что

ппх d$n (х) = J х дФ (х).х d$n (х) = J х дФ (х).

п

п

х d$n (х) = J х дФ (х).

х d$n (х) = J х дФ (х).

Обозначим эту величину через 7; тогда равенство (2) мы можем переписать в следующем виде:

1g у (f) = qt-\- lira п Г {^ — 1 —itx\ дФи (х).Л-»СО

Положим теперь

Gn(x) = n J иМФ^и).

Очевидно, что функции Gn(x) не убывают с возрастанием аргумента и ^п (— оо) = 0. Кроме того, функции Оп (х) ограничены в сово-

*) Логарифм здесь понимается в смысле главного значения.

15 Зак. 1826. Б. В. Гнеденко. •

(У “ ^Фп (и)) =(У “ ^Фп (и)) =купности. Последнее утверждение вытекает из свойств дисперсии и связи между функциями Ф (х) и Фп (х). Действительно, o«(+°°) = «j «2^„(a) =

(У “ ^Фп (и)) =

(У “ ^Фп (и)) =

=я[/ «МФ„(и) —(У ud$n (а))2] +«

= =2 + ^Т2,(3)

где а2—дисперсия закона Ф(х).

В новых обозначениях (см. свойство 6 интеграла Стилтьеса в § 24) lg?(0 = ^+ lim Г(е«® — 1— Ux)^dGn(x).

n->oo */*

Согласно первой теореме Хелли, из последовательности функций Оп (х) можно выбрать подпоследовательность, сходящуюся к некоторой предельной функции О (х). Если Л <0 и В > 0 являются точками непрерывности функций О(х), то в силу второй теоремы Хелли при £->оо

вв

У ^ — 1—itx)^ dG»^-* J ^— l—Ux}^ dG (x). (4) AA

Мы знаем,- что

|е<^—1—//х|<|е«^ —l|+|/x|<|Zx!4^^|x|,

поэтому

A co

| J + J ^ _ i _ ^) ^ dOwk (x) | < —co В

< /+J^=^<W — co В

A coA co

С-21Д- max pO„ (x),

где Г = min (| Л |, BY Так как вариации функций СПк (а) равномерно ограничены, то, каково бы ни было е > 0, мы можем, выбирая Л и В достаточно большими, добиться выполнения неравенства

А со

I / + / (е"® — 1 — ^^dG^tx)^-^(5)

§431

для всех /, заключённых в каком-либо конечном интервале, и для всех £•

Из (4) и (5) следует, что, каково бы ни было s > 0, для всех /, заключённых в произвольном конечном интервале, при достаточно больших п имеет место неравенство

| J ^» — 1 — itx) ^г dGnk (х) — J ^х — 1 — Их) dG (х) [ < в,

т, е., иными словами,

lim f (е«® — 1 — Их) -^ dGn (х) = Г (е“® — 1 — ttx) ^ dG (х).

Мы доказали, таким образом, что логарифм характеристической функции любого безгранично-делимого закона может быть записан в виде(1). Нам предстоит теперь доказать обратное предложение, что всякая функция, логарифм которой представим по формуле (1), является характеристической функцией некоторого безгранично-делимого закона.

Для любого е(0<е<1) интеграл

J ^в«» — 1 — Их) ^ dG (х)(6)

по определению интеграла Стилтьеса является пределом сумм п

^^-l-Ux,) ^(G(x8^-G^x^),

8=1*

где x( = s, хп+1 = -1-, х8<х8<х84-1, и . тах(х,+1—х8)-*0. Каждое слагаемое этой суммы является логарифмом характеристиче- ской функции некоторого закона Пуассона. Согласно теоремам 2 и 3 интеграл (6) является логарифмом характеристической функции некоторого безгранично-делимого закона. Переходя к пределу при е->0, мы убеждаемся, что то же самое имеет место для интеграла

(7)(7)(8)(8)J ^еиш — 1—Их) -^ dG (х). ®>о

(7)

(7)

(8)

(8)

Подобным же образом доказываем, что интеграл

J ^e«® — \ — Ux)^dG<x)а<0

есть логарифм характеристической функции некоторого безгранично, делимого закона. Интеграл, стоящий в правой части формулы (l)f равен сумме интегралов (7) и (8) и величины

ZV-^(G( + 0)-O( —0)).

Последнее слагаемое есть логарифм характеристической функции нор- мального закона. Из теоремы 2 следует, что функция ф(/), представимая формулой (1), является характеристической функцией некоторого безгранично-делимого закона ). Нам остаётся теперь убедиться, что представление lg<p(/) формулой (1) единственно, т. е. что функция G(x) и постоянное 7 однозначно определяются заданием <?(/)•

Путём дифференцирования формулы (1) находим, что

^««dQ^Y(9)

Из теории характеристических функций мы знаем, что функция О (х) в этой формуле однозначно определяется через 1g ? (О* В процессе доказательства теоремы мы видели, что постоянное 7 является математическим ожиданием и, значит, так же однозначно определяется посредством функции <р(/).

Отметим, наконец, вероятностный смысл полной вариации функции G (х). Мы знаем, что если случайная величина Б распределена по закону Ф (х), то (см. (6) § 33)

из (9), следовательно, вытекает, что

D$ = J dO(x) = G (+<»).

В качестве примеров мы приведём каноническое представление нормального закона и закона Пуассона.

Для нормального закона с дисперсией а2 и математическим ожи

данием аданием аО а2О а2для х < О,для х < О,ДЛЯ XДЛЯ X

данием а

данием а

О а2

О а2

для х < О,

для х < О,

ДЛЯ X

ДЛЯ X

§ 44J

действительно, эта функция и постоянное 7 приводят к данному закону, так как

J ^е«$ — 1 — t/x} -^ JG (х) =

= Нт ег*“ * I -//м [G ( + 0) — О( - О)] -^-,

U->0“z

а в силу единственности канонического представления другие функции G(x) не могут дать нормального закона.

Подобным же способом легко убедиться, что закону Пуассона с характеристической функцией

соответствует функция G(x) с единственным скачком в точке а: (О для х < а^к для х > а

и y = ^ + ^.

§ 44. Предельная теорема для безгранично-делимых законов

Мы уже знаем, что если последовательность безгранично-делимых законов распределения сходится к предельному закону распределения, то этот предельный закон сам является безгранично-делимым. Теперь мы укажем условия, при выполнении которых данная последовательность безгранично-делимых функций распределения будет сходиться к предельной.

Теорема 5. Для того чтобы последовательность (Фп(х)} безгранично-делимых функций распределения сходилась при п-^оо к некоторой функции распределения Ф (х) и дисперсии их сходились к дисперсии предельного закона, необходимо и достаточно, чтобы существовали такие постоянное 7 и функция G(x), для которых при п—>оо

Gn (х) сходится в основном к G(x) (—00 ^х С + °°)»

G^(oo)-> G(oo),

^п и Оп(х) определяются формулой (1) § 43 для закона Фп(х), а постоянное 7 и функция G (х) определяют по той же формуле предельный закон Ф (х).

Доказательство. Достаточность условий теоремы является непосредственным следствием второй теоремы Хелли. Действительно, из условий теоремы и формулы (1) § 43 следует, что при- п-^со

1g ?» (0^1g?(0 равномерно в каждом конечном интервале I.

В предыдущем параграфе мы видели, что интегралы

J dGn («) и / dG («)

равны дисперсиям законов Фй(х) и Ф(х); поэтому второе условие теоремы есть не что иное» как требование сходимости дисперсий.

Пусть теперь нам известно, что при л->оо

Ф»(х)->ф(х)(1)

и дисперсии законов Фп(х) сходятся к дисперсии предельного закона Ф (х). Мы докажем, что эти требования влекут за собой выполнение условий теоремы. В отношении условия 2, как мы только что заметили, это не требует дополнительных рассуждений. Отсюда следует, что полные вариации функций Оп(и) ограничены в совокупности. Мы можем, следовательно, воспользоваться первой теоремой Хелли и из последовательности функций Сп(я) выбрать подпоследовательность Оп^ (и), сходящуюся при k -> со к некоторой предельной функции Ооо(«)« Наша цель состоит в том, чтобы Доказать равенство

Goo 00=0 (я).

Для этого установим сначала, что

Л = J 1вЙи—1—*7и) d0«k (“)

1 — Ии}-у dG» (а)(2)

при &—>оо. Пусть Л<0 и В>0— точки непрерывности функций Goo 00; тогда по второй теореме Хелли при А -► оо

вв

I {*"“— 1 — itu} ^ dG„k (я) -> J {»«“— 1 —du} ^dG»(u).(3)

АА

С другой стороны, из неравенства

| е^» — 1 — Их | ^ 21 /х|

мы видим, что

^=1 $ ^Ьвии-х-уи^йо-‘кц<

оо В

А оо

2И| / + Jrt^^I^ —оо В

( J <“)) < ^Г" f d0«k (“)•

где r^minf—А, В). В силу ограниченности вариаций функций Оп(и) в совокупности для любого е > 0 можно подобрать столь большие по абсолютной величине А и В, что

^<е.(4)

Точно так же при любом в > 0 для достаточно больших по абсолютной величине А и В имеет место неравенство

А со

I J + JV8***—1 — ^«}-^^Оо°(«)[ <8.(5)

—ОО В

Из соотношений (3), (4) и (5) выводим, что, каково бы ни было е > 0, при достаточно больших значениях к

Соотношение (2), таким образом, доказано. Из (1) видим, что

lim 1g?„ (/) = lim (/Тя/ 4- Г ^ — 1 — itu^dGn (а)) =п->аоП->ОО 4Vи,/

= 1g ? (О = ht-V J {в«“ — 1 — itu\ ^dG(uy,

ИЛИ

„^(^Ч- J (е«“— 1— «и\-^ dGn^u^^

(6)(6)вй + J {е*и — 1— ita}-^-dG(u).

(6)

(6)

Из неравенства

и ограниченности в совокупности полных вариаций функций Оцк(и) заключаем, что при t->0

| J^u-l—^^^^l^p J ^«»-1 — йа) ^d0^->0

равномерно по n. Поэтому при /->0 (6) даёт:

И™ Tnk = k->oo *И™ Tnk = k->oo *ъъ(7)(7)

И™ Tnk = k->oo *

И™ Tnk = k->oo *

ъ

ъ

(7)

(7)

а, с другой стороны, по (2) и (7)

1g? (0 = ilt-V J И"* — 1 —lut\ ^ dG» (и\

В силу единственности представления безгранично-делимых законов формулой (1) § 43 мы заключаем, что Goo^u) = G(u). Итак, любая

сходящаяся подпоследовательность функций СПд (я) сходится к функции G^ и одновременно постоянные ^п& сходятся к 7. Теперь легко доказать, что вся последовательность Gn (я) также сходится к G (и^ и, значит, одновременно lim ^п = ^. Если бы это было не так, то ^п->оо

нашлась бы точка непрерывности функций О^и), назовём её с, и подпоследовательность функций Gn^Y которая в точке и = с при к -► со сходится к числу, отличному от 0(c). По первой теореме Хелли мы можем из этой подпоследовательности выбрать сходящуюся подпо-. следовательность Оп^ (я).

Из предыдущего следует, что во всех точках непрерывности функции G (и)

lim Опк (а) = О (и). Г->оо т

Это противоречит сделанному нами допущению. Таким образом, во всей точках непрерывности функции О (я)

lim Оп (и) = 0(«);п->оо

как мы видели, отсюда немедленно следует, что

ИтТм = Т.П->СО

Теорейа доказана.

§ 45. Постановка задачи о предельных теоремах для сумм

Дана последовательность серий

41»

$12»• • •>

^1^1»

•21>

^22>* е е >

(1)

^п2’* • * *

••

*••••

ее

независимых в каждой серии случайных величин. Спрашивается, к каким предельным функциям распределения могут сходиться функции распределения сумм

Сп = ЕП1 -р- $П2 + • • • ^пАп

при я —> оо и каковы условия этой сходимости?

В дальнейшем мы ограничимся изучением элементарных систем, т. е. последовательностей серий (1), для которых выполнены следующие условия:

величины Enfc имеют конечные дисперсии,

дисперсии сумм Сп ограничены не зависящей от п константой С, 3) Зп= maxD^n^^O ПРИ п~*оо.

1 <» ^ ^ ^^

Последнее требование означает, что влияние отдельных слагаемых на сумму становится всё меньше и меньше с возрастанием п.

рассмотренные нами ранее предельные теоремы для сумм, очевидно, укладываются в эту общую схему. Так, в теоремах Муавра- Лапласа и Ляпунова мы имели следующую последовательность серий:

^W ^п2> • * ’ ^пп>

гдегде^пк^пкEft—M5feEft—M5fe(1 <С ^ ^ л! л = 1, 2, ..).(1 <С ^ ^ л! л = 1, 2, ..).

где

где

^пк

^пк

Eft—M5fe

Eft—M5fe

(1 <С ^ ^ л! л = 1, 2, ..).

(1 <С ^ ^ л! л = 1, 2, ..).

В теоремах Бернулли, Чебышева и Маркова о законе больших чисел мы также имели дело, с последовательностью серий, в которых в качестве $п7< взяты величины

§ 46. Предельные теоремы для сумм

Пусть имеется элементарная система; обозначим через Fnk(x^ функцию распределения случайной величины ^n1t и через F^x)— функцию распределения величины ^п7с = ^пк— М^; очевидно, что

F-nk (^) = F^ (х -{- М $№&)•

Теорема 6. Для того чтобы функции распределения сумм ^=^+^+•••+4(1)

при п—> со сходились к предельной функции распределения, не* обходимо и достаточно, чтобы к предельному закону сходились безгранично-делимые законы, логарифмы характеристических функций которых определяются формулой

^ х^ dFuk (х)^ х^ dFuk (х)К № = ^ М u + J ^ -1) dFnk (х)}*).(2)

^ х^ dFuk (х)

^ х^ dFuk (х)

234безгранично-делимые законы[гл. g

Предельные законы для обеих последовательностей совпадают» Доказательство. Характеристическая функция суммы (1) равна

k^-JLJn^-e 6-1Д4И0.(3) ‘

где /п&(/)—характеристическая функция случайной величины ^ a JnkW—характеристическая функция величины Еп&.

Мы знаем, что для сходимости функций распределения сумм (1) к предельной Ф (х) необходимо и достаточно, чтобы при п -> оо

где <р(/) — непрерывная функция; ф (/) при этом оказывается характеристической функцией закона Ф(х).

ПОЛОЖИМ<

апй = /пй (О1 •

Для величин ^ равномерно в каждом .конечном интервале / «» = max |anfc| —>0.(4)

1 < й < йп

Действительно,

«»» = J (е«® — 1) dPnl€ (х) = J (е«» — 1 — Их) dF^ (х), так как

М £пй “ J* ^ ^^nk (^0 = О*

Мы знаем, что при всех вещественных а поэтому

KkK^^dFnk ^Цы»*(5)

Из (5) и третьего условия элементарности системы следует (4).

Из (4) мы прежде всего выводим, что при любом Т мы можем считать, что для достаточно больших п и RI^T

К»|<|.(6)

В силу этого мы можем воспользоваться разложением логарифма в ряд'

1g/»» (0 = 1g (1 + «п») = «»»-^ +^

Очевидно, что

R =|lg/„(0- S^+M^ + ^H 20Л(0~*„*)[<

*1П-11 П—1

- VI V I апк IsI апк I2/74

< L 2л S ^2^1-la^rV)

^=1 п=2л=г

Формулы (5) и (6) приводят к неравенству кп

Rn< max К»|У l«n)tl<-ir max |а„й|.

В силу (4) мы заключаем, что равномерно в каждом конечном интервале / при га —*• со

pg/.W—Ы01 — 0.(8)

Таким образом, мы установили, что в каждой элементарной, системе функции распределения сумм Сп и безгранично-делимые функции распределения, определяемые формулой (2), неограниченно сближаются при п-*оо, чем собственно теорема 6 и доказана.

* Доказанная теорема позволяет заменять исследование сумм (1) случайных величин с функциями распределения, вообще говоря, произвольными исследованием безгранично-делимых законов. Последнее, как мы увидим, во многих случаях оказывается весьма простым.

Теорема 7. Всякий закон распределения, предельный для функций распределения сумм элементарной системы, является безгранично-делимым с конечной дисперсией и, обратно, каждый безгранично-делимый закон с конечной дисперсией является предельным для функций распределения сумм некоторой элементарной системы.

Доказательство. Из предыдущей теоремы мы знаем, что предельный закон для функций распределения сумм (1) является предельным для безгранично-делимых законов и, значит, по теореме 3 является безгранично-делимым; его дисперсия конечна, так как дисперсии сумм по второму условию элементарности системы ограничены в совокупности. Обратное предложение, что каждый безгранично-делимый закон с конечной дисперсией является предельным для сумм, немедленно вытекает из определения безгранично- Делимых законов.

Теорема 8. Для того чтобы функции распределения сумм (1) при п-хю сходились к какой-нибудь предельной функции Распределения и их дисперсии сходились к дисперсии предельного

закона* необходимо и достаточно* чтобы существовали такие функция G(u) и постоянное ^* что при п~»оо к н

i J xMF^x^G^

^ = 1 -ОО

в точках непрерывности функций О (и) кп

2 Гx*dFnk(x)->G(+co),

к=1 J

Логарифм характеристической функции предельного закона определяется формулой (1) § 43 с только что определёнными функцией G(v) и постоянной т.

Доказательство. Если ввести обозначения

к ио„00=2 fx2dFnk(x)

& —1 —ОО

ИИkn

И

И

Хп^^ S f ^ ^^пк С^)»

&&IIто мы придём к условиям теоремы 5. Теорема этим доказана. е I

&

&

I

I

Несколько видоизменив формулировку последней теоремы, мы | можем получить не только условия существования предельного за- | кона, но также и условия сходимости к каждому данному предель- I ному закону.

Теорема 9. Для того чтобы функции распределения сумм | (1) при п->со сходились к данной функции распределения Ф(х) | и дисперсии сумм сходились к дисперсии предельного закона* не- обходимо и достаточно* чтобы при п-^оо выполнялись следующие ( условия:|

2 ) х^РпЬ(х)-^О(и)I

6=1—ооI

в точках непрерывности функции G(u),I

'Si $ x^dF^^-^G^oo),I

kn1I

Д j* X dFnk (x) -> T,I

где * функции О (и) и постоянное у определяются формулой (1) § 43 для функции Ф (х),|

§471§471СХОДИМОСТЬ К НОРМАЛЬНОМУ ЗАКОНУСХОДИМОСТЬ К НОРМАЛЬНОМУ ЗАКОНУ237237§ 47, Условия§ 47, Условиясходимостисходимостик законам нормальному и Пуассонак законам нормальному и Пуассона

§471

§471

СХОДИМОСТЬ К НОРМАЛЬНОМУ ЗАКОНУ

СХОДИМОСТЬ К НОРМАЛЬНОМУ ЗАКОНУ

237

237

§ 47, Условия

§ 47, Условия

сходимости

сходимости

к законам нормальному и Пуассона

к законам нормальному и Пуассона

Мы применим результаты предыдущего параграфа к выводу усло- вИй сходимости функций распределения сумм к законам нормальному и Пуассона.

Теорема 10. Пусть дана элементарная система независимых случайных величин. Для того чтобы функции распределения сумм

^» —^1 + ^2+•••+U#(!)

при п->оо сходились к закону

$(*) =$(*) =fe”dx,V2x J

$(*) =

$(*) =

—ОО

необходимо и достаточно, чтобы при п->со были выполнены условия

i J ^пк (*) ~* ®»

2 J xMF^x^O,

2 f x^dFnk(x^l,

где т—любая положительная постоянная.

Доказательство. Из теоремы 9 следует, что искомые условия состоят в выполнении при п~^ со соотношений

кп

2 Г % ^пк (^) “* ®#

й«1 J

кп “2 Г x^dFnk(x')-^кп “2 Г x^dFnk(x')-^О для и < О,О для и < О,1 для и > О,1 для и > О,

кп “

2 Г x^dFnk(x')-^

кп “

2 Г x^dFnk(x')-^

О для и < О,

О для и < О,

1 для и > О,

1 для и > О,

2 J ^df„s(x)->l.

Первое из них совпадает с первым условием теоремы, равносильность двух остальных второму и третьему условиям теоремы очевидна.

Особенно простую форму эта теорема принимает, если элементарная система, рассматриваемая нами, нормирована заранее условиями

кп

^ xdF^x^O (1 <А<А„; я = 1, 2, ...).(2)?

Теорема 11. Если элементарная система нормирована соотношениями (2), то для сходимости функций распределения i сумм (1) к нормальному закону необходимо и достаточно, чтобы для всех т^>0 при п-^со

2 J х^^-о.(3)

Лв1|®|>т

Доказательство теоремы очевидно. .

Требование (3) носит название условия Линдеберга, так как им в 1923 г. была доказана его достаточность для сходимости функций распределения сумм к нормальному закону. В 1935 г. В. Феллером была доказана необходимость этого условия.

В качестве другого примера использования общих теорем предыдущего параграфа мы рассмотрим сходимость функций распределения элементарных систем к закону Пуассона

Р(х) =Р(х) =Одля х <, О,

Р(х) =

Р(х) =

У е-х^£ для х>0.

0<lt <38

'Если 6 — случайная величина, распределённая по закону (4), то, как мы знаем, М^О^Х.

Мы ограничимся элементарными системами, для которых к” ) 2ми->х, к"п(5)

Теорема 12. Пусть дана элементарная система, подчинённая условиям (5). Функции распределения сумм

^п = ^1 + ^2+ • • • + кнп

§471тогда и только§471тогда и толькосходимость к нормальному закону239

§471

тогда и только

§471

тогда и только

тогда сходятся к закону (4), когда при любом / *® <#«*(•*+MS,»)-♦ О (л->оо).

" *1®—1|>т

Доказательство этой теоремы мы предоставляем читателю.

В § 15 нами была доказана теорема Пуассона. Легко убедиться, что при прп = Х она является частным случаем только что доказанного предложения. Действительно, пусть 5яЛ(1 ^^^п^ есть случайная величина, принимающая значения 0 или 1 в зависимости от того, появится или не появится при Л-м испытании n-й серии наблюдаемое нами событие А. При этом

Р{^ = 1}“| и Р{^=о} = 1-А.

Очевидно, что сумма

V*n == ^«1 Ч~ ^п2 “Н • • * Ч~ ^пп

представляет собой число появлений события А в л-й серии испытаний.

Согласно теореме Пуассона функции распределения величин рп при п -» оо. сходятся к закону Пуассона (5). Этот результат следует и из только что сформулированной теоремы, так как все её требования в данном случае выполнены.

Общие теоремы о сближении функций распределения сумм (1) с некоторыми безгранично-делимыми функциями распределения, доказанные в более широких, чем у нас, предположениях, позволяют также получить необходимое и достаточное условие для закона больших чисел (в случае независимых слагаемых). См. об этом уже упоминавшуюся монографию Б. В. Гнеденко и А. Н. Колмогорова.

ГЛАВА 10

ТЕОРИЯ СТОХАСТИЧЕСКИХ ПРОЦЕССОВ.

■§ 48. Вводные замечания-

Совершенствование физической статистики, а также ряда отраслей техники, поставило перед теорией вероятностей большое число новых, не укладывающихся в рамки классической теории, задач. В то время как физика и техника интересовало изучение процесса, т. е. явления, протекающего во времени, теория вероятностей не имела ни общих приёмов, ни разработанных частных схем для решения задач, возникающих при изучении таких явлений. Появилась настоятельная необходимость в разработке общей теории случайных процессов, т. е. теории, которая изучала бы случайные величины, зависящие от одного или нескольких непрерывно изменяющихся параметров.

Перечислим несколько задач, иллюстрирующих необходимость построения теории случайных процессов.

Представим себе, что мы задались целью проследить за движением какой-либо молекулы газа или жидкости. Эта молекула в случайные моменты времени сталкивается с другими молекулами и меняет при этом свои скорость и положение. Состояние молекулы, таким образом, подвержено случайным изменениям в каждый момент времени. Многие физические явления требуют для своего изучения умения вычислять вероятности того, что определённое число молекул успеет за тот или иной промежуток времени переместиться на то или.иное расстояние. Так, например, если приведены в соприкосновение два газа или две жидкости, то начинается взаимное проникновение молекул одной жидкости в другую: происходит диффузия. Как быстро протекает процесс диффузии, по каким законам, когда образующаяся смесь становится практически однородной? На все эти и многие другие вопросы даёт ответ статистическая теория диффузии, в основе которой лежит теория случайных процессов, или, как принято • теперь говорить, теория стохастических процессов. Очевидно, что подобная же задача возникает в химии, когда изучают процесс химической реакции. Какая часть молекул уже вступила в реакцию, как реакция протекает во времени, когда практически реакция уже закончилась?

Весьма важный круг явлений протекает по принципу радиоактив- о распада. Это явление состоит в том, что атомы радиоактивного ещества распадаются, превращаясь в атомы другого элемента, распад каждого атома происходит мгновенно, подобно взрыву, с выделением некоторого количества энергии. Многочисленные наблюдения показывают, что распад различных атомов для наблюдателя происходит в случайно взятые моменты времени. При этом расположение этих моментов времени независимо друг от друга .в смысле теории вероятностей. Для изучения процесса радиоактивного распада существенно определить, какова вероятность того, что за определённый промежуток времени распадётся то или иное количество атомов? Формально, если задаваться только выяснением математической картины явлений, точно так же протекают и другие явления: число вызовов, поступающих на телефонную станцию за определённый промежуток времени (загрузка телефонной станции), обрывность нитей на ватере (ватер — прядильная машина) или изменение числа частиц, находящихся в броуновском движении, оказавшихся в какой- либо момент времени в заданной области пространства. Мы дадим в этой главе простое решение тех математических задач, к которым приводят указанные явления.

Начало общей теории стохастических процессов было положено фундаментальными работами советских математиков А. Н. Колмогорова и А. Я. Хинчина в начале тридцатых годов. В статье А. Н. Колмогорова «Об аналитических методах в теории вероятностей» было дано систематическое и строгое построение оснэв теории стохастических процессов без последействия или, как часто говорят, процессов марковского типа. В ряде работ Хинчина была создана теория так называемых стационарных процессов.

Заметим, что прежде чем подвергнуть математическому изучению те или иные явления природы или технические процессы, нужно их схематизировать. Причина этой необходимости лежит в том, что математический анализ применим к исследованию процесса изменения некоторой системы только в том случае, если предположено, что каждое возможное состояние этой системы вполне определено посредством некоторого определённого математического аппарата. Понятно, что такая математически определимая система не есть сама Действительность, но лишь схема, пригодная для её описания. С такой картиной мы встречаемся, скажем, в механике, когда предполагаем, что реальные движения систем материальных точек полностью могут быть описаны для любого момента времени указанием этого момента времени и её состояния в любой предыдущий момент времени /0. Иными словами, схема, которая принимается в теоретической механике для описания движения, состоит в следующем: принимается, что для любого момента времени t состояние системы у полностью определяется её состоянием х в любой предыдущий момент времени t0.

16 Зак. 1826. Б. В. Гнеденко.

При этом под состоянием системы в механике понимается задание положения точек материальной системы и их скоростей.

Вне классической механики, собственно, во всей современной физике, приходится иметь дело с более сложным положением, когда знание состояния системы в какой-либо момент времени t0 уже не определяет однозначно состояния системы в последующие моменты времени, а лишь определяет вероятность того, что система будет находиться в одном из состояний некоторого множества состояний системы. Если через х обозначить состояние системы в момент ^ а через Е — некоторое множество состояний системы, то для только что описанных процессов определена вероятность?

Р{^^;А^} •:

системе, находящейся в момент /0 в состоянии х, в момент / перейти в одно из состояний множества Е.

Если дополнительное знание состояний системы в моменты /</0 не изменяет этой вероятности, то естественно назвать выделенный нами класс случайных процессов процессами без последействия или за их аналогию с цепями Маркова — процессами марковского типа.

Почти вся настоящая глава будет посвящена изучению процессов без последействия и только в последнем параграфе мы дадим представление о стационарных процессах.-

§ 49. Условные функции распределения и формула Байеса

Для дальнейших выводов нам необходимо обобщить понятие условной вероятности, введенное в первой главе, на случай бесконечного множества возможный условий. В частности, нам нужно ввести понятие условной функции распределения относительно случайной величины.

Рассмотрим некоторое событие В и случайную величину $ с функцией распределения F (ху Обозначим через Аа^ событие, состоящее в том, что

х— а<£<х4“Р. '

В силу определений первой главы

Р { ВЛер } = Р { Лвр} - р { В/Лв?} = [F(x + P)-F(x—«)]Р{В/ЛвД.

откуда

г ( D(A^ F^X^_^_F^X_^

Предел'

Пт

a,₽-»oF(x + р)— F(x — аУ

§491

' ли он существует ), называется условной вероятностью события В еС условии, что Ч = х, и обозначается символом Р{В/х}. Оче- идно, что при х фиксированном Р {В)х) будет конечно-аддитивной дункцией события В, определённой на некотором поле событий. Фу при некоторых условиях, которые практически всегда оказываются выполненными, Р { В]х} будет обладать всеми свойствами обычной вероятности, удовлетворяющей аксиомам 1—3 § 8.

ЕСЛИ ^ — случайная величина и В означает событие т| < у, то функция $ty/*) = P{T)<^/x}, которая, как легко видеть, будет функцией распределения, называется условной функцией распределения величины т; при условии, что ^ — х.

Очевидно, что если F^x, у) есть функция распределения пары

f4£±M)-f4£--«^lf4£±M)-f4£--«^lслучайных величин ( и i|, то

f4£±M)-f4£--«^l

f4£±M)-f4£--«^l

Ф(^ — «”™ о F(x + ?,co)-F(x-a,coy

если только этот предел существует.

Если функция Р{В/х} интегрируема относительно F(x), то имеет место формула полной вероятности

P{B}=^P{B!x}dF(x).

Для доказательства этой формулы мы разделим промежуток изменения величины 5 точками ^ (Z= 0, ± 1, ±2, ...) на интервалы х<С6<х<+1. Обозначим через Ai событие х(^£<х<+1. В силу расширенной аксиомы сложения имеем:

Р{5}= 2 Р{вда= s РквмиЧх^-РИ. < = -^-00< =— ОО

Станем теперь подразделять интервалы (хо х^+1) на более мелкие таким образом, чтобы максимальная длина получившихся интервалов стремилась к нулю. В силу определения условной вероятности и интеграла Стилтьеса отсюда получаем:

Р{в } = J Р {Blx}dF(x\ -

В частности,

фСу) = р{К^) = /ф№)^(х).(1)

Если существует плотность распределения вероятностей величины т), то

?(J) = J ?(?/л)^(х),(V)

где ^(у^х')—условная плотность распределения величины щ.

Пример. В качестве примера использования формулы (1) рас- смотрим следующую задачу теории стрельбы. При стрельбе по некоторой цели возможны ошибки двоякого рода: 1) в определении положения цели и 2) ошибки выстрела, происходящие от большого числа различных причин (колебания в величине заряда в снаряде, неправильности обточки стакана снаряда, ошибки в наводке, незначительные колебания атмосферных условий и т. д.). Ошибки второго рода носят название технического рассеивания.

Производится п независимых выстрелов по одному определению положения цели. Требуется определить вероятность хотя бы одного попадания в цель.

Ради простоты мы ограничимся рассмотрением одномерной цели размера 2а, а снаряд будем считать точкой. Обозначим через / (х) плотность вероятностей положения цели и через (^ (х) плотность вероятностей для точек попадания Z-ro снаряда.

Если центр цели находится в точке 2, то вероятность попадания в цель при Z-м выстреле равна вероятности попадания в интервал ^2— а, ^ + «)> т* е- равна*)

У ?<(x)dx..8—а*

Условная вероятность промаха при Z-м выстреле при условии, что центр цели находится в точке г, равна'

1 — у м ^х- в—а

Условная вероятность промаха при всех п выстрелах (при том же условии) равна

Д(!—J ^^dx^..

Отсюда заключаем, что вероятность хотя бы одного попадания, при | условии, что центр цели находится в точке 2* равнаI

Безусловная вероятность хотя бы одного попадания в цель I (по формуле (1)), таким образом, равна|

г " /,+*1I

P = J ^^ f1 — Дд1 — J ?<W^)J dz. ।

Если условия стрельбы не изменяются от выстрела к выстрелу, то Si^ = ^ ^ 0 = Ь 2, ..., п) и, следовательно,

/С?) [1 —(1— J ТМ^)”] dz.

8—Я

Пусть попрежнему А( обозначает событие х, ^; < х1+1. Согласно классической теореме Байеса

Р( д /o.PWPtBWР { А<1В} =.

Если F (х) = Р {£ < х} и Р {$ < х]В } имеют непрерывные производные по х, то, пользуясь теоремой Лагранжа, голучаем:

F (хАР4В[АЛ

Р{Л,/В}=А(х,/В) (х,+1-х,) = p^'-fai"*<)>

где xt<xt<xm, xt < xt < х<+1. В пределе, когда х(-»х, х<+1-»х, получаем:

п(* ^т-' или

/?С(Х/В) = 1Д^^—.’(2)

J P<Bfx4pWdx

Это равенство естественно назвать формулой Байеса.

Пусть теперь событие В состоит в том, что некоторая случайная величина т) принимает значение между у — а и ^4*Р и условная функция распределения Ф (^/х) величины 7} имеет при каждом х непрерывную плотность р^ (у/х). Тогда, как это следует из равенства (2), если |~-^Р(В/х} при аир, стремящихся к нулю,, равномерно от но* сительно х стремится к р^ (yjx), то имеет место равенство

, , х pWp^ylx^

Р^Ш = Т

Эта формула будет нами широко использована в следующей главе.

§ 50. Обобщённое уравнение Маркова

Мы перейдём теперь к изучению случайных процессов без последействия, ограничиваясь при этом лишь прсстейшима задачами. В частности мы будем предполагать, что множество возможных состояний системы есть множество действительных чисел. Таким образом, для нас случайным процессом будет совокупность случайных величин 5(f), зависящих от одного действительного параметра /, Мы

246 ТЕОРИЯ СТОХАСТИЧЕСКИХ ПРОЦЕССОВ [гл. 10 будем называть параметр t временем и говорить о состоянии системы в тот или иной момент времени.

Полную вероятностную характеристику процесса без последействия мы получим, задав функцию F (t, х; т, у), равную вероятности того, что в момент т случайная величина $ (т) примет значение, меньшее^, если известно, что в момент /(/<т) имело место равенство 5(f) = х. Дополнительное знание состояний системы в более ранние чем / моменты времени для процессов без последействия не изменяет функцию F {t, х; т, jz).

Отметим теперь некоторые условия, которым должна удовлетворять функция F(t, х; т, у). Прежде всего для неё, как для функции распределения, должны быть при любых х, t и т выполнены равенства:

lim F (/, х; т, jz) = 0, lim F (£ х; т, jz) = 1; . у->—оо у-»+оо

функция F^ х\ т, у) непрерывна слева относительно аргумента у.

Предположим теперь, что функция F^ х; т, jz) непрерывна по /, т и по х.

Рассмотрим моменты времени /, $, т (£О<т). Так как из состояния х в момент / система переходит в момент s в одно из состояний интервала (г, z-^dz^ с вероятностью dzF (t, х; s, z), а из состояния г в момент s переходит в состояние, меньшее jz, в момент т с вероятностью F (s, z\ т, jz), то согласно формуле (1) предыдущего параграфа находим, что

Fk^ *5 Ъ ^ = J ^(s, з\ т, ^^(^ ^; s, г).

Полученное равенство естественно назвать обобщённым уравнением Маркова, так как оно представляет собой распространение равенства (1), §17 теории цепей Маркова на теорию случайных процессов и в этой теории играет столь же важную роль, как упомянутое тождество в теории цепей Маркова.

для у ^ х, для у > х.для у ^ х, для у > х.Вероятность F (/, х; т, у) определена пока только для т > t. Дополним это определение, приняв

для у ^ х, для у > х.

для у ^ х, для у > х.

lim F ^t, х; т, у) = lim F (t, х; ^, у) = Е (х, у) = <

т->#+оt^—оI 1

Если существует плотность*

/(А х; t, ^=^F(t, х; т, ^),

то Для не$ выполняются следующие очевидные равенства: у

J /(/, х; т, z)dz = F(t, х; т, у), *-00

J/ (/, х; т, z) dz — 1.

Для этого случая обобщённое уравнение Маркова должно быть записано в таком виде:

Ж х; -с, j) = pV, г; т, y)f{t, х; f, z)dz.

Непрерывный случайный процесс. Уравнения Колмогорова

Мы скажем, что случайный процесс £(/) непрерывен, если за малые промежутки времени лишь с малой вероятностью $(/) может получить заметные по величине приращения. Более точно, случайный процесс 6 (/) непрерывен, если, каково бы ни было постоянное 8 (8 > 0), имеет место соотношение

Ига i f dF^t-M, х; t, ,у) = 0.(1)

At->0 J

Наша ближайшая задача состоит в выводе дифференциальных уравнений, которым при выполнении некоторых условий удовлетворяет функция F (t, х; т, ^), управляющая непрерывным случайным про- • цессом без последействия. Эти уравнения впервые строго были доказаны А. Н. Колмогоровым (хотя второе из них и встречалось до этого в работах физиков) и носят название уравнений Колмогорова.

Мы предположим, что

частные производные

дР Ц, х; т, у) d2 F (t, х; т, у)дхдх2

существуют и непрерывны при любых значениях /, х й т > £

каково бы ни было 8 > 0, существуют пределы )

Иш Г (у—x)dyF(t—М, х; t,y) = а^ х) (2)

Ai->0 J

I у—®i < 6 и ~

lim jL f (y — x^dyF^—M.x-.t^^b^.x),(3)

А*->0 J

1у—»I < 8

и эта сходимость равномерна относительно х.

Левые части равенств (2) и (3) зависят от 8. Эта зависимость однако, в силу определения непрерывности процесса (т. е. в силу (i)j является лишь кажущейся.

Первое уравнение Колмогорова. Если только что сформулированные условия 1) и 2) выполнены, то функция F^t, х; т, у) удовлетворяет уравнению

дР^х^у) ^,. a дР<1,х\^, у) by, х) д^Р^х’^У) ,жч S а ^ Х)552555• (4)

Доказательство. Согласно обобщённому уравнению Маркова

F(/—А/, х;т, у) = J F^t, z\ ^y)dJF{t—А/, х; t, z).

Кроме того, в силу свойств функции распределения,

F^t, х; т, у) = J F^t, х; т, y)d8F(t— А/, х; t, z).

Из этих равенств заключаем, что

F(t— ДЛ х; т, у) — F(t, х; т, у) Д*=

•“i J ^’ г"’^ ^—F^' х> т> jOJ^/7^—а/, ^; МУ

По формуле Тейлора при сделанных нами предположениях имеет место равенство

F V, г; т, j) = F (t, х; т, у) + (г—х) ^^’^^-У) -J- ^(г-х)» ^^’^^ -Vo^z-хП

Последующие аналитические преобразования не требуют пояснений*. F(f— Д/, х; т, у) — РЦ,, х; т, у)

= -!• J [F(/, г;т, у) —F(/,x;t, j)]dzF(/—Д/,х;<,г)4- |8—® |>5

4- 5" J [/"(^ г; ’, у) — F(t, х; -с, y^W (t—M, х; t, г) =- 1»~®| <8

“If flF^* г; т« ^~F^ х;т‘ ^d»Fk1—^» х>l- z) +

U—ccj >8

^^F^jMiL.V. J (z-x)deFV-^ x; t, z) +

|z—a?|<6

+ 1 .i'^;^) 1 Г l(,_x).+,(,-,nx

18—a?l<8

X<U4t — Д/, x; t, zy (5)

Перейдём теперь к пределу, положив Д/->0. Первое слагаемое правой части в силу (1) имеет своим пределом 0. Второе слагаемое,

дР

согласно (2), в пределе равно а (/, х) ^. Наконец, третье слагае- 1 х д^Р

мое может отличаться от -у b у, х) ^ только на слагаемое, стремящееся к нулю при 8->0. Но так как левая часть последнего равенства от 8 не зависит и только что указанные предельные значения от 8 не зависят, то предел правой части существует и равен „у, ,) «Е&^+^ьу, ,) wv^L.

Отсюда мы заключаем о существований предела:

и F(t — bt, х; т, ^—Ру, х; т, у) dF(t х; т, у) ' 57•

Равенство (5) приводит нас к уравнению (4).

Если предположить, что существует плотность распределения

/V. ; y) = ^FV. х; t» у)»

то простое дифференцирование (4) показывает, что плотность /(/, х; -с, у) удовлетворяет уравнению

d/(Z, х;т, у) , „ч dfV, х; т, у) । д/х)г

+ Т & х)= о. (4Э

Мы перейдём теперь к выводу второго уравнения Колмогорова. При этом мы не станем стремиться к наибольшей возможной общности и сделаем допущения, не вызываемые существом дела. Помимо уже сделанных предположений, мы наложим на функцию F^t, х; т, у) ещё такие ограничения:

существует плотность распределения вероятностей х dF (/, х\ т,у) .

А* х; у) = —!^2_ZL;

существуют непрерывные производные

^’дГ’^ ’ -^^.УМ-х^У^. -^-[»(т,^)/(^,х;т,у)].

Второе уравнение Колм огор.ова *). Если выполнены условия 1) — 4), то для непрерывного случайного процесса без последействия плотность f{t^x\x^у) удовлетворяет уравнению ^М^^ Va^yW, х;х,у)]Цф1Ь(?,У)К, х;т,у)].(6)

Доказательство. Пусть а и b (а<Ь")— некоторые числа и /?(у) — неотрицательная непрерывная функция, имеющая непрерывные производные до второго порядка включительно. Кроме того, мы потребуем, чтобы

Я(у)=О при у<а и у > Ь«.

Из условия непрерывности функции R (у) и её производных заключаем, R (а) = R (5) = R' (а) = R' (5) = R" (а) = 7?" (5) = 0.(7)

Заметим прежде всего, что ъ .ъ

J дЛ^м! R^dy = ^_ J/(^ х; т>у) R (у) dy = аа

_ ||т |■^(A^±^^1=£<^L^L^

■Ат -> 0 J

Согласно обобщённому уравнению Маркова"

/(/, x;T-f- Дт,^) = J/(/, х; т, ^)/(т,^T-j- Ди,у) dz, поэтому / * ъ

Так как в силу ограниченности функции R(z) и условия (1) У /(т,^; т-|- Ат, z) R (г) dz = o (Ат)

Ilf—el >8 и

J/(^^^Ч- Ат, z) dz = 1 Ч-о(Ат),

1у-е|<8

ТО

у /(^.у^ч- ^x.z^R^dz—/?(» =

= R'^ У (z—^f^y^-V^z^dz-V 1У~2|<«

-V^R"^ JU.Z—^)аЧ-о(г—jf)9J/(T,jz;T4-AT,z)^4-o(^)-

| У—2 I < 6

Таким образом, ъ

JA2g^L R(.ywy= а

= Um Г /(/, х; т,у) Ь?' (у) f (г —у)/(т, у; т + Ат, г) dz Ч- Дт •> О JJ

1 У—» | <8 .

ч-1R" (у) JWz-yY ч- о (z -J)2J X

'I у—» I < 8

X/(t,j тЧ-Ат, г) rf^4~o (Ат)| dy.

Перейдём к пределу, положив Ат -> О. В силу предположения о равномерной сходимости к пределам в (2) и (3), заключаем, что предыдущее равенство может быть записано в виде

ь

/

д/ (t, х;т, у) _ , х .

— d; R^dy=

= $/^»х; ^ ^) [а ^> у) ^ О) Ч- 4ь (т> у^ ^" О) ] ду •

Так как R' (у) = R" (у) = 0 для у <; а и у >• Ь, то ь

J*teMlRw^=

ъ

= / / ^» х; Т, У)[а (тг^) R' (у) +1 b (т,у) Я" (у)1 dy. (8)

Воспользовавшись формулой интегрирования по частям и равен* ствами (7), находим, что

ъь

J f^.x-^.^a^^^R' (y)dy=— J R^-^Ya^.y^f^x-^.y^dy, aa

bb

J /(f, x;x,y)6^,y>R"(y^ dy = J R(y) -^b (т.^О/СЛ x;t,y)l dy. aa

В результате подстановки полученных выражений в (8) получаем: ь f ^/(Ах^.у) п х , J ^ ■ RWy = а

b

= J {—^t»^)/^х^.УПЧг а

+ 4 ^ (^ (^ ^/(t, х; т, у) ]} R (у) dy.

Это равенство может быть записано, очевидно, в таком виде: ъ

—^VajVaXx.y^fXt.x-.x.y^ —

а

-4-5^ <т> ^ ^х;т- ^}R ^ ^=о(9)

Так как функция R^ произвольна, то из последнего тождества вытекает (6). Действительно, предположим, что это не так. Тогда существует такая четвёрка чисел (/, х;т,у), при которой выражение, стоящее в (9) в фигурных скобках, отлично от нуля. В силу сделанных предположений это выражение представляет собой непрерывную функцию; следовательно, найдётся интервал а<у < р, где оно сохраняет знак. Если д^а и 5>^, то мы полагаем /?(у) = О при у ^ а и у ^ Р и R (у) > 0 при а < у < р. При таком выборе R (у) интеграл, стоящий в левой части равенства (9) должен быть отличен от нуля. Мы пришли к противоречию. Таким образом, сделанное нами предположение ошибочно и, следовательно, из (9) вытекает (6). 4 Естественно, что основная задача, которую приходится решать, состоит не в проверке того, что данная функция f^t, х;т,у) удовлетворяет уравнениям Колмогорова, а в разыскании неизвестной функции f^t^^^y^ по этим уравнениям, в которых коэффициенты а(/,л:) и b^t^x^ предполагаются известными. При этом, конечно, ра*

ускивается не какое-нибудь решение уравнений Колмогорова, а лишь те из них, которые удовлетворяют следующим требованиям:

1.

/ (/, х;т, j/)^ 0 при всех /, х, т)еу.

2.

J f (t, x\t, у)dy = 1

и при

любом 8 > 0

(10)

3.

lim Г/ (Z, х; т, jz) dy = 0.

Мы не будем останавливаться на выяснении тех условий, которые нужно наложить на функции а^х^ и b^t, х^ чтобы существовало решение уравнений Колмогорова, удовлетворяющее перечисленным требованиям и было бы при этом единственным.

Мы несколько усилим требование непрерывности с тем, чтобы выяснить физический смысл коэффициентов а (I, х) и b (t, х). Именно, предположим вместо (1), что при любом 8>0 имеет место соотношение

Пт 4? f (У—x^dF^t— Lt, x;t,y) — 0.(1')

Д^О J

1 У—а? |>8

Легко видеть, что из (1') следует (1). Требования 2 и 3 могут быть теперь записаны иначе, а именно,

л"™0 "Ь Vy-x)dyF(t-Lt,x-)t.y')=a (t, х)(2')

И

^-x?deF<t—Lt,x-,t,y>) = bVt,xY(3')

Остальные требования, а также окончательные выводы от замены (1) на (1') не изменяются. Так как

J (^ — х) dy FV — Lt, х; о) = м [5 (t) — Mt— A/)] является математическим ожиданием изменения 6(0 за время А/, а

У ty — ху d„ F (t—Lt, x; t,y) = M p (0 — 5 (/—A/)]2

есть математическое ожидание квадрата изменения $ (/) и, следовательно, пропорционально кинетической энергии (в предположении, что 6 (0 есть координата движущейся под влиянием случайных воздействий точки), то из (2') и (3') ясно, что a (f, х) есть средняя скорость изменения 6(0, а Ь (/, х) пропорционально средней кинетической энергии изучаемой нами системы.

Мы заключим этот параграф рассмотрением частного случая Уравнений Колмогорова, когда функция /(/, х; т, jz) зависит от /, т

и j — х. но не от самих х и у. Физически это означает, что процесс протекает однородно в пространстве: вероятность получить приращение L=y— х не зависит от того, в каком положении х находилась система в момент времени L Очевидно, что в этом случае функции а (/, х) и b (£ х) не зависят от х, а являются функциями только одного аргумента /:

а (/) = а (^ х); b (/) = b (/, х).

(И)(И)Уравнения Колмогорова в рассматриваемом нами случае переписи, ваются в таком виде:

(И)

(И)

df < \ df х х дЧ дт—» (Т) ду + 2 6 (Т) ду2 •

Рассмотрим сначала Уравнения (И) при этомРассмотрим сначала Уравнения (И) при этоми ему сопряжённоеи ему сопряжённоечастный случай, когда а (/) = 0 и #(/) = 1. ; превращаются в уравнение теплопроводностиdf _ 1 дУдт 2 ду^|частный случай, когда а (/) = 0 и #(/) = 1. ; превращаются в уравнение теплопроводностиdf _ 1 дУдт 2 ду^|df1 дУdt=2 дх^ еdf1 дУdt=2 дх^ е(12) j(12) j

Рассмотрим сначала Уравнения (И) при этом

Рассмотрим сначала Уравнения (И) при этом

и ему сопряжённое

и ему сопряжённое

частный случай, когда а (/) = 0 и #(/) = 1. ; превращаются в уравнение теплопроводности

df _ 1 дУ

дт 2 ду^|

частный случай, когда а (/) = 0 и #(/) = 1. ; превращаются в уравнение теплопроводности

df _ 1 дУ

дт 2 ду^|

df1 дУ

dt=2 дх^ е

df1 дУ

dt=2 дх^ е

(12) j

(12) j

Из общей теории уравнения теплопроводности известно, что един- ственное решение этих уравнений, удовлетворяющее условиям (10), даётся функцией

1(У—и)9

/ V> ^; т> .у)= г ■—=* ^ 2 (т—^ .

^(г —/)

Заменой переменных

у' =у—J b^z") (к*а

-с' = J b (г) dzа

уравнения (11) сводятся к уравнениям (12). Это даёт возможность искомое решение уравнений (11) записать в виде

где обозначено

А = J а (г) dz, а2 ^у b (г) dz.tt

§ 62. Чисто разрывный процесс. УравненияКолмогорова-Феллера

В современном естествознании большую роль играют процессы, в которых изменение системы происходит не непрерывно, а скачками. Примеры такого рода задач приведены во вводном к настоящей главе параграфе.

Мы будем говорить, что случайный процесс $ (/) чисто разрывен, если в течение любого промежутка времени (£ Z-^AZ) величина 6 (/) остаётся неизменной и равной х с вероятностью 1—р^.х^М^о^М^ и лишь с вероятностью р (t, х) А/ + о (Д0 может претерпеть изменение (при этом мы считаем, что вероятность более чем одного изменения $ (/) за промежуток времени А/ есть о (А/)). Естественно, что поскольку мы ограничиваемся рассмотрением процессов без последействия, функция распределения дальнейших после скачка изменений $ (/) уже не зависит от того, какое значение имело 5 (/) в моменты, предшествующие скачку.

Обозначим через P^t, х, ,у) условную функцию распределения £(/) при условии, что в момент t произошёл скачок и непосредственно до скачка ^(/) было равно х (т. е. 5(Z—0)=х).

Функция распределения F(t, х; т, у) легко может быть выражена через функции р (/, х) и P^t, х, у), а именно

г (А х; t, j') = [1 — р (А *) (т—0] £ (*, ^) 4-

+ (т— f)p(t, x)P(t х y)+o(t — f). (1)

По смыслу определения функций р (£, х) и Р (t, х, д/) они неотрицательны, причём для Р (t, х, у), как для функции распределения, выполнены равенства

P(t, х, — оо) = 0, Р(^ х, + сю) = 1.

Кроме того, мы предположим, что р(^ х) ограничена, обе функции р (/, х) и Р (t, х, у) непрерывны относительно / и х (достаточно, на самом деле, предположить, что они измеримы по Борелю относительно х).

В отношении функции F (t, х; т, у) мы не станем делать никаких предположений и лишь сохраним её определение при Z = t:

lim F (/, х; т, у) = lim F (t, х; т, у) = т-># + 0t->x—О

ГОпри^<х,

= £(х, у = <

( 1 при у > х.

Одна из задач настоящего параграфа состоит в доказательстве следующей теоремы.

Теорема. Функция распределения F^t, х; т, у) чисто разрывного процесса без последействия удовлетворяет двум следующим

интегро-дифференциальным уравнениями

х; У) -

— J f (/, г; т, у') dzP (I, х, г)], (2)

^й^=- /Pt' ^W- х«т- ^) + —ОО

+ J р^, Z^P^, z.ytd/lt, х; т, г). (3)

Уравнение (2) было получено А. Н. Колмогоровым в 1931 г.; в сделанных нами предположениях оба уравнения (2) и (3) были получены В. Феллером в 1937 г. Это обстоятельство приводит нас к естественному наименованию уравнений (2) и (3) уравнениями Колмогорова-Фел лера.

Доказательство. В силу обобщённого уравнения Маркова

F(t, ^; ^ ^) = JF^tY-^» ^; ^ у)а^^ ^ *+М ^У

Подставив сюда значение F (^ х; t^Y^ г) по формуле (1), нахо* дим, что

F^t, х\^ у^ = J Z7(/-f-Af, z; т, j)^[l—р^ х)Д(/) +

4-о (А/) ] Е (х, г)4- J F (t 4- А/, г; т, у) dz [р (t, x)^t^-o (А/)] Р (/, х, z).

Так как

J F(/4-A/> г; т, y)dzE(x, z) = F (t -f- Lt, x; t, j), to

F^t, x; t, ^) = [1—p(t, x) At] F(t-^-At, x; t, j)4~

4~A/p(f, x) J F(i!4-Af> z*, t, y)dzP(t, x, x)4-o(A/).

Отсюда

FWkW^zI^^^ x)F{t-].At, x; t, y) 4-

-^-p(t, x) J F(t-VM, г; t, y)dzP(t, x, г)+о(1).

Переход к пределу приводит нас к (2).

чисто разрывный процесс257

уравнение Маркова и (1), а также определение функции £(х, г) позволяют написать следующую цепочку равенств:

FV, х> т + Дт> ^ = J F^> г> Т + Д1:, У)<ЦЧ^ х; т, г) =

= J {[1—р(т, z)^E<z, ^)4-Дтр(т, z^P^, г, ^)4-о(Дт)}Х

X-W х; т, z) =

УУ

= J d^F (/, х; т, г) — Дт J р (т, г) d3F (t, х; т, z) -f- — ОО.—оо

+^Jр(т, 2?)Р(т, z. ^d^^t, х, т, г) 4" О (Ат).

Обычным путём отсюда следует существование производной -3— и от равенство (3).

Мы решим ещё одну важную для приложений задачу: с какой вероятностью в течение промежутка времени от t до т (т > /) система может изменить своё состояние то или иное число п раз (п = 0, 1, 2, ...)?

Обозначим через рп^ х, т) вероятность того, что, отправляясь от состояния х в момент /, система п раз изменит своё состояние до момента т. Решение задачи начнём со случая п = ^

С этой целью запишем следующее равенство:

Ро (t, х, т) = р0 (7, л:, т + Дт) +р0 у, х, т) [ 1 — р0 (т, X, и + Дт)],(4)

которое означает, что отсутствие изменений состояния системы в промежуток времени (/, т) может произойти двумя несовместимыми путями: 1) система не изменила состояния за больший промежуток времени (/, тЦ-Ат), 2) система не меняла состояния до момента т, но в промежуток времени (т, т 4- Ат) состояние её изменилось. Так как по определению чисто разрывного процесса

р0(т, х, т-|-Ат) = 1—р(т, х) Ат + о (Ат),

то уравнение (4) может быть записано иначе:

Отсюда, положив Дт -> 0, находим, что существует производная ЛМ1, х, -с)

5——- И ЧТО

01

X).

17 Зак. 1826. Б. В. Гнеденко.

Проинтегрировав это уравнение, находим:

— Г р(«. 0?) Ди

PoV» X, ^ = 08 t Так как

Ро^. X, т) = 1,то С— 1 ит— ( р(«, ao^duPoV. х, т) = е *.(5)

Теперь мы увидим, что, зная р0(/, х, т), а также функцию Р(/, х, jz), определённую раньше, мы можем подсчитать' любую вероятность pn(t, х, т). В самом деле, n-кратное изменение состояния происходит следующим образом: 1) до момента s(/<s<t) система не меняет состояния (вероятность этого события равна p^it. х, s)), 2) в промежуток (5, s-(-As) система меняет состояние (вероятность этого равна pt (s, х, $4-Д$) = р($, х) As-]- о (As)), * 3) вероятность того, что новое состояние, в котором окажется система, будет заключаться между у и у -|- Ду, равна Р (s, х, у -{- Ду)— — Р (s, х. у) = LyP (s, х, у), 4) наконец, за время (s + As, т) система изменит своё состояние п—1 раз (вероятность этого события равна pM_i(s + As, у, т)).;

Вероятность того, что произойдут все четыре перечисленных события, в силу теоремы умножения, равна

Ро & X, s)(p(s, х) ч- о (1)] As • Д„Р (s, х, у) • рп_ , (s + As, у, т).

Так как s и у могут быть произвольными (£<s<t и —оо <jz < оо), то, в силу формулы полной вероятности,

Рп (А х, т) = J J р0 (7, X, $) р (S, х) рп_ ! (S, у, т) deP (s, X, у) ds=

= ]* p0Q, x, s)p(s, x) Jp„_i(s, y, ^dtip^s,x,y)ds. (6) ’

Отсюда, в частности,

Pl (t. X, т) = J*p0(t, x, s)p (Si x)Jp0(s, y, t)dyP(s, x, y)ds. (7) t';

Процесс определения pn(^, x, т) очевиден: по формуле (5) на- | ходим p0(t, х9 т), по формуле (7) вычисляем px(t^ х^ т) и затем I последовательно р2(/, х» т), р^ (^ х^ т) и, наконец, pn(t^ х, т). |

Пример 1. Пусть интересующая нас величина ?(/) есть число изменений состояния за время от 0 до т. В предположении р (f, х) = а, где а>0—постоянное, найти pn{t, х, т).

О при у < x,1 при у > X.О при у < x,1 при у > X.Возможными состояниями системы будут в нашем случае все неотрицательные целые числа (х = 0, 1, 2, ...) и только они. Так как при каждом изменении состояния величина ^(/) увеличивается ровно на 1, то

О при у < x,1 при у > X.

О при у < x,1 при у > X.

Р (Ъ х, у) =

По формуле (5) имеем:

р0(/, ^ т)=5~а<т^^.

Согласно (7)

Р1^> х> х) = J*РоА> х, s)p (s, х)pQ(s, ^+L ^)ds = t

= a J e—(s—#)ae—(x—8)° ds = a (t — /) e-«(x—9. t

По формуле (7)

р^> x> T)= f Po^, ^P^, x)pAs> *+h t)& =

_ [Я(Т —^)Р fT_^

~2!

Предположим теперь, что

По формуле (7)

PnV, X» 'C)=J PoV. X, s)p(s, x)pn^(s, x-Ц, T)ds =

= I —— e~ av •—и ds == ~—-—:—— e~ a^—^ e

J (я—1)!n\

Этим доказано, что при любом целом п>>0

Р«^ х, ^ = ^а^~^е-^-1\

Решением нашей задачи является, таким образом, закон Пуассона. В частности,

Р„(0, о, =

Легко сообразить, что функция

при у < 0, при у > О

является решением интегро-дифференциальных уравнений (2) и (3).

Пример 2. В момент / = 0 имеется N радиоактивных атомов. Вероятность распада атома в промежуток времени (^ ^4~^0 равна aN(f) Д^ + о (ДЛ, где а > 0 — постоянное, a N (0 — число атомов, не распавшихся до момента I» Найти вероятность того, что за время от t до т произойдёт п распадов ).

Мы имеем типичный чисто разрывный случайный процесс. Величина 5(0, понятно, может принимать только значения 0, 1, 2, ..., N^ty

По условию задачи

{

0при х^О и x^N,

a (N— х) при 0 < х < А/, а

( 0 при у х, Р (^ х, у^ = <

х( 1 при у > х.

Оценим прежде всего вероятность того, что за время от 0 до t произойдёт п распадов.

По формуле (5)

— fp(#, 0)d<

Рй^, 0, т) = е о

Точно так же

p^t, k> т) = е-*Мт—#>.

Далее, по формуле (7)

р^О, 0, -c) = Jpo(O, 0, s)p(s, O)po(s, 1, <)ds = о

= J e-aW^e-atif-lXT-s)^ — о

= Nc-°Nx J <zea<T—®> ds = Ne-aNx [eat — 1].(8)

0

По формуле (7) легко последовательно найти р2(0> 0,т), р3(0,0,т) й т, д. и доказать, что

Рп (0, 0, т) = С^- oNt 1е№ — 1 ]"(9)

Это мы предоставляем читателю.

Очевидно, что при О^п^Л/—& имеет место равенство

pn(t, к, ^«Ск-тсГ0^-^-^^-^ — 1]".(9')

Теперь мы можем перейти к определению интересующей нас вероятности, которую мы обозначим через рп^ т). По формуле полной вероятности, используя затем (9) и (9'), находим, что

рп<Л т)= Sp/C(o, о, o-pn(t, к, ^ =

А=0 N-n

= 2 c£-e-aNt [eat — l]k\еа^—\\п =

&=о

N—п

= e~"№ [е^-« — 1]" 2 С^-^'-^ [eat— 1]*.

Так как

с^_к=с§с^_„

И N—n

2 С^_п [e^-'V' —1)]6=^1 + е°(3т-<) — к=0

то окончательно

рп (t, г) = Си р-°# — е-Т [е-°г + е’^ — е"^-’1.

ОприОпри.У X,у <N—х,у > N—х.У X,у <N—х,у > N—хЛегко понять, что функция

Опри

Опри

.У X,

у <N—х,

у > N—х

.У X,

у <N—х,

у > N—х

Р Q, х; т, ^) =Р Q, х; т, ^) =2 Рп V. х, ^ при п<у

Р Q, х; т, ^) =

Р Q, х; т, ^) =

1при

является решением интегро-дифференциальных уравнений (2) и (3).

§ 63. Однородные случайные процессы с независимымиприращениями

Мы рассмотрим теперь важный класс случайных процессов, полная характеристика которых будет дана в терминах характеристических функций.

Под однородным случайным процессом с независимыми приращениями понимается совокупность случайных величин ?(0> зависящих

от одного действительного параметра t и удовлетворяющих двум следующим условиям:

функция распределения величины Ц/^-^)— ^Оо) не зависит от f0 (однородность процесса по времени);

для любых неперекрывающихся промежутков (а, 5) параметра t приращения величины £(/), т. е. разности £(£) — £ (я) взаимно независимы (независимость приращений).

Прежде чем переходить к получению конкретных результатов, мы рассмотрим несколько примеров. В этих примерах условия, о которых только что шла речь, могут быть приняты в качестве рабочей гипотезы. Естественно, что их допустимость оправдывается только согласием выводов с опытом.

Пример 1. Диффузия газов. Рассмотрим молекулу некоторого газа, движущуюся среди других молекул того же газа при условиях постоянных температуры и плотности. Введём в пространство декартовы координаты и станем следить, как изменяется с течением вре-. мени одна из координат избранной молекулы, скажем, координата х.

Вследствие случайных столкновений данной молекулы с другими молекулами эта координата будет изменяться во времени, получая случайные приращения. Требование постоянства условий, в которых находится газ, очевидно, означает собой однородность изучаемого процесса во времени. Ввиду большого числа движущихся молекул и слабой зависимости их движения процесс оказывается с независимыми приращениями.

Пример 2. Скорости молекул. Рассмотрим снова молекулу некоторого газа, движущуюся в объёме, наполненном молекулами того или иного газа постоянной плотности и температуры. Отнесём снова всё пространство к декартовым осям координат и будем следить, как изменяется со временем компонента скорости по одной из осей координат. В своём движении молекула будет подвергаться случайным столкновениям с другими молекулами. Вследствие этих столкновений компонента скорости будет получать случайные приращения. Мы снова имеем однородный случайный процесс с независимыми приращениями.

Пример 3. Радиоактивный распад. Известно, что радиоактивность вещества состоит в том, что его атомы превращаются в атомы другого вещества, выделяя при этом значительное количество энергии. Наблюдения над сравнительно большими массами радиоактивного вещества показывают, что распад различных атомов происходит независимо друг от друга, так что числа распадов атомов в непере- крывающиеся промежутки времени независимы между собой. Кроме того, вероятности того, что за промежуток времени определённой длины произойдёт некоторое число распадов, зависят от длины этого промежутка и практически не зависят от того, где во времени он , расположен.• В действительности, конечно, по мере уменьшения массы вещества grp радиоактивность постепенно убывает. Однако для срав- |

нительно небольших промежутков времени (и не слишком больших количеств вещества) это изменение настолько незначительно, что им вполне можно пренебрегать.

Легко привести большое число других примеров, где интересующее йас явление природы или технический процесс может рассматриваться как однородный процесс с независимыми приращениями. Укажем дополнительно на такие примеры: космическое излучение (число космических частиц, попавших за определённый промежуток времени на определённую площадку), обрывность пряжи на ватере, загрузка телефонистки (число вызовов абонентов, поступающих за определённый промежуток времени) и пр.

Перейдём теперь к выяснению характеристического свойства однородных случайных процессов с независимыми приращениями.

Обозначим функцию распределения приращения величины Е(/) за промежуток времени т через F (х, т). Тогда, если промежутки времени тх и т2 не пересекаются, то

F (х; тх 4-" т2) = J F (х — у, т^ dy F О, т^.(1)

Если f(z, т) — характеристическая функция, т. е. если /(г, т) = J e^d^F^x; т),

то равенство (1) в терминах характеристических функций принимает следующий вид:

/(г; Ч-Нз)”/^ tj-/^. ’з)-(1')

Вообще, если интервалы времени тх, т2) ..., тп не пересекаются, то

/(^; 2ч)= П/(*; т»)‘

п

В частности, если t, = т2= ... = т# и 5 Ч = т> то

/(г, ^ = [/(^5]"

Таким образом, функция распределения любого однородного случайного процесса с независимыми приращениями безгранично-делима.

Нужно отметить, что к рассмотрению безгранично-делимых законов распределения в теории вероятностей пришли благодаря изучению однородных процессов с независимыми приращениями. Мы видели, что теория безгранично-делимых законов распределения оказала решающее влияние на развитие классических задач теории вероятностей по суммированию случайных величин. Если раньше* как мы указывали, интересы исследователей были сосредоточены на опреде-

лении наиболее широких условий, при которых имеют место закон больших чисел и сходимость нормированных сумм к нормальному закону, то после того как А. Н. Колмогоровым был полностью охарактеризован класс законов, управляющих однородными случайными процессами без последействия, естественно возникли те общие задачи, которые были рассмотрены в предыдущей главе. Оказалось при этом, что основные законы распределения, которые раньше полу, чались как асимптотические, в теории случайных процессов играют роль точных решений соответствующих функциональных уравнений. Более того, эта новая точка зрения позволила выяснить причины, в силу которых в классической теории вероятностей рассматривались только две предельные функции распределения — нормальный закон и закон Пуассона.

Поскольку при произвольном т > 0 для однородных процессов с независимыми приращениями

/(г, ^ = \f<z, 1)Г,

то они полностью определяются заданием характеристической функции величины 6(1) — 5(0) В § 43 мы видели, что для безграничноделимых законов с конечной дисперсией

lg<р (г, 1) = ^г + J {^u _ 1 _ izu\ -^ dG (и),(2)

где 7 — действительное постоянное, а О (и)— неубывающая функция; с ограниченным изменением. Мы ограничимся рассмотрением этого частного случая однородных процессов.

Введём в формуле (2) такие обозначения:

и

ЛГ(и)= J -^dG (х) для и < О,

АГ (а) = ^ -^dG (х) для и > О,

a2=G(4-0) — О( — 0);

тогда она примет следующий вид:

о

lg?(^>l) = ^ — ^+ J {е^ — 1—tzu\dM (w) +

-J- [ {e^“ —l — zztz) dW(«). (2') 0

Выясним теперь теоретико-вероятностный смысл функций Л4 (и) и Ы^.

В § 43 при выводе формулы канонического представления безгранично-делимых законов мы ввели функцию

Оп(и) = п [ хЧФп(х).

— ОО Положим

(“) = / ^0П <Х) = «^П (“) ДДЯ “ < 0

И

Nn (“) = ^ "^ dQ« (^ = ” И — Ф» («Л ДДЯ “ > °- и

Из того, что при п-^со в точках непрерывности функции О(и)

Qu(a^G^

мы по второй теореме Хелли делаем вывод, что в точках непрерывности функции М(я)

Мп(к) = пФп (и)-+М(и).

С точки зрения случайных процессов, Фп (х) (х < 0) есть вероятность того, что величина Е(т) за промежуток ^~, -^Ц^) изменения параметра т получит отрицательное приращение по абсолютной величине, большее, чем х. Таким образом, Мп(х) есть сумма по всем h от 0 до п — 1 вероятностей того, что величина $ (/) получит отрицательное приращение скачками по абсолютной величине, большими, чем х, за промежутки ^, —^ ^) изменения параметра т. Поскольку М (и) и N (и) являются пределами при п->оо соответственно функций Мп(и) и Nnlu^ то они получили название функций скачков.

Если М(и) = 0 (для и < 0) и N(u) = 0 (для и>0), т. е. функции скачков отсутствуют, то из формулы (2') видно, что в этом случае стохастический процесс управляется нормальным законом. Мы видим, что случайный процесс, управляемый н рмальным законом, является непрерывным в смысле теории вероятностей. Мы докажем теперь более сильное утверждение.

Теорема. Для того чтобы однородный случайный процесс с независимыми приращениями и конечной дисперсией*) управлялся нормальным законом**), необходимо и достаточно, чтобы при произвольном s > 0 вероятность того, что максимальное значение

*) Теорема верна и без допущения конечности дисперсии.

**) В частности, нормальным законом с дисперсией О» т. е. законом вида F (х) = 0 при х<а, F (х) = 1 при х > а.

абсолютной величины приращений Е(т) за промежутки (^~-*^ (й = 1, 2, . .., л) превзойдёт е, стремилась к нулю вместе с — *).

Доказательство. Мы только что видели, что однородный случайный процесс с независимыми приращениями управляется нор» мальным законом тогда и только тогда, когда при х > О

Л4(— а:)э^(х)зО.(3)

Так как Л1(и)= ИтЛ1п(и) и N(u)= ИшА^я), П->СОП->ОО

то условие (3) равносильно следующему:

Ит пФп ( — и) = lim п [1 — Фп (и)] = 0.(4)

п->ооп->оо

1 & \

—~— » ~) черев Bnft; тогда Рпб=Ф»(—*)+1—Ф»(^+о) = Р{1и1 >*}• Очевидно, что соотношения (4) эквивалентны такому:

пlim 5ря6 = 0.П->оо й»1Ив неравенств

S Рш^Ш1—Р»0О 6=1

мы видим, что соотношения (4) равносильны утверждению, что lim П С1— Pnk) = V n-froo &■=!

которое означает, что вероятность осуществления неравенств 16nft| < а при всех k^l^k<.n) при п-^оо стремится к единице. Иначе говоря, мы доказали, что соотношения (3) имеют место тогда и только тогда, когда при л -* оо

Pj max |UI>s}->°.1<А<п

ч. и тр. д.

К общей теории, развитой в настоящем параграфе, мы добавим пример.

Пример. В пространстве разбросаны точки с соблюдением следующих требований: 1) вероятность к точкам оказаться в области О

♦) Таким образом, процессы, управляемые нормальным законом, и только они, являются «равномерно непрерывными* в смысле теории вероятностей.

зависит только от объёма v этой области, но не зависит ни от её формы, ни от положения её в пространстве. Эту вероятность мы обозначим символом р^^У 2) Числа точек, попавших в непере- крывающиеся области, являются независимыми случайными величинами. 3) рг (Av) = aAv 4 о (Av), где а > 0 — постоянное. 4) рк (Av) = ^ о (Av) (А > 1). Найти вероятности p^Qu).

Первое условие, очевидно, означает пространственную однородность изучаемого процесса, а второе—независимость приращений в неперекрывающихся областях.

Для определения функций р^^) составим уравнения

Ро (о + Ат) = р0 (®) • р0 (Ат)

И

Рп (* + д”) = Рп W Po^-VP*-iWPi.W-V-

+ ^Рп-к^рк^У (5) fc=2

Первое из этих уравнений означает, что если в объём Av 4е ^ попало О частиц, то в каждый из объёмов v и Av также попало по 0 частиц. Второе равенство означает, что если в объём vj-Av попало п частиц, то или в объём v попали все частицы, а в объём Av — ни одной, либо в объём v попало п—1 частиц, а в объём Av — одна, ...; либо, наконец в объём v не попало ни одной частицы, а в объём Аг'— все п частиц.

Используя сделанные нами предположения, читатель легко убедится в том, что соотношения (5) в пределе превращаются в следующие дифференциально-разностные уравнения:

и при п>0

^^ = — «Р« (®) +«Pn-i (®)«

Последовательное решение этих уравнений приводит к равенству*)

Требования, которые мы наложили на распределение точек, выполняются с достаточной степенью точности в различных естественнонаучных и технических проблемах. Мы приведём только один пример такого рода. Если в какой-либо жидкости взвешены мельчайшие частицы какого-либо вещества, то под влиянием ударов окружающих молекул эти частицы находятся в непрерывном хаотическом движении (броуновское движение). В результате в каждый момент времени мы

имеем случайное распределение частиц в пространстве, о чём только что была! речь. Согласно теории настоящего примера следует считать^ что распределение частиц, попадающих в некоторую определённую область, будет подчинено закону Пуассона.

В таблице 12 сравниваются результаты опытов с частицами золота взвешенными в воде, заимствованные нами из статьи Смолуховского* и результаты вычислений по закону Пуассона.

Таблица 12

Число частиц п

Число наблюдавшихся случаев т

Частота т 518

Х^-х п\

Вычисленное число случаев

0

112

0,216

0,213

ПО

1

168

0,325

0,328

173

2

130

0,251

0,253

131

3

69

0,133

0,130

67

4

32

0,062

0,050

26

5

5

0,010

0,016

8

. 6

1

0,002

0,004

2

7

1

0,002

0,001

1

Постоянное X = от, которым определяется закон Пуассона, выбрано равным среднему арифметическому из наблюдавшегося числа частиц, т. е.-

X = О-П2+1-168 + 2-130 + 3.69 + 4.32 + 5.5 + 6.1 +7-1 г 54

§ 54. Понятие стационарного случайного процесса.

Теорема Хинчина о корреляционной функции

Процессы марковского типа или, иначе, процессы без последействия, изученные нами в предыдущих параграфах, ни в какой мере не исчерпывают всех запросов естествознания к теории вероятностей. В самом деле, во многих случаях прошлые состояния системы оказывают весьма сильное влияние на вероятности её будущих состояний, и пренебрегать этим воздействием прошлого нельзя даже при приближённой трактовке вопроса. Принципиально положение может быть йсправлено изменением^ понятия состояния системы путём введения новых параметров. Так, на- ' пример, если бы изменение положения частицы в явлениях диффузии или броуновского движения мы стали рассматривать как процесс без последействия, то это означало бы, что мы при этом не принимаем в расчёт инерцию частицы, которая, само собой разумеется, в этих явлениях играет существенную роль. Введение в понятие состояния помимо координат частицы её скорости в приведённом примере исправило бы положение. Однако существуют случаи, когда такое исправление

никакого облегчения при решении поставленных задач не даёт. В пер- вую очередь здесь следует указать на статистическую механику, в которой указание на положение точки в той или иной ячейке фазового пространства даёт только вероятностное суждение о будущем её состоянии. При этом ознакомление с предыдущими положениями точки существенно меняет наши суждения относительно её будущего. В связи с этим А. Я. Хинчин выделил важный класс случайных процессов с последействием, так называемые стационарные процессы, однородно ведущие себя во времени.

Стохастический процесс Е (/) называется стационарным, если распределения вероятностей для двух конечных групп переменных НА)» ^йк • • •> №) и Ц^1 + «)> Ц^ + «)Ц^+«) совпадают

и, значит, не зависят от и. Числа п и и, а также моменты времени / ^2> • * • ^и МОГУТ быть при этом выбраны совершенно произвольно.

К стационарным процессам приводит, например, изучение ряда акустических явлений, в том числе встречающихся в радиотехнике (случайные шумы), а также разыскание скрытых периодичностей, интересующее астрономов; геофизиков и метеорологов.

Часто в установившемся технологическом процессе легко подметить явления, протекающие по схеме стационарных процессов. Для примера рассмотрим процесс прядения. Значительная неоднородность свойств прядильных материалов (длина волокон, их крепость, величина поперечного сечения и пр.),' колебания в скорости и равномерности подачи продукта на машинах в различные этапы процесса прядения и многие другие причины приводят к тому, что свойства пряжи меняются от одного сечения к другому. При этом оказывается, что знание того или иного свойства пряжи в какой-либо одной части мотка не даёт нам полного знания её свойств в другой его части. Но поскольку процесс прядения можно считать установившимся, постольку вероятностные характеристики качества пряжи представляют собой стационарный процесс.

Понятно, что любая числовая характеристика стационарного процесса £(/) не зависит от момента t и, например, если Е(0 имеет конечную дисперсию, то, очевидно, имеют место следующие равенства:

ME(/+zz) = ME(O = ME(O) = a, D5(/+«) = DHO = D5(O) = A . м{е^+«)ц/)} = м{б(«)цо)}.

Это обстоятельство позволяет без ограничения общности дальнейших Результатов считать а = О и а = 1 (для этого, очевидно, достаточно вместо Е(0 рассматривать отношение—-).

Мы ограничимся здесь только изучением важнейшей числовой Характеристики Е(0—её корреляционной функции, т. е. коэффи-

циента корреляции между величинами £(/) и Ц^-{-й)

k 'VD5(/)-D$(/+«)

В силу сделанного предположения о том, что а==0 и о=з1 выражение для /?(«) принимает более простой вид

/?(а) = М{Е(а)Е(О)}.

Мы назовём стационарный процесс непрерывным, если

Нш/?(«)=!.«—>0

В случае непрерывного стационарного процесса R(u) есть непре* рывная функция от и. Действительно,

|/?(йН-Д«) —Я(И)ММ{6(« + Д«)Е(0)}—М{Е(й)^

= |М{Ц0)[5(«+д«)-е(й)]}|.

Но в силу неравенства Коши-Буняковского

I М {Е (0)[Е(« + *«) - * М]}1 < V М Е9 (0) • М [ Е (« + Дм) — Е(^ :

А так как

МЕ9(0) = 1 и

М [Е («Н' М — 5 W12 = 2(1 — R (Да)],.

то окончательно

| Я (« + Д «) — 7? («) | < /2 (1 —Я (Дй))?

Это неравенство доказывает наше утверждение.J

В теореме, которая сейчас будет доказана, стационарность процесса £(^ можно понимать в следующем более широком смысле: процесс Е(/) стационарен в широком смысле, если математическое ожидание и дисперсия £(/) не зависят от £, а коэффициент коррелят, ции между Е(^) и ^^t^ является функцией только |/2— fj.

Теорема X и н ч и н а. Для того чтобы функция R (я) представляла корреляционную функцию некоторого непрерывного стационарного процесса, необходимо и достаточно, чтобы ед можно было представить в виде

R^ == J cos их dF(x\G)

где F^— некоторая функция распределения.

Доказательство. Условие теоремы необходимо. В самом деле, если R(u) есть корреляционная функция непрерывного стационарного процесса, то она непрерывна и ограничена. Докажем, кроме того, что она положительно-определённа. Действительно, каковы бы

«и«ибыли действительные числа uv uv .... ии, комплексные числа

«и

«и

Ч1> I» 'Ч1> I» '..,¥]„ и целое число л, имеет место следующее соотношение:

Ч1> I» '

Ч1> I» '

о<м| Д^w- м {Д Ji^M W1 -

=2 2 Ж«<—<9) w j—i <—i

В силу теоремы Бохнера-Хинчина (§ 38) отсюда следует, что /?(л) может быть представлена в виде

R(u) = J e<«*dF(x),

где F(x)—неубывающая функция с ограниченным изменением. В силу вещественности функции R (и) отсюда получаем:

#(«) = Г cos uxdF (х).

Наконец, приняв во внимание условие непрерывности процесса:

/?(+0) = 1,

находим, что F(+oo)—F(—оо) = 1, т. е. что F^ есть некоторая функция распределения.

Условие достаточно. Нам дано, что R(u) есть функция вида (1). Требуется доказать, что существует стационарный процесс 6 (/), имеющий своей корреляционной функцией функцию R (и). С этой целью для каждого целого п и каждой группы действительных чисел ^, t^ .. tn рассматриваем n-мерный вектор Е^), Е(^), . Е Уп\ распределённый нормально и обладающий свойствами

ME(/J = 1\№ = ... = ME(Q = 0,

DE(^) = DE(/2)=...=D?(U = 1,

при любых I и j коэффициент корреляции между Е(/<) и Е(У равен ^(^ —^), т. е.

Meto ^-R^-tjY

Вид функции R(u) обеспечивает положительную определённость квадратичной формы, стоящей в показателе л-мерного нормального закона. Определённый таким образом но рмальный случайный процесс стационарен и в узком и в широком смысле слова.

Доказанная теорема играет основную роль в теории стационарных процессов и в её физических приложениях. За подробностями отсылки к специальной литературе, для начала к литературе, приведён- н°й в конце книги.

Параллельно с развитием теории стационарных процессов развит валась теория стационарных последовательностей. Последовательность случайных величин

L2> Li, L» ^1> ^2» •••

называется стационарной в широком смысле, если для всех членов последовательности математические ожидания и дисперсии являются постоянными числами, не зависящими от места в последовательности

... = ML2 = ML 1 = ml = ML = ml =... = а,

_. = DL2 = DU = DL = DL = DL= • • • = о2,

а коэффициент корреляции между L и L является функцией только \i-JV

В качестве упражнения мы предлагаем читателю

вывести, используя результаты § 38, общий вид корреляционной функции для стационарной последовательности;

доказать теорему — если для стационарной последовательности lim R (s) = О,

8-» ОО

где R(s)— коэффициент корреляции между L и L+e» то для неё * имеет место закон больших чисел, т. е. при п->оо

каково бы ни было постоянное в > 0.

ГЛАВА 11

ЭЛЕМЕНТЫ СТАТИСТИКИ

Основные задачи математической статистики

Во введении к курсу мы определили теорию вероятностей как математическую науку о закономерностях массовых явлений. Вполне законно поэтому теорию вероятностей рассматривать как часть другой более широкой науки — статистики.

Термин статистика происходит от латинского слова «статус» (status) — состояние. Первоначально, в XVIII веке, когда статистика начала оформляться в научную дисциплину, термин статистика связывался с системой описания фактов, характеризующих состояние государства. При этом даже не предполагалось, что ведению статистики подлежат только явления массового порядка. В настоящее время статистика включает в себя и большее и в то же время более определённое содержание. А именно, можно сказать, что статистика состоит из следующих трёх разделов:

сбор статистических с ведений, т. е. сведений, характеризующих отдельные единицы каких-либо массовых совокупностей;

статистическое исследование полученных данных, заключающееся в выяснении тех закономерностей, которые могут быть установлены на основе данных массового наблюдения;

разработка приёмов статистического наблюдения и анализа статистических данных. Последний раздел, собственно, и составляет содержание математической статистики.

Сбор статистических сведений, касающихся главным образом населения, производился уже давно: имеются сведения, что в 2238 г. до нашей эры в Китае при императоре Яо была произведена перепись населения; производились переписи населения и в древнем Египте, Древнем Иране, Римской империи; известны переписи населения в России в 1245, 1259, 1273, 1287 гг. и более поздние. Нужно, правда, отметить, что эти переписи были чрезвычайно примитивны и в Китае, например, в течение 200 лет население учитывалось путём копировки списков предыдущих переписей. Однако даже такие неполные и несо- ВеРшенные переписи давали возможность намечать важные государственные мероприятия. Практическое значение статистики в наше время

18 Зак. 182$. Б. В. Гнеденко.

велико. Это отчётливо было выражено товарищем Сталиным в словах сказанных им в мае 1924 г. на XIII съезде РКП (б): «.. .никакая стро^ тельная работа, никакая государственная работа, никакая плановая работа немыслимы без правильного учета. А учёт немыслим без ста. тистики. Учёт без статистики ни на шаг не двинется вперёд». (Сочиве, ния, т. VI, стр. 214.)

Большим мастером использования статистических методов бьц В. И. Ленин. Желая иметь дело не с отдельными фактами, с отдельными событиями, а со всей совокупностью фактов, желаа путём анализа массовых явлений вскрыть качественное их своеобразие, В. И. Ленин систематически обращался к статистике. В качестве образца конкретного статистического исследования можно привести работу В. И. Ленина «Развитие капитализма в России». Имеются несколько страниц, к сожалению незаконченной, работы В. И. Ленина «Статистикам социология» («Ленинский сборник», т. XXX, стр. 302), в которой, невидимому, предполагалось развить общие принципы статистического анализа социальных явлений. В. И. Ленин высоко ценил статистику как орудие познания реального мира. Его слова, что социально-экономическая статистика — одно из самых могущественных орудий социального познания, в неменьшей мере относятся и к естествознанию, в к технике, и к другим отраслям знания.-

В настоящей главе мы рассмотрим только некоторые основные задачи математической статистики.

Определение неизвестной функции у распределения

Задача ставится так: в результате п независимых испытаний над случайной величиной $ получены следующие её значения:'

*^1> -^2) • • •» ^п*

Требуется определить, хотя бы и приближённо, неизвестную функ* цию распределения F(x) величины 5..

Определение неизвестных параметров - распределения,

Часто общетеоретические соображения позволяют сделать доста* точно определённые заключения о типе функции распределения интересующей нас случайной величины. Так, например, теорема Ляпунова даёт возможность считать, что в определённых случаях функция распределения должна быть нормальной. При этом определение неизвестной функции распределения сводится к определению по результата* наблюдений только неизвестных значений параметров а и а. У

Общая задача ставится так: случайная величина 5 имеет функш^ распределения определённого вида, зависящую от & параметров, зН^'

чения которых неизвестны. На основании последовательных наблюде- нИй величины $ нужно найти значения этих параметров.

Очевидно, что определение неизвестной вероятности р события А является частным случаем только что сформулированной задачи, так каК мы можем рассматривать случайную величину Е, принимающую значение 1, если событие А появляется, и значение 0, если событие А не появляется. Функция распределения $ зависит от единственного параметра р.

решение только что поставленной задачи будет нами дано лишь для нормального распределения

а

В этом случае вторая задача, очевидно, может быть разбита на 3 частных вопроса:

величина а предполагается известной, требуется оценить неизвестное значение а\

величина а предполагается известной, требуется оценить неизвестное значение а;

оба параметра а и о неизвестны, требуется оценить их значения.

Более точно эти вопросы могут быть поставлены следующим образом: в результате п независимых испытаний величина 5 приняла еле* дующие значения:

•^11 ^Sb • • • > xw

Требуется указать такие функции а=а (xv ..., х^ и а = а (хп ..., х^ (в первой задаче а может быть также функцией а, а во второй задаче о может быть функцией а\ которые было бы рационально принять за приближённые значения оцениваемых величин а и а. Помимо этого нужно также оценить среднюю точность этих приближённых формул.

Иногда предпочтительнее искать не приближённые значения неизвестных параметров а и о в виде функций а и а, а такие функции а» cl" (а' и а") от результатов испытаний и известных величин, чтобы с Достаточной практической надёжностью можно было утверждать, что

а ^^ а ^^ а

И) соответственно, о' <о < У'.

Функции а\ а" (д', о") называются доверительными границами для а (°). Впоследствии мы изложим два подхода к решению этих задач.

18*

Проверка статистических гипотез

Задача, которую мы здесь рассмотрим, ставится так: на основании некоторых соображений можно считать, что функция распределения случайной величины $ есть F(x); спрашивается, совместимы ли наблюдённые значения с гипотезой, что В действительно имеет распределен ние F(xp

В частности, если вид функции распределения не вызывает сомне* ний и в проверке нуждаются только значения некоторых параметров, характеризующих это распределение, то в задаче спрашивается: не. опровергают ли результаты наблюдений ту гипотезу, что параметры распределения имеют предположенные значения? Это —задача про* верки простой гипотезы. Если проверяемая гипотеза состоит в том, что параметры принимают не точно определённые значения, а какие-то из некоторых определённых множеств (например, в случая биномиального распределения, гипотеза р < р^ то гипотеза называется сложной.

Заметим, что перечисленными тремя задачами далеко не исчерпываются основные проблемы математической статистики. Совершенно новые задачи перед математической статистикой ставит промышленная и научная практика. Достаточно, например, сказать, что браковка продукции массовых производств, а также контроль качества выпускаемой продукции требуют не только определения неизвестных параметров или функций распределения, но также и рационального управления самим ходом производственного процесса. Помимо этого, разработка рациональных методов использования наблюдённого материала, а также само планирование испытаний являются одной из основных задач математической статистики.

§ 56. Вариационный ряд и эмпирическая функция распределения

Исходным пунктом статистического исследования какой-либо случайной величины $ является совокупность из п наблюдений, в результате которых величина $ принимает значения

^V *^2> * * *> ^п* (О

Впоследствии мы постоянно будем предполагать испытания взаимно^ независимыми и произведёнными в неизменных условиях. Естественно/ в некоторых задачах эти предположения чрезмерно ограничительны. Нередко возникают задачи, в которых приходится рассматривать испытания в переменных условиях (например, стрельба по движущейся цели) или же связные последовательности испытаний (например, испытание пряжи по образцам определённой длины, взятым с одной катушки или одного мотка). И если для задач в переменных условиях испытаний имеются некоторые общие результаты, то статистика связных испытаний, можно сказать, совершенно не разработана и её

§56)

разработка является одной из насущных задач математической статистики.

Последовательность результатов испытаний мы расположим в возрастающем порядке. Обозначив через х*к k-s по величине наблюдённое значение, мы можем последовательность (1) записать в следующем

виде:

•^l ^ ^ ^ • • • ^ Хпе

Эта последовательность, т. е. последовательность наблюдённых значений исследуемой случайной величины, расположенных в возрастающем порядке, носит название вариационного ряда.

Эмпирической функцией распределения Fn (а;) мы назовём функцию, определённую следующими равенствами:

FnW =FnW =О при х <^ Xi,

FnW =

FnW =

"^ при хк *^ X -^^ Xfc ц. 1,

1 при X > хп.

Ясно, что эмпирическая функция распределения монотонна, непрерывна слева и имеет точки разрыва только при значениях аргумента, равных членам вариационного ряда. Величины скачков в точках разрыва являются целыми кратными от--. Для дальнейшего подчеркнём то обстоятельство, что при каждом значении х ордината fn(x) является случайной величиной, возможные значения которой будут О, i, * ’ • ’ ^V" ' л = 1‘ ^еР0ЯТН0СТЬ равенства Fn (х) = ~, как легко видеть, равна

р{^(х)«4}«^{Р(х)}*{1-Г(л)Г *.

В простейшем частном случае, когда случайная величина $ может принимать лишь конечное число значений ап а^ ..., а8 членами вариационного ряда обязательно будут только числа этой последовательности. Согласно закону больших чисел, если mv т^ ,. .., т8 0^1 -\~т^-\- ... -^- т8 = п) будут обозначать соответственно числа испытаний, при которых ^ = av 5 = а^ ,..., ^ = ая. то при достаточно большом значении п частоты будут представлять приближённые значения неизвестных нам вероятностей р1 = Р{$ = а1}, р^ = Р |5 = а9}, ... ••., р8=р{5 = а8|. Более того, в нашем случае имеет место и усиленный закон больших чисел. В последующем параграфе мы докажем общую теорему о сближении эмпирической функции распределение V Теоретической при увеличении числа испцтани^.

Заметим, что обычно используемые в статистике сводные числовые характеристики вариационного ряда — среднее арифметическое результатов наблюдений

Х= Х1 + Х2 + ••• +^п

П’

среднее квадратическое уклонение

s-V

к=1

и др. — являются некоторыми функционалами, зависящими от эмпирической функции распределения. Так, например,

х = xdFn(x),s^^x—xpdF^x).

Теорема Гливенко

Прежде чем переходить к формулировке и доказательству теоремы, составляющей содержание настоящего параграфа, мы установим несколько вспомогательных предложений.

Рассмотрим некоторую последовательность случайных величин

Событие, заключающееся в том, что эта последовательность сходится к некоторой случайной величине 5, имеет в силу принятых нами аксиом, как мы увидим при доказательстве леммы 1, определённую вероятность.

Если эта вероятность равна единице, то мы скажем, что последовательность {Еп| сходится к Е почти наверное*).

В другой форме утверждение о сходимости почти наверное можно выразить так: последовательность случайных величин

^1> ^2 > •• • > £»>•••

сходится почти наверное к случайной величине Е, если с вероятностью единица для каждого целого положительного числа г найдётся такое число п, что при всех & > О будут иметь место неравенства

е[<т-

Очевидно, что равенство

Р{Е„-*Е}=1(1)

*) Это понятие в точности соответствует понятию сходимости ПОЧТИ Всюду в теории функций,

J

мы можем записать и в иной форме:

,p^t^i-o.(Г)

Это выражение означает, что вероятность того, что найдётся такое число г, что при всех п и хотя бы при одном значении к имеет место неравенство

|6я-Н— 5|>у,•

•е

равна нулю. Лемма 1. Если при любом целом положительном г

I2р{|^-и>|}<+оо,(2)

П=1

то имеет место (1) или, что то же самое, (I'). Доказательство. Обозначим через Е^ событие, состоящее в том, что выполняется неравенство

‘Un-4>7.■

1 Положим, далее, Sn = 2 En-Vk. к=1

I Из того, что

СОСО

*Р{5,:х s Р{£^+й}= 2 р{|5г-51>Д,

&=11=п-Ц I' )

мы в силу (2) выводим равенство

.lim Р {^} = О.(3)

(П—>со

Пусть теперь i'СГ ег о** сг '

Iо = О1 02 Оз • • •

Из того, что событие Sy влечёт за собой любое из событий SL :в силу (3) получаем:

|P(S1=0.(4)

!Положим, наконец,'

Как нетрудно установить, это событие означает, что найдётся такое г, * что для каждого п (п = 1, 2, 3,... ) хотя бы при одном к [ к = к (л)) будут выполняться неравенства

Так как

Р(5)<5Р{^},

Т=1

то в силу (4)

P{S} = 0, ч. и тр. д.

Лемма 2 (теорема Бореля). Пусть р. — число наступлений события Л при п независимых испытаниях, в каждом из которых событие Л может появиться с вероятностью р. Тогда при п-> со

Заметим, что теорема Бореля является простейшим частным случаем теоремы А. Н. Колмогорова об усиленном законе больших чисел; здесь же дана только иная формулировка этого частного случая, отличная от общей формулировки теоремы § 32.

Доказательство. События -~—р -» 0 и ^— Р^^ 0, очевидно, эквивалентны. Введём, как это мы уже неоднократно делали, вспомогательные величины р,, равные числу появлений события Л при Z-м испытании. Находим, что

п п п п

м(т—рУ=^5 5 2р^-ри^—р)-

t=l j=l k=l 1=1

Элементарный подсчёт показывает, что

мр)4 = ^ [я (р8 + ^8) + ^pq (п? — я)] < ^.

Согласно лемме Чебышева

Р{Ь-^>у}<гМ(т-Р)<4^-

Отсюда мы заключаем о сходимости ряда

П = 1

Применение предыдущей леммы доказывает наше утверждение.

Лемма 3. Если событие Е эквивалентно совместному осуществлению бесконечного числа событий Ev Е^ ...

Е = ЕхЕй ...

и каждое последующее событие En^i влечет за собой предыдущее Е^ то

Р{£} = Нт Р{£п}.

^*t°9

Доказательство. Действительно, событие Ег можно двумя следующими способами представить в виде суммы несовместимых событий:

^i = Е^^ -J- Е^Е^ -f- • • • 4” Еп —1ЕН -|- Еп и

Ех = Ej^ + ^2^в + • • • + Еп_гЕп + ЕиЁп4г1 + е.. + Е. Отсюда

Р (EJ = р {ЕД} + Р {ЕД} + ... + Р {£„_ Д} + Р {5»)

р {^1} = Р {ВД} + р {еД} +... + Р {е^Д} + р {еД+1} 4,+ ... + р{Е}.

Сравнение последних двух равенств приводит нас к соотношению

Р{Е}=Р{Е„}- 2 Р{еД+1).к=П

Так как вычитаемое в правой части есть остаток сходящегося ряда, то *

Р{Е} = ИтР {Еп}.

П ->оо

Лемма 4. Если каждое из событий конечной или бесконечной последовательности Ev Е^ ... , Еп, ... имеет вероятность, равную единице, то вероятность их совместного осуществления также равна единице..

Доказательство. Рассмотрим, сначала два события Et и Е2, для которых

P{EJ = P{E2) = 1. Так как

Р Д + Е2) = Р {EJ + Р {Е2} - Р {ЕД}

и Р{Е14-Е2} = 1, то

Pt^Eal^l.

Отсюда заключаем по индукции, что для любых п событий, для которых

Р{Е1} = Р(Е2} = ...=Р{Ея) = 1, выполняется также равенство

Р{Е1Е2...Ем} = 1.

Пусть теперь имеется бесконечная последовательность событий Ev E<iЕп, ... , для которых

Р{Е?} = Р{Е2} = .,.=Р{Е„} = ..,-^

Так как очевидно, что .

^1^2^3 • • • — ^1 (^1^з) (^1^2^з) • • •

и каждый последующий множитель в правой части равенства влечёт за собой предыдущий, то согласно предыдущей лемме

Р^ад... } = lim Р{ВД,..ЕП}.

П-> ОО

Это равенство доказывает лемму.

Теорема В. И. Гливенко. Пусть F (л:) — функция распределения случайной величины 6 и Fn(x)— эмпирическая функция распределения результатов п независимых наблюдений над величиной 5. Тогда при п->оо

Р{ sup |F„(x)-F(x)H0} = l. — оо <ж<оо

Доказательство. Обозначим через ху, ^ наименьшее х^ удовлетворяющее неравенствам

F(x —0) = F(x)<^<F(x-T0)(6 = 1,2, .... г).

Пусть А означает событие, состоящее в том, что 5 < хУ1 к» Ясно, что

Р{Л}«»^(хг,*)..

Так как частота появления события Л равна Fn (xr, й), то по теореме Бореля (лемма 2)

Р^г.О .- F(xr, *)} = !.(5)

п-^оо

Пусть теперь £^ есть событие, состоящее в том, что при и -* оо

Fn^r.^-*F<Xr.id (А = 1, 2, ... , г) и

е=ё^ ... е>

Ясно, что событие Ег равносильно тому, что при я -* со

■ max |F„ (xr, ^ — F (хг, й) | -* 0. 1<6<Г

Так как согласно (5)

Р \ЕХ\ = Р {М} = • •. =Р {^} = 1,

то в силу леммы 4•

Р {£*) = 1.

Пусть далее

E^EtE^E ...

Согласно лемме 4

Р|£) = 1.

Обозначим, наконец, через 5 событие, состоящее в том, что при п-> со SUP l^»^) — f(x)|-»0.

—оо <®< ОО

Для любого х, заключённого между хг,^ и xr, ^^i, выполняются неравенства

Fn (х,.» + 0) < Fn (х) < Fu (хг, й +1)

И

F кхг,*+0) < F (х) < F(xr, й + 1), причём

О -^ F (хг, й 4-1) — F (хг> й -{- 0) -^ —.

Отсюда мы заключаем, что

F^,u-V^-F^.k^xX, Fn (х) — F(x) <

•^ ^n ^r, A + 1)F (xr, Й 4" ®)> т. e. что

I Fn (x) — F (x) К max | ^„(^.й) —f(xr>6) |+^"и что, следовательно,sup l^»(■*) —^WK max |F„(xr,ft)—f(x,.fc)| + 7-—oo<®<ool<A<rr

Поскольку т произвольно, то из последнего неравенства вытекает, что £сЗ. Этим, очевидно, доказано, что

Р{ sup |Fn(x)~F(x)|->0)«l.

—ОО <®< со

Теорема Колмогорова

Мы перейдём теперь к формулировке и доказательству другой основной теоремы математической статистики, найденной А. Н. Колмогоровым в 1933 г.

Подобно тому как в теоремах о законе больших чисел не даётся точных оценок вероятностей возможных уклонений средних арифметических случайных величин от их математических ожиданий, так и теорема Гливенко устанавливает важный факт сближения эмпирических функций распределения с той, которой подчинена наблюдаемая случайная величина, но не устанавливает, с какими вероятностями могут возникать те или иные уклонения. Возникает задача определения функции распределения величины

Dn= sup |Fw(x) — F (x)|.

Цель настоящего параграфа состоит в доказательстве следующего

предложения.

Теорема А. Н. Колмогорова. Если функция F(х) непре

рывна, то при п—> со

Р{/^О„<2)->К(г) =

Оlt =СООlt =СОпри £<0, при г > 0.при £<0, при г > 0.Доказательство.) Пусть, как и прежде, величины х*, Х2, ... ...,Хп означают результаты п независимых испытаний над случайной величиной t расположенные в порядке возрастания их величины

О

lt =СО

О

lt =СО

при £<0, при г > 0.

при £<0, при г > 0.

Х\ ~^ Ха <^ .. • -^ хп.

Обозначим через zk наименьший корень уравнения

^-4

(вообще говоря, существует единственный корень ^, но если в целом сегменте F (х) = —, то любая точка этого сегмента может считаться корнем z^. Пусть далее с — некоторое целое положительное число (О < с < п). Определим сначала вероятность неравенства

Dn>~.

Это событие, очевидно, эквивалентно тому, что найдётся х, при котором будет выполнено либо неравенство

F^-F^>L,(1)

либо неравенство

FnW-F^<-L.(1')

Если при некотором х выполняется неравенство (1), как не-трудно видеть, при некотором t должно выполняться равенство^(0-^(0 = ^.

Но по определению

где г — некоторое целое положительное число. Таким образом, если при некотором х имеет место неравенство (1), то для соответствующей величины t имеет место равенство

F ^=г—£,v 9 п

Точно так же, если имеет место (Г), то для соответствующего /

v 7 п

Таким образом, каждое / обязательно должно быть одним из чисел z^ Так, в случае (1) k = r— с, а в случае (1') & = /•-{-с. Иными ело-» вами, в случае выполнения неравенства (1) левее точки zK попадает k-\-c наблюдённых значений величины 6, т. е.

•^А+с < ^Л> ^ X^^.0_|.i > 2^(2)

Точно так же в случае выполнения неравенства (1')

Хк— с < 2?к» В Хк—с 4*1 > ^*(2х)

Событие, состоящее в выполнении неравенств (2), обозначим символом Ак^с), а событие, состоящее в выполнении неравенств (2х) — символом Ак(—с). Очевидно, что неравенство Dn^ ^ выполняется тогда и только тогда, когда наступает по меньшей мере одно из событий

^(с), Л^-с), Л2(с), Л2(—с), ... , Л„(с), Ля(—с).

События Л^ + с) и АД+с), вообще говоря, совместимы, поэтому для Dn > — } нельзя непосредственно вое- пользоваться теоремой сложения вероятностей. Нам придётся итти обходным путём и построить новые последовательности событий уже несовместимых. Положим*)

Uy = Xj (с) Ai (~ c) . • • Ay_ j (c) Ay. J (— c) AT (c) и

Vr == Av (с) Л1 ( c) . • • Ау„г (с)Аг-! (— c) Ay (i) Ay ( c\

Так как пп

Р{°»>;Н = Р{2Х^+Л*(-С)} = Р{2^+М’&=1fc=l

и построенные события Ur и V, несовместимы, то п

р{^>^}=21Р{^)+Р{^п-(3)

к=1

Для вычисления вероятностей Р{6У и P{V*} воспользуемся следующими очевидными равенствами:

к

р И* (с)} == 2 {Р {t/J р ^Ak(c)jAr (с)}4-Р {УЛ Р\А^[АД-сЛ\ (4)

Г=1

И к

р И» (- с)} = 2 {р {W р {А(- с^АДсЛ 4- г=1

+ P{Vr}P{Ak(-c)/Ar(-c)]}.

Для вычисления 2я неизвестных Р{Ц.} и Р{KJ (/=1, 2, ... , и) мы имеем, таким образом, 2п уравнений. Коэффициенты этих уравнений легко могут быть вычислены. В самом деле, Р{Л&(с)} равно вероятности того, что при п независимых испытаниях к + с раз случайная величина примет значение, меньшее ^, и п— (^ + ^) раз — значение, большее zk. Но вероятность случайной величине при- к

нять значение, меньшее zb равна — , поэтому

Р{л»(0} = с^с(1) (1-А)

Точно так же

Р{Л»(—с)} = С^— (^(1-^)

Вероятность события ^(с), когда известно, что событие Лг(с) осуществилось, есть не что иное, как вероятность попадания к — г наблюдённых значений в интервал (гг, z^ и ^п — к — с) значений— правее zk (по условию г+с значений оказались левее zr\ Таким образом,

Р{лнс)МДС)} = с^е(^) (1-7=^)

Подобным же путём легко найти, что

РИД- О! Аг (с)} = ctL^ (Е-Л(1 _ £—£-)

PW-W- с)|=с;=;+.(^)‘-'(1 -^)”"‘+".

Введём обозначение

ь^ + е

PAc^e-Tt (А + с)!.(5)

Легко видеть, что

р |Л» w/лд»» =i-^L^<2,

р ^аасЖ (-С)} = ^t^^Zf),

Pn-r\c>

Р {Дд (- с>г (с)} =,

Р\Ак (- cW-^ =

Введём, наконец, обозначения

«г = Р(^)л^&, »г=’?^^^.(6)

Рп-ГХРп—Г\С)

После несложных преобразований находим, что уравнения (4) принимают следующий вид:

Рк (с) = 2 \“гРк-г (°) + ^гРк-т (2с)},

ГТ(7)

Г=*1Г=*1Рк (— С) = 5 ^UrPk-r (— 2с) + ”Л-г (°)}-

Г=*1

Г=*1

Важно заметить, что величины р^^ определены для всех к и уравнения (7) определяют иу и <оу при всех г > 0 (а не только при г^п). Мы не станем решать уравнения (7) непосредственно, а перейдём к преобразованиям Лапласа. Рассмотрим при Х>0 функции

и(Х) = ^uKe~xlt,

А = 1

v(k)=2v^

/>(Х> ^^-^^Рк^е-».

* Пк=1

Уравнения (7), как легко проверить, в терминах преобразований Лапласа принимают следующий вид:

р(Х, с) = и(Х)р()ч 0) + у(Х)р(Х, 2с),р(Х, — с^-и^рО^ — 2с) + ^(Х)р(Х, 0).

Перейдём теперь к пределу, положив п -* оо. Пусть с = гУп, ^>0 произвольно и к таково, что при /г->оо

При этом, воспользовавшись формулой Стирлинга, находим, что

VnPk^ =VnPk^ =

VnPk^ =

VnPk^ =

kk+eV- ‘-‘ ^-V2; <«+;><»+„-« о+- «i -kk+eV- ‘-‘ ^-V2; <«+;><»+„-« о+- «i -

kk+e

V- ‘-‘ ^-V2; <«+;><»+„-« о+- «i -

kk+e

V- ‘-‘ ^-V2; <«+;><»+„-« о+- «i -

с — А181

8cU-Vt) (1+о(1))=-^=^[Ц-о(1)1, X R/У

к с .

Так как —!г и п

'8«=^ + т') ’ ‘=«-(« + »)lg(l+-|) =

-c-(«+4'[|-^ + o(g] =

—н+°(5+а—к+’о

В силу прямой предельной теоремы для преобразований Лапласа (см. Дополнение 2) отсюда заключаем, что при л -► со

то из (7) следует, что

/1\/Х\р(т» г^п\„-вУах

lim и(—)= lim vf—) = Нт ; --;— — •

п->со х”/ n->co \”/^Л^оА^^Л^Уя^ 14-е—&^2К

(9)

Для наших целей нам нужны не сами величины Р {t7&} и P{Vfc}, яп

а суммы 2Р{^} и 2P{^L Поэтому мы рассмотрим следующие

А—1к=1

выражения: як

ак = Рта (°) ^ Рк~г (~ ^ “г И Ьк= PnW 2 Рк~г ^ '°г*

JJt. dt^ ут*t. dt^ ут*Положив в этом интеграле и = -^-7Положив в этом интеграле и = -^-7находим, чтонаходим, что19 Зак. 1826. Б. В. Гнеденко.19 Зак. 1826. Б. В. Гнеденко.Г=1Г=1

J

J

t. dt

^ ут*

t. dt

^ ут*

Положив в этом интеграле и = -^-7

Положив в этом интеграле и = -^-7

находим, что

находим, что

19 Зак. 1826. Б. В. Гнеденко.

19 Зак. 1826. Б. В. Гнеденко.

Величины а* и Ь^ снова определены для всех ft (даже при k>n)# Кстати заметим, что

—Sp<W и 4.-2PW.г—1г=1

и, таким образом,

Р^°п>^ = «* + 6»-(Ю)

Рассмотрим теперь функции (преобразования Лапласа)

k=l

И

(п-*оо\(п-*оо\Приняв во внимание соотношение /2itrap„(0)-»l

(п-*оо\

(п-*оо\

а также соотношения (8), (8'), (9), находим, что

?(») = »т ^а® =?(») = »т ^а® =Нт —6 П^ооПНт —6 П^ооП

?(») = »т ^а® =

?(») = »т ^а® =

Нт —6 П^ооП

Нт —6 П^ооП

JL *!1^_ = T<— V ( nfc—12 кг У Гsl+5-2^ L %^/

Формула (8) показывает, что функция ф($) является преобразованием Лапласа функции

002W

/(O-^t-!)6-1*” * .-К.

ft—1'

При некоторых ограничениях, выполненных в рассматриваемом нами случае, имеет место следующее предложение: пусть /(/)—неотрицательная функция и <р($) — её преобразование Лапласа

со

о

Пусть, далее, {яй}— последовательность неотрицательных чисел и

и^ = ^ике-^.к»1

Тогда, если при 8-» О

6« ($8) -> у (s)

и £8->4 то при каждом />0

Соответствующая теорема со всеми требуемыми ограничениями будет доказана в Дополнении 2.

Воспользуемся этим предложением. В нашем случае 8 = i, поэтому должно быть

lim ап = Пт Ьп = /(ДУ

П-^СОП->ОО

Таким образом,

Ит(ап+»п) = 22(-1)й-16-2^3=1 — 2 (-1)^-2*Ч

П-^-СОк = 1к =—ОО

Приняв во внимание равенства (10), находим окончательно:

lim Р {VnD„ < z} = 5 (— I)*/?-3*2*3 = К (г). П->сок=—-со

§ 59. Критерий согласия Колмогорова

Теорема, доказанная в предыдущем параграфе, может быть использована для решения следующей важной задачи статистики: имеются результаты п независимых наблюдений над случайной величиной 6. Спрашивается, согласуются ли результаты наблюдений с гипотезой, что эта случайная величина имеет определённое распределение вероятностей F(x)?

Предположим распределение F(x) непрерывным. В этом предположении теорема Колмогорова приводит к следующему естественному критерию согласия. Пусть в результате п наблюдений случайная величина I получила значения

Обозначим, как и раньше, эмпирическую функцию распределениячерез Fn (х). Пусть D^ означает фактически найденное максималь-ное значение разности |Fw(x)— F(x)| и \0 = VnD(n« Если разность1-к(Хо) = р{/йам>хо}

мала, то осуществилось маловероятное событие и расхождение между F^x) и F(x) нужно считать существенным, уже не объяснимым случайностью наблюдённых значений. Если же разность 1 — К (Xq) велика, то расхождение между fn(x) и F (х) следует считать несущественным и нашу гипотезу можно признать согласованной с экспериментом.

В качестве иллюстративного примера рассмотрим уклонение диаметра детали одного прибора от заданных размеоов (67,8 мм). В силу 19*

F<x) =F<x) =— ОО— ОО.к^О,.к^О,условий обработки (отбрасываются детали с диаметром, большим 67,8 мм) можно хцр^дполагать, что наблюдаемые уклонения размеров диаметра от заданного размера подчинены следующему закону распределения:

F<x) =

F<x) =

— ОО

— ОО

.к^О,

.к^О,

при х > 0.

В таблице 13 приведены результаты измерений девяти наудачу взятых деталей. Спрашивается, можно ли считать наблюдённое расхождение между Г(х) и Fn(x) несущественным? Все необходимые расчёты проведены в таблице.

Таблица 13

х&-67,8

F^

^n(-Vfc) F^x^)

/7n(^ + 0)-F(xs + 0)

—1,8

0,00

0,07

0,0.7

0,04

—1,5

0,11

0,14

0,03

0,08

—1,2

0,22

0,23

0,01

0,10

—1,0

0,33

0,32

0,01

0,12

—0,7

0,44

0,48

0,04

0,07

—0,6

0,55

0,55

0,00

0,12

-04

0,67

0,69

0,02

0,09

—0,3

0,78

0,77

0,01

0,12

-0,2

0,89

0,86

0.03

0Д4

Из таблицы видно, что D») = 0,14 и, следовательно, Хо = = 30^ = 0,42. По таблице функции К(Х) находим, что К (0,42) = = 0,0055. В соответствии с общим принципом, сформулированным в настоящем параграфе, мы должны признать расхождение между эмпирической и теоретической кривыми распределения несущественным. К сказанному мы должны сделать такое замечание: число наблюдений п = 9 невелико, и мы не имели права без дополнительных исследований пользоваться предельным распределением, а должны были найти точное распределение величины V^D^. Таким образом, возникает задача определения точных распределений вероятностей величины VnDn для малых значений п, однако мы не будем на ней останавливаться.

§ 60. Классический метод определения параметровраспределения

Классический метод определения неизвестных параметров функции распределения случайной величины 6 состоит в том, что до наблюдения эти подлежащие оценке величины считаются случайными величинами, подчинёнными некоторому «априорному» (доопытному)

закону распределения вероятностей. Предполагая этот априорный закон распределения известным, можно вычислить, пользуясь теоремой Бейеса, «апостериорный» (послеопытный) закон распределения параметров при условии, что результаты наблюдений над $ оказались равными xv х2, ..., xw

Как мы уже говорили раньше, всё последующее изложение будет относиться к определению неизвестных параметров а и о нормального закона распределения

1(я—аР

которому подчинена наблюдаемая случайная величина 5.

Плотность распределения вероятностей того, что в результате п независимых наблюдений над величиной 5 будут получены значения хх, х^ ..., хп при условии, что неизвестные параметры имеют значения а и о, равна

Kxv, хй, xja, а) = ^^^ в , где

S2= 2 (я6—а)8.

Если ввести обозначения

п

k = 1

то простой подсчёт показывает, что

Гкхъ хп/а, а) —.(1)

Напомним, что в § 55 были поставлены следующие три задачи: 1) о известно, требуется определить а;

а известно, требуется определить о;

а и о неизвестны, требуется их определить.

Если предположить, что а известно и <?! (а) означает априорную плотность распределения величины а, то. для условной плотности распределения вероятностей величины а при заданном а и найденных значениях хп х2, .. ., хп получим такое выражение:

»,х„;=

/to, х2,..., хп]а, а) У! (а) йа

После подстановки вместо функции / еб значения по формуле (1) и последующих очевидных сокращений находим, что

п (а—осу

Т1 х8, ..хп; а).(2)

Je.^a^da

Во второй и третьей задачах соответствующие формулы будут:

Ы’Мр *2. •••> *»; °) =Ы’Мр *2. •••> *»; °) =А*1> х2Хп/д, а)у2(а)J/(хъ х» ..., Хп/д. с) <р2(а) daА*1> х2Хп/д, а)у2(а)J/(хъ х» ..., Хп/д. с) <р2(а) da

Ы’Мр *2. •••> *»; °) =

Ы’Мр *2. •••> *»; °) =

А*1> х2Хп/д, а)у2(а)

J/(хъ х» ..., Хп/д. с) <р2(а) da

А*1> х2Хп/д, а)у2(а)

J/(хъ х» ..., Хп/д. с) <р2(а) da

т (п п1у V „ X _ „„KXbJC^Mj*^^^

J J / (хь х2,..., xw)aw а) фз (а, а) da da

где функции ср2 (а) и <р3 (а, а) обозначают априорные плотности распределения вероятностей величины о и пары (а, а).

После подстановки в эти формулы значения / по формуле (1) и последующих простых сокращений находим, что

722®^/ \

<?»№> х8, ..., х„; а) = -fZ-f-^^L-(3)

.^ о-пе ^^^da

И

ф8(«>0/*1, *2, •••> *п) =ф8(«>0/*1, *2, •••> *п) =(4)(4)—Д (si+ta—5)9)Уз (а.»)Дг -=(4 + (a-S)2)J J а-пеtp3 (д, a) da da

ф8(«>0/*1, *2, •••> *п) =

ф8(«>0/*1, *2, •••> *п) =

(4)

(4)

и

Полученные формулы непригодны для практического использования не только в силу их сложности, но главным образом потому, что входящие в них априорные вероятности, как правило, нам бывают неизвестны. Часто, не зная априорных плотностей, делают о них более или менее произвольные допущения и на их основе получают обозримые для практического применения формулы. Мы пойдём по иному пути: сделаем совершенно общие допущения о характере априорных распределений и из этих допущений выведем предельные закономерности (при п —> оо) для апостериорных вероятностей.

Теорема 1. Если априорная плотность распределения ср1 (а) имеет ограниченную первую производную и

^(х^фй.

то равномерно, относительно а

^[х^х^х^а^-^е "' [^^^О Н«1)]> (5)

еде

а=^а—х\(6)

а ^(«/.Кр х^ ...; хп а) обозначает апостериорную плотность распределения величины а.

Доказательство. Действительно, из (6) находим, что

° = *+^=(7)

и, значит *),

По формуле конечных приращений

где 2 = хЛ-й-^= и О<0<1.

‘ V п

По условию теоремы

l?i(^)Kc< + oo, поэтому

в Ч?! W+^'h («)|

^xv х* ..х^ а) -^ [vit-) + rwJ

ае 2ф] (г) dot.

Легко сообразить, что

Несложные преобразования приводят нас к равенству

Полученное равенство вместе с (8) доказывает теорему» Теорема 2. В условиях предыдущей теоремы

(5')(5')М (й/хп х2, ..., х„; а) = х -|- О (^,

(5')

(5')

М Цй — х^[хи х* ..., х„; а] = ^ [1 + О(^

” L \у п.

Доказательство. Действительно, из (7) находим, что

М(й/Я) = х + ^=Л1(а/В)

и

—

М [(й — х№\ "М (a2/S),

где В означает некоторое событие. Следовательно,

М (й/Хр Хд, • • . ,М (й/Хр Хд, • • . ,х»; °)=-Нх»; °)=-Н/л/л«Ф1 («/*!•«Ф1 («/*!•х#; a) daх#; a) da

М (й/Хр Хд, • • . ,

М (й/Хр Хд, • • . ,

х»; °)=-Н

х»; °)=-Н

/л

/л

«Ф1 («/*!•

«Ф1 («/*!•

х#; a) da

х#; a) da

и

М [(й —х^Ху х2> ..., х„; а] = ^ f а2^ (а/х„ .... х„; а) da.

Подстановка в эти равенства вместо функции ^ её значения по (5) и последующие несложные подсчёты доказывают теорему.

Доказанная теорема позволяет написать следующее приближённое равенство:

а~х> q2 средняя квадратическая ошибка которого приближённо равна —.

Теорема 1 позволяет получить вероятность того, что а заключается в определённых границах при условии, что величины о, х1э х2, ..., хп приняли определённые значения. Действительно,

р{|й — х| <^=/хр ..., xn; al = p{|a|<z/xn .... х„; о}

a t8a t8и, следовательно, в силу (5)

a t8

a t8

Пренебрегая величиной О(—^=-) (что можно сделать, вообще говоря, х у п /

только тогда, когда или а мало или п достаточно велико), мы можем считать, что

Теорема 3. Если априорная плотность распределения <р2 (а) имеет ограниченную первую производную и <р2 (5)^:0, Тто равномерно относительно z

х2, ...» х„;а) = ч^6-Н1+О('-^)(1+|г|)1, ул L хуп / J

где ф2— апостериорная плотность распределения величины

Доказательство. Действительно, из (9) находим, что

и что

%№, *9. •••> *»? o) = -^=-4>2(s(1+-T7=)№.*2« •••>хп,а\ =

V п \ \ у п /1/

пп-У5Г-У5Г

п

п

-У5Г

-У5Г

^ По формуле конечных приращений

'’«Н^-т-Й+^’рИ")'

где и=7+0-^=, а0<9<1.у п

Согласно условию теоремы

|?2(“)КС< +°°»

поэтомупоэтому(10)(10)

поэтому

поэтому

(10)

(10)

следовательно,

(12)(12)3==у^^2 2 /Га + е з + 2 [1 + о(1)] =

(12)

(12)

= ут(1—|) е"^2 [14-0(1)1 = V«e а [14-0(1)1.

Равенства (10), (11) и (12) доказывают теорему.

Из теоремы 3, очевидно, следует такой результат:

Теорема 4. В условиях теоремы 3 имеют место следующие соотношения*.

М^/х,, х8, ..., х„; а) = Г+о(-у и

М[(а — ^хг, хй,..м хп; а] =^[1 + о(-^У|.

Эта теорема позволяет нам заключить, что при больших п имеет место приближённое равенство

ТгЦ^”^2*

средняя квадратическая ошибка которого приближённо равна -^*

Теорема 3 может быть использована также для определения вероятности того, что а будет находиться в заданных границах. Так, пренебрегая величинами порядка ■ ™-, мы можем утверждать, у п

что при заданных xlt х^ •.., хп и а с вероятностью

У” 5 находится в границах

\V п)\V J

В отношении третьей поставленной нг.ми задачи мы ограничимся только формулировкой результатов, так как их получение ничем не отличается от доказательства теоремы 3. Введём обозначения

а-— ха —Sj

0С| ь—1 __ у П^ р^ —— ■' ^ 1 1 у П^ $1S1 где F^sy

Теорема 5. Если априорная плотность распределения ?3(я, о) имеет ограниченные первые производные по а и а и <р3 (х, s4) ф 0, то равномерно относительно Л^ и ^

<№, Pi/*i, *а» •••, *») =

=7Йг'"~'!(1+0Ш|1+|’-|+|М.

где ф8 означает апостериорную плотность распределения пары («1> Р1).

Из теоремы 5 вытекает такой результат.

Теорема 6. В условиях теоремы 5

M(a/xlf х3xJ = x + O^),

M[(a —х)2^,• М[о/х„М [(a —s^/x^M[(a —х)2^,• М[о/х„М [(a —s^/x^

M[(a —х)2^,

• М[о/х„

М [(a —s^/x^

M[(a —х)2^,

• М[о/х„

М [(a —s^/x^

Как и теоремы 1 и 3, теорема 5 может быть использована для определения вероятностей того, что а и о будут находиться в заданных границах при условии, что наблюдённые значения оказались равными хъ х2, ..., хп.

Практическое значение теорем 1, 3, 5 неодинаково. По теореме 1 точность приближённых формул (б) и (5х) увеличивается не только с увеличением л, но и с уменьшением с. Поэтому для определения а при известном а имеется основание пользоваться формулами (5) и (5') даже при малых п, если только мало <з. В случае же теорем 3 и 5 остаточные члены полученных формул убывают только с возрастанием п, и поэтому при малых значениях п они не дают ничего.

Только что доказанные теоремы являются в некотором смысле обращениями следующих элементарных предложений. Если случайная величина 6 нормально распределена, параметры а и а известны, хх> х2, • • • > хп являются результатами независимых наблюдений Е, то

L Плотность распределения величины

a = J^.(x —а) равна

М (х/а, о) = а и D(x/a, d) = ^*

Плотность распределения величины

1^2/11^2/1

1^2/1

1^2/1

асимптотически равна

M(sk O) = J1 + O(1)}; D(s/a, 0) = ^-Г1+ о(1)1

Величины аир независимы, и плотность распределения величины (а, Р) асимптотически равна

У1а» <i)= .^е8 .

МХх|а$ о) = а; D(x|a, а) = -^-;

М($|д> °)~°; D(s|d, °)^2^«

Предложения 1 и 2 не требуют доказательства.

Докажем 3. В § 22 мы нашли, что плотность распределения вели

чины s равначины s равна

чины s равна

чины s равна

Легко проверить, что плотность распределения р есть

Ф2(^М» °) =Ф2(^М» °) =

Ф2(^М» °) =

Ф2(^М» °) =

Несложные преобразования приводят нас к равенству

Ых/а>°) =Ых/а>°) =

Ых/а>°) =

Ых/а>°) =

Для доказательства 4 заметим, что элементарные подсчёты приводят нас к равенствам

/ТГ(т) ---2Г(5 + 1)

Ms= у ^\„\»~е ^=; Ms^^-^T-Y^o^oa

Отсюда

М7«а(1-^)

И

Ds = ^(l — ^)-\ оЛ/

Независимость х и s будет нами доказана позднее. После того, как это будет сделано, остальные утверждения, содержащиеся в 5 и 6, становятся очевидными.

§ 61. Исчерпывающие статистики

Английским статистиком Фишером было введено весьма важное понятие, которое мы поясним сначала на частном примере. Предположим, что нами решается задача определения параметра а при известном а по л наблюдениям над нормально распределённой случайной

величиной. Если априорная плотность распределения параметра а существует и равна ^(я), то полученная нами в предыдущем параграфе формула (2) показывает, что условная плотность распределения ^1(а(хъ х^ ..., хп* а) полностью определяется знанием ^(а), а и средним арифметическим результатов наблюдений х1э х^ ..., хп. Таким образом, каково бы ни было априорное распределение вероятностей параметра а, всё то новое (в случае известной дисперсии), что вносят в оценку а наблюдения, заключено в одной единственной величине х. Говорят поэтому, что х является исчерпывающей статистикой для параметра а.

Точно так же при известных а и <р2(а) всё то новое, что вносят результаты наблюдений в определение параметра а, заключено в одной

Г

величине $ = 1/ ~^(^ — ^)2 (см- (3) § 60]. В задаче определе-

ния а при известном а, таким образом, исчерпывающей статистикой будет величина л

Общее определение исчерпывающей статистики мы дадим, следуя А. Н. Колмогорову.

Пусть наблюдаемая случайная величина имеет функцию распределения, зависящую от А параметров 9р 92, ..., 9ft, значения которых нам неизвестны. Любую функциюх (xv х^ ...,хп) от результатов н а б"лю дений йот параметров, значения которых известны, называют статистикой.

Определение исчерпывающей статистики получает следующее естественное обобщение: система функций

Х^С^о *^2> • х^ (/ = 1, 2, s)

называется исчерпывающей системой статистик для системы параметров 9р 92, ..., 9Ь если условное ^-мерное распределение для этих параметров при известных xv х^ ..., хп полностью определяется априорным распределением параметров 9Р 92, ..., 9& и значениями статистик Хр - Xs-

Из формулы (4) § 60 мы заключаем, что для параметров а и а исчерпывающей системой статистик являются функции Xi = х и Хз = $г Понятно, что для каждого параметра а и а в отдельности система статистик Xi и Хя также является исчерпывающей.

Без большого труда читатель может самостоятельно убедиться в том, что если случайная величина 6 подчинена закону Пуассона

Р^-^Т(& = 0, 1, 2,

с неизвестным параметром а, то исчерпывающей статистикой для а будет х — среднее арифметическое результатов наблюдений.

Точно так же, если двумерная случайная величина (5, т|) распределена нормально, но параметры а, 6, ах, а9 и г неизвестны, то исчерпывающей системой статистик для указанной системы параметров будут следующие пять функций:

Х1 (^1» -^2» • • • > хп) = ”^ ^ хк = х»

А*=1

п

Ха to. У»Уп^ ^^Ук = У.

k=tl

Xa^l. *2.хп)=у ^S^-^^51’Xa^l. *2.хп)=у ^S^-^^51’Xi to» У»Xi to» У»

Xa^l. *2.хп)=у ^S^-^^51’

Xa^l. *2.хп)=у ^S^-^^51’

Xi to» У»

Xi to» У»

Хе toхп, У1уп) = 12 to — х) Uk —у\к=1

Здесь (xr yt), (ат2, у2), е.м (xw уп)— результаты наблюдений.

В качестве упражнения рекомендуем читателю самостоятельно определить исчерпывающие системы статистик для параметра 1) а, 2) Ь^ 3) а1» 4) °2» 5) Г-

§ 62. Доверительные границы и доверительные вероятности

Во вводном параграфе к настоящей главе мы указали, что задача определения неизвестных параметров иногда ставится следующим образом: требуется определить такие две функции О'(л:1, х9, . ..,хп) и й" (xv х^ ..., х^ от результатов наблюдений, чтобы была практическая уверенность в том, что неизвестный параметр 9 находится в пределах между 9' и 9". Функции 9' и 9" называются доверительными границами для параметра 9. Для того чтобы доверительные границы для 9 были удовлетворительны, нужно, очевидно, потребовать, чтобы условная вероятность

P{9'<9<6"to. х2х„}

параметру 0 находиться в промежутке от 9' до 9" при заданных xv хп была достаточно близка к единице. Степень близости при этом определяется той практической задачей, с которой связано определение неизвестного параметра 9. Если известна априорная плотность распределения для параметра 9, то для определения доверительных границ 9'(хх, х2, ..., хп) и 9"(хх, х2, ..., хп) естественно

выбрать те 9' и 9", при которых для заданного о, близкого к единице, выполняется равенство

и^1> ^2> •••• *п№ V (О) d9

ю = Р{в'<6<0^1, х2х^=Л.

и при этом разность О"— 9' будет минимальна.

Задача определения доверительных границ в такой постановке сложна не только потому, что она приводит к сложным аналитическим операциям, но в первую очередь потому, что априорная плотность <р(9) для параметра 9 нам обычно бывает неизвестна. Мы видели, что задача получает осмысленное и простое решение не зависящее от априорного распределения для параметров, если число наблюдений п настолько велико, что имеется возможность пользоваться предельными теоремами.

Можно, правда, итти по другому пути, а именно искать правила такого рода: каковы бы ни были результаты наблюдений хп х^ ..., хп, требуется указать такие доверительные границы tt'(xv хй, . •., х^ и 6"(хп х^ ..., xw), чтобы с заданной уверенностью (вероятностью) можно было считать, что

(Хр Xg, ее., Х^ ^ 6 < ^"(Хр х^ ..., х,).

Так как заранее неизвестно, каковы будут результаты наблюдений, то при решении вопроса о том, следует рекомендовать это правило или нет, нужно обращаться не к рассмотрению условных вероятностей

Р{0'<6<6"/х1, х2,

а к рассмотрению безусловной вероятности

Р{8'Р{8'<6 <8"}<6 <8"}(1)(1)

Р{8'

Р{8'

<6 <8"}

<6 <8"}

(1)

(1)

вероятностьвероятностьР{8'<8<т. 82, .... 8*}Р{8'<8<т. 82, .... 8*}(2)(2)

вероятность

вероятность

Р{8'<8<т. 82, .... 8*}

Р{8'<8<т. 82, .... 8*}

(2)

(2)

того, что при применении правила не произойдёт ошибки.

При заданном виде функций О'^, х2, ..., х^ и 9"(хь х2, ... , хп) вероятность (1) зависит, конечно, ат функции распределения величин xv х2, ..., хп. Если это последнее распределение зависит от А параметров 0р 62, ..., 6А и безусловная плотность распределения этих параметров даётся функцией <р(9р ..., 9Й), то

Р{9'<9<9"} =

= / ... / Р {8' <0<0"/61, в2, ..., 8е}<р(81, ...,6,)^, ..., dH.

Особенно важным на практике является тот случай, когда условная

при любых значениях 6Ь 62, ..., 6ft остаётся неизменной, равной некоторому числу со. В этом случае также

Р {вх С Q ^С 9"} = °»э

т. е. безусловная вероятность (1) не зависит от априорного безусловного распределения параметров 6Ь 62, ..., 9^.

Сама гипотеза о существовании априорного распределения параметров не всегда осмысленна. В самом деле, как можно говорить о распределении параметра а в законе Пуассона для любой задачи, в которой характеризующая эту задачу случайная величина распределена по закону Пуассона? Однако, если условная вероятность (2) не зависит от значений параметров и равна одному и тому же значению а), то естественно считать безусловную вероятность (1) существующей и равной со даже в тех случаях, когда существование априорного распределения параметров не предполагается.

Условимся говорить, что предлагаемое правило имеет доверительную вероятность <», если при всех возможных значениях параметров условная вероятность (2) равна ш.

Обратимся теперь к рассмотренным в § 60 задачам.

В случае первой из рассмотренных там задач положим

аг = х 4-аГ = хА—

Vnх Vn

Каковы бы ни были значения параметров а и а, мы имеем, очевидно:

Отсюда мы заключаем, что доверительная вероятность правила

равна

<0 а<0 а

<0 а

<0 а

В частности, имеем, следовательно, равенство

р^\а-х\<^^ =р^\а-х\<^^ =

р^\а-х\<^^ =

р^\а-х\<^^ =

20 Зак. 1826. Б. В. Гнеденко.

Во второй задаче мы считаем известным параметр а, тогда как параметр о подлежит оценке. Положим

„л — sVn „ _ $ Ул где ■

s=y ^2<*»—а)а- .. .6=1

Легко видеть, что

Р (о < а < а"/а, а} = Р / -^ < s < -^= / а, а‘I У» Vn\ ’

В § 23 (распределение %2) мы нашли плотность распределения величины s при условии, что а и а заданы. Именно

Отсюда мы находим, что

»'t»'tzn*ve 2 dz.zn*ve 2 dz.

»'t

»'t

zn*ve 2 dz.

zn*ve 2 dz.

Мы видим, что условная вероятность неравенств о' ^ а <^ а^

при условии, что параметры а и о известны, не зависит от значений этих параметров. Следовательно, по предыдущему, доверительная вероятность правила

^V S {хк — а)2^з<У у SC^ — а)8 равна

Ш = £‘^2 I 2П~1е 2 ^2*

Перейдём, наконец, к рассмотрению последней задачи, когда оба параметра а и о неизвестны. Положим

aY = x + d Vnsx и а\=х-\-с^п8ъ

Г Vnsx „ V^Si

где

51= Р^2^6—^8-

При условии, что а и а заданы, мы имеем:

< а < я,/а, о = Р с < —— < саа, а

Нам нужно найти теперь условные плотности распределения для и ^1^5 при условии, что а и а известны. Так как

$1 У па

|2(^-«)х — а-гУл~ *

1/ 2к^—«)—^—«)Р1/ 2^— х )2

v к = 1V& = 1

п

где хк = хк — а и х' = -~ ^ хк (величины хк независимы и рас-

пределены нормально с математическим ожиданием 0 и дисперсией а9).

Введём теперь в л-мерном пространстве (хр х’^ ..., х^) новую ортогональную систему координат (yt, ур ..., <уп) так, чтобы у^гар^лх'. При ЭТОМ

п_ п_ пп

ns»=s (4—х')2=2 хч — «^'а=5 Л — j?=2 Л к==1&*=1k=tiквй

и, следовательно,

Так какТак какJc — a ^yiJc — a ^yi

Так как

Так как

Jc — a ^yi

Jc — a ^yi

п

У к а S aWXi*<—1

где величины ам удовлетворяют соотношениям

у~'1в,А» = | о при 1фк

'и величины х, нормально распределены, то величины yt также нормально распределены. Далее МУ1 = 0(&= 1, 2, ..., л). Наконец, из того, что

"*( а2 при 1=к,

MW==Q

мы заключаем о независимости величин yk(A = 1, 2, ..., п) и о том, что D^ = o2(^=l, 2, .,., л).

Так как далее

и в этой дроби числитель и знаменатель независимы, причём плотность распределения числителя равна

а У2л*

а плотность распределения знаменателя (согласно § 23 распределение х9) равна•

то согласно § 23 (распределение Стьюдента) плотность распределе-

2 л Равна

Плотность распределения величины ===-, как в этом легко

V п^ убедиться, равна

V«r(^)

Y Wa« °) = " ^"--ТТ (1 4- лх3) 2,

следовательно,

метры а и о. Мы доверительнаяметры а и о. Мы доверительнаяравнаравнаш =ш =

метры а и о. Мы доверительная

метры а и о. Мы доверительная

равна

равна

ш =

ш =

Эта вероятность не .зависит от значений, которые принимают пара-

можем поэтому сказать, что в третьей задаче вероятность правила

Нам остаётся найти доверительную вероятность правила, устанавливающего границы для а. Использовав произведённые нами преобразования, находим, что

Р(«*Р(«*< а^а, а) e Р р2 << а^а, а) e Р р2 <——La. а ? =аf——La. а ? =аf^ t^ja^ а^ t^ja^ а

Р(«*

Р(«*

< а^а, а) e Р р2 <

< а^а, а) e Р р2 <

——La. а ? =

аf

——La. а ? =

аf

^ t^ja^ а

^ t^ja^ а

Отсюда, в силу результатов § 23 (распределение х2)

V^i

2 ■ Г V «

Снова эта вероятность не зависит от значений параметров а и а. Следовательно, правило

Упч . Vnst

^1^2

имеет доверительную вероятность, равную

^t1

фа . J f 2п^е 2 dL

2—r(^).i

Заметим в заключение, что из того, что при любых 9р 02, .. /, 9Л имеет место равенство

Р{9'<9<9"/9р 62, ..., М = с»

и из него вытекает равенство

Р {9'

ещё не следует, что

со == Р {9 (Хр х2, • • •, хп)^ 9 < 9 (хр х2, ..., хи^хъ х2, ..., яп}.

§ 63. Проверка статистических гипотез

В § 59 мы изложили одну из задач проверки статистических гипотез. Здесь мы рассмотрим другую задачу. Предположим, что нам известна функциональная форма распределения случайной величины 6, но неизвестны значения параметров 9Р 92, ..., 9А, от которых оно зависит. Имеются некоторые основания считать, что параметры имеют некоторые определённые значения 0! = 9^, 92 = 92, ... ..., 9ft = 9& (простая гипотеза) или же принадлежат некоторому множеству (сложная гипотеза). Требуется выяснить, подтверждают или не подтверждают эту гипотезу результаты наблюдений над величиной 6.

Для того чтобы подчеркнуть практическую важность задачи,

рассмотрим примеры.

Пример 1. Имеется большая партия продукции некоторого производства. Каждая единица этого продукта относится к одной из двух категорий: годная, бракованная. Вся партия считается пригодной к сдаче, если относительное число р бракованных единиц продукта невелико, скажем, не больше, чем некоторое число р0 (О < р0 < 1). Число р нам неизвестно; его нужно найти путём исследования сравнительно небольшого (по отношению ко всему объёму партии) числа изделий. Рассмотрим случайную величину 6, равную О, если взятое наудачу изделие окажется пригодным, и равную 1, если взятое наудачу изделие окажется бракованным. Функция распределения $ равна

О при х^О,

F^ =F^ =1 —р при 0<х^ 1,1 —р при 0<х^ 1,11при х> 1.при х> 1.

F^ =

F^ =

1 —р при 0<х^ 1,

1 —р при 0<х^ 1,

1

1

при х> 1.

при х> 1.

Параметр р, от которого зависит распределение, неизвестен. Наша задача состоит в том, чтобы проверить гипотезу р ^ р0.

Пример 2. Случайная величина $ распределена нормально

1(®—а)а

Р(х) = -^ге ^

9 у 2тт;

параметры а и а неизвестны. Требуется проверить гипотезу, что 1 а — а01 ^ а и а <^ а0,

где а0, о0 и а — некоторые известные числа. Эта и аналогичные задачи постоянно возникают в теории измерений, а также в естественно научных и производственных задачах.

Обозначим через п число наблюдений, на основании которых необходимо сделать заключение о подтверждении или опровержении сделанной гипотезы. Пусть

хи х2, ..., хи(1)

результаты этих наблюдений. Процесс проверки, ведущий к подтверждению или опровержению гипотезы, есть некоторое правило, согласно которому множество всех возможных результатов п наблюдений разбивается на две непересекающиеся части Rnl и Rn^. При этом принадлежность чисел (1) к множеству RnX будем считать подтверждением проверяемой гипотезы, а принадлежность их к множеству Рпй— отрицанием проверяемой гипотезы. .Если мы станем изображать числа (1) как. координаты «-мерного евклидова пространства Rw то, очевидно, каждый процесс проверки означает разбиение пространства Rn на части RnX и R№ При этом, если точка (xv х2, ..., х^ оказывается в части RuU то гипотеза принимается, а если (х1? ха, ..., хп) оказывается в части Rn^ то гипотеза отбрасывается. Множество Rn^ носит название критической области. Выбор правила проверки, таким образом, эквивалентен выбору критической области.

Для иллюстрации вернёмся к примеру 1. Множество Rn в этом случае состоит из всевозможных совокупностей п чисел, каждое из которых может принимать лишь значения 0 и 1. Критическая область Rn^ состоит из тех элементов Rn, для которых ^(х,+х^+х„)>р0.

Мы перейдём теперь к следующей частной задаче проверки гипотез, для которой имеется исчерпывающее решение: имеются две простые гипотезы Нх и Н^. Гипотеза Нх состоит в том, что В/ = 9^ (/= 1, 2, ..., А), гипотеза Н^— в том, что 94==6Д/ = 1, 2, ..., А). Эти гипотезы конкурируют друг с другом и на основании произведённых наблюдений требуется одной из них отдать предпочтение.

Заметим, что при подтверждении или отрицании гипотезы Нх мы можем совершить ошибки двух видов. Ошибку первого рода мы совершаем тогда, когда отвергаем Нх в то время, когда в действительности она верна. Иными словами, ошибки первого рода имеют место тогда, когда точка (хр х2, ..., хп) попадает в область Rn^ в то время, когда верна гипотеза Hv Ошибку второго рода мы совершаем, если принимаем Нх в то время, когда она неверна. Еслц

критическая область выбрана, то вероятности ошибок первого и второго рода можно рассчитать; обозначим их для данных п и Rn^ соответственно буквами а, и а2.

Понятно, что чем меньше для данной критической области числа ах и а2, тем удачнее выбрана критическая область. Однако при данном числе испытаний п невозможно ни при каком выборе критической области одновременно сделать как угодно малыми оба числа ах и а2. В то же время изменением критической области мы можем добиться произвольной малости ошибок первого или второго рода в отдельности. Так, если положить Rn^ = Rw то ясно, что в этом случае а2 = 0; если же положить Rnx = Rw т0 «1 = 0. Отсюда вытекает следующий рациональный принцип выбора критической области: при заданных значениях аг и п нужно выбирать ту область /?п2, для которой а2 достигает минимума. При этом, конечно, чем меньшее значение «j мы выбираем, тем большее значение получается для минимума а2. Заранее нельзя сказать, какое ах нужно выбрать, чтобы метод проверки гипотезы был самым выгодным, так как основную роль при этом играет практическая сторона дела.

Пусть для примера отбрасывание или приём гипотезы Нх связаны с материальными затратами. Если приём гипотезы Нъ в то время как она неверна, приводит к большим затратам (скажем, к необходимости ручной подгонки некоторых деталей, поступающих для сборки на некоторое предприятие), тогда как отбрасывание гипотезы Hv в то время как она верна, приводит к сравнительно небольшим потерям, то ясно, что необходимо выбрать возможно меньшее а2 и при этом можно помириться со сравнительно большими значениями av

Предположим, что практические соображения приняты в расчёт и величина ах выбрана; тогда имеет место следующее предложение, которое мы сформулируем лишь для того случая, когда величина $ имеет конечную плотность распределения вероятностей, как при гипотезе Ни так и при гипотезе Н^.

Теорема. Среди всевозможных критических областей, для которых вероятность ошибок первого рода равна av вероятность ошибок второго рода принимает наименьшее значение для критической области Rn^ состоящей из всех тех точек (хь х2> ..., х^, для которых

> с^ ЩН^ ). (2)

Число с определяется из условия

ф(<?) = Р{(Хр х» ...» х*)с/?^/Я1) — а1. (3)

Доказательство. Так как (в случае независимых испытаний) вероятность точке (xt, х2, ..., хп) находиться в какой-нибудь

области S равна

Р {ЗД} =Д/С^) dxx dx^ ... dxn

при условии, что верна гипотеза Нх и

Р {SjH^ = Г ... Г JJ / (х^/Н^) dxx dx^ • • • dxn

J 8 J fc»l

при условии, что верна гипотеза Я2» то согласно предположению, Р{йД} = «1

и для любой другой рассматриваемой нами области Rn^ также

Согласно аксиоме сложения вероятностей

Р ^Rm—RnaRnW = Р \RnzlHi] — Р \Rn^H^ == «1—Р {RniRm/^i}

И

Р {Яп2 — R*Ht\ = ai— Р ^RnW т. е.

Р {Rn^—Rn^Rn^fH^ = Р {Rna—Rn^Rn&jHi}. Согласно определению R^ и последнему равенству

Р Цй~М№ > cP ^—Rn^Hi\ =

= с Р {/?пзRn^Rn^Hi}.(4)

Но для любой точки (хп х2, ..., х^ не принадлежащей /?пз,

Д/^ХсД/^)

и, следовательно, поскольку область R^— R^R^ находится целиком вне RHa, должно быть

^Р {/?»з— Rn^Rn^Hi} > Р {/?пзRniRn^H^»

Это неравенство вместе с (4) приводит нас к неравенству Р {/?ла—Rn^Rn^lH^ > Р {/?п2—Rn^RnzjH^.

Прибавив к обеим частям последнего неравенства Р ^Rn^Rn^H^, находим, что

P\Rn№>PVRH№

А так как _

Р{^2} = 1

и Rni== Rn—Rm. Rm == R»—Rm, то

Так как Р {/?„i/№} и Р {/^/#2} представляют собо^ ошибки второго рода для критических областей Rn^ и соответственно R^, то теорема доказана.

Нам остаётся подтвердить, что выбор постоянной с действительно можно произвести по правилу (3). С этой целью заметим, что функция

Ф^^Р}/?^}

с ростом с может только убывать (так как неравенству (2) будет удовлетворять всё более и более «тощее» множество точек (Яр х2, ...

..., хп)у Кроме того, ясно, что ф(0) = 1 (так как для каждой точки (xv х2, ..., хп)

П/ОДОМ

Далее из (2) следует, что

Заменив левую часть неравенства единицей и вспомнив определение ф(с), находим неравенство

1>^(с).

Итак,

О<Ф(0<7.

Таким образом, ф(с)->0 при с->оо. Так как функция ф (с) не возрастает, то при любом ot1(0<a1 < 1) найдётся такое с, что

^(с —0)>aj><}i(c4-0).,

Если в точке с функция ф (с) непрерывна, то выбор постоянной с согласно правилу (3) оправдан; если же в точке с функция ф (с) имеет разрыв, то положение несколько усложняется и требуется незначительно изменить определение множества Rn^ исключив из него часть точек (хп хй, .х^, для которых

пп

П/(^М) = сП/(^А),

Л=1А = 1

и присоединив их к множеству R'nit так чтобы вероятность ошибок первого рода была равна av

Рассмотрим пример. Пусть известно, что $ распределено нормально с известной дисперсией а2. Относительно математического ожидания а имеются две гипотезы, состоящие в том, что а = ах (гипотеза Н^ и а — а2 (гипотеза НйУ Требуется найти выгоднейшую критическую область.

В нашем примере соотношение (2) может быть записано в следующем виде:

е ^^> с.

Это неравенство, как легко подсчитать, эквивалентно следующему (в предположении, что а2 > а^у

или, что то же самое, неравенству

~ й1) > («2-«О у Л + V <Д3 - й1) = ^1'

Полученное неравенство определяет выгоднейшую критическую область Ru^

Так как величина

-V=- У «1)

распределена нормально, с математическим ожиданием 0 и дисперсией 1, если только гипотеза Нх имеет место, то по таблицам нормального распределения й заданному аг легко определить hv (и тем самым с\ Пусть для определённости ^=0,05. Тогда ^ = 1,645 и, следовательно, наивыгоднейшая критическая область при а1 = 0,05 определяется неравенством

^ (*й — а1)> 1,645^7». ■ R=1

Интересно отметить, что критическая область в нашем примере не зависит от конкурирующего значения а,^

Область /?ni определяется неравенством

п

S^^+l^.).

Л«=1

которое, очевидно, может быть записано в таком виде:

77=* 2 С^Л ^) < ^1~ (Л2#1)е

Величина, стоящая в левой части неравенства, в предположении, что имеет место гипотеза //2, распределена нормально с математическим ожиданием 0 и дисперсией 1. Отсюда следует, что вероятность ошибки второго рода равна

Если заданы величины 04 и а2, то возникает задача определения минимального числа n==n(av а2) необходимых испытаний для того, чтобы ошибочные заключения могли быть сделаны с вероятнастями, не большими, чем 04 и.а2.

С ростом п величина a2n = a2(a1, и) не возрастает и, вообще говоря, стремится к нулю. Очевидно, что п (04, а2) есть наименьшее из тех п^ для которых a2 (an/г) ^а2.

В только что рассмотренном примере число п по заданным значениям ах и аа найти очень просто. В самом деле, из того, что

1-Ф(61) = а1

~ (аз — av)ssei~ (аз — av)ssei

~ (аз — av)ssei

~ (аз — av)ssei

мы получаем два уравнения:

^«ФО—04) и

Aj — («2 at) = ф («у),

где ф— функция, обратная для Ф(х). Отсюда

Приведём небольшой числовой пример. Пусть

«4 = 135, а2=150, о = 25, 04 = 0,01, аа = 0,03.

Поскольку

ф (0,99) = 2,33, ф (0,03) = — 1,88, то

п = ^ [2,33 +1,88)2 = ^ • 4,212 ~ 49.

Таким образом, минимальное число наблюдений, которое необходимо провести для выбора между гипотезами Нх и Н2 в случае нормального распределения и только что указанных данных, должно быть 49. Только при таком числе испытаний мы можем быть уверены в том, что если верна гипотеза Hv то мы отбросить её можем с вероятностью, не большей одной сотой, а если верна гипотеза Н^ то её отбросить мы можем с вероятностью, не превосходящей 0,03.

§ 64. Метод последовательного анализа

Статистическая практика, описанная в предыдущем параграфе, не может считаться достаточно совершенной. В самом деле, при таком методе проверки незначительное изменение результатов испытаний может существенно изменить выводы, если только эти результаты оказались вблизи от границы областей Rnl и Rny Далее, так как суждение о правильности или ложности гипотезы выносится только после того как произведены все заранее намеченные испытания, то может случиться, что на самом деле столь же обоснованные выводы можно было сделать, ограничиваясь меньшим числом испытаний. Для практических целей уменьшение числа испытаний имеет большое значение, так как это, во-первых, снижает стоимость проверки, а во-вторых, даёт возможность закончить её в более короткие сроки. В практической деятельности во многих случаях и фактически поступают так, что не производят всех заранее намеченных испытаний, а прекращают их тогда, когда интересующий исследователей вопрос выяснен в достаточной мере. Так, если для уничтожения некоторой цели отпущено определённое число снарядов, то никто не поступает так, что предварительно расстреливает все эти снаряды и только после этого изучает результаты стрельбы. На самом же деле стрельба ведётся до уничтожения цели, а не до того момента, когда будут расстреляны все снаряды.

Только что описанная простая идея прослужила А. Волду (A. Wald) отправным пунктом для создания теории проверки статистических гипотез методом последовательного анализа. Этот метод был разработан в дни последней мировой войны главным образом для целей приёмки и браковки массовой военной продукции.

Идея метода последовательного анализа состоит в следующем: пространство выборок разбивается не на две, а на три взаимно не- пересекающиеся части RnU R№ Rn3 для каждого числа (л= 1, 2,.. .) испытаний. Процесс проверки гипотезы начинается с первого испытания. Если результат первого испытания попадает в область /?п, то считается, что гипотеза Н подтвердилась, если же хх оказывается в области /?1а, то гипотеза Нх отбрасывается, наконец, если xt

попадает в область /?13, то результат одного испытания не даёт возможности с достаточной надёжностью ни подтвердить,, ни отвергнуть гипотезу Н. В этом последнем случае требуется произвести дополнительное испытание. После двух испытаний вновь изучается, в какую из областей /?а1, R^ R^ попадает точка (хп х2). Если она оказывается в одной из областей /?21 или R^» то процесс проверки гипотезы заканчивается соответственно её приёмом или её отрицанием. Если же оказывается, что точка (хп х2) попадает в область /?23, то произведённые испытания недостаточны для обоснованных выводов и возникает необходимость в дополнительном испытании. Вообще, если после каждого из п испытаний оказывается, что точки (хр х2, ... , х^ (/ = 1,2, ... , л) попадают в области Rj^ то произведённые испытания не дают оснований для вынесения обоснованных заключений и требуется дополнительное наблюдение. Испытания прекращаются, как только наблюдённая точка попадает в одну из областей RnX или Rn^.

Как и в- предыдущем параграфе, мы ограничимся рассмотрением задачи сравнения двух статистических гипотез.

Мы предположим, как и всюду раньше, что испытания взаимно независимы и что, следовательно, их результаты xv х2, ... , хм представляют собой взаимно независимые величины с одним и тем же распределением вероятностей. Допустим, что как в предположении, что имеет место гипотеза Нъ так и в предположении, что имеет место гипотеза //2, величины х^ имеют плотности распределения вероятностей. Знаком Д(х) мы будем обозначать плотность распределения величины $ (и, значит, любой величины хь h= 1, 2, ... , п) при условии, что имеет место гипотеза Н^1=^ 2).

Обозначим через Rnt событие, состоящее в том, что точка (хп ... , хп) попадёт в область Rni (Z= 1, 2, 3) и через R$— событие, состоящее в том, что произойдёт одно из событий Rxb R^ ..., т. е.

Понятно, что события /?1 + ^а и R» противоположны. Пусть, далее, ш^Р^з/Я^ и -а-Р^в/Я,}

обозначают вероятности всё время попадать в области Rn^ при всех значениях п при выполнении соответственно условий Нг и Я2. Так как для практических целей, впрочем, как и для теоретических, наиболее интересен тот случай, когда процесс сравнения гипотез с вероятностью единица приводит к определённому решению — предпочтению одной из гипотез Нх или Н2 перед другой, — то мы ограничиваемся рассмотрением только случая

ф1 = ю2 = 0.

Обозначим, через at и а2:Обозначим, через at и а2:как и прежде, ошибки первого и второго рода

Обозначим, через at и а2:

Обозначим, через at и а2:

«х-РЦ^Н^ a2 = P VRW.

Естественно, что одним из основных вопросов для последовательного анализа является выбор областей Rnv Rn^ и Rn^. Один из способов, связанный с доказанной в предыдущем параграфе теоремой, положен в основу результатов Волда. Этот способ состоит в следующем: выбираются два положительные числа А иВЦ<В). На каждом шаге проверки, т. е. после каждого испытания вычисляется отношение

Если это отношение заключено в пределах от Л до В, то считается, что произведённые испытания не дают возможности судить о предпочтительности какой-либо из рассматриваемых конкурирующих гипотез. Если же это отношение превосходит В, то гипотеза Нх отбрасывается и принимается гипотеза Н^ Если, наконец, указанное отношение меньше, чем А, то процесс проверки заканчивается приёмом гипотезы Hv При этом, конечно, постоянные А и В выбираются так, чтобы вероятности ошибок первого и второго рода не превосходили заданных величин ах и а2.

Рассмотрим теперь событие а, которому впоследствии мы придадим смысл одного из событий Rx или R^. Пусть v — случайная величина, принимающая только целочисленные значения и равная п, если на п-м шаге впервые точка (х1? ... , хп) попала в область RwX (соответственно в Rn^).

Рассмотрим теперь случайную величину

х2,, хп),

представляющую собой некоторую функцию результатов наблюдений. Более точный выбор её мы произведём позднее. Заметим, что величины

^-П^М(/=1,2)

также являются случайными.

Для дальнейшего основную роль будет играть следующее тождество:

м {^ОД Р №) = М (^ Ч/ОД р №1(1)

^ = —, находим,^ = —, находим,м^/адм^/ад1™ «11™ «1(3')(3')

^ = —, находим,

^ = —, находим,

м^/ад

м^/ад

1™ «1

1™ «1

(3')

(3')

являющееся почти очевидным следствием определения условного математического ожидания. Действительно, по определению

СО•

м {и^^а} = р ^у 5 / ^ ^ dxx... dxn

n»l a№

И cox

M {ir^ ^Н^} = р^^у 2 / ^ ^ dxv... dx„,” = 1 Gn.

где ал является пересечением множеств /?п1 + /?п2 и я. Сравнение этих двух равенств и приводит нас к тождеству (1).

Положим теперь в равенстве (1) последовательно а = Rt и а = /?2.

Так как

Р ^Н^ - 1 - «и Р {^1} = «1(2')

И

р {R^H^ = а2,Р{№2} = 1 - «а,(2")

то, положив вто, положив вчто- '

то, положив в

то, положив в

М( ^2/ Ц Q \1®2М( ^2/ Ц Q \1®2и

М( ^2/ Ц Q \1®2

М( ^2/ Ц Q \1®2

Точно так же, положив в равенстве (1) цТочно так же, положив в равенстве (1) ц(з*) Ц-г и использовав соотношения (2') и (2"), находим, что

Точно так же, положив в равенстве (1) ц

Точно так же, положив в равенстве (1) ц

-«1 _ « /Ч1 !ч ,А » < ^ / ч г» \«1,4х

Введём теперь в рассмотрение случайные величины

ПриПриэтом обозначенииэтом обозначенииС*-1gС*-1gА У^п) fl С*я) *А У^п) fl С*я) *4”> ^^о4”> ^^о= 11 + ^+ ••• +с».= 11 + ^+ ••• +с».

При

При

этом обозначении

этом обозначении

С*-1g

С*-1g

А У^п) fl С*я) *

А У^п) fl С*я) *

4”> ^^о

4”> ^^о

= 11 + ^+ ••• +с».

= 11 + ^+ ••• +с».

Так как среднее арифметическое не меньше чем среднее геометрическое, то для любой положительной случайной величины iq

Mlg’nClgM'n

(знак равенства имеет место только в случае iq== const).

ПоложимиПо определениюПоложимиПо определениютх = М( — W) ma-MCW)-тх = М( — W) ma-MCW)-

Положим

и

По определению

Положим

и

По определению

тх = М( — W) ma-MCW)-

тх = М( — W) ma-MCW)-

w» = J Xg7^f»w dx=-$ ^^^ W dx*

Согласно сделанному замечанию, если ^^ ф const, то

fig^^w dx<xgV^fi (х) ^=^1=°-

иц > 0;иц > 0;Таким образом, точно так же

иц > 0;

иц > 0;

тхтх0.0.

тх

тх

0.

0.

Рассмотрим теперь сумму

18-ПТ) = ^1 + ^+ ••• +^

и воспользуемся следующим тождеством, получившим название тождества Волда *):

М (С, + Са + ... +W) = М ГО) • М №1)0=1.2).

Из него вытекает, что

М№)=т^м^Г') <'=1’2’-<5>

Это равенство весьма существенно, так как оно даёт возможность выяснить, как много в среднем нужно произвести испытаний, чтобы методом последовательного анализа произвести выбор между гипотезами Нх и Н^.

Равенство (5) мы используем теперь для вывода двух полезных неравенств. А именно, так как по предположению

<о1 = ша = О,тор№+^}=1-

♦) Доказательство этого тождества находится в конце дополнения 1,

21 Зах. 1326. В. В. Гнеденко.

Следовательно,

M(ig^^ = p№W м^фМ^ч-

+ ?№///<} М( 1g-^№?Д \ ”1 / /

Но

/ ^ I \//\

м |«^дам“-м(£4дя1яд

И согласно предыдущему

м (1g ф /ъъ)^ м(ф ^яф

В силу соотношений (2) и (3) находим, что

M./H1>^[(i-«,)ig^ + «1igT^;].(6)

Точно так же получаем, что

M«/"1>^[(i-«.)ig4r+‘‘=lgT^]-т

В соотношениях (6) и (7), вообще говоря, будет знак строгого неравенства; только в случае, когда отношение ^ (х) к /Дх) равно постоянному Сх на Rv и постоянному С2 на R^ в формулах (6) и (7) будут знаки строгого равенства. Естественное использование полученных соотношений таково: посредством полученных соотношений получаем минимальные значения для среднего числа испытаний. Если эти числа оказываются большими, чем это требуется для самого выгодного классического метода сравнения гипотез, то, понятно, имеет смысл пользоваться классическим методом.

Теперь от общих соображений о методе последовательного анализа мы перейдём к нескольким практическим замечаниям. Прежде всего фактическое определение областей Rnl и Rn^ по заданным вероятностям ат и а2 представляет весьма сложную задачу. Более того, точное определение констант А и В в только что описанном методе Волда практически не выполнимо. Именно это обстоятельство заставляет пойти по пути разыскания приближённых формул. Соотношения (3) и (4) дают такую возможность.

Мы говорили, что если отношение

к(п) пЧп = Том = Пк(п) пЧп = Том = ПЛ to) л to)Л to) л to)

к(п) п

Чп = Том = П

к(п) п

Чп = Том = П

Л to) л to)

Л to) л to)

^ 641 МЕТОД ПОСЛЕДОВАТЕЛЬНОГО АНАЛИЗА 323 превосходит некоторое заранее указанное число В, то мы принимаем гипотезу Н2 и, следовательно, отбрасываем гипотезу Hv Таким образом, для области /?2 постоянно

Отсюда мы заключаем, в силу второго из соотношений (4), что

(8)

Точно так же, поскольку для области Rt постоянно

то

а>Л-.<9>

1—01

Из полученных неравенств вытекает в частности, что

А>ч, В<Х.

Неравенства (8) и (9) будут использованы нами для построения приближённого приёма решения стоящей перед нами задачи. Этот метод состоит в том, что приближённо считаем

A = В = ^Х(10)

При этом меняются, конечно, области RnV Rn^ Rn^ а вместе с ними и величины ах и а2, оценивающие точность метода. Если мы обозначим через аг и а2 вероятности ошибок первого и второго рода для вновь определённого разбиения пространства выборок, то в силу неравенств (8) и (9) находим, что

Умножим первое, из этих неравенств на (1—а2) (1—а2), а второе на (1—at) (1—ai) и затем сложим полученные произведения. В результате находим, что

a^ —|— а2 -^ a, -|- а2.

В качестве простого иллюстративного примера рассмотрим снова проверку гипотезы Hv состоящей в том, что математическое ожидание величины 5, распределённой нормально с известной дисперсией а2, равно ах по сравнению с конкурирующей гипотезой Я2, • состоящей

в том, что дисперсия равна о8, а математическое ожидание равно йд(а3>«1). В этом примере

п

Гипотеза Нх отбрасывается или принимается в зависимости от того, выполняется ли неравенство

видеть, могут быть записаны иначе:видеть, могут быть записаны иначе:или неравенство

видеть, могут быть записаны иначе:

видеть, могут быть записаны иначе:

Эти неравенства, как легко Нх отбрасывается, если

^“1+^^“1+^»\&В-^^-а^ ,2JgS

^“1+^

^“1+^

(^-—Cllа^— й\

и принимается, если п

Значения величин А и В находятся по формулам (10). Таким образом, гипотеза Н, отбрасывается, если

5>.>^^+>.+«.)

и принимается, если

х* <ig 1^7+f to+«э).

Л®® 1

Рассмотрим числовой пример. Пусть, как и в предыдущем параграфе, ^=135, а = 25 (гипотеза Hty, а2=150, а = 25 (гипотеза Я2); ^ = 0,01, а2 = 0,03. Для того чтобы принять или отвергнуть гипотезу //, нужно вычислять последовательные суммы ^+^9+ + ... +^п наблюдённых значений величины 6 (л = 1, 2, ...). Гипотеза Нг принимается, если при некотором п сумма ^4" х2 4* 4- ... 4“ хп оказывается меньшей, чем

вя = 142,би —^ 1g 33 = 142,5л—165,

и отвергается, если при некотором п эта сумма оказывается большей, чем

Ьп= 142,5л-|~ 1g 97 — 142,5л + 190,6.

В таблице 14, приводимой ниже, даны результаты и все необходимые для проверки гипотезы Нх величины. Так как при и = 20 сумма х^ -|* х3 + ... + хп оказалась меньшей а20, то принимается гипотеза Нх и, значит, отбрасывается гипотеза Н^. Наблюдения дальше не производятся.

Таблица 14

п

хп

ап

п

6»

1

151

—18

151,

334

2

144

139

295

476

3

121

281

416

619

4

137

424

553

761

5

138

566

691 .

904

6

136

709

827

1046

7

155

851

982

1189

8

160

994

1142

1331

9

144

1136

1286

1474

10

145

1279

1431

1616

И

130

1421

1561

1759

12

120

1564

1681

1901

13

104

1706

1785

2044

14

140

1849

1925

2186

15

125

1991

2050

2329

16

106

2134

2156

2479

17

145

2276

2301

2614

18

123

2419

2424

2756

19

138

2561

2562

2899

20

108

2704

2670

3041

21

2846

——

3184

22

2989

3326

23

3131

—

3469

24

3274

3611

25

3416

——

3754

Мы видели раньше, что проверка гипотезы Нх по сравнению с конкурирующей гипотезой //2 наилучшим классическим приёмом требует 49 наблюдений. Выигрыш в числе необходимых наблюдений, Достигнутый при использовании метода последовательного анализа, в данном примере приблизительно равен 60%. Можно доказать, что в задаче определения математического ожидания нормально распределённой случайной величины $ при известной дисперсии имеет место следующий факт: математическое ожидание числа испытаний, которое

требуется методом последовательного анализа, приблизительно вдвое меньше, чем число испытаний, требуемое наиболее выгодным методом, использующим заранее определённое число испытаний.

Заметим, что при практическом использовании метода последовательного анализа нет нужды заранее рассчитывать числа ап и Ьт а можно воспользоваться следующим графическим приёмом. Рассмотрим в плоскости координат (л, х) две прямые:

У 2—Я1 ‘81—

И

Zl_ig 11121

п

и построим ломаную, проходящую через точки (л, 2*д Как только эта ломаная окажется под первой прямой или над второй прямой, так испытания тотчас прекращаются и соответственно принимается гипотеза Нх или гипотеза Н2. В рассмотренном нами числовом примере уравнения указанных прямых таковы (черт. 18)

у =142,5/г—165, j/ = 142,5/?+190,6.

В заключение приведём черт. 19, иллюстрирующий области ^«v Яп2, ^«в в нашем примере. При этом мы ограничимся рас

смотрением случаев /?=1,/? = 2и/? = 3, так как в этих трех случаях возможно их наглядное графическое представление. К тому же эти три случая дают достаточно полную картину, чтобы по ней судить Об областях R^ (/= 1, 2, 3) при п > 3,

^»#и^гз

^Ш////////////?^;^///////^

ои

Черт. 19.

ДОПОЛНЕНИЯ

ДОПОЛНЕНИЕ 1

ОБ АКСИОМАТИКЕ ТЕОРИИ ВЕРОЯТНОСТЕЙ

Данное в § 8 изложение аксиоматического подхода к определению вероятности должно быть нами дополнено. Это дополнение позволит нам подойти с иной, более совершенной, точки зрения к построению понятия случайной величины.

На протяжении всей книги мы рассматривали понятие случайного события в качестве первичного. Однако в целом ряде уже рассмотренных нами примеров возможен другой, пожалуй, даже более естественный подход. Так, в задачах на геометрическое определение вероятности рассматривается область О пространства (прямой, плоскости и т. д.), в которую «наудачу» бросается точка. Случайными событиями при этом являются попадания в те или иные подобласти области G. Каждое случайное событие является при этом некоторым подмножеством множества О. Эта мысль положена в основу общей концепции случайного события в аксиоматике А. Н. Колмогорова.

Колмогоров исходит из множества U элементарных событий. Что представляют собой элементы этого множества для логического развития теории вероятностей безразлично. Далее рассматривается некоторая система F подмножеств множества 67; элементы системы F называются случайными событиями. Относительно структуры системы F предполагаются выполненными три следующие требования:

F в качестве элемента содержит множество 67.

Если А и В — подмножества множества 67—входят в F в качестве элементов, то в качестве элементов F содержит также множества А-{-В, АВ, А и В.

Если подмножества Av А2, ..., Ап, ... множества 67 являются элементами множества В, то их сумма At -{- А2 + ... -{~ Ап -]~ ... и произведение А1А2...АП... также являются элементами F.

Множество Ft образованное таким образом, представляет собой борелевское тело множеств.

При этом под А + В мы понимаем множество, составленное из элементов 67, входящих или в А, или в В, или и в А и в В; под АВ понимаем множество, состоящее из элементов 67, входящих и

в Д и в В; и, наконец, под Л (В) — множество элементов U$ не входящих в Л (в В).

Поскольку в F в качестве элемента, входит все множество 17, то согласно второму требованию F содержит также 17, т. е. F в качестве элемента содержит пустое множество.

Только что изложенный способ определения случайного события вполне согласуется с тем представлением, которое мы получили при рассмотрении конкретных примеров. Для большей ясности рассмотрим подробнее два примера с этой точки зрения.

Пример 1. Бросается игральная кость. Множество U элементарных событий состоит из шести элементов: Ev Е^ Е^ Е41 Е^ Е6. Здесь Е4 означает выпадение / очков. Множество F случайных событий состоит из следующих 2е = 64 элементов: (V), ^, ^. (ЕД (Е4). (Е6), (Ев), №, Е^ (Еп Е^ ...,(Е6, Ей), (Вр Е^ В3), ..., (В^, Е^ Е^ (Вр Вй, Е^ Е^ ..., (В3, Е4, Е^ 56), (В^, Вй, Е^ Е4, E^t • (5g, Е^ Е4, Е^ E^t (7^ В2, Е^ Е41 Е^ Е^.

Зл^съ каждая скобка показывает, из каких элементов множества U составлено подмножество, входящее в качестве элемента в состав В; символом (V) мы обозначили пустое множество.

Пример 2. Задача о встрече. Множество U состоит из точек квадрата: О^х^бО, O^j^eo.

Множество F состоит из всех борелевских множеств, составленных из точек этого квадрата. В частности, входит в состав F и является случайным событием множество, состоящее из точек замкнутой области |х—у|<С20.

Нам естественно ввести следующие определения.

Если два случайных события А и В не имеют в своём составе одних и тех же элементов множества 17, то мы будем называть их несовместимыми.

Случайное событие U будем называть достоверным событием, а случайное событие U (пустое множество) — невозможным событием. События А и А называются противоположными.

С точки зрения теории множеств, введение в множестве случайных событий вероятности есть введение в множестве U нормированной, счётно-аддитивной, неотрицательной меры, определённой для всех элементов множества F.

При определении случайной величины мы будем исходить, в соответствии с общим понятием случайного события, из множества элементарных событий U. Каждому элементарному событию е поставим в соответствие некоторое число

е-/(4

Мы екажем, что 5 есть случайная величина, если функция /(^) измерима относительно введённой в рассматриваемом множестве U вероятности. Иначе

говоря, мы требуем, чтобы для каждого измеримого по Борелю множества Л$ значений Е множество Лв тех е, для которых / (г) с А^ принадлежало множеству F случайных событий и, следовательно, для него была бы определена вероятность

Р {5 <= ^} = PHe}.

В частности, если множество А^ совпадает с полупрямой 5 < х, то вероятность Р {Лв} есть функция переменного х

p^<x}-.PVW = F(x)t

которую мы назвали в основном тексте функцией распределения случайной величины Е.

Пример 1. Рассмотрим последовательность п независимых испытаний, в каждом из которых вероятность появления события А постоянна и равна р. В этом примере элементарные события состоят из последовательностей появлений и непоявлений события А в п испытаниях. Так, одним из элементарных событий будет появление события А в каждом из испытаний. Всего, как нетрудно подсчитать, будет 2” элементарных событий.

Определим функцию ^ = /(5) от элементарного события е так: она равна числу появлений события А в элементарном событии е» Согласно результатам главы 2

р {и = А} = РП (А) =

Измеримость функции р=/(е) в поле вероятностей непосредственно очевидна. Отсюда, согласно определению, заключаем, что есть случайная величина.

Пример 2. Произведены три наблюдения за положением молекулы, двигающейся по прямой линии. Множество элементарных событий состоит из точех трёхмерного эвклидова пространства /?3. Множество случайных событий F состоит из всевозможных боре- левских множеств пространства /?3.

Для каждого случайного события А определим вероятность Р {Л} посредством равенства

А

Рассмотрим теперь функцию Е =/(е) элементарного события e = (xt) хй1 х^), определённую посредством равенства

^■■j (^i + ^a+^e)-

Эта функция измерима отнрсительно введённой нами вероятности,

поэтому $ является случайной величиной. Для неё функция распределения равна

.3

F (х) = Р {£<а:} = ^^ JJJ 6* 4х^х^ха =

®i+®8+®8 < За?

» зи-а?=е ^ dz.

У з ~°°

Если каждому элементарному событию е поставить в соответствие точку п-мерного эвклидового пространства

^i=/i(6)>^=/з(е)> •••» ^п=/п(е)

и каждая из функций fn^ (6 = 1, 2, ..., п^ измерима относительно введённой в множестве случайных событий F вероятности, то совокупность чисел (81, 5а> ..., £я) называется я-мерной случайной величиной.

С только что развитой точки зрения действия над случайными величинами сводятся к известным операциям над функциями. Так, если и $2 являются случайными величинами, т. е. измеримыми относительно введённой вероятности функциями

е.^ЛОО, ^=АМ,

то любая борелевская функция от них также является случайной величиной. Для примера

с=е!+Еа

измерима относительно введённой вероятности и потому является случайной величиной.

Понятие математического ожидания в этой концепции также естественно и сводится к абстрактному интегралу Лебега. За определениями и выводом основных свойств абстрактного интеграла Лебега мы отсылаем читателя к книге А. Н. Колмогорова «Теория меры и интеграл Лебега».

По определению, математическое ожидание случайной величины 5=/(^) есть интеграл

№ = J7(e)P(de}.

и

Условное математическое ожидание при условии В равно

М{5|В} = J/(e)P{^|B}

t332дополнение 1

Легко доказать, что это определение эквивалентно следующему:

которое часто лучше приспособлено для практического использования.

Заметим, что если событие В представимо в виде суммы конечного или счётного множества непересекающихся событий Вк

= 51 + 59 + то

J/(e)P{de}=S [д*т в»

Полезно заметить, что если раньше для доказательства теоремы о математическом ожидании суммы нам пришлось провести довольно длинные рассуждения, то теперь эта теорема является следствием формулы

f (/+£) Pfrte) - / /Р(^) 4- JgP^de\

Для независимых случайных величин 6 и ц мы раньше доказали формулу

М$е,^ = м^.М^(1)

лишь в случае дискретных и в случае непрерывных случайных величин.

В общем случае определим дискретные случайные величины Еп и iqn формулами

L = — при —,

п п р иП ’

— Т при

Тогда

Л4(е„.^ = М#.А1т|я.

Из известный теорем о переходе к пределу под знаком интеграла Лебега легко выводим:

ИтМЛ = ЖНт Мт^ = М^

Таким образом, формула (1) доказана в общем случае.

Полученные сведения мы применим к выводу формулы, которую мы назвали в § 64 формулой Волда. Эта формула будет получена нами из следующей теоремы, доказанной Д. Н- Колмогоровым и Ю. В. Прохоровым.

Пусть дана последовательность случайных величин

$1» $2> • • •> ^я» • • • И

^ = 614-59+ ... + ^

означает сумму v первых величин, причём само число слагаемых v является случайной величиной.

Обозначим через Sw событие, состоящее в том, что v = w, и положим

р» р (v ^ ^}= 2 ?«■т^п

Теорема. Если при п^т случайная величина Ъп и событие Sw независимы, существуют математические ожидания

а» = м$„

(я, значит, величины гЛ=М|£Л| конечны}, ряд

2 спРпя —1

сходится, то математическое ожидание величины Cv существует и равно

Me?в 2 Pn^wп *1еде

Лп = МСя ^ #i ”Н ЛаЧ“ • • • “Ь ^я* . _

Доказательство. В силу сделанных предположений

2 Рп^п 8=8 2 Pnairя*1п=1

Так как $п не зависит от события {v < л}, то она не зависит также и от противоположного события {v^n}, поэтому

^=меп=м{е»л>л}.

Приняв во внимание только что написанные равенства, а также приведённые ранее свойства условных математических ожиданий, мы

можем написать следующую последовательность равенств:

2М»= 2РЬ>«|М|^»>л)= 2 / SttP(de) =

я —1Я=1n-i{„>n}

-2 2 J и>1*|.

n — 1 m =n ^ __ w}

А так как величина |En| и событие {у^>л} также независимы, то

2 2 | J 6»pw|< 2 2 JlMPO^)— ”=1*” = ” {v-m}1 п=1т = п8го

= 2 J R„|PW= 2 P{v>«jM{Mn|/v>«} = "•=4v>n>” = 1

= 2 p b > «I м 15»| = 5 PnCw <+co. n = 1М«1

Только что произведённая оценка позволяет написать равенство

ОООО/•оотЛООр

22Кр(^)=22Je»p(^)=2J VW

п = 1 т = п Swт = 1 п «1 Swш = 1 8т

Так как

mcv= Г^Р(^) = 2 fv^),

то предыдущее равенство доказывает теорему.

Следствие. Если в условиях предыдущей теоремы а = ВЯЗ Л| 163 01^ •*• ♦ е • f ТО

ОО

MC, = aMv = a2 nPw

П =S 1

ДОПОЛНЕНИЕ 2

О ПРЕОБРАЗОВАНИЯХ ЛАПЛАСА

Пусть функция а (/) определена при положительных значениях t и имеет на положительной полуоси ограниченную вариацию. Интеграл

ОО

<p(s) = J e-8tda^о

называется преобразованием Лапласа функции а (/). Употребление преобразований Лапласа в теории вероятностей особенно полезно при рассмотрении неотрицательных случайных величин. Мы ограничимся здесь только доказательством тех двух предельных теорем, на которые была ссылка в тексте книги в конце § 58. Формулировка и доказательство этих теорем принадлежит Н. В. Смирнову.

Прямая предельная теорема. Пусть последовательность неотрицательных функций и^ (8) аргумента 8 (0 < 8 < 80) удовлетворяет неравенствам

и^^СМе^ (6=1, 2, 3, ...),

где Т > 0 и М>^ не зависят от к и 8. Тогда, если при 8 -> О н 68 -> / для всех t^Q

где f(t)—непрерывная функция, то каково бы ни было s>0 равномерно в каждой конечной области полуплоскости o—Rs^^-^г при 8->0

5Г e-^f^dt

Доказательство. Определим вспомогательные функции Д(0 равенствами

Л(0 = IЛ(0 = IОприt^C О,

Л(0 = I

Л(0 = I

и^^е’^при(6—1)8 </^68.

Определим далее неубывающие функции gs (х) и g (х), определив их равенствами 08

бН^)”0 ПР» *<° и А (х)-У/,(<)» при х>0;

О

01

g(x) = 0 при х^О и g(x) = J/CO^-^rf/ при х>0. о

Согласно условию теоремы при t > 0 для 8 —> О

А(0->/(0^ и стало быть в любой конечной области изменения аргумента х g^^->g^(8~>0).

А так как при а >*[ +8 интегралы ОООО

$A<f)dt и $ f^e-^dt XX

становятся равномерно малыми при достаточно большом X, то

* lim g^ (х) = g (х) при X <. + ОО. 8-ю

Отсюда, в силу второй теоремы Хелли, при — оо < т < оо и 8 -> О ОООООО

J e^^dgi (х) -> J е-^® dg (х) = J е-® (,+<t>/ (х) dx.

О00

А так как

оооо

J в-^® dgt (х) = У в"<т® ft (х) dx =

Ои

ооА8

= 2 «k(8)s-»«- f е-^dx» к"х

fc—1

где $=aa-\-it и При 8->0

е^ — 1.

то теорема доказана.

Обратная предельная теорема). Пусть последовательность неотрицательных функций ^(8) удовлетворяет неравенствам

M)-uk_^\<Lbe^(£=1, 2, ...),

где L > 0 и т > 0 не зависят от k и 8 и и0 (8) = 0. Пусть, далее, дифференцируемая функция /(f) имеет абсолютно интегрируемую на (оо, -)- оо) производную, /(0) = 0 и интеграл при Rs>^

j* e-8tf^ dt о

сходится. Тогда, если при 8 -> 0

со00

8 2 и^е-^8-* f e-stf^dt,'(1)

о

то при 8 -> 0 и А8 -> t"

»i(8)-/(0.

Доказательство. Определим функции /5 (Q, положив

,(° ПрИ ^°’

1^(8)^-^ при £8 <£<(£-4-1)8.

Если о > -у -^- е, эти функции имеют ограниченное изменение. Действительно, полная вариация функции /6 (/) в интервале (— оо, оо) равна при 8 достаточно малом *- '

2 \u^-i»=— uk_xe-»-^\< 2 l«i — “k-i |е-^ + к — 1& = 1

+ 2 l«ft-i |е-С&-1)8» (<*— 1)<£8 2 е-М(»-т) +

+ £8(^-1) 2 e-w 2 ^<^^4-й = 1 г = 1

"Г" 587—11 —а — yl ‘ 7J*

Рассмотрим далее функцию

F(t) = O при /<0, Р^=/^)е”^ при t>0.

В предположениях, которые были сделаны, F ^ имеет ограниченное изменение в интервале (— оо, сю) и

t

F(f) = J* F'(t)dt.

о

СО<Рб(т) = / e"^df^ =ОСО<Рб(т) = / e"^df^ =ОПреобразования Фурье для построенных функций равны

СО

<Рб(т) = / e"^df^ =

О

СО

<Рб(т) = / e"^df^ =

О

оо

2 е”^ [ике""^я — и^е"^-!)8ог] =

(s = a + z-t),(s = a + z-t),к = 1

(s = a + z-t),

(s = a + z-t),

= [1 — e~w) 2 Ч (8) е~<ш t= 1

<р (т) = J е~« dF (/) = it J* e-w F (0 dt= it J est/(0 dt. оо0

Приняв во внимание условие (1), а также равенство

заключаем, что при 8->0

% СО -> V (О-(2)

Докажем, что при 8 —> О

С этой целью заметим, что подсчёт, аналогичный проведённому, показывает, что вариации функций /8 (/) в интервале (Г, сю) равномерно относительно 8 малы, когда Т велико. Отсюда следует, что, выбрав из множества функций /б (7) сходящуюся последовательность мы вместе с тем получаем сходящуюся последовательность преобразований Фурье со

^n(T)-* J e^dF^tyо

Приняв во внимание (2), мы заключаем, что

= f e-^dF^tyО

А так как преобразования Фурье для функций с ограниченным изменением однозначно определяют эти функции, то

^о W = F(ty

Таким, образом, всякая сходящаяся последовательность функций faHW сходится к функции F (t). Отсюда следует, ’что и вообще при 8 -» О

.f.^^F<ty .

Но по определению

А(О = «р] (8)е"^”.

Таким образом, при 8 -> О

и, следовательно, при 8—>0

■^iq-*/^)-(3)

Пусть теперь ^8 -> t и для определённости А8 > t. Тогда к

«»—«1>1+ S, «,-j.

откуда

|^-«Ц1|<^2 ' ^=и^-^е^<

hl s=[|]+1

<2L8^ —[{-J)eM.

Таким образом, если 8—> 0 и &8 —>/, то"

В силу (3) находим, что

Теорема доказана.

ДОПОЛНЕНИЕ 3

КРАТКИЙ ОЧЕРК ИСТОРИИ ТЕОРИИ ВЕРОЯТНОСТЕЙ

Во введении к книге, а также в процессе изложения нами было сделано несколько кратких исторических замечаний. Теперь, не претендуя ня полноту изложения, мы дадим самый сжатый, но всё же более связный очерк развития теории вероятностей.

Теория вероятностей, как и всякая подлинная научная дисциплина, изучает закономерности реального мира. Отсюда ясно, что основные понятия теории вероятностей, так же как и исходные‘предпосылки при развитии тех или иных её частей, берутся не из головы учёного, а представляют собой результат сложного процесса абстракции явлений внешнего мира. Хотя при возникновении теории вероятностей область её приложений ограничивалась азартными играми, нужно думать, что крупнейшие учёные того времени — Гюйгенс, Паскаль, Ферма, Я. Бернулли видели в ней средство познания «случайных явлений». Именно в возникновении чётких закономерностей на базе большого числа индивидуальных, не связанных или почти не связанных между собой воздействий, предвиделась основная натурфилософская роль теории вероятностей.

Впоследствии развитие теории вероятностей направляли в первую очередь проблемы естествознания, а не логические спекуляции представителей идеализма. Теория ошибок наблюдений и теория стрельбы, задачи астрономии и физики руководили Лапласом, Пуассоном, Лобачевским и многими другими при построении теории вероятностей.

Широко понятые задачи естествознания руководили П. Л. Чебышевым и А. А. Марковым при построении теории суммирования независимых слагаемых и теории цепей Маркова.

Подлинный расцвет теории вероятностей связан с возникновением и ростом советской школы теории вероятностей. И снова насущные проблемы естествознания руководили ведущими учёными в создании новых областей науки. Проблемы физики вызвали к жизни теорию случайных процессов, запросы естествознания поставили вопрос о необходимости приведения в порядок логических основ теории вероятностей. Нет сомнения в том, что успехам советской школы теории вероятностей во многом содействовало то глубокое проник-

новение в природу вещей, которое даёт марксистско-ленинское мировоззрение. Представители советской школы теории вероятностей никогда не забывают замечательных слов товарища Сталина: «...теория становится беспредметной, если она не связывается с революционной практикой, точно так же, как и практика становится слепой, если она не освещает себе дорогу революционной теорией». (Соч. т. 6, стр. 88.) Именно в этом нужно видеть причину того, что большое число работ крунейших представителей советской теории вероятностей посвящено конкретным проблемам естествознания и техники. Вопросы теории телефонии и текстильного дела; статистической физики; математической статистики и контроля массовой промышленной продукции; железнодорожного транспорта и металлургии; гидромеханики и метеорологии и многие другие нашли отражение в работах советских математиков. В то же время методологические вопросы, общие проблемы самой теории вероятностей занимали и занимают центральное место в работах советской школы теории вероятностей. По путям, намеченным советскими учёными, идёт теперь развитие теории вероятностей во всём мире.

Смешными нам кажутся попытки идеалистически настроенных буржуазных математиков «освободить» науку от «тирании внешнего мира», построить её на материале «чистого созерцания».

Советская теория вероятностей развивается на базе марксистско- ленинской философии и успехи её ещё раз показывают, сколь большая сила таится в принятой советскими математиками к руководству философской системе.

Возникновение теории вероятностей относится к середине XVII века, однако первые шаги, подготовившие почву для этого, были сделаны намного раньше. Так ещё Кардано (1501—1576) в сочинении «Об азартной игре» («De ludo aleae») дал подсчёты того, сколькими способами из числа всех возможных можно получить в сумме то или иное число очков при метании двух или трёх игральных костей. Подобные же подсчёты, правда, не дающие числа равновозможных случаев, были сделаны Тарталья (1499—1557). Ещё раньше Лука Пачиоло (1445—1514) занимался знаменитой впоследствии задачей о разделении ставки; об этой задаче мы скажем ниже. Научно менее обоснованные попытки выяснения, как бы мы теперь сказали, вероятностей случайных событий, конечно, предпринимались и раньше в связи с азартными играми, а также в связи с определением длительности жизни, подсчётом населения, задачами страхования, незадолго до этого появившегося в Италии. Заметим кстати, что и само слово «азартный» произошло из своеобразной оценки степени надёжности появления того или иного числа очков. Арабское слово «азар» в переводе означает «трудный»; этим словом обозначалась такая комбинация очков.

которая могла появиться единственным способом. Так, при бросании трёх игральных костей «трудными» были выпадения в сумме трёх и восемнадцати очков. Со временем от названия этого частного, особенно неприятного для игроков случая, пошло наименование всех азартных игр.

Интерес Паскаля и Ферма к задачам теории вероятностей также возник отчасти в связи с азартными играми. Кавалер Де-Мере, страстный игрок, предложил однажды Паскалю (1623—1662) долго мучавшую его задачу, повидимому, имевшую для него и «прикладное» значение. Задача Мере заключается в следующем. Два игрока условились сыграть ряд партий. Выигравшим считается тот, кто первым выиграет s партий. Игра была прервана тогда, когда один из игроков выиграл a(.a<sY а другой b (р < s) партий. Спрашивается, как должна быть разделена ставка?

Лука Пачиоло задолго до этого времени предлагал разделить ставку пропорционально числу уже выигранных партий. Кардано обоснованно возражал, указывая, что при этом никак не принимается в расчёт то число партий, которое еще необходимо выиграть каждому из игроков. Однако и Кардано, правильно указав ошибку, не сумел найти верного решения.

Правильные решения, исходящие из различных соображений, были даны Паскалем, Ферма (1601—1665) и Гюйгенсом (1629—1695). Паскаль, решив поставленную ему задачу, сообщил её Ферма в письме от 29 июля 1654 г. Тот предложил своё решение. Наконец, в 1657 г. в сочинении «О расчётах в азартной игре» («De ratiocinifs in ludo aleae») Гюйгенс предложил решение, в котором, как и в решении Паскаля, впервые участвует понятие математического ожидания. В основу всех решений положен принцип деления ставки пропорционально вероятности выигрыша всей игры.

Методы Паскаля и Ферма мы проиллюстрируем на рассмотренном ими частном случае: 5 = 3.

Паскаль начинает со случая, когда из трёх нужных партий первый игрок (игрок Л) выиграл 2 партии, а игрок В (второй) — только одну. Если бы игроки сыграли ещё одну партию, то игрок Л либо выиграл бы всю игру, либо в крайнем случае сравнялся бы по числу выигранных партий с игроком В. В первом из этих случаев игрок Л получает всю ставку, а во втором может требовать её половину.

3 1

В результате Л должен получить ставки, а В — только — ставки. В работе «Об арифметическом треугольнике» («Traite du triangle arithmetique») Паскаль предлагает общее решение. Положим ради простоты записи m = s— a. n = s — b; тогда ставка между игроками Л и В должна быть разделена в отношении

I Гч I *

—it —14 ••• । —1

Ферма в том же частном случае рассуждает так: для окончания игры требуется не больше чем s — tz^s— b— 1 партий, то-есть в рассматриваемом примере не более чем две партии. При разыгрывании этих двух партий могут представиться следующие четыре различные равновозможные случая:

12 34

А В А В

А А В В

В трёх случаях, учитывая результаты ранее сыгранных партий, выигрывает игрок Лив одном выигрывает игрок В. Отсюда Ферма заключает, что игрок А может претендовать на три четвёртых ставки.

Гюйгенс исходил приблизительно из тех же оснований, как и Паскаль, а именно: если из a-^-v равновероятных случаев и ъкучжъ дают выигрыш ос, а у случаев выигрыш р, то ожидаемый выигрыш оценивается числом

Па + У^

и 4- у "

Легко видеть, что здесь в ещё более явной форме, чем у Паскаля, вводится в рассмотрение понятие математического ожидания.

Впоследствии Паскаль несколько раз возвращался к задаче о разделении ставки, в том числе и между несколькими игроками.

В указанной книге Гюйгенса были собраны все задачи, решённые к тому времени и, кроме того, предлагалось найти решение нескольких новых.

Важный этап в развитии теории вероятностей связан с именем Якова Бернулли (1654—1705). Им было дано решение нескольких задач Гюйгенса. Далее он заметил, что число случаев, для которых при бросании п костей сумма очков равна /и, равна коэффициенту при хт в разложении

(х + х^ + х^+х^ + х5 -|- х6)п

по степеням х. Этим было положено начало рассмотрению производящих функций. Якову Бернулли принадлежит исчерпывающая постановка, а также решение задачи о разорении игрока. Разностное уравнение, рассмотренное нами в главе 1, было получено в общем случае именно Бернулли; частный случай p = q = ^ был рассмотрен ещё Гюйгенсом.

Однако не с этими частными результатами связано в первую очередь в истории науки имя Якова Бернулли. Основной вклад, сделанный им в науку, состоит в доказательстве теоремы, носящей теперь его имя и послужившей источником многих позднейших исследований. Некоторые авторы утверждают, что, собственно, закон больших чисел высказывался задолго до Бернулли и, например, у Кардано

имеются соображения о сближении при большом числе наблюдений эмпирических данных с некоторыми постоянными. Впрочем, и сам Бернулли в «Ars Conjectandi», говорит по поводу того, что способ определения вероятности по частоте «не нов и не необычен», следующее: «всякому ясно и то, что для такого рассуждения о каком- либо явлении недостаточно взять одно или другое наблюдение, но требуется большой запас наблюдений. Поэтому-то даже самый ограниченный человек по какому-то природному инстинкту сам собой и без всякого предварительного обучения (что очень удивительно) знает, что чем больше принято во внимание таких наблюдений, тем меньше опасность не достичь цели». Но мы знаем, что от эмпирически подмеченных фактов до формулировки закономерностей и до их доказательства из предположений о структуре наблюдаемых явлений лежит большой и сложный путь. Заслуга Бернулли состоит в том, что он первый сумел наблюдавшемуся факту сближения частоты с вероятностью дать теоретическое объяснение.

Позднее, да и одновременно с Бернулли, различные авторы неоднократно отмечали, что факторы, не связанные с существом процесса в целом, а проявляющиеся только в единичных его осуществлениях, при рассмотрении среднего из большого- числа наблюдений взаимно погашаются. Это обстоятельство отмечалось как эмпирический факт и при этом, как правило, не делалось даже попыток найти его теоретическое объяснение. Впрочем, этого многим авторам в отличие от Бернулли и не требовалось, так как наличие закономерностей как в явлениях природы, так и в общественных явлениях для них было не чем иным, как проявлением правил божественного порядка. Так, член Лондонского королевского общества Джон Арбутнот писал, что наблюдаемое в обществе количественное «равенство мужчин и женщин не является результатом случая, но божественного провидения, работающего для хорошего конца». («Аргумент за божественное провидение, взятый из постоянной закономерности, наблюдаемой в рождении обоих полов», Philosophical Transaction, 27, 1710—1712.)

Другой член Лондонского королевского общества Вильям Дерхем (1657—1735) в книге «Физикотеология или доказательство существования и свойств бога на основании его мироздания» (Лондон, 1713) писал, что мальчики и девочки рождаются не в случайных пропорциях, а так, что имеется некоторый избыток мальчиков, которым «верховное существо уравновешивает большие опасности, каким подвержены мужчины».

Известный в истории демографии немецкий статистик XVIII века пастор Зюсьмильх в книге «Божественный порядок» утверждал, что «в малом всё кажется происходящим без всякого порядка. Надо сначала собрать множество единичных и мелких случаев за много лет и соединить воедино многие провинции, чтобы этим способом вывести на свет скрытые правила божественного порядка».

Впоследствии эти точки зрения были подвергнуты критике Лапласом; к этому мы вернёмся, когда будем говорить о его работах.

Следующий успех после Бернулли принадлежит французскому математику Муавру (1667—1754), прожившему всю свою сознательную жизнь в Англии. В 1718 г. появилось его сочинение «Учение о случае» («The Doctrine of Chances»), выдержавшее три издания (1718, 1738, 1756), в котором содержалось систематическое изложение и дальнейшее развитие методов решения задач, возникающих в связи с азартными играми. В другом его сочинении («Miscellanea Analytica»), изданном в 1730 г., содержится доказательство известных нам теорем Муавра-Лапласа для случая p = q = ~\ а также формулы Стирлинга.

В вышедшей в 1740 г. книге «The Nature and Laws of Chance» Симпсона (1710—1761) среди прочих рассмотренных им задач была задача, важная для браковки и контроля продукции. Имеется данное число п вещей различного сорта: пх вещей первого, п^ второго, ... Наудачу берётся т вещей. Найти вероятность того, что при этом будет вынуто mt вещей первого сорта, т^ второго, ...

Рядом задач, связанных с теорией азартных игр, теоретическими вопросами демографии и страхования занимался знаменитый член Петербургской Академии наук Леонард Эйлер (1707—1783).

Значительную известность получила задача Николая Бернулли (1687—1759), вошедшая в историю науки под именем «Петербургской игры». Его современники — Даниил Бернулли, Даламбер, Бюф- фон, Кондорсе и др., а затем математики XIX и Хр< вв. много раз возвращались к парадоксу петербургской игры.

Игра состоит в следующем. Пётр бросает монету до тех пор, пока не выпадет герб, после чего игра считается законченной. Павел выплачивает Петру один рубль, если герб выпадет при первом бросании; два рубля, если он выпадет только при втором; четыре рубля, если герб выпадет только при третьем бросании. Вообще, если герб появится впервые при п-м бросании, то Павел выплачивает Петру 2П-1 рублей. Спрашивается, какую сумму должен выплатить Пётр Павлу перед началом игры за право участия в ней, чтобы игра была безобидна. Заметим, что игра называется безобидной, если математическое ожидание выигрыша равно стоимости участия в ней.

Математическое ожидание выигрыша Петра равно

ОООО

п=1п=1

Для безобидности игры необходимо, чтобы Пётр внёс Павлу бесконечно большую сумму. С точки зрения здравого смысла этот результат является нелепостью: ни один здравомыслящий человек не стал бы участвовать в такой игре.

Для разрешения указанного парадокса было предложено большое число различных решений. Петербургский академик Даниил Бернулли (племянник Николая Бернулли) ввёл в рассмотрение так называемое «моральное ожидание». Мы не будем останавливаться на определении этого понятия, так как научного значения оно не приобрело и, кстати сказать, парадокса петербургской игры не разрешает. Большего внимания заслуживает соображение, высказанное Пуассоном. Идея предложенного им решения состоит в следующем: не существует физических или юридических лиц, обладающих бесконечным капиталом, поэтому Павел, обещая выплатить произвольно большую сумму, если только герб долго не будет появляться, тем самым берёт на себя невыполнимое обязательство. Если учесть это обстоятельство и несколько преобразовать условия петербургской игры, то результат получает уже осмысленное значение. Это преобразование сводится к следующему: Павел выплачивает сумму 2П~1 до тех пор, пока это число не превосходит его капитала, а, начиная с того п, для которого 2П~1 превосходит его капитал, выплачивает весь свой капитал. Пусть для примера капитал Павла равен 10 000 рублей. Тогда 213 < 10 000 < 2й. Таким образом, первое условие применяется при п <15, а второе условие— с п = 15. Следовательно, математическое ожидание выигрыша Петра равно

14 оо

2 2Ч ю 000 <8,25. ■ п = 1 п—15

Если бы капитал Павла равнялся 1000 000 000, то ставка Петра, равная математическому ожиданию его выигрыша, оставалась бы всё же меньше шестнадцати рублей. Даже в том случае, когда капитал Павла равен 1015 рублей, т. е. превосходит ценность всего «мирового имущества», математическое ожидание выигрыша Петра не превосходило бы 26 рублей.

Даниил Бернулли (1700—1782) — один из первых русских академиков— занимался теорией ошибок наблюдений, он желервый поставил вопрос о вычислении вероятностей гипотез при условии, что наблюдение уже принесло некоторые результаты. Эта задача получила своё решение только в 1764 г. в работе Бейеса.

Бейес (ум. 1763), помимо формул, выведенных нами в тексте книги, получил ) также ряд формул, разрешающих те или иные задачи частного характера. Для примера приведём решение следующего вопроса: событие А имеет вероятность р, значение которой неизвестно. Определить вероятность того, что р заключено в интервале от а до Ь, если в результате п независимых испытаний событие появилось иг раз и п— т не появилось и если вдобавок распределение вероятностей

величины р до испытаний равномерно в интервале (0, 1). Лёгкий подсчёт приводит нас к равенству

ъ

Р{ а<р <ЬР{ а<р <Ь(^(l — xVi-^dx событие А, | появ. пг раз / i х р 1 J xw (1 — х^-™ dx о

Р{ а<р <Ь

Р{ а<р <Ь

Позднее эта же задача живо интересовала французского учёного Кондорсе (1743—1794) — одного из виднейших деятелей французской буржуазной революции 1789 г. В частности, его интересовала задача приложения теории вероятностей к анализу вынесения судебных приговоров большинством голосов.

Ряд интересных задач, обобщающих понятие вероятности, был рассмотрен французским естествоиспытателем Бюффоном (1707—1788). В трактате «Опыт моральной арифметики» («Essai d'Arithmetique moral»), напечатанном в 1777 г. (но написанном по утверждению его друзей ещё в 1760г.), были введены в рассмотрение геометрические вероятности и решены многие задачи на их определение. В частности, задача о бросании иглы впервые была рассмотрена в этой работе Бюффона. Следует отметить, что Бюффон производил эксперименты с целью проверки закона больших чисел на примерах простейших схем (бросание монеты и т. п.}. Впоследствии такие испытания производились неоднократно, в частности, как раз для рассмотренной нами в первой главе задачи Бюффона.

Приведём некоторые из этих результатов, использованных, кстати сказать, для экспериментального определения числа тс.

Экспериментатор

Год

Число бросаний иглы

Экспериментальное значение тс

Wolf

1850

5000

3,1596

Smith

1855

3204

3,1553

Fox

1894

1120

3,1419

Lazzarini

1901

3408

3,1415929

Так как для задачи Бюффона

то приближённо

тс ~ат ’

где п означает число бросаний иглы, а т— число наблюдённых при

этом пересечений. Заметим, что результаты Фокса и Лаццарини заслуживают малого доверия.

Много ценных результатов Бюффон опубликовал по статистике населения Парижа и Франции в целом.

Крупнейшие сдвиги в теории вероятностей связаны с именем замечательного французского математика и механика, бывшего, кстати сказать, иностранным сочленом нашей Академии наук, Пьера Лапласа (1749—1827). Первые работы Лапласа, относящиеся к теории вероятностей, были напечатаны в 1774 г.; с тех пор интерес к этой области не покидал его всю жизнь. В работе «Memoire sur la ргоЬаЬНИё des causes par les Svenements» (M. A. S. P., Savantes etrangers, VI) он занимался классической задачей о разделении ставки, дал впервые отчётливую формулировку результатов Бейеса и занимался определением среднего из большого числа наблюдений за одним и тем же явлением. Пожалуй, ещё существеннее то обстоятельство, что в этой работе впервые высказано много идей, которые занимали Лапласа на протяжении всей остальной части его жизни. В последующих мемуарах Лаплас много раз возвращается к задаче приближённого представления вероятностей событий, зависящих от большого числа причин. Повидимому, первый подход к решению этой задачи им опубликован в работе «Мёшоие sur les ргоЬаЫШёз» (М. A. S. Р., 1778—1781). В это же время в его работе «Мёшоке sur les suites» (М. A. S. Р., 1779—1782) он излагает теорию производящих функций, впервые появившихся, как мы уже упоминали, у Я. Бернулли в связи с решением последним одной частной задачи. Статистика населения, задачи теории ошибок наблюдений, применение теории вероятностей к астрономическим вопросам — вот примерный круг задач, которые интересовали Лапласа. Мы не будем останавливаться на анализе каждой из этих работ, так как он сам подвёл итог своим исследованиям, а также исследованиям всего предшествующего периода, в классическом произведении «Аналитическая теория вероятностей» (ТЬёопе analytique des probabilites, 1812, 1814, 1820, 1886). В качестве введения к этой книге Лаплас поместил свои лекции, прочитанные в Нормальной школе в 1795 г. и известные под названием «Опыт философии теории вероятностей» («Essai philosophique sur les pro- ЬаЫШёз»).

В «Аналитической теории вероятностей» Лаплас впервые систематически изложил основные теоремы теории вероятностей, дал чёткое определение вероятности, которое мы называем теперь классическим, дал доказательство теорем, получивших название теорем Муавра- Лапласа, построил теорию ошибок наблюдений и метод наименьших квадратов, использовал основные теоретические результаты для целей статистики народонаселения. При этом Лаплас не ограничивался получением общематематических результатов, а рассматривал обширные статистические отчёты, часто полученные по его запросам. Всё это сопровождалось рассмотрением или в крайнем случае формуляров-

кой интересных по содержанию или неожиданных по форме примеров. Так, он указал, что число писем, не доставленных французской почтой по причине отсутствия на конверте адреса, оставалось в течение ряда лет почти неизменным. У нас нет данных французской почтовой статистики, поэтому проиллюстрируем этот пример Лапласа данными русской дореволюционной статистики.

Год

Всего простой корреспонденции в миллионах

Совсем без адреса

Без указания места

На миллион

без адреса

без указ, места

1906

983

26112

28749

27

29

1907

1076

26977

26 523

25

25

1908

1214

33 515

26112

27

21

1909

1357

33 643

28 445

25

21

1910

1507

40101

36 513

27

24

Значительный интерес представляют общие философские установки Лапласа, ярко выраженные им в его «Опыте философии теории вероятностей». Думаю, что не будет ошибки, если эти взгляды назвать механистическо-материалистическими. В некоторых местах он несомненно ведёт борьбу с теологическим и телеологическим объяснениями явлений природы. Так, говоря о попытках Лейбница путём математических спекуляций доказать существование бога, Лаплас замечает: «я упоминаю об этой черте для того только, чтобы показать, до какой степени предрассудки детства могут вводить в заблуждение самых великих людей». В другом месте он говорит, что «постоянство преобладания рождений мальчиков над рождениями девочек, как в Париже, так и в Лондоне, за всё время наблюдения показалось некоторым учёным вмешательством провидения...». Однако, замечает он дальше, это является «новым примером того, как часто злоупотребляют конечными) причинами, которые всегда исчезают при более глубоком исследовании вопросов...».

Собственное мировоззрение Лаплас отчётливо формулирует следующими словами: «...мы должны рассматривать настоящее состояние вселенной как следствие её предыдущего состояния и как причину последующего.

Ум, которому были бы известны для какого-либо данного момента' все силы, одушевляющие природу, и относительное положение всех её составных частей, если бы вдобавок он оказался достаточно'

обширным, чтобы подчинить эти данные анализу, обнял бы в одной формуле движения величайших тел вселенной наравне с движениями мельчайших атомов: не осталось бы ничего, что было бы для него недостоверно, и будущее, так же как и прошедшее, предстало бы перед его взором. Ум человеческий в совершенстве, которое он сумел придать астрономии, даёт нам представление о слабом наброске того разума» ... «Наступит день, когда благодаря длившемуся несколько столетий изучению, вещи, ныне скрытые, явятся со всей своей очевидностью; и потомки наши удивятся, что столь очевидные истины ускользнули от нас».

Мы упомянем ещё два в высшей степени выдающихся имени, сыгравшие и в теории вероятностей первостепенную роль. Я имею в виду Гаусса (1777—1855) и Пуассона (1781—1840). И если Гаусс должен быть упомянут почти исключительно в связи с разработкой метода наименьших квадратов, кстати сказать, одновременно и независимо разработанного Лежандром (1752—1833) и Лапласом, то имя Пуассона связано с обобщением закона больших чисел в форме Бернулли на случай независимых испытаний, вероятность появления в которых некоторого события зависит от номера испытаний, распространением на этот случай теорем Лапласа-Муавра, а также получением нового важного распределения — закона Пуассона. Пуассон получил свой закон впервые тем же самым путём, каким он был выведен нами в главе второй. Основные результаты Пуассона были объединены им в большом произведении «Recherches sur la probabilite des jugements, en шаНёге criminelle et en таНёге civille», 1837). Использование этих результатов в теории стрельбы было продемонстрировано им в работе «Memoires sur la probabilite du tir a la cible».

Мы остановимся ещё на одной известной проблеме Гаусса, которую он сообщил Лапласу в письме от 30 января 1812 г. Эта проблема в течение более чем ста лет не находила решениями только в 1928 г. советскому математику Р. О. Кузьмину (1891—-1949) удалось найти полное её решение. Задача состоит в следующем: определить вероятность того, что при разложении в обыкновенную непрерывную дробь числа, наудачу взятого между 0 и 1, л-е полное частное имеет дробную часть, заключённую между 0 и х (0 < х < 1). Кузьмин в 1928 г. получил для этой вероятности, которую мы обозначим через Р^х^ равенство

Рп м+0 (е-а )

(а — постоянное). В 1948 г. ему удалось показать, что остаточный член этой формулы может быть записан в виде O(otn)(0 < а < 1 — постоянная) и лучшей оценки не допускает.

Мы не можем пройти мимо того факта, что Лаплас и Пуассон, оказав большое влияние на развитие теории вероятностей, явились в то же время косвенной причиной длительного её застоя, характерного для Западной Европы второй половины XIX и первых десятилетий XX века. Оба знаменитых учёных широко пропагандировали применение* теории вероятностей к «нравственным наукам». Лаплас мотивировал необходимость таких применений тем, что поскольку «большая часть наших суждений основана на вероятности свидетельских показаний, очень важным является подчинить их исчислению». Одна из важнейших задач, стоящих перед «нравственными науками», состоит, по Лапласу, в определении вероятности «того, что решение суда, который может осудить только при данном большинстве, будет справедливо, т. е. будет соответствовать истинному решению поставленного вопроса».

Решению подобных задач в конце XVIII и начале XIX века было посвящено большое число работ. Одним из основных принципов, положенных в основу их решения, было предположение о независимости выводов, делаемых различными судьями, и постоянстве вероятности, с которой они приходят к правильному решению вопроса. Если в решении вопроса принимает участие большое число судей, то судебный трибунал, решающий вопросы простым большинством голосов, был бы согласно теореме Бернулли практически непогрешимым при вынесении приговоров. Ошибка подобного утверждения заключается прежде всего в игнорировании того положения, что всякий суд, будучи представителем определённого класса, не судит с закрытыми глазами. Как замечает С. Н. Бернштейн (Теория вероятностей, стр. 192, изд. 4-е), «это утверждение, очевидно, неверно, потому что здесь не принимается во внимание, что все судьи судят на основании тех же самых свидетельских показаний и вещественных доказательств, так что в простом деле все они более или менее одинаково разбираются, а если запутанные обстоятельства вводят в заблуждение одних, то и для других судей ошибка становится более вероятной, иначе говоря, в случае судебного приговора отсутствует условие независимости между суждениями отдельных судей, и это коренным образом меняет положение вещей».

Увлечение такого рода «приложениями», без достаточного учёта существа общественных явлений, без учёта определяющих их сторон тяжело сказалось на развитии теории вероятностей. Все эти в корне ошибочные приложения были квалифицированы впоследствии как «математический скандал». В результате таких неудач увлечение теорией вероятностей сменилось разочарованием и среди западноевропейских математиков широко распространилось мнение, что теория вероятностей является лишь своего рода математическим развлечением, не допускающим существенных научно обоснованных приложений и едва ли заслуживающим внимания серьёзных учёных. Даже успехи теории вероятностей в* её серьёзных

приложениях — кинетическая теория газов, теория ошибок, теория стрельбы и пр. — не смогли в Западной Европе сломить установившихся ошибочных оценок.

Потребовались гений Чебышева и создание им русской школы теории вероятностей, а также бурное развитие физики, предъявившей повышенные требования к математике вообще и к теории вероятностей в частности, чтобы вернуть теорию вероятностей на путь большой науки, изучающей особыми приёмами большие группы явлений материального мира.

Дальнейшее развитие теории вероятностей неразрывно связано с успехами нашей отечественной науки.

На этом этапе развития теории вероятностей основные её результаты* были получены именно в нашей стране.

Развитие теории вероятностей в России. Довольно многочисленные результаты в области теории вероятностей и главным образом её применений к вопросам демографии и страхования принадлежат Л. Эйлеру. Об этом мы упоминали ранее.

Далее мы должны отметить, что среди богатейшего научного наследства создателя неевклидовой геометрии Н. И. Лобачевского (1792—1856) имеются ^ве работы, относящиеся к теории вероятностей. Специально не занимаясь теорией вероятностей, он заинтересовался ею в связи с вопросом о геометрии окружающего нас мира.

В «Пангеометрии» Лобачевский писал, что для выяснения свойств реального пространства нужно обратиться к опыту: «...принятое в обыкновенной геометрии явно или скрытно предположение, что сумма углов всякого прямолинейного треугольника постоянна, не есть следствие наших понятий о пространстве. Один только опыт может подтвердить истину этого предположения, например, измерения на самом деле углов прямолинейного треугольника ...».

Так как при фактических наблюдениях для уменьшения влияния ошибок наблюдений производят несколько измерений и берут их среднее арифметическое, то Лобачевский поставил следующую задачу: зная функции распределения слагаемых ошибок п измерений, найти распределение вероятностей их среднего арифметического. Мы говорили в основном тексте книги, что Лобачевский решил эту задачу в предположении независимости наблюдений и равномерного распределения ошибок измерений в интервале —1, -f- 1.

Другой крупнейший математик и механик второй четверти XIX века М. В. Остроградский (1801—1861) также оставил после себя три работы по теории вероятностей. Судя по рукописям, хранящимся в библиотеке Академии наук УССР, Остроградский предполагал написать руководство по теории вероятностей, введение для которого . им было в значительной мере написано. В одной из своих работ Остроградский указывает на возможность использования его резуль-

тата для целей контроля качества поставляемой продукции и отмечает, что этот результат «даёт возможность поставщикам сократить до приблизительно одной двадцатой чрезвычайно утомительную механическую работу по проверке, например, очень большого числа мешков с мукой или кусков сахара».

Значительное число результатов, главным образом в области демографии и страховой статистики, принадлежит крупному математику XIX века В. Я. Буняковскому (1804—1889). Им же был создан первый русский, превосходный для своего времени учебник «Основания математической теории вероятностей», изданный в 1846 г. Академией наук.

Буняковский находился под влиянием идей и результатов Лапласа и Пуассона, и поэтому одной из важнейших целей своей книги он считал упрощение выводов полученных ими результатов. Другую важную задачу он видел в выработке русской терминологии. Об этом он сам чётко говорит во введении: «так как у нас до сих пор не было никакого отдельного сочинения, ни даже перевода об Математической теории вероятностей, то мне предстоял труд писать на русском языке о предмете, для которого мы не имели установленных употреблением оборотов и выражений». Нужно сказать, что в значительной своей части введённые Буняковским термины укрренились в нашей литературе. Историческое значение книги Буняковского весьма велико, однако с нашей точки зрения целый ряд рассмотренных в ней вопросов не представляет научного интереса и даже попросту плохо поставлен, кроме того, ряд общефилософских утверждений книги не выдерживает мало-мальски серьёзной критики. Согласно Буняковскому, теория вероятностей «подвергает рассмотрению и численной оценке явления, зависящие от причин, не только совершенно неизвестных нам, но которые даже по нашему неведению не подлежат никаким предположениям». Нет нужды останавливаться на ошибочности этого положения Буняковского. Мы знаем, что теория вероятностей не составляет исключения из системы наук и не позволяет делать из полного незнания каких-либо положительных выводов. Мы уже говорили в основном тексте нашего курса, что не незнание приводит к вероятностным закономерностям, а специфика массовых случайных явлений. Во введении к книге Буняковский присваивает теории вероятностей совсем несвойственную ей роль наднауки:.. .теория вероятностей «есть создание ума, наиболее возвышающее человека и как бы указывающее на предел ведений, за который ему не дано перейти».

Заметим, что из 478 страниц книги Буняковский 60 отводит на «приложение анализа вероятностей к свидетельствам, преданиям, различного рода выборам между кандидатами и мнениями и к судейским определениям по большинству голосов». Эти приложения, как мы уже знаем из предыдущего, являются не чем иным, как отголоском модных в то время приложений к «моральным и нравственным

23 Зак. 1826. Б. В. Гнеденко.

наукам», усиленно развивавшимся во Франции Кондорсе, Лапласом, Пуассоном и их последователями. Для того чтобы мы могли судить о характере задач этого рода, приведём один из рассмотренных Буня- ковским примеров.

Из полной русской азбуки вынули наудачу шесть букв и поставили их в том порядке, как они вынуты, одну возле другой. Два очевидца утверждают, что вынутые буквы составили слово МОСКВА. Спрашивается, как велика вероятность, что показание свидетелей истинно? При этом предполагается, что полная русская азбука (того времени) содержит 36 букв и что склонность свидете- 9 лей к правде выражается дробью ^.

Мы не останавливаемся на решении этой задачи, заметим только, что основывается оно на использовании формул Бейеса и на предположении, что в русском языке имеется 50 000 слов, состоящих из шести букв.

В результате вычислений Буняковский получил вероятность, меньшую одной трёхсотой.

Критику такого рода приложений дал один из крупнейших русских математиков прошлого А. А. Марков (1856—1922) в своём классическом произведении «Исчисление вероятностей». Он писал, что пример Буняковского «достаточно выясняет неизбежность многих пройзвольных предположений при решении вопросов, подобных разобранному нами, которые по существу дела имеют весьма неопределённый характер.

Рассмотренный вопрос примет ещё более неопределённый характер, если допустим, что свидетели могут ошибаться, и устраним независимость их показаний».

Далее Марков критикует следующее утверждение Буняковского: «Некоторые философы, в видах предосудительных, пытались применить формулы, относящиеся к ослаблению вероятности свидетельств и преданий, к верованиям религиозным и тем поколебать их. Для опровержения их выводов стоит только принять в соображение, что всякое следствие, выводимое из аналитической формулы, не может быть иным чем, как только развитием первоначального предположения, на котором формула основана. Если предположение ложно, то и следствия анализа будут ошибочные. Поэтому, прежде всего, должно разобрать основательно предположение, служащее точкою исхода. Когда этот разбор приведёт нас к заключению, что в духовном мире есть такие факты, которые не подчинены физическим законам, тогда все злонамеренные умствования лжефилософов рушатся сами» (Осн. мат. теор. вер., стр. 326).

Марков заявляет, что он никак не может «согласиться с Буня- ковским, будто бы необходимо выделить известный класс рассказов, сомневаться в которых он считает предосудительным». Это своё мнение он подкрепляет следующими соображениями:

«Во-первых, если событие невозможно, то никакие свидетельские показания не могут сообщить ему даже малой вероятности. Маловероятное событие может от согласных показаний многих свидетелей превратиться в весьма вероятное, если совпадение ложных показаний представляется ещё менее вероятным. Но маловероятное событие не станет весьма вероятным от согласного показания таких свидетелей, которые сговорились друг с другом, или имеют одинаковые не вполне точные сведения о предмете их показаний. Как бы ни был добросовестен очевидец события, но сомнение в том, что он способен был правильно понять совершившееся, может, в известных случаях, лишить его показание всякого значения.

Наконец, сообщение о событии может доходить к нам не от очевидцев, а через последовательный ряд свидетелей, которые передают то, что они слышали от других. В этом случае удлинение цепи свидетелей, конечно, затемняет совершившееся. Независимо от математических формул, на которых мы не остановимся, не придавая им большого значения, ясно, что к рассказам о невероятных событиях, будто бы происшедших в давно минувшие времена, следует относиться с крайним сомнением».

В этих словах проявляется характер передового честного учёного, который находил в себе силы заявлять во весь голос своё мнение, даже если это мнение подрывало один из устоев существовавшего строя. Наше уважение к Маркову не только как к учёному, но и как к гражданину, только возрастёт, если добавить, что Марков посылал письмо в священный Синод с требованием отлучить его от церкви, после того как был отлучён Лев Толстой; что он отказался от чинов и орденов, что он резко протестовал в связи с неутвер- ждением избрания М. Горького в число членов Академии наук.

В качестве прибавления к книге Буняковский поместил свою статью, незадолго перед тем напечатанную в Известиях Петербургской Академии наук, «Определение по приближению пределов потери убитыми и ранеными, претерпеваемой отрядом войск во время сражения». Мы не останавливаемся на изложении содержания этой работы, так как гипотезы, положенные в основу решения рассматриваемой задачи, представляются в высшей степени произвольными. Интересно всё же привести заключительные слова этого приложения, из которых видно, что Буняковский достаточно ясно представлял себе возможность и интерес совершенно иных применений теории вероятностей и его собственных результатов, а не только их применений к «моральным наукам».

Буняковский писал, что «Даже независимо от военного дела, эта самая таблица может быть употреблена с выгодою во многих случаях, встречающихся в общественной жизни. Например, если бы требовалось, при приёмке весьма большого числа каких-либо вещей или припасов, определить с достаточной вероятностью пределы качества, не имеющего надлежащей доброты, то, подвергая наудачу

испытанию более или менее значительную часть этих предметов, можно посредством употребляемой таблицы, составить себе довольно приблизительное понятие о достоинстве полного количества, предполагая, что подробное его освидетельствование по продолжительности своей неисполнимо».

Важный шаг, открывший новую страницу в науке, был сделан П. Л. Чебышевым (1821—1894). Число публикаций Чебышева по теории вероятностей невелико — всего четыре, но их влияние на дальнейшее развитие науки трудно переоценить: его идеи продолжают разрабатываться и в наше время, а полное решение поставленных им задач было получено лишь в последние десять — пятнадцать лет.

«С методологической стороны основной переворот, совершённый Чебышевым, заключается не только в том, что он впервые с полной настойчивостью выдвинул требование абсолютной строгости доказательства предельных теорем (выводы Муавра, Лапласа и Пуассона были с формально-логической стороны совсем не безупречны в отличие, впрочем, от теоремы Бернулли, доказанной её автором с исчерпывающей арифметической строгостью), но главным образом в том, что Чебышев всюду стремился получить точные оценки отклонений от предельных закономерностей, возможных при хотя бы и большом, но конечном числе испытаний, в виде безусловно правильных при любом числе испытаний неравенств.

Далее, Чебышев впервые ясно оценил и использовал всю силу понятий случайной величины и математического ожидания случайной величины. Понятия эти были известны и ранее и являются производными от основных понятий события и вероятности. Но случайные величины и их математические ожидания подчинены гораздо более удобному и гибкому алгоритму. Это в такой мере верно, что сейчас ты постоянно рассмотрение события Д заменяем рассмотрением его характеристической случайной величины Ел, которая равна .единице при осуществлении события Д и равна нулю в случае, когда оно не наступает. Вероятность Р{Д} события Д есть тогда не что иное, как математическое ожидание МЕА величины ^д. Соответствующий метод характеристических функций множеств стал систематически применяться в теории функций действительного переменного лишь значительно позднее». (А. Н. Колмогоров, Роль русской науки в развитии теории вероятностей.)

Идеи Чебышева не нашли немедленного отклика среди иностранных учёных, но зато послужили толчком к созданию русской школы теории вероятностей. По характеру исследований деятельность этой школы может быть подразделена на два периода. Первый связан с именами математиков, по преимуществу живших в Петербурге — П. Л. Чебышева, А. А. Маркова (1856—1922), А. М. Ляпунова (1857—1918) и позднее С. Н. Бернштейна и В. И. Романовского. Этот период характерен тем, что основные исследования концентри-

ровались около двух основных схем — схемы последовательности независимых случайных величин, а позднее схемы цепей Маркова. Второй период начался после Великой Октябрьской социалистической революции и связан с работой группы московских математиков — А. Я. Хинчина, А. Н. Колмогорова, Е. Е. Слуцкого (1880—1948), Н. В. Смирнова и их учеников. Этот период характеризуется привлечением в теорию вероятностей идей и методов теории функций действительного переменного, широким использованием средств математического анализа, значительным обогащением проблематики и завершением исследований ряда классических задач. Нужно сказать, что теперь нет оснований для такого разделения на московскую и ленинградскую и другие школы, так как теперь имеется единая советская школа теории вероятностей. Проблемы, интересующие московских математиков, находят отклик в работах ленинградских, ташкентских, киевских учёных. Специфические проблемы бывшей петербургский школы с успехом изучались в Москве и других научных центрах Советского Союза. Важно то, что чебышевские задачи были в центре интересов всех советских учёных.

Мы видели, что теоретике-вероятностные проблемы находятся в самой тесной связи с многочисленными задачами естествознания, в первую очередь физики, и техники. Ввиду этого часто исследование в области теории вероятностей, а особенно в области её приложений, превращается в решение отдельных специальных задач, требующих порой виртуозного владения математическим аппаратом. Следуя традиции Чебышева, русские, а затем советские математики из этого хаоса отдельных прикладных проблем выделили основные теоретико-вероятностные схемы, позволяющие общими приёмами охватывать большое число разнообразных конкретных задач. Эти схемы, в силу их общности, заслуживают глубокого и исчерпывающего изучения и сами по себе. Мы остановимся на краткой характеристике достижений отечественной науки на примерах рассмотрения нескольких особо важных схем. К этим особенно существенным направлениям современной теории вероятностей следует отнести

предельные теоремы для сумм независимых случайных величин, 2) цепи Маркова,

общую теорию случайных процессов,

случайные функции и случайные векторные поля с распределениями, инвариантными по отношению к какой-либо группе преобразований.

Суммы независимых случайных величин

Основные исследования Чебышева и Ляпунова в области теории вероятностей целиком сосредоточены около проблемы изучения поведения сумм большого числа независимых слагаемых такого рода, что роль каждого отдельного слагаемого в сумме равномерно мала?

Это направление исследований вызывало и продолжает вызывать большой интерес по вполне обоснованным соображениям. В тексте книги мы упоминали о части этих соображений, сейчас же ограничимся лишь указанием, что именно предельные закономерности для сумм независимых слагаемых играют основную роль в теоретико-вероятностном обосновании статистических приёмов исследования (теория выборок) и теории ошибок наблюдения. Кроме того, на проблемах предельных закономерностей для сумм независимых слагаемых оттачиваются методы теории вероятностей, возникают новые вопросы и формулируются новые закономерности.

Метод моментов, разработанный Чебышевым, уступил в задачах о законах распределения отдельных сумм место более мощному методу характеристических функций, систематически использованному Ляпуновым. В тех случаях, когда требуются оценки вероятностей, зависящих от многих сумм, наиболее значительные результаты пока получены «прямыми» методами, разработанными московской школой. Нужно думать, что впоследствии эти методы сменятся методом дифференциальных и интегро-дифференциальных уравнений.

Первое исследование Чебышева по теории вероятностей «Опыт элементарного анализа теории вероятностей» появилось в печати в 1845 г. и было защищено в качестве магистерской диссертации. В этой работе Чебышеву удалось доказать теорему Бернулли и дать оценку точности получаемых при этом результатов с помощью совершенно элементарных средств, использующих из математического анализа только разложение In (1 —[—л;) в ряд Маклорена. В следующем году этот результат он обобщил на закон больших чисел в форме Пуассона. Эти первоначальные публикации послужили Чебышеву отправным пунктом для широкого обобщения закона больших чисел и для создания в работе «О средних величинах» (Математический сборник, т. 2, 1867) замечательного по простоте и силе метода доказательства, вошедшего с тех пор во все учебники* теории вероятностей. Формулировка результата и изложение его метода даны нами в основном тексте книги. ‘

Значительное расширение, условий приложимости закона больших чисел было достигнуто А. А. Марковым. В частности, им были доказаны такие результаты: если последовательность взаимно независимых случайных величин Е1> $2> •••> ^п» ••• такова, что или

»л2 0^0 (м->оо) .

или при некотором 8> 0 для всех А (А= 1, 2, 3, .. .)

м|ейГ+8<с

для некоторого С, то к этой последовательности применим закон больших чисед.

Мы говорили в главе «Закон больших чисел», что необходимые и достаточные условия применимости закона больших чисел к последовательности независимых случайных величин были найдены в 1926 г. А. Н. Колмогоровым.

Менее полны результаты, относящиеся к усиленному закону больших чисел. Наиболее законченные результаты, также принадлежащие А. Н. Колмогорову, были сформулированы и доказаны нами в основном тексте.

Своеобразное уточнение закона больших чисел было получено А. Я. Хинчиным в 1923 г. сначала для схемы Бернулли, а затем для схемы Пуассона. Позднее широкое обобщение результатов Хинчина было дано А. Н. Колмогоровым. Полученная при этом закономерность известна под названием закона повторного логарифма.

Введём обозначение ип

8n=|S Eft-S MSJ.

Рассмотрим функцию и (п). Если с вероятностью единица неравенство

§„>«(«)

выполняется только для конечного числа значений п, то функцию и (п) мы назовём верхней функцией, а если оно выполняется для бесконечного числа значений п^ то — нижней функцией. Усиленный закон больших чисел утверждает, что если величины Ед одинаково распределены и имеют математическое ожидание, то и (л) = гп является верхней функцией при любом е > 0. Закон повторного логарифма утверждает, что при некоторых достаточно широких условиях, наложенных на величины ^к, при любом з > 0 функции

п

и (и) = (1 + е) V2B„lnlnB„ (В* = S DEfc) 6=1

являются верхними, а функции

я (п) = (1 — е) V2Вп In In Вп

— нижними. В частности, если слагаемые ^ одинаково распределены и имеют конечную дисперсию, то закон повторного логарифма имеет место.

Более точное разграничение верхних и нижних функций для случая схемы Бернулли было достигнуто И. Г. Петровским, доказавшим, что если функция «о (х) монотонна, то и (/z) = v ^В.^ будет верхней (нижней) функцией, если интеграл

/

°° ।

~w(x) е 2 dx

с

сходится (расходится).

Дальнейшими изысканиями в направлении закона повторного логарифма занимались многие учёные как у нас, так и за границей.

В работе «О двух теоремах относительно вероятностей» (Приложение к 55 тому Записок Академии Наук, № 6, 1887) Чебышев впервые сформулировал теорему о сближении функций распределения сумм независимых случайных величин с нормальным законом распределения. Как в формулировке теоремы, так и в её доказательстве Чебышев допустил логические пробелы. Сравнительно скоро, вслед за публикацией Чебышева последовали две публикации А. А. Маркова («Закон больших чисел и способ наименьших квадратов», Изв. Физ.-мат. общ. при Казанском университете, 2-я серия, т. VIII, 1898; «Sur les racines de liquation e®3^^^-= О», Изв. Акад. Наук, 1898, т. IX), в которых ему удалось вполне точно сформулировать и доказать предложение, аналогичное предложению Чебышева. Путь, которым шёл Марков, был путь созданного Чебышевым метода моментов.

Теорема Маркова. Если последовательность взаимно независимых случайных величин 5Р 62, • •., Еп, • • • такова, что при всех целочисленных значениях г^й выполняются соотношения

Пт = 0,П ~> ОО Вп

. где пп

В» = S D^; с„ (О = 2 м I eft - М^ Г,

к=1к=1

пФ У,im Н/Г^-МУ <х}=-^- Р 21->ооI У2л JпФ У,im Н/Г^-МУ <х}=-^- Р 21->ооI У2л JТО

пФ У

,im Н/Г^-МУ <х}=-^- Р 2

1->ооI У2л J

пФ У

,im Н/Г^-МУ <х}=-^- Р 2

1->ооI У2л J

dz.

В 1900 г. А. М. Ляпунову удалось установить теорему в условиях, гораздо менее ограничительных, чем условия Маркова. Формулировка и доказательство теоремы Ляпунова были даны нами в основном тексте книги.

Условия Маркова делают ясным происхождение условия Ляпунова. Ляпунов впервые систематически использовал метод характеристических функций, превратившийся с тех пор в один из основных методов теории вероятностей. Помимо доказательства предложения, известного теперь под именем теоремы Ляпунова, в этих работах содержалось также определение границ погрешности, происходящей от замены точного закона распределения суммы предельным. Впоследствии уточнениям оценок Ляпунова было посвящено много работ, из которых в первую очередь нужно указать на исследования двух шведских математиков Г. Крамера и Эссеена.

Исследование С. Н. Бернштейна 1926 г. («О распространении предельной теоремы теории вероятностей на суммы зависимых случайных

величин», Успехи мат. наук, т. X, 1944) позволило перенести результат Ляпунова на суммы слабо зависимых случайных величин, а, также на последовательности случайных векторов. Нам важно сейчас отметить, что в работе Бернштейна предельная теорема была дана даже в несколько более широкой постановке. Бернштейн уже Ж требовал от величин $л ни существования математических ожиданий, ни дисперсий. Задача ставилась так: при каких условиях можно найти такие постоянные Ап и Вп> 0, чтобы функции распределения сумм п

к=л

сходились при п->оо к нормальному закону. Оказалось, что имеет место следующая теорема: если для последовательности $и 62» • • • взаимно независимых случайных величин при некоторых постоянных Сп выполняются соотношения (s > 0, произвольно)

п

SP{l^|>sC„}-*o(»-<»),

п г

CiT2S J x^dFk(x)-^oo(/г->со),

t==1 14D| < *cn

TO nx __^

А=1До

Впоследствии (1935) В. Феллер показал, что условия Бернштейна являются не только достаточными, но и необходимыми при дополнительном требовании в некотором смысле равномерной малости отдельных слагаемых в сумме.

В том же 1935 г. А. Я. Хинчин, В. Феллер и П. Леви независимо друг от друга нашли общие условия, при которых функции распределения сумм независимых одинаково распределённых слагаемых, нормированных и центрированных надлежащим образом подобранными постоянными, могут сходиться к нормальному закону. Оказалось, что для этого необходимо и достаточно, чтобы функция распределения слагаемых удовлетворяла следующему условию:

J dF<x) = o(^- J xa<ZF(x));

I х I >X| x | < X

Важные уточнения предельной теоремы Ляпунова были даны Ю. В. Линником, применившим к проблемам теории вероятностей методы аналитической теории чисел, разработанные И. М. Виноградовым,

Функции распределения сумм одинаково распределённых слагаемых были предметом изучения многих авторов. Так, П. Леви и А. Я. Хинчин нашли все распределения, которые могут выступать в качестве предельных для нормированных и центрированных сумм такого рода слагаемых. Оказалось, что для этого необходимо и достаточно, чтобы логарифм их характеристической функции имел вид

•§?(0=^—c^hji+^jTi^u «)},

где а, р, у, с — действительные постоянные (0<а^2, |Р|^1, с > 0, 7 — произвольно) и

<8?>1'1<8?>1'1о) (^ а) =о) (^ а) =для аф 1,

<8?

>1'1

<8?

>1'1

о) (^ а) =

о) (^ а) =

для а = 1.

Это—так называемые устойчивые законы. В 1939 г. Б. В. Гнеденко установил условия сходимости нормированных сумм одинаково распределённых независимых слагаемых к каждому устойчивому закону распределения: оказалось, что в то время как условия сходимости к нормальному закону носят совершенно общий характер, не зависящий от природы отдельных слагаемых, условия сходимости к устойчивым законам, отличным от нормального, включают в себя весьма специальные требования.

Более общая схема получения предельных распределений для сумм независимых случайных слагаемых была рассмотрена в работах Г. М. Бавли (1936 г.) и А. Я. Хинчина (1937 г.). Задача, которая стояла перед ними, была рассмотрена нами в главе 9 в частном случае слагаемых с конечными дисперсиями (случай Бавли). В общем случае (без предположения конечности дисперсий слагаемых) А. Я. Хинчин также доказал теорему: класс предельных распределений для сумм независимых бесконечно малых слагаемых совпадает с классом безгранично делимых распределений.

Б. В. Гнеденко нашёл условия сходимости функций распределения сумм к каждому предельному распределению. Метод, употреблённый при этом, состоит в том, что для каждой суммы строится вполне определённый «сопровождающий» неограниченно делимый закон распределения. Бесконечная малость слагаемых влечёт за собой сближение истинного закона распределения с сопровождающим. Вопрос о существовании предельных распределений сводится, таким образом, к более простой задаче разыскания условий сходимости безгранично делимых распределений.

Локальная теорема Муавра-Лапласа, несколько обобщённая нами в главе 9, получила для случая одинаково распределённых решетчатых слагаемых завершение в ряде работ Б. В. Гнеденко. Оказалось, что когда имеет место сходимость функций распределения нормиро-

КРАТКИЙ ОЧЕРК ИСТОРИИ ТЕОРИИ ВЕРОЯТНОСТЕЙ 363 ванных сумм к устойчивому закону, тогда имеет место и сближение вероятностей определённых значений с плотностью соответствующего устойчивого закона.

Сводное изложение результатов относящихся к суммированию независимых случайных величин имеется в монографиях А. Я. Хин- чина (1938), а также Б. В. Гнеденко и А. Н. Колмогорова (1949).

Идеи метрической теории функций в теории вероятностей

Идеи теории множеств и теории функций, культивировавшиеся в Москве Н. Н. Лузиным и его учениками, определили характер первых исследований московских математиков в теории вероятностей. Детальное изучение основных понятий теории вероятностей — случайного события, вероятности, независимости событий, случайной величины, математического ожидания и пр., а также операций со случайными величинами — показало, что между ними и основными понятиями теории множеств и метрической теории функций можно провести далеко идущие аналогии. Эти аналогии между столь, казалось бы, различными областями науки позволили по-иному осветить логические основы теории вероятностей, обогатить её содержание новыми постановками задач и методами исследования( а также довести до конца решение классических задач.

Начало московской школе теории вероятностей было положено в 1923 г. исследованием А. Я. Хинчина, посвящённым закону повторного логарифма. Приблизительно в то же время Е. Е. Слуцкий начал (с 1925 г.) создавать новую главу теории вероятностей— теорию случайных функций, т. е. случайных величин, зависящих от непрерывно изменяющегося параметра. Им были введены в рассмотрение и исследованы понятия стохастических предела, производной, интеграла, измеримости и пр. В том же 1925 г. появилось совместное исследование А. Я. Хинчина и А. Н. Колмогорова, посвящённое выяснению вопроса сходимости рядов из взаимно независимых случайных величин ^, Е2> ^з> • • • Оказалось, что ряд

^ + ^ + ^з+ • • •

может сходиться к некоторой величине, вообще говоря, случайной, только с крайними вероятностями 0 и 1 и не может быть случая, чтобы он сходился с промежуточной вероятностью, скажем .

Позднее А. Н. Колмогоровым была установлена теорема, утверждающая, что если бэровская функция / 0Х, 62, ...) счётного числа независимых случайных аргументов не меняется при изменении значений конечного их числа, то вероятность равенства

f Gi> ^а> ^з> • • •) = а

может равняться только нулю или единице,

Эти начальные исследования московских математиков в области теории вероятностей нашли широкий отклик в мировой науке.

Идеи метрической теории функций привели к построению системы аксиом теории вероятностей, в законченном виде изложенной в 1933 г. А. Н. Колмогоровым. Эта система аксиом — из всех предложенных до настоящего времени наиболее простая — позволила охватить не только все классические разделы теории вероятностей, но и новые её разделы, вызванные запросами естествознания. Эта аксиоматика была изложена нами в первой главе, а также в дополнении 1.

С указанной точки зрения случайное событие есть подмножество множества и «элементарных событий», вероятность — абстрактная мера, определённая на этом множестве и подчинённая условию нор- мированности Р(«)=1; случайная величина есть измеримая относительно этой меры функция, математическое ожидание есть интеграл Лебега; сходимость случайных величин по вероятности есть не что иное, как сходимость функций по мере, а сходимость с вероятностью единица означает сходимость почти всюду и т. д.

Изучение многих важных задач теории вероятностей (усиленный закон больших чисел, сходимость рядов со случайными членами, закон повторного логарифма и др.) привело к необходимости рассмотрения бесконечномерных распределений. Основные результаты, относящиеся к бесконечномерным распределениям, изложены в книге А. Н. Колмогорова «Основные понятия теории вероятностей».

В связи с исследованиями в области механики непрерывных сред были изучены некоторые вопросы теории случайных скалярных и векторных функций (А. Н. Колмогоров, А. М. Обухов). Эти результаты также тесно связаны с исследованиями в области теории случайных процессов.

Теория случайных процессов

Исторически направление исследований, объединяемое теперь под названием общей теории случайных процессов, имеет два источника. С одной стороны, это—работы А. А. Маркова об «испытаниях, связанных в цепь», с другой — исследования французского математика Башелье о «непрерывных вероятностях», начатые по замыслу А. Пуанкаре. Второе из этих направлений приобрело прочную логическую основу лишь после создания теоретико-множественной системы построения основ теории вероятностей. И собственно только работы А. Н. Колмогорова и А. Я. Хинчина превратили наброски элементов теории и притом выполненные на весьма низком математическом и логическом уровне, данные Башелье, а также отдельные разрозненные задачи физики и естествознания, решённые различными иногда и весьма крупными учёными, в стройную теорию.

Многочисленные математические результаты, широкие возможности приложений к естествознанию, а также решающее влияние на классическую проблематику привели к тому, что теория случайных процессов, построенная А. Н. Колмогоровым и А. Я. Хинчиным, ознаменовала собой новый этап в развитии теории вероятностей и в настоящее время стала основным полем приложения творческих усилий математиков, работающих в теории вероятностей.

Развитие теории случайных процессов тесно переплетается с теорией динамических систем. Заметим при этом? что обе эти теории соответствуют идеям и представлениям доквантовой физики. Подобная же логико-математическая обработка концепций квантовой физики только ещё начинается. Важнейшие работы в указанном направлении были выполнены Н. М. Крыловым и Н. Н. Боголюбовым. Им же принадлежат исследования, произведённые в широком плане, по применению разработанного аппарата к проблемам статистической физики.

Пусть изучаемая система может находиться в одном из состояний Ev Е^ ..., Еп„ ...в конечном или счётном числе, и процесс её изменения разложен на «шаги», занумерованные целыми числами t (дискретное время). Пусть, кроме того, условная вероятность перехода из состояния Е^ в состояние Ej за шаг с номером t не зависит от более ранней истории системы (отсутствие последействия). Такого рода случайный процесс называется цепью Маркова. Только что указанные вероятности мы обозначим символом р<3 (f), а вероятность перехода из состояния Е^ в состояние Е^ за s шагов — через P^^s), если в состоянии Et система находилась в момент t Совершенно ясно, что

'SiPatt' 8—1)рхД<^8) = Ру(1; s). k

В случае, когда р^(0 = Р^ цепь Маркова называется однородной. В главе 3 мы рассмотрели некоторые простейшие задачи их теории. Эргодическая теорема А. А. Маркова, доказанная нами в § 19, послужила прототипом исчерпывающих исследований В. И. Романовского, С. Н. Бернштейна, А. Н. Колмогорова и др.

Типичной постановкой задачи в исследованиях Маркова было изучение сумм последовательности случайных величин

$1» $2» • • •) 5П, • • •, определённых тем, что Еп принимает значение а^ если через п шагов от начального состояния Е^ система попадает в состояние Ej. Естественно, что суммы, ^ = Ei + ^ + • • • + ^ могут быть записаны в виде

3

где р^(/) есть число попаданий в состояние / за первые / шагов при исходном состоянии Е*.

Для однородного по времени процесса задачи, связанные с обычным и усиленным законом больших чисел, решены полностью. Закону повторного логарифма посвящены работы Т. А. Сарымса- кова. Интегральной предельной теореме также посвящён ряд важных исследований. Исчерпывающая формулировка и доказательство локальной теоремы были даны недавно А. Н. Колмогоровым. Сводное изложение всех полученных результатов имеется в недавней монографии В. И. Романовского «Дискретные цепи Маркова», а также в книге С. Н. Бернштейна «Теория вероятностей» (4-е изд.).

Неоднородные цепи Маркова были предметом весьма важных и тонких исследований С. Н. Бернштейна, Ю. В. Линника, Н. А. Сапогова.

Основные результаты теории цепей Маркова существенно опираются на предпосылку отсутствия последействия. Если сохранить это требование, но перейти к произвольному фазовому пространству Й = {ш} возможных состояний и отбросить ограничение значений времени целыми числами, то мы получаем общую концепцию марковского случайного процесса, управляемого вероятностью перехода Р{^, /2; со, X} за промежуток времени от tx до f2 из состояния <о в одно из состояний множества X £ Q. Эти вероятности подчинены при любых ^ < ^ < ^з обобщённому уравнению Маркова

P\tv ^: “о» М = /р(^> 4$; ®> МИ4» ^; ®о. <М-

Общая теория марковских процессов и их классификация были даны А. Н. Колмогоровым в 1930 г. В главе 10 нами был дан набросок их теории для случая, когда фазовым пространством является множество действительных чисел.

Разработке различных вопросов теории случайных процессов марковского типа было посвящено большое число работ многих советских учёных — С. Н. Бернштейна, А. Я. Хинчина, В. М. Дубровского, Н. Н. Боголюбова, Н. М. Крылова, И. Г. Петровского, М. А. Леонтовича, М. В. Бебутова, А. М. Яглома и др.

В качестве нового направления исследований в этой области необходимо отметить недавние статьи А. Н. Колмогорова и его учеников Н, А. Дмитриева, Б. А. Севастьянова, А. М. Яглома, посвящённые созданию и разработке теории ветвящихся случайных процессов, охватившей важные схемы ветвящихся цепных реакций.

В случае марковских процессов основную роль играют переходные вероятности P(tv t^ “, А) при заданном состоянии со в момент tv Самое существование безусловных вероятностей .для того или иного течения процесса здесь, вообще говоря, не предполагается.

В теории стационарных случайных процессов становятся на иную точку зрения: исходным является распределение вероятностей в пространстве функций <0 (/), где t пробегает действительную прямую, а значения со берутся из фазового пространства Q. Требование ста-

ционарности процесса состоит в том, что вероятность Р{ю(/) cz Л} принадлежности функции <о(/), описывающей ход процесса во времени, какому-нибудь множеству Л не меняется, если множество Л заменить множеством НХА, получающимся при замене каждой функции ш (^ из Л на о(/—т).

Изучение стационарных процессов с фазовым пространством Q эквивалентно изучению динамических систем с инвариантной мерой в пространстве QB функций ш (Л действительного переменного со значениями из Q. Эта связь была ясна создателю теории стационарных процессов А. Я. Хинчину с самого начала.

Из общих результатов теории стационарных процессов нужно в первую очередь указать на корреляционную теорию, элементы которой были изложены нами в главе 10, а также на знаменитую эргодическую теорему Биркгофа-Хинчина.

В развитии теории стационарных процессов принимали участие Е. Е. Слуцкий, В. И. Романовский, А. Н. Колмогоров, М. Г. Крейн, В. Н. Засухин и др. Обзор работ по корреляционной теории стационарных процессов можно найти в статье А. Н. Колмогорова «Статистическая теория колебаний с непрерывным спектром» (юбилейный сборник, посвящённый тридцатилетию Великой Октябрьской социалистической революции, т. I, Акад. Наук СССР, 1947).

В настоящем кратком обзоре мы не касаемся важных исследований по случайным процессам, не укладавающимся в только что описанные схемы.

В нашем кратком обзоре не были затронуты многие важные результаты советских математиков в области теории вероятностей. Эта тема заслуживает специального исследования и несравненно большего объёма, чем тот, которым я располагал в настоящем дополнении. Мне представляется, что здесь и нет необходимости перечислять все работы и называть все имена, способствовавшие развитию науки. Существенно другое: показать, в какой огромной мере расцвела советская наука за последние 30 лет. Теория вероятностей является одним из многих примеров того, как наука, имевшая крупнейших представителей уже в дореволюционной России, получила всестороннее развитие и имеет в качестве своих представителей не единичных крупных учёных, а многочисленную научную школу, около которой группируется и получает непрерывные стимулы для творческой деятельности талантливая молодёжь. Ведущая роль советской теории вероятностей в современном развитии науки подчёркивается не только нами, но и всеми прогрессивными учёными как Западной Европы, так и Америки.

ЛИТЕРАТУРА

Популярная

Э. Борель, Случай, ГИЗ, 1923.

Б. В. Гнеденко, Как математика изучает случайные явления. Изд. Акад. Наук УССР, Киев, 1947.

Б. В. Гнеденко и А. Я. Хин чин, Элементарное введение в теорию вероятностей, 2-е изд., Гостехиздат, 1950.

Основная философская

В. И. Ленин, Материализм и эмпириокритицизм, ОГИЗ, 1946.

В. И. Ленин, Философские тетради, ОГИЗ, 1947.

И. В. Сталин, Вопросы ленинизма, 11 изд., 1946.

Ф. Энгельс, Анти-Дюринг, ОГИЗ, 1948.

Ф. Энгельс, Диалектика природы, ОГИЗ, 1948.

Учебная и монографическая

С. Н. Бернштейн, Теория вероятностей, 4-е изд., Гостехиздат, 1946.

Н. Д. Г и л е н ко, Задачник по теории вероятностей, Учпедгиз, 1943.

В. И. Гливенко, Курс теории вероятностей, ГОНТИ, 1939.

В. И. Гливенко, Интеграл Стильтьеса, ОНТИ, 1936.

Б. В. Гнеденко и А. Н. Колмогоров, Предельные распределения для сумм независимых случайных величин, Гостехиздат, 1949.

В. Л. Гончаров, Теория вероятностей, Оборонгиз, 1939.

А. Н.^К о л мо г о р о в, Основные понятия теории вероятностей, ОНГИ,

Г. К р a i^e р, Случайные величины и распределения вероятностей,

Г. Крамер, Математические методы статистики, ГИИЛ, 1948.

Р. L6vy, Theorie des proces stochastiques, Paris, 1947.

А. А. Марков, Исчисление вероятностей, 4-е изд., ГИЗ, 1924.

Р. Мизес, Вероятность и статистика, ГИЗ, 1930.

R. Mieses, Wahrscheinlichkeitsrechnung, 1931.

В. И. Романовский, Математическая статистика, ОНТИ, 1938.

В. И. Романовский, Основные задачи теории ошибок, Гостехиздат, 1947.

В. И. Романовский, Дискретные цепи Маркова, Гостехиздат, 1949.

I. Todhunter, A history of the mathematical theory of probability, 1865.

M. F г ё c h e t, Recherches th£oriques modernes. Traite du calcul des probabilites, Paris, 1937, t. t. I, II.

А. Я. Хинчин, Основные законы теории вероятностей, ГТТИ, 1932.

А. Я. Хинчин, Асимптотические законы теории вероятностей, ГТТИ, 1936.

А. Я. Хинчин, Предельные законы для сумм независимых случайных величин, ОНТИ, 1938.

А. Я. Хин чин, Математические основания статистической механики, Гостехиздат 1943.

С. Чандрасекар, Стохастические проблемы в физике и астрономии, ГИИЛ, 1947.

Эйнштейн и Смолуховский, Сборник* статей по теории броуновского движения, ОНТИ, 1936.

I. V. Uspensky, Introduction to Mathematical Probability, 1937.

Ж урнальная

К главе 1

С. И. Бернштейн, Опыт аксиоматического обоснования теории вероятностей, Сообщения Харьк. матем. об-ва, т. 15, 1917.

Б. В. Гнеденко, Развитие теории вероятностей в России, Труды ин-та истории естествознания Акад. Наук СССР, т. 2, 1948.

Б. В. Гнеденко, Теория вероятностей и познание реального мира, Усп. матем. наук, т. V, вып. 1, 1950.

Б. В. ,Г н еде нко и А. Н. Колмогоров, Теория вероятностей, сборник «Математика в СССР за тридцать лет», 1948.

А. Н. Колмогоров, Роль русской науки в развитии теории вероятностей, Учён. зап. МГУ, вып. 91, 1947.

Н. В. Смирнов, Математическая статистика, сборник «Математика в СССР за тридцать лет», Гостехиздат, 1943.

А. Я. Хин чин, Учение Мизеса о вероятностях и принципы физической статистики, Усп. физ. наук, т. IX, вып. 2, 1929.

К главе 2

С. Н. Бернштейн, Возврат к вопросу о точности предельной формулы Лапласа, Изв. Акад. Наук СССР, т. 7, 1943.

Н. В. Смирнов, О вероятностях больших уклонений, Мат. сб., т. 40, № 4, 1933.

W. Feller, On the normal approximation to the binomial distribution, Annals of Math, statistics, v. XVI, 1945.

А. Я. Хин чин, Ober einen neuen Grenzwertsatz der wahrscheinlichkeits- rechnung, Math. Ann., B. 101, 1929.

К главе 3

A. H. Колмогоров, Цепи Маркова со счётным множеством возможных состояний, Бюлл. МГУ, т. I, вып, 3, 1937.

А. А. Марков, Исследование замечательного случая зависимых испытаний, Изв. Рос. Акад. Наук, т. 1, 1907.

К главе 4

Б. В. Гнеденко и Е. Л. Рваче в а, Об одном характеристическом свойстве нормального закона, Труды матем. ин-та Акад. Наук УССР, вып. 12, 1948.

Н. Cramer, Ober eine Eigenschaft der normalen Verteilungs function, Math. Zeitschr., B. 41, 1936.

A. M. Обухов, Теория корреляции векторов, Учён. зап. МГУ, вып. 45, 1940.

К главе 6

С. Н. Бернштейн, О законе больших чисел, Сообщ. Харьк. матем, об-ва, т. XVI, 1918.

Ю. В. Прохоров, Об усиленном законе больших чисел, ДАН СССР, т. 69, № 5, 1949.

24 Зак. 1826. Б. В. Гнеденко.

Е. Е. Слуцкий, Ober stochastische Asymptoten und Grenzwerte, Met- ron 5, 1925."

П. Л. Чебышев, О средних величинах, Матем. сб^ т. 2, 1867; Полное собр. соч., т. 2, 1948.

К главе 7

Б. В. Гнеденко, О характеристических функциях, Бюлл. МГУ, т. I, вып. 5, 1937.'•

М. Г. К р е й н, О представлении функций интегралами Фурье-Стильтьеса, Учён. зап. Куйбышевского пед. ин-та, вып. 7, 1943.

А. Я. X и н ч и н, Об одном признаке для характеристических функций, • Бюлл. МГУ, т. I, вып. 5, 1937..

К главе 8

С. Н. Бернштейн, Распространение предельной теоремы теории вероятностей на суммы зависимых величин. Усп. матем. наук, вып. X, 1944.

Б. В. Гнеденко, Элементы теории функций распределения случайных векторов, Усп. матем. наук, вып. X, 1944.

С. G. Esseen, Fourier analysis of distribution function. A mathematical study of the Laplace-Gaussian law. Acta Mathematica, t. 77, 1945.'

J. W. Lindeberg, Eine neue Herleitung des Exponentialgesetz in der Wahrscheinlichkeitsrechnung, Math. Zeitschr., B. 15, 1922.•

Ю. В, Линник, О точности приближения к гауссову распределению сумм независимых случайных величин, Изв. Акад, наук СССР, т. II, 1947.

А. М. Ляпунов, Sur une proposition de la theorie des probabilitfes, Bull. Acad. Sc. Peter. 13, 1900.

A. M. Ляпунов, Nouvelle forme du th6or£me sur la limite des probabi- lites, там же 1901..

W. Feller, Ober den zentralengrenzwertsatz der Wahrscheinlichkeitsrechnung, Math. Zeitschr. B. 40, 1935.

П. Л. Чебышев, О двух теоремах относительно вероятностей, Зап. Акад, наук 1887; Полное собр. соч., т. 2, 1948.

К главе 9

L Г. М. Б а в л и, Ober einige Verallgemeinerungen der Grenzwertsatz der Wahrscheinlichkeitsrechnung, Матем. сб., т. I (43), № 6, 1936.

Б. В. Гнеденко, Об одном характеристическом свойстве безграничноделимых законов распределения, Бюлл. МГУ, т. I, вып. 5, 1937.

Б. В. Гнеденко. Предельные законы для сумм независимых случайных величин, Усп. матем. наук, вып. X, 1944.

А. Я. X и н ч и н, Новый вывод одной формулы П. Леви, Бюлл. МГУ, т. I, вып. 1, 1937.

К главе 10

В. М. Дубровский, Обобщение теории чисто разрывных случайных процессов, ДАН СССР, т. XIX, 1938.

В. М. Дубровский, Исследование чисто разрывных случайных процессов методом интегро-дифференциальных уравнений, Изв. Акад, наук СССР, т. 8, 1944.

А. Н. Колмогоров, Об аналитических методах в теории вероятностей, Усп. матем. наук, вып. 5, 1938.•

А. Н. Колмогоров, Интерполирование и экстраполирование стационарных случайных последовательностей, Изв. Акад, наук СССР, 1941.

А. Н. Колмогоров, Статистическая теория колебаний с непрерывным спектром, Юбил. сборник Акад, наук СССР, ч. 1, 1947.

А. Н. Колмогоров и Н. А. Д митр ие в, Ветвящиеся случайные процессы, ДАН СССР, т. 56, №1,1947.

А. Н. Колмогоров и Б. А. Севастьянов, Вычисление финальных вероятностей для ветвящихся случайных процессов, ДАН СССР, т. 56, № 8,1947.

Б. А. Севастьянов, Ветвящиеся случайные процессы. Вестник МГУ, № 3, 1948.

А. Я. Хин чин, Теория корреляции стационарных стохастических процессов, Усп. матем. наук, рып. 5, 1938.

В. Феллер, К теории стохастических процессов, Усп. матем. наук, вып. 5, 1938.

А. М. Я г л ом, К вопросу о линейном интерполировании стационарных случайных последовательностей и процессов, Усп. матем. наук, т. IV, вып. 4, 1949.

К главе 11

С. Н. Бернштейн, О доверительных вероятностях Фишера. Изв. Акад, наук СССР, т. 5, 1941.

A. Wald, Sequential Tests of Statistical Hypotheses, Ann. of Math. Statistics., v. 16., 1945.

В. И. Гливенко, Sulla determinatione empirica di una legge di probabi- lita, Giornale dell’lstituto Italiano degli Attuari, t. 4, 1933.

A. H. Колмогоров, Sulla determinatione empirica di una legge di dishibutione, Giornale dell’lstituto Italiano degli Attuari, t. 4, 1933.

A. H. Колмогоров, Определение центра рассеивания и меры точности по ограниченному числу наблюдений, Изв. Акад, наук СССР, т. 6, 1942.

А. Н. Колмогоров и Ю. В. Прохоров, О суммах случайного числа случайных слагаемых, Усп. матем. наук, т. IV, вып. 4, 1949.

Ю. Нейман, Статистическая оценка как проблема классической теории вероятностей, Усп. матем. наук, выл. X, 1944.

Н. В. Смирнов, Оценка расхождения между эмпирическими кривыми распределения в двух независимых выборках, Бюлл. МГУ, т. 2, вып. 2, 1939.

Н. В. Смирнов, Приближение законов распределения случайных величин по эмпирическим данным, Усп. матем. наук, т. X, 1944.

W. Feller, On the Kolmogorov-Smirnov, Limit Theorems for empirical distribution, Annals of Math. Stat, v. XIX, 2, 1948.

X

0

1

2

3

4

5

6

7

8

9

0,0

0,3989

3989

3989

3988

3986

3984

3982