Книга
← К списку книгЗагрузка разделов…
активнаАктивные записи участвуют в каталоге и синках. Неактивная книга скрыта, но не удалена из базы.
Книга
Часть 1ТЕОРИЯ ВЕРОЯТНОСТЕЙ
Элементы комбинаторики 7
Случайные события15
Классическое определение вероятности22
Геометрические вероятности 29
Условные вероятности. Независимость событий32
Общее определение вероятности39
Формула полной вероятности и формула Байеса52
Последовательные испытания (схема Бернулли) 56
Предельные теоремы для схемы Бернулли62
Случайные величины и функции распределения69
.Совместные функции распределения нескольких случайных величин .... 78
Числовые характеристики случайных величин 84
Производящие и характеристические функции 97
Законы распределения случайных величин 107
Распределения сумм независимых случайных величин.
Свертки распределений 116
Неравенство Чебышева. Закон больших чисел 122
Центральная предельная теорема 129
Часть 2МАТЕМАТИЧЕСКАЯ СТАТИСТИКА
Случайная выборка. Эмпирическая функция распределения136
Оценки параметров распределения. Выборочные моменты146
Асимптотические свойства выборочных моментов 156
Доверительные интервалы 159
Неравенство Рао-Крамера 165
Проверка статистических гипотез171
Оценка параметров общей линейной модели (метод наименьших квадратов) 178
Метод максимального правдоподобия 185
Процедура рекуррентного оценивания 191
Ответы и решения к зад аяам194
Таблицы214
Литература220
Предметный указатель221
Предисловие
Изложение теории вероятностей и математической статистики сразу в строго формализованном виде на основе теории меры не способствует выработке у читателя правильных интуитивных понятий, связанных с этими дисциплинами. Существует своего рода вероятностное мышление, которое формируется поэтапно, по мере углубления в рти своеобразные разделы математики. Появление, данного учебника продиктовано желанием создать краткий курс теории вероятностей и математической статистики, в котором материал был бы изложен на довольно строгом уровне и в то же время был бы понятен широкому кругу читателей. Это предъявляет жесткие требования к отбору материала. В учебник включены основополагающие результаты теории Вероятностей и математической статистики, для строгого доказательства которых не требуется слишком громоздкий аналитический аппарат. Изложение сопровождается большим количеством примеров и задач, которые снабжены решениями.
В конце каждого параграфа приводится набор задач для самостоятельного решения. Задачи подобраны так, чтобы Проиллюстрировать применение значительной части материала, изложенного в параграфе. В конце учебника даны ответы, а для наиболее интересных задач дано частичное Или полное решение.
Учебник предназначен, в основном, для студентов нематематических специальностей и тех, кто решил приобрести Начальные знания по теории вероятностей и математической Статистике. Он также может быть полезным преподавателям элементарного курса теории вероятностей и математической статистики для систематизации материала.
Список ОБОЗНАЧЕНИЙ
Рп - число перестановок
Л* - число размещений
С* - число сочетаний, биномиальные коэффициенты
О - пространство элементарных событий w
А - событие дополнительное к А
Р() - вероятность события
Е(-) - математическое ожидание случайной величины
D0 - дисперсия случайной величины
cov(-, •) - ковариация случайных величин
Ф($) - функция Лапласа
ф(х) - функция Гаусса
J\f(aj) - стандартное нормальное распределение
Ю^х) - функция распределения Колмогорова
Р1(») - функция распределения Пирсона с к степенями свободы
Sk(x) - функция распределения Стьюдента с к степенями свободы
1д (®) - индикатор множества А
^(z) - производящая функция
y^z) - характеристическая функция
/ ♦ ^(0 ~~ свертка функций / и д
Хп ~ выборочное среднее
S^ - выборочная дисперсия
zp - квантиль порядка р
zp - выборочная квантиль порядка р
^(к) ™ ^-ая порядковая статистика
1п(9) - информационное количество Фишера
~,«,о(1) - символы, определенные на стр. 62
Часть 1
ТЕОРИЯ ВЕРОЯТНОСТЕЙ
Теория вероятностей - это математическая наука, изучающая закономерности случайных явлений.
§ 1. Элементы комбинаторики
Комбинаторикой называется область математики, в которой изучаются вопросы о том, сколько различных комбинаг- ций, подчиненных тем или иным условиям, можно составить из заданных объектов.
Определение 1. Множество (совокупность элементов) называется занумерованным, если каждому элементу этого множества сопоставлено свое натуральное число (номер) от 1 до п.
В случае, когда п является конечным, говорят, что множество состоит из п элементов. Если п = оо, то множество называется счетным.
Для краткости занумерованные множества также будут Называться наборами.
Определение 2. Отличающиеся друг от друга порядком наборы, составленные из всех элементов данного конечного множества, называются перестановками этого множества.
Пример 1. Множество, состоящее из трех элементов {1,2,3}, имеет следующие перестановки: (1,2,3), (1,3,2), (2,3,1), (2,1,3), (3,2,1), (3,1,2). Число всех перестановок множества из п элементов обозначается Рп.
Теорема 1 (о числе перестановок). Число перестановок Рп определяется по формуле Рп = п'., где n! = 1 • 2 • 3 •... • п.
Доказательство. Отведем для размещения элементов данного набора п занумерованных ячеек (мест). Первое место может занимать элемент с любым из номеров 1,2,..., п. Пусть, например, это элемент с номером 1. На остальных п — 1 местах могут стоять элементы с различными наборами номеров из чисел 2,3,..., п, отличающиеся друг от друга лишь порядком. Число возможных таких наборов равно
числу перестановок Pn-v Таким образом, число различных наборов, состоящих из п элементов, у которых на первом месте стоит элемент с номером 1, равно Рп-1* Случай, когда на первом месте стоит элемент с номером 1, ничем не отличается от случая, когда на первом месте стоит элемент с любым другим номером. Следовательно, число различных наборов с фиксированным первым элементом равно Pn-i. Поскольку на первое место можно поместить п различных элементов с номерами от 1 до п, то число всех отличающихся друг от друга наборов множества из п элементов будет nPn-i, т. е. Рп = пРп_1. Это равенство справедливо для любого п, поэтому можно написать цепочку равенств
Рп =пР„ 1 = п(п - 1)Рп-2 =
= п(п — 1)(п — 2)Рп_з = • • • = п(п — 1)(п — 2)... 2Pi.
Остается лишь заметить, что Pi = 1.
Задача 1. Сколькими различными маршрутами можно разнести корреспонденцию в 5 адресов?
Решение. Занумеруем адреса цифрами от 1 до 5. Каждому маршруту можно сопоставить один из наборов, состоящих из этих пяти цифр, например, (2,5,3,4,1). Такой набор означает, что сначала выбирается второй адрес, затем пятый, третий, четвертый и первый. Всего различных маршрутов, т. е. отличающихся порядком наборов пяти цифр будет 5!= 120.
Задача 2. Цифры 0,1,2,3 написаны на четырех карточках. Сколько различных четырехзначных чисел можно составить из этих карточек?
Решение. Число различных комбинаций из четырех цифр равно 4?. Не все эти комбинации являются четырехзначными числами, т. к. есть комбинации, начинающиеся с нуля. Таких комбинаций будет 3? и их нужно исключить. В результате число различных четырехзначных чисел равно 4! - 3! = 18.
Определение 3. Упорядоченные наборы, состоящие из к различных элементов, выбранных из данных п элементов, называются размещениями из п элементов по к.
Размещения могут отличаться друг от друга как элементами так и порядком.
Пример 2. Различными размещениями множества из трех элементов {1,2,3} по два будут наборы (1.2), (2,1), (1,3), (3,1), (2,3), (3,2).
Число всех размещений из п элементов по к обозначается А\. При к = п число размещений совпадает с числом перестановок.
Теорема 2 (о числе размещений). Число размещений из r элементов по к определяется по формуле
4 = «(—D .(«-t + i) = ^.
Доказательство. Отведем для элементов размещения к занумерованных мест. Поскольку размещения упорядочены, то это означает, что у каждого элемента есть номер места, на котором он расположен: 1-й, 2-й, ... или к-й. На Первом месте в размещении может стоять элемент с любым Из номеров 1,2,..., п. Поставим на первое место, например, Элемент с номером 1. Для того, чтобы получить различные размещения из п элементов по к, у которых единица стоит На первом месте, нужно из оставшихся п — 1 элементов состарить всевозможные размещения по к— 1 элементу и поставить их на свободные к — 1 мест. Следовательно, число различных размещений с единицей на первом месте будет равно a£~i. На первое место можно поставить также любой из элементов 2,3,... или п, и каждый раз число различных размещений С фиксированным первым элементом будет равно Л^1 • Так как на первое место можно поместить п различных элементов, то число всех размещений из п элементов по к будет »А„1|, т. е. А* = пА„~1. Это равенство верно для любых к,п таких, что к ^ п. Используя этот факт и очевидное соотношение A^_i+1 = п - к 4-1, получим
4 = п(п - 1)4-2 = п(п - 1 (п - 2). . л^^З =
= п(п- l)...Ai_H1 = n(n- 1) (п — к -Ц)= ^^-
Задача 3. Студентам надо сдать 4 экзамена за 8 дней. Сколькими способами можно составить расписание сдачи экзаменов?
Решение. Занумеруем дни сдачи экзаменов цифрами 1,2,...,8. Составлять различные расписания можно следующим образом. Сначала выберем дни для сдачи экзаменов, например, (2,4,5,7), а затем порядок сдачи экзаменов. Таким образом, нужно составить различные наборы четырех чисел из восьми, которые отличаются друг от друга не только элементами, но и порядком. Таких наборов Л| =8*7-6-5 = 1680.
Определение 4. Неупорядоченные наборы, состоящие из к элементов, взятых из данных п элементов, называются сочетаниями из п элементов по к.
Сочетания отличаются друг от друга только элементами.
Пример 3. Для множества {1,2,3} сочетаниями по 2 элемента являются {1,2}, {1,3}, {2,3}.
Число всех сочетаний из п элементов по к обозначается Ct
Теорема 3 (о числе сочетаний). Число сочетаний из п элементов по к определяется по формуле
- та!п &(п - к)! *
Доказательство. Формулу для числа сочетаний проще всего вывести, основываясь на формулах для числа размещений и перестановок. Для получения этой формулы зададимся вопросом о том, как можно образовать различные размещения из п элементов по к. Можно составить различные сочетания из п элементов по к, а потом в каждом из сочетаний различными способами поменять порядок. Таким образом, чтобы получить всевозможные размещения, нужно для каждого из С£ сочетаний осуществить 1?! перестановок. Следовательно, А* = С* • к\. Отсюда получаем Сп = А\(к\ = к^п _ ку •
Задача 4. В хоккейном турнире участвуют 6 команд. Каждая команда должна сыграть с каждой одну игру. Сколько игр сыграно в турнире?
Решение. Различные пары команд образуют сочетания из 6 по 2, поскольку порядок среди двух команд, играющих в одной игре, нам безразличен. Следовательно, число игр будет равно С| = ^ = 15.
Задача 5. Имеется прямоугольник, разбитый на клетки. При этом вдоль одной стороны п клеток, а вдоль другой - т.
Рис. 1
Пусть можно двигаться только по сторонам клеток либо вправо, либо вверх. Сколько существует различных путей Из левого нижнего угла в правый верхний?
Решение. Сопоставим ходам вдоль клеток цифры 0 и 1. При этом 0 означает, что мы идем вправо, al- вверх. Тогда каждому пути соответствует набор из т 4- п цифр, например, 00110...10, в котором будет ровно п нулей и т единиц. Сколько таких различных наборов цифр? Всего в таком наборе имеется m 4- п позиций, и надо среди них разместить т единиц, а остальные места оставить для нулей. Выбрать т позиций среди m 4- я можно С™+п способами. Столько существует различных путей.
Коэффициенты С„ называются биномиальными коэффициентами, так как они входят в формулу бинома Ньютона
(а4-6)” =
4=о
Свойства коэффициентов С^:
£ С5 = 2";2) С^ = С?"*;3) Cj = С^} + С?_„
4=0
где полагаем 0! = 1 и С° = С„ = 1.
Первое свойство следует из формулы бинома Ньютона при а = 1,6 = 1. Второе свойство непосредственно вытекает из формулы для числа сочетаний С„. Третье свойство можно проверить следующим образом:
•fc-1 .Гк _ (п -1)!, (п -1)!_
п-1 -гfct(n _ к _ t)!
= _-l =^n~1)!—
(fc — l)!(n — fc — 1)! \n — fc к) (fc - l)!(n - к - 1)! (n - к)к n
CSС? С}СОz^l /^22СО<^1/^2/^>3зС'0 /^*1/^2л^З /^44 V4О 4V4О4CSС? С}СОz^l /^22СО<^1/^2/^>3зС'0 /^*1/^2л^З /^44 V4О 4V4О4Третье свойство позволяет последовательно вычислять биномиальные коэффициенты С„ с помощью так называемого треугольника Паскаля:
CS
С? С}
СОz^l /^2
2
СО<^1/^2/^>3
з
С'0 /^*1/^2л^З /^4
4 V4О 4V4О4
CS
С? С}
СОz^l /^2
2
СО<^1/^2/^>3
з
С'0 /^*1/^2л^З /^4
4 V4О 4V4О4
1
1 1
1 2 1
13 3 1
1 4 6 4 1
Здесь каждое число кроме крайних единиц является суммой двух вышерасположенных.
Формула Стирлинга (без доказательства)
где |ап| ^ 1/12, а е to 2.718 - основание натурального логарифма.
Эта формула является полезной при больших п. Например, из нее следует, что 1п(п!) с точностью до 1/(12п) приближается выражением
| 1п(2х) 4- (п 4- ^ In п - п.
Рассмотрим вопрос о числе комбинаций элементов, составленных из элементов различных групп. Считаем, что в состав комбинации входит по одному элементу из каждой группы и порядок элементов безразличен.
Теорема 4 (о числе комбинаций). Число различны® комбинаций элементов вида (а1, а2,..., аг), где а1 - некоторый элемент l-й группы, состоящей изтц элементов, равно П1П2 ...пг.
Доказательство. Докажем сначала теорему для комбинаций элементов вида (а1, а2), составленных из элементов двух групп, т. е. рассмотрим сначала случай г = 2. Составим из пар элементов (a,, a2), i = 1,2, ...,ni, 3 = 1,2, прямоугольную таблицу (матрицу), содержащую ni строки #2 столбцов, так чтобы пара (а,,а^) стояла на пересечении i-й строки и j-ro столбца:
(«!.«?)
(-1,4)
(4>аз) ..
■• (4,43)
(«!,«?)
(а2> а^)
(4,4)
•• (4,43)
(«3.®1)
(4,4)
(4,4)
• (4,43)
№>2)
(4,, 4) •
(4X,43)
Каждая из пар (а,1, а2) встречается в этой таблице один И только один раз, и число таких пар равно произведению П1П2. Тем самым, утверждение теоремы справедливо при г = 2. Для случая произвольного числа групп элеменТов формула о числе комбинаций доказывается по индукции. Предположим, что она верна для г = к и докажем ее для г = к 4- 1. Первые к элементов можно рассматривать как один элемент вида 61 = (а1,а2,.. .,«*). По предположению число различных элементов этой объединенной группы равно т = П1П2...П*. Любой элемент (а1,а2,...,а*+1) Из группы, состоящей из к 4- 1 элемента, представим в виде (а1,а2,...,а*+1) = (б1,^4-1). Используя полученную формулу для числа различных элементов, составленных из Двух групп, получим, что число комбинаций элементов вида (а1,а2,...,а*+1) определяется равенством N = mnt+i = d П1П2 • • .ПкПь^1. Тем самым, формула о числе элементов верна для г = Ь4-1. Индукционный переход от г = к к г = 44-1 завершен, а значит, доказана и теорема 4.
Задача 6. Из трех классов спортивной школы нужно составить команду для соревнований, взяв по одному ученику от класса. Сколько различных команд можно составить,
если в одном классе учатся 18, в другом - 20, а в третьем - 22 ученика?
Решение очевидно: 18 • 20 • 22 = 7920.
Задачи
Задача 1.1. Имеется пять видов конвертов без марок и четыре вида марок одного достоинства. Сколькими способами можно выбрать конверт с маркой для посылки письма?
Задача 1.2. Сколько прямых линий можно провести через 8 точек, из которых ровно 3 лежат на одной прямой?
Задача 1.3. Сколько словарей нужно издать, чтобы переводить с любого из 5 языков на любой другой из этих языков.
Задача 1.4. Есть пятиразрядный цифровой замок. Кодовое устройство замка состоит из пяти вращающихся дисков, каждый из которых имеет шесть цифр от 0 до 5. Только одна комбинация из пяти цифр позволяет открыть замок. Сколько таких комбинаций?
Задача 1.5. Сколькими способами можно упорядочить множество {1,2,..., 2п} так, чтобы каждое четное число имело четный номер?
Задача 1.6. Сколькими способами можно упорядочить множество {1,2,...,п} так, чтобы числа 1,2,3 стояли рядом и в порядке возрастания?
Задача 1.7. Какое количество различных символов (букв, чисел и т. д.) можно передать не более чем пятью знаками кода Морзе, использующего точку (•) и тире (—)?
Задача 1.8. Автомобильные номера состоят из трех букв и четырех цифр. Найти число таких номеров, если используются 32 буквы алфавита.
Задача 1.9. (сказка) Жил-был странный правитель. Решил он своих подданных различать не по именам, а по зубам. Себе все 32 зуба оставил как и были белыми. Ближайшим подданным повелел один зуб на разных позициях окрасить в черный цвет, чтобы их отличать. Далее шли вассалы с двумя черными зубами на разных позициях, и так далее. В самых низших слоях были люди с одним белым зубом на разных местах, и был один только с черными. Сколько было подданных у правителя?
Задача 1.10, Сколько машинных (различающихся по написанию и не обязательно имеющих смысл) слов можно составить из букв слова КОЛОКОЛ, из букв слова ВОДОРОД?
Задача 1.11. Сколькими способами можно посадить за круглый стол 7 мужчин и 7 женщин так, чтобы никакие две женщины не сидели рядом?
Задача 1.12. Сколькими способами 9 одинаковых конфет можно разложить по пяти различным пакетам, если ни один из пакетов не должен быть пустым? Тот же вопрос, но пакеты могут быть пустыми.
§ 2. Случайные события
В основе теории вероятностей лежит понятие случайного эксперимента. Эксперимент считается случайным, если он может закончиться любым из совокупности известных результатов, но до осуществления эксперимента нельзя предсказать, каким именно.
Примеры случайного эксперимента: бросание монеты, бросание игральной кости, проведение лотереи, азартные игры, стрельба по цели, поступление звонков на телефонную станцию.
Различные результаты эксперимента мы будем называть исходами.
Определение 1. Множество всех взаимно исключающих исходов эксперимента называется пространством элементарных событий.
Взаимно исключающие исходы - это те, которые не могут наступить одновременно. В дальнейшем под термином “исход” подразумеваются только такие исходы.
Пространство элементарных событий мы будем обозначать буквой Q, а его исходы - буквой ш с различными индексами и без них или другими понятными из контекста символами. Термины “элементарное событие” и “исход” будем считать синонимами.
Определение 2. Произвольное подмножество пространства элементарных событий называется событием.
Событие может состоять из одного или нескольких элементарных событий, а также состоять из счетного или не-
счетного числа элементарных событий. События будут обозначаться заглавными латинскими или русскими буквами А, В, С,..., Г,Р,Ч, ... , или записываться словами, например, {выпало четное число очков на игральной кости}. Особо следует выделить событие, состоящее из пустого множества исходов. Оно будет обозначаться символом 0.
Говорят, что событие А наступило, если эксперимент заканчивается одним из исходов, входящих в событие А.
Примеры: 1) Бросание монеты. Предполагаем, что монета достаточно тонкая и при бросании не встает на ребро. Пространство элементарных событий состоит из двух исходов: Г = {выпал герб}, Р =: {выпала решетка}, т. е. П = {Г,Р}.
Бросание игральной кости, т. е. кубика, сделанного из однородного материала, грани которого занумерованы цифрами 1,2,3,4,5,6. Число очков, выпавшее при бросании игральной кости - цифра на верхней грани кубика. Пространство элементарных событий О = {1,2,3,4,5,6}. Событие Ч = {выпало четное число} состоит из трех исходов, т. е. Ч = {2,4,6}. Считаем, что Ч наступило, если выпало либо 2, либо 4, либо 6.
В зависимости от задачи в одном и том же эксперименте можно по-разному выбирать пространство элементарных событий. Так, при бросании игральной кости, если нас интересует лишь то, что выпало четное или нечетное число, можно считать О ={Ч,Н}, где Ч ={четное число}, Н ={нечетное число}.
Пример неправильно выбранного пространства элементарных событий. Пусть при бросании игральной кости Ч ={четное число очков}, Т={число очков, кратное трем}. Тогда П ={Ч,Т,1,5} составляет все исходы эксперимента, однако исходы Ч и Т могут наступать одновременно.
Пример пространства с несчетным числом элементарных событий. Пусть есть проволока длиной, например, 1 метр. Мы растягиваем ее за концы, в результате чего происходит разрыв в какой-то точке. Множество исходов - это все точки на проволоке, которые математически можно задать отрезком [0,1], т. е. О = [0,1], а каждому исходу ы соответствует координата точки разрыва.
Определение 3. Суммой двух событий А и В (обозначается А 4- В) называется событие, состоящее из всех исходов, входящих либо в А, либо в В. г
Другими. словами, под А + В понимают следующее событие: произошло или событие А, или событие В, либо они произошли одновременно, т. е. произошло хотя бы одно из событий А или В.
Определение 4. Произведением двух событий А и В (обозначается АВ) называется событие, состоящее из тех исходов, которые входят как в А, так и в В.
Иными словами, АВ означает событие, при котором события А и В наступают одновременно.
Определение 5. Разностью двух событий А и В (обозначается А—В) называется событие, состоящее из исходов, входящих в А, но не входящих в В.
Смысл события А — В состоит в том, что событие А наступает, но при этом не наступает событие В.
Определение 6. Симметрической разностью двух Событий А и В (обозначается АДВ) называется событие, состоящее из исходов, входящих в А или в В, но не входящих в А и В одновременно.
Смысл события АДВ состоит в том, что события А и В наступают, но не одновременно.
Определение 7. Противоположным (дополнительным) для события А (обозначается А) называется событие, состоящее из всех исходов, которые не входят в А.
Наступление события А означает просто, что событие А не наступило.
Примеры. Пусть при бросании игральной кости А = (выпало четное число}, В = {выпало число кратное трем}. Тогда А+В = {2,4, б}+{3,6} = {2,3,4,6}, АВ = {2,4,6}{3,6} = = {6}, А-В = {2,4,6}-{3,6} = {2,4}, АДВ = {2,3,4}, В = {1,2,4,5).
Если события изобразить множествами на плоскости, то результат определенных операций над событиями выглядит следующим образом:
Рис. 2
Событие П, состоящее из всех исходов эксперимента, называется достоверным событием. Оно обязательно происходит, так как эксперимент всегда заканчивается каким- нибудь исходом.
Пустое множество исходов эксперимента называется невозможным событием и обозначается символом 0.
Пример невозможного события. При бросании игрального кубика на ровную поверхность событие 0 состоит в том, что кубик встал на вершину.
Определение 8. События А и В называются несовместными, если нет исходов, входящих как в А, так и в В, т. е. АВ = 0.
Это означает, что события не могут наступать одновременно.
Определение 9. Говорят, что событие А содержится в событии В (обозначается А С В), если все исходы события А входят в событие В.
Иными словами, включением А С В обозначается такая ситуация, при которой наступление события А обязательно влечет наступление события В.
Свойства операций над событиями.
А + В = В + А; 2) АВ = ВА; 3)А + А_=П;
AQ = А; _5) АВ С А; 6)АА = 0;7)А = А;
А — В = АВ; 9) АДВ = АВ + АВ;
(А_+ В\С = AC-V ВС\ 11) А + В = АВ;
АВ = А + В; 13) (А - В) С = АС - ВС.
Свойства 1) - 9) непосредственно следуют из определения операций над событиями.
Доказательство свойства 10). Возьмем произвольный исход ш из события (А 4- В^С (будем обозначать это следующим образом: w Е (А+В)С). Тогда w ЕА+ВишЕС. Из включения ш Е А 4- В следует, что w принадлежит хотя бы одному слагаемому. Пусть, например, w Е А. Из w Е А и (У € С следует, что w Е АС, и, следовательно, w Е АС 4- ВС. Таким образом, любой исход события (А 4- В)С является исходом события АС 4- ВС, т. е. (А 4- В)С С АС 4- ВС. Аналогично можно показать, что любой исход события АС4-ВС является исходом события (А 4- В)С. Отсюда следует свойство 10), так как события его левой и правой частей состоят из одних и тех же исходов.
Доказательство свойства 11). Принадлежность исхода ш событию А 4- В означает, что он не принадлежит событию А 4- В, то есть не принадлежит ни А, ни В. Не принадлежит А значит принадлежит А, не принадлежит В значит принадлежит В, а это влечет, что w принадлежит А и В одновременно, т. е. ш Е АВ. Следовательно, выполняется включение А 4- В С АВ^ Рассуждая в обратном порядке, мы получим включение АВ С А4- В. Это доказывает равенство 11).
Доказательство свойства 12). Применим свойство 11) к событиям А, В вместо А,В. Имеем А4- В = АВ = АВ. Во втором равенстве мы воспользовались свойством 7). Взяв дополнение к левому и правому событиям этого равенства и снова используя 7), получим свойство 12).
Доказательство свойства 13). Воспользуемся свойствами 8), 12) и 10). Тогда имеем цепочку равенств
АС - ВС = АС ВС = АС^В 4- С) = АС В = (АВ)С = (А - В^С.
Операции над событиями можно последовательно осуществлять несколько раз. Так, например, по определению, A4-B4-C = (A4-B)4-Ch АВС = (АВ)С. В силу свойств 1) и 2) порядок осуществления операций сложения и умножения безразличен. Событие Ai 4- • —Ь Ап = Я?=1 ^к заключается в том, что происходит по крайней мере одно из событий Ai, А2,..., An_i или Ап. Событие AiA2 ... An_iAn = П"=1 ^к состоит в том, что все события Ai, А2,..., An_i, А„ наступают одновременно.
Следствиями свойств 10) - 12) являются следующие свойства операций над событиями:
10') 5^А» = ^5Ац ИЭ^А^ДЛьк=1к=1к=1к=1
12')nAt = £At.
к=1к=1
Эти равенства верны и для п = оо.
Задача 1. Монета подбрасывается три раза подряд. Исходом каждого бросания служит выпадение “герба”- Г или “решетки”- Р. Описать пространство элементарных событий данного эксперимента и описать событие А, состоящее в том, что выпало не менее двух “гербов”.
Решение. Исходом данного эксперимента является появление либо трех “гербов”, либо трех “решеток”, либо комбинаций “гербов”и “решеток”. Эти исходы будем записывать следующими наборами символов: ГГГ, РРР, ГРГ и т. д. Используя эти обозначения, пространство элементарных событий О можно записать следующим образом: R = {ГГГ, ГГР, ГРГ, РГГ, РРР, РРГ, РГР, ГРР}. Событие А состоит из четырех исходов: А = {ГГГ, ГГР, ГРГ, РГГ].
Задача 2. Двое играют в шахматы. Событие А означает, что выиграл первый игрок, событие В - что выиграл второй игрок. Что означают события
а) В; б) ЛДВ; в) А + В; г) В — А; д) А-В?
Решение. Нужно учесть, что АВ = 0, поскольку одновременное наступление событий “выиграл первый” и “выиграл второй”невозможно. Тогда указанные события означают, что
первый игрок выиграл или сыграл вничью;
партия закончилась вничью;
возможен любой исход партии;
партия закончилась вничью;
партия закончилась вничью.
Задачи
Задача 2.1. Из таблицы случайных чисел наудачу взято одно число. Событие А - выбранное число делится на 5; событие В - данное число оканчивается нулем. Что означают события А — В и АВ?
Задача 2.2. Событие А - хотя бы одно из имеющихся четырех изделий бракованное, событие В - бракованных изделий среди них не менее двух. Что означают противоположные события А и В?
Задача 2.3. Когда возможны равенства: а) А 4- В = А; б) АВ = А; в) А + В = АВ?
Задача 2.4. Совместны ли события А и А + В?
Задача 2.5. Бросают две игральные кости. Пусть А - событие, состоящее в том, что сумма очков равна пяти, а В - событие, заключающееся в том, что хотя бы на одной из костей выпала единица. Описать события АВ и АВ.
Задача 2.6. Рабочий изготовил п деталей. Пусть событие Ai, i = 1,2, ...,п, заключается в том, что i-я изготовленная ИМ деталь имеет дефект. Записать событие, заключающееся р том, что: а) ни одна из деталей не имеет дефектов; б) хотя бы одна деталь имеет дефект.
Задача 2.7. Событие А - спортсмен прыгнул дальше 7 Метров, событие В - мужчина прыгнул дальше женщины, событие С - спортсменка прыгнула дальше 7 метров. Что означают события АВС, А — АВ и АВС?
Задача 2.8. Пусть А, В, С - три произвольных события. Найти выражения для событий, состоящих в том, что из А,В,С
произошло только А;
произошли А и В, но С не произошло;
все три события произошли;
произошло по крайней мере одно из этих событий;
произошли по крайней мере два события;
произошло ровно одно из этих событий;
произошло ровно два из этих событий;
ни одно событие не произошло;
произошло не больше двух событий.
Классическое определение вероятности
Вероятность события характеризует возможность (шанс) осуществления события в ходе случайного эксперимента. Смысл вероятности раскрывается в следующих требованиях, налагаемых на вероятности событий. Вероятность события выражается долей от целого, т. е. является числом от нуля до единицы. При этом за единицу принимается вероятность наступления достоверного события, т. е. события, которое обязательно происходит в ходе эксперимента. Вероятности невозможных событий считаются равными нулю. Если взять произвольный конечный или счетный набор событий, таких что никакие два из них не могут произойти одновременно, то вероятность наступления хотя бы одного из этих событий должна быть равна сумме вероятностей этих событий. Иными словами, шанс наступления суммы попарно несовместных событий равен сумме шансов каждого из событий. Указанные требования налагают жесткие ограничения на численные значения вероятностей.
Вычисление значений вероятностей событий в различных случайных экспериментах является предметом теории вероятностей. Для конкретного случайного эксперимента вероятность конкретного события - объективно существующая величина. Оказывается, что численное значение этой величины проявляется следующим образом. Если случайный эксперимент многократно повторить при одних и тех же условиях и вычислить частоту появлений конкретного события среди всех проведенных экспериментов (частота появлений события есть отношение числа появлений события к числу экспериментов), то при неограниченном возрастании числа экспериментов эта частота в пределе совпадает с вероятностью события. При определенных исходных предположениях теории вероятностей это - строго доказанное утверждение (см. §16). Основной задачей теории вероятностей является разработка правил вычисления вероятностей событий, появляющихся в сложных случайных экспериментах, по известным вероятностям событий более простых экспериментов. Изучение основ теории вероятностей мы начнем с рассмотрения простых случайных экспериментов, имеющих конечное число исходов.
Пусть пространство элементарных событий конечно:
О =
Будем говорить, что на пространстве й заданы вероятности, если каждому исходу иц сопоставлено неотрицательное число p(wi) так, что выполнено условие нормировки
^p(wt) = L1=1
Определение 1. Вероятностью события А = = {и^.о^ш^З называется число Р(Л), равное сумме вероятностей элементарных исходов, составляющих событие А, т. е.
pw = 52 ₽(«,).
wi€A
Рассмотрим простейшую модель теории вероятностей, которую часто называют “классической схемой”. Если в силу тех или иных свойств, обычно связанных с симметрией, каждый элементарный исход эксперимента имеет одинаковую возможность осуществиться (исходы равновозможны), то этим исходам естественно сопоставить одинаковые вероятности. Пусть й = {o;i,W2,... ,wn}, и все исходы wi,W2, • • • >^п равновозможны. Тогда полагаемр(о)3 = р(о>2) = = • • • = р(шп) — р. В силу условия нормировки пр = 1 или p(wi) = р = 1/п, где п - число исходов эксперимента. Для любого множества А символом card А (кардинальное число множества А) будем обозначать количество элементов этого множества. Исходы, составляющие событие А, называются благоприятными для этого события. Тогда в “классической схеме”мы имеем card й = n, p(wi) = —ттт, / = 1,2,...,п, card 4 6 и
Таким образом, в случае, когда все исходы равновозможны, вероятность события А равна отношению числа благоприятных исходов для события А к общему числу исходов эксперимента. Это - классическое определение вероятности.
Примеры. При бросании правильной монеты Р(Г) = = Р(Р) = 1/2. При бросании игральной кости Р(1) = Р(2) = = • • • = Р(6) = 1/6, Р(выпало четное число) = 3/6 = 1/2.
В формулировках многих задач при случайном выборе чего-либо будет употребляться слово “наудачу”. Это слово означает беспристрастный выбор, при котором все комбинации элементов, которые могут быть выбраны, равновозможны. Иногда слово “наудачу” будет заменяться эквивалентным выражением “случайным образом”.
Задача 1. Для участия в лотерее, на карточке, содержащей 49 чисел, нужно отметить 6 чисел. Затем эти числа сверяются с 6 числами, отобранными случайным образом. В зависимости от числа совпавших номеров выплачивается выигрыш. Какова вероятность угадать в лотерее 6 чисел из 49?
Решение. В этой задаче fi - совокупность всех сочетаний из 49 чисел по 6, и cardfi = С49. Столько существует различных вариантов заполнения карточки, и каждый из них имеет одинаковый шанс стать выигрышным. Благоприятствует выигрышу только одно событие: номер на карточке совпал с отобранным. Поэтому Р(угадать 6 из 49) = _ 1 _ 1 ~ 1 — С^д ~ 1398381614000000"
Задача 2. В ящике т белых и п черных шаров. Шары тщательно перемешаны. Наудачу вынимаются сразу два шара. Какова вероятность того, что оба шара белые?
Решение. Шары можно для удобства пронумеровать числами от 1 дот + n. Поскольку нам не важно, какой шар первый, а какой второй, то возможными исходами эксперимента будут различные сочетания из m-Vn чисел по 2. Тогда cardfi = С^п. Событию А = {оба белые} отвечают лишь сочетания из m чисел по 2. Следовательно, card Л = С^ и
_ Ст _™(т - 1)
’ Cm+n (m + n)(m + n-1)"
Задача 3 (де Мере). Еще в XVII-ом веке француз Шевалье де Мере задался вопросом: какая сумма очков имеет больше шансов выпасть при бросании двух игральных костей -11 или 12? Сумму 11 могут составить лишь два чи-
ела - 5 и 6, а сумму 12 тоже два числа - 6 и б. На первый взгляд шансы у этих событий равны. Так ли это?
Решение. Будем различать игральные кости. Пусть мысленно одна будет красной, а другая - белой. Различных комбинаций очков на разноцветных костях согласно теореме 4 о числе комбинаций (§1) будет б 6 = 36. Следовательно, card Q = 36. Сумма 12 выпадает лишь при одной комбинации, когда на красной кости 6 и на белой 6. Таким образом, Р(12) = 1/36. Сумма 11 выпадает при двух комбинациях, когда на красной 6, а на белой 5, и наоборот. Тогда Р(11) = 2/36. Следовательно, сумма очков 11 имеет в два раза больше шансов выпасть, чем 12.
Обратимся еще раз к обсуждению понятия вероятности, используя уже рассмотренные нами примеры экспериментов с конечным числом исходов. С математической точки зрения вероятность - неотрицательное число, которое сопоставляется случайному исходу эксперимента, при этом сумма всех вероятностей, отвечающих различным исходам эксперимента, равна единице.
Абстрактная теория занимается в основном разработкой правил пересчета одних вероятностей в другие, предполагая, что исходные вероятности даны и не нуждаются ни в каких обоснованиях их действительных численных значений
Выяснению численных значений вероятностей в различных конкретных экспериментах посвящена другая математическая дисциплина - статистика. Существуют также эксперименты, в которых априори ясно, чему равны значения Вероятностей. Таковы, в частности, эксперименты с равновозможными исходами, в которых исходам сопоставляются равные вероятности. По существу это заложено в самом понятии “равновозможности”. Чаще всего вывод о том, какие исходы считать равновозможными, основан на соображениях, связанных с симметрией и однородностью. Если, например, монета симметрична и сделана из однородного материала, то шансы выпадения герба и решетки совпадают, т е. вероятности равны 1/2.
Какой же смысл вкладываем мы подсознательно во фразу “при бросании правильной монеты вероятность выпадения герба равна 1/2”, кроме того, что монета симметрична?
Оказывается, что вероятность проявляет себя, когда один и тот же случайный эксперимент проводится много раз, причем так, что результаты уже осуществленных экспериментов никак не влияют на последующие. При этих условиях частота наступления события при неограниченном возрастании числа экспериментов стремится к вероятности события.
Пусть правильная монета бросается п раз, и пусть число выпадений герба при этом равно пг- Тогда при неограниченном увеличении числа бросаний монеты частота выпадений
-. -1Пр 1г-х
герба будет стремиться к -, т. е. ——► - при п —► оо. Этому будет дано строгое математическое обоснование в, § 16.
Эксперименты не обязательно проводить последовательно, можно одновременно провести много одинаковых экспериментов. Например, в лотерее из задачи 1 участвуют сразу много людей. Считаем, что один человек заполняет одну карточку, в которой отмечает 6 чисел из 49 возможных. Процесс заполнения карточки отдельным человеком - случайный эксперимент. В результате доля людей, угадавших 6 из 49, будет близка к вероятности, которую мы вычислили в задаче 1. Так, если в лотерее участвовало 56 млн. человек, то угадавших 6 чисел будет скорее всего 4, поскольку 4_1
56000000 “ 14000000'
Свойства вероятностей.
Р(П) = 1 в силу условия нормировки;
Р(0) = О, поскольку сумма, в которой нет слагаемых, равна нулю;
если А С В, то Р(А) $ Р(В), так как выражение для вероятности Р(В) по сравнению с Р(А) содержит дополнительные неотрицательные слагаемые;
0 ^ Р(А) ^ 1 для любого события А, что следует из свойств 3) и 1);
Р(А) = 1 — Р(А), так как
рй)+рй) = 52р^ + 52р^ = 52^^ = 1;wtEAwtEAо>|€Я
(формула сложения вероятностей) для любых событий А и В
Р(А + В) = Р(А) + Р(В) - Р(АВ\
Действительно
р(л + в)= 52 ^0 = wi€A+B
= £ р(Ш|) + 53 р(Ы|) - 53 р(ш,) = Р(А) + Р(В) - Р(АВ). uiiGAu>iEBu>iE АВ
Следствие 1. Если АВ = 0, т. е. события А и В несовместны, то
Р(Л + В) = Р(А) + Р(В).
Следствие 2. Если события Ai,I = 1,2,...,п, попарно несовместны, т. е. AiAj = 0 для любых I ф j> т0
p(f>)=f;p(A)./=11=1
Это равенство несложно доказать по индукции, используя следствие 1 и свойство 10') §2, из которого следует несовместность событий Afc+i и XX-i Ai для любого к.
Следствие 3. Если С С D то
Р(В-С) = Р(В)-Р(С).
Действительно, события D—С и С несовместны, а их сумМа составляет событие D. Тогда по следствию 1
P(D) = P(D - С) + Р(С).
Задачи
Задача 3.1. В выпуклом двадцатиугольнике случайным образом берут две вершины и соединяют отрезком. Чему равна вероятность того, что отрезок является диагональю двадцатиугольника?
Задача 3.2. Наудачу взят телефонный номер, состоящий Из пяти цифр. Чему равна вероятность того, что все цифры различные?
Задача 3.3. На полке стоят 15 книг, 5 из них в переплете. Берут наудачу три книги. Какова вероятность того, что все три книги в переплете?
Задача 3.4. В ящике 20 шаров с номерами 1,2,..., 20. Наудачу выбираются шесть шаров. Найти вероятность того, что среди них есть шары с номерами 1 и 2.
Задача 3.5. Среди 100 фотокарточек есть одна фотокарточка знаменитого артиста. Взяли наудачу 10 фотокарточек. Какова вероятность того, что среди них есть фото артиста?
Задача 3.6. Из 12 лотерейных билетов, среди которых есть 4 выигрышных, наудачу берут 6. Какова вероятность того, что хотя бы один из них выигрышный?
Задача 3.7. Бросают две игральные кости. Какова вероятность того, что сумма очков не более трех?
Задача 3.8. В ящике 2 белых и 4 черных шара. Один за другим вынимаются все имеющиеся в нем шары. Найти вероятность того, что последний шар будет черным.
Задача 3.9. В течение пяти дней случайным образом поступают сообщения о банкротстве одного из пяти банков, назовем их условно AtBtC,DtE, Чему равна вероятность того, что сообщения о банкротстве банков А и В не следуют друг за другом?
Задача 3.10. При наборе телефонного номера абонент забыл две последние цифры и набрал их наудачу, помня только, что эти цифры нечетные и разные. Найти вероятность того, что номер набран правильно.
Задача 3.11. Найти вероятность того, что дни рождения 12 человек придутся на разные месяцы года.
Задача 3.12. В ящике 10 красных и 6 белых шаров. Вынимаются наудачу два шара. Какова вероятность того, что шары будут одноцветными?
Задача 3.13. Найти вероятность того, что наудачу взятое двузначное число окажется кратным 2, либо 5, либо тому и другому одновременно.
Задача 3.14. Из последовательности чисел 1,2,..., п наудачу выбираются два числа. Какова вероятность, что одно из них меньше к, а другое больше к, где 1 < к < п - произвольное целое число? '
Задача 3.15. Бросаются 4 игральные кости. Найти вероятность того, что на них выпадет по одинаковому числу очков.
Задача 3.16. На шахматную доску из 64 клеток ставятся наудачу две ладьи белого и черного цвета. С какой вероятностью они не будут “бить” друг друга?
Задача 3.17. Сколько раз нужно бросить игральную кость, чтобы с вероятностью не меньше а) 0.5; б) 0.9 хотя бы один раз выпала шестерка (шесть очков)?
4. Геометрические вероятности
Пусть в пространстве задана некоторая область, например, отрезок, если пространством служит прямая, квадрат, если пространством служит плоскость, или куб, если пространство трехмерно. Пусть результатом эксперимента является случайный выбор точки из этой области. Предположим, что по каким-то соображениям, обычно связанным с Симметрией либо однородностью, выбор любой точки области равновозможен. Чему равны вероятности событий в таком эксперименте? Ответ на этот вопрос связан с понятием геометрических вероятностей.
Пример. Однородная проволока растягивается за концы. Результатом эксперимента является разрыв проволоки В какой-то точке. Всю область исходов эксперимента можно отождествить с отрезком, равным длине проволоки.
Заданную в пространстве область обозначим Q. В эксперименте, связанном со случайным выбором только одной точки из Q, множество Q служит пространством элементарНых событий. Случайными событиями в этом эксперименте Можно считать различные подмножества Q. Будем говорить, что событие А наступило, если случайно выбранная точка принадлежит множеству А С О. Возникает вопрос: какая Вероятность соответствует событию А? Символом mes обозначим меру Лебега в пространстве: для прямой это длина, для плоскости - площадь, для трехмерного пространства - Объем. В фразу “выбор любой точки области равновозможен” вкладывается следующий смысл: шансы выбрать точки М3 любых двух множеств одинаковой меры Лебега равны между собой. Разобьем й нап частей одинаковой меры Ле-
бега. Пусть событие А такова, что оно целиком состоит из к таких частей. Тогда эксперимент случайного выбора точки из Q может быть описан с помощью классической схемы. Исходом здесь служит выбор точки из той или иной выделенной части. Всего п равновозможных исходов. При этом вероятность события А равна отношению 'несла частей, составляющих Л, к общему числу частей, т. е.
_zкmes А
Р(Л) = - =
х 'n mes if
Считая, если необходимо, п произвольным и применяя предельный переход при п -+ оо, можно показать, что любому событию Л, для которого определена мера Лебега, соответствует вероятность
pw=^-
Вероятности, заданные по этой формуле, называют геометрическими.
Свойства геометрических вероятностей точно такие же, как и для вероятностей в классическом определении.
В примере о разрыве однородной проволоки можно рассмотреть событие А = {проволока разорвалась ближе к центру, чем к концам}. Здесь, чтобы вычислить вероятность события А, можно разбить проволоку на четыре равные части. Событию А отвечает точка разрыва, появляющаяся в одной из двух средних частей. Следовательно, Р(Л) = ^ = |.
Задача 1. Наудачу выбираются два числа из промежутка [0,1]. Какова вероятность, что их произведение меньше 1/2?
Решение. Слово “наудачу”здесь означает, что появление любой пары чисел (ж, у) из квадрата [0,1] X [0,1} = й равновозможно. Множество А = {(а?, у) Е [0,1} х [0,1] : жу ^ 1/2) составляет случайное событие, вероятность которого нужно найти. Очевидно, mesQ = 1. Множество А образуют те точки квадрата О, которые лежат под кривой у = ~. Следовательно,
1
mes А — - +mes А — - +^dLx- i(l+ In2).^dLx- i(l+ In2).
mes А — - +
mes А — - +
^dLx- i(l+ In2).
^dLx- i(l+ In2).
Это и есть искомая вероятность.
Задача 2 (о встрече). Два человека в течение промежутка времен» [О, 7] случайным образом приходят к месту встречи и ждут время т < Т. Какова вероятность, что они встретятся?
Решение. Пусть х - время прихода первого человека, а у - второго. Тогда (л, у) € [0,7] X [0,7] = R. Поскольку они приходят случайным образом, то все исходы (2 равновозможны. Событие А = {они встретятся} можно задать так: А = {(®>$/) € [0,7] х [0,7] : ]у — ж| ^ т}. Множество А образуют те точки квадрата R, которые лежат между прямыми у = х — т и у = ж+т. Поэтому mesA = 7^—(Т—т)2. Поскольку mesR = Г2, то
mesA - /- г\2 mesO \ Т/ *
Задача 3. Какой толщины должна быть монета радиуса Ж, чтобы вероятность падения на ребро была равна 1/3?
Р ешени е. Укажем лишь на основные моменты решения, дающего ответ Я/^. Монету рассматриваем как вписанную в сферу. Если радиус, проведенный из центра сферы в направлении, выбранном наудачу, пересекает поверхность монеты, составляющую ребро, то считаем, что монета упала на ребро. Вероятность падения монеты на ребро равна отношению площади сферического пояса, заключенного между круглыми сторонами монеты, к площади сферы
Задачи
Задача 4.1. На плоскость с нанесенной квадратной сеткой со стороной 4 см бросают монету радиуса 1 см Найти вероятность того, что монета не пересечет линии
Задача 4.2. В круг вписан квадрат. Какова вероятность того, что точка, брошенная в крут наудачу, окажется внутри квадрата?
Задача 4.3. Из промежутка [0,1] выбрали наугад два числа. Какова вероятность, что их сумма больше либо равна 1, а их разность меньше либо равна О?
Задача 4.4. На отрезке [А, В] длиной I поставили наугад дае точки - L и М. Найти вероятность того, что L будет ближе к точке Mt чем к А.
Задача 4.5. Какова вероятность того, что сумма двух наугад взятых положительных чисел, каждое из которых меньше либо равно 1, будет меньше либо равна 1, а их произве- 2 дение будет не больше -?
Задача 4.6. На отрезке длиной / наугад ставятся две точки, которые разбивают его на три отрезка. Найти вероятность того, что из этих отрезков можно составить треугольник..
Задача 4.7. Электрон вылетает из случайной точки нити накала и движется по перпендикуляру к нити. С какой вероятностью он свободно пройдет через сетку, окружающую нить и имеющую вид винтовой линии радиуса R, толщиной 6 и шага Я?
Задача 4.8. Спутник Земли движется по орбите, которая заключена между 60° северной и 60° южной широты. Считая падение спутника в любую точку поверхности Земли между указанными параллелями равновозможным, найти вероятность того, что спутник упадет выше 30° северной широты.
. Условные вероятности. Независимость событий
Рассмотрим вопрос о том, как определить вероятность какого-либо события А при условии, что уже произошло другое событие В.
Начнем с примера, в котором возникает условная вероятность. Пусть брошена игральная кость и нам неизвестен результат, но известно, что выпало четное число. Мы же хотим, зная эту информацию, подсчитать вероятность того, что выпало число больше трех. Тогда речь идет об условной вероятности события А = {выпало число больше трех) при условии, что произошло событие В = {выпало четное число}. Нам уже известно, что выпало либо 2, либо 4, либо 6 очков, и все эти исходы равновозможны. Среди этих исходов событию А удовлетворяют лишь исходы 4 и 6. Поэтому „2
условной вероятностью естественно считать отношение -.
Вероятность события А при условии, что произошло событие В, называется условной вероятностью и обозначается Р(А|В).
Условную вероятность мы будем рассматривать лишь для таких событий В, вероятность наступления которых отлична от нуля. Вопрос об условных вероятностях для событий, имеющих нулевую вероятность тоже имеет смысл, но его изучение выходит за рамки элементарного курса.
Определим условные вероятности Р(А|В) для схемы, когда все исходы равновозможны. Пусть Q - пространство элементарных событий. Поскольку известно, что событие В произошло, то будем рассматривать только те элементарные исходы, которые составляют событие В. Рассмотрим новое пространство элементарных событий Qi = В. Выберем множество исходов из А, которые входят в В, и обозначим его Ai. Очевидно Ai = АВ. За условную вероятность Р(А|В) естественно взять вероятность события Ai при условии, что рассматриваются только события, содержащиеся в В. Чему равна эта вероятность? Мы снова оказались в рамках “классической схемы”, только для нового пространства элементарных событий П1. Поэтому эта вероятность равна card Ai/card Qi. Следовательно,
р/л|п\ cardAi cardAi/cardQ Р(АВ)
'' cardQi cardili/cardQ P(5) *
Это соотношение оправдывает следующее формальное определение условной вероятности.
Определение 1. Условной вероятностью события А при условии, что произошло событие В с Р(В) ^ 0, называется число Р(А|В), которое определяется формулой
Р(Л|3) = ^.
К такому же определению мы придем, если будем рассматривать геометрические вероятности. Это и не удивительно, поскольку при определении геометрических вероятностей мы использовали подход, основанный на “классической схеме”.
В силу того, что условная вероятность - это обычная вероятность, но лишь на более узком пространстве элементарных событий, то для нее справедливы все свойства обычной вероятности.
Свойства условных вероятностей.
Р(П|В) = 1;2) Р(0|В) = 0;3) 0 ^ Р(А|В) ^ 1;
если А С С, то Р(А|В) ^ Р(С|В);
5)Р(Л|В) = 1-Р(А|В);
(формула сложения условных вероятностей) для любых событий А и С
Р(А + С|В) = Р(А|В) + Р(С|В) - Р(АС|В);
(формула умножения вероятностей) для любых событий А и В
Р(АВ) = Р(В)Р(А|В) = Р(А)Р(В|А).
Эта формула является непосредственным следствием определения условной вероятности.
(общая формула умножения вероятностей) для любых событий Ai, А2,..., Ап
Р(А1А2...А„) =
= Р(А1)Р(А2|А1)Р(Аз|А1А2) .. .Р(Ап|А!А2 ... А„-1).
Эту формулу можно получить, применяя последовательно п раз формулу умножения вероятностей 7). Действительно, полагая А = Ап, В = AiA2 ... A„-i и применяя 7), получаем
P(AiA2 ...А„) = Р(АхА2 .. .A„_i)P(A„|A1A2. .. A„-j).
Это равенство справедливо для любых п, поэтому можно продолжить цепочку равенств
P(AiA2...A„) =
= P(AiA2. .. An_2)P(An_i|AiA2... An_2)P(An|AiA2 .. .An_i) = = Р(А1)Р(А2|А1).. .Р(АП_1|А1А2... АП_2)Р(А„|А1А2... Ап_!).
Задача 1. В ящике т белых и п черных шаров. Шары тщательно перемешаны. Наудачу вынимаются сразу два шара. Какова вероятность того, что оба шара белые?
Решение (ранее (§3) данная задача решалась другим способом). Взять два шара сразу или сначала взять один
шар, а потом другой - это одно и то же, ведь руку можно не вынимать из ящика, когда берется один шар, а затем другой. События {оба шара белые) и {1-й шар белый и 2-й шар белый) совпадают. Поэтому достаточно вычислить вероятность второго события, которое представимо в виде произведения событий А = {1-й шар белый), В = {2-й шар белый). Очевидно, Р(А) = ^^^• Кроме того p(sm) = ^^ ~, поскольку, если событие А произошло, то в ящике уже остался m + n- 1 шар, среди которых т — 1 белых, и вероятность снова вынуть белый шар будет равна —^ -. Теперь воспользуемся формулой произведения вероятностей:
Р(оба белые) = Р(АВ) = Р(А)Р(В|А) = ^-^L-.
Задача 2. Бросают три игральные кости. Какова вероятность того, что хотя бы на одной из них выпадет шестерка, если на всех трех костях выпали разные числа?
Решение. Определим события А = {хотя бы на одной из трех костей выпала шестерка) и В = {на трех костях выпали разные числа). Нам нужно вычислить вероятность P(AjB). Для этого воспользуемся свойством 5), поскольку вероятность Р(А|В) вычислить легче. Будем различать кости, например, считая их окрашенными в разные цвета. По теореме 4 § 1 число различных комбинаций чисел на трех костях равно 6-6-6 = 216. Число комбинаций разных чисел на трех костях равно числу размещений из 6 элементов по 3, т. е. А|. Мы берем А|, а не Of, поскольку мы различаем кости. Тогда Р(В) = А|/216. Событие АВ означает, что на трех костях выпали разные числа и нет ни одной шестерки. Аналогично предыдущему, имеем Р(АВ) = А|/216. По определению условной вероятности Р(Я|В) = Р(АВ)/Р(В) = А?/А? = |44 = Г По СВОЙС™У 5) окончательно получаем Р(А|В) = 1 — | = i.
Определение 2. Событие А называется независимым от события В с Р(В) ^ 0, если Р(А|В) = Р(А), т. е. вероятность наступления события А не зависит от того, произошло событие В или нет.
Пример. Пусть при бросании игральной кости А =
Р(АВ) _ 1/6 _ 1Р(В) - 1/2 - з*Р(АВ) _ 1/6 _ 1Р(В) - 1/2 - з*{выпало число меньше трех}, В = {выпало четное число}. Поскольку А = {1,2}, а В = {2,4,6}, то Р(А) — ^ и Р(Л|В) =
Р(АВ) _ 1/6 _ 1
Р(В) - 1/2 - з*
Р(АВ) _ 1/6 _ 1
Р(В) - 1/2 - з*
события В.события В.Следовательно, событие А не зависит от
события В.
события В.
Лемма 1 (о взаимной независимости событии). Если событие А не зависит от В при Р(А) / О, Р(В) / 0, то и событие В не зависит от А.
Доказательство. Используя свойство 7), получим
Р(В|А) =Р(В|А) =Р(А|В)Р(В) _ Р(А)Р(В) _
Р(В|А) =
Р(В|А) =
Р(4)“ Р(А) -
и, следовательно, событие В не зависит от А.
Таким образом, события Л и В не зависят друг от друга. При этом согласно свойству 7)
Р(АВ) = Р(А|В)Р(В) = Р(А)Р(В).
Это равенство позволяет дать следующее определение независимости событий, симметричное по отношению к событиям А и В и применимое к событиям нулевой вероятности.
Определение 3. События А и В называются независимыми, если
Р(АВ) = Р(А)Р(В).
Это определение удобно тем, что его легко можно распространить на совокупность нескольких событий.
Определение 4. События Ai, Аг, • • •, Ап называются независимыми в совокупности, если для любого набора индексов 1 ^ /1 < /г < • • • < к ^ п выполняется равенство
PUhAb ...А1к) = Р(Л?1 )Р(Л,2)... Р(Дк \
Определение 5. События А1,Аг,...,Ап называются попарно независимыми, если Р(Л<Лу) = Р(А<)Р(Лу) для любых пар ij, 1 г < j п.
Замечание 1. Из попарной независимости событий Ai, Аг, .. .An_i,'An не следует независимость этих событий в совокупности.
Убедимся в справедливости этого замечания на примере бросания двух игральных костей. Определим три события следующим образом: Л={нечетное число на первой кости}; В = {нечетное число на второй кости}; С = {нечетная сумма}. Применяя теорему 4 § 1 о числе комбинаций для двух групп, имеем:
Р(Л) = P(S) = Н = 5= р^ == 1=
w = Н=?’ р(лс)=pw = Н = ?•
Таким образом, эти три события попарно независимы. Однако, АВС = 0 и, следовательно, Р(АВС) = 0, а это означает, что вероятность произведения АВС не равна произведению вероятностей Р(А)Р(В)Р(С) = -.
Задача 3. Доказать, что если события А, В и С независимы в совокупности, то события А, В, С также независимы в совокупности, и независимы в совокупности события А, В, С.
Решение. Проверим сначала, что вероятность произведения событий А, В,С распадается в произведение вероятностей. Применяя следствие 3 § 3, получим
Р(АВС) = P(AB(Q - С)) = Р(АВ- АВС) =
= Р(АВ) - Р(АВС) = Р(А(П - В)) - Р(А(П - В)С) =
= Р(А) - Р(АВ) - Р(АС) + Р(АВС) =
= Р(А) - Р(А)Р(В) - Р(А)Р(С) + Р(А)Р(В)Р(С) =
= Р(А)(1 - Р(В))(1 - Р(0) = Р(А)Р(В)Р(0.
Теперь нужно убедиться^что^для произведений любых пар событий, т. е. для АВ, АС к ВС вероятность тоже распадается в произведение вероятностей. Действительно
Р(АВ) = Р(А) - Р(АВ) = Р(А)Р(В),
Р(АС) = Р(А) - Р(АС) = Р(А)Р(С).
Применяя 11-ое свойство операций над событиями и формулу сложения вероятностей, получим
Р(ВС) = Р(ВТС) = 1 - Р(Д 4- С) =
= 1 - Р(В) - Р(С) - Р(ВС) =
= (1 - Р(В))(1 - Р(С)) = Р(В)Р(С).
Аналогично можно доказать независимость в совокупно сти событий А, В, С.
Задача 4. Доказать, что если события А, В и С независимы в совокупности, то события А — В, С независимы, а также независимы события А 4- В, С.
Решение. Воспользуемся предыдущими результатами и восьмым свойством операций над событиями. Тогда
Р(( Л - В)С) = Р(АВС) = Р(А)Р(В)Р(С) =
= Р(АВ)Р(С) = Р(А - В)Р(С).
Несложно также доказать, что события А 4- В, С независимы.
Приведенные в задачах утверждения свидетельствуют в пользу следующего факта, который мы сформулируем без доказательства.
Пусть п независимых в совокупности событий разбиты на к групп, не содержащих общих событий, к п. Над событиями внутри каждой группы произведены любые операции: сложения, умножения, вычитания и т. д. Тогда получившиеся в результате к новых событий будут тоже независимыми в совокупности.
Этот факт отвечает нашим интуитивным представлениям о независимости.
Задачи
Задача 5.1. Пусть события А и В^ независимы и независимы также события А и В2, при этом В1В2 = 0. Доказать, что события А и Bi 4- В2 независимы.
Задача 5.2. Бросили монету и игральную кость. Определить, зависимы или независимы события:
А = {выпал “герб”}; В = {выпало четное число очков}.
Задача 5.3. Брошены последовательно три монеты. Определить, зависимы или независимы события:
А = {выпадение “герба”на первой монете);
В = {выпадение хотя бы одной “решки”).
Задача 5.4. В урне 9 белых шаров и 1 черный шар. Вынули сразу три шара. Какова вероятность того, что все шары белые?
Задача 5.5. Буквы слова ПОКОЛЕНИЕ выписаны на карточках. Наудачу вынимают одну карточку за другой и укладывают попорядку. Найти вероятность того, что получится слово ПОЛЕ.
Задача 5.6. В двух ящиках находятся шары, отличающиеся только цветом, причем в первой урне 5 белых шаров, 11 черных и 8 красных, а во второй соответственно 10, 8 и 6. Из каждого ящика наудачу извлекается по одному шару. Какова вероятность, что оба шара одного цвета?
Задача 5.7. Два стрелка поочередно стреляют по мишени до первого попадания. При каждом выстреле вероятность попадания для первого стрелка равна 0.2, а для второго равна 0.3. Найти вероятность того, что первый стрелок сделает больше выстрелов, чем второй.
Задача 5.8. Партия из ста деталей подвергается выборочному контролю. Условием непригодности всей партии является наличие хотя бы одной бракованной детали среди пяти проверяемых. Какова вероятность для данной партии быть непринятой, если она содержит 5% бракованных деталей?
§ 6. Общее определение вероятности
До сих пор мы рассматривали такие примеры случайных экспериментов, в которых все исходы были равновозможны. Однако для многих экспериментов исходы не являются равновозможными. Приведем простой пример.
Пример. Пусть есть однородная проволока длиной 1 метр с несколькими узлами, например, с тремя. Тогда мы не можем считать, что при растяжении проволоки за концы вероятность разрыва в узле будет такой же, как и в остальных точках проволоки. Вероятнее всего проволока будет рваться в узлах. Пусть все узлы одинаковы, и вероятность
разрыва в каждом из них равна положительному числу р, такому, что р < 1/3, поскольку вероятность всех исходов должна быть равной единице. Разрывы в остальных точках ввиду однородности проволоки равновозможны, поэтому вероятность разрыва в А - множестве точек проволоки, не содержащем узлы, должна быть пропорциональна его длине, т. е. пропорциональна mesA. Отсюда легко понять, что если множество А не содержит узлы, то естественно положить Р(Л) = (1 - Зр)mesA, если А содержит один узел, то Р(А) = (1 — 3p)mesA 4- р, если А содержит два узла, то Р(А) = (1 — 3p)mes А 4- 2р, и если А содержит три узла, то Р(А) = (1 — Зр) mes А 4- Зр.
В этом примере мы встретились со смешанной ситуацией, в которой участвуют как геометрические вероятности, так и вероятности, отвечающие классической схеме. Это достаточно простой пример. В сложных примерах невозможно выписать явные формулы для вероятностей произвольных событий, однако можно сформулировать общие свойства, присущие вероятностям любых событий.
Перейдем к изучению основ теории вероятностей в общем случае. Естественно ожидать, что они будут учитывать все известные нам результаты для частных случаев.
Пусть Q - произвольное множество, природа элементов которого нам совершенно безразлична. Оно может быть как счетным, так и несчетным. Предположим, что Q является пространством всех элементарных исходов для какого- нибудь случайного эксперимента, каждому результату которого соответствует ровно одна точка из Q, а разным результатам отвечают разные точки. Выделим некоторую совокупность подмножеств Q, обозначим ее А. Множества из А будем трактовать как случайные события. Естественно потребовать, чтобы события, полученные из А в результате рассмотренных нами выше (в § 2) операций над событиями, снова принадлежали бы А. Это, конечно, налагает на совокупность множеств А некоторые условия, что приводит нас к следующим ниже определениям алгебры и <т-алгебры событий.
Определение 1. Совокупность А подмножеств множества Q называется алгеброй, если выполнены следующие
условия: 1) Q Е Л;_2) если А Е А и В Е А, то А + В Е Л;
если А Е Л, то А Е Л.
Пример. Пусть Q = [0,1)- Тогда на отрезке [0,1) все множества, состоящие из конечного числа интервалов вида [а, 6), образуют алгебру.
Оказывается, что условий 1) - 3) достаточно для того, чтобы другие операции над событиями из Л не выводили бы нас за пределы алгебры Л. Это вытекает из следующего утверждения.
Предложение 1. Пусть Л - алгебра. Тогда а) 0 Е А , б) если А Е Л и В Е Л, то АВ € Л; в) если А Е Л и В Е Л, то А — В Е Л; г) если Ai Е AJ = 1,2,..., в, то Д=1 Ai Е А, и П?=1 Л е А'
Доказательство, а) В силу условий 1), 3) имеем 0 = = О е Л. _ _
По свойству 10) §2 АВ = А + В, и, следовательно, АВ = АВ = А А В. Согласно условию 3) А Е Л, В € Л, а тогда по условию 2) А + В Е Л. Снова воспользовавшись условием 3), имеем А + В Е Л, а это и означает, что АВ Е Л.
В силу определения разности событий А — В = АВ. Согласно условию 3) В Е Л, и по свойству б) АВ Е Л.
Первое включение устанавливается с помощью многократного применения условия 2). Если Л1 + Л2 Е Л и Л3 Е Л, то по условию 2) выполняется (Л1 + Лг) + Л3 ЕЛ и т. д. Второе включение устанавливается аналогично с помощью многократного применения свойства б). Если Л1Л2 Е Л и A3 Е Л, то по свойству б) (Л1Лз)Лз Е Л и т. д.
Из предложения 1 следует, что любое конечное число известных нам операций над событиями из Л не выводит за пределы алгебры. Однако, при рассмотрении многих задач теории вероятностей приходится иметь дело и с бесконечным числом операций.
Пример. Пусть эксперимент состоит в последовательном бросании монеты. Нас интересует событие А = {хотя бы один раз выпал герб). Определим события Ак = {в первые к — 1 бросаний выпала решетка, а при к-м бросании выпал герб), к = 1,2,.... Тогда ясно, что А = E^i Ак.
.Для того, чтобы можно было рассматривать бесконечное число операций над событиями, необходимо усилить ограничения, налагаемые на алгебру А.
Определение 2. Совокупность множеств А называется ст-алгеброй, если выполнены условия 1), 3) из определения алгебры и 2') если Ai ЕА,1 = 1,2,..., то £2^ А/ Е А.
Условие 2х) сильнее, чем 2), поскольку из 2х) вытекает 2). Действительно, пусть Ai Е А и Аг Е А. Положим А? = 0 при / ^ 3. Тогда Ai + Аг = 52iXi At, поскольку добавляя в сумму невозможные события 0, мы ничего не меняем. Теперь из условия 2х) очевидно следует 2).
Используя условие 3) и равенство Пьл ^1 = 52^1 А/ легко убедиться в справедливости следующего утверждения.
Предложение 2. Пусть А — о-алгебуа. Тогда, если А; Е А, I = 1,2,..., то П”1 А/ Е А.
Таким образом, счетное число операций суммирования или перемножения событий не выводит за пределы <т- алгебры.
Событиям из ff-алгебры А сопоставляются их вероятности. Вид явных формул, конечно, зависит от конкретной задачи, однако и в общей ситуации можно сформулировать естественные аксиомы и вывести некоторые свойства вероятностей, которые будут выполняться для всех частных случаев.
Определение 3. Если каждому множеству из А сопоставлено некоторое число, то будем говорить, что на А задана функция множеств.
Определение 4. Вероятностью называется функция множеств, заданная на а-алгебре А подмножеств из И и удовлетворяющая следующим условиям:
Р(А) ^ 0 для любого А Е А;
Р(П) = 1;
если события А1,Аг,... попарно несовместны, т. е. A,Aj = 0 для любых г 7^ j, то
оооо
р(5» =Epw
/=1Z=1
Условия 1),2/),3) в определении а-алгебры Л и условия 1), 2), 3) в определении вероятности составляют аксиомы теории вероятностей. Тройка (Й,Д, Р), удовлетворяющая этим аксиомам, называется вероятностным пространством. Остальные уже хорошо известные нам по §3 свойства вероятности выводятся из аксиом. В §3 мы вывели эти свойства, опираясь на классическое определение вероятности для случая конечного числа исходов эксперимента. Здесь мы выведем эти свойства исходя из аксиом теории вероятностей.
Свойства вероятностей.
P(Q) = 1.
Это свойство входит в определение вероятности.
Р(0) = 0.
Действительно, по аксиоме 3) Р(0 + 5221 -^0 = Р(0)+ + Е21 Р(А) и P(E2i Ai) = ^ Р(Л). Кроме того, 0 + 22^1 ^ = ЕгХх Ai, поэтому левые части этих равенств совпадают. Отсюда следует совпадение правых частей и выполнение требуемого свойства.
Следствие 1. Если события Ai и А2 несовместны, то
Р(А1+А2)^Р(А1)АР(А2).
Это утверждение вытекает из свойства 2) и аксиомы 3), если в нем положить Аз = 0, Ал = 0,....
Следствие 2. Если события Ai,l = 1,...,п, - попарно несовместны, т. е. A,-Aj = 0 для любых г ф j, то
p(f» = £pHi).
1=11=1
если Л С В, ТО Р(А) ^ Р(В).
Воспользуемся тем, что В = (В — А) + А при А С В. Поскольку события В — А и А несовместны, то применяя следствие 1 и аксиому 1), получим Р(В) = Р(В — А) + Р(А) ^ Р(Л).
0 ^ Р(А) ^ 1 для любого события А.
Это свойство выполняется в силу свойства 3) и аксиом 1). 2).
Р(Л) = 1 - Р(А).__
Поскольку события А и А несовместны и Q = А + А, то 1 = Р(П) = Р(А + А) = Р(А) + Р(А).
(формула сложения вероятностей) для любых событий А и В
Р(А + В) = Р(А) + Р(В) - Р(АВ).
Доказательство. Справедливы следующие представления: A-VB = А+(В—А), где события А и В—А несовместны; В = АВ Л-(В —А), где события АВ и В —А несовместны. Поэтому в силу следствия 1 имеем Р(А+В) = Р(А)+Р(В—А) и Р(В) = Р(АВ)+Р(В—А). Исключая из этих двух равенств Р(В — А), получим формулу сложения вероятностей.
Следствие 3. Для любых событий A^l = 1,2,..., п,
1=11=1
Для в = 2 эта оценка следует из свойства 6). Тогда для произвольного в ^ 2 можно написать
рСЁ^^рЙ^ + р^»)-
1=11=1
Для оценки вероятности суммы в - 1 событий снова можно воспользоваться такой же оценкой, и т. д. В результате получим требуемую оценку.
) (общая формула сложения вероятностей) для любых событий Ai, I = 1,2,..., в,
p(E^)=Epw-Lp(^)+
i=i 1=1i<j
£ Р(АА,Л1)-- - + (-1)"-‘р(Пл,).
Кз<к1=1
Эту формулу можно вывести из формулы 6) с помощью метода математической индукции. Нужно положить Ai 4- Аз +
• • • 4- Лп-1 = А,Ап = В, воспользоваться формулой 6) и для п — 1 слагаемых применить общую формулу сложения вероятностей, предположив, что она верна. Подробно проделаем это лишь для п = 3. Дважды применяя формулу 6), имеем
Р(Л1 4- Л2 4- Лз) = Р(Л1 4* Л2) 4- Р(Лз) — Р((Л1 4- Л2)Лз) = = Р(Л1) 4- Р(Л2) - Р(Л!Л2) 4- Р(Л3) - Р(Л!Лз 4- Л2Л3).
Для последнего слагаемого, снова применяя формулу 6), получим
Р(Л1Л3 4- Л2Л3) = Р(Л!Л3) 4- Р(Л2Л3) - Р(Л1Л3Л2Л3).
Учитывая, что Л1Л3Л2Лз = Л1Л2Лз и подставляя это выражение в предыдущую формулу, окончательно будем иметь
Р(Л, 4- Л2 4- Л3) = Р(Л1) 4- Р(Л2) 4- Р(Л3)-
- Р(Л1 Л2) - Р(Л!Лз) - Р(Л2Лз) 4- Р(Л!Л2Лз).
7) свойства непрерывности:
если Л1 С Л2 С Лз С ..., то lim Р(ЛП) = Р
если Л1 D Л2 D Л3 D ..., то ^lim^ Р(Л„) = Р ( П Ак) • Доказательство. Поскольку Л<;_1 С Л^, то
сюсю
У1Ак = 1£ААк - Лк-i), fc=lfc=l
где Ло = 0, и события Ак — Л*—i, к = 1,2,... попарно несовместны. Тогда по третьей аксиоме вероятности
ООООп
fc=lfc=lfc=l
= lim УЧ?^)-?^-!)) = lim (Р(Л„)-Р(0)) = lim Р(Л„).
Докажем второе свойство непрерывности. Поскольку Л*;_1 D Ак, то Л*—1 С Ак, и по первому свойству непрерывности
сю"оо
J™p№) = p(L^)=P(lPi)-fc=lfc=l
Последнее равенство справедливо в силу свойства 12') §2 (я = оо). Переходя к дополнительным вероятностям, получаем
ООni™ji-p(^))=i-p(n^).fc=l
а это и есть второе свойство непрерывности.
Лемма 1. Пусть события Qm таковы, что P(fim) = 1 для любого натурального т. Тогда
ООР(ППт) = 1.т=1
Доказательство. Применяя свойство 12') §2 и следствие 3, получим
ппп
т=1т=1т=1
роятностей Р( Проятностей Р( Птак как Р(Ят) = 1 — Р(Пт) = 0. По пятому свойству ве- QmJ = 1. Поскольку при к = 1,2,... 1'
роятностей Р( П
роятностей Р( П
к — 1к
П ^m D П ^т> то по второму свойству непрерывности m=lт=1
вероятности окончательно имеем ооп
р(пч=п'^р(пч=1-т=1т=1
По аналогии с классическим случаем дадим следующее определение условной вероятности.
Определение 5. Условной вероятностью события А при условии, что произошло событие В с Р(В) / 0, называется число Р(Л]В), которое определяется формулой
р(А|В) =
Используя это определение и свойства вероятности, несложно убедиться, что условная вероятность обладает всеми свойствами вероятности.
Свойства условных вероятностей.
Р(Й|В) = 1; 2) Р(0[В) = 0; 3) 0 ^ Р(А|В) ^ 1.
Эти свойства следуют непосредственно из определения.
если А С С, то Р(А|В) ^ Р(С|В).
Действительно, из А С С следует АВ С СВ, и по третьему свойству вероятностей Р(АВ) ^ Р(СВ). Поделив это неравенство на Р(В) и применив определение условной вероятности, получим требуемое утверждение.
Р(А|В) = 1 - Р(А|В).
Это свойство является следствием цепочки равенств:
_ Р(ЯВ) _ Р((Л + Л)В) _ Р(В) - Р(В) -
= Р^Л£) = P(WP^ = р(Я|в) + р(л|г)
(формула сложения условных вероятностей) для любых событий А и С
Р(А 4- С|В) = Р(А|В) 4- Р(С|В) - Р(АС|В).
Доказательство. Применяя формулу сложения обычных вероятностей, имеем
Р((А 4- С)В) = Р(АВ 4- СВ) = Р(АВ) 4- Р(СВ) - Р(АСВ).
Поделив левую и правую части этого равенства на Р(В), получим формулу 6).
(формула умножения вероятностей) для любых событий А и В
Р(АВ) = Р(А)Р(В|А) = Р(В)Р(А|В).
Формула непосредственно следует из определения условной вероятности.
(общая формула умножения вероятностей) для любых событий Ai, Аг,. ..,Ап
Р(А, А2... А») =
= Р(А1)Р(А2|А1)Р(А3|А1А2) .. ,Р(А„|А1А2... А»-!).
Вывод этой формулы из формулы 7) был осуществлен в § 5.
Сохраняются в силе все определения, связанные с независимостью событий, сформулированные в § 5.
Большинство задач, которые возникают в теории вероятностей, связано, по-существу, с пересчетом вероятностей. Нужно подсчитать вероятность, возникающую в какой- нибудь сложной модели, когда вероятности, отвечающие простым компонентам этой модели, известны. При этом нас не интересует природа возникновения этих элементарных вероятностей. Их величина может быть получена из соображений, связанных с симметрией и однородностью, или их приближенное значение может быть вычислено с помощью методов математической статистики.
Рассмотрим одну задачу, решение которой опирается на полученные выше общие свойства вероятностей.
Задача 1 (о расчете надежности электрических цепей). Пусть есть некоторая цепь элементов, соединенных последовательно и параллельно. Например, цепь вида
Рис. 3
Пусть известно, что элемент / выходит из строя (происходит разрыв цепи в этом элементе) с вероятностью р/. Естественно также предположить, что все элементы выходят из строя независимо друг от друга. Какова вероятность того, что вся цепь выйдет из строя, т. е. через нее не пойдет ток?
Решение. Сначала нужно рассчитать вероятности отказа элементарных цепей, т. е. цепей вида
Ч~'1—ЕЮ—Ч~'1—ЕЮ—
Ч~'1—ЕЮ—
Ч~'1—ЕЮ—
1) 2)
Рис. 4
Введем события А, = {выход из строя элемента /}. Тогда Р(А/) = pi. Элементарная цепь вида 1) выходит из строя, когда события Ai и А2 наступают одновременно. Следовательно, Р(цепь 1) выходит из строя) = Р(А1Аг) = Р(А1)Р(Аг) = Р1Р2- Элементарная цепь вида 2) выходит из строя, когда наступает либо событие Аз, либо А4. Поэтому Р(цепь 2) выходит из строя) = Р(Аз + А4) = Р(Аз) + Р(А4)— Р(АзА4) = рз 4- Р4 — РзР4- Нашу сложную цепь можно упростить с помощью укрупнения. Это означает, что мы элементарные цепи рассматриваем как новые элементы (они выделены на рис. 4 пунктирной линией), вероятности отказа которых мы уже знаем: это Pi = Р1Р2 и Рг = рз + Р4 — РзР4- Но упрощенная цепь будет снова вида 1), и вероятность ее отказа будет равна РхР2 = Р1Рг(рз + Р4 - РзР4)-
Методом последовательного укрупнения схем можно рассчитывать вероятности отказа любых цепей, если вероятности отказов элементов известны.
Задача 2 (о разорении игрока). Рассмотрим игру в “орлянку”, когда игрок выбирает “герб”или “решетку”, после чего бросается монета. Если выпадает сторона монеты, названная игроком, то он выигрывает, получая 1 руб.; в противном случае столько же проигрывает. Пусть начальный капитал игрока составляет х руб. и игрок ставит себе целью довести его до некоторой суммы s руб. большей чем х руб. Игра продолжается до тех пор, пока либо игрок наберет заранее определенную сумму s, либо разорится, проиграв весь имеющийся у него капитал. Какова вероятность того, что игрок разорится?
Решение. Введем события:
Н^ = {игрок выиграл на первом шаге},
Н^ = {игрок проиграл на первом шаге},
А = {игрок разорится, имея начальный капитал х руб.}.
Обозначим через рх = Р(А) искомую вероятность. Очевидно, эта вероятность определена для любого целого х, О ^ х ^ s и очевидно ро = 1,р» = 0.
Поскольку монета симметрична, то Р(Я1) = Р(Я2) = ^- Если наступает событие Я1, то капитал игрока стал х + 1, а если наступает событие Н^, то капитал игрока стал х — 1. После этого можно считать, что игра начинается снова, и согласно принятому обозначению Р(А|Я1) = р®-ц, Р(А|Я2) = = ря-1, где х - любое число 1 ^ х ^ s — 1.
Поскольку А = Afi = А(Я1 4- Я2) = АЯ1 + АЯ2 и события Я1 и Яг несовместны, то по формуле сложения вероятностей Р(А) = Р(АЯ1) + Р(АЯг). Применяя формулу умножения вероятностей, получим
Р(А) = Р(Я!)Р(А|Я1) + Р(Я2)Р(А|Я2).
Это в силу принятых обозначений дает следующее рекур- 1, 1
рентное уравнение для вероятности рх: рх = -px+i + -^Px-h 1 ^ х ^ в— 1. Известно, что решением этого уравнения является только линейная функция рх = ci + c^xv где ci,с2 - произвольные коэффициенты. Эти коэффициенты можно определить, подставляя в выражение для рх значения х = 0 и х = s и пользуясь граничными условиями ро = 1,р» = 0. Имеем ci = 1,сх + c2s = 0. Откуда следует, что ci = 1,с2 = -" и значит рх = 1 — -, 0 х s.
Задачи
Задача 6.1. Двое бросают монету. Выигрывает тот, у кого первого выпадет герб. Найти вероятность выигрыша для каждого.
Задача 6.2. Прибор содержит четыре узла: Ai, А2, A3, А4. Узел Ai дублирует Ai, а А4 дублирует A3. При отказе происходит автоматическое переключение. Надежность переключающего устройства равна р. Надежность в течение за-
данного времени каждого из узлов равна Pi,i = 1,2,3,4. Вычислить надежность прибора.
Задача 6.3. Вероятность хотя бы одного попадания в мишень при трех выстрелах равна 0.875. Найти вероятность попадания при о деюм выстреле.
Задача 6.4. Для того, чтобы разрушить мост, нужно попадание не менее двух бомб. Независимо сбросили три бомбы с вероятностями попадания 0.1, 0.3 и 0.4. Какова вероятность, что мост разрушен?
Задача 6.5. Рассчитать вероятность отказа цепи (не идет ток),
—гти
2 I1 3 F
1 4 I
Рис. 5
где pt - вероятность отказа i-ro элемента.
Задача 6.6. Рассчитать вероятность отказа цепи (не идет ток).
Рис. 6Рис. 6
Рис. 6
Рис. 6
где pi - вероятность отказа г-го элемента.
Задача 6.7. Для того, чтобы сбить самолет достаточно одного попадания. Было сделано три выстрела с вероятностями попадания 0.1, 0.2 и 0.4 соответственно. Какова вероятность того, что самолет сбит?
Задача 6.8. Какова вероятность того, что при многократном бросании игральной кости шестерка впервые выпадет на четвертом броске?
Задача 6.9. Какова вероятность того, что при многократном бросании правильной монеты герб впервые выпадет на четном броске?
. Формула полной вероятности и формула Байеса
При решении вероятностных задач часто возникает следующая ситуация. Все пространство элементарных событий можно разбить на события, не содержащие общих исходов, тем самым выделяется группа несовместных событий, которые в совокупности составляют достоверное событие. Пусть известно, каким образом вычислить условную вероятность при условии, что то или иное событие из этой группы произошло. Пусть, кроме того, ясно как вычислить вероятности самих событий, входящих в эту группу. В таком случае очень полезным оказывается результат, получивший название “формула полной вероятности”.
Определение 1. Набор событий Я1,Я2,...,Нп называется полной группой событий, если они попарно несовместны и их сумма составляет достоверное событие:
Я1 4- Яг + • —Ь Нп = Q.
Теорема! (формула полной вероятности). Пусть Hi,1 = 1,2,..., п, - полная группа событий, и Р(Я/) > 0. Тогда для любого события А
Р(Л) = £Р(Я,)Р(Л|Я,).
/=1
Доказательство. В силу свойств операций над событиями (§2)
А = ДГ2 = А^Н\ 4- Яг 4- • • • 4~ Яп) = АНу 4~ АН2 4- • • • 4- АНп.
Поскольку события Hi попарно несовместны, то и события AHi тоже попарно несовместны. Тогда в силу следствия 2 §6
п
Р(Л) = Р^АН, + ЛЯ2 + • ■ ■ + ЛЯ„) = £ Р(ЛЯ|).
1=1
Теперь, применяя к слагаемым Р^АН^ формулу умножения вероятностей (§6), получим утверждение теоремы.
Задача 1. Пусть в коробке есть 3 новых и 3 уже использованных теннисных мяча. Для первой игры наудачу берут из коробки 2 мяча и затем их возвращают в коробку. Какова вероятность для второй игры из этой коробки наудачу вынуть два новых мяча?
Решение. Введем событие А = {вынуть два новых мяча для второй игры}. Ситуация перед второй игрой описывается следующими взаимоисключающими возможностями: Яз = {в коробке три новых мяча}, если в первый раз играли двумя старыми мячами, Яз = {в коробке 2 новых мяча}, если играли одним старым и одним новым, Ях = {в коробке 1 новый мяч}, если играли двумя новыми мячами. События Я1,Яз, Яз составляют полную группу событий, так как они несовместны и в сумме составляют все возможные исходы. Используя комбинаторные формулы, получим Р(Яз) = СЦСХ = 1/5,Р(Я2) = 3 3/С62 = 3/5,Р(Ях) = С32/С2 = 1/5. Далее имеем Р(А|Я3) = Cj/Cj = 1/5,Р(А|Я2) = 1/Cj = = 1/15,Р(А|Ях) = 0. Теперь, используя формулу полной вероятности, найдем
Р(А) = 1.04--- — 4-1-1 = —.V y 55 155 525
В рамках ситуации, которая была описана в начале параграфа, можно ответить и на следующий вопрос. Пусть известно, что произошло некоторое событие. Какова вероятность того, что при этом реализовалось то или иное событие из выделенной полной группы событий? Ответ на этот вопрос дает следующий результат.
Теорема 2 (формула Байеса). Пусть даны полная группа событий Н\,Н2,...,Нп в некоторое событие А. Тогда для любого к = 1,2,...,п условная вероятность события Н^ при условии, что событие А произошло, задается формулой
I Р№)Р(л|н»)
v *1 ; Е"=1 Р(я,)Р(а|»,)'
Доказательство. В силу определения условной вероятности Р(Я*|Л) = Р(Я*Л)/Р(Л). Согласно формуле умножения вероятностей (§ 6) имеем Р^Н^А) = Р(Я*)Р(Л|Яд.). Следовательно,
р№|л) = ™^.
Подставляя сюда выражение для Р(Л) из формулы полной вероятности, получим формулу Байеса.
Задача 2. Два охотника одновременно и независимо стреляют в кабана. Известно, что первый попадает с вероятностью 0.8, а второй - 0.4. Кабан убит, и в нем обнаружена одна пуля. Как делить кабана?
Решение. Наиболее естественным является следующий принцип деления. Делить следует пропорционально условным вероятностям попадания каждого при условии, что в кабане имеется одна пуля. Дело в том, что при неограниченном (хотя бы и мысленном) повторении описанной ситуации частота, с которой будет добиваться успеха каждый из стрелков, будет сближаться с соответствующей условной вероятностью. Пусть Л = {в кабане имеется одна пуля}. Какую выбрать полную группу событий? Выберем такие события: Ноо = {не попал ни первый, ни второй}, Яю = {попал первый, не попал второй}, Яо i = {не попал первый, попал второй}, Ян = {попал первый, попал второй}. Нам нужно найти вероятности Р(Яю|Л) и Р(Яо1|Л). Очевидно, что Р(Л|Я00) = О,Р(Л|Я1о) = 1,Р(Л|Я01) = 1,Р(Л|Яц) = 0. Поскольку стрелки стреляют независимо друг от друга, то по формуле умножения вероятностей
Р(Яю) = Р(попал первый)Р(не попал второй) = 0.8-0.6 = 0.48, Р(Яо1) = Р(не попал первый)Р(попал второй) = 0.20.4 = 0.08. Применяя формулу Байеса, получим
Таким образом, первому следует отдать 6 долей из 7, а второму - одну.
Задачи
Задача 7.1. На рис. 8 изображена схема дорог.
Рис. 7
Туристы вышли из пункта О, выбирая наугад на разветвлении дорог один из возможных путей (изменять направление более чем на 90° нельзя). Какова вероятность того, что они попадут в пункт А?
Задача 7.2. Есть четыре кубика с цифрами на гранях 1,2,..., б и одна правильная пирамида с цифрами на гранях 1,2,3,4. Наугад выбрали предмет и бросили. Выпала цифра 4. Какова вероятность того, что взяли кубик?
Задача 7.3. Есть 10 симметричных монет, 8 нормальных, а на двух герб находится с обеих сторон. Наудачу взятая монета бросается три раза. Найти вероятность того, что выпадут три герба.
Задача 7.4. В ящике 3 белых и 7 черных шаров. Один шар вынули наудачу и отложили в сторону. Следующий наугад вынутый шар оказался белым. Какова вероятность того, что отложенный шар был белым?
Задача 7.5. В ящике 3 белых и 7 черных шаров. Один шар вынут и отложен в сторону. Какова вероятность, что следующий вынутый шар будет белым, если цвет первого неизвестен?
Задача 7.6. Число грузовых машин, проезжающих мимо колонки, относится к числу легковых машин как 3:2. Вероятность того, что грузовая машина будет заправляться равна 0.1, а того, что будет заправляться легковая -0.2. У бензоколонки заправляется машина. Найти вероятность того, что это грузовая машина.
Задача 7.7. Три охотника одновременно и независимо стреляют в кабана. Известно, что первый попадает с вероятностью 0.8, второй - 0.4, а третий - 0.2. Кабан убит, и в нем обнаружены две пули. Как делить кабана?
. Последовательные испытания (схема Бернулли)
Схема Бернулли заключается в следующем. Проводятся п последовательных независимых одинаковых экспериментов (испытаний), в каждом из которых может наступить или не наступить событие А. Под независимыми понимаются такие эксперименты, в которых любые события, возникающие в разных экспериментах, являются независимыми в совокупности. Так как испытания одинаковы, то в любом из них событие А наступает с одинаковой вероятностью, обозначим ее р = Р(Л). Вероятность дополнительного события обозначим q. Тогда q = Р(Л) = 1 — р. Наступление события А обычно называют успехом, а ненаступление - неудачей.
Пример 1. Симметричная однородная монета бросается 10 раз. В каждом из бросаний нас интересует событие А = {выпал герб]. Здесь 10 испытаний, и так как монета симметрична и однородна, то р = Р(Л) = 1/2, q = Р(Л) = 1/2.
Пример 2. Игральная кость бросается три раза. При каждом бросании нас интересует событие А = {выпала шестерка). Здесь три испытания, и поскольку кубик симметричен и однороден, то р = Р(Л) = 1/6, q = Р(Л) = 5/6.
Теорема 1 (формула Бернулли). Обозначим Р^т) = = Р (событие А наступило т раз в п испытаниях). Тогда
Pn(m) = C^pmqn-m. (8.1)
Доказательство. Пронумеруем испытания числами от 1 до п. Обозначим Л/ = {наступление А в /-м испытании). Ясно, что Р(Л/) = р,Р(Л,) = 1 — р = q, и события Л;,/ = 1,2,..., п, независимы в совокупности. Для того, чтобы прояснить суть доказательства, рассмотрим сначала конкретный случай, когда п = 3, т = 2. Можно написать следующее представление для интересующего нас события: {Л наступило 2 раза в трех испытаниях ) = Л1Л2Л3 + Л1Л2Л3 + Л1Л2Л3. Число слагаемых здесь равно Cj = 3, что равно числу
возможностей выбрать два числа среди трех чисел 1,2,3 без учета порядка. Это соответствует выбору пар номеров испытаний {1,2}, {1,3}, {2,3}, в которых наступает событие Л. Оставшийся номер отводится событию Л. Слагаемые Л1Л2Л3, Л1Л2Л3, Л1Л2Л3 несовместны, так как не может, например, наступать и одновременно не наступать событие Л в третьем испытании. Каждое слагаемое является произведением независимых событий. Поэтому, применяя формулу сложения для несовместных событий и формулу умножения для независимых событий, получаем
Р(Л) = Р(Л1Л2Л;) + Р(Л1Л^Лз) + Р(Л7Л2Л3)
= Р(Л!)Р(Л2)Р(Л^ + Р(Л,)РдаР(Лз) + Р(Л^Р(Л2)Р(Л3) = ЮТ + PiP + «РР = Зр2» = С2р2д.
Тем самым мы установили формулу Бернулли для п = 3,т = 2. Формула для общего случая доказывается аналогично. Существует ровно С™ различных возможностей выбрать m номеров испытаний, в которых наступает событие Л. Таким образом, имеется С™ несовместных событий типа Л1Л2Л3 ... Л*;Л*+1... Лп, среди множителей которых т событий вида Ai и п — т событий вида Aj. В сумме эти С™ несовместных событий составляют событие {Л наступило т раз в п испытаниях}. Каждое из слагаемых имеет вероятность
Р(Л1Л2Лз ... АкЛ*+1... Лп)
= Р(Л1)Р(Л2)Р(Лз).. .Р(Лк)Р(Л+1) . . .Р(Л„) = pmq^.
Поскольку эти вероятности одинаковы, то суммарная вероятность имеет требуемый вид C^pmqn-m.
Теорема 2. Пусть mi,m2 - целые числа, 0 ^ mi ^ m2 ^ п. Обозначим через Pn(mi, mV) вероятность того, что событие А наступило не менее mi и не более m2 раз в п испытаниях. Тогда ГП2
Рп<тп1,т^=Т,СкпркЧ"-\(8.2)
к=тх
или
mi -1п
P„(mi,m2) = l- ^W'1- £ ^Р^""*- (S3) к=0к—т2+1
Замечание 1. Следует использовать ту формулу, в которой число слагаемых меньше.
Доказательство теоремы 2. Для краткости фразу “в та испытаниях” будем опускать. Справедливо представление
{Л наступило не менее mi и не более тг раз} =
= У2 М наступило ровно к раз}. fc=mi
Все слагаемые являются несовместными событиями, так как А не может наступать различное число раз в п испытаниях одновременно. Используя формулу сложения вероятностей и формулу Бернулли, получим
Pn(mi,m2) = Р(Л наступило не менее mi и не более m2 раз) т2тг
= У^ Р(Л наступило ровно к раз) = У^ Ckpkqn-k.
l=mik=mi
Второе выражение для Рп(т1,тг) справедливо в силу формулы бинома Ньютона:
^суд""‘ = (р+»)° = 1-
Л=0
Определение 1. Число наступлений события А называется наивероятнейшим, если оно имеет наибольшую вероятность по сравнению с вероятностями наступления А любое другое количество раз.
Теорема 3. Наивероятнейшее число наступлений события А в п испытаниях заключено между числами пр — q и пр + р.
Замечание 2. Если пр — q - целое число, то наивероятнейших чисел два: пр — q и пр + р.
Доказательство. По формуле Бернулли при m = 1,2,. . . , 71,
Pn(m) _ С^ртдп-т _ n!(m - l)!(n -т + 1)!р _ (n +1 -т)рPn^m-l) C^~1pm~xqn~m+1m!(n - m)!n!g~ m(l - p) ’
Следовательно, вероятность Pn(m) будет больше, равна или меньше вероятности Pn(m — 1) в зависимости от того, какое из следующих трех соотношений будет выполняться
(п 4-1 — т)рт(1 — р)(п 4-1 — т)рт(1 — р)>1,>1,(п 4-1 — т)рт(1 - р)(п 4-1 — т)рт(1 - р)(п 4-1 — т)ртп(1 — р)(п 4-1 — т)ртп(1 — р)< 1.< 1.
(п 4-1 — т)рт(1 — р)
(п 4-1 — т)рт(1 — р)
>1,
>1,
(п 4-1 — т)рт(1 - р)
(п 4-1 — т)рт(1 - р)
(п 4-1 — т)ртп(1 — р)
(п 4-1 — т)ртп(1 — р)
< 1.
< 1.
Если переписать эти соотношения в более простом виде
(n + l)p>m, (n + l)p = m, (n4-l)p<m,
то мы приходим к выводу, что
(8-4)(8-4)(8-5)(8-5)(8.6)(8.6)Pn(m) > Pn(m — 1), если m < (п 4- 1)р,
(8-4)
(8-4)
(8-5)
(8-5)
(8.6)
(8.6)
Pn(m) = Рп(т — 1), если m = (п 4- 1)р,
Pn(m) < Рп(т — 1), если m > (п 4- 1)р.
Следовательно, вероятность Pn(m) сначала возрастает, когда m < (п 4- 1)р, а затем убывает, когда т > (п 4- 1)р. В случае, когда (п4- 1)р не является целым числом, для наивероятнейшего числа наступлений события А (обозначим его то) должно выполняться неравенство Pn(mo 4- 1) < P«(mo), что согласно (8.6) возможно при то 4- 1 > (п + 1)р, т. е. при то > пр — д, а также должно выполняться неравенство Pn(mo — 1) < Рп(^о)> что в силу (8.4) возможно при то < пр 4- р. Таким образом, пр — q < то < пр 4- р. Это и утверждается теоремой. Заметим, что разность между пр-\-р и. пр — q равна единице, и значит число то единственно. В случае, когда пр 4- р является целым числом, то то = пр 4- р будет наивероятнейшим числом наступлений события А, однако mo — 1 тоже будет таковым, поскольку в силу (8.5) Рп(шо) = Pn(mo —1). Поэтому таких чисел будет два, а именно т^ = пр — q, т^ — пр + р.
Задача 1. Вероятность попадания в цель при каждом выстреле из лука равна 1/3. Производится шесть выстрелов. Какова вероятность ровно двух попаданий? Какова вероятность не менее двух попаданий? Каково наивероятнейшее число попаданий?
Решение. Обозначим А = {попадание при одном выстреле), р = Р(Л) = 1/3, g = 1 — р = 2/3. Число выстрелов
п = 6. Естественно предположить, что выстрелы не зависят друг от друга. Тогда ответ на первый вопрос находим по формуле Бернулли
151в- 80 ~1
Ответ на второй вопрос следующий:
Наивероятнейшее число попаданий лежит в пределах от 6 • - — до 6 • т. е. от 1^ до 2^. Следовательно, оно 333333
равно двум.
Задача 2 (Банаха). Некий курящий математик носит с собой две коробки спичек. Каждый раз, когда он хочет достать спичку, он выбирает наугад одну из крробок. Найти вероятность того, что когда математик вынет в первый раз пустую коробку, в другой коробке окажется ровно г спичек, О < г п, где п - число спичек, бывших первоначально в каждой из коробок.
Решение. Пусть А - событие, которое состоит в том, что вынимается спичка из коробка, который в конце оказался пустым. Если вынутая коробка пуста, а другая коробка содержит г спичек, то это означает, что спички брались всего 2п—г раз. При этом событие А наступило ровно п раз, так как коробок стал пустым. Поскольку каждый раз коробок выбирается наугад, то Р(Л) = 1/2. По формуле Бернулли событие А наступает п раз в 2п — г испытаниях с вероятностью
Задачи
Задача 8.1. В семье 10 детей. Считая вероятности рождения мальчика и девочки равными 1/2, определить вероятность того, что в данной семье: а) пять мальчиков; б) мальчиков не менее трех, но и не более восьми.
Задача 8.2. Что вероятнее выиграть у равносильного шахматиста (ничейный исход партии исключен): больше одной партии из четырех или больше двух партий из пяти?
Задача 8.3. (Проблема Джона Смита) В 1693 г. Джоном Смитом был поставлен следующий вопрос: одинаковы ли шансы на успех у трех человек, если первому надо получить хотя бы одну шестерку при бросании игральной кости 6 раз, второму - не менее двух шестерок при 12 бросаниях, а третьему - не менее трех шестерок при 18 бросаниях.
Задача 8.4. В кошельке лежат 8 монет достоинством 5 копеек и 2 монеты достоинством 3 копейки. Наудачу выбирается монета и бросается 5 раз. Какова вероятность того, что в сумме будет 15 очков, если герб принимается за 0.
Задача 8.5. Какова вероятность выпадения хотя бы двух шестерок при трех бросаниях игральной кости?
Задача 8.6. В помещении четыре лампы. Вероятность работы в течение года для каждой лампы 0.8. Найти вероятность того, что к концу года горят три лампы. Чему равно наивероятнейшее число ламп, которые будут работать в течение года?
Задача 8.7. Партия изделий содержит 1 % брака. Каков должен быть объем контрольной выборки, чтобы вероятность обнаружить в ней хотя бы одно бракованное изделие была не меньше 0.95.
Задача 8.8. Два баскетболиста делают по три броска в корзину. Вероятность попадания мяча при каждом броске равна соответственно 0.6 и 0.7. Найти вероятность того, что у обоих будет равное количество попаданий.
§ 9. Предельные теоремы для схемы Бернулли
Сохраним все обозначения предыдущего параграфа. В случае, когда число испытаний велико, формулу Бернулли применять неудобно. Для больших п существуют приближенные формулы. Эти формулы тем точнее, чем п больше.
Рассмотрим сначала случай, когда с ростом п вероятность р уменьшается обратно пропорционально п. При малых р, речь идет о появлении очень редких событий, так как вероятность их наступления в отдельном испытании мала. Однако вероятность появления одного или нескольких редких событий в длинной серии испытаний уже не будет малой величиной.
В этом параграфе и далее соотношение ап ~ ЬП1 где {ап}
и (6П) - две числовые последовательности, означает, что ап(Ьп —► 1 при п —► оо, или, что то же самое, ап = 6П(1-Ь -Н>(1)), где о(1) обозначает некоторую величину, стремящуюся к нулю. Соотношение «„ to bn, означает, что ап — Ьп —► О при п —► оо
Ат -А т!Ат -А т!Теорема 1 (Пуассона). Предположим, что произведение пр является постоянной величиной, когда п неограниченно возрастает. Обозначим А = пр. Тогда для любого фиксированного т и любого постоянного А
Ат -А т!
Ат -А т!
lim РгАтА =п—юо ' 'пр=Х
Доказательство. Применяя формулу Бернулли, получим
PnW = C^pm(l-p)n-m =PnW = C^pm(l-p)n-m =п!m!(n — т)!п!m!(n — т)!
PnW = C^pm(l-p)n-m =
PnW = C^pm(l-p)n-m =
п!
m!(n — т)!
п!
m!(n — т)!
1Ат / А\ п~т
= — n(n - 1).. .(п - т + 1)—)=
т! х ' х' пт \ п/
^(1 - -)"(1 - 1) (1 - -) ... (1 - —-) (1 - -V™ ml \ n/ \ n/ \ n/ \ n / \ n/
Поскольку при любом фиксированном в имеет место сходимость 1 — - —* 1 при п оо, то
PnW ~PnW ~
PnW ~
PnW ~
Теперь, используя замечательный предел
lim (1 — -lim (1 — -= е"Л= е"Л
lim (1 — -
lim (1 — -
= е"Л
= е"Л
несложно убедиться в справедливости утверждения теоремы.
Задача 1. Радиоаппаратура состоит из 2000 элементов. Вероятность отказа одного элемента в течение года равна 0.001. Какова вероятность отказа двух элементов за год? Какова вероятность отказа не менее двух элементов за год?
Решение. Работу каждого элемента рассматриваем как отдельное испытание. Обозначим А = {отказ элемента за год}. Имеем р = Р(Л) = 0.001, А = пр = 2000 • 0.001 = 2. По формуле Пуассона
Р2ооо(2) * ^е"2 = 2е"2 * 0.2707.
Ответ на второй вопрос дается формулой
Ргооо(2,2000) = 1 — Ргооо(О) — Р2ооо(1) ы
« 1 - ~е"2 - ^е“2 = 1 - Зе-2 « 0.594.
Рассмотрим еще одну приближенную формулу для вероятности Рп(т), когда п велико. В отличие от предыдущего результата число успехов т в этом случае тоже растет с ростом п, а вероятность успеха постоянна.
Теорема 2 (Муавра-Лапласа (локальная)). Положим хп = ~=г. Предположим, что т —* оо.п —* оо и величины, хп являются ограниченными. Тогда
VnpqPnkm^ ~ -^=е-г"/2.
В частности, если хп —► х, то
VnpqPn^ -> -^е~$212.
Доказательство. В силу ограниченности величин хп разность п—т стремится к оо вместе спит. Воспользуемся формулой Стирлинга из § 1
к\~к\~
к\~
к\~
для к = п,к = т и к = п — т. Тогда получим
V5pgPn(m) = Ж^Г” = ^^Ртч""" ~
VnpgV^n”т_п-т =
■V^ttV^^^V71 ■ m(n — тУ*~т
Поскольку в силу определения хп имеем
m = пр + ®п VnP9»(9*1)
п — т = п — пр — xny/npq = nq — xny/npq, (9.2) то
— = 1 + ^~1,(9.3)
пр упр
п — m — | _ ^пУрngУп?
Поэтому, при достаточно большом п,
VnpqPnVm) ~ -75=( 1 +)(1^)=
vу 2тг X у/пр /\ упд /
= -4= exp (—т In Г1 +— (п — т) 1п (1 —.
У5хX х/Яр ) v ’ \y/nq //
Далее воспользуемся следующим асимптотическим выражением:
-21п(1 + г) = % — —(1 4- о(1))при z —> 0.
Тогда
V5reP„(m) ~ -Кехр(-т{^ - ^(1 + 0(1))}-
-(’*-"’){-^-^(1+°(1))})- <9-5)
В силу (9.1), (9.2),
((n — irV^x/p ^"У^Х ^п /1\
а?п(—~) = -j=(nqp-xny/npqp-npq-xny/npqq) =
\ \/nq xfrvp) y/npq хv
= ~®n(P + q) = -a?t
Применяя (9.3), (9.4), получим, что
^{(^(H^+^d + ^DlJ^
~ т^1 + "М) + «(! + "(М)} ~ Т^ + ’’ = Т'Подставляя полученные выражения в (9.5), имеемV^H ~ -1=ехр(-а?2 + ^(1 +о(1))) ~ -Lexp(-^-).
Теорема доказана.
Рассмотрим приближенную формулу для вероятности Pn(mi,m2) того, что событие А наступило не менее mi и не более m2 раз в в испытаниях, когда п велико. Предположим, что числа mi и m2 растут с ростом п, а вероятность успеха постоянна.
Теорема 3 (Муавра-Лапласа (интегральная)). Положим mi — пр , тз — пр О„ — , Оп — у ■ - •
Предположим, что mi —* оо, п —* оо, и величины ап и Ьп являются ограниченными. Тогда
6»
а.
Доказательство. По локальной теореме Муавра- Лапласа
Pn(m) =+ <^(1)),
где а?»(т) =mi <т< тг и от(1) - величина, стре
мящаяся к нулю при п —► оо. Величина от(1) зависит от т. При доказательстве теоремы 2 можно было бы установить, что справедливо равномерное предельное соотношение:
lim sup |om(l)| = 0.(9.6)
n-*oo mi^m^m2
Это привело бы к значительному усложнению выкладок, по- отому мы принимаем это соотношение без доказательства. Согласно теореме 2, § 8
тата
P„(mi,m^= £ Рп^= £*_e-*l(m)/2(1 + Om(1)).
m=mim=miv
Обозначим Xn(*n-M)--rn(m) = Дгп(т). Тогда Дхп(т) = —==, и вероятность Pn(mi, m2) представима в виде
та
Р„(т1,та) = ^ £ ^’’^ЛМ"^^^))- m=mi
Отсюда следует, что
г1*”аI
|Pn(mi,ma)-^= 52 е-е-(т)/2Д»п(т)| < m=mi■
^ sup |от(1)|~= 52 е"*х»(т>/3Да?п(т).
По определению интеграла
е—?<т)/аД»„(т)е—?<т)/аД»„(т)
е—?<т)/аД»„(т)
е—?<т)/аД»„(т)
Подставляя это выражение в предыдущее неравенство и учитывая соотношение (9.6), найдем .
Pn(mi,m2)Pn(mi,m2)
Pn(mi,m2)
Pn(mi,m2)
w =w =Теорема доказана. Положим
w =
w =
ф(е) = ^ / e-^^dt.Jо
Отметим одно очевидное свойство функции Ф(х), она является нечетной. Значения функций ф(х) и Ф(я) находятся из таблиц, при этом таблицы даны лишь для неотрицательных значений х. Функция ф^ называется функцией Гаусса, а функция Ф(я) называется функцией Лапласа. Используя
функции ф^ и Ф(ж), сформулированные выше результаты можно кратко выразить так: локальная теорема Муавра- Лалласа утверждает, что
Р"(т) ~ тЬ^' где *" = ^’ ^
а интегральная теорема Муавра-Лапласа - что
Pn(mi,m2) to ~(Ф(6П) -Ф(ао)),(9.8)
№1 - Пр ,ТП2 - Пр т
где ап = —, -. Ьп = —; Требование о том, что ве-
y/npqs/npq
личины ап,Ъп предполагаются ограниченными, не является существенным. Это будет следовать из теоремы 2 § 17 (см. пример 1).
Задача 2. Найти вероятность того, что при 150 выстрелах мишень будет поражена ровно 70 раз, если вероятность попадания при одном выстреле равна 0.4.
Решение. Данная задача решается с использованием схемы Бернулли: п = 150, А = {попадание при одном выстреле}, р = Р(А) = 0.4, q = 1 — р = 0.6, m = 70. Применим локальную теорему Муавра-Лапласа. Имеем y/npq = = V150 • 0.4 • 0.6 = 6, г„ = 12^1^212^ = ^ ~ 1.67. Тогда
Р15о(7О) ~ ^Ф(1.67) to | • 0.0989 to 0.0165.
Задача 3. Город ежедневно посещают 1000 туристов, которые днем идут обедать. Каждый из них выбирает для обеда один из двух городских ресторанов с равными вероятностями и независимо друг от друга. Владелец одного из ресторанов желает, чтобы с вероятностью приблизительно 0.99 все пришедшие в его ресторан туристы могли там одновременно пообедать. Сколько мест должно для этого быть в его ресторане?
Решение. Пусть А = {турист пообедал у заинтересованного владельца}. Наступление события А будем считать “успехом”, р = Р(А) = 0.5, п = 1000. Нас интересует такое наименьшее число т, что вероятность наступления не менее
чем т “успехов* в последовательности из п = 1000 независимых испытаний с вероятностью успеха р = 0.5 приблизительно равна 1 — 0.99 = 0.01. Это как раз вероятность переполнения ресторана. Таким образом, нас интересует такое наименьшее число т, что Рюоо^т, 1000) to 0.01. Применим интегральную теорему Муавра-Лапласа. Имеем yjnpq = 5V10, ,1000 - 500_ ст , т — 500 т . п /ттг
Ьп =7=— = ЮуЮ, Ьп =;=- = —7= — ЮуЮ, m неиз-
sVio* ” sVio sVio *
вестно. Тогда
0.01 IS Piooo(m, 1000) to 1 (ф(ЮД0) - »(^= - 10VI6))to
» ^-фГ-^- ioVIo)).
2\ \5ViO//
Откуда следует, что
тsVioтsVioЧ^-10^)”0-98-
тsVio
тsVio
Используя таблицы для функции Ф(ж) находим,
— Юх/ТО to 2.33, и, значит, т to 2.33 • 5л/1б + 500 to 536.8. Сле
довательно, в ресторане должно быть 537 мест.
Задачи
Задача 9.1. Текст содержит 20000 букв. Каждая буква может быть неправильно напечатана с вероятностью 0.0004. Какова вероятность, что в тексте не менее двух опечаток?
Задача 9.2. Телефонная станция обслуживает 600 абонентов. Вероятность любого позвонить в течение часа равна 0.005. Какова вероятность того, что в течение часа позвонит один или два человека?
Задача 9.3. Игральную кость бросают 80 раз. Найти приближенно границы, в которых число выпаданий шестерки будет заключено с вероятностью 0.9973. .
Задача 9.4. В партии из 768 арбузов каждый арбуз оказывается неспелым с вероятностью 1/4. Найти вероятность того, что количество спелых арбузов будет в пределах от 564 до 600.
Задача 9.5. Вероятность найти белый гриб среди прочих равна 1/4. Какова вероятность того, что среди 300 грибов белых будет 75?
Задача 9.6. Завод отправил в магазин 5000 лампочек. Вероятность того, что лампочка разобьется при транспортировке равна 0.0002. Найти вероятность того, что в магазин привезли не более трех разбитых лампочек.
Задача 9.7. При социологических опросах граждан каждый человек независимо от других может дать неискренний ответ с вероятностью 0.2. Найти вероятность того, что из 22500 опросов число неискренних ответов будет не более 4620.
$ 10. Случайные величины и функции распределения
Рассмотрим сначала случайный эксперимент с дискретным пространством исходов, т. е. с таким пространством элементарных событий (2 = {^1,^2,...}, которое состоит из конечного или счетного числа исходов. Пусть есть величина, которая в результате случайного эксперимента принимает различные числовые значения в зависимости от наступления того или иного исхода, при этом каждому исходу соответствует только одно число. Иными словами, на пространстве элементарных событий задана функция.
Определение 1. Функция, заданная на пространстве элементарных событий (2 = {wi,o>2,...}, называется случайной величиной.
Для любого исхода w значение х = Х(ш) - это реализация случайной величины при данном исходе.
Поскольку в ходе случайного эксперимента реализуется липп» один какой-то исход, то это означает, что в результате эксперимента наблюдается липп» какое-то одно значение случайной величины (одна реализация) из всех возможных.
Обозначать случайные величины будем заглавными латинскими буквами X, У,..., а конкретные их значения соответствующими строчными буквами ж, у
Пример 1. Пусть бросается игральная кость. Величина X, равная числу выпавших очков, является случайной величиной. Величина X принимает значения 1, 2, 3, 4, 5, 6.
В этом примере элементарный исход - это выпадение той или иной грани игрального кубика. В стандартной ситуации (игральная кость) на гранях кубика написаны цифры 1, 2, 3, 4, 5, 6. Однако можно этим граням сопоставить и другие числа. Тогда мы получим другую случайную величину, хотя пространство элементарных исходов и соответствующие им вероятности 1/6 останутся прежними.
Для дискретных пространств Q = {wi,^,...} будем обозначать Xi = X(wj), I = 1,2,.... Величина X принимает при этом не более чем счетное число значений {zi,Z2,...} и называется дискретной. Значение xi случайной величины X наступает с некоторой вероятностью, обозначим ее рь Ясно, что pi =52 pC^i)- Кратко это будем записывать
u>l :Jf(wi)=fi
так: pi = Р(Х = xi). В силу аксиом 3) и 2) из определения вероятности (§ 6) следует, что
1.1.= £р(х = *0 = р(£{х = ®.}) = 1=11=1
1.
1.
Определение 2. Соответствие, которое каждому значению xi дискретной случайной величины X сопоставляет его вероятность pi, называется законом распределения случайной величины X.
Закон распределения величины X удобно задавать в виде таблицы:
X
Z1
$2
. . .
®п
р
Pi
Р2
. . .
Рп
Пример 2. Пусть X - число гербов, выпавших при четырех бросаниях правильной монеты. Величина X может принимать значения 0, 1, 2, 3, 4. По формуле Бернулли о) (о)= 77» и> следовательно,
закон распределения имеет вид
X
0
1
2
3
4
р
1
4
6
4
1
16
16
16
16
16
Замечание 1. Если X - дискретная случайная величина, то для любой функции д величина Y = д^Х^ тоже является дискретной случайной величиной. Эта величина принимает значения yt = д^сГ) с вероятностями р< = Р(Х = х^, I = 1,2,..., п, если функция д взаимно однозначна. Если же значения g(®i^ совпадают для различных xi с величиной ут, то Y = ff(X) принимает общее значение ут с вероятностью, равной сумме вероятностей рг, отвечающих всем таким Xf, для которых g(xZ) = Ут.
Задача 1. Дискретная случайная величина X имеет закон распределения
X
-2
-1
0
1
2
р
0.1
0.2
0.3
0.3
0.1
Построить закон распределения случайной величины Y = = Х2 + 1.
Р ешение. Значение 1 величина Y принимает только, когда величина X принимает значение 0, с вероятностью 0.3. Значение 2 величина Y принимает, если величина X принимает значение —1 или 1 с вероятностями 0.2 и 0.3 соответственно. Тогда эти вероятности нужно сложить, что даст вероятность события Y = 2. Аналогично вероятность того, что Y = 5 будет равна 0.1 + 0.1 = 0.2. Следовательно, закон распределения случайной величины У = X2 + 1 имеет вид
Y
1
2
5
Р
0.3
0.5
0.2
Рассмотрим случайные величины, которые могут уже быть не дискретными. При определении таких случайных величин множество Q уже не является счетным и мы должны опираться на аксиомы теории вероятностей § 6. Будем считать, что из подмножеств пространства элементарных событий Q выделено семейство множеств Л, которое является с-алгеброй. Множества из Л составляют всевозможные события случайного эксперимента. Предположим также, что
на Л задана вероятность Р, удовлетворяющая аксиомам теории вероятностей.
Определение 3. Случайной величиной называется функция X = X(w), заданная на пространстве элементарных событий Q, для которой событие {X < ж} = {w : X(w) < ж) принадлежит у-алгебре Л для любого вещественного ж.
Условие {X < ж) € Л дает возможность рассматривать вероятности событий {X < ж), поскольку вероятности определены только на множествах из Л. Кроме того, через события {X < ж), ж € (—оо,оо), с помощью известных операций над событиями можно выразить сколь угодно сложное событие, связанное со случайной величиной X. Такое событие будет также принадлежать (т-алгебре Л, и, следовательно, для него определена вероятность.
Вся совокупность вероятностей Р(Х < ж), ж 6 (~оо,оо) задает закон распределения случайной величины X в общем случае. Часто для краткости закон распределения называют просто распределением случайной величины X.
Определение 4. Функция .Г(ж) = Р(Х < ж), ж € [— оо,оо], называется функцией распределения случайной величины X.
Замечание 2. Для дискретных случайных величин F(x) = Р(Х <«) = Р(Е„«{х = м) = £,,<,р(х = «а = Е.,<.рь Ясно, что функция ^(ж) однозначно определяет все вероятности рь
Пример 3. Функция распределения величины X, равной числу гербов, выпавших при четырех бросаниях симметричной монеты, имеет вид
Рис. 8
Свойства функции распределения.
если a?i < а?2, то F(xi) ^ F^x^Y т. е. F(x) - неубывающая функция;
F(-oo) = 0,F(oo)=l;
функция F(x) непрерывна слева: lim^y F^x) = F(y).
Доказательство этих свойств целиком опирается на свойства вероятностей (§6). Положим А = {X < ®1},В = {X < X2Y При sei < Х2 выполняется включение А С В, т. к. если X(w) < Xi, то и X(w) < Х2. По третьему свойству вероятностей имеем Р(А) ^ P(S), а это по определению функции распределения и означает, что F(a?i) ^ F^X2\
Поскольку {X < —оо) = 0, а {X < оо) = Q, т. е. эти события являются соответственно невозможным и достоверным, то по первому и второму свойству вероятностей Р(Х < —сю) = 0, а Р(Х < 00) = 1. Это составляет второе свойство функции распределения.
Выберем произвольную монотонно возрастающую последовательность хП) стремящуюся к точке у. Тогда для к = 2,3,... выполняется {X < a?*_i} С {X < ж*}, и {X < у} =
ОО
= EU < *»}• по седьмому свойству вероятностей при к-1
П —* ОО
ОО
Р(Х < х„) - р(£{х < St}) = Р(Х < у).
к=1
В силу определения функции распределения это соотношение можно переписать следующим образом: F(xn) —* F(y) при хп Т у. Таким образом, справедливо третье свойство функций распределения.
Лемма 1. Для любых а < b выполняется равенство
Р(а X < b) = F(b) - F(a).(10.1)
Доказательство. Очевидно, что
{X < 6} = {X < а) + {а ^ X < 6),
при этом события {X < а) и {а ^ X < 6} несовместны. Используя формулу сложения вероятностей, получим
Р(Х < 6) = Р(Х < а) + Р(а < X < 6),
и, следовательно,
Р(а X < 6) = Р(Х < 6) - Р(Х < а) = F(6) - F(e).
Определение 5. Если существует такая неотрицательная функция /(у), что функция распределения F(x) для каждого х € (—оо,оо) представима в виде
F^= J К№у>— ООF^= J К№у>— ОО(10.2)(10.2)
F^= J К№у>
— ОО
F^= J К№у>
— ОО
(10.2)
(10.2)
то /(х) называется плотностью распределения случайной величины X.
Если случайная величина X имеет плотность распределения, то ее функция распределения непрерывна, поскольку интеграл - непрерывная функция верхнего предела.
В случае существования плотности формулу (10.1) можно записать следующим образом:
(10.3)(10.3)
(10.3)
(10.3)
Для непрерывной плотности распределения из формулы (10.3) и теоремы о среднем для интегралов следует, что при А —* 0 справедливо соотношение
Р(Х G [х, х + А)) га f(x)A.(10.4)
Это соотношение раскрывает суть плотности распределения, выражающуюся в том, что вероятность попасть в произвольно малый интервал, содержащий данную точку, сколь угодно близка к произведению плотности распределения в точке на длину интервала.
Свойства плотности распределения. ОО
J fWn = ^
/(х) = F'(x), если функция распределения дифференцируема.
Для проверки первого свойства достаточно в (10.3) положить а = —оо,6 = оо и заметить, что тогда слева в (10.3) стоит вероятность достоверного события. Дифференцируя равенство (10.2), получим второе свойство.
Пример 4. Однородная проволока длиной 1 метр растягивается за концы и разрывается. Пусть X - случайная величина, равная расстоянию от точки разрыва до левого конца проволоки. Используя геометрические вероятности, найдем, что
Р(х1^Х<х^ = ^^ = х2-х1mes(0,1)
для любых 0 ^ ®i < ®2 ^ 1. Следовательно, функция распределения и плотность распределения этой случайной величины имеют вид
' 0, при ж $СО,F^x) = <Ж, при 0 5$ ж 1,1, при 1 ^' 0, при ж $СО,F^x) = <Ж, при 0 5$ ж 1,1, при 1 ^' 0, при ж < О,' 0, при ж < О,/(ж) =1, при 0 ^ ж < 1,/(ж) =1, при 0 ^ ж < 1,k 0, при 1 ^ ж.k 0, при 1 ^ ж.
' 0, при ж $
СО,
F^x) = <
Ж, при 0 5
$ ж 1,
1, при 1 ^
' 0, при ж $
СО,
F^x) = <
Ж, при 0 5
$ ж 1,
1, при 1 ^
' 0, при ж < О,
' 0, при ж < О,
/(ж) =1, при 0 ^ ж < 1,
/(ж) =1, при 0 ^ ж < 1,
k 0, при 1 ^ ж.
k 0, при 1 ^ ж.
Пусть у = У (ж) — монотонно возрастающая функция, ж = д-1^ - обратная функция. Если X - случайная величина, то У = ^(Х) тоже является случайной величиной, поскольку {У < у} = {«/W < $ = IX < д-1 (у)}, и, следовательно, событие {У < у) принадлежит а-алгебре А для любого вещественного у, поскольку {X < 5-1(у)} принадлежит А.
Для функций распределения величин X и У справедливо соотношение
Fy(y) = Р(У < у) = Р(Х < »-'(»)) = Рх^^У (Ю.5)
Если случайная величина X имеет плотность распределения /х(ж), а функция д(а?) дифференцируема, то случайная величина У тоже имеет плотность распределения /у (у) и
М») = УхЧгЧ11У)ЧгЧдУУ • (Юб)
Это равенство, в силу второго свойства плотности распределения, является следствием результата дифференцирования соотношения (10.5). При использовании равенства (10.6) бывает полезной формула
GrW = Чд'(д-Чу)У
В случае, когда у = д^ - монотонно убывающая дифференцируемая функция, можно показать, что
МА = Й(«‘1(и))/1/(У1(»))1-(10.7)
Эта формула верна и для взаимно однозначных (существует обратная функция) кусочно монотонных функций д^х\ Тот факт, что возможно для счетного числа точек (концов интервалов монотонности) этой формулой значения fy(y) не определяются, не является принципиальным. Плотности на выделенном счетном множестве можно придать любое значение, при этом функция распределения не изменится в силу свойств интеграла.
Существует широкий класс функций д^х), не обязательно монотонных, для которых Y = д(Х) будет случайной величиной. К нему относятся, например, все непрерывные функции. Обсуждение этой проблемы выходит за рамки элементарного курса, так как требует дополнительных знаний из теории функций.
Задача 2. Случайная величина X имеет распределение Коши с плотностью распределения
при -оо<»<оо.
Вычислить плотность распределения обратной случайной величины Y = 1/Х.
Решение. Функция у = Ifx не определена в нуле, убывает на интервалах (—оо,0), (0,оо) и имеет однозначную обратную функцию х = 1/у. Применяя формулу (10.7), получим
Ato = ^(1+1e-2)^ = ^^). при -оо<е<оо.
Следовательно, величина, обратная величине, распределенной по закону Коши, также имеет распределение Коши.
Задачи
Задача 10.1. В урне 5 белых и 25 черных шаров. Вынули 2 шара. Случайная величина X - число вынутых белых
шаров. Построить закон распределения и функцию распределения величины X.
Задача 10.2. Построить закон распределения и функцию распределения числа попаданий мячом в корзину при трех бросках, если вероятность попадания каждый раз равна 0.8.
Задача 10.3. Случайная величина X имеет плотность распределения
№) =№) =О,5 sin ж, О,О,5 sin ж, О,при 1Г < X,при 0 < X ^ 7Г,при 1Г < X,при 0 < X ^ 7Г,приприх ^ 0.х ^ 0.
№) =
№) =
О,
5 sin ж, О,
О,
5 sin ж, О,
при 1Г < X,
при 0 < X ^ 7Г,
при 1Г < X,
при 0 < X ^ 7Г,
при
при
х ^ 0.
х ^ 0.
а) Определить функцию распределения Е(хУ б) найти вероятность того, что величина X примет значение, заключенное в интервале (0,тг/4).
Задача 10.4. Дискретная случайная величина X имеет закон распределения
X
0
1Г
6
1Г
2
5тг 6
7Г
1
3
1
2
3
р
■■■
10
10
10
10
10
Построить закон распределения случайной величины Y = sinX.
Задача 10.5. Случайная величина X имеет плотность распределения /х(®) = е-® >х ^ 0. Найти функцию распределения случайной величины Y = е~х.
Задача 10.6. Случайная величина X распределена с плотностью распределения /х(®У Найти плотность распределения случайной величины Y = X2.
Задача 10.7. Построить закон распределения для величины X, равной числу выпадений очков кратных трем при четырех бросаниях игральной кости.
Задача 10.8. Случайная величина X имеет плотность распределения вида
/ аа?2, при 0 х 2, /(ж) = {
( 0, при а? < 0, 2 < х.
Вычислить константу а и определить вероятность того, что Х> 1.
Задача 10.9. Случайная величина X имеет плотность распределения вида
Л*) = {Л*) = {Ф -1)2,О,Ф -1)2,О,при 1 ^ л ^ 5,при 1 ^ л ^ 5,при х < 1, 5 < г.при х < 1, 5 < г.
Л*) = {
Л*) = {
Ф -1)2,
О,
Ф -1)2,
О,
при 1 ^ л ^ 5,
при 1 ^ л ^ 5,
при х < 1, 5 < г.
при х < 1, 5 < г.
Вычислить константу а и определить вероятность того, что 3 X < 4.
Задача 10.10. Вычислить плотность распределения величины Y = VX, где X - величина из задачи 10.8.
Задача 10.11. Вычислить плотность распределения величины ¥ = (X + 1)/2, где X - величина из задачи 10.9.
§11. Совместные функции распределенияНЕСКОЛЬКИХ СЛУЧАЙНЫХ ВЕЛИЧИН
Рассмотрим сначала две дискретные случайные величины X и У. Пусть случайная величина X принимает значения ®1,®2, •••>»», а случайная величина Y принимает значения У1, у2, - - -, Ут- Одновременное наступление событий {X = я,} и {У = эд) будем обозначать {X = ®<,У = у,}, т. е.
{X = „,У = »} = {X = х,){У = щ}.
Обозначим pij = Р(Х = Xi,Y =
Определение 1. Соответствие, которое каждой паре значений (z»,yj) дискретных случайных величин X и У сопоставляет ее вероятность р^, называется совместным законом распределения случайных величин X и У.
Совместный закон распределения величин (X, У) можно задавать таблицей
№У)
(®1>У1)
...
(^li Ут)
(®2,У1)
. . .
(«п, У1)
• • *
(®п>Ут)
р
Р1.1
...
РЦт ,
Р2Д
Рп,1 !
- • •
Рп,т
Задача 1. В ящике два шара, на каждом из которых написана цифра 1, и три шара, на каждом из которых написана цифра 2. Один за другим наудачу вынимают два шара.
Пусть величина X - это номер на первом шаре, а У — номер на втором. Найти совместный закон распределения величин (Х,У)-
Р еш ение. Используя формулу умножения вероятностей, найдем Р((Х, У) = (1,1)) = Р(Х = 1)Р(У = 1|Х = 1) = | • 1 = Поступая аналогично для вычисления других вероятностей, получим
(1.1)
(1,2)
(2,1)
. (2,2)
р
i 1
10
-10
;3
,10
3 ■10
Свойства вероятностей ру.
Е РН = рГ’ где ^Г = Р(У = ^> i=l
£ РН =Р^, где р^ = Р(Х = «&
3)EEr=^ = L i=t
Докажем, например, второе свойство. Поскольку 52^1 {У = У;} = О, то используя свойства 10*) и 4) 12, получим
£{Х = Хи¥ = у,} = {X = с.}£{У = W) = j=l3=1
= {X = x,}Q = {X = XiY
Так как события {X = $i, У = %} при разных j несовместны, то применяя формулу сложения вероятностей, получим
^*> = Р(Х = «^ = Р (£{Х = Xi, Y = у,}) =
тт
= £р(х = »мУ=уу)=5р-гj=lJ=1
Определение 2. Дискретные случайные величины X и У называются независимыми, если для всех пар (i,j) выполняются соотношения
Р(Х = ц,У = ВД) = Р(Х = и)Р(У = 8j), т. е. события {X = а?#} и {У = у,} являются независимыми.
Замечание 1. Если X и У две дискретные случайные величины, то для любой функции двух переменных Л(а?,у) величина Z = Ь(Х,У) тоже является дискретной случайной величиной, которая принимает значения Zjj = Л(х,-,у;) с вероятностями ру = Р(Х = х,-,У = y^i = 1,2, ...,п,У = 1,2,...,m, если Цх,у) является взаимно однозначной функцией. Если же значения h^»i%y^ совпадают для различных пар (a?i,a?j) с величиной zi)Tn) то Z = Л(Х,У) принимает общее значение z\)m с вероятностью, равной сумме вероятностей p,j, отвечающих всем таким (®»,ху), для которых h(®i ,Xj) = Zl,m ♦
Рассмотрим теперь общую ситуацию, когда имеется к ^ 2 произвольных случайных величин Xi, Хз,..., Xfc. Поскольку для описания этого случая отправной точкой служат аксиомы теории вероятностей (§6), то мы предполагаем, что задано Q - пространство элементарных событий, из подмножеств которого образована а-алгебра Л и на ней задана вероятность Р. При этом предполагается, что при любых I = 1,2, ...^к и х е (—оо,оо) события {X, < а?) принадлежат Л. Это условие позволяет рассматривать вероятности событий
к
{%! < Х!,хг < X!,.. ,,Хк < г*} = Ц{ А/ < ц}. 1=1
Определение 3. Функция
^(®1)®2, • • • ,®к) = P(Xi < *1, Хз < Х2, ..., X* < 2?fc),
ж к Е [—оо, оо] называется совместной функцией распределения величин Xi, Хз,..., X*;.
Свойства совместной функции распределения.
функция Г(а?1,а?з,..., Xk) является неубывающей функцией каждого аргумента, при условии, что другие фиксированы;
если х< = —оо при некотором I, то Ftx^xs, ... ,х*)= О, а если положить Х[ = оо, то F(xi,..., ®i—i, оо, a?/+i,..., xt)
как функция к — 1 переменной будет являться совместной функцией распределения к — 1 случайных величин Xi, • • •, Xi-1, X^i,..., X*, среди которых отсутствует величина Хц
по каждой переменной х/ функция F(xi,X2, .. .,х*) непрерывна слева:
lim F(xb ..., xz,..., xfc) = F(xx,.... у,..., xfc).
Доказательство этих свойств точно такое же, как для функции распределения одной случайной величины. Достаточно выделить один из сомножителей в произведении множеств П?=1(^ < ^J) отвечающий выбранной координате функции распределения, и для него почти дословно повторить то, что делалось для доказательства свойств функции распределения.
Набор случайных величин X = (Xi, Х2,...,Xfc) называют случайным вектором, функцию ^(х) = F(xi, хг,..., х*) - функцией распределения случайного вектора X.
Определение 4. Случайные величины Xi,X2,. ..,Xt называют независимыми, если для любых (xi,X2,..., х») € R1
Р(Х1<х1, Х^х,,..., Х^х*) = Р(Х1<х1)Р(Х2<х2).. ,P(Xt<xt).
Это соотношение можно выразить в терминах функций распределения
F(xi,x2, ...,xfc) = Л(х1)Г2(х2)...^(х*),(11.1)
где /^(х) - функция распределения случайной величины Хь
Лемма 1. Если величины Х1,Хг, ....Xfc независимы, а gi^x^l = 1,2, ...,к, - монотонно возрастающие функции, то к величины Yi = у1(Х1),У2 = уг(Х2),.. .,У& = 9к(Хк) являются независимыми.
Справедливость этого утверждения следует из цепочки равенств
Р(К1 < 1/ь 1г < Уз, • • •, Yk < Ук) =
= Р(Х1 < »г1(я),Х2 < ^‘(и)Xt < ,;*(№)) =
= p(Xi < »г‘(и))Р№ < ^‘(й)) • • .Р№ < ^(и)) =
= Р№ < й)Р(У2 < №) • • .Р№ < %\
Замечание X Утверждение леммы 1 верно для широкого класса функций gt^zY К этому классу относятся, например, непрерывные функции.
Определение 5. Если существует такая неотрицательная функция Kfi ,&,...,&), что функция распределения F(xi) я?2,..., $к) для всех ®i, ®2, • • • > ®t представима в виде
F(xltx2t...ix1t)= J j J Kyi»y2)...)yk>)dyidy2...dyk, —CO —OQ —CO
to /(^i, Г2,..., $k) называется совместной плотностью распределения случайных величин Хг, Ху,..., X».
Свойства совместной плотности распределения.
/'•’ J /(xi,x2,...,xk)dxidx2...dxk = 1; — ОО —ОО
f(xi,x2r...,x^ = а^а^---^;^®11®2’--^^1 если функция F(xi>xat.. ^zt) является дифференцируемой;
для любого I функция
оо
/i(xi,...,xi-i,xi+i,...,Xfc) = J f(xi,...,xi,...,Xk)dx1
—оо
является совместной плотностью распределения к — 1 случайных величин Xi,..., Xf-i, X^i,..., X», среди которых отсутствует величина X;.
Свойства 1) и 2) устанавливаются аналогично тому, как это было сделано для плотности одной случайной величины в $ НК Убедимся в справедливости свойства 3). Воспользуемся определением плотности и свойством, что можно менять порядок интегрирования. Полагая я? = оо получим
F(xi1...1xi-i,oo1xi^i,...1xk> =
tt »» ОО
= j ••• у(у Kvi)...,uh...)Uk^dtnjdui1...)dui^i1.^1duk.
— ОО —ОО —ОО
Согласно второму свойству совместной функции распределения слева стоит совместная функция распределения величин Xi,..., Xf_i, Xj+i,..., Xt. Снова используя определение
плотности, получаем, что выражение в скобках является совместной плотностью распределения этих величин.
Аналогом соотношения (10.3) является следующее:
P(oi ^ Х1 < 61, «2 С -^2 < 62, • • •) Ок С ^к < 6fc)
51 $э Ь*51 $э Ь*Cl Оз ОкCl Оз Ок/(^1, я?2, • • •, Xk)d®id®2 ...d$k./(^1, я?2, • • •, Xk)d®id®2 ...d$k.(11.2)(11.2)
51 $э Ь*
51 $э Ь*
Cl Оз Ок
Cl Оз Ок
/(^1, я?2, • • •, Xk)d®id®2 ...d$k.
/(^1, я?2, • • •, Xk)d®id®2 ...d$k.
(11.2)
(11.2)
Если у случайных величин Х^Хг,* * *,Хь существует совместная плотность распределения, то в силу свойства 3) существуют плотности распределения у каждой из величин Xi в отдельности. Продифференцировав равенство (11.1) по каждой из переменных Х}3 I = 1,2,...,!:, легко убедиться в том, что свойство независимости случайных величин Х1,Ха,.* -зХк через плотность распределения выражается так: для любых (^1,^2, .--^к) Е В.*
/(^1) ®3i - • *) Xfc) — Jl^xOJl^Xl) • ’ */k^Xk)^(11.3)
где fi(x) - плотность распределения случайной величины Хь Задача 2. Некто получил д ва кредита, каждый из которых он должен вернуть по первому требованию. Требование вернуть кредит Ц1 = 1,2) приходит в случайный момент времени ц, причем п имеет плотность распределения р^х)3 определяемую формулой pi(x) = oj exp (—оцх) при л ^ 0 и pi(x) = 0 при а? < 0. Требования приходят независимо. Найти распределение длительности случайного промежутка времени, в течение которого в распоряжении заемщика будут находиться оба кредита.
Решение. Вычислим функцию распределения интересующей нас случайной величины min(ri,T2), которая как раз и равна времени, в течение которого заемщик может пользоваться обоими кредитами. Имеем
Р(шт(т1,т2) < х) =
= 1 - P(min(ri, т2) > ®) = 1 - P({ti > ®}{т2 > ж}) =
= 1 - Р(п > х)Р(т2 ^ х) = 1 - (1 - Р(П < *))(! - Р(т2 < ж)).
Учитывая вид плотности распределения, получаем, что при л 0 и / = 1,2,
х
P(ti < ж) = J cq exp (—aj®)d® = 1 — exp (—а/х), о
и поэтому Р(пйп(т1, т^) < ®) = 1 — ехр (—(«1 + «г)®).
Задачи
Задача 11.1. В кошельке лежат 8 пятикопеечных монет и 6 двухкопеечных. Наудачу вынимают одну за другой 2 монеты. Пусть величина X - достоинство первой монеты, У - 2-й. Составить совместный закон распределения величин
Задача 11.2. Определить совместную плотность распределения двух положительных случайных величин X и У по заданной функции распределения F^x,^ = (1—е“а®)(1—e”Jy).
Задача 11.3. Определить функцию распределения величины равной максимуму из двух независимых случайных величин X и У с функциями распределения Fx^ и Ру (ж) соответственно.
Задача 11.4. Определить функцию распределения величины равной минимуму из двух независимых случайных величин X и У с функциями распределения Fxk®^ и Fy(x) соответственно.
Задача 11.5. Плотность распределения двух случайных величин (Х,У) задается формулой: /(®,у) = |sin(x + y), при О ^ х ^ тг/2, 0 ^ у ^ тг/2. Для других значений аргументов полагаем ее равной нулю. Определить совместную функцию распределения величин X и У.
Числовые характеристики случайных величин
Дискретные случайные величины.
Пусть X - дискретная случайная величина, принимающая значения ®/, / = 1,2,..., п, с вероятностями р/ = Р(Х = ц).
Определение 1. Математическим ожиданием дискретной случайной величины X называется число Е(Х) = £ зд.
1=1
Замечание 1. Если случайная величина X имеет счетное число значений, т. е. п = оо, то говорят, что математи- оо
ческое ожидание существует, если ряд 53 l®i|Pi сходится, в 1=1
противном случае говорят, что математического ожидания не существует.
ОО
Величину Е(|Х|) = 53 l®i|pi называют абсолютным мо- 1=1
ментом дискретной случайной величины X.
Смысл математического ожидания наиболее ясно проявляется при рассмотрении схемы равновозможных исходов. Это среднее арифметическое значение всех возможных реализаций случайной величины, которые могут появиться в ходе случайного эксперимента. Действительно, пусть N - число всех равновозможных исходов эксперимента. Пусть значение xi соответствует mj исходам, / = 1,2,...,п, и mi + тг 4Ь mn = N. Поскольку исходы равновозможны, то pi = Р(Х = xi) = ^-. Тогда
1=11=1
= ^(ху + ®1 ч-... + кр+гз4-атз 4-. • • 4- ж2 + •. .+х„ + «п4-^Л^п). mimamn
Правая часть этого равенства и является средним арифметическим всех возможных реализаций случайной величины X. Поэтому Е(Х) часто называют средним значением величины X.
Замечание 2. Если есть дискретная случайная величина X, принимающая п различных значений, и некоторая взаимно однозначная функция д^х^ то случайная величина ц(Х) принимает значения д^х^ с вероятностями р/ = Р(Х = а?,), / = 1,...,п (см. замечание 1 §10). Поэтому Е№)) = ЕГ=1 яМп- Это равенство выполняется и для функций д, не имеющих обратную, поскольку согласно замечанию 1 § 10 ^(Х) принимает совпадающее для разных xi значение с соответствующей суммарной вероятностью.
Отметим важный частный случай. Определим
Г 1, при г € А,
( 0, при х £ А,
- индикатор множества Л.
Пусть Л - счетное множество, р(ж) = 1а (®)- Тогда справедливо соотношение
п
е(1Дх» = 52 1лМр, = 52 Р1 = р(х е А).
1=1®|6А
Замечание 3. Если даны две дискретные случайные величины X и Y с совместными вероятностями pij = Р(Х = Xi^Y = од), i = 1,...,п, з = l,...,m и h(x,y) - некоторая функция двух переменных, то в силу замечания 1 § 11 математическое ожидание случайной величины h^X, У) вычисляется по формуле
я т
е(/.(х,у))=5252м»<,»)р«.
*=1 j=l
Свойства математического ожидания.
(свойство линейности) для любых постоянных а и 6
Е(аХ + 6) = аЕ(Х) + 6;
(свойство аддитивности) для любых двух случайных величин X и Y
Е(Х + У) = Е(Х) + Е(У);
если случайные величины X и У независимы, то
Е(ХУ) = Е(Х)Е(У),
и более того для широкого класса функций д(а?) и А(у)
Е(д(Х)Л(У)) = Е(д(Х))Е(А(У));
если X ^ 0 то Е(Х) ^ 0, если X ^ У, то Е(Х) ^ Е(У).
Локазательство. Первое свойство следует из свойства линейности операции суммирования. Действительно,
Е(аХ + 6) = 53(а®1 + 6)р< = а 53«/Р/ + ^^2t Pi = оЕ(Х) + Ъ.
1=11=11=1
Согласно замечанию 1 § 11 величина Х4-У является случайной величиной, принимающей значения ®< + yj с вероятностями pij = Р(Х = $i,У = у^, i = 1,...,n, j = 1,..., m, и ее математическое ожидание вычисляется согласно замечанию 3. Используя свойства 1) и 2) для вероятностей ptj, имеем
птптт п
е(х+у)=Е TXxi+^з = 52Xi Е*^+12 Уз Е^ = i=ij=i.=i j=i j=i *=i
= E x^ + E wT = E w + ^Y yi=l3=1
Убедимся в справедливости третьего свойства. Поскольку величины X и У независимы, то
й, = Р(х = й,У = й) = Р(Х = й)Р(У = ») =pW.
Тогда
птпт
^(X^Y))^^ «iW^Pii =y.yL^WSiWP?^ 3=1 j = l3 = 1 J=1
nm
= Y,s(^ E '•(»)?)” = WW 3=13=1
Докажем четвертое свойство. У неотрицательной случайной величины математическое ожидание будет неотрицательным, поскольку это сумма неотрицательных слагаемых. Если X ^ У, то X - У ^ 0, и Е(Х - У) ^ 0. По второму и первому свойствам Е(Х — У) = Е(Х) —Е(У). Следовательно, Е(Х) - Е(У) 0, а значит Е(Х) Е(У).
Следствие 1. Для любой случайной величины. X
|Е(Х)| < Е(|Х|).|Е(Х)| < Е(|Х|).(12.1)(12.1)
|Е(Х)| < Е(|Х|).
|Е(Х)| < Е(|Х|).
(12.1)
(12.1)
Действительно, поскольку X ^ |Х| и — X ^ |Х|, то по свойствам 4) и 1) имеем Е(Х) ^ Е(|Х|) и —Е(Х) ^ Е(|Х|). Что и требовалось доказать.
Следствие 2. Для любых случайных величин Xi, Х2,..., X*
кк
В(Е^) = !>№)■1=11=1
Это утверждение доказывается с помощью свойства 2) по индукции.
Определение 2. Дисперсией дискретной случайной п
величины X называется число D(X) = УХ®! ~ E(X))2pj.
1=1
В силу замечания 2 дисперсией случайной величины X служит математическое ожидание (среднее) случайной величины (X — Е(Х))2, т. е. D(X) = Е(Х — Е(Х))2. Смысл дисперсии заключается в том, что она характеризует средний квадратичный разброс случайной величины вокруг своего математического ожидания.
Замечание 4. Если D(X) = 0, то в силу определения дисперсии Р(Х = Е(Х)) = 1, т. е. фактически X - детерминированная (не случайная) величина.
Пример 1. Пусть X - число гербов, выпавших при четырех бросаниях правильной монеты. Тогда, используя результат примера 2 из § 10, получим
Е(Х) = 0— + 1— + 2— + 3- — + 4- — = 2, v '1616161616’
D(X) = (0-2)2.l + (l-2)2. А+
+ (2-2)2 ^ + (3-2)2 й + (4-2)2--5 = 1.
Свойства дисперсии.
для любой случайной величины X
D(X) = Е(Х2) - Е2(Х);
для любых постоянных а и b
D(aX + 6) = a2D(X);
если случайные величины X и У независимы, то
D(X + У) = D(X) + П(У).
Доказательство. Первое свойство устанавливается с помощью следующей цепочки равенств:
пп
D(X) = £>, - Е(Х))2Р1 = ^>] - 2»,И(Х) + Е2(Х))Р1 =
1=11=1
= £ х^ - 2Е(Х) ^ XIPI + Е2(Х) f> = 1=11=11=1
= Е(Х2) - 2Е(Х)Е(Х) + Е2(Х) = Е(Х2) - Е2(Х).
Используя определение дисперсии и свойство линейности математического ожидания, получим
D(aX + 6) = E(aX + 6 - E(aX + 6))2 =
= E(aX - aE(X))2 = a2E(X - E(X))2 = a2D(X).
Для доказательства третьего свойства воспользуемся уже доказанным первым свойством дисперсии и вторым и третьим свойствами математического ожидания. Имеем
D(X + У) = Е(Х + У)2 - Е2(Х + У) =
= Е(Х2 + 2ХУ + У2) - (Е(Х) + Е(У))2 =
= Е(Х2) + 2Е(ХУ) + Е(У2) - Е2(Х) - 2Е(Х)Е(У) - Е2(У) =
= Е(Х2) - Е2(Х) + Е(У2) - Е2(У) = D(X) + П(У).
Следствие 3. Для независимых случайных величин Xi, x2,...,xk
d(Z>) = £>№)■
1=11=1
Это утверждение доказывается с помощью свойства 3 по индукции.
Случайные величины, имеющие плотность распределения.
Пусть функция распределения F^ случайной величины X имеет плотность распределения /(а?).
Определение 3. Математическим ожиданием случайной величины X с плотностью распределения /(®) назы-
ОО
вается число Е(Х) = J xf(x)dx.
Говорят, что математическое ожидание у случайной величины X существует, если у нее конечен абсолютный мо-
ОО
мент Е(|Х|) = J j®|/(x)dx.
— ОО
Замечание 5. Если есть случайная величина X с плотностью распределения /(а?) и некоторая непрерывная функция #(a?), то математическое ожидание случайной величин д^Х^ вычисляется по формуле
ОО
Е(9(Х))= / g^fW®-
— ОО
Если р(а?) - монотонно возрастающая функция, то эта формула является следствием формулы (10.6) и правила замены переменной интегрирования. Для важного частного случая, когда д^ = 1а(®). где А - интервал {а,Ь) или объединение интервалов такого вида, справедливо соотношение
ОО
Е(1Л(Х))= f Хд^^х = f f(x)dx = P(XEA).
-ООА
Замечание 6. Если даны две случайные величины X и У с совместной плотностью распределения f(«, у) и случайная величина Л(Х,У), где Цх,у) - непрерывная функция двух переменных, то
ОО ОО
Е(ЦХ,У)) = j J h(x,y)f(x,y)dxdy.
— ОО —ОО
Определение 4. Дисперсией случайной величины X с плотностью распределения /(®) называется число
ОО
D(X) = Их- ЦХ))*/(х)Лх.
Справедливы все свойства математического ожидания и дисперсии, сформулированные для дискретных величин.
Принципиальных отличий в доказательстве этих свойств от доказательств соответствующих свойств для дискретных величин нет. Доказательство второго и третьего свойства дисперсии вообще не использует дискретность X, а использует лишь свойства математического ожидания.
Докажем свойство аддитивности математического ожидания. Пусть f^x, 9) совместная плотность распределения величин X и У. Воспользуемся свойством 3) совместной плотности двух случайных величин, согласно которому функция /1(а?) = J^ f^x, y)dy является плотностью распределения величины X, а функция /2(у) = J^q f(x>y)^ является плотностью распределения величины У. Для вычисления математического ожидания суммы X + У применим замечание 5. Тогда получим
Е(Х t У) =
Свойство аддитивности доказано. Для того, чтобы убедиться в справедливости третьего свойства математического ожидания, воспользуемся соотношением (11.3), которое для двух случайных независимых величин X и У имеет вид: К®»У) = /1(®)Л(у)- Для вычисления Е(л,(Х)А(У)) снова применим замечание 5. Тогда будем иметь
Е(^(Х)Л(У)) =
у(®)Л(у)/(;г,у)(Ыуу(®)Л(у)/(;г,у)(Ыу<7(®)A(y)/i(ar)/2(y)cT®cfy=
у(®)Л(у)/(;г,у)(Ыу
у(®)Л(у)/(;г,у)(Ыу
Пример 2. Пусть имеется однородная проволока, растягиваемая за концы. Любой точке проволоки сопоставим координату, равную расстоянию от этой точки до левого конца плюс некоторое число а. Тогда левый конец проволоки имеет координату а. Пусть Ъ - координата правого конца проволоки. Очевидно, что а<Ъ. Пусть X - случайная величина, равная координате точки разрыва. Ясно, что разрыв происходит в промежутке [а, 6]. Используя геометрические вероятности, аналогично примеру 4 § 10 найдем, что функция распределения и плотность распределения X имеют вид
при ж ^ а,
при а < х < 6,при а < х < 6,при а < х < Ь,при а < х < Ь,
при а < х < 6,
при а < х < 6,
при а < х < Ь,
при а < х < Ь,
при Ь ^ х,при Ь ^ х,при b ^ х.
при Ь ^ х,
при Ь ^ х,
Случайная величина с таким распределением называется равномерно распределенной на отрезке [а, 6]. Ее математическое ожидание и дисперсия имеют следующие значения
/ xdx = — ^-=^ = —
V 2 b — aj b-a 22 ’
а
ь(л-а^ъ
D(X) = -2- /(, - ^Vdi = -2- / Л» =
v ' b-a J \2 / b-a J12
о<a-b^!2
Лемма 1 (неравенство Коши-Буняковского). Для любых случайных величин X и¥
Е(]ХУ|) < (Е(Х2))1/2(Е(У2))1/1.(12.2)
Доказательство. Для любых вещественных чисел Zi, 22 и а справедливо неравенство zi*2 ^ |(^*i + a2*2),
которое вытекает из очевидного неравенства (а-1^--»^)2 ^ 0. Используя это неравенство и свойства 1), 2) и 4) математического ожидания, несложно убедиться, что
Е(|ХУ|) < е(1 (^Х2 + а2У2)) < 1 (^Е(Х2) + а2Е(У2)).
Полагая здесь а2 = (Е(Х2))1^2/(Е^(У2))1^2; получаем (12.2).
Следствие 4. Для любой случайной величины X
Е(|Х|) < (Е(№))1/2.(12.3)
Убедиться в справедливости этого неравенства можно, положив в (12.2) У = 1.
Пусть к - некоторое натуральное число.
Определение 5. Моментом порядка к случайной величины X называется число т* = Е(Х*).
Определение б. Абсолютным моментом порядка к случайной величины X называется число Е(|Х|*).
Определение 7. Центральным моментом порядка к случайной величины X называется число /^ = Е(Х—Е(Х))*.
Определение 8. Ковариацией (корреляционныммоментом) двух случайных величин X и У называется число
соу(Х,У) = Е((Х - Е(Х))(У - Е(У))).
Свойства ковариации.
для любых случайных величин X и У
cov(X, У) = Е(ХУ) - Е(Х)Е(У);
(аддитивности) для любых X, У и Z
cov(X + У, X) = cov(X, Z) + соу(У, Z),
cov(X, У + Z) = cov(X, У) 4- cov(X, Z\
Это свойство легко распространяется на сумму произвольного числа слагаемых.
Первое свойство в силу линейности математического ожидания вытекает из равенств
cov(X, У) = Е(ХУ - УЕ(Х) - ХЕ(У) 4- Е(Х)Е(У)) =
= Е(ХУ) - Е(Х)Е(У) - Е(Х)Е(У) 4- Е(Х)Е(У).
Второе свойство столь же очевидно.
Определение 9. Коэффициентом корреляции двух случайных величин X и У называется число г(Х, У) = _ cov(X, У) - VDPOD(y)*
Моменты и коэффициент корреляции определены не всегда. Например, для существования обычных и центральных моментов тк, р* необходимо, чтобы был конечен абсолютный момент: Е|Х|* < оо.
Корреляционный момент и коэффициент корреляции характеризуют степень линейной зависимости случайных величин. Чем больше по модулю коэффициент корреляции, тем сильнее линейная зависимость между величинами.
Определение 10. Если ковариация или коэффициент корреляции равны нулю, то такие величины называются некоррелированными.
Для любых случайных величин X и¥
D(X ± У) = Е(Х ± У - (Е(Х) ± Е(У)))2 =
= Е((Х - Е(Х))2 ± 2(Х - Е(Х))(У - Е(У)) + (У - Е(У))2) =
= Е((Х - Е(Х)2) ± 2Е((Х - Е^Х^У - Е(У)) + Е((У - Е(У))2 =
= D(X) ± 2 cov(X, У) + В(У).(12.4)
Отметим, вытекающее из (12.4), важное свойство некоррелированных величин. Если случайные величины X и У не- коррелированы, то
П(Х + У) = П(Х) + П(У).
Следствие 3. Для попарно некоррелированных случайных величин Xi,.. .,Хк
Это утверждение доказывается по индукции с применением свойства аддитивности ковариации и вышеприведенного свойства некоррелированных величин.
Свойства коэффициента корреляции.
Для любых постоянных а, 6, с, d т^аХ -Vb^cY + d) = sign(ac)r(X,y), где signa? = а?/|т|- функция знака.
Это свойство можно прокомментировать так: линейные преобразования случайных величин не изменяют степени их линейной зависимости. При этом меняется лишь знак зависимости, если а и с разных знаков.
|г(Х, У)| ^ 1, и |г(Х,У)| = 1 тогда и только тогда, когда существуют такие постоянные а и 5, что У = аХ + 6 с вероятностью единица.
Если величины X и У независимы, то г(Х,У) = 0.
Доказательство. В силу свойства линейности математического ожидания имеем
cov(«X + 6, сУ + d) =
= E((aX + 5 - E(aX 4- b^cY 4- d - Е(сУ 4- d))) = = E((aX - аЕ(Х))(сУ - сЕ(У))) = accov(X,y).
Поскольку D(aX 4- b) = a2D(X), П(еУ 4- d) = е2П(У), то
cov(aX 4- 5, сУ 4- d) _ ^^^^„.^ХС^У}—-^====== - sign(ac)-^^^j=j.
Докажем свойство 2). Положим X = - ,-—Докажем свойство 2). Положим X = - ,-—Таким образом, первое свойство установлено.
Докажем свойство 2). Положим X = - ,-—
Докажем свойство 2). Положим X = - ,-—
Согласно (12.4)
D(X ± У) = D(X) ± 2 cov(X, У) 4- П(У) =
= В^±2^^+^ = 2(1±^У)>-<12-5)
Поскольку левая часть этого равенства неотрицательна, то 1 4- г(Х,У) ^ 0 и 1 — г(Х, У) ^ 0, что эквивалентно
-1 ^ г(Х,У) < 1 или |г(Х,У)| ^1.
При г(Х,У) = ±1 из (12.5) следует, что D(X 4: У) = 0. Согласно замечанию 4 это влечет X 4= У = Е(Х) 4= Е(У) с вероятностью единица, и, следовательно,
у=±^х+(Е(у)т®М-
Пусть теперь У = оХ4-6. Согласно первому свойству имеем
r(X,y) = eign(a)r(X,X) = sign(a)S^^^^a=eign(a).
Убедимся в справедливости третьего свойства. Если величины X и У независимы, то согласно определению, величины X — Е(Х) и У — Е(У) тоже будут независимы. Поэтому по третьему свойству математического ожидания
cov(X, У) = Е(Х - Е(Х))Е(У - Е(У)) = 00 = 0.
Следовательно, коэффициент корреляции независимых величин равен нулю.
Обратное утверждение неверно, т. е. из равенства нулю коэффициента корреляции не следует независимость величин. Подтверждением этому служит следующий пример.
Пример. Пусть случайная величина X принимает значения ±1, ±2 с вероятностями 1/4, и пусть У = X2. Тогда совместный закон распределения величин (X, У) следующий
(X.Y)
(-1,1)
(1,1)
(2,4)
(-2,4)
р
1 4
1 4
1 4
1 4
и нетрудно убедиться в том, что величины X и У зависимы, а их коэффициент корреляции равен нулю.
Задача 1. Вычислить коэффициент корреляции случайных величин X и У, определенных в задаче 1 § 11.
Решение. По первому свойству коэффициента корреляции он совпадает с коэффициентом для величин Xi = X — 1 и У1 = У — 1, совместный закон распределения которых имеет вид
№,уо
(0,0)
(0,1)
(1,0)
(1,1)
р
1
10
3
10
3
10
3
10
По свойству вероятностей pij из § 11 закон распределения Xi следующий P(Xi = 0) = |, P(Xi = 1) = |. Аналогичное 333^
распределение имеет Yi. Тогда E(Xi) = -, D(Xi) = - — — = = ^, Е(Х1У1) = ^. Окончательно имеем
Г№-У1) - ВД
Задачи
Задача 12.1. Вычислить математическое ожидание и дисперсию величины из задачи 10.8.
Задача 12.2. Вычислить математическое ожидание и дисперсию величины из задачи 10.9.
Задача 12.3. Есть правильный жетон, у которого на одной стороне стоит цифра 2, а на другой - 0, и есть правильный кубик, у которого на противоположных гранях написаны цифры 1,2 и 3 соответственно. Жетон и кубик бросаются на стол. Пусть X - случайная величина, равная сумме очков на жетоне и кубике. Построить закон распределения величины X, вычислить математическое ожидание и дисперсию.
Задача 12.4. Есть два правильных жетона, у одного из них на одной стороне стоит цифра 3, на другой - 5, а у другого на одной стороне стоит цифра 1, на другой - 5. Жетоны бросаются на стол. Пусть X - случайная величина, равная сумме очков на жетонах. Вычислить математическое ожидание и дисперсию.
Задача 12.5. Есть правильный кубик, у которого на противоположных гранях написаны цифры 1,2 и 3 соответственно. Пусть X - число единиц, выпавших при трех бросаниях кубика. Найти закон распределения, вычислить математическое ожидание и дисперсию.
Задача 12.6. Вычислить дисперсию и коэффициент корреляции величин X и У, определенных в задаче 11.1.
Задача 12.7. Вычислить дисперсию и коэффициент корреляции величин X йУ, определенных в задаче 11.5.
Производящие и характеристические функции
Пусть X - неотрицательная целочисленнозначная случайная величина, т. е. X принимает значения 0,1,2,... с вероятностями рк = Р(Х = к).
Определение 1. Производящей функцией целочисленнозначной неотрицательной случайной величины X называется функция ^^ = 52^о г*Р* = ®(хх), определенная для комплексных z таких, что |z| ^ 1. Для jz| ^ 1 ряд, определяющий производящую функцию, равномерно сходится, так
как
ОООООО
1*)| = $2^*1 ^ TLV\kPk ^^Рк = Х-fc=0*=о*=0
Замечание 1. Производящая функция однозначно определяет распределение случайной величины, поскольку рп = 1 dn // n!^"yV 7L=0
Лействительно, дифференцируя под знаком суммы, получим
ОО
£*) = £ ^ - Ц• • -^ - ” + Ч^'"»- (И !) fc=n
При г = 0 все слагаемые в правой части (13.1) кроме первого обращаются в нуль. Первое же слагаемое равно п!рп.
Лемма 1 (о вычислении моментов). Пусть неотрицательная целочисленнозначная случайная величина X имеет момент п-го порядка. Тогда
^*)|,=1 = В(Х(Х - 1)... (X - п + 1)).
Локазательство леммы непосредственно следует из формулы (13.1), если в ней положить z = 1.
Поскольку
D(X) = Е(Х2) - Е2(Х) = Е(Х(Х - 1)) + Е(Х) - Е2(Х),
то из леммы 1 вытекает следующий результат.
Следствие 1. Математическое ожидание и дисперсия выражаются формулами
Е(Х) = ^OY D(X) = ^"(1) + ^(l) - (*'(1))2-
Свойства производящих функций.
№WI ^ 1 при 1*1 ^ i-
Лействительно, так как X неотрицательна
№)|<Е(|^|) = Е(Мх)<1.
Для того, чтобы различать производящие функции разных случайных величин, будем случайную величину приписывать к производящей функции в качестве индекса.
Для любых вещественных а и b
ФаХ+Ь^) = 2Ьфх(г°У
Доказательство опирается на свойство линейности математического ожидания:
*«х^ = Е(2<“х+‘О = ?Е((г0)*) = ?ЫН-
Если X и Y независимые случайные величины, то ^х+у(г) = фх^фу^г).
Доказательство. Поскольку величины X и Y независимы, то, используя третье свойство математического ожидания, получаем
^+r(z) = E(?x+y)) =Е^= E(zx)E(zy) = Фх^Фу^У
Задача 1. Найти закон распределения случайной величины X с производящей функцией ф^ = |(1 + г)2.
Решение. Поскольку
^) = |(i + *)2 = | + |^+^2>
то сравнивая это выражение с определением производящей функции ф^ = 52 ^о zkpk, где р^ = Р(Х = ку получаем, что
Р(Х = 0) = 1, Р(Х = 1) = |, Р(Х=2) = 1
'Р(Х = к) = 0, при к > 2.
Определение 2. Характеристической функцией случайной величины X называется комплекснозначная функция у>(<) = Е(еих), определенная для всех действительных значений I.
Для дискретной случайной величины с вероятностями Pt = Р(Х = Xk),к = 1,2,..., характеристическая функция будет определяться формулой
ОО
р^Е^РЬ(13.2)
Л=1
а для величины, имеющей плотность распределения /(*), - формулой
ОО
^= у e^Hi^dx-(13.3)
— ОО
Для случайной величины с произвольной функцией распределения F(x) математическое ожидание Е(еих) определяется с помощью интеграла Стилтьеса, т. е. характеристическая функция определяется формулой
^) = у eUxdFV®Y(13.4)
-ОО
Для непрерывной ограниченной функции ^(х) и неубывающей ограниченной непрерывной слева функции F(s) инте- оо
грал Стилтьеса J g^dF^ существует и его можно опре
-оо делить равенством
/ *w=„1™ Е/Ф <F^ - <w
—оок——it
Формула (13.4) является более общей, чем (13.2) и (13.3). Так, согласно определению интеграла Стилтьеса, при
^(х) = У^Рк^к.оо)^)
1=1
из (13.4) следует (13.2), а в случае, когда у F^ существует плотность (dF^x) = f(x)dxY (13.4) превращается в (13.3).
Замечание 2. Для целочисленных случайных величин ^) = ^ейу
Свойства характеристических функций.
у>(0) = 1 и |y>(t)| ^ 1 для всех t.
Действительно: у>(0) = Е(е°) = Е(1) = 1; |y>(t)| ^ Е|еиХ| = = Е(1) = 1.
Для того, чтобы различать характеристические функции разных случайных величин, будем случайную величину приписывать к характеристической функции в качестве индекса.
Для любых вещественных а и 6
<РаХА-ъ^ = e'tb¥>x(at\
Если X и Y независимые случайные величины, то ^х+уСО = ^xW^vlty
Свойства 2) и 3) следуют, в силу замечания 2, из аналогичных свойств для производящих функций. То обстоятельство, что замечание 2 сформулировано для целочисленных величин принципиального значения для вывода свойств 2) и 3) не имеет.
Следствие 2. Если Xi,X2,... ,Xfc - независимые случайные величины, то
к
1=1
т. е. характеристическая функция суммы независимых случайных величин распадается в произведение характеристических функций слагаемых.
Характеристическая функция <p(f) является равномерно непрерывной функцией.
Доказательство. Так как F(—оо) = 0, F(oo) = 1, а функция F^x) неубывает, то для любого е > 0 можно выбрать столь большое с > 0, что будут выполняться неравенства F^-c) ^ £, 1 — Г(с) ^ е. Тогда для любого h > 0 получим
ООс
Н« + А) - p(t)| $ j |е'<*+‘> - е‘<*|</Г(х) ^ (р1 - l|dF(t)+
-ОО-с
4-2 j dF(x) ^hJ |ж|с?Г(ж) 4- 2(F(-c) 4-1 - F(c^ ^hc + 4s.
|r|>c-c
В силу, того, что е и К выбирались произвольными, из этой оценки следует равномерная непрерывность функции <p(ty
Лемма 2 (о вычислении моментов). Пусть случайная величина X имеет абсолютный момент п-го порядка. Тогда характеристическая функция случайной величины X дифференцируема п раз и при 0 ^ к ^ п
Доказательство. Используя формулу дифференцирования показательной функции, получим
^)= ^Е(еИХ) = Е(^е»х)=Е(4ьХ‘е‘,х) = >‘Е(х‘е‘*х).
Деля это равенство на ik и полагая в нем < = 0, получим требуемое утверждение. Внесение дифференцирования под знак математического ожидания корректно, так как математическое ожидание - это либо сумма, либо интеграл, а вносить дифференцирование под знак суммы и интеграла в указанных предположениях можно.
Поскольку D(X) = Е(Х2) —Е2(Х), то из леммы 2 вытекает следующий результат.
Следствие 3. Математическое ожидание и дисперсия выражаются формулами
Е(Х) = -.>'(0), BW = -/'(0) + (р'(0))2.
Теорема 1 (формулы обращения). Справедливы следующие утверждения:
Для целочисленнозначной случайной величины X
И = Р(Х = t) =И = Р(Х = t) =» = 0,±1,±2» = 0,±1,±2
И = Р(Х = t) =
И = Р(Х = t) =
» = 0,±1,±2
» = 0,±1,±2
/И = ^ «"‘W/И = ^ «"‘W(13.5)(13.5)
/И = ^ «"‘W
/И = ^ «"‘W
(13.5)
(13.5)
Если характеристическая функция <p(t) случайной величины X абсолютно интегрируема, то существует плотность распределения f(x), определяемая формулой
/= —ОО/= —ОО12тг12тг
/= —ОО
/= —ОО
1
2тг
1
2тг
Доказательство. Для любого не равного нулю целого числа т имеем
/ eitmdt = — (е1™1 - е"™т Jгт '
Тогда можно написать следующее равенство, справедливое для всех целых т:
Используя это равенство и определение характеристической функции целочисленнозначной случайной величины, получим
1=—оо
Первый пункт теоремы 1 доказан. Перейдем к доказательству второго пункта. Для этого нам нужно убедиться, что функция /(ж), определенная равенством (13.5), является плотностью функции распределения Е^х), для которой у>(<) определяется равенством (13.4). Так как функция y>(t) абсолютно интегрируема, то для произвольных а < b в силу (13.5) имеем
6 оо 6 с Ь
у>(<) / е Uxdxdt = lim / у>(<) [ ё itxdxdt. /с—*оо 2тг / I
Используя формулу (13.4), получим
e"'ixdxdte"'ixdxdte"Uxdxdt =e"Uxdxdt =
e"'ixdxdt
e"'ixdxdt
e"Uxdxdt =
e"Uxdxdt =
ОО6
dF^ / dx^ l- \ =V чу-®)-ооа
оо6оос(6—у)
= 2 У dF^У dx^-s» = 2 у dFW у ^d„
-ооа-оос (а—у)
(13.7)
оо0оооо0ооПоэтому отдельно рассматривая случаи О^а — у<6 — у,Поэтому отдельно рассматривая случаи О^а — у<6 — у,Известно, что
оо0оо
оо0оо
Поэтому отдельно рассматривая случаи О^а — у<6 — у,
Поэтому отдельно рассматривая случаи О^а — у<6 — у,
ye (a, 6), у i [«>4, у = a, у = b.ye (a, 6), у i [«>4, у = a, у = b.V, 0, IT 2’V, 0, IT 2’а — у < b — у ^ 0 и а - у < 0 < b — у, получим
ye (a, 6), у i [«>4, у = a, у = b.
ye (a, 6), у i [«>4, у = a, у = b.
V, 0, IT 2’
V, 0, IT 2’
с(6-у) / einv , hm I dv = < юо J v c(o-y)
Пусть а и b точки непрерывности функции Р^у\ Тогда при с—* оо правая часть (13.7) стремится к
ъ
2тг У dF^ = MF^V) - F^Y
Учитывая это и используя (13.6) и (13.7), имеем
F^-FW.F^-FW.(13.8)(13.8)
F^-FW.
F^-FW.
(13.8)
(13.8)
Поскольку функция распределения непрерывна слева, то с помощью предельного перехода при an | a, 6n t 6, где о« и Ьп - точки непрерывности функции F(y), равенство (13.8) распространяется на произвольные точки а и Ь. Теперь из (13.8) по определению следует, что f(x) является плотностью функции распределения F(x).
Теорема 2 (о единственности). Функция распределения однозначно определяется своей характеристической функцией.
Справедливость этой теоремы в случае, когда функция распределения отвечает целочисленнозначной случайной величине или имеет плотность распределения, следует из формул обращения (теорема 1). В общем случае теорема 2 тоже следует из общей формулы обращения, которую мы не рассматриваем.
Задача 2. Найти закон распределения случайной величины X с характеристической функцией <р^ = cost.
Решение. Характеристическая функция y>(t) = cost не является абсолютно интегрируемой на всей прямой, поэтому естественно предположить, что X - дискретная случайная величина. Тогда характеристическая функция имеет вид
^(z) = ^с'1ХкРк = 52 CO6(tzk)Pk + »53sin(ta;fc)p*, (13.9)
*=ik=lfc=i
где мы воспользовались формулой Эйлера
е156 = cos г 4- tsinz.
Сравнивая выражение (13.9) с функцией cost получаем, что величина X должна принимать лишь два значения 4-1 и —1 с равными вероятностями, т. е.
p1 = P(X = l)=l, w = Р(Х =-1) = 1.
Задачи
Задача 13.1. Найти законы распределения, которым соответствуют следующие производящие функции:
^Ю-Н 1; г)»3^-’; 3)(1 + ^)П.
Задача 13,2. Найти законы распределения, которым соответствуют следующие характеристические функции:
Задача 13.3. Пусть X - неотрицательная целочисленнозначная величина с производящей функцией ^(г)- Выразить через ^(z) производящие функции величин X + 1 и 2Х.
Задача 13.4. Найти характеристическую функцию треугольного распределения с плотностью
Рак^ =Рак^ =а(1 —а|ж|), при |ж| ^ а \
Рак^ =
Рак^ =
при |ж| > а-1,
Задача 13.5. Найти математическое ожидание и дисперсию случайной величины X, характеристическая функция которой равна одной из следующих функций
1) ^sin(aZ) (a / 0); 2) ^-cosZ sin2(|); 3) ^-e“sin2(|).
Задача 13.6. Вычислить характеристическую функцию случайной величины с плотностью
при 0 ^ ж ^ 1,
при х < 0,1 < х.
Задача 13.7. Найти моменты случайной величины X, характеристическая функция которой у>(<) = " " #2 •
Задача 13.8. Найти характеристическую функцию случайной величины X, плотность вероятности которой имеет вид
/И = 1е-М
Задача 13.9. Случайная величина X имеет плотность вероятности распределения
/(ж) = 2h2xe~h*x2/(ж) = 2h2xe~h*x2при ж ^ 0,при ж ^ 0,
/(ж) = 2h2xe~h*x2
/(ж) = 2h2xe~h*x2
при ж ^ 0,
при ж ^ 0,
и /(ж) = 0 при отрицательных ж. Найти характеристическую функцию случайной величины X.
§ 14. Законы распределения случайных величин
Дискретные распределения.
Биномиальное распределение. Пусть X - случайная величина, равная числу успехов в п испытаниях Бернулли, и пусть вероятность успеха в каждом испытании равна р. Тогда величина X имеет биномиальное распределение с параметрами пир:
Р(Х = m) = С^рт(1 - р)п-т, т = 0,1,2,..., п.
Вычислим производящую функцию биномиального распределения. Учитывая, что Р(Х = т) = 0 при т > п, и, используя фомулу бинома Ньютона (§ 1), получим
^(^) = ^ zmP(X = т) =
т=0
= £ С^(гр)т(1 - р)-т = (zp + 1 - р)°. т=0
Для вычисления математического ожидания и дисперсии воспользуемся следствием 1 § 13:
Е(Х) = ^'(2)!»=! = np(zp 4-1 - p)n~1|,=1 = пр,
D(X) = ^)k=i+W)4^^
= пр(п - l)p(zp + 1 - p)n-2|z=1 + пр - (пр)2 = = п(п — 1)р2 — п2р2 4- пр = пр(1 — р).
Распределение Пуассона. Это распределение является предельным для биномиального распределения, когда п —* оо, а А = пр остается постоянным (см. §9). Говорят, что случайная величина X имеет распределение Пуассона с параметром А > 0, если
Р(Х == ^е~А, m = 0,1,2,... .
Производящая функция распределения Пуассона вычисляется следующим образом:
ОООО
^(z) = V zmP(X = т) = е~А У2 ^i"’ — e~AeAx = е^"1^.
m=0m=0
Применяя следствие 1 предыдущего параграфа, для математического ожидания и дисперсии получим выражения:
Е(Х) = *'(г)|,=1 = A, D(X) = Л*)1»=1 + *'(1) - У(1))г = А.
Задача 1. Число космических частиц, попадающих в аппаратный отсек ракеты за время ее полета распределено по закону Пуассона с параметром А. При этом условная вероятность для каждой из этих частиц попасть в уязвимый блок равна р. Найти закон распределения числа частиц, попадающих в уязвимый блок.
Решение. Обозначим Л* ={в уязвимый блок попало к частиц}, Я/ ={в аппаратный отсек попало I частиц). Тогда события Я/, I = 0,1,2,..., составляют полную группу событий и по формуле полной вероятности (п = оо) (§ 7)
ОООО
р(л.)=Lp№)p(^|»i)=52pw)pgM#i),(=0l=k
поскольку при I < к очевидно Р(А*|Я{) = 0. Согласно условию Р(Я/) = —е , I = 0,1,2,... . Несложно понять, что вероятности Р(Л*|Я1) при 0 ^ к ^ I имеют биномиальное распределение с вероятностью “успеха” (частица попала в уязвимый блок) р. Поэтому Р(Лк|Я/) = Скрк(1—рУ~к, 0 к I. Окончательно имеем
pgw=Е ikwa - pV = Е ^spkd - рГ” =
_ AVe^j.Шк1^21 - М)^* Л(1-р) -
“ fc!V-ky.k\" k\
Таким образом, число частиц, попадающих в уязвимый блок, тоже распределено по закону Пуассона, но с параметром равным произведению Ар.
Геометрическое распределение. Проводится бесконечная последовательность независимых одинаковых испытаний, в каждом из которых событие А наступает с вероятностью р = Р(А) > 0. Пусть X - случайная величина, равная
числу испытаний до момента первого наступления события А. Тогда
P(X = i) = (l-p)‘p, t = 0,1,2
Действительно, если А/ = {наступление события А в /-м испытании), то {% = *} = А1А2... A*A*.+i. Принимая во внимание независимость событий А/, получим
Р(Х = Ц = Р(АгА2...АкАк^ =
= P(A,)P(A2)... Р(Л1)Р(Л1+1) = (.1 - р)‘р.
Это распределение называется геометрическим, так как вероятности Р(Х = fc) образуют геометрическую прогрессию. Вероятность того, что событие А наступит не раньше момента m задается формулой
Р(Х £ т) = £ (1 - р)‘р = (1 - р)"‘рг-2—J = (1 - ,)”. к=т
Производящая функция геометрического распределения определяется формулой
ОООО
W = Lz‘(1-p)‘p = pS<2(1 -р»* = ™^z;j
к=0к=0
Для математического ожидания и дисперсии имеем
D(X) = Л*)1~1 + ^(1) - Ш =
- 2H* - p)3 I 1 £z£ — Iх * p\2 —
" (i-»(i-p)pUi p K p > ~
_ 2(1 - pY 1 -p _ (1 - pY _ 1-p P2P P1 P2 '
Распределения, имеющие плотность.
{1 о'"’{1 о'"’Равномерное распределение для любых а <Ь задается плотностью
{1 о'"’
{1 о'"’
при х € [а, 6], при х ^ [а, 6].
Характеристическая функция равномерного распределения вычисляется следующим образом:
ооЬ
=i^y =Ч^- —ооа
В § 12, пример 2, были вычислены математическое ожидание и дисперсия равномерного распределения: Е(Х) = —у-, D(X) = 1^.
Показательное распределение возникает как предельное для геометрического в следующей схеме. Рассмотрим уплотняющиеся при А 1 0 моменты времени fcA, fc = 0,1,2,.... В моменты времени ЛА осуществляются независимые одинаковые испытания, в каждом из которых событие А наступает с вероятностью рд = АД, где А > 0 - постоянная величина. Обозначим Хд - время до момента первого наступления события А. Тогда величина ^- равна числу испытаний до первого наступления события А и имеет геометрическое распределение. Поскольку любому фиксированному х соответствует т to ^ испытаний, то согласно п. 3
Р(ХдЖ) = р(^^)»р(^,п) =
= (1-РдГ«(1-АД)*/Л«е-Л1, ДЮ.
В последнем приближенном равенстве использован замечательный предел (см. § 9). Переходя к дополнительным вероятностям, получаем, что предельное распределение для Хд имеет вид
\, при л? > О,
Fix) = <
t 0,при х < 0.
Это - показательное распределение, имеющее плотность ( Ае"^, прих>0, fix) = <
( 0, при х < 0.
Для характеристической функции показательного распределения имеем выражение:
оо
= А / eUle-Xxax = —^-.
х JX-U
о
Математическое ожидание и дисперсию вычислим с помощью следствия 3 § 13:
Е(Х) = -^(0) ==0= 1.
D(X) = -/'(») + (?W = -^U+Cx)2 = ^
Задача 2. Пусть время ожидания регистрации прибором солнечного нейтрино распределено по показательному закону с параметром А. К моменту времени s частица не зарегистрирована. Какова вероятность того, что начиная с момента времени s ожидать регистрации придется не меньше чем время Л?
Решение. Обозначим X - время ожидания регистрации с момента включения прибора. Поскольку величина X распределена по показательному закону, то при / ^ 0 выполняется равенство Р(Х £) = e~xt. Нас интересует вероятность Р(Х ^ s 4- Л[Х ^ s). По определению условной вероятности
Р(Х > s + h\X ^ «) - р^ ^ ^ е_Л1 - е .
Таким образом, если время ожидания события распределено по показательному закону, то информация о том, что событие не наступило к данному моменту не улучшает шансы на его наступление в дальнейшем.
Это свойство называется отсутствием последействия, и им обладает только показательное распределение.
Нормальное распределение задается плотностью
1/1/2а2 /’2а2 /’—ОО < X < ОО,—ОО < X < ОО,
1/
1/
2а2 /’
2а2 /’
—ОО < X < ОО,
—ОО < X < ОО,
где <т > 0 и а € (—оо, оо) - некоторые параметры.
Это распределение часто также называют гауссовским распределением.
Если а = б и а = 1, то нормальное распределение с такими параметрами называется стандартным. Функция распреде-
ления в этом случае имеет вид
^^^ / e"‘^dt =
(14.1)(14.1)= i + ^J е"1’!1» = 1(1 + Ф(®)),
(14.1)
(14.1)
где Ф(а?) - функция Лапласа, уже встречавшаяся нам в § 9.
Легко убедиться, что Ф(а?) является при х € (0,оо) функцией распределения величины |Х|, где X - случайная величина со стандартным нормальным распределением. Действительно
Р(|Х| <х) = Р(-х < X < х) = 4= I e"^,2at = ф(®)- (14-2)
В силу этого свойства Ф(®), х Е (0,оо) иногда называют функцией отраженного нормального распределения. Для отрицательных х распределение следует полагать равным нулю.
Вычислим характеристическую функцию нормального распределения. Используя определение характеристической функции и делая замены переменных в интегралах, получим
= ^;е“а 1ехр^”~&У”=
Теперь, используя метод контурного интегрирования, можно последний интеграл преобразовать
Следовательно, y(t) =
Для вычисления математического ожидания и дисперсии нормального распределения применим следствие 3 § 13:
Е(Х) = -iV(0) = —i(ia - Л)е<“-"а'а/2||=|) = -»a = a,
D(X) = -V'(0) + (pW =
= Ч-<^ + (й - Л)2)е““-’а'а/2|1=0 + (>a)2 =
= <r2 + a2 — a2 = <r2.
Таким образом, параметры а и <г имеют для нормального распределения следующий смысл: a - математическое ожидание, сг - квадратный корень из дисперсии.
Для нормального распределения со средним ноль несложно с помощью леммы 2 § 13 вычислить все моменты. При a = 0 характеристическую функцию нормального распределения можно представить в виде следующего ряда
у(<)=е-^=£(-1)-^.
1=0
Поэтому
1=0
= Е (-О'^,21(21 - 1)... (21 - 4 + l)t2'-‘, 1>к/2
и, следовательно,
4^()| = (^‘,1»^тгм- при 6 -че1Н0М-
10,при к — нечетном.
Согласно лемме 2 § 13 имеем, что все нечетные моменты равны нулю, а для четных справедлива формула
Е(Х2') = ^^ = <r2'(2Z - 1)Н,
где принято обозначение (2/ — 1)!! = 1 • 3 • 5 •... • (21 — 1).
Используя функцию Лапласа Ф(х), можно выразить вероятность того, что случайная величина X, распределенная по нормальному закону с параметрами аиа, лежит в заданных пределах. Справедлива следующая формула
Р(г1<Х<х2) = 1(ф(^)-ф(^)).(14.3)
Действительно, величина ----- имеет стандартное нормальное распределение, поскольку в силу формулы (10.6)
^м=^ехр(-^м=^ехр(-(<п/ + а - а)2 \ _ 1-у2/22а2/ v^ir '(<п/ + а - а)2 \ _ 1-у2/22а2/ v^ir '
^м=^ехр(-
^м=^ехр(-
(<п/ + а - а)2 \ _ 1-у2/2
2а2/ v^ir '
(<п/ + а - а)2 \ _ 1-у2/2
2а2/ v^ir '
Применяя формулы (ЮЛ) и (14.1), получимПрименяя формулы (ЮЛ) и (14.1), получим
Применяя формулы (ЮЛ) и (14.1), получим
Применяя формулы (ЮЛ) и (14.1), получим
Следствие 1 (правило “За”). Для нормально распределенной случайной величины X со средним а и дисперсией о^
Р(|Х - а| < За) = Ф(3) to 0.9973.
Правило “За” означает, что с большой вероятностью, равной 0,9973, значения нормально распределенной случайной величины X лежат в интервале (а — За, а + За).
Доказательство правила “За”основано на формуле (14.3). Применяя (14.3) с a?i = — За + а,а?2 = 3а+ а, получим
Р(|Х - а| < За) = Р(-За + а<Х<За + а) =
= Кф(т) -ф(-?)) = | (»($)-»Н>)) =Ф(3).
С нормальным распределением мы уже встречались в интегральной теореме Муавра-Лапласа (§9). Формула (9.8) Ш1 — пр . Шо — пр
при ап = —т=-,оп = —- - утверждает, что вероятность >ynpq>/upq
наступления события А не менее mi и не более тг раз при
большом количестве испытаний (п —► оо) приближенно равна вероятности того, что случайная величина X со стандартным нормальным распределением принимает значения в пределах от ап до Ъп.
Двумерное нормальное распределение. Пусть X и Y - независимые нормально распределенные случайные величины с параметрами oi,ai и 02,0-2 соответственно. Тогда по формуле (И.З) совместная плотность распределения равна произведению
1 / (®-ai)2 (у-азрх
В общем случае совместная плотность двумерного нормального распределения имеет вид
К®» У) =
_1 f_Jfz2i£_ а. т1$-айЬ-а^ _ Ъ-®»У \
^ira^^Vl-T^ 2(1-r2)^(l-r2)^^2(1 —r2)^,’
Смысл параметров, входящих в эту формулу, следующий: О! = Е(Х),а2 = Е(У),сг? = D(X^4 = П(У),г = т^Х^ - коэффициент корреляции.
Замечание 1. При г = О плотность двумерного нормального распределения величин (Х,У) распадается в произведение плотностей величин X и У, а это означает, что величины X и У независимы. Таким образом, свойство независимости компонент двумерных нормально распределенных величин полностью характеризуется условием равенства нулю коэффициента корреляции.
Задачи
Задача 14.1. Случайная величина X распределена по нормальному закону с математическим ожиданием m = 40 и дисперсией сг2 = 400. Вычислить вероятность попадания случайной величины в интервал (30,80).
Задача 14.2. Две игральные кости бросают до выпадения числа 6 хотя бы на одной из них. Найти вероятность того, что впервые число б появится при fc-ом бросании, * = 1,2
Задача 14.3. Пусть X^Xi,.. .>Xn - независимые случайные величины, распределенные равномерно на отрезке [0,1]. Найти функции распределения случайных величин У = maxi^n Хк и Z = mini^n Хк.
Задача 14.4. Случайная величина X распределена равномерно с математическим ожиданием Е(Х) = 4 и дисперсией D(X) = 3. Найти плотность распределения величины X.
Задача 14.5. Пусть Х1,Хг ~ независимые случайные величины, имеющие геометрическое распределение: Р(Х/ = А) = g*(l — д), к = 0,1,2,..., Z = 1,2. Найти распределение величины Z = max(Xi,X2).
Распределения сумм независимыхСЛУЧАЙНЫХ ВЕЛИЧИН. СВЕРТКИ РАСПРЕДЕЛЕНИЙ
Рассмотрим сначала две независимые целочисленнозначные неотрицательные случайные величины X и У с распределениями рк = Р(Х = к), к = 0,1,2,..., и qi = Р(У = /),/ = 0,1,2,.... В силу того, что величины независимы, событие {X = k,Y = /} имеет вероятность pkqv Сумма S = X 4-У есть случайная величина, и событие {S = г] равно сумме событий {X = А, У = т — *}, к = 0,1,..., г. Поскольку слагаемые несовместны, то вероятность ur = Р(5 = г) равна сумме вероятностей событий и, следовательно, задается формулой
т
«г = £>№-». г= 0,1,2,....(15.1)
*=0
Распределение U = {кг}^о» определенное этими равенствами по распределениям Р = {р*}^ и Q = {д/}*0, называется сверткой распределений Р и Q и обозначается U = P*Q.
Свертка U = Р *Q является распределением суммы S = = X + У независимых величин X и У с распределениями Р и Q соответственно.
Теорема 1. Пусть распределениям Р = {р*}*10, <?={®)ёо. U = {ur}”0 отвечают производящие функции
ОООООО
*=0/=0г=0
Тогда, если U = P*Q, то фи^) = ^р(г)^(^) и наоборот, если фи(^ = ^(2)^(2), то U — P*Q.
Доказательство. Перемножив функции ^р(г),^>у(г) так, чтобы в результате получился ряд по степеням z, получим
ОО г
Фр(^Фд^ = £Q£^-*)*r- (15-2) г=0 *=0
Из этого равенства следует утверждение теоремы. Действительно, из (15.2) и (15.1) следует, что произведение функций фр и фд является производящей функцией свертки распределений U, и наоборот, производящая функция свертки распределений распадается в произведение производящих функций компонент.
Пример 1. Пусть независимые величины X и Y имеют распределения Пуассона с параметрами Ai и Аг соответственно. Тогда сумма S = X + У снова распределена по закону Пуассона с параметром А = Ai 4- Аг. Действительно, фх(г) = еА1^-1\ фу^ = еЛ2^-1\ а тогда, согласно теореме 1, фз^ = е^1^2^"1). Это снова производящая функция распределения Пуассона, но с параметром А = Ai + Аг.
Пусть имеются независимые целочисленнозначные неотрицательные величины Х1Д = 1,2, ...,п, с распределениями Pi = {p^l^o- Каким будет распределение суммы 8п = = $27=1 ^? Составляя сумму последовательно, т. е. каждый раз прибавляя по одному слагаемому, несложно получить, что распределение величины Sn будет иметь вид Pi * Рг * •' v * Рп •
Свертку нескольких распределений определяем рекуррентным способом: сначала сворачиваем первые два распределения, затем результат сворачиваем с третьим и т. д. Из теоремы 1 следует, что свертка распределений обладает свойствами коммутативности Pi ♦ Р^ = Рг ♦ Pi и ассоциативности (Pi * Рг) * Рз = Pi * (Рг * Рз), поэтому в t жой последовательности сворачивать распределения, безразлично.
Задача 1. Бросаются независимо друг от друга две правильные пирамидки, на гранях каждой из которых есть цифры 1,2,3,4, выпадающие с равными вероятностями. Найти распределение суммы цифр, выпавших на обеих пирамидках. Вычислить функцию распределения этой суммы.
при X ^ 2,при 2 < X ^ 3, при 3 < х ^ 4, при 4 < х ^ 5, при 5 < х ^ 6, при 6 < х ^ 7, при 7 < х ^ 8, при 8 < х < оопри X ^ 2,при 2 < X ^ 3, при 3 < х ^ 4, при 4 < х ^ 5, при 5 < х ^ 6, при 6 < х ^ 7, при 7 < х ^ 8, при 8 < х < ооРешение. Возможные значения суммы выпавших цифр составляют множество {2,3, ... ,8). Обозначим рк вероятность того, что величина X, равная сумме цифр, принимает значение к. Прямым подсчетом можно проверить, что для к = 2,3,...,8 выполняется рк = (4 — |5 — fc|)(l/4)2. Так, например, р2 = (1/4)2, а ре = 3(1/4)2, поскольку сумму 2 дает только один набор (1,1), а сумму 6 составляют 3 таких набора: (2,4), (3,3), (4,2). Тогда функция распределения равна
при X ^ 2,
при 2 < X ^ 3, при 3 < х ^ 4, при 4 < х ^ 5, при 5 < х ^ 6, при 6 < х ^ 7, при 7 < х ^ 8, при 8 < х < оо
при X ^ 2,
при 2 < X ^ 3, при 3 < х ^ 4, при 4 < х ^ 5, при 5 < х ^ 6, при 6 < х ^ 7, при 7 < х ^ 8, при 8 < х < оо
О,
Р2 = 1/16,
Р2 4~РЗ = 3/16,
Р2+Рз+Р4 = 6/16,
Р2 +РЗ +Р4 + Р5 = Ю/16,
Р2 + РЗ + Р4 + Р5 + Рб = 13/16,
Р2 + РЗ +Р4 + Р5 + Рб + Р7 = 15/16,
Р2+Рз+Р4+Р5+Рб+Р7+Р8 = 1,
Рассмотрим теперь независимые случайные величины X и У, имеющие плотности распределения /(а?) и д^ соответственно. Согласно (11.2) и (11.3) для любых а < 6 и с < d вероятность того, что случайный вектор (Х,У) принадлежит прямоугольнику [а, 6) х [с, d), равна
6 dР{а^Х <b,c^Y <d)= I f f^g^axa».
а с
Поскольку любое достаточно хорошее множество А на плоскости можно представить в виде суммы непересекающихся прямоугольников, то
Р((Х,У)6А) = JJf(x)g(y)dxdy.
А
Пусть S = X + Y. Обозначим А = {(г, у) : х + у < s). Тогда {S <»} = {(%, У) 6 А} и
Р(Х + У<«)Р(Х + У<«)f(x)g(y — x)dx\dy*f(x)g(y — x)dx\dy*S ОО= Jj f^9WLxdy = J и®4-y<s-оо -оо
Р(Х + У<«)
Р(Х + У<«)
f(x)g(y — x)dx\dy*
f(x)g(y — x)dx\dy*
v — x)dxv — x)dxВ силу определения плотности из этого представления следует, что функция
v — x)dx
v — x)dx
(15.3)
является плотностью распределения суммы X + У. Определенную этой формулой функцию h называют сверткой функций / и д и обозначают /i(v) = / * д^б) или, без указания аргумента, h = / * д. Таким образом, плотность распределения суммы двух независимых случайных величин, имеющих плотности распределения, равна свертке плотностей распределений слагаемых.
Если величины X и У неотрицательны, т. е. /(а?) = 0 при х < 0, и д^у) = 0 при у < 0, то формула свертки (15.3) превращается в следующую: при v О
h(v) = J f(x)g(y — x)dx, (15.4) о
а при у < 0 имеем Цу) = 0. Равенство нулю плотности при отрицательных значениях аргумента отражает тот факт, что сумма двух неотрицательных величин неотрицательна.
Теорема 2. Пусть f,g u h - плотности распределения и
ОО<?/(*) = у— ОООО<?/(*) = у— ООe^fWx,e^fWx,ОО^(о = У— ОООО^(о = У— ООeltxg^x)dx,eltxg^x)dx,
ОО
<?/(*) = у
— ОО
ОО
<?/(*) = у
— ОО
e^fWx,
e^fWx,
ОО
^(о = У— ОО
ОО
^(о = У— ОО
eltxg^x)dx,
eltxg^x)dx,
ОО
^>л(/) = у ett5Ch(x)dx— ОО
- соответствуючцие им характеристические функции. Тогда, если h = / * g, то <Ph(t) = У/(0^(0 и наоборот, если <рЦ1) = = Vlk^Vg^Y то h = f *g.
Доказательство. С помощью замены переменной интегрирования легко убедиться, что произведение характеристических функций tpj(t) и <pg(t) можно представить в следующем виде:
ОО ОО
^/(0^(0= J J eitTfV®VtyoW®^ =
— ОО —ОО
= j j е*^»^"*^ ^ ^
-00 -oo
oo oo
= I etiv ( I f(x)g(v — x)dx]dv.
— ОО—ОО
Из этого равенства следует, что произведение ^зк^УеЦ^ является характеристической функцией свертки h = f *д, и наоборот, характеристическая функция свертки плотностей распределения распадается в произведение характеристических функций компонент.
Свертка нескольких плотностей распределения определяется рекуррентным способом: сначала сворачиваются первые две плотности, затем результат сворачивается с третьей и т. д. Из теоремы 2 следует, что свертка плотностей распределений обладает свойством коммутативности Л * /2 = /2 * /1 и ассоциативности (Д * /2) ♦ /з = /1 * (Л ♦ /з)> поэтому не имеет значения, в каком порядке сворачивать плотности распределения. Ясно, что плотность распределения суммы Sn = У^ьл^Ь где Xt - независимые случайные величины с плотностями распределения йк®У равна свертке плотностей слагаемых, т. е. A(s) = Л ♦ /2 * • • • * fnks).
Пример 2. Пусть Sn = Xi -V Xi -V- • • -V Хп, где Xi - независимые случайные величины, распределенные по показательному закону с параметром А, т. е. Х< имеют общую плотность
\ / Хе"Х$» ПРИ ОО,( 0, при х < 0.
Тогда плотность распределения суммы Sn имеет вид
s'nC®) = s h-1)1’I О,s'nC®) = s h-1)1’I О,при s О, при 8 < 0.при s О, при 8 < 0.
s'nC®) = s h-1)1’
I О,
s'nC®) = s h-1)1’
I О,
при s О, при 8 < 0.
при s О, при 8 < 0.
Убедимся в справедливости этой формулы с помощью индукции. Для п = 1 эта формула верна, поскольку ^i(s) = = /(s). Предположим, что она верна для п = к и докажем ее для п = к + 1. Поскольку величины неотрицательны то применяя равенство (15.4), имеем
Л+>Ю = ft * fW = j=
О
_ A*+ie-Ae “ <* -1)!_ A*+ie-Ae “ <* -1)!Ч^У.-Х.У.Ч^У.-Х.У.
_ A*+ie-Ae “ <* -1)!
_ A*+ie-Ae “ <* -1)!
Ч^У.-Х.
У.
Ч^У.-Х.
У.
Задача 2. Найти плотность вероятности распределения суммы двух независимых случайных величин Z = X 4- У, где величина X равномерно распределена в интервале [а, 6), а У имеет нормальное распределение с параметрами m и <г2.
Решение. Обозначим Цг^ - плотность вероятности распределения суммы Z. По формуле (15.3)
»« =»« =
»« =
»« =
или после замены переменных
(»-(ж-т))/а
Цг) = —2—2—/е~* /?сй.
' '6 ~ a V2x J
(a-(*-m))/a
Используя определение функции Лапласа |9, окончательно получим
b — (я — т)b — (я — т)
b — (я — т)
b — (я — т)
Задачи
Задача 15.1. Брошены две игральные кости. Какова вероятность выпадения на двух костях в сумме 6 очков?
Задача 15.2. Смешаны две группы однотипных деталей, содержащих ni и пг деталей каждая. Число бракованных деталей в каждой группе X и У имеют биномиальные распределения
Р(Х = т) = Су (1 -рУ“-т, т = 0,1,2щ,
Ply = т) = Су (1 -р)"1-”, т = 0,1,2„2,
соответственно. Найти закон распределения числа бракованных деталей (X + У) в смешанной группе.
Задача 15.3. Пусть Xi распределена с показательной
плотностьюплотностьюЛ(*) = {Л(*) = {4е"4г,0,4е"4г,0,0 ^ х,х < 0,0 ^ х,х < 0,
плотностью
плотностью
Л(*) = {
Л(*) = {
4е"4г,
0,
4е"4г,
0,
0 ^ х,
х < 0,
0 ^ х,
х < 0,
а Хг не зависит от Xi и распределена равномерно с плот
ностьюностьюЛ (я) = <Л (я) = <12’ о,12’ о,2 ^ х С 4,2 ^ х С 4,х < 2, 4 < х.х < 2, 4 < х.
ностью
ностью
Л (я) = <
Л (я) = <
1
2’ о,
1
2’ о,
2 ^ х С 4,
2 ^ х С 4,
х < 2, 4 < х.
х < 2, 4 < х.
Найти плотность для суммы Z = X 4- У.
Задача 15.4. Случайная величина X равномерно распределена в интервале [0,2], случайная величина У равномерно распределена в интервале [—1,1], X и У независимы. Найти плотность вероятности величины Z = Х + У.
Задача 15.5. Пусть случайная величина X имеет показательную плотность с параметром а, а величина У распределена равномерно на интервале [0,6]. Найти плотность для Х + УиХ-У.
Неравенство Чебышева. Закон больших чисел
В теории вероятностей часто оценивают вероятности событий, порожденных случайной величиной, через моменты случайной величины.
Лемма 1. Пусть X - неотрицательная случайная величина, т. е. X "^ 0. Тогда для любого е > 0
Доказательство. Очевидно, что для неотрицательной случайной величины X справедливо равенство
1[М(Х) + 1[,,«.)(Х) = 1,
где 1л (ж) - индикатор множества А.
Согласно четвертому свойству математического ожидания (§ 12) из очевидного неравенства Х1[е)ОО)(Х) б1[С(ОО)(Х) следует, что Е(Х1[С)ОО)(Х)) ^ бЕ(1[С(ОО)(Х)). Используя эту оценку и тот факт, что математическое ожидание неотрицательной случайной величины неотрицательно, получим
Е(Х) = Е(Х(1[0,е)(Х) + l[t,„)(%))) = = Е(Х1[0,е)(Х)) + Е(Х1[е,«,)(%)) ^ Е(Х1[,10о)(Х)) > сЕ(1[е>„)(%)) = еР(Х > е).
Поделив правую и левую части этого неравенства на е, получим требуемую оценку.
Лемма 2 (неравенство Чебышева). Для любой случайной величины Y с конечным вторым моментом и любого 6 > О
Р(|У-Е(У)|^«)<^Р.(16.1)
Доказательство. В силу неравенства (12.3) из конечности второго момента следует, что математическое ожидание и дисперсия существуют. Применим лемму 1 для случайной величины X = (У — Е(У))2 и € = 62. Тогда имеем
Р(|У - Е(У)| ^ 5) = Р((У - Е(У))2 ^ 62) ^
Е(У - Е(У))2 _ В(У) 52- 52 •
Следствие 1. Для любой случайной величины У с конечным вторым моментом и любого 6 > О
Р(|У-Е(У)|<6)£1-^Я(16.2)
Поскольку сумма вероятности события и вероятности его дополнения равна единице, то оценка (16.2) непосредственно вытекает из (16.1).
Следствие 2. Пусть Xi,X2, ...,ХП независимые случайные величины с конечными вторыми моментами. Тогда для любого 5 > О
p(|f> -£е№)| £<) < if».(16.3)
1=1/=1/=1
P(|f> - ЕЕ№)| <«)>!- ^i>№y(16.4)
(=1/=11=1
Доказательство. Положим Y = JZjLjXf. В силу аддитивности математического ожидания Е(У) = ^ЗР=1Е(Х|). По следствию 3 § 12 имеем В(У) = £2Г=1 ^(Xf). Подставляя эти выражения в (16.1) и (16.2), получаем (16.3) и (16.4) соответственно.
Задача 1. Изнашивание орудия при стрельбе ведет к тому, что каждый выстрел уменьшает вероятность попадания в цель на 1 %. При первом выстреле вероятность попадания равна 0.8. Производится 100 выстрелов. Найти границы, в которых с вероятностью не меньшей 0.85 будет заключено число попаданий.
Решение. Поскольку каждый выстрел уменьшает вероятность попадания на 1 %, то при втором выстреле она равна р2 = 0.8-0.99, а при 1-м равна р/ = 0.8 • (0.99)f-1. Пусть величина Х[ принимает значение 1 в случае попадания при 1-м выстреле и 0 в случае промаха. Сумма Sn = zL/Li %i будет числом попаданий при п выстрелах. Поскольку
Е(Х/) = 1-р, = 0.8(0.99/-\
D(X/) = Е(Х2) - Е2(Х,) = 0.8(0.99)'-1 - (0.8(0.99),"1)2|
то, используя известную формулу для суммы членов геометрической прогрессии, получим
- ‘«чет- -«^L. • •"»• “ •
При п = 100 из (16.4) следует, что
100100
р(^Е(Х,) - 6 < 5юо < ^ВД) + б) > 1=11=1
100 >l-^EDW) = 0.85, 1=1
где 6 выбирается так, чтобы выполнялось последнее равенство, т. е. 6 = (52i=i D^^/O.IS)1/2 to 12.35. Таким образом, 100юо
52 Е(Х,) — 6 to 38.37, 52 Е(-^0 + 6 to 63.07. Следовательно, 1=11=1
с гарантированной вероятностью 0.85 число попаданий при ста выстрелах будет заключено в пределах от 38 до 63.
Рассмотрим различные виды сходимости последовательностей случайных величин.
Определение 1. Говорят,что последовательность случайных величин Хп сходится при п —♦ оо к величине X в среднем квадратичном, если Е(ХП — X)2 —► 0.
Определение 2. Говорят,что последовательность случайных величин Хп сходится при п —► оо к величине X по вероятности, если Р(|ХП — Х| ^ е) —♦ 0 для любого е > 0.
Определение 3. Говорят что последовательность случайных величин Хп сходится при п —♦ оо к величине X с вероятностью единица, если вероятность множества всех исходов из Q, для которых имеет место сходимость числовых последовательностей Xtt(w) —* X(v), имеет единичную вероятность, т. е. P(w : Хп(о;) —♦ Х(ш)) = 1.
Следующий фундаментальный результат теории вероятностей имеет название “закон больших чисел”. Пусть проводится большое количество независимых одинаковых экспериментов, в каждом из которых наблюдается случайная Величина одной и той же природы. С математической точки зрения это означает, что наблюдается последовательность независимых случайных величин с одинаковыми распределениями. Предполагается, что существует математическое ожидание отдельно взятой величины. Обозначим его т. Заметим, что математические ожидания у одинаково распределенных случайных величин одинаковы. Тогда среднее арифметическое всех значений случайных величин, полученных
в результате экспериментов, приближается при возрастании числа экспериментов к неслучайному числу т.
Теорема 1 (закон больших чисел). Пусть {-Х/}^ - последовательность независимых одинаково распределенных случайных величин с математическим ожиданием т = Е(Х,) и конечными дисперсиями D(X,) < оо. Тогда величина Хп =
1 ”
= - 52 ^> равная среднему арифметическому первых п ве- п 1=1
личин из последовательности {Х|}”=1, сходится при п —> оо в среднем квадратичном, по вероятности и с вероятностью единица к математическому ожиданию т.
Доказательство. Мы докажем лишь сходимость в среднем квадратичном и по вероятности. Утверждение о сходимости с вероятностью единица оставим без доказательства, поскольку доказательство такой сходимости потребовало бы значительных дополнительных сведений из теории вероятностей.
Докажем сходимость в среднем квадратичном. Для этого вычислим квадратичное отклонение Е(ХП — т)2. Используя свойства линейности и аддитивности математического ожидания, несложно убедиться в том, что
Е(Х„) = е(|£х() = 1 £е(Х,) = 1. пт = т.1=11=1
Тогда по определению дисперсии E(Xn — m)2 = D(Xn). Для вычисления дисперсии воспользуемся свойством 2) и следствием 3 § 12. В результате получим
п
Е(Х„ - m)2 = D(X„) = d(1 £ X,) =
1=1
= XSx') = ^ED(x') = ^D<X1’-<16-5’
1=11=1
В последнем равенстве мы воспользовались тем, что случайные величины Xi одинаково распределены и, следовательно, имеют одинаковые дисперсии. Правая часть в (16.5) стремится к нулю при п -♦ оо, а это и означает, что Хп —► т в среднем квадратичном.
Докажем сходимость по вероятности. Воспользуемся оценкой (16.3) с 6 = пе. Для любого е > 0 по неравенству Чебышева имеем
п п
PaXn-mlJ^pfl^Xc-^EGtybne) <х 1=1 /=1
. ™ р№)п2е2 пе2 ’
Правая часть этого соотношении стремится к нулю при п —> оо для любого фиксированного е. Согласно определению это означает, что Хп —♦ m по вероятности.
Пример 1. Пусть п раз бросается симметричная однородная монета. Выпадению герба будем приписывать значение 1, а выпадению решетки - 0. Иными словами, проводятся п случайных экспериментов, в каждом из которых наблюдается случайная величина Xi, I = 1,2,..., п со значениями 1 и 0 в зависимости от выпадения герба или решетки, где / - номер бросания. Величины Xi независимы, поскольку бросания никак между собой не связаны. Поскольку монета симметричная, то вероятности выпадения герба и решетки совпадают и равны 1/2. Тогда m = Е(Х/) = = i • I + »J = i, = 0 - Xh + (° -1П = г Величина Хп = - $3^! Xi выражает долю выпавших гербов при п бросаниях монеты. Согласно закону больших чисел Хп стремится к 1/2, т. е. к вероятности выпадения герба. Если бы монета была несимметричной, т. е. вероятность выпадения герба была бы равна р, р ф 1/2, то m = Е(Х/) = 1 • р 4- 0 • (1 — р) = р, и по закону больших чисел доля выпадений герба будет стремиться к р. Таким образом, бросая монету большое число раз и вычисляя величину Х„, можно с большой точностью вычислить р, т. е. установить, симметричная монета или нет.
В более общей ситуации, если проводятся п независимых одинаковых случайных экспериментов, в каждом из которых Может наступить или не наступить событие А, то частота появления этого события, в силу закона больших чисел, будет стремиться к Р(Л). Действительно, как и в примере 1,
положим величину Xf, равной 1, если А наступило в /-м эксперименте, и равной 0, если не наступило. Величины Xi, I = 1,2, ...,п независимы, так как независимы эксперименты. Тогда Хп = - $2”=1 Xi - частота появления события А. Очевидно E(Xf) = Р(А), D(X/) = Р(А) - Р2(А) = Р(А)Р(А). Можно применить закон больших чисел, из которого следует, что Хп —► Р(А).
Задача 2. На перрон станции метро каждые 5 минут приходит случайное число пассажиров, распределенное по закону Пуассона с параметром А = 250. За то же время с перрона отправляются проходящие поезда, которые могут увезти количество пассажиров, имеющее равномерное распределение в промежутке [195,205]. Можно ли рассчитывать, что перрон не переполнится, если такой режим поддерживается постоянно?
Решение. Пусть X* - число пассажиров, пришедших на перрон в течение fc-ro пятиминутного отрезка (отсчет можно вести от произвольного момента), а У* - число свободных мест в проходивших за эти 5 минут поездах. Заметим, что Е(Х*) = А = 250 и Е(У*) = (195 + 205)/2 = 200. Пусть Nn - число пассажиров, добавившихся за п пятиминуток к имевшимся на перроне, ас- произвольное положительное число. Поскольку Nn ^ 52?=1(Xfc — Yk) и Е(Х*) - Е(У*,) = 50, то при п > с/50 справедливо
п
P(N„ < с) < Р (£(Xt - yt) < с) =
п
= Р (^№ - И - E(xt) + Е(У»)) < с - 50п) <
п
^ р (I р№ ”Yk" Е№) + Е(у»))| > 5071 -с) ^ t.^xk-v^
(50п — с)2п(50 — с/п)2
при п —* оо. Последнее неравенство выполнено благодаря (16.3). Таким образом, переполнение перрона неизбежно, поскольку Р(^ ^ с) —* 1 для любого с.
Задачи
Задача 16.1. Устройство состоит из 60 независимо работающих элементов. Вероятность отказа каждого элемента за время t равна 0.05. Оценить снизу вероятность того, что число отказавших за время t элементов будет не больше четырех.
Задача 16.2. Монета бросается 1000 раз. Оценить снизу вероятность отклонения частоты появления герба от 1 /2 меньше, чем на 0.1.
Задача 16.3. Вероятность наступления некоторого события А в каждом из 1500 испытаний равна 0.2. Используя неравенство Чебышева, оценить сверху вероятность того, что отклонение числа наступлений события А от математического ожидания будет более 40.
Задача 16.4. Вероятность того, что изделие является качественным, равна 0.9. Сколько следует проверить изделий, чтобы с вероятностью не меньшей 0.95 можно было утверждать, что абсолютная величина отклонения доли качественных изделий от 0.9 не превысит 0.01?
Центральная предельная теорема
Многие из случайных явлений возникают в результате взаимодействия большого числа малых случайных возмущений. Примерами могут служить помехи в радиотехнике, диффузии в жидкостях и газах, рост некоторых микроорганизмов и т. д. При определенных условиях действие таких возмущений приводит к неожиданному феномену: величина результирующего (суммарного) воздействия становится мало отличной от нормально распределенной случайной величины. Пель настоящего параграфа - дать математическое обоснование этому феномену. Сам феномен составляет суть предельной теоремы, которая в силу особой важности называется центральной.
При доказательстве предельных теорем, т. е. теорем о сходимости при п —♦ оо функций распределения некоторых случайных величин, зависящих от индекса п, к распределению предельной величины, удобно иметь дело не с распределениями величин, а с характеристическими функциями этих величин. Это связано с тем, что характеристиче-
ские функции более удобны для аналитического изучения, и с тем, что сходимость распределений и сходимость характеристических функций эквивалентны, о чем свидетельствует следующий результат.
Теорема 1. Пусть <pn(t) - характеристические функции случайных величин Zn, a Fn(x) - функции распределения Zn, т. е. ^n(t) = Е(еИИп), Fn(x) = P(Zn < х\ Пусть <p(t) - характеристическая функция случайной величины Z, a F(x) - функция распределения Z, т. е. y?(t) = Е(е*^), F(x) = P(Z < х). Тогда следующие утверждения эквивалентны:
в каждой точке непрерывности функции F(x) имеет место сходимость Fn(x) —♦ F(x) при п —* оо;
<pn(f) —* <p(f) для любого t е R1 при п —► оо.
Этот результат приводится без доказательства, так как для доказательства потребуются сложные математические рассуждения.
Лемма 1. Если функция распределения F^x) непрерывна на всей прямой, то сходимость Fn(x) —* F^ для любого г € R1 эквивалентна равномерной сходимости: при п —* оо
sup |Гп(ж) - Г(ж)| -* 0.sup |Гп(ж) - Г(ж)| -* 0.«ен1«ен1(17.1)(17.1)
sup |Гп(ж) - Г(ж)| -* 0.
sup |Гп(ж) - Г(ж)| -* 0.
«ен1
«ен1
(17.1)
(17.1)
Доказательство. Для произвольного г > О разобьем интервал [0,1] на интервалы [yt,yt+i),k = 0,1,...,m, так, чтобы 0 < уы-i — ук ^ е. Считаем, что уо = 0,ym+i = 1. Поскольку функция F^ непрерывна и не убывает, то существуют такие точки Хк, что F(xk) = Ук и Хк < Хк^-хЛ = = 0,1,..., т. Поскольку Fn(xk) —♦ F(xk) при п —♦ оо, то можно указать столь большое N, что при п ^ ^ будут выполнены неравенства
|Fn(x*)- F(ark)| < €, к = 0,1,...,т-Ц.
В силу этих оценок для любого п ^ N и к = 0,1,..., m будем иметь
0 ^ Fn(xfc+i) - Fn^Xk) ^ |Fn(a!fc+i) — F^fc+i)^+ ^(^fc+i) — F(xk) + |^(a?fc) — ^*n(®fc)| ^ 3г.
Используя теперь монотонность функций Fn(jF) и F^x), для п > N получим
sup |Fn(x) - Г(ж)| ^ max { sup (Fn^ - Fn(zfc))+ reR1
+ |Г„(^)-Г(х6)| + sup (F^-F(xk^\^ ®€[®fci®k+i)J
^ max {Fn(®fc+i) - Fn(xk') + |Гп(жк) - F(xfc)|+
+ F(»fc+1) - F(xk^ ^ 3e + e + £ = 5e.
Так как e выбиралось произвольным, из этой оценки следует утверждение леммы.
Теорема 1 об эквивалентности утверждений о сходимости характеристических функций и функций распределения играет принципиальную роль при доказательстве следующего основополагающего результата теории вероятностей.
Теорема 2 (центральная предельная теорема). Пусть {Х/}”г - последовательность независимых одинаково распределенных случайных величин с математическими ожиданиями Е(Х/) = а и конечными дисперсиями D(X,) = о2. Положим Sn = 52"=i Хь Пусть Fn(x) = Р(Хп < х) - функция распределения случайной величины Zn = ~~^~' ° -^(ж) - функция распределения нормального закона со средним 0 и дисперсией 1. Тогда при п —► оо
sup |Fn(^)-^(x)H0.(17.2)
ген1
Доказательство. Характеристическая функция нормального распределения со средним 0 и дисперсией 1 имеет вид e-t /2 (см. §14). Пусть <рп^ = Е^’^") - характеристическая функция величины Zn. Согласно теореме 1 и лемме 1 достаточно доказать, что для любого < Е К1
(173)
Пусть ч>Ю = yy,(t) = E(e‘,V|) - характеристическая функция величины Yi = ——-. Величину Zn представим в виде суммы
величин У;, деленной на V^:
№ - °) _ 1 У у ?=1
Величины Ух независимы и одинаково распределены, по
скольку таким свойством обладают величины Хх. Используя свойство 2 и следствие 2 для характеристических функций (§13), получим
^«(0 = ^ЕГ^уС^) = Ibn(4) =<17Л)
По формуле Тейлора, примененной к функции у>(<), имеем
-М = ^(0) + y'(0)i + ^t2 + a(i)t2,(17.5)
где а(/) —* 0 при t —> 0. Согласно первому свойству характеристической функции у>(0) = 1. По следствию 3 § 13
Е(У,) = -,У(0), П(У,) = -р"(0) + (/(О))2.
Используя известные нам свойства, вычислим математическое ожидание Е(У) и дисперсию D(y) :
Е(У,) = е(^) = ICECXO - а) = 0, D(y,) = 1$D^ = 1.
В результате имеем ^(0) = 0, ^"(О) = — 1. Подставляя эти значения в (17.5), получим
^(0 = 1 - у + а^-
Поэтому формулу (17.4) можно переписать в виде
Обозначим ^„(/) = —+ о/-4=) —. Тогда nPnU\ —> —/2/2,
2п \уп/ п- х'
Рп^ —> 0, и, принимая во внимание хорошо известное предельное соотношение
Jim(1+^)1//3 = е,
получим
у„(0 = ((I + (ью^-ту^ -е-'1/2.
Требуемое соотношение (17.3), а, следовательно, и теорема 2 доказаны.
Замечаете 1. Как следует из доказательства, величину Zn можно представить в виде Zn = 52ь=1 ^п / > где слагаемые v Yt ’
Ynj = ^ независимы и одинаково распределены со средним Е(УП^) = 0 и дисперсией Е(УП2,) = ~ ~ обратно пропорциональной числу слагаемых. Часто оказывается, что зависимость слагаемых Yn,i от п является более сложной, чем зависимость вида Yi/y/n. Тем не менее, если эти слагаемые при каждом п независимы, имеют среднее 0 и дисперсию, обратно пропорциональную п, то при некотором дополнительном ограничении справедливо соотношение (17.2). Очень важным обстоятельством является то, что центральная предельная теорема справедлива для случайных величин X/ с любыми распределениями, для которых ЕХ/ = 0,D(X?) = cr2 < оо.
Замечание 2. Из формул (17.2), (10.1) и (14.1) следует, ЧТО ДЛЯ 81 < 82
Пример 1. Приведем вывод интегральной теоремы Муав- ра-Лапласа (§ 9) из центральной предельной теоремы. Проводятся п испытаний Бернулли и нас интересует число наступлений события А. Пусть случайная величина X, принимает значение 1, если в l-м испытании событие А наступило, и 0 в противоположном случае. Тогда Е(Х|) = р, D(Xj) = pq, где р = Р(А) и q = 1 -р. Обозначим Sn = 52Г=1 ^- Величина Sn равна числу наступлений события А в п испытаниях. Для
mi — пр , m2 — пр
mi < m2 положим ап = —-, Ьп = —7. Используя вве-
i/npgvnpg
денные обозначения и (17.6), получим, что для Pn(mi,m2) (определение см. § 8) справедливо соотношение
Pn(mi, m2) = P(mi ^ Sn ^ т2) = P(mi ^ Sn < т2 + 1) «
« Нф(^+^)-фМй ^Ф(Ь") - ф(а"»-
В последнем приближенном равенстве мы воспользовались равномерной непрерывностью функции Ф(ж). Полученное соотношение и составляет утверждение интегральной теоремы Муавра-Лапласа.
Задача 1. Производится стрельба с большого расстояния по круглой мишени так, что при каждом выстреле попадание равновозможно в любую точку мишени. Промахов нет. Мишень разделена концентрическими окружностями, равноотстоящими друг от друга на 10 областей. Центральная область является кругом с радиусом, равным расстоянию между окружностями, и попадание в нее оценивается в 10 очков. Попадание в прилегающее к ней кольцо оценивается в 9 очков, в последующее - 8 очков, и так далее - до 1 очка для последнего кольца. Вычислить приближенное значение вероятности того, что при 100 независимых выстрелах будет набрано от 360 до 430 очков.
Решение. Поскольку все точки мишени равновозможны для попадания, то шансы попадания в каждое из колец описываются геометрическими вероятностями. Площадь круга равна тгг2, где г - радиус. Обозначим расстояние между окружностями через d. Легко подсчитать, что площадь к- го кольца равна тг</2((& 4- I)2 — б2) = Ы2(21; + 1). За нулевое кольцо принимается центр круга, а за 9-е - последнее кольцо. Площадь всей мишени равна 100?rd2. Следовательно, вероятность попадания в к-е кольцо равна (24 + 1)/100, к = 0,1,2,..., 9. Пусть X - случайная величина, равная числу очков, набранных при одном выстреле. Тогда закон распределения X задается следующей таблицей
X
10
9
8
7
6
5
4
3
2
1
р
1
3
5
7
9
11
13
15
17
19
100
100
100
100
100
100
100
100
100
100
Вычисляя математическое ожидание и дисперсию величины X, получим Е(Х) = 3.85, Р(Х) = Е(Х2) - Е2(Х) = = 5.5275. Следовательно, t№)«2.351.
Пусть Xi - случайная величина, равная числу попаданий при /-м выстреле. Тогда Sn = £2^1 Xi - суммарное число очков при п выстрелах. Применяя центральную предельную теорему (точнее формулу 17.6), для любых mi < m2 получим
Подставляя в правую часть этого соотношения значения математического ожидания, дисперсии и параметров mi = 360, m2 = 430, получим, что вероятность набрать при стрельбе от 360 до очков 430 приблизительно равна
1(Ф(1.91) - Ф(-1.06)) = ^(Ф(1.91) + Ф(1.06)) « 0.825.
Задачи
Задача 17.1. При выстреле по мишени стрелок попадает в десятку с вероятностью 0.5, в девятку - 0.3, в восьмерку - 0.1, в семерку - 0.05, в шестерку - 0.05. Стрелок сделал 100 выстрелов. Какова вероятность того, что он набрал не менее 900 очков?
Задача 17.2. Предположим, что на станцию скорой помощи вызовы в течение суток поступают по закону Пуассона с параметром А = 73 и в разные сутки их количество не зависит друг от друга. Определить вероятность того, что в течение года (365 дней) общее число вызовов будет в пределах от 26500 до 26800.
Часть 2
МАТЕМАТИЧЕСКАЯ СТАТИСТИКА
Математическая статистика - это дисциплина, изучающая методы оценивания и сравнения распределений случайных величин и их характеристик по наблюдениям случайных величин.
§ 18. Случайная выборка.
Эмпирическая функция распределения
Пусть X - случайная величина с функцией распределения F^ = Р(Х < я?). Если в ходе случайного эксперимента наблюдается одно значение случайной величины X, то существенной информации о распределении X или ее характеристиках получить нельзя. Однако, если проводится большое количество не зависимых друг от друга одинаковых случайных экспериментов, в каждом из которых наблюдается значение случайной величины X, то при достаточно большом количестве экспериментов можно получить хорошие оценки функции распределения величины X и ее характеристик. Построение таких оценок и является одной из основных задач статистики.
Определение 1. Случайной выборкой объема п, отвечающей случайной величине X с функцией распределения F^x\ называется набор п независимых случайных величин Xi, Хг,..., Хп, каждая из которых имеет распределение F(x\
Определение 2. Случайная величина, являющаяся функцией случайной выборки, называется статистикой.
Таким образом, для любой достаточно хорошей (например, кусочно-непрерывной) функции д^, величина д^Сл, Хг,..., Хп) - статистика.
Величина Х^ = gk(Xi,X2,... ,Хп), где дк - отображение из Rn в R1, сопоставляющее каждому вектору х € Rn ту из его координат, которая занимает к-е по порядку значение в упорядоченном по возрастанию наборе, составленному из координат вектора, называется к-й порядковой статистикой. В частности, Х^ = min{Xi,X2,.. .,ХП} и
Х(п) = max{Xi,X2, ...,ХП). Набор упорядоченных случайных величин X(i) ^ Х(2) ^ • • • ^ Х(п) называется вариационным рядом.
Часто для краткости случайную выборку Xi,X2,. . ,ХП объединяют в один случайный n-мерный вектор X = = (Xi,X2,...,X„). Экспериментатор (статистик), как правило, располагает одной реализацией этой случайной выборки, т. е. набором чисел х = (a?i,a?2>• • • ^®п\ полученных в результате наблюдений величины X при п независимых повторениях случайного эксперимента в одинаковых условиях. Согласно теории, оценки параметров величины X или ее распределения, построенные по случайной выборке (Xi, Хг,..., Хп), будут сходится при п —» оо к истинному значению параметра или распределению либо по вероятности, либо с вероятностью единица, т. е. для почти всех реализаций выборки. Таким образом, уже по одной реализации (®i, Х2,... ,хп) случайной выборки, когда п велико, можно построить оценку, с большой вероятностью хорошо аппроксимирующую истинный параметр или распределение.
Пример 1. Рассмотрим задачу о приближенном вычислении вероятности выпадения герба для несимметричной монеты. Пусть р - вероятность выпадения герба, а 1 — р - вероятность выпадения решетки. Для того, чтобы приближенно вычислить параметр р, производятся независимые бросания монеты, и каждый раз выпавшему гербу сопоставляется единица, а решетке - ноль. Таким образом, мы имеем последовательность независимых одинаково распределенных случайных величин
{
1, если при l-м бросании выпадает герб,
О, если при <-м бросании выпадает решетка.
Набор величин (Xi, Хг,..., Хп) является случайной выборкой для величины X с Р(Х = 1) = р, Р(Х = 0) = 1 — р. Поскольку Б(Х?) = 1 • р 4- 0 • (1 — р) = р, то из закона больших чисел (см. часть 1, §16) следует, что случайная величина Хп = - 527=1 ^Ь равная доле выпавших гербов, сходится с вероятностью единица при п —* оо к величине р. Следовательно, статистика Хп является хорошей оценкой для р, если п достаточно велико. При многократном
бросании монеты наблюдатель имеет лишь набор п чисел вида (1,0,1,1,0,...,1) = (a?i,a?2, • • ч^п), т. е. одну конкретную реализацию случайной выборки (Х1,Хг,.. .,ХП). Вместо случайной величины Хп он тоже имеет ее реализацию хп = — 52”=!^- ^ математической точки зрения реализация случайной выборки (a?i,...,Хп) представляет собой значение случайного вектора X при каком-то элементарном исходе. Поскольку сходимость Хп —* р имеет место для почти всех исходов (с вероятностью единица), то и хп при достаточно больших п будет близка к р.
Замечание 1. Одна из основных задач математической статистики состоит в построении по случайным выборкам X других случайных величин, которые служат оценками параметров или распределений. Эти оценки при неограниченном увеличении числа наблюдений компонент выборки, сходятся с вероятностью единица или по вероятности к истинному значению параметра наблюдаемой величины или ее распределению. Прикладная статистика имеет дело с конкретными реализациями случайных величин, полученными в ходе случайных экспериментов. Она использует оценки и формулы математической статистики, при этом вместо случайных величин X/ подставляются их конкретные реализации Х[.
Рассмотрим задачу о построении оценки для функции распределения F^ случайной величины X по случайной выборке X = (Xi,X2,..., Хп). Такой оценкой будет служить так называемая эмпирическая функция распределения.
Определение 3. Эмпирической функцией распределения, построенной по случайной выборке (Xi, Хг,..., Хп), называется случайная функция
^И = ;Ё1(-~,)(Х1).
?=1
где 1л (у) ~ индикатор множества А.
Замечание 2. Для конкретной реализации ^®i,X2,... ,х^ выборки (Xi, Хг,..., Хп) и фиксированного числа х величина F^x^ равна доле тех значений х^, которые меньше х.
Замечание 3. Свойства эмпирической функции распределения Fn^x^ аналогичны свойствам обычной функции рас-
пределения: Fn(ж) ~ неубывающая функция по х, О С Fn^z) ^ 1 для любого х, и Fn(-oo) = 0,Fn(oo) = 1.
Замечание 4. Эмпирическую функцию распределения можно описать следующим образом. От минус бесконечности вплоть до первой порядковой статистики X(i) значение Fn(z') равно нулю. Далее значение Fn(x^ увеличивается на - кП
в каждой из точек Х^, т. е. Fn(x) = - при х Е (Х^ь), ^(ы-1)]« При х большем чем n-я порядковая статистика Х(„) значение Fn(ж) равно 1.
Для любого фиксированного х случайная величина ^(ж) имеет следующее распределение
Р (г„(*) = ^ = Ci№))‘(l - F^))-1, к = 1,2,..., я.
Действительно, событие {Fn(ж) = ^} состоит в том, что произошло ровно к из событий {X, < ж}, / = 1,2, ...,п, и, следовательно, произошло п — к противоположных событий. Воспользуемся схемой Бернулли (§ 8). Будем говорить, что в /-м испытании наступил успех, если (X/ < ж}, и неудача, если {X? ^ ж}. Тогда вероятность успеха р = P(Xf < ж) = = F(ж), а вероятность неудачи q = P(Xf ^ ж) = 1 — F(ж). По формуле Бернулли (8.1) вероятность наступления ровно к успехов равна CnPkqn~\ и эта вероятность равна вероятно- fк 1
сти события {Fn(ж) = -}. Что и требовалось доказать.
В рамках приведенной схемы легко вычислить функцию распределения порядковой статистики Х(т). Событие {Х(т) < ж} означает, что наступило не менее чем т событий вида {X? < ж), I = 1,2,..., п. Вероятность такого события по формулам (8.2), (8.3) равна
Р(Х(т) <«) = Рп(т, п) = £ C‘(F(*))‘(1 - Р^)"-‘ =к=т
т-1
= i-E<W(i-r(«F‘.
к=а
Для крайних порядковых статистик эти формулы принимают простой вид:
Р(Х(1) < х) = 1 - (1 - F^f, Р(Х(п) < г) = (F(x))".
Пример 2. Пусть наблюдается следующая реализация выборки: 0.2; —1.7; —3.6; 2.1; 5.2; —3.4; 4.1; 1.8; —1.3; 2.6.
График эмпирической функции распределения для этой реализации имеет вид
Рис. 9
Это ступенчатая функция, имеющая в точках выборки скачки размера 0.1.
Следующий результат утверждает, что эмпирическая функция распределения Fn^ является хорошей оценкой для функции распределения F^x).
Теорема 1 (Гливенко). С вероятностью единица при п —* ОО
sup |Гп(я) - F(x)| -> 0.(18.1)
Доказательство. Мы докажем это утверждение лишь для случая, когда функция распределения F(a?) непрерывна. Для произвольной функции F^ доказательство осуществляется аналогично, хотя и требует дополнительных рассуждений. Пусть £ > 0 - произвольное малое число, для которого число т = 1/е целое. Так как функция F^ непрерывна и не убывает, то можно выбрать такую возрастающую последовательность чисел xq = —оо, 2:1,..., xm_i, хт = оо, что
F(®o) = 0, F(®i) = £, ..., F^x^-ek, ...,F(xm) = L
Поскольку фунции Fn(x) и F^ являются неубывающими, то для любого к и х Е [ж&,а?к+1) справедливы соотношения
Fn^x) - F(x) ^ Fn^ck+V) - F^Xk) = Fnlxk+i) - Fl$w) + £,
Fn^ - Fix) > Fnlxk) - Flxw) = Fnlxk) - Flxk) - e.
Отсюда следует, что
sup |Fn(z)-F(®)| шах ^п(ж*) - F^)! + £.(18.2)
®€Rio<fc<m
Положим Yj = I(-oo>a;)(Xi). Поскольку величины X/ независимы и одинаково распределены, то и величины Yi независимы и одинаково распределены. В силу определения математического ожидания и первого свойства дисперсии имеем
ВД) = £(!(_„,.)№)) = Р№ е (-оо, х)) = Р№ < ») = Е^, П(У,) = Е(1^„-,)№))-Е2(У|) =
= Е^ - Р2(х) = Р(х)(1 - Р(х)) < 1.
Тогда, согласно закону больших чисел (теорема 1, § 16), для любого фиксированного х
FA^^Y-.EAYi'^F^
1=1
с вероятностью единица. Поэтому для конечного набора точек хо, a?i,..., хт каждое из предельных соотношений
Fn(xk) -► F{xk)t к = 0,1,...,т,
будет выполняться с вероятностью единица. Теперь, принимая во внимание оценку (18.2), получим, что с вероятностью единица
limsup sup |Fn(a?) — F(a;)| ^ £ = —.n—*oo igR1m
Событие, состоящее из тех исходов, для которых выполняется это неравенство, обозначим Qm. Это неравенство справедливо для всех натуральных т. Следовательно, для тех
исходов, которые входят во все события Qm одновременно, т. е. входят в произведение Пт^!^^’ выполняется соотношение (18.1). Согласно Лемме 1 § 6 Р^Пт=1 ^m) = 1- Таким образом, множество исходов, для которых выполняется соотношение (18.1), имеет вероятность единица.
Сформулируем без доказательства еще один результат, который характеризует качество оценки Fn($Y Из него следует, что оценка Fn^ является достаточно хорошей оценкой функции распределения F(x\
Теорема 2 (Колмогорова). Пусть
ОО
IC^Z^ — ^ 1=—ооIC^Z^ — ^ 1=—оо52 (-1/ехр(—2/222), при 0 < z,
IC^Z^ — ^ 1=—оо
IC^Z^ — ^ 1=—оо
О,О,при 2^0,
О,
О,
- функция распределения Колмогорова. Тогда, если функция распределения F(x) непрерывна, то для любого z
P(V^ max |Fn(a?) — F(a?)j < 2) —► Х(г),при п —* оо.
xCR1
Этот результат можно переформулировать следующим образом: случайная величина Zn = -v^maXreRi |Fn(a?) —F(®)| при больших в имеет функцию распределения, мало отличающуюся от JC^.B силу этого, для любого наперед заданного малого числа а, выбирая zi_a так, чтобы X(2i-a) = 1—а, мы получим, что оценка шахтах |Fn(a;) —F(x)| < ^=£ выполняется с вероятностью, приблизительно равной 1 — а. Таким образом, с вероятностью, близкой к единице, для всех х оценка Fn(x) отличается от F(z) не более, чем на z\-a!y/n.
Перейдем к оцениванию плотности распределения случайной величины X. Пусть /(z) - плотность распределения величины X, и пусть (Х1,Хг,.. .,ХП) - случайная выборка, отвечающая величине X. Выберем произвольное число h > 0. Положим хь = \x/K\h, где [а] - обозначает целую часть числа а, т. е. [а] - наибольшее целое число, не превосходящее а (например: [2.31] = 2, [—2.11] = —3).
Определение 3. Эмпирической плотностью распределения, построенной по случайной выборке (Xi, Х2,... ,ХП),
называется случайная функция
fn,h(X) = ^ 53 ^[^к,:ck+A)(^,)•1=1
Рассмотрим эту функцию подробнее. Когда х пробегает всю вещественную ось от —оо до оо, число к = [ж/Л] принимает все целые значения ..., -2,-1,0,1,2,.... Обозначим v^ - число тех значений величин X/, которые попадают в интервал \kh^Hl>\ т. е. i/4 = £ 1[4А,(1:+1)Л)№)- При kh < х < (k-H?)h 1=1
имеем к = [®//i},^a = kh, и, следовательно, /п,а(®) = ^- Теперь ясно, как построить график функции fn,h^x\ который называется гистограммой распределения случайной величины X. Нужно разбить всю вещественную ось на интервалы длины h и каждому интервалу \kh, (к + 1)Л) сопоставить число —.
Пример 3. Пусть дана следующая реализация выборки, состоящей из 20 компонент:
0.78; -0.12; -0.61; 0.92; 0.55; 1.63; -1.16; 0.01; -0.45; 0.20; -0.38; 0.62; 0.46; -0.22; 1.11; -0.77; 0.37; 0.72; -0.24; 0.42. Гистограмма с шагом h = 0.4 для этой реализации имеет следующий вид:
Рис. 10
Эмпирическая плотность распределения fn,h^z) используется в качестве оценки для /(ж) - плотности распределения случайной величины X.
Теорема 3 (о сходимости эмпирических плотностей распределения). Пусть п —► оо и h —► 0 так, что nh —► оо. Тогда в каждой точке х, в которой плотность f(x) непрерывна, fn.ht®) К®) но вероятности.
Доказательство. В целях упрощения доказательства мы не будем переходить к пределу одновременно при п —> оо, h —* 0 и nh —* оо. Предельный переход будет осуществлен последовательно. Сначала перейдем к пределу при п —► оо при фиксированном h, а затем - при h —► 0. Предложенное ниже доказательство хорошо отражает существо дела. Доказательство утверждения теоремы 3, в котором осуществляется одновременный предельный переход, не намного сложнее, но оно использует вариант закона больших чисел, который мы не рассматривали.
Положим У/ = 1[а;к,тк+А)№)- Как и Xi, величины У/ являются независимыми и одинаково распределенными. Математическое ожидание и дисперсия величины У имеют вид
Е(У) = Р(Х G [хк,®д + ft)),
О(У,) = Р(Х G [хь, зЛ + ft)) - Р2(Х € [х4, xh + »))<!.
Применяя закон больших чисел (теорема 1, § 16), получим, что при п —. оо
м») = ^ f> -* хВД) = хр(х е I1»'*»+А» ’ (=1
по вероятности. Далее, поскольку /(ж) непрерывна, а жд —* ж при h —► 0, имеем
lp(Xe[za,T» + h)) = l f fWi-M
Таким образом установлено, что по вероятности
Jim lim /п,а(*) = №• h-*On-*oo ’ ' '' '
Именно это мы и планировали доказать.
Замечание 5. Чтобы обеспечить выполнение условий теоремы 3, следует при построении эмпирической плотности распределения выбирать h в зависимости от п так, чтобы при больших п и малых h произведение nh тоже было большим, например, Л = 1Д/п*
В дальнейшем нам потребуется следующая характеристика функции распределения.
Определение 2. Квантилью порядка р функции распределения F(a?) называется такое число zP) для которого F^Zp) ^ р, a Hm^j^ F^ ^ р, если оно единственно, а если множество таких чисел составляет целый интервал, то полагаем zp - средняя точка интервала.
Для непрерывной строго возрастающей функции F(a?) при любом 0 < р < 1 квантиль zp единственна и F(zp) = р.
Квантиль порядка 1/2 функции распределения F^x) называют медианой распределения.
Для случайной величины с непрерывной строго возрастающей функцией распределения вероятность того, что величина примет значение меньше медианы равна вероятности того, что она примет значение больше медианы и равна 1/2.
Многие численные характеристики эмпирического распределения служат в качестве выборочных характеристик.
Определим выборочную квантиль порядка р, как квантиль порядкар для эмпирического распределения Fn(a;), т. е. определим ее равенством
( ^(["р]+1)>если пр - не целое число,
I 2^М) + ^М+1))> если ПР - Челое ЧИСЛО, где [а] - целая часть числа а.
Выборочная медиана - это медиана эмпирического распределения. Она равна величине Х(£+1), если п = 2к + 1 - нечетное, и ^Х^ + X(fc+i)), если п = 2к - четное.
В следующем параграфе речь пойдет о других выборочных характеристиках.
Задача 1. Вычислить выборочную квантиль порядка р = = 0.35 для реализации выборки из примера 2. Определить выборочную медиану.
Решение. В примере 2 z(1) = —3.6, я(2) = — 3.4, х(3) = —1.7, ®(<)= —1.3, Ж(8) = 0.2, Х(в) — 1.8,а?(7) = 2.1, а?(в) = 2.6, х^ = 4.1, х(10) = 5.2. Тал как п= 10, то [пр) = [3.5} = 3. Следовательно, г0 з5 = ж(4> = —1.3. Поскольку 10 - четное число, то выборочная медиана равна ^(т(5)+ж(в)) = |(0.2+1.8)=1.
§19. Оценки параметров
РАСПРЕДЕЛЕНИЯ. ВЫБОРОЧНЫЕ МОМЕНТЫ
Пусть X = (Х^Хз,..., Хп) - случайная выборка, отвечающая величине X с функцией распределения F(®). Пусть 9 - некоторый параметр, характеризующий распределение случайной величины Х^ например, 9 = Е(Х) - математическое ожидание, или 9 = D(X) - дисперсия, или 9 = E(Xfc) - момент порядка к. Пусть по случайной выборке X для параметра 9 построена некоторая оценка 7П(Х), которая является случайной величиной.
Определение 1. Оценка 7п(Х) называется состоятельной оценкой параметра 9, если 7П(Х) —► 9 по вероятности при п —» оо.
В этом определении, если говорить абсолютно строго, речь идет о состоятельной последовательности оценок, а термин “состоятельная оценка” служит сокращенным названием для этого понятия.
Определение 2. Оценка 7„(X) называется несмещенной оценкой праметра 9, если W) = 0.
Определение 3. Оценка 7„ (X) называется инвариантной относительно сдвига (безразличной к сдвигу), если для любой постоянной с
7п(^1 + с,Хг + с,... ,ХП + с) = 7п(Х1,Х2, ... ,ХП).
Рассмотрим конкретные оценки параметров распределения случайной величины X. Для того, чтобы в дальнейшем не усложнять формулировки теорем, мы сразу предположим, что выполняется следующее условие: если рассматривается оценка или момента порядка к центрального момента порядка к, то у случайной величины X конечен момент порядка ^к. Это условие нам потребуется для того, чтобы применять закон больших чисел (§16).
Выборочное среднее. В качестве оценки для математического ожидания т = Е(Х) используется оценка Хп = ~Х2”=1 ^Ь которая называется выборочным средним.
Замечание 1. Выборочное среднее является средним значением (математическим ожиданием) для эмпирической функции распределения.
В этом утверждении присутствует необычное наслоение, связанное с понятием случайный. Эмпирическая функция распределения сама зависит от случая, т. е. каждому значению случайной выборки отвечает своя реализация эмпирической функции распределения. Рассматривая эту реализацию как обычную функцию распределения, мы можем вычислить среднее той случайной величины, которая ей соответствует. Согласно замечанию 4 $ 18 эта величина принимает значения (если их упорядочить) Х^, к = 1,2,..., п, с равными вероятностями -. Среднее же этой дискретной случай
”1
ной величины по определению (см. § 12) равно £2=
_*=1 п
= Хп, т. е. равно выборочному среднему.
Теорема 1. Выборочное среднее Хп является несмегценной состоятельной оценкой математического ожидания Е(Х).
Доказательство. Несмещенность является следствием цепочки равенств
Е(Х„) = ХЕ*') = ^ЕВД) = 1 ^т = т.1=11=11=1
Состоятельность Хп следует из закона больших чисел (§ 16), согласно которому Хп —> m по вероятности.
Для выборочного среднего очевидно следующее равенство
Xn^Xi + с,..., Хп + с) =
п
= ^(Х1 + с) = с + Хо(Х1,Х2Х„),(19.1)
1=1
которое можно охарактеризовать как свойство аддитивности выборочного среднего.
Выборочная дисперсия. В качестве оценки для дисперсии D(X) используется оценка
1=1
которая называется выборочной дисперсией.
Выборочная дисперсия характеризует среднеквадратичное отклонение выборочных величин от выборочного среднего.
В определении выборочной дисперсии множитель - - взят вместо множителя - для того, чтобы добиться важного п
свойства несмещенности оценки S2.
Теорема 2. Выборочная дисперсия S^ является инвариантной относительно свдига несмегценной состоятельной оценкой дисперсии D(X).
Доказательство. Используя равенство (19.1), получим
^(Xi + с,..., Хп + с) =
= ^ £№ + с - ^„№ + сх„ + с))2 = 1=1
п
= ^т£№-^№,..,Ц)! = 5;№,...,х„). (19.2)
1=1
Это доказывает инвариантность оценки S2 относительно сдвига.
Проверим несмещенность. Пусть т = Е(Х,),а2 = D(X,). Положим Yi = Xi — т. Тогда Е(У,) = Е(Х,) — т = 0,D(Y/) = = D(X/) = а2. В силу инвариантности относительно сдвига S2(X) = ^(У). Далее имеем
^ = rh i>> - ?»)2 = ^ ^(У,2 - 2У,У„ + У2) =
1=11=1
1\' у2 2п ^2 п ^.2
-^ттд>у| -^ттк" + ^тгп- 1=1
= ^ЁЧ!-Г7^(19-3)
1=1
Используя третье свойство математического ожидания (§ 12) и равенства Е(У,) = 0, получим
Е(уь=xf»2=х£>2+з№)=1=1/=1Кз
= ^(Ёвд^+^вдт)) = ^EW = ^- 1=1Кз1=1
Теперь, применяя (19.3), найдем, что
E(S’(X)) = Е(5=(У)) =
= —УВД=) _ -Л-Е(^) =. d = „2.
П — 1' XI/ п _ 1 X п> п — 1 п — 1 п
1=1
Следовательно, S„(X) является несмещенной оценкой дисперсии случайной величины X.
Докажем состоятельность. Аналогично (19.3) имеем
(19-4)(19-4)
(19-4)
(19-4)
В силу состоятельности выборочного среднего Хп —► Е(Х) по вероятности. Поскольку квадраты независимых одинаково распределенных случайных величин являются независимыми одинаково распределенными величинами, то по закону больших чисел (§ 16) имеем
1£х,= ^е(х2)
1=1
по вероятности. Так как ^J —* 1» то из (19.4) следует, что
S^X^ - Е(Х2) - Е2(Х) = D(X)
по вероятности, а это и означает состоятельность оценки S£(X).
Замечание 2. Для различных вычислений часто бывает удобней пользоваться следующей формулой для выборочной дисперсии:
s'(X) = -1- Vх? - -2-х'.
1=1
Эта формула содержится в (19.4).
Выборочные моменты. Выборочным моментом порядка к, построенным.по выборке X, называется величина
1=1
Аналогично случаю с выборочным средним легко убедиться, что выборочный момент порядка к является моментом порядка к для эмпирической функции распределения.
(VX
Теорема 3. Выборочный момент Хп ' является несмещенной состоятельной оценкой момента mie.
Доказательство. Несмещенность следует из равенств
Е^’) = ^^хА = 1 £е(Х,‘) = Е(Х1) = ть.
1=11=1
Состоятельность непосредственно вытекает из закона больших чисел: при п —> оо
1=1 по вероятности.
Выборочным центральным моментом порядка к, к ^ 2, построенным по выборке X, называется величина
Теорема 4. Выборочный центральный момент 5„ является инвариантной относительно сдвига состоятельной оценкой центрального момента рц-.
Доказательство. Инвариантность относительно сдвига оценки ^\х) устанавливается точно так же, как инвариантность оценки S2(X) (см. доказательство теоремы 2). Для доказательства состоятельности воспользуемся равенством
1Ь-1 ak - bk = (а - 6) 52 ambh-x-m. m=0
В силу этого равенства
1=11=1
п k — 1
= (Х„ -Е(Х))1 £ $2(Х, - Х„Г(Х, - ЕДО)»-1— =
1=1 т=0
к—1 п
= (Х„ - Е(Х)) £ |Е№ - Х„Г(Х, - EW)1-1-”.
т=0 п 1=1(19.5)
Применяя оценки (12.1), (12.2) и свойства 1), 2) математического ожвдания (§ 12), получим
е(|£(х. -Х„Г(Х! -е(%))‘-1-"|) <
5 fxiw - х-№ -е(х))‘-‘-"|) 5 1=1
^ п тм {(вд - Xn^y^^Xt - E(X))2fc-2-2m)1/2}.
В силу состоятельности выборочного среднего Хп— Е(Х) —>0 по вероятности. С помощью прямых вычислений можно проверить, что математические ожидания квадратов случайных величин (X/—Xn)m и (X/ — E(X))fc-1-m конечны и не зависят
от /. Таким образом, в правой части (19.5) стоит величина, равная произведению величины, стремящейся по вероятности к нулю, на величину, абсолютный момент которой равномерно ограничен по п. Можно доказать, что произведение таких величин стремится к нулю по вероятности. Тогда из (19.5) следует, что для того, чтобы доказать состоятельность выборочного центрального момента 5П , достаточно убедиться, что
1 £(Х, - Е(Х))‘ Е(Х - Е(Х))‘ 1=1
по вероятности. Этот факт следует из закона больших чисел, так как величины (X/ — E(X))fc являются независимыми и одинаково распределенными.
Выборочный коэффициент корреляции. В §18 дано определение случайной выборки объема п, отвечающей одной случайной величине. Аналогичное понятие можно ввести для двух и более случайных величин.
Определение 4. Случайной выборкой объема п, отвечающей паре случайных величин (X, У), называется набор п независимых одинаково распределенных пар случайных величин (Xi, У1), (Хг, Уг),..., (Хп, Уп), каждая из которых имеет такое же совместное распределение, как и пара величин (X, У).
Оценкой для соу(Х,У), построенной по выборке (Х,У) = = ((Х1,У1),..., (ХП,УП)), служит выборочная ковариация, определяемая по формуле
С„(Х,У) = -А^Х, -Х„)(У, -У„).(19.6)
1=1
В качестве оценки для коэффициента корреляции г(Х,У) используется выборочный коэффициент корреляции, определяемый по формуле
Я„(Х,У) =Я„(Х,У) =p.syx £№-*»)«-у»)
Я„(Х,У) =
Я„(Х,У) =
V^As^ Jz(Xi-Xny ^(Yt-УпУ
Для выборочной ковариации и для выборочного коэффициента корреляции несложно получить следующие выражения:
Сп(Х.У) = -^^Х^ - (-^-)Х„У„,(19.7)
1=1
£ XtYt - XnYn
Rn(X, У) = —==2^^^(19.8)
Теорема 5. Выборочная ковариация Сп(Х,У) является инвариантной относительно сдвига несмещенной состоятельной оценкой ковариации cov(X, У).
Доказательство. Используя формулу (19.6) и выкладки, аналогичные (19.1), (19.2), несложно проверить, что для любых ci,C2 справедливо равенство
С„(Х + с1,У + с2) = С„(Х,У),
где ci = (ci,ci,..., ci), с2 = (с2, с2,...,сг) — n-мерные вектора с одинаковыми компонентами. Это равенство и означает, что выборочная ковариация СП(Х,У) инвариантна относительно сдвига.
Докажем несмещенность оценки (19.7). В силу инвариантности относительно сдвига можно считать, что Xi и У/ имеют нулевые средние (ЕХ/ = ЕУ, = 0), иначе из этих величин можно вычесть математические ожидания, не изменив оценку. При нулевых средних
п
Е(Х„У„) = ^ Х^ВД) = ^Е(ХУ).
1=1
Теперь несложно убедиться в несмещенности оценки:
ЕС„(Х,У) = -Lf^X.y,)- (^)Е(Х„У„) =1=1
= ^Е(ХУ) - ^ЕСХУ) = Е(ХУ) = соу(Х,У).
Последнее равенство верно, поскольку мы предположили, что величины X и Y имеют нулевые средние.
Для доказательства состоятельности воспользуемся формулой (19.7). Поскольку двумерные величины (Х/,У/) являются независимыми и одинаково распределенными, то произведения их координат X{Yi будут независимыми одинаково распределенными величинами. Применим закон больших чисел (§16), согласно которому
/=1
по вероятности. Так как выборочное среднее является состоятельной оценкой, то имеем Хп —* Е(Х), Yn —* Е(У) по вероятности. Используя эти предельные соотношения в формуле (19.7), получим, что
п
С„(Х,¥) = -Л_(1£х,у, _Х„У„) —* Е(ХУ) — Е(Х)Е(У) /=1
по вероятности. Правая часть этого соотношения равна cov(X, У). Следовательно, СП(Х,У) является состоятельной оценкой ковариации.
Теорема6. Выборочный коэффициент корреляции Rn{X,Y} является инвариантной относительно сдвига состоятельной оценкой коэффициента корреляции r(X,Y\
Доказательство. Поскольку выборочный коэффициент корреляции равен отношению выборочной ковариации к корню из произведения выборочных дисперсий, то инвариантность относительно сдвига и состоятельность этой оценки следует из аналогичных свойств выборочной ковариации и выборочных дисперсий.
Задача 1. При обработке данных 15 испытаний спортивного самолета были получены следующие значения его максимальной скорости: 422.2; 418.7; 425.6; 420.3; 425.8; 423.1; 431.5; 428.2; 438.3; 434.0; 411.3; 417.2; 413.5; 441.3; 420.0 м/сек. Определить несмещенные оценки математического ожидания и дисперсии максимальной скорости самолета.
Решение. Для того чтобы упростить вычисления воспользуемся свойством инвариантности относительно сдвига для выборочной дисперсии, а для выборочного среднего используем равенство (19.1). Тогда вместо исходной реализации выборки можно рассмотреть, например, реализацию ж: 2.2; -1.3; 5.6; 0.3; 5.8; 3.1; 11.5; 8.2; 18.3; 14.0; —8.7;—2.8;—6.5; 21.3; 0.0, которая отличается от исходной на значение с = 420. Выборочное среднее этой реализа- 1 15
ции равно «is = — 52 ^ = 4.73. Для вычисления выбо- 15 /=1
рочной дисперсии воспользуемся равенством (19.4). Имеем ^ = яй^-п^1»)2 = П-1391.08-^(4.73)2 * 75.392. Следовательно, оценка математического ожидания максимальной скорости спортивного самолета равна 424.73 м/сек. Несмещенная оценка дисперсии приблизительно равна 75.392 м2/сек2.
Задачи
Задача 19.1. Произведено 16 измерений начальной скорости снаряда. Результаты измерений (в м/с) следующие: 1235.6; 1237.5; 1232.9; 1236.2; 1238.5; 1234.2; 1235.9; 1233.3; 1234.5; 1236.8; 1237.6; 1233.1; 1234.3; 1237.5; 1235.4; 1234.7. Вычислить оценки математического ожидания и дисперсии начальной скорости снаряда.
Задача 19.2. На телефонной станции производились наблюдения за числом неправильных соединений в минуту. Наблюдения в течение часа дали следующие результаты:
з,
1, з,
4,
2,
1,
1,
3,
2,
7,
2,
0,
1,
2,
1,
2,
4, 0,
з,
0,
2,
0,
1,
3,
з,
1,
2,
0,
з,
4,
2,
0, 2,
1,
4,
з,
4,
2,
0,
2,
з,
1,
1,
2,
2,
з,
1, 4,
2,
2,
1,
2,
5,
1,
1,
0,
1,
1,
1,
5.
Оценить среднее и дисперсию числа неправильных соединений.
Задача 19.3. Сырье, поступающее на завод из карьер^,, содержит два полезных компонента - минералы Л и В. Результаты анализов десяти образцов сырья, поступившего в разное время из разных мест карьера, приведены в таблице,
где х и у - выборочные значения случайных величин X и У, выражающих соответственно процентное содержание минералов А и В в образцах.
х6754726439 2258434634
у2415231916 И20161713
Оценить коэффициент корреляции величин X и Y.
§20. Асимптотические свойства выборочных моментов
Пусть 0 - некоторый параметр распределения случайной величины X, значение которого нам неизвестно, и 7П(^) = = 7n(Ai,X2,... ,ХП) - оценка параметра 0, построенная по выборке X. Хорошая оценка, естественно, должна быть состоятельной, т. е. 7п(Х) должно сходиться к 0 при неограниченном возрастании п. В этом случае разность 7п(Х) — 0 стремится к нулю. Естественно ожидать, что, домножив ее на некоторый возрастающий множитель, можно получить в пределе случайную величину, неравную постоянной. Оказывается, и это является следствием центральной предельной теоремы, что для большинства оценок таким множителем является >Д.
Определение 1. Оценка 7„(X) называется асимптотически нормальной с дисперсией Д2, если функция распределения случайной величины ^(7п(-Х) —0) сходится при п —> оо к функции распределения стандартного нормального закона.
Исследуем условия асимптотической нормальности конкретных оценок. Как и в предыдущем параграфе мы предположим, что если рассматривается оценка момента порядка к или центрального момента порядка к, то у случайной величины X конечен момент порядка 2к.
Выборочное среднее.
Теорема 1. Виборочное среднее Хп асимптотически нормально с дисперсией Д2 = D(X).
Доказательство. Воспользуемся центральной предельной теоремой (§ 17). Обозначим т = Е(Х,), Д2 = D(X/), Sn = 52”=i-^ь Величина Хп служит оценкой для ш, и
нам нужно убедиться в том, что нормированная разность ^(Хп — т) распределена в пределе по нормальному закону со средним 0 и дисперсией 1. Имеем
п
— т) = -^I - > Л г — т = — —и .
Д v n ' A \n */ AVn
1=1
Поскольку величины Xi независимы и одинаково распределены со средним т и дисперсией Д2, то, согласно центральной предельной теореме, распределение величины Zn = = д^(^п — mn) сходится при п —► оо к стандартному нормальному распределению, что и требовалось доказать.
Выборочный момент порядка к. Выборочный момент Х^ = ~52”=1 ^1 является оценкой для тк = Е(Х*).
Теорема 2. Выборочный момент Хп асимптотически нормален с дисперсией Д2 = ты — т^.
Доказательство. Применим центральную предельную теорему для величин У/ = Xf. Тогда Sn = HLi ^i и Е(У,) = Е(^) = mt, П(У,) = Е(У,2) - Е2(У,) = Е(Х,2‘)- —Е2(Х|‘) = m2t — m| = А2. Имеем
n
Величины У/ независимы, поскольку независимыми являются величины Xj, и одинаково распределены со средним тк и дисперсией Д2 = m2k — т2. Согласно центральной предельной теореме распределение величины Zn = д^С^п - ^к^ сходится при п —> оо к стандартному нормальному распределению.
Выборочная дисперсия. Пусть /it = Е(Х - зпа^ - к-й центральный момент случайной величины X со средним т. Заметим, что /12 = сг2 = В(Х), т. е. второй центральный момент совпадает с дисперсией. Выборочная дисперсия S2 является оценкой для дисперсии <т2.
Теорема 3. Выборочная дисперсия S„ асимптотически нормальна с дисперсией А2 = //4 — р^.
Доказательство. Имеет место следующее представление
VRs= -^ = VS^ Dx. - х„)2 - а2) =1=1
1=1
Множитель n/(n — 1) на предельное поведение не влияет, поскольку п/(п — 1) —* 1. Далее, так как Хп —► m со скоростью 1/у/п в том смысле, что среднеквадратичное отклонение имеет порядок 1/п (см. (16.5)), то можно доказать, что предельное поведение нормированной суммы в правой части не изменится, если в ней слагаемые заменить на У, = (X/ — т)2 — <г2. Это доказательство довольно громоздкое и мы его опускаем. Таким образом, предельное поведение нормированной разности Vn^S^ — О’2) совпадает с предельным поведением величины
^ = ^Ly<-
v 1=1
Случайные величины Yj независимы, одинаково распределены и
Е(У,) = Е(Х/ - т)2 - а2 = О,
П(У,) = D((X/ - т)2) = Е(Х, - т)4 - Е2(Х, - т)2 = р4 - pV
По центральной предельной теореме распределение величины Znl\lp4 — Р2 сходится при п —* оо к стандартному нормальному распределению. Аналогичным будет и предельное поведение распределения величины Vn^S*^ — <г^1\/р4 — р^. Это и требовалось доказать.
В следующем параграфе свойство асимптотической нормальности будет использовано при построении граничных значений для оцениваемого параметра.
. Доверительные интервалы
При решении некоторых практических задач вместо оценки неизвестного параметра распределения случайной величины важнее знать границы, в которых этот параметр находится. Границы интервала, содержащего неизвестный параметр, строятся по выборке. При небольшом объеме выборки, как правило, не удается указать верхнюю и нижнюю границы, достаточно близкие к параметру с большой вероятностью. Чем больше компонент в выборке, тем более точные границы с более близкой к единице вероятностью можно построить. Пусть 9 - неизвестный параметр распределения случайной величины X, и X = (Xi,X2,...,Хп) - случайная выборка, отвечающая величине X. Пусть а - некоторое число между нулем и единицей, а 0(Х),0(Х) - две функции от случайной выборки X такие, что 0(Х) ^ ^(Х).
Определение 1. Интервал (£(Х),0(Х)) называется доверительным интервалом для оценки параметра 9, отвечающим доверительной вероятности а, если
Р(0(Х) < 9 < 0(Х)) ^ а.
Величина 0(Х) называется нижней доверительной границей, а 0(Х) - верхней доверительной границей для параметра 9.
Иными словами, доверительным называется такой интервал, который с наперед заданной вероятностью содержит оцениваемый параметр. Границы 0(Х) и 0(Х) кроме наблюдений X будут зависеть от а и от числа наблюдений п.
Рассмотрим методы построения доверительных интервалов для конкретных параметров.
Доверительные интервалы для неизвестного математического ожидания т = Е(Х) при известной дисперсии а2 = D(X).
Согласно свойству асимптотической нормальности выборочного среднего Хп имеем
р(^№, - m) < z) # N(z\
Тогда для любого г > О
Р^-г < Т^Х" - m) < z) to N^ - KI-z\
Очевидно, что неравенства
—г < ~(ХП — m) < z
эквивалентны неравенствам
уг° // Y I Za
•А п—7= < П1 < Л п п "F"1
Поэтому, используя формулу N^ = ^ + ^Ф(я), выражающую функцию распределения стандартного нормального закона через функцию Лапласа Ф(х) = —р Je~v «^dv, получим v ^ о
р(х„ - ^ < m < Х„ + ^) » 1(Ф(г) - Ф(-г)) = Ф(г).
В последнем равенстве мы использовали нечетность функции Лапласа Ф(х). Для значений функции Лапласа и ее квантилей существуют таблицы. Поэтому, если в качестве z взять za - квантиль порядка а функции Ф(я), то окончательно будем иметь
Pfc -< m < Xn + to Ф(га) = а. (21.1)
■ Сравнивая это с определением доверительного интервала, мы видим, что случайный интервал (х„ — —•, Хп + является доверительным интервалом для математического ожидания т с доверительной вероятностью приблизительно равной а. Для того, чтобы приближенные равенства были более точными, необходимо, чтобы п было велико. Таблица значений функции Лапласа позволяет по заданной величине а найти значение za. Выборочное среднее Хп =
вычисляется по наблюдениям выборки X, а - известно, п
- известно, поэтому полностью определен и доверительный интервал, указанный выше.
Доверительные интервалы для неизвестного математического ожидания Е(Х) при неизвестной дисперсии D(X).
Можно поступить аналогично предыдущему случаю, когда дисперсия о*2 была известна. Однако, поскольку теперь она неизвестна, то ее следует предварительно оценить. В качестве оценки для а2 возьмем выборочную дисперсию
с2 _с2 _
с2 _
с2 _
Поскольку S2 —* а2 при п —♦ оо по вероятности, то можно доказать, что если в приближенном равенстве (21.1) вместо <у использовать x/S^, то мы получим аналогичное приближенное равенство
р(хп -< m < Х„ + to а.
Таким образом, случайный интервал
(21.2)(21.2)
(21.2)
(21.2)
где za - квантиль порядка а функции Ф(ж), является доверительным интервалом для математического ожидания при неизвестной дисперсии с доверительной вероятностью приблизительно равной а.
Пусть можно считать, что исходная случайная величина X, математическое ожидание которой мы оцениваем, распределена по нормальному закону с неизвестной дисперсией. Тогда можно построить доверительный интервал для m с доверительной вероятностью, точно равной а. Кроме того, при таком предположении, если оно справедливо, число наблюдений может быть небольшим потому, что при построении доверительного интервала не будут использоваться асимптотические формулы.
Для случайной выборки X, отвечающей нормально распределенной случайной величине, положим
^п-1(®)^п-1(®)= Р= Р— т) < ® L— т) < ® Lх Е (—оо, оо).х Е (—оо, оо).
^п-1(®)
^п-1(®)
= Р
= Р
— т) < ® L
— т) < ® L
х Е (—оо, оо).
х Е (—оо, оо).
Распределение 5* (а?) - так называемое распределение Стьюдента с к степенями свободы, для которого есть таблицы. Плотность этого распределения задается выражением
Sk(x) =Sk(x) =Г((А + 1)/2) х/тгАГ(А:/2)Г((А + 1)/2) х/тгАГ(А:/2)-(к+1)/2-(к+1)/2х Е (—оо, оо).х Е (—оо, оо).
Sk(x) =
Sk(x) =
Г((А + 1)/2) х/тгАГ(А:/2)
Г((А + 1)/2) х/тгАГ(А:/2)
-(к+1)/2
-(к+1)/2
х Е (—оо, оо).
х Е (—оо, оо).
Поскольку Sk(-x') = 1 — Sk^x), то для любого Z > О
P(-Z < "^(^п - т) < 2
— Sn —1(г) 5п-1( ^) — 2^п —1(^) 1,
и, следовательно,
р(х„ - ^ < m < Х„ + ^) = 2Sn-!(z) - 1.
Существуют таблицы, с помощью которых по значениям а и п — 1 можно определить такое число Zq^-i, что 25n-i(^a,n-i) — 1 = а. Величина za>k является квантилью порядка (1 + а)/2 распределения Стьюдента с к степенями свободы, поскольку Sk(za>k) = (1 + а)/2.
Таким образом, случайный интервал
(21.3)(21.3)
(21.3)
(21.3)
является доверительным интервалом с доверительной вероятностью равной а для математического ожидания m нормально распределенной случайной величины при неизвестной дисперсии.
Доверительные интервалы для неизвестной дисперсии при неизвестных других параметрах.
В силу свойства асимптотической нормальности выборочной дисперсии имеем
Вместо неизвестных параметров ^4 и р.^ возьмем их оценки
/=1/=1
/=1
/=1
Тогда в силу состоятельности этих оценок выполняется приближенное равенство
р/уВД-*2)р/уВД-*2)to N^yto N^y
р/уВД-*2)
р/уВД-*2)
to N^y
to N^y
Отсюда, как и в пункте 1, получим, что
to $(za) = СК,to $(za) = СК,
to $(za) = СК,
to $(za) = СК,
где za - квантиль порядка а функции Лапласа Ф(я).
Следовательно, в качестве доверительного интервала для дисперсии сг2 можно использовать
(^ - WiT^V. S2 + ^V^’-^)2) • (21л)
Задача 1. Пусть наблюдается следующая реализация вы
борки, состоящей из 40 компонент:
-1.80
-2.01
-1.63
0.54
0.25
-0.16
0.03
0.07
-1.18
1.18
1.11
0.88
1.09
-0.20
0.15
-0.37
0.65
-1.14
1.15
-1.21
-0.92
0.42
0.29
-0.90
-0.43
0.35
-1.93
0.89
-0.22
0.60
0.87
-0.43
-1.39
-0.23
0.38
-0.64
-0.57
0.23
-0.28
0.51
Вычислить выборочное среднее и выборочную дисперсию. Построить доверительный интервал для математического ожидания с доверительной вероятностью приблизительно равной 0.9.
Решение. Используя формулы
получим следующие численные значения выборочного среднего и выборочной дисперсии: ж40 = ^ • (—6.00) = —0.15; $’ = ^ • 31.1328 - • 0.0225 = • (31.1328 - 0.9) to 0.80 (для обозначения реализаций используются соответствующие строчные буквы).
Так как дисперсия неизвестна, то мы используем следующую формулу для доверительного интервала, основанную на реализации случайной выборки:
^п —^п —Лп +Лп +^ Г^ Г
^п —
^п —
Лп +
Лп +
^ Г
^ Г
где za - квантиль порядка а = 0.9 функции Лапласа Ф(ж). Из таблиц для функции Лапласа можно найти, что zo.g to 1.684. Тогда
1.684 /т-г to —=V0.8 2VI61.684 /т-г to —=V0.8 2VI60.24,0.24,х„ ± ^V^ * -015 ± 0.24.х„ ± ^V^ * -015 ± 0.24.
1.684 /т-г to —=V0.8 2VI6
1.684 /т-г to —=V0.8 2VI6
0.24,
0.24,
х„ ± ^V^ * -015 ± 0.24.
х„ ± ^V^ * -015 ± 0.24.
Следовательно, доверительный интервал для математического ожидания имеет вид (—0.39,0.09). Таким образом, для данной выборки наблюдений с вероятностью приблизительно равной 0.9 математическое ожидание m удовлетворяет неравенству —0.39 <т < 0.09.
Задачи
Задача 21.1. По результатам измерений, приведенных в задаче 19.1, требуется: а) вычислить доверительный интервал для математического ожидания начальной скорости с доверительной вероятностью 0.9; б) вычислить доверительный интервал для дисперсии с доверительной вероятностью 0.92.
Задача 21.2. Произведено пять независимых измерений для определения заряда электрона. Получены следующие значения (в кулонах): 1.594 • 10-19,1.597 • 10-19,1.596 • 10-19,1.593 • 10“19,1.590 • 10~19. Предполагая, что ошибки измерения распределены по нормальному закону, оценить величину заряда электрона и найти для нее доверительные границы при доверительной вероятности 0.99.
. Неравенство Рао-Крамера
Меру качества оценки можно выбирать по-разному. Наиболее часто используемой мерой качества служит среднеквадратичное отклонение оценки от оцениваемого параметра. Чем меньше величина среднеквадратичного отклонения Е(Т„(Х) - 6)2, тем оценка 7п(Х) параметра 9 лучше. При определенных условиях существует нижняя граница для величины среднеквадратичного отклонения, которую улучшить нельзя. Вычислим эту границу.
Пусть случайная величина X имеет плотность распределения fg(x),x Е (—оо,оо), которая является дифференцируемой по 9. Поскольку величины Xi, Хг, ...,Хп независимы, то согласно формуле (И.З) совместная плотность распределения случайного вектора X = (Xi,Х2,...,Х„) имеет вид
М®) = Л(®1)Л(«г) •. ./»(»п).(22.1)
Предположим, что оценка 7п(Х) является несмещенной. По определению это означает, что
ОО ОО
Е(Тп(х))= [[ 1п^м^аг=9.
— ОО —ОО
Продифференцировав это равенство по 9, получим
ОО ОООО ОО
= ^ j- J yn(x)fe(x)dx = J ' J In^—fe^dS^ —00 —00—00 —00
0000
-00-00-00-00= j •■• j 7n(f)^(h>M^f«(5)df = E(7„(X)^In/,(%)).
-00
-00
-00
-00
(22.2)
В силу первого свойства совместной плотности распределения (§ 11)
ОО ОО
feW®=l.(22.3)
-ОО -ОО-ОО -ОО= Е(^1пЛ(Х)).(22.4)= Е(^1пЛ(Х)).(22.4)Продифференцировав по 9 это равенство, получим
-ОО -ОО
-ОО -ОО
= Е(^1пЛ(Х)).(22.4)
= Е(^1пЛ(Х)).(22.4)
Домножая это равенство на 0 и вычитая результат из (22.2), будем иметь
Е((?»(^)-«)^ In/»(%)) = 1.
Воспользуемся четвертым свойством математического ожидания и неравенством Гельдера (12.2). Тогда
1 = Е((Т„(^) - в) А]ПЛ(^)) ^ е|(7„(Х) - «)^1пЛ(^)| < < (е(т«(^) - «Н^СД 1п/<,(Х))2)1/2.
Возведя левую и правую части этого неравенства в квадрат, получим неравенство Рао-Крамера
Е(7„(Х)-»)2^~,(22.5)
где
^OT = E(^ln/,(J?))2 = j .. j (^1п/,(г))2M^dx.— ОО -ОО
Величина Л(0) называется информационным количеством Фишера относительно параметра 9, содержащимся в п наблюдениях Х1, Хг, ..., Хп.
Согласно неравенству Рао-Крамера среднеквадратичное отклонение оценки от оцениваемого параметра не может быть меньше величины, обратной к информационному количеству Фишера.
Определение 1. Оценка yn(X) параметра 6, для которой выполняется равенство
вЫх)-е)2 = -^.
называется эффективной оценкой.
Пусть функция /е(а?) дважды непрерывно дифференцируема по 0. В этом случае можно получить следующее выражение для информационного количества Фишера
/»(») =-Е(^Ь/#(Х)),(22.6)
которое часто является более удобным для вычислений. Оно следует из цепочки равенств
Е(^ In Л(Х)) = еГ^^^ - е( “^)2 =
ОО ОО
= / / йгМ^-Ефп/,^))2 = — ОО —ОО
ОО ОО
=/ • J foW*-UW = -!«№,
— ОО —ОО
где для получения последнего равенства использовано соотношение (22.3).
Величина 7П(#) возрастает с ростом п. Выразим информационное количество Фишера, содержащееся в п наблюдениях, через информационное количество Фишера, содержащееся в одном наблюдении, т. е. через величину
ОО
A№=E(^ln/,(X!))2 = j (^1п/6(х))2/,(х)^.
-ОО
Для функции /»(я) дважды непрерывно дифференцируемой по 0, используя (22.1), (22.6) и свойство, что логарифм от произведения величин равен сумме логарифмов, получим
W = -е(^Ё1"/»№)) = -Ёе(^1п/,№)) =
k=lfc=l
= -пЕ(^1пЛ(Х1)) = ^1(«)-
В случае, когда функция fe(x) не имеет второй производной по 0, аналогичное равенство получается следующим образом:
'-№= Е(£ £>/•№))’ = Е(Ё 5 ^М’ =
Jb = lJb=l
nп к — 1
= 1>Фп/»(^)2+2£5>(фп/»№))фп/^^^
*=1к=1 1=1
Величины Хк, к = 1,2,..., п независимы и одинаково распределены. Воспользуемся третьим свойством математического ожидания (§12) и равенством (22.4) для n = 1. В результате получим
п к — 1
/„(б^пШ + г^^Е^п/.^Е^п/,^ к=1 1=1
Таким образом, информационное количество Фишера, содержащееся в п наблюдениях, равно информационному количеству Фишера, содержащемуся в одном наблюдении, до- множенному на число наблюдений п.
С учетом этого неравенству Рао-Крамера можно придать следующий вид:
Е(7„(Х)-8)^^.(22.7)
Оценка 7П(Х) будет эффективной, если
Эффективные оценки можно построить лишь в редких случаях. Чаще бывает так, что оценка лишь с ростом п приближается к неулучшаемой.
Определение 2. Оценка yn(X) называется асимптотически эффективной оценкой параметра 0, если
„ЕЬ^)-^2^^.(22.8)
Замечание 1. В § 20 мы рассматривали асимптотически нормальные оценки с дисперсией Д2. Если Д2 = /f1^), то асимптотически нормальная оценка будет и асимптотически эффективной.
Действительно, согласно определению асимптотической нормальности, функция распределения величины V^T^O^nC^) ~ ^) сходится при п —♦ оо к функции распределения стандартного нормального закона, который имеет дисперсию 1. Если, например, у оценки существует абсолютный момент порядка больше, чем два, то сходимость распределений влечет и сходимость дисперсий, т. е.
D(v^AW(7„(^) - »))1-(22.9)
Поскольку оценка 7п(Х) предполагается несмещенной, то
D(v^(6i)(7n(X) - 8)) = n/,(»)E(7„(^) - #)2.
С учетом этого равенства соотношение (22.9) эквивалентно (22.8).
Пример 1. Пусть выборка Х1,Хг,... ,ХП отвечает нормальному распределению с плотностью
ЛИ = ‘ еЧ—№-2,
уЗтгст
где математическое ожидание 0 является неизвестным параметром, а дисперсия D(Xi) = ц2 известна. Тогда
ш = Е( * (1п ’ _ <^))2 = е(<^) = V
х ’\d0\ V^o 2а2//\ а4 / а2
Среднеквадратичное отклонение выборочного среднего Хп от среднего 9 вычислялось при доказательстве закона больших чисел. Согласно (16.5)
Е(ХП - 9^ = ^^ =Е(ХП - 9^ = ^^ =n nZi(5)n nZi(5)
Е(ХП - 9^ = ^^ =
Е(ХП - 9^ = ^^ =
n nZi(5)
n nZi(5)
Таким образом, выборочное среднее для выборки, отвечающей нормальному распределению с известной дисперсией, является эффективной оценкой для математического ожидания.
Это один из тех редких примеров, когда можно явно указать эффективную оценку параметра. Другой пример связан с показательным распределением.
Пример 2. Пусть выборка Х^Х^.. ..>Хп отвечает показательному распределению с параметром У-1,9 > 0, т. е. распределенную с плотностью
М®) =М®) =-е-х^ 6’О,-е-х^ 6’О,при ж ^ О, при х < 0.при ж ^ О, при х < 0.
М®) =
М®) =
-е-х^ 6’
О,
-е-х^ 6’
О,
при ж ^ О, при х < 0.
при ж ^ О, при х < 0.
Тогда, принимая во внимание следующие выражения для математического ожидания и дисперсии (5 14, п. 2) E(Xi) = = 9, D(Xi) = В2, получим
ад = -Е(^(ММ = "Е(&(4 - т)) =
_\ 1_ 2 X — * _ 1
\62 да )02 ' 03^кли - 02 - D(X1)‘
В этом примере информационное количество Фишера зависит от параметра 9 и не является постоянным, как это было в примере 1, однако тоже является обратно пропорциональным дисперсии. Отсюда, как показано в примере 1, следует, что выборочное среднее Хп является эффективной оценкой параметра 9.
Проверка статистических гипотез
Предположим, что функция распределения случайной величины X нам неизвестна, но мы располагаем случайной выборкой X = (Xi,Хг, X„Y По наблюдениям выборки X мы хотим дать ответ на вопрос: совпадает функция распределения F^ с некоторой наперед заданной функцией распределения Fq^ или нет. При такой постановке задачи говорят, что речь идет о проверке статистической гипотезы согласия.
Используя наблюдения выборки X, нужно либо принять гипотезу о том, что функция распределения F(x^ совпадает с заданной функцией распределения Fo(z), либо ее отвергнуть. Правило принятия одного из этих двух решений называется статистическим критерием или просто критерием. В качестве функции Fo(z) обычно выбирается одно из известных распределений, например, нормальное, равномерное или показательное распределение с известными параметрами. Рассмотрим две конкретные задачи. Методы решения этих задач предложены А. Н. Колмогоровым и К. Пирсоном.
Критерий согласия Колмогорова.
Рассматривается гипотеза о том, что функция распределения F^ совпадает с непрерывной функцией распределения Fq^xY Обозначим эту гипотезу символом Яо. Символом Я1 обозначим противоположную гипотезу о том, что F(x) ф F&^x) хотя бы при одном значении х. Проверка гипотезы о распределении состоит в том, чтобы по наблюдениям выборки Xi,X2,...,Xn сделать вывод, что функция распределения F^ совпадает с Fq^xY т. е. справедлива гипотеза Яо, или заключить, что F(z) не совпадает с Fq^xY т. е. справедлива гипотеза Я1. Поскольку наблюдения случайны, то абсолютно достоверно такие утверждения сделать нельзя. При любом естественном подходе есть положительные вероятности того, что мы примем гипотезу Яо, когда она на самом деле не верна, или, что мы примем гипотезу Я1, когда она не является верной. Пусть а - некоторое наперед заданное малое положительное число. Мы хотим указать такое правило (критерий), которое бы по наблюдениям выборки Xi,X2,...,Xn отвергало гипотезу Яо при условии, что она
на самом деле верна, с вероятностью а или близкой к а для больших п. При этом правило следует выбирать таким, чтобы вероятность принять гипотезу Яо при условии, что верна гипотеза Я1, была бы как можно меньшей.
Определение 1. Вероятность а отвергнуть гипотезу Яо при условии, что она верна, называется вероятностью ошибки первого рода.
Вероятность ошибки первого рода также называют уровнем значимости критерия.
Определение 2. Вероятность принять гипотезу Яо, при условии, что верна гипотеза Я1, называется вероятностью ошибки второго рода.
Вероятность ошибки второго рода будем обозначать р. Посольку при фиксированном объеме выборки вероятности этих ошибок одновременно сделать достаточно малыми нельзя, то а задают заранее, а Р при уже выбранном а стараются сделать как можно меньше.
Пусть Fn^ - эмпирическая функция распределения, построенная по выборке X, т. е. Fn^x) = - X^”=i I(-oo,r)(X|). Положим
Dn(X) = Tn max |Fn(z) - F0(s)j.r€(—00,00)
Поскольку Fn(x) при больших n является хорошей оценкой F^x) - истинной функции распределения случайной величины X, то функция ОП(Х) является мерой различия между истинной функцией распределения F^x) и предполагаемой Fq^x). Функция Dn(X) называется статистикой Колмогорова. Согласно теореме Колмогорова (§18), если F(x) = Fq^x), т. е. при условии, что верна гипотеза Яо, справедливо
Р(О„(^) < г) « К(г),
где IC(z) - функция распределения Колмогорова. Для функции IG^z) есть таблицы и по заданному малому числу а можно выбрать zy-q так, чтобы IC^zi_a) = 1 — а (zi_a является квантилью порядка 1 — а функции распределения £(z)).
Определим следующее правило, которое называется критерием согласия Колмогорова: если Dn(X) < zi-a, то принимаем гипотезу Яо, т. е. считаем, что F = Fq, а если
Dn^X^ ^ zi-», то принимаем гипотезу Я1, т. е. считаем, что F ^ Fq. При таком правиле вероятность отвергнуть гипотезу Яо, при условии, что она верна, есть P(Z?n(X) zi-a), и согласно теореме Колмогорова
Р(РП(Х) ^ л-») = 1 - Р(Р„(Х) < л-») « 1 - /С(^_а) = а.
Таким образом, первое требование выполнено: вероятность ошибки первого рода для данного правила при больших п приблизительно равна а. Предположим теперь, что F ^ Fq, т. е. верна гипотеза Я1. Тогда в силу того, что Fn(«) —* F(x) равномерно по х Е (—оо,оо) (теорема 1 § 18), имеем
max |Fn(z) - Я0(я)1 “♦ zmax х lFW - ^о(«)| > 0.
Гб(-ОО,ОО)П—ЮО г€(-оо,оо)
Поэтому Dn(X^ —* оо, и, следовательно, для любой константы с
Р(РП(Х) < с) -> 0.
Возьмем в качестве с величину zi-a- Тогда имеем
^PCDnCY^^-aJ^O.
При F / Fq, величина /3 равна вероятности принять гипотезу Яо при условии, что верна гипотеза Hi, т. е. ^ - вероятность ошибки второго рода. При больших п величина Р становится все меньше и меньше. Тем самым выполнено и второе требование о том, что величина $ должна быть как можно меньшей при выбранном а.
Перейдем к изложению другого подхода, при котором по- иному ставится и решается вопрос о равенстве функций распределения. Пусть нас интересует не вся функция распределения, а лишь ее приращения на некоторых выделенных интервалах. При этом вопрос о совпадении функции распределения с наперед заданной функцией заменяется, естественно, на вопрос о совпадении приращений функции распределения с соответствующими приращениями заранее выделенной функции. Заметим, что для дискретных распределений в качестве выделенных интервалов можно взять интервалы постоянства функции распределения. Тогда приращения функции распределения на них полностью характеризуют закон
распределения. В этом случае задача становится аналогичной предыдущей, однако метод решения будет принципиально отличным.
Критерий согласия Пирсона(хи-квадрат критерий).
Предположим, что вещественная прямая разбита на г не- пересекающихся интервалов Д/,/ = 1,2,..., г, т. е. (J/=i △/ = = (—оо,оо), Д,- П Ду = 0. Нас интересует не вся функция распределения F^ случайной величины X, а только набор вероятностей р/ = Р(Х Е Д/), I = 1,2,..., г. Задача состоит в следующем. Пусть задан на-бор вероятностей р^Д = 1,2,..., г, таких, что 52/=1Р° = 1- Обычно р° = Р(Х° Е Дг), где Х° - случайная величина с каким-нибудь известным распределением. Мы хотим знать, совпадают ли вероятности р/, отвечающие наблюдениям выборки Xi,Хз,..., Хп, с вероятностями р® или нет. Обозначим символом Яо гипотезу о том, что pi = р° при всех I = 1,2,. ..,г. Символом Я1 обозначим противоположную гипотезу о том, что pi / р° хотя бы для одного L
Пусть Х1,Хз,...,Хп - выборка, отвечающая случайной величине X. Определим правило, по которому мы будем принимать или отвергать гипотезу Яо. Обозначим через ^ = = 52y=i 1д,(Ху) число тех наблюдений Ху, которые принадлежат интервалу Д/. Поскольку Е(1д,(Ху)) = Р(Ху Е Д/) = = Рь то по закону больших чисел ^ —* р; по вероятности. Поэтому ^ является хорошей оценкой для р/. Положим
(=1 ‘ i=i 1
Функцию ДП(Х) называют статистикой Пирсона или статистикой х2 (хи-квадрат) с г — 1 степенью свободы.
То, что мера различия между истинными вероятностями pi и предполагаемыми р° имеет именно такой вид, продиктовано желанием иметь хорошее предельное распределение для величины ДП(Х). Справедлив следующий результат, который приводится без доказательства.
Теорема (Пирсона). Пусть pi = р° при всех I = 1,2,..., г, т. е. выполнена гипотеза Hq. Тогда справедливо следующее соотношение
sup |Р(Дп(Х)<г)-Я-1(^)|-0 ze(o,oo)
при п —* оо, где Pr-i(z) - так называемое распределение Пирсона с г—1 степенью свободы. Для любого целого неотрицательного к распределение Рк^ определяется плотностью
при 1 ^ °-
( 0,при х < О,
ОО
где Г(/) = J xt-1e~xdx - гамма-функция, о
При целых п для гамма-функции выполняются равенства
Г(п + 1) = п», Г(п + i) = 1 • 3 • 5 • • (2п - 3)(2п - 1)7*2-”.
Для распределения Пирсона существуют таблицы. По заданному значению а можно определить такое число zi-a (квантиль порядка 1 — а), что Pr_i(zi_a) = 1 — а.
Определим следующее правило, которое называется критерием согласия Пирсона или критерием хи-квадрат: если ДП(Х) < zi-а, то принимаем гипотезу Яо, т. е. считаем, что pi = р° для всех I = 1,2,...,г, если ДП(Х) ^ zi_a, то принимаем гипотезу Hi, т. е. считаем, что pi / р® при некотором L При таком правиле вероятность отвергнуть гипотезу Яо при условии, что она верна, равна Р(ДП(Х) ^ zi-a), и согласно теореме Пирсона
Р(Д„(Х) ^Zl-a^l- Р(ДП(Х) < 21_а) И 1 - Pr_l(zi_a) = а.
Таким образом, вероятность ошибки первого рода приблизительно равна а. Предположим теперь, что pi / р° для какого-нибудь I, т. е. предположим, что верна гипотеза Hi. Тогда, поскольку в силу закона больших чисел — —* р/, име- п ем
и, следовательно,
П /l/t оХ2(—>00.
Тем самым, при выполнении гипотезы Hi имеет место соотношение ДП(Х) оо. Поэтому
Р(ДП(Х) < ^i-a) -* 0 при п —* оо.
Положим Р = Р(ДП(Х) < zi_a) - вероятность принять гипотезу Но при условии, что верна гипотеза Hi. Тогда с ростом п вероятность Р стремится к нулю. В результате оба требования, предъявляемые к критериям согласия, выполнены.
Задача 1. Через равные промежутки времени в препарате регистрируется число микробов, попавших в поле зрения микроскопа. В результате наблюдений получены следующие данные:
/О1234567
vt 1121681306832511
В первой строке приведено число микробов, а во второй строке - число моментов времени, соответствующих наблюдению ровно I микробов.
Проверить, используя критерий хи-квадрат, что с вероятностью ошибки первого рода а = 0.05 число микробов, попадающих в поле зрения микроскопа в любой момент регистрации, распределено по закону Пуассона с математическим ожиданием А = 1.5.
Решение. Пусть Xj - неотрицательная случайная величина, равная числу микробов, регистрируемых за j-й промежуток времени. Считаем величины Xj, j = 1,2,..., п, независимыми и одинаково распределенными. Общий объем выборки равен 71 = 52^=о ^ = ^^- Можно считать, что неотрицательная полуось разбита на 8 интервалов Д/ = [/, Z+1), I = 517
= 0,1,...,6 и Дт = [7,оо). Тогда yf = £ ®Ai№) ~ число j=i
моментов времени, когда регистрируется ровно I микробов.
Значения vi приведены в условии задачи. Пусть X® - случайная величина, распределенная по закону Пуассона с параметром А = 1.5:
Используя эту формулу, найдем теоретические вероятности попадания числа микробов в поле зрения микроскопа;
pg = Р(Х® = 0) to 0.2231;р\=Р(Х®=4)to0.0471;
p°Y = Р(Х® = 1) to 0.3347;pg=Р(Х®=5)to0.0141;
pg = Р(Х® = 2) to 0.2510;pg=Р(Х»=6)to0.0035;
pg = P(X° = 3) to 0.1255;pg=P(X°^7)to0.0010.
Вероятность pg является вероятностью того, что наблюдается не менее семи микробов, так как теоретически в поле зрения микроскопа за выбранный промежуток времени может наблюдаться любое их количество. Значение Дп статистики Пирсона вычисляем по формуле
м °PI
По таблицам для квантилей распределения Пирсона Pr_i(z) с г = 8 найдем критическое значение zi_a при а = 0.05. Имеем zq 95 to 14.07. Так как Дп < zi-a, то мы принимаем гипотезу о том, что число микробов, попадающих в поле зрения микроскопа, распределено по закону Пуассона с математическим ожиданием А = 1.54.
Задачи
Задача 23.1. В городе 17036 семей имеют двоих детей. В 4529 семьях - два мальчика, в 4019 - две девочки, в 8488 семьях - мальчик и девочка. Можно ли с уровнем значимости 0.05 считать, что количество мальчиков в семьях с двумя детьми имеет биномиальное распределение с вероятностью рождения мальчика 0.515?
Задача 23.2. Датчик случайных чисел выдает независимые значения случайной величины, которая должна иметь
равномерное распределение на [0,1]. Получены следующие 20 значений: 0.100, 0.253, 0.520, 0.863, 0.354, 0.809, 0.911, 0.292, 0.453, 0.204, 0.648, 0.429, 0.805, 0.372, 0.610, 0.008, 0.166, 0.422, 0.531, 0.509. С помощью критерия Колмогорова с уровнем значимости 0.1 проверить гипотезу о том, что датчик действительно генерирует значения случайной величины с равномерным распределением на [0,1].
Задача 23.3. Результаты подсчета частот появления цифр 0,1,... ,9 в 10002 знаках десятичной записи числа тг — 3 приведены в таблице:
0
1
2
3
4
5
6
7
8
9
968
1026
1021
974
1014
1046
1021
970
948
1014
С помощью критерия Пирсона с вероятностью ошибки первого рода 0.2 проверить гипотезу о равновероятности появления в данной записи каждой из цифр 0,1,..., 9.
Оценка параметров общей линейной модели(метод наименьших квадратов)
Рассматривается следующая линейная модель. Имеется вектор неизвестных параметров, который нужно определить. Однако наблюдаеся не сам вектор параметров, а другой вектор, который получается из искомого вектора применением линейного преобразования. Кроме того, наблюдения (измерения) осуществляются с некоторыми случайными ошибками. Предполагается, что эти ошибки не являются систематическими, т. е. среднее этих ошибок равно нулю.
Математически эта модель описывается следующим образом. Обозначим 6 = (^1,^2,...,0т) - вектор неизвестных параметров, подлежащих оценке. Пусть Л = {a*j}?=aj=i“ ма~ трица известных коэффициентов, а £1,^2, .. -^п- случайные величины с математическими ожиданиями Е(&) = 0, с дисперсиями D(&) = of < оо и с ковариациями Ei^iSj) = 0 при i ^ j. Наблюдаются величины X,:
т
Х, = 52ау»,+Й, . = 1,2.....П. (24.1) j=l
Если бы случайных ошибок измерения не было, то значения параметров 9$ по известным а,, и X* определялись бы как решение системы п алгебраических линейных уравнений. В случае, когда есть случайные ошибки Si, предлагается поступать следующим образом. Поскольку мы не знаем истинных значений параметров, выберем какие-нибудь значения параметров 51,5г,...,5П и рассмотрим сумму квадратичных отклонений
пт2
N1ЛУт) = Е (Х< ~ Е «У ^) •
t=lj=l
Определим, при каких значениях 5, математическое ожидание 72(51,52,..., 5т) будет минимальным. Имеем
пт2
Ef^, Й2,. .., 6m)) = 52 Е(Х' - Е”^) =
>=1У=1
пт2
= EE(E“y№-^)+f0 =
.=1У=1
птg т
= ^{(Е0^ -^)) 4-2£a.v(5y -5^i^^ = 1=1 j=lj=l
пт9п т•> п
=E{(EMt-t)) +^}=Е(Е“у№-^) +Е*
i=l j = l .1=1 j=li=l
Мы видим, что ©то математическое ожидание будет минимальным при X^iQjJLiaijCfy — fy)) = 0, в частности, при Oj = Oj, т. е. при истинных значениях параметров. Поэтому в качестве оценки для неизвестных параметров 5у разумно взять такие значения параметров 5,, при которых функция 7?(5i, 5г,..., 0т) принимает минимальное значение. Такая оценка называется оценкой по методу наименьших квадратов. Функция 7?(5i,5г,...,5т) - функция многих переменных и минимума она достигает в той точке, в которой все частные производные этой функции по каждой из переменных равны нулю. Частные производные имеют вид
т^-7?(5i, 5г,..., 5т) = 2 ) ^ (х« — ^ au^j^( aik)i к = 1,..., пи кi=l j=l
Найдем такие значения #1,02, • • • >0щ, которые обращают эти производные в ноль. Отсюда получим систему m линейных уравнений относительно неизвестных 01,02) • • • )9т*
^(E-H^f:-^' t = 1'2m- <24'2)
3 = 1 \=1t=l
Матрица этой системы состоит из коэффициентов Ъ^ь =
= 52 aijaik) а вектор свободных коэффициентов У состоит i=i
из компонент У* = У^-зСЦкХ*. Если определитель матрицы В = {6jfc)^:7fc=i отличен от нуля, то эта система имеет единственное решение 91,02) •• ^вт- Решение это можно найти либо методом Гаусса, либо методом определителей, либо вычисляя обратную матрицу к В. Исходная линейная модель (24.1) и система уравнений (24.2) могут быть записаны в краткой форме с использованием матриц и векторов. Обозначим
«12 «22«12 «22«»2«»2
«12 «22
«12 «22
«»2
«»2
Тогда (24.1) переписывается в виде
X = А9 + £.
Далее, полагая
6ц 621Ьт16ц 621Ьт1612•••bim^22•••Ь2т6m 2 • • • Ьтт612•••bim^22•••Ь2т6m 2 • • • Ьтт(01 02\L(01 02\L
6ц 621
Ьт1
6ц 621
Ьт1
612•••bim
^22•••Ь2т
6m 2 • • • Ьтт
612•••bim
^22•••Ь2т
6m 2 • • • Ьтт
(01 02
\L
(01 02
\L
«п1«п2«пт«п1«п2«пт/ «11«21
«п1
«п2
«пт
«п1
«п2
«пт
«12«22
' «1т«2т
где матрица Ат является транспонированной (отраженной) по отношению к матрице А, систему уравнений (24.2) представим в виде _
В0 = АТХ.
Решение этой системы можно записать так: 0 = B~YATX, где В~х - матрица, обратная к В. Таким образом, искомая оценка 0, которая является оценкой для вектора неизвестных параметров 0, равна произведению матрицы В-1 на вектор АТХ. В силу определения коэффициентов bjk матрица В представима в виде произведения В = Ат А, что позволяет выразить оценку 0, построенную по методу наименьших квадратов, в терминах исходной матрицы коэффициентов А и вектора наблюдений X:
I=8(Xi,X2Х„)= (АТА)-‘АТХ. (24.3)
Пример 1. Пусть есть полином
Р(у) =+ »„-1»т"2 + ' ■ + »1
степени m - 1 с неизвестными коэффициентами. Предположим, что у нас есть результаты измерений значений этого полинома в различных точках У1,У2,.♦ -»Уп- Но измерения в каждой точке у* производятся со случайной ошибкой St, т. е. мы в качестве измерений имеем лишь значения величин Xi,
Xi = P(yiH£i, i = l,2,...,n.(24.4)
Как определить коэффициенты 0j? Оказывается, можно применить метод наименьших квадратов. Положим а^ = ^-1, тогда mm
ли)=$>-ч=х>л,j=l1=1
и равенства (24.4) переходят в равенства (24.1). Но для такой линейной модели мы уже умеем строить оценку параметров 51,52,..., 5т, и эта оценка определяется по коэффициентам aij системой уравнений (24.2), которая в данном случае имеет вид
m пп
3=1 1=11=1
Решение этой системы не обязательно выписывыть формулой (24.3). Его можно получать различными известными методами.
Задача 1. Затраты у на развитие производства и X величина годовой прибыли фирмы в течение 5 лет представлены в условных единицах следующей таблицей
у637510
X3327322842
На величину прибыли влияют случайные факторы. Предполагается, что всегда имеет место линейная зависимость между затратами у и прибылью X вида
X = 52y + 5x+£(24.5)
с неизменными параметрами 51, 52 и величиной случайного влияния £ со средним ноль и конечной дисперсией. Каждый год случайное влияние некоррелировано с предыдущими годами. Оценить параметры 9\ и 52.
Решение. Зависимость (24.5), представленная по годам г = 1,2,3,4,5, имеет вид
Xi = 52у, + 51 -Ь Si.(24.6)
Таким образом, она описывается моделью типа (24.1). Оценим параметры 51 и 52 по методу наименьших квадратов. Имеем п = 5, m = 2, ап = 1, а,2 = у,. Система уравнений (24.2) в этом случае следующая
п51 + 52 У«^2 = Е Xi, к = 1,
п 1=1 п ^ п(24Л)
Е УА + Е А = Е 4iXi, к = 2. 1=11=11=1
Вычисляя значение 02 методом определителей, получим
У^ - УпХ»У2П - Уп2У^ - УпХ»У2П - Уп2(24.8)(24.8)я 52 у>^ ~ 52 у« 52 х*
У^ - УпХ»У2П - Уп2
У^ - УпХ»У2П - Уп2
(24.8)
(24.8)
п1 = 11 = 1 » = 1
у2 =„п;—
nEtt-VEtifi=i»=i
где у1 п = ££=i&?/n, уХп = £"=1 yiXi/n, уп = ^=1У</п» Хп = T^=i^i/n- Теперь из первого уравнения системы (24.6) находим
#1 = Х„ - #2У„ = ^^Ч|^- <24'9)
Для имеющихся данных 0i to 18.843, 02 ~ 2.187.
Зависимость (24.6) является частным случаем следующей зависимости, в которой величины yt могут быть случайными:
Х,=№+^1+^ * = 1,2,...,п.(24.10)
Предполагается, что Y{, i = 1,2, ...,п, являются одинаково распределенными независимыми случайными величинами, независящими от величин St, которые интерпретируются как ошибки измерения. В свою очередь величины &, i = 1,2,..., п, тоже являются независимыми со средним ноль (E(£t) = 0) и конечной дисперсией (Е(^) < оо). По наблюдениям значений пар случайных величин X^Yi, i = 1,2, ...,n, нужно определить параметры 01,02. Такая модель называется простой линейной регрессией.
По тем же соображениям, которые приведены для вывода оценки наименьших квадратов, в качестве оценок 01, и 02 для параметров 01, и 02 естественно взять те значения, которые минимизируют функцию квадратичного отклонения
п2
л(»1Л)=52(к.-№-01).
1=1
Приравнивая к нулю частные производные этой функции по 01, и 02, получим систему уравнений (24.7) с величинами Yt
вместо у;. Решения системы уравнений будут аналогичны
(24.8), (24.9):
С„(Х,У)С„(Х,У)(24.11)(24.11)« £ YxXx - £ у, Е х, й _1=11=11=1
С„(Х,У)
С„(Х,У)
(24.11)
(24.11)
^2пп
п£у,2-(ЕУ)
пп
9i=X-Y,Xi-9i^y.Yi = Xn-61Yn. (24.12)
1=11=1
Соответствие х = 92у 4- 91, у Е (—оо, оо), называется уравнением линейной регресии. Не удивительно, что для параметров 91, и 92 получились именно такие оценки. Вычислим ковариацию величин X и У, связанных линейной зависимостью X = 02У4-014-£. Поскольку величины £ и У независимы и Е(£) = 0 то Е(Х) = 02Е(У ) 4- 9V,
cov(X, У) = Е((02У 4- £ - 02Е(У))(У - Е(У))) =
= 02Е(У - Е(У))2 4- Е(£)Е(У - Е(У)) = 92D(¥y
Отсюда следует, что 92 = ^р^у"" > ^1 = В(Х) - 02Е(У). Теперь, если в этих выражениях вместо ковариации, дисперсии и математических ожиданий взять их выборочные характеристики из §19 (формулы (19.7), (19.3)), то для 91, и 92 получим оценки (24.11) и (24.12).
Задачи
Задача 24.1. В книге “Основы химии” Д. И. Менделеева приводятся данные о растворимости азотнокислого натрия NaNOa в зависимости от температуры воды. В 100 частях воды растворяется следующее число условных частей NaNOa при соответствующих температурах:
у 0410152129365168
X66.771.076.380.685.792.999.4113.6125.1
Через у и X обозначены соответственно температура раствора и количество NaNOa. На количество растворившегося NaNOa влияют случайные факторы. Предполагается, что имеет место линейная зависимость между температурой у и
количеством растворившегося NaNOa вида X = ^y-t-^i ~V£ с неизменными параметрами 01, 02 и величиной случайного влияния £ со средним ноль и конечной дисперсией. Оценить параметры 0\ и 02 с помощью метода наименьших квадратов.
Задача 24.2. Данные опыта приведены в таблице:
у0246810
X5-10.51.54.58.5
Полагая, что у и X связаны зависимостью X = Оа^ + 02И 401 + £, где величина случайного влияния £ имеет среднее ноль и конечную дисперсию, найти коэффициенты 0i,#2 и 0з методом наименьших квадратов.
Метод максимального правдоподобия
Пусть X = (Xi, %2i • •. > Хп) - случайная выборка, отвечающая случайной величине X с плотностью распределения f(xy0), где 0 - неизвестный параметр. Предполагается, что вид плотности известен, а параметр 0 неизвестен. Например, f(x,0) может быть плотностью нормального распределения с математическим ожиданием 0 и дисперсией 1, т. е.
Задача состоит в том, чтобы зная вид плотности, оценить неизвестный параметр 0 по наблюдениям Xi,X2,.. .,Хп.
Определение 1. Функцией правдоподобия для случайных наблюдений Xi, Х2, • • • > Хп с плотностью распределения /(ж,0) называется функция Цхг,Х2,... >хп,0) = = f^i,0№2,ey.f<xn,oY
Оценкой параметра 0, построенной методом максимального правдоподобия по наблюдениям Xi,X2,...,ХП) называется оценка 0п(Х), определяемая равенством
ЦХъХ2,...,ХпА(Х)) = тюЦХ^^(25.1)
Иными словами эта оценка определяется следующим образом. В качестве первых п координат функции правдоподобия нужно взять случайные наблюдения Xi, Хз,... ,ХП)
затем рассмотреть функцию L(Xi, Х2,..., Х„,0) как функцию одной переменной 0 и определить такое значение переменной 0 = 0п, при котором эта функция принимает максимальное значение. Ясно, что величина переменной 0п будет зависеть еще и от X. Формально все это задано равенством (25.1). Почему именно так выбирается оценка 0п? Дело в том, что в силу независимости наблюдений Xi, Х2,..., Хп их совместная плотность равна произведению плотностей величин X;, которые имеют одинаковый вид и равны f^x^oy Таким образом, функция Цх, 0) и есть совместная плотность распределения случайной выборки X. Для тех значений х, для которых плотность Цх, 0) больше, вероятность появления значений выборки X в малой окрестности ж в ходе эксперимента тоже больше. Поэтому, если мы уже наблюдаем какие-то значения величин Х^Хг,..., Хп, то естественно предположить, что и значение плотности в этих точках, т. е. значение ЦХг,Х2Хп,0), должно быть велико. Поэтому мы и выбираем оценку 5П(Х) для истинного значения параметра 0 так, чтобы ЦХх.Ха, ..Xn,5n(X)) было наибольшим возможным значением. Если функция дифференцируема и достигает максимального значения в какой-нибудь точке, то производная в этой точке должна быть равна нулю. Таким образом, для нахождения оценки 0»(^) имеем уравнение
^ЦХ.е^О.(25.2)
Считаем, что совместная плотность L нигде не обращается в нуль, тогда уравнение (25.2) можно записать £^£ = 0. Пользуясь формулой для производной логарифма, перепишем его следующим образом: ~\пЦХ ,0) = 0. Учитывая определение ЦХ,0) и свойство логарифма 1п(а6) = In а+In b, окончательно получим
^£1п/(Х,,0) = О.(25.3)
Это уравнение, в котором неизвестным является параметр 0, называется уравнением максимального правдоподобия.
Если у него существует единственное решение бд^Х), то оно называется оценкой максимального правдоподобия для параметра 9.
Замечание 1. Метод максимального правдоподобия можно применять, когда 9 = (0i,...,0m) ~ многомерный параметр. Функция максимального правдоподобия будет достигать максимума в той точке 9, в которой все частные производные по 9k, к = 1,2, ...,т, равны нулю. Поэтому для нахождения оценки 9п(Х) = (9^(Х), 9^(Х),..., ^^Х)) вместо (25.2) имеем систему уравнений
^£(Х,б) = 0, к = 1Д...,т.
Свойства оценки максимального правдоподобия.
Оценка максимального правдоподобия 9п(Х) является состоятельной оценкой параметра 9, т. е. 9п(Х) —♦ 9 по вероятности при п —* оо.
Оценка 9п^Х) является асимптотически нормальной оценкой параметра 9 с дисперсией Д2 = I^1^), где
ОО
7*w= / (^1п/(М))2/(М)<Ь,
—ОО
- информационное количество Фишера относительно параметра 9, содержащееся в одном наблюдении. В силу замечания 1 §22 оценка ^«(Х) будет асимптотически эффективной оценкой параметра 9.
Свойства 1) и 2) справедливы при определенных условиях на плотность распределения f(x, 9). Доказательство этих свойств выходит за рамки элементарного курса математической статистики.
4- In4- InШИШИПример 1. Пусть выборка Xi,X2,...,Xn отвечает плотности. распределения f(x,9) = ^=ехр^—^ 2^ ). Найдем оценку для параметра 9 методом максимального правдоподобия. Уравнение (25.3) в этом случае имеет вид
4- In
4- In
ШИ
ШИ
1VLHl<
Эд2
1=1
Дифференцируя под знаком суммы, получим
£(Х,-») = 0.(=1
Решением этого уравнения является 0„(Х) = -$2”=1 X/. Таким образом, оценка максимального правдоподобия для 9t когда - f(x,9) плотность нормального распределения, есть выборочное среднее. Это естественно, поскольку 9 является математическим ожиданием для нормального закона.
Пример 2. Пусть выборка Xi,X2,...,Xn отвечает показательному распределению с параметром 9~1,9 > 0, с плотностью
( 0, при х < 0.
Найдем оценку для параметра 9 методом максимального правдоподобия. Уравнение (25.3) в этом случае преобразуется к виду п
/=1
Откуда находим решение 0n(X) = -Е^ X/, которое как и в предыдущем примере есть выборочное среднее.
Замечание 2. Метод максимального правдоподобия в полной мере применим и для случая, когда X = (Xi,..., Хп) - случайная выборка, отвечающая случайной величине X, принимающей дискретные значения Хк,к = 1,2,..., с вероятностями р^Хк,9) = P(Xi = Хк\ Предполагается, что вид функции известен, а параметр 9 неизвестен. Функция правдоподобия для дискретной величины имеет вид L(xi,«2, •.., ж», 0) = p(xi19')p^X2,9).. .р^хП19\ Как и в случае с плотностью, оценка, построенная методом максимального правдоподобия, определяется равенством (25.1). Это равенство, если функция р(ж, 0) дифференцируема по 9, влечет уравнение максимального правдоподобия
п
^£>p(X,,0) = O.(25.4)
1=1
Если существует единственное решение 9п^Х^ то оно называется оценкой максимального правдоподобия для параметра 9.
Пример 3. Пусть выборка Xi,X2,.. .,Хп отвечает распределению Пуассона с параметром 9, т. е.
р(т, 9) = PQG = т) = ^е-9,т = 0,1,2,... .
Найдем оценку для параметра 9 методом максимального правдоподобия. Уравнение (25.4) в этом случае превращается в следующее
п
±52(-fl + Xllnfl-ln(X,!)) = O.
Z=1
После дифференцирования получим
п
-"+|Е^' = °-
1=1
Отсюда для параметра 9 находим оценку максимального правдоподобия 9п(Х) = ^527=1 ^z» которая как и в предыдущем примере есть выборочное среднее.
Пример 4. Пусть выборка Xi,%2,• • • >Хп отвечает равномерному распределению, сосредоточенному на интервале единичной длины с неизвестным центром 9, т. е. распределению с плотностью
/(ж, 5) = 1р-р+|](ж),
где 1л (®) ~ индикатор множества Л, определенный в п.1 §12. Равенство (25.1) принимает вид
П ^.чл+ц^о=тП »[m.miW- <25-5)
1=11=1
Хотя плотность /(ж, 9) не дифференцируема для всех 9, оценку 9п, удовлетворяющую (25.5) найти можно. Ясно, что максимальное значение правой части в (25.5) равно единице, и
это происходит тогда, когда интервал [0 — |,0+ |] содержит все значения Xi, Х2,..., Хп. Пусть X(i) Х(2) ^ • • • ^ Х(п) - вариационный ряд. Интервал [0 — |,0+ |] будет содержать все значения Х^, к = 1,2,..., п, если 0—^ ^ X(i) и ^(п) 0+|« Таких значений 0 целый интервал ^Х^) — 51^(1)+^] и любое из них может служить оценкой максимального правдоподобия. В качестве одного из возможных возьмем 0п =
= т^С^О1) + ^О))* Оно лежит внутри интервала, поскольку равномерное распределение сосредоточено на интервале единичной длины, что влечет X(n) — X(i) ^ 1, и
*. -1 = xw + ^Х^ - Х(1)) - 1 5 xw,
6п + i = XW + 1 - l(X(n) - xw) > xw.
Следовательно, 0п удовлетворяет (25.5) и ее можно считать оценкой, построенной методом максимального правдоподобия.
Задачи
Задача 25.1. Страховая компания за год произвела п выплат по портфелю однотипных договоров страхования, размер выплат по которым имеет распределение с плотностью /(ж) = 0е~е®, ж > 0. Найти оценку максимального правдоподобия для 0.
Задача 25.2. На заводе производят шарики для шарикоподшипников. Из продукции, произведенной за час, выбрали 20 шариков. Измерение их диаметров дало следующие результаты: 5.05, 5.01, 5.25, 4.97, 4.99, 5.03, 4.97, 5.13, 5.02, 4.90, 5.01, 4.75, 4.95, 4.98, 5.05, 5.02, 4.88, 5.00, 5.04, 4.96 мм. При предположении, что диаметр имеет нормальное распределение с неизвестным средним и дисперсией, построить оценку максимального правдоподобия для этих параметров.
Задача 25.3. Пусть Х1,Хг,...,Хп независимы и равномерно распределены на интервале 0,04-1. Показать, что любая точка интервала [maxi^^X, — 1, mini^,^n X,} является оценкой максимального правдоподобия для параметра 0.
§ 26. Процедура рекуррентного оценивания
Пусть как в предыдущем параграфе по случайной выборке X = (Xi,X2,.. .,ХП), отвечающей случайной величине X с известным видом плотности распределения /(ж, 5), нужно оценить неизвестный параметр 9.
В большинстве случаев точное решение уравнения максимального правдоподобия
f^ln/№,6) = °(26.1)
1=1
найти не удается. Поэтому для него ищут различные приближенные выражения. Опишем один интересный подход к решению этой проблемы.
Рассмотрим решения уравнения (26.1) при п и при n+ 1, т. е. рассмотрим 9п и 0n+i, удовлетворяющие равенствам
пп+1
£ ^1п/(х,А) = о,Е^М-ъЛ+О = о.
1=11=1
Вычитая из правого равенства левое, получим
^1п/(Х„+1Л)+ п + 1
+- ^1п/(.Х,Л)) = 0.(26.2)
(=1
Поскольку оценка максимального правдоподобия является состоятельной оценкой параметра 9, т. е. 9п —*9 при п —► оо, то разность 9п^л — 9п стремится к нулю. Предположим, что у функции /(х,9) существует непрерывная вторая производная по параметру 9. Тогда функция д(9) = ^1п(я,0) при любом фиксированном ж обладает непрерывной производной по 9, и, в силу определения производной, приращение этой функции можно выразить следующим образом ^п+О-у^п) « ^Ax^n+I *^\ Используя это, преобразуем (26.2) к виду
п + 1 2
^ ы дх„+1Л) + £ 5?1п /MW+i -»•)*«.
1=1
или
Uv-ёп*-п+1 „г -^1п/(Х„+1,6„).(26.3)
£ 55?
Величины X/, Z = 1,2,...,п + 1, независимы и одинаково распределены. Для любого фиксированного 9 по закону больших чисел (§ 16)
57Т £ Ь In КХ.,»')«Е(^In ЦХг,в)) = -hW, (26.4)
где 71(0) - информационное количество Фишера. Равенство в правой части следует из (22.6).
При некоторых дополнительных условиях можно доказать, что соотношение (26.4) выполняется равномерно по всем 9, достаточно близким к заданному значению, посколь- д2
ку функция — /(а?,0) непрерывна по 9. С учетом этого, соотношение (26.3) эквивалентно следующему
Замена приближенного равенства в этом соотношении на строгое приводит к следующей процедуре рекуррентного оценивания неизвестного параметра 9:
= ®" + ,«4. mils ^|п Л^-и >6^' ^ = с’ (265>
где с - произвольная постоянная.
Эта процедура замечательна тем, что приближенное значение для параметра 0 на n + 1 шаге выражается только через приближенное значение на n-м шаге и через наблюдение Xn+i. Это и означает, что оценивание рекуррентное. При определенных условиях можно доказать, что оценка 9п ничем не хуже оценки максимального правдоподобия 9п, поскольку она обладает теми же свойствами 1) и 2). Следовательно, она является асимптотически эффективной оценкой параметра 0.
Пример 1, Пусть как и в примере 1 § 25
Тогда ^f(«,^)//(®,^) = х — 9. Из примера 1 §22 следует, что Д(0) = 1. Следовательно, процедура (26.5) для этого случая имеет вид
(26.6)(26.6)9п-н = 0п + ^jC^+i ” ^)» ®о = с*
(26.6)
(26.6)
Из этой процедуры легко вычислить явное выражение для
61=е + 1(Х1-е) = Х1, ё„ = ^Х11 = Х„.
к=1
Следовательно, в случае нормальной плотности распределения рекуррентная оценка математического ожидания совпадает с оценкой максимального правдоподобия и совпадает с выборочным средним. Это и не удивительно, поскольку для этой плотности все вышеприведенные приближенные равенства превращаются в строгие равенства.
Пример 2. Пусть выборка Xi)X2,...)Xn отвечает показательному распределению с параметром 0-1,9 > 0, т. е. распределенную с плотностью
при х ^ О, при х < 0.
Тогда -^Ях^)//^^) = ~ - Из примера 2 § 22 следует, Ov9
что Zi(0) = 1/02. Процедура (26.5) в этом случае имеет вид
т. е. снова имеет вид (26.6), и снова 9п = 9п = Хп.
194
Ответы и решения к задачам
Теория вероятностей
5-4 = 20.
Cj - 2 = 26.
Л| = 20.
65 = 7776.
(п!)2.
Числа 1, 2, 3 можно разместить так, чтобы они стояли рядом п — 2 способами. Упорядочить остальные п — 3 мест можно (п —3)! способами. Ответ (п — 2)(п — 3)! = (п —2)!.
2 + 22 + 23 + 24 + 25 = 62.
З23 • 104 = 327680000.
Приведем два решения этой задачи. Число людей, у которых есть к белых зубов равно Сз2, поскольку порядок зубов не имеет значения. Следовательно, всего людей с учетом свойства 1) для биномиальных коэффициентов будет £ С^2 = 232 = 1024 • 1024 • 1024 • 4 = 4294967296.
£=0
Другое решение. Сопоставим наличию белого зуба на той или иной позиции среди 32 возможных цифру 1, черному - цифру 0. Тогда возникает полное соответствие между зубами и 32 разрядными двоичными числами. Следовательно, число людей будет совпадать с числом 32 разрядных двоичных чисел. Их очевидно равно 232.
Из слова КОЛОКОЛ машинные слова можно составлять следующим образом. Сначала, например, на 7 свободных для букв позиций можно разместить буквы О. Таких возможностей С3, так как буквы О не различаются. На оставшиеся 4 позиции можно разместить 2 буквы К С4 способами. Буквы Л займут два последних места. Таким образом, всего можно составить С3С2 = ^~ = 5-6-7 = 210 машинных слов. Из слова ВОДОРОД можно составить С7С4С2 = ^7 = 2 • 5 • 6 * 7 = 420 машинных слов.
Места можно пронумеровать от 1 до 14. Можно на нечетные места посадить женщин, а на четные мужчин, и наоборот. Женщин можно разместить 7! способами, и стольки-
ми же способами можно разместить мужчин. Всего способов 2(7!)2.
Конфеты расположим в ряд. Между конфетами будет 8 промежутков, в которые Cg способами можно поместить 4 разделительных перегородки по одной в каждый промежуток. Эти перегородки разделяют все конфеты на 5 групп, которые соответствуют 5 различным пакетам. Следо- 48!
вательно, на первый вопрос ответ следующий Cg = — = 70. В случае, когда пакеты могут быть пустыми, конфеты и перегородки могут располагаться в ряд в любом порядке, в частности несколько перегородок могут следовать друг за другом. Всего таких возможностей С^з, поскольку среди 9 + 4 = 13 позиций 4 можно выбрать для перегородок. Ответ на второй вопрос следующий С*3 = — = 715.
А — В = АВ ={число оканчивается цифрой 5}.
А ={ни одного бракованного изделия}, В ={либо одно бракованное изделие, либо бракованных нет}.
а) А = 0, В = О; б) никогда; в) А = В.
Нет.
АВ ={на одной кости выпала 1, а на другой - 4}, АВ ={на одной кости выпала 2, а на другой - 3}.
а)П"=1А, ЬУ£”=1А,.
АВС ={оба спортсмена прыгнули дальше 7 метров, причем мужчина прыгнул дальше женщины}, А — АВ = {мужчина прыгнул дальше 7 метров, но не дальше женщины}, АВС ={оба спортсмена прыгнули дальше 7 метров, но мужчина прыгнул не дальше женщины}.
Р =Р =Р =Р =Р =Р =Р =Р =а) АВ С^б) АВС^ АВС; г) А + В + С; д) АВ + АС + ВС; е) АВС-V АВС + АВС; ж) ABC-V АВС + АВС; з) АВС; и) АВС.
Р =
Р =
Р =
Р =
Р =
Р =
Р =
Р =
^20 ~ zu
д5
= 0.3024.
ю5
С5 2
Cfs - 91 '
^18 _ ^_
С2%38’
5 Р — ^э ~ —Р = 1 -= 1 - — = —.Cf2 3333Р({1,1} + {1,2} + {2,1})=^ = 1, Я Р -- 4 - 2Р _ ^ _ ^ _ ?.5 Р — ^э ~ —Р = 1 -= 1 - — = —.Cf2 3333Р({1,1} + {1,2} + {2,1})=^ = 1, Я Р -- 4 - 2Р _ ^ _ ^ _ ?.Р = 1 -Р = 1 -4-2-3!4-2-3!Р =Р =115!15!1= 1-- = -.55= 1-- = -.55311 1211212Р =311 1211212Р =А^ 20' to 0.00005372. 10-6 _ 1А^ 20' to 0.00005372. 10-6 _ 1
5 Р — ^э ~ —
Р = 1 -= 1 - — = —.
Cf2 3333
Р({1,1} + {1,2} + {2,1})=^ = 1
, Я Р -- 4 - 2
Р _ ^ _ ^ _ ?.
5 Р — ^э ~ —
Р = 1 -= 1 - — = —.
Cf2 3333
Р({1,1} + {1,2} + {2,1})=^ = 1
, Я Р -- 4 - 2
Р _ ^ _ ^ _ ?.
Р = 1 -
Р = 1 -
4-2-3!
4-2-3!
Р =
Р =
1
1
5!
1
5!
1
= 1-- = -.
55
= 1-- = -.
55
311 121
1212
Р =
311 121
1212
Р =
А^ 20' to 0.00005372. 10-6 _ 1
А^ 20' to 0.00005372. 10-6 _ 1
|.
3 14 ^^ ~ ^^w ^^
Р - б4 - 216.
147
P = l-^ = i
639
Вероятность того, что при п бросаниях хотя бы один раз выпала шестерка равна 1 минус вероятность того, что она ни разу не выпадет при п бросаниях, и очевидно равна
6"
Нужно найти такое минимальное п, что 1 — — ^ 0.5. Несложно подсчитать, что п = 3.
Минимальное п такое, что 1 — — ^ 0.9 равно 13.
Р = (а — 2г)2/а2, где а = 4, г = 1, т. е. Р = 22/16 = 1/4.
Р=^ = -.'
7ГТ2 7Г
Р = 1/4.
Пусть х - длина отрезка [A, L], у - длина отрезка [А, МУ Тогда условие задачи запишется в виде |у — ®| < х. Это влечет 0 < у < 2®, и, следовательно, искомая вероятность равна
,2 - Т _ 3
Р 4
Две кривые г + у=1игу = ^ пересекаются в двух точках. Координаты абсцисс у них следующие: a?i = ^>#2 =
91 ^®19
= -. Ответ в задаче Р = - + / —-. = - + - In 2.
1/3
Обозначим через ж, у и I—ж—у длины отрезков. Ограничение 0 ^ ж 4-У С / следует из условия задачи. Следующие ограничения вытекают из свойства треугольника, что сумма двух любых сторон больше третей: 0^х^^,0^у^|, ж А-у ^ -• В результате искомая вероятность равна
mes|®, у : 0 ^ х ^ |,0 ^ у ^ |,х + у ^ jJ j
mes{x, y:O^r,O^y,O^r + y^/}4'
4 7 P — 1 —
Г - 1 я у 1 + 4tr2/?2 •
P = to 0.2113.
6
События ABi и AB2 несовместны, так как B1B2 = 0. Тогда P(A(Bi + В2)) = P(ABl + ЛВ2) = Р(АВ0 + Р(ЛВ2) = = Р(А)Р(В0 + Р(Л)Р(В2) = Р(А)(Р(В0 + Р(В2)) =
= Р(А)Р(В!+В2).
Независимы.
Зависимы, поскольку Р(А) = -,Р(В) = 1 — — = - а PUB) = 1(1 - £) = |.
Вынули сразу три шара или поочередно - одно и тоже. Поэтому
Р(1-й б.,2-й б.,3-й б.) =
= Р(1-й б.)Р(2-й б.|1-й б.)Р(3-й б.)1-й б., 2-й б.) =
_ 9 8 7 _ 7
“ 10 ’ 9 ' 8 ~ 10'
Р(ПОЛЕ) = Р(П)Р(О|П)Р(Л|ПО)Р(Е|ПОЛ) =
_ 1 2 1 2 _ 1
9 * 8 ’ 7'6756 "
По формуле сложения вероятностей несовместных событий Р(шары одного цвета) =
= Р(белые) + Р(черные) + Р(красные) =
= ±.12 + 11.А + А.£ = ^и 0.323.
24 2424 2424 24578
Обозначим искомую вероятность Р. Положим А = {первый сделал больше выстрелов чем второй), Л1 ={первый стрелок попал при первом выстреле), Bi ={второй стрелок попал при первом выстреле). Поскольку после двух выстрелов, если оба промахнулись, все начинается снова, то имеем А = Л1(В1 + В^А). Следовательно,
р(Л) = рслосрсво + Р(В!)Р(л)),
и Р = 0.8(0.3 + 0.7Р)), т. е. Р = £.
Событие А является произведением событий Ац = {fe-я деталь качественная), к = 1,2,..., 5. Вычислим вероятность q события А = Л1Л2Л3Л4Л5 - партия принята. Очевидно Р(Л1) = ~, так как всего деталей 100, а качественных 95. После осуществления события Л1 деталей останется 99, среди которых качественных 94, поэтому Р(Л2[Л1) = —. Аналогично
PHa^Aj) = Ц, Р(А4|А1А2Аз) = g, P(A5|AiA2A3A4) = Ц. «70V <vV
По общей формуле умножения вероятностей находим
_ 9594 93 92 91 ~ „ __
9 “ 100 ' 99 ’ 98 ' 97 ’ 96 ~ ’ '
Искомая вероятность равна р = 1 — q м 0.23*
6.1. Первый бросивший монету игрок выигрывает при первом броске с вероятностью |. При втором броске он выигрывает, если при первом броске у него и у второго игрока выпало по решетке (вероятность этого ^), а на втором броске у него выпал герб. В силу независимости событий вероятность выиграть на втором броске равна ( - I • -. Легко понять, что вероятность выиграть на к-м броске равна (1\ к 1
-) • -. Складывая эти вероятности получим искомую ве- 4/2
роятность:
Первый бросивший монету игрок выигрывает с вероятно- 2 ч *1стью р = -, второй -д = 1—р=-.Решение легко понять из ответа для вероятности надежности прибора: Р = (pi + (1 - Р1)рР2)(Рз + (1 - Рз)рР4).Вероятность хотя бы одного попадания в мишень равна единице минус вероятность всех трех промахов. Пусть рПервый бросивший монету игрок выигрывает с вероятно- 2 ч *1стью р = -, второй -д = 1—р=-.Решение легко понять из ответа для вероятности надежности прибора: Р = (pi + (1 - Р1)рР2)(Рз + (1 - Рз)рР4).Вероятность хотя бы одного попадания в мишень равна единице минус вероятность всех трех промахов. Пусть р— вероятность попадания, ад- вероятность промаха при одном выстреле. Тогда 0.875 = 1 — д3, и, следовательно, g = 0.5, р = 1 — g = 0.5.Обозначим Ai ={попадание l-й бомбы}. Тогда Р(мост_разрушен) = Р(А1А2А3 + А1А2Аз+А1А2Аз 4- АМ2А3)= Р(А!)Р(А2)Р(Лз) + Р(А1)Р(А2)Р(Аз)+ +Р(А1)Р(А2)Р(А3) + Р(А1)Р(А2)Р(Аз) == 0.9-0.3 0.4+0.1-0.7-0.4+0.1 • 0.3 0.64-0.1 0.3 0.4 = 0.166.— вероятность попадания, ад- вероятность промаха при одном выстреле. Тогда 0.875 = 1 — д3, и, следовательно, g = 0.5, р = 1 — g = 0.5.Обозначим Ai ={попадание l-й бомбы}. Тогда Р(мост_разрушен) = Р(А1А2А3 + А1А2Аз+А1А2Аз 4- АМ2А3)= Р(А!)Р(А2)Р(Лз) + Р(А1)Р(А2)Р(Аз)+ +Р(А1)Р(А2)Р(А3) + Р(А1)Р(А2)Р(Аз) == 0.9-0.3 0.4+0.1-0.7-0.4+0.1 • 0.3 0.64-0.1 0.3 0.4 = 0.166.Р = Р1(р2 + Рз - Р2Рз)Р4(1 - Ps) + Р5.Р = (pip2 + РЗ - Р1Р2Рз)(Р4 + Р5 ~ Р4Рб)(1 - Рб) + Рб •Р = Р1(р2 + Рз - Р2Рз)Р4(1 - Ps) + Р5.Р = (pip2 + РЗ - Р1Р2Рз)(Р4 + Р5 ~ Р4Рб)(1 - Рб) + Рб •Р = 1 - 0.9 • 0.8 • 0.6 = 1 - 0.432 = 0.568.Р = 1 - 0.9 • 0.8 • 0.6 = 1 - 0.432 = 0.568.Р=(5)31 = 4 = ^И1. 664129610Р = £= £ t;)2”*m=llp=)=l/2 m=i -гР=(5)31 = 4 = ^И1. 664129610Р = £= £ t;)2”*m=llp=)=l/2 m=i -г14<1 -14<1 -1 з1 з7.1. р=1.1 + 1(1+ 1.1)+ 1.1.13 23V33 2'3 2 27.1. р=1.1 + 1(1+ 1.1)+ 1.1.13 23V33 2'3 2 2512’512’Обозначим Hi ={выбрали кубик}, Я2 ={выбрали пиОбозначим Hi ={выбрали кубик}, Я2 ={выбрали пирамиду}, А ={выпала цифра 4}. По формуле Байесарамиду}, А ={выпала цифра 4}. По формуле БайесаI А) = Р№Р№А =11 2Р(Н1)Р(Д|Н1) + Р(Я2)Р(Д|Я2)I А) = Р№Р№А =11 2Р(Н1)Р(Д|Н1) + Р(Я2)Р(Д|Я2)1' 641 .. 11~5 " 6 ' 5 ' 41' 641 .. 11~5 " 6 ' 5 ' 47.3. По формуле полной вероятности Р = ^ ’ ^ "^ ^ = ^-ТА. Обозначим Ну ={первый белый}, Щ ={первый черный}, А ={следующий за первым - белый}. По формуле Байеса7.3. По формуле полной вероятности Р = ^ ’ ^ "^ ^ = ^-ТА. Обозначим Ну ={первый белый}, Щ ={первый черный}, А ={следующий за первым - белый}. По формуле БайесаP(HV\A) =P(HV\A) =Р(НАР(А\НАР(НАР(А\НА3210 " 93210 " 9P^PHItfv) + Р(НЬ)Р(А|ЯЬ) ^ • | + ^ . |P^PHItfv) + Р(НЬ)Р(А|ЯЬ) ^ • | + ^ . |2929
Первый бросивший монету игрок выигрывает с вероятно- 2 ч *1
стью р = -, второй -д = 1—р=-.
Решение легко понять из ответа для вероятности надежности прибора: Р = (pi + (1 - Р1)рР2)(Рз + (1 - Рз)рР4).
Вероятность хотя бы одного попадания в мишень равна единице минус вероятность всех трех промахов. Пусть р
Первый бросивший монету игрок выигрывает с вероятно- 2 ч *1
стью р = -, второй -д = 1—р=-.
Решение легко понять из ответа для вероятности надежности прибора: Р = (pi + (1 - Р1)рР2)(Рз + (1 - Рз)рР4).
Вероятность хотя бы одного попадания в мишень равна единице минус вероятность всех трех промахов. Пусть р
— вероятность попадания, ад- вероятность промаха при одном выстреле. Тогда 0.875 = 1 — д3, и, следовательно, g = 0.5, р = 1 — g = 0.5.
Обозначим Ai ={попадание l-й бомбы}. Тогда Р(мост_разрушен) = Р(А1А2А3 + А1А2Аз+А1А2Аз 4- АМ2А3)
= Р(А!)Р(А2)Р(Лз) + Р(А1)Р(А2)Р(Аз)+ +Р(А1)Р(А2)Р(А3) + Р(А1)Р(А2)Р(Аз) =
= 0.9-0.3 0.4+0.1-0.7-0.4+0.1 • 0.3 0.64-0.1 0.3 0.4 = 0.166.
— вероятность попадания, ад- вероятность промаха при одном выстреле. Тогда 0.875 = 1 — д3, и, следовательно, g = 0.5, р = 1 — g = 0.5.
Обозначим Ai ={попадание l-й бомбы}. Тогда Р(мост_разрушен) = Р(А1А2А3 + А1А2Аз+А1А2Аз 4- АМ2А3)
= Р(А!)Р(А2)Р(Лз) + Р(А1)Р(А2)Р(Аз)+ +Р(А1)Р(А2)Р(А3) + Р(А1)Р(А2)Р(Аз) =
= 0.9-0.3 0.4+0.1-0.7-0.4+0.1 • 0.3 0.64-0.1 0.3 0.4 = 0.166.
Р = Р1(р2 + Рз - Р2Рз)Р4(1 - Ps) + Р5.
Р = (pip2 + РЗ - Р1Р2Рз)(Р4 + Р5 ~ Р4Рб)(1 - Рб) + Рб •
Р = Р1(р2 + Рз - Р2Рз)Р4(1 - Ps) + Р5.
Р = (pip2 + РЗ - Р1Р2Рз)(Р4 + Р5 ~ Р4Рб)(1 - Рб) + Рб •
Р = 1 - 0.9 • 0.8 • 0.6 = 1 - 0.432 = 0.568.
Р = 1 - 0.9 • 0.8 • 0.6 = 1 - 0.432 = 0.568.
Р=(5)31 = 4 = ^И1. 664129610
Р = £= £ t;)2”*
m=llp=)=l/2 m=i -г
Р=(5)31 = 4 = ^И1. 664129610
Р = £= £ t;)2”*
m=llp=)=l/2 m=i -г
1
4<1 -
1
4<1 -
1 з
1 з
7.1. р=1.1 + 1(1+ 1.1)+ 1.1.1
3 23V33 2'3 2 2
7.1. р=1.1 + 1(1+ 1.1)+ 1.1.1
3 23V33 2'3 2 2
5
12’
5
12’
Обозначим Hi ={выбрали кубик}, Я2 ={выбрали пи
Обозначим Hi ={выбрали кубик}, Я2 ={выбрали пи
рамиду}, А ={выпала цифра 4}. По формуле Байеса
рамиду}, А ={выпала цифра 4}. По формуле Байеса
I А) = Р№Р№А =
11 2Р(Н1)Р(Д|Н1) + Р(Я2)Р(Д|Я2)
I А) = Р№Р№А =
11 2Р(Н1)Р(Д|Н1) + Р(Я2)Р(Д|Я2)
1
' 6
41 .. 11~
5 " 6 ' 5 ' 4
1
' 6
41 .. 11~
5 " 6 ' 5 ' 4
7.3. По формуле полной вероятности Р = ^ ’ ^ "^ ^ = ^-
ТА. Обозначим Ну ={первый белый}, Щ ={первый черный}, А ={следующий за первым - белый}. По формуле Байеса
7.3. По формуле полной вероятности Р = ^ ’ ^ "^ ^ = ^-
ТА. Обозначим Ну ={первый белый}, Щ ={первый черный}, А ={следующий за первым - белый}. По формуле Байеса
P(HV\A) =
P(HV\A) =
Р(НАР(А\НА
Р(НАР(А\НА
32
10 " 9
32
10 " 9
P^PHItfv) + Р(НЬ)Р(А|ЯЬ) ^ • | + ^ . |
P^PHItfv) + Р(НЬ)Р(А|ЯЬ) ^ • | + ^ . |
2
9
2
9
_ 3, - 10’_ 3, - 10’По формуле полной вероятности Р = ^ * л + ^;1
_ 3, - 10’
_ 3, - 10’
У 10 9 3
Р(грузовая машина) = -.
200200ОТВЕТЫ И РЕШЕНИЯ К ЗАДАЧАМ
200
200
Начало решения аналогично решению задачи 2 (§7). Обозначим Л ={в кабане две пули}, Яцо ={попал первый, попал второй, не попал третий} и т. д. В силу независимости Р(Яц0) = 0.8 0.4 0.8 = 0.256, Р(Яю1) = 0.8 0.6 0.2 = 0.096, Р(Яои) = 0.2 0.4 0.2 = 0.016. По формуле Байеса Р(Яцо|Л) =
0.256160.0966...0.016 _ 1
~ 0.368 ~ 23’ ' 101 * ' ~ 0.368 ~ 23’ ' 011 * ' “ 0.368 ” 23' Таким образом, первому и второму вместе нужно отдать 16 долей из 23, первому и третьему вместе - 6 долей, а второму и третьему вместе - 1 долю. Между собой они должны делить пополам, поскольку, если оба попали, то независимо от вероятностей попадания их вклад одинаков. Окончатель- 161.6122
но имеем,чтопервому нужноотдать—. -+—♦-=—
„161, 1 117
долидобычи,второму -—•-+ — •-=--,атретьему-
232232
6111 _ 7
23 2 + 23 * 2 ” 46
a)P = P10(5) = C?0^ = ^;
Р = Р10(3,8) = 1 - ^(1 + с;0 + С,о + С?о + 1) = ^.
Поскольку Р4(2,4) = |^ ^ ^ = Ps(3,5), то вероятнее выиграть больше одной партии из четырех.
Р(хотя бы одна шестерка при 6 бросаниях) =
= 1 - (г)6 = 1 - ^ к 1 - 0 3349 = °-6651- О40000
Р(не менее двух шестерок при 12 бросаниях) =
= 1-(|)12-12.1.(|)U = 1-1^^0.6187.
Р(не менее трех шестерок при 18 бросаниях) =
11/5\16_1516(25 + 90 + 153)
Ч' 18‘б*'1б^'в'1в18~
to 1 — 0.4027 = 0.5973. Следовательно, шансы убывают.
о 48Г3/1\52Г5/Ь»_ 8.10+21 _ 41
Р = d. (I)2 . | + Ci . (I)3 = i (3.5 + 1) =Д = А
Три лампы горят с вероятностью Я = Cf • (—) • — = — ^j^Q2 = 0.4096. Наивероятнейшее число лежит в пределах от 3.2 — 0.2 до 3.2+ 0.8. Следовательно, чисел два: 3 и 4.
Вероятность того, что изделие бракованное р = 0.01. Тогда Р(среди п хотя бы одно бракованное) =
ТЕОРИЯ ВЕРОЯТНОСТЕЙТЕОРИЯ ВЕРОЯТНОСТЕЙ201201
ТЕОРИЯ ВЕРОЯТНОСТЕЙ
ТЕОРИЯ ВЕРОЯТНОСТЕЙ
201
201
= 1 — Р(среди п нет бракованных) = 1 — (1 — 0.01)” ^ 0.95.
Решая это неравенство получим п ^ f^^ ~ 298.073. Следовательно, наименьший объем должен состоять из 299 изделий.
з
Вероятность равна Р = 52 ^зЧ^РзЧ^ " Jb=O
= —-—(123 + 9 • 42 • 122 + 9 422•12 + 423) = 0.32076. 1ППППППХ’'
Р to 1 - с"8 - 8е-8 - —е"8 = 1 - 41е"8 to 0.986.
2
Р to е-3(3 + у) = е"3у to 0.373.
Вероятность выпадения шестерки р = -. Воспользуемся формулой 9.8. Имеем д=1—р=-, пр = —, y/npq = —. Естественно выбирать границы симметричные относительно среднего пр, т. е. mi = пр — т, m2 = пр + т, где т неизвестно и его нужно определить. Согласно формуле 9.8 0.9973 = Pn(np—m, np+m) to 1{ф(-Д=)—= ф(^).
х'2\ \Vnp7/ X Vwq)) \ 20 /
Из таблицы для функции Лапласа получаем ^ = 3 или m = 10. Следовательно, mi = ^ —10 = з| m2 = ^+Ю = 2з|. и значит при 80 бросаниях шестерка выпадает с вероятностью, близкой к 0.9973 в пределах от 4 до 23 раз.
Воспользуемся формулой 9.8. Имеем р = 3/4, q = 1/4, V^ = ^768 1 i = 12, пр = 768 • 1 = 576. Тогда
ап = —— = — 1,Ьп = —= 2, и искомая вероятность
Р to 1(Ф(2) + Ф(1)) to 1(0.9545 + 0.6827) = 0.8186.
По формуле 9.7 имеем Рзоо(75) to ^^(0) ^ 0.053.
Р(не более трех разбитых) to е-1(1 + 14-14-1) = = -е-1 to 0.981.
з
Применим формулу 9.8. Имеем п = 22500, А ={ответ неискренний), р = Р(Л) = 0.2, q = 1 — р = 0.8, mi = 4380. m2 = 4560. Тогда = V22500 0.2 • 0.8 = 60, ап = (0 - 22500
0.2)/60 = —75, Ьп = (4620—22500 0.2)/60 = 2. Теперь вычислим искомую вероятность
Р225Оо(0,4620) * 1(Ф(2) - Ф(—75)) « |(Ф(2) + 1) « 0.9773.
Закон распределения имеет вид
X
0
1
2
р
60
25
2
87
87
87
Закон распределения имеет вид
X0123р8 100096 100038410006121000X0123р8 100096 100038410006121000при х ^ 0,при х ^ 0,при 0 < X ^ 7Г,при 0 < X ^ 7Г,10.3. а) F(x) = <10.3. а) F(x) = <1,^(1 -cos аг),0,1,^(1 -cos аг),0,при 7Г < X.при 7Г < X.
X
0
1
2
3
р
8 1000
96 1000
384
1000
612
1000
X
0
1
2
3
р
8 1000
96 1000
384
1000
612
1000
при х ^ 0,
при х ^ 0,
при 0 < X ^ 7Г,
при 0 < X ^ 7Г,
10.3. а) F(x) = <
10.3. а) F(x) = <
1,
^(1 -cos аг),
0,
1,
^(1 -cos аг),
0,
при 7Г < X.
при 7Г < X.
t) Р(0 $ X $ 1) = F^) - F(.O) = 1(1 - cos ^ « 0.146.
Закон распределения имеет вид
У
0
0.5
1
Р
4 То
5
10
1
10
Величина У = е х, поскольку X неотрицательна, принимает значения в интервале [0,1]. Для 0 ^ у ^ 1
ОО
Fy (у) = Р (е"х < у) = Р(Х > - In у) = j e-"dv = у.
- In у
Следовательно, величина У равномерно распределена на промежутке [0,1].
Поскольку У = X2, то Гу (у) = 0 при у ^ 0, а при У > О имеем Гу (у) = Р^Х2 < у) = Р(-^/У < X < y/у) = = Fx^Vy^ — Fx^—y/yY Дифференцируя это равенство по у, получим F^ = ^F'xkV^ + A-F^-y/yY Отсюда в силу второго свойства плотности распределения ($10) следует, что при у > О
/у (у) = ^(/Д-V^+ /x(Vy)),
и /у(у) = 0 при у ^ 0.
Закон распределения имеет вид
X
0
1
2
3
4
р
16
32
24
8
1
81
81
81
81
81
0 = 2Р(Х>1)=1.
о = А Р(3 $ X < 4) = 22.
Применяя формулу (10.6) для у(ж) = V®, получим
10.11. Применяя формулу (10.6), получим
/у (у) =/у (у) =|(у-1)2, 1^у<3,о, у < 1, 3 < у.
/у (у) =
/у (у) =
11.1. Совместный закон распределения имеет вид
(Х,¥)
(5,5)
(5,2)
(2,5)
(2,2)
Р
28
91
24
91
24
91
15
91
/(г,у) = абе-^-^.
Пусть Z = тах{Х,У}. Тогда Fz(x) = Fx^Fy^xy
Пусть Z = тт{Х,У}. Тогда Fz(x) =
= l-(l-Fx(x))(l-FK(x)).
Пользуясь определением совместной плотности распределения, вычислим совместную функцию распределения. При 0 х тг/2, 0 у тг/2
J J ^ sin(« 4- v)dudv = |(sin х 4- sin у — sin(x + у)), о о
При 0 ^ х ^ тг/2, тг/2 ^ у
® 1
|(sin х 4- sin 1 — sin(x 4- !))•|(sin х 4- sin 1 — sin(x 4- !))•F(x,y) = У j | sin(u 4- v)dudv = о о
|(sin х 4- sin 1 — sin(x 4- !))•
|(sin х 4- sin 1 — sin(x 4- !))•
При тг/2 ^ х, 0 ^ у ^ тг/2 аналогично
F^x, у) = ^(siny 4- sin 1 - sin(y 4-1)).
При х ^ 0 или у ^ О имеем F(x, у) = 0.
Е(Х) = 1.5, D(X) = 0.15.
Е(Х) = 4,D(X) = |.
Пусть Xi - очки, выпавшие на жетоне, Х2 - на кубике. Тогда X = Xi 4- Х2 и закон распределения имеет вид
X
1
2
3
4
5
р
1
6
1
6
1
3
1
6
1 6
Используя свойства математического ожидания и дисперсии, получим Е(Х) = E(Xi) 4- Е(Х2) = 14-2 = 3,D(X) = = d(x1) + d№) = i4 + 14 + 14 + 14 = 5
Пусть Xi - очки, выпавшие на одном жетоне, Х^ - на другом. Тогда X = Xi 4- Х2 и Е(Х) = E(Xi) 4- Е)(Х2) = = 4 4- 3 = 7,D(X) = D(Xi) 4-D(X2) = 14-4 = 5.
Закон распределения имеет вид
X
0
1
2
3
р
8
27
12
27
6
27
1
27
Математическое ожидание и дисперсия равны Е(Х) = 1, D(X) =
Используем решение задачи 11.1 и свойства вероятностей pij из §11. Закон распределения величины X следующий: Р(Х = 2) = ^,Р(Х = 5) = у. Закон распределения величины У такой же. Тогда Е(Х) = у, D(X) = ^, Е(ХУ) =
1240 „/v ^Е(ХУ)-Е2(Х)1
= -^-. В результате получим г(Л,У) = ——^^д— = ~13"
Математическое ожидание случайной величины X равно
т/2 я/2т/2 я/2^=М J^=М Jх sin(x 4- y)dxdyх sin(x 4- y)dxdyо оо о
т/2 я/2
т/2 я/2
^=М J
^=М J
х sin(x 4- y)dxdy
х sin(x 4- y)dxdy
о о
о о
т/2
j «(cos х — cos(x 4- vjT^dx = ^ ~ 0.785 о
Дисперсия случайной величины X равна
ir/2x/2
D(X) =D(X) =х2 sin(x 4- y)dxdy - ~ = о о
D(X) =
D(X) =
х/2
У ж2(созх — cos(® 4- ntl^dx — ^ = у^ + ^ ~ 2 « 0,188 о
Из симметрии плотности вероятности относительно х и у следует, что Е(У) = Е(Х), В(У) = D(X). Используя первое
свойство ковариации, получим
ir/2 ir/2
cov(X, У) = | j J xysin^x + y)dxdy - ^ = о о
ir/2
ж(со8ж4-(- - l)sma?)dz- — = - - — - 1. *АО w АО
о
Таким образом, коэффициент корреляции равен
г№У) =г№У) =cov(X, У) _ пре) *cov(X, У) _ пре) *Я _ Я2 _ .216116 + 2 ~ 2Я _ Я2 _ .216116 + 2 ~ 20.0460.1880.0460.188to 0.245.to 0.245.
г№У) =
г№У) =
cov(X, У) _ пре) *
cov(X, У) _ пре) *
Я _ Я2 _ .
2161
16 + 2 ~ 2
Я _ Я2 _ .
2161
16 + 2 ~ 2
0.046
0.188
0.046
0.188
to 0.245.
to 0.245.
1) Поскольку |(1 — ^) 1 = ^ 4* ^Z 4" 5^ + • • • , ТО это соответствует дискретному распределению
Р(Х = 1) = ;А_, 1 = 0,1,2
Поскольку еЗЛ(г-1) = е“ЗА 53 "гг"> то к=0 к*
P(X = fc)= 1^е-зл, к — 0,1,2,....
Поскольку (| + ^п = £ Ck(^)k(^)n~kzk, то Р(Х = к) =
= Ск(^Ч^)П"к,к = 0,1,..., п, и Р(Х = к) = 0 при к > п.
1) Имеем cos2 t = le1^-2) 4- | 4- ^ezZ2, следовательно,
’О, ж ^ —2;
-2 < x 0;
^=1 з
0 < к 2;
2 < x.
Имеем ^(cosZ 4- cos 2/) = -e-lt 4- -eu 4- -e“12f 4- -ег2г. Это -2''4444
дискретное распределение co скачками - в точках ±1,±2.
212
Имеем - 4- т cos3/ = - 4- те~г3< 4- -е13<, следовательно, 3 3366
Р(Х = 0) = 5,Р(Х = ±3) = 1.
Можно записать
^(z) = £ г‘Р(Х + l = fc + l)=l§ ?Р(Х + 1 = 0- *=01 /=1
Используя это равенство и тот факт, что X - неотрицательная величина, получим ответ на первый вопрос
V’X+iW = £ z'P(X + 1 = /) = Р(Х + 1 = 0) + *) = 1=0
Ответ на второй вопрос с учетом неотрицательности и целочисленности X следующий:
= Е ^Р(2Х = 0 = Е *2*Р(2Х = 2*) = ^2). /=0к=0
у(<) = ^-(1 — cos -) при < ^ 0, у>(<) = 1 при t = 0.
1) 0, а2/3; 2) 0, 7/6; 3) 1, 7/6.
¥W =e«(l + ^-^
{
kl, при кчетном,
0, при кнечетном.
По определению характеристической функции
оосоО
р(0=| jeitx-Mdx=± J e^-^dx-^ j e^^dx =
— oo0— oo
_ 1 / 11 ^ — 1
~ 2 \1 - it1 + it) ~ 1 + t2 *
vW = 1 + e-<’/«’(!^ -If e«2d»V
У *ГоГо q/
30-40x/40030-40x/400По формуле 14.3
30-40x/400
30-40x/400
P(30<X<80) =
V'2\ \ 7400
= | (Ф(2) 4- Ф(1)) « 1(0.9545 + 0.3829) = 0.6687.
Положим p = 1 — — = — ~ вероятность появления хотя бы одной шестерки. Шестерка впервые выпадет при к-ом бросании с вероятностью, задаваемой геометрическим
D /52\fc—ill 11.52fc-2 ,, о
распределением Р = (—)— = —^—,к= 1,2,....
14.3.14.3.
14.3.
14.3.
1, Р(У<у) = { У", . 0.
P(X<z) =1-(1-г)^
. 0,
Поскольку Е(Х) = ~ = 4,D(X) = ^~^ = 3, то
а = 1 и 6 = 7. Следовательно, плотность имеет вид /(ж) =
= jl[l,7](®).
Используя независимость случайных величин Xi и Х2, получим
P(Z = m) = P(Xi = m, Х2 < m)+
+ P(X2 = m, Xi < m) 4* P(Xi = m, X2 = m) =
= 2P(Xi = m)P(X2 < m) + P2(Xt = m) =
= 2Г (I - «) E «*0 - «) + ^t1 - e)8 =
= «m(l-«)(2-«'"-4"’+1)-
P({1,5} + {2,4} + {3,3} + {4,2} + {5,1}) —
Производящие функции величин X и У имеют вид фх^ = (^4-1 — р)”1 и *фу^ = (<ZP-V-1 — pY2- По свойству 3) для производящих функций
Фхл-Y^ = фх^)фу(г) = (zp+ 1 -р)П1+пз.
Следовательно, Х4-У тоже распределена по биномиальному закону Р(Х + У = т) = С^1+пзрт(1 - p)”i+"»-"», т = 0,1,2ni +п2.
15.3. По формуле (15.4)15.3. По формуле (15.4)= 1(1 - е8-4г)1(2,4](^) + 1е8"4г(е2 - 1)1<4.«»(г).= 1(1 - е8-4г)1(2,4](^) + 1е8"4г(е2 - 1)1<4.«»(г).
15.3. По формуле (15.4)
15.3. По формуле (15.4)
= 1(1 - е8-4г)1(2,4](^) + 1е8"4г(е2 - 1)1<4.«»(г).
= 1(1 - е8-4г)1(2,4](^) + 1е8"4г(е2 - 1)1<4.«»(г).
По формуле (15.3)
при Z ^ —1,
при — 1 < Z ^ 1,
при 1 < z 3, при z > 3.
г ^0,0 < z < Ь, b ^ z.г ^0,0 < z < Ь, b ^ z.По формуле (15.4)
г ^0,
0 < z < Ь, b ^ z.
г ^0,
0 < z < Ь, b ^ z.
/х+у(^) = */х+у(^) = *О,1(1-е-’),|(ea6-l)e"“z,
/х+у(^) = *
/х+у(^) = *
Величина —У распределена равномерно на интервале [—6,0]. Тогда полагая X —У = Х + (—У) и применяя формулу (15.3), получим
z с ~ь, —b<z<0,0 ^ z.z с ~ь, —b<z<0,0 ^ z.о,
z с ~ь, —b<z<0,
0 ^ z.
z с ~ь, —b<z<0,
0 ^ z.
/х-у(^) = 4/х-у(^) = 41(1-е-“(*+6)),|(1-е"“6)е-^
/х-у(^) = 4
/х-у(^) = 4
Пусть величина Х< равна 1, если /-й элемент отказал за время t, и Xi = 0, если не отказал. Очевидно Е(Х/) = 0.05.
60
Применим лемму 1 (§ 16) для X = ^ Хь Тогда получим
z=i
606060
р(Е^- ^4) = 1 - р(5>- >5) >1 - 1Е(5» = I-1=1/=1/=1
Пусть величина X/ равна 1, если на Z-ом броске выпал герб, и 0, если выпала решетка. Тогда Е(Х/) = -, D(X/) = ^. Применим (16.4) при п = 1000 и 5 = 100. Полагая ^юоо ~ частота появления герба, получим
1000
p(Uooo - || < 01) = р(| S ^1 - 5001 < 1оо) >
10001 _ 39
10000'4 “ 40
Обозначим Sn - число наступлений А в п испытаниях с вероятностью успеха р. Тогда E(Sn) = пр, D(Sn) = = npq. Следовательно, при р = 0.2 математическое ожидание E(S15OO) = 1500-0.2 = 300 и дисперсия D(Si5oo) = 1500 0.2 0.8 = = 240. Неравенство Чебышева дает
P(|Si500 - 300|>40)^^ = 0.15.
равенство относительно п, получаем п ^*равенство относительно п, получаем п ^*0.9 • 0.10.9 • 0.1При р = 0.9,0.09При р = 0.9,0.09Применим (16.2) для величины Y = ~8П1 где Sn та же, что в решении задачи 16.3. Тогда D(V) = — и число п следует выбирать так, чтобы 1 — —• ^ 0.95. Решая это не-
равенство относительно п, получаем п ^*
равенство относительно п, получаем п ^*
0.9 • 0.1
0.9 • 0.1
При р = 0.9,0.09
При р = 0.9,0.09
0.05(0.01)20.0000050.05(0.01)20.000005q = 1 — 0.9 = 0.1, 6 = 0.01 имеем п >
0.05(0.01)20.000005
0.05(0.01)20.000005
= 18000, т. е. наименьшее число изделий, которые следует
проверить, равно 18000.
Пусть Xi - число очков при /-ом выстреле, a Sn - суммарное число очков при п выстрелах, п = 100. Тогда Е(Х,) = 10 • 0.5 4- 9 • 0.3 + 8 • 0.14- 7 • 0.054- 6 • 0.05 = 9.15, D(X,) = = Е(Х?)-Е2(Х,) = 50 4-24.3 4-6.4 4-2.45 4-1.8-83.7225 = 1.2275, \/D(^) ~ 1.Ю79. По формуле (17.6)
Р(900 < Sim < =о) « 1 (ф(оо) - Ф(^^)) «
« |(1 4- Ф(1.35)) « |(1 4- 0.823) = 0.9115.
Пусть Sn - число вызовов в течение года, п = 365. Тогда Е(Х,) = А = 73, D(X,) = А = 73, и ^Т^Лд = = 1/365^73 = 73V5, / = 1,2,..., 365, и по формуле (17.6)
Р(26500 < S„ < 26800) « |(Ф(^) + Ф(^)) «
to |(Ф(0.95) + Ф(0.89)) to 1(0.6579 + 0.6265) = 0.6422.
Математическая статистика
Для вычисления оценки математического ожидания начальной скорости снаряда воспользуемся формулой (19.1) при с = 1235 : г16 = 1235 4- ^(16 - 8) = 1235.5 м/с. Оценку дисперсии начальной скорости вычисляем по формуле (19.2): s|6 = ^(0.01 + 4 + 6.76 + 0.49 + 9 + 1.69 + 0.16 + 4.84+ +1 + 1.69 + 4.41 + 5.76 + 1.44 + 4 + 0.01 + 0.64) = 3.06 м2/с2.
Хбо = 2, s=0 = ~ • 366 - ^ • 22 to 2.1356.
Имеем ж10 = ^ = 49.9; у10 = ^ = 17.4;
101010
2 Xiyi = 9228; 2 ^ = 27175; £ у? = 3182. Тогда /=11=11=1
г10(£, у) =« о.92.
у (£d=i я2 ~ 1° • ^io) (521=1 ^1 ~ 10 " У1о)
21.1. а) Воспользуемся доверительным интервалом для математического ожидания с доверительной вероятностью21.1. а) Воспользуемся доверительным интервалом для математического ожидания с доверительной вероятностьюЭто значение характеризует сильную линейную зависимость.
21.1. а) Воспользуемся доверительным интервалом для математического ожидания с доверительной вероятностью
21.1. а) Воспользуемся доверительным интервалом для математического ожидания с доверительной вероятностью
а при неизвестной дисперсии, определенном в п. 2 § 21. По результатам решения задачи 19.1 ®ie = 1235.5, \/s^ « 1.75.
Из таблицы для функции Лапласа по а = 0.9 определяем
ZaZa1616to 0.72. Таким образом, интервал
Za
Za
16
16
(1234.78, 1236.22) содержит математическое ожидание с ве
роятностью 0.9.
Построим доверительный интервал для дисперсии. Воспользуемся формулой (21.4). Из таблицы для функции Лапласа по а = 0.92 определяем za to 1.75. Имеем 161
^16 = 52 (^ — ^le)4 = 77'244.2102 to 15.2631. Следовательно,^ V^~^P ^05.2631-9.3636 to 1.06.
Поскольку Sig to 3.06, то интервал (2,4.12) содержит значение дисперсии с вероятностью 0.92.
Воспользуемся формулой (21.3). Имеем Ж5 = 1.594* -10“19, 0| to 0.002739 • 10"19, 20.993 ~ ^.б. Следовательно, ^0 ^v^^^ ^ 0-^5634-10”19, и доверительный интервал имеет вид (1.588-10”19,1.600-10*19). Заметим, что современное значение заряда электрона приблизительно равно 1.602-10“19. Это означает, что приведенные в задаче данные измерений имели систематическую ошибку.
Пусть X - число мальчиков в семье с двумя детьми. Пусть Vi - количество семей с i мальчиками (# = = 0,1,2) среди семей с двумя детьми. Проверяется гипотеза о том, что величина X имеет биномиальное распределение с параметром р = 0.515, т. е. распределение вида
Р(* = 0) = (1 - рУ, Р(Х = 1) = 2р(1 - р), Р(Х = 2) = р2.
Имеем п = 17036,
Дп(^) =Дп(^) =(4019 - 17036 • (0.485)2)2(8488 - 17036 • 2 • 0.515 - 0.485)2 ,
Дп(^) =
Дп(^) =
17036 • (0.485)2+17036 - 2-0.515-0.485+
to 0.118.to 0.118.(4529 - 17036 - (0.515)2)217036 • (0.515)2
to 0.118.
to 0.118.
По таблице квантилей распределения Пирсона с двумя степенями свободы имеем го.95 « 5.991. Следовательно, гипоте
за принимается.
Сначала нужно упорядочить значения, т. е. построить вариационный ряд я(1) xw а?(20). Имеем 0.008 0.1 ^ 0.166 ^ 0.204 ^ 0.253 ^ 0.292 ^ 0.354 ^ 0.372 ^ 0.422 0.429 ^ 0.453 ^ 0.509 ^ 0.520 ^ 0.531 ^ 0.610 ^ 0.648 ^ 0.805 0.809 ^ 0.863 ^ 0.911. Используя определение эмпирической функции распределения, несложно понять, что в данном примере Diq(x\ = >/20 max (=
v 'l<t<20U V ’201’|20 |J
= V20|®(u) - 5б| = V20(0.7 - 0.531) to 0.7758. Из таблицы для распределения Колмогорова находим го.э ^ 1-23. Поскольку Рго(^) < ^о.э, то гипотеза принимается.
Поскольку все вероятности р® равны 0.1, получаем Л / (968 - 1000.2)2 (1026 - 1000.2)2 (1014 - 1000.2)2
~ 1000.2 + 1000.2 1000.2
to 9.3677. По таблице квантилей распределения Пирсона с девятью степенями свободы имеем zq.b = 12.24. Следовательно, критерий Пирсона подтверждает гипотезу о равновероятности появления цифр в записи числа тг — 3.
Формулы (24.8), (24.9) дают следующий ответ:
01 to 67.5,02 « 0.87.
0i = 4,02 = -2,0з = 0.25.
Имеем Цх, 0) = 0° ехр(-0 £ X,), и ^У^1 = п
= 7-^х>- Следовательно, оценка максимального правдо
подобия имеет вид 0П = 1/Хп.
Пусть 0 = (01,0г), где 01 - математическое ожидание, 02 - дисперсия распределения диаметров. Воспользуемся замечанием 1. Тогда
Llx.^ = (Д^Ч^В^)2)’
1=1
Решая систему
8Jr1 = -^'D<x«-eo = o.
находим оценку максимального правдоподобия 0n = (Xn, S^2)), где S^ определен в п. 3 § 19. Для имеющихся данных
г20 = 4.998,8$ = 0.009056.
См. пример 4 § 25.
Таблицы
Приближенные значения функции Колмогорова ОО
^(®) = 52 (~ 1/ ехр(—2/2#2), домноженные на 105 — ОО
X
0.00
0.01
0.02
0.03
0.04
0.05
0.06
0.07
0.08
0.09
0.2
00000
00000
00000
00000
00000
00000
00000
00000
00000
00000
0.3
00001
00002
00005
00009
00017
00030
00051
00083
00129
00193
0.4
00281
00397
00548
00738
00973
01259
01600
02002
02468
03002
0.5
03605
04281
05031
05853
06750
07718
08758
09866
11040
12276
0.6
13573
14923
16323
17775
19268
20799
22364
23958
25578
27219
0.7
28877
30547
32227
33911
35598
37283
38964
40637
42300
43951
0.8
45586
47204
48803
50381
51937
53468
54974
56455
57907
59332
0.9
60727
62093
63429
64734
66008
67252
68464
69645
70794
71913
1.0
73000
74057
75083
76078
77043
77979
78886
79764
80613
81434
1.1
82228
82995
83736
84450
85139
85804
86444
87061
87655
88226
1.2
88775
89303
89810
90297
90765
91213
91643
92056
92451
92829
1.3
93191
93537
93868
94185
94487
94776
95051
95314
95565
95804
1.4
96032
96249
96455
96652
96838
97016
97185
97345
97479
97641
1.5
97778
97908
98031
98148
98258
98362
98461
98554
98643
98726
1.6
98805
98879
98949
99015
99078
99136
99192
99244
99293
99339
1.7
99383
99423
99461
99497
99531
99563
99592
99620
99646
99670
1.8
99693
99715
99735
99753
99771
99787
99802
99815
99830
99842
1.9
99854
99864
99874
99884
99892
99900
99908
99915
99921
99927
2.0
99933
99938
99943
99947
99952
99955
99959
99962
99965
99968
2.1
99971
99972
99975
99977
99979
99981
99982
99984
99985
99986
2.2
99987
99989
99990
99990
99991
99992
99993
99993
99994
99994
2.3
99995
99995
99996
99996
99997
99997
99997
99997
99998
99998
2.4
99998
99998
99998
99999
99999
99999
99999
99999
99999
99999
2.5
99999
99999
99999
99999
99999
105
105
105
105
105
Приближенные значения стандартного нормального
1 Г 2
распределения К^ = ^= J e-t l^dt^ домноженные на ю5
X
0.00
0.01
0.02
0.03
0.04
0.05
0.06
0.07
0.08
0.09
0.0
50000
50399
50798
51197
51595
51994
52392
52790
53188
53586
0.1
53983
54380
54776
55172
55567
55962
56356
56750
57142
57535
0.2
57926
58317
58706
59095
59484
59871
60257
60642
61026
61409
0.3
61791
62172
62552
62930
63307
63683
64058
64431
64803
65173
0.4
65542
65910
66276
66640
76003
67365
67724
68082
68439
68793
0.5
69146
69497
69847
70194
70540
70884
71226
71566
71904
72241
0.6
72575
72907
73237
73565
73891
74215
74537
74857
75175
75490
0.7
75804
76115
76424
76731
77035
77337
77637
77935
78231
78524
0.8
78815
79103
79389
79673
79955
80234
80511
80785
81057
81327
0.9
81594
81859
82121
82381
82639
82894
83147
83398
83646
83891
1.0
84135
84375
84614
84850
85083
85314
85543
85769
85993
86214
1.1
86433
86650
86864
87076
87286
87493
87698
87900
88100
88298
1.2
88493
88686
88877
89065
89251
89435
89617
89796
89973
90148
1.3
90320
90490
90658
90824
90988
91149
91309
91466
91621
91774
1.4
91924
92073
92220
92364
92507
92647
92786
92922
93056
93189
1.5
93319
93448
93575
93699
93822
93943
94062
94179
94295
94408
1.6
94520
94630
94738
94845
94950
95053
95154
95254
95352
95449
1.7
95544
95637
95728
95819
95907
95994
96080
96164
96246
96327
1.8
96407
96485
96562
96638
96712
96784
96856
96926
96995
97062
1.9
97128
97193
97257
97320
97381
97441
97500
97558
97615
97671
2.0
97725
97778
97831
97882
97933
97982
98030
98077
98124
98169
2.1
98214
98257
98300
98341
98382
98422
98461
98500
98537
98574
2.2
98610
98645
98679
98713
98746
98778
98809
98840
98870
98899
2.3
98928
98956
98983
99010
99036
99061
99086
99111
99134
99158
2.4
99180
99202
99224
99245
99266
99286
99305
99324
99343
99361
2.5
99379
99396
99413
99430
99446
99461
99477
99492
99506
99520
2.6
99534
99547
99560
99573
99586
99598
99609
99621
99632
99643
2.7
99653
99664
99674
99683
99693
99702
99711
99720
99728
99737
2.8
99745
99752
99760
99767
99774
99781
99788
99795
99801
99807
2.9
99813
99819
99825
99831
99836
99841
99846
99851
99856
99861
3.0
99865
99869
99874
99878
99882
99886
99889
99893
99897
99900
3.1
99903
99907
99910
99913
99916
99918
99921
99924
99926
99929
3.2
99931
99934
99936
99938
99940
99942
99944
99946
99948
99950
3.3
99952
99953
99955
99957
99958
99960
99961
99962
99964
99965
3.4
99966
99968
99969
99970
99971
99972
99973
99974
99975
99976
3.5
99977
99978
99978
99979
99980
99981
99982
99982
99983
99984
3.6
99984
99985
99985
99986
99986
99987
99987
99988
99988
99989
3.7
99989
99990
99990
99990
99991
99991
99992
99992
99992
99993
3.8
99993
99993
99993
99994
99994
99994
99994
99995
99995
99995
3.9
99995
99995
99996
99996
99996
99996
99996
99996
99997
99997
Приближенные значения функции Лапласа
Ф(я) = -т= [ е~г *2dt. домноженные на 105V^o
X
0.00
0.01
0.02
0.03
0.04
0.05
0.06
0.07
0.08
0.09
0.0
00000
00798
01596
02393
03191
03988
04784
05581
06376
07171
0.1
07966
08759
09552
10348
11134
11924
12712
13499
14285
15069
0.2
15852
16633
17413
18191
18967
19741
20514
21284
22052
22818
0.3
23582
24344
25103
25860
26614
27366
28115
28862
29605
30346
0.4
31084
31819
32552
33280
34006
34729
35448
36164
36877
37587
0.5
38292
38995
39694
40387
41080
41768
42452
43132
43809
44481
.0.6
45149
45814
46474
47131
47783
48431
49075
49714
50350
50981
0.7
51607
52230
52848
53461
54070
54675
55275
55870
56461
57047
0.8
57629
58206
58778
59346
59909
60468
61021
61570
62114
62653
0.9
63188
63718
64243
64763
65278
65789
66294
66795
67291
67783
1.0
68269
68750
69227
69699
70166
70628
71086
71538
71986
72429
1.1
72867
73300
73729
74152
74571
74986
75395
75800
76200
76595
1.2
76986
77372
77754
78130
78502
78870
79233
79592
79945
80295
1.3
80640
80980
81316
8-1648
81975
82298
82617
82931
83241
85547
1.4
83849
84146
84439
84728
85013
85294
85571
85844
86113
86378
1.5
86639
86696
87149
87398
87644
87886
88124
88358
88589
88817
4.6
89040
89260
89477
89690
89899
90106
90309
90508
90704
90897
1.7
91087
91273
91457
91637
91814
91988
92159
92327
92492
92655
1.8
92814
92970
93124
93275
93423
93569
93711
93852
93989
94124
1.9
94257
94387
94514
94639
94762
94882
95000
95116
95230
95341
2.0
95450
95557
95662
95764
95865
95964
96060
96155
96247
96338
2.1
96427
96514
96599
96683
96765
96844
96923
96999
97074
97148
2.2
97219
97289
97358
97425
97491
97555
97618
97679
97739
97798
2.3
97855
97911
97966
98019
98072
98123
98172
98221
98269
98315
2.4
98360
98405
98448
98490
98531
98571
98611
98649
98686
98723
2.5
98758
98793
98826
98859
98891
98923
98953
98983
99012
99040
2.6
99068
99095
99121
99146
99171
99195
99219
99241
99263
99285
2.7
99307
99327
99347
99367
99386
99404
99422
99439
99456
99473
2.8
99489
99505
99520
99535
99549
99563
99576
99590
99602
99615
2.9
99627
99639
99650
99661
99672
99682
99692
99702
99712
99721
3.0
99730
99739
99747
99755
99763
99771
99779
99786
99793
99800
3.1
99806
99813
99819
99825
99831
99837
99842
.99848
99853
99858
3.2
99863
99867
99872
99876
99880
99885
99889
99892
99896
99900
3.3
99903
99907
99910
99913
99916
99919
99922
99925
99928
99930
3.4
99933
99935
99937
99940
99942
99944
99946
99948
99950
99952
3.5
99953
99955
99957
99958
99960
99961
99963
99964
99966
99967
3.6
99968
99969
99971
99972
99973
99974
99975
99976
99977
99978
3.7
99978
99979
99980
99981
99982
99982
99983
99984
99984
99985
3.8
99986
99986
99987
99987
99988
99988
99989
99989
99990
99990
3.9
99990
99991
99991
99992
99992
99992
99992
99993
99993
99993
4.0
99994
99994
99994
99994
99995
99995
99995
99995
99996
99996
Приближенные значения функции Гауссаф^ = -^=е""х2i2dx, домноженные на 105
X
0.00
0.01
0.02
0.03
0.04
0.05
0.06
0.07
0.08
0.09
0.0
39894
39892
39886
39876
39862
39844
39823
39797
39767
39733
0.1
39695
39654
39608
39559
39505
39448
39387
39322
39253
39181
0.2
39104
39024
38940
38853
38762
38667
38568
38466
38361
,38252
0.3
38139
38023
37903
37780
37654
37524
37391
37255
37115
36973
0.4
36827
36678
36526
36371
36214
36053
35889
35723
35553
35381
0.5
35207
35029
34849
34667
34482
34294
34105
33912
33718
33521
0.6
33323
33122
32918
32713
32506
32297
32086
31874
31659
31443
0.7
31225
31006
30785
30563
30339
30114
29887
29660
29431
29200
0.8
28969
28737
28504
28269
28034
27799
27562
27324
27086
26848
0.9
26609
26369
26129
25888
25647
25406
25164
24923
24681
24439
1.0
24197
23955
23713
23471
23230
22988
22747
22506
22265
22025
1.1
21785
21546
21307
21069
20831
20594
20357
20121
19886
19652
1.2
19419
19186
18954
18723
18494
18265
18037
17810
17585
17360
1.3
17137
16915
16694
16474
16256
16038
15823
15608
15395
15183
1.4
14973
14764
14556
14351
14146
13943
13742
13542
13344
13147
1.5
12952
12758
12567
12376
12188
12001
11816
11632
11451
11270
1.6
11092
10916
10741
10568
10396
10227
10059
09893
09728
09566
1.7
09405
09246
09089
08933
08780
08628
08478
08329
08183
08038
1,8
07895
07754
07614
07477
07341
07206
07074
06943
06814
06687
1.9
06562
06438
06316
06195
06077
05959
05844
05730
05618
05508
2.0
05399
05292
05186
05082
04980
04879
04780
04682
04586
04491
2.1
04398
04307
04217
04128
04041
03955
03871
03788
03706
03626
2.2
03547
03470
03394
03319
03246
03174
03103
03034
02966
02898
2.3
02833
02768
02705
02643
02582
02522
02463
02406
■02349
02294
2.4
02239
02186
02134
02083
02033
01984
01936
01888
01842
01797
2.5
01753
01709
01667
01625
01585
01545
01506
01468
01431
01394
2.6
01358
01323
01289
01256
01223
01191
01160
01130
01100
01071
2.7
01042
01014
00987
00961
00935
00909
00885
00861
00837
00814
2.8
00792
00770
00748
00727
00707
00687
00668
00649
00631
00613
2.9
00595
00578
00562
00545
00530
00514
00499
00485
00471
00467
3.0
00443
00430
00417
00405
00393
00381
00370
00358
00348
00337
3.1
00327
00317
00307
00298
00288
00279
00271
00262
00254
00246
3.2
00238
00231
00224
00217
00210
00203
00196
00190
00184
00178
3.3
00172
00167
00161
00156
00151
00146
00141
00136
00132
00128
3.4
00123
00119
00115
00111
00108
00104
00100
00097
00094
00090
3.5
00087
00084
00081
00079
00076
00073
00071
00068
00066
00063
3.6
00061
00059
00057
00055
00053
00051
00049
00047
00046
00044
3.7
00043
00041
00039
00038
00037
00035
00034
00033
00032
00030
3.8
00029
00028
00027
00026
00025
00024
00023
00022
00022
00021
3.9
00020
00019
00018
00018
00017
00016
00016
00015
00015
00014
4.0
00013
00013
00012
00012
00011
00011
00011
00010
00010
00009
Приближенные значения квантилей z^ порядка (1 + а)/2 для распределения Стьюдента с к степенями свободы:
\а fc \
0.4
0.5
0.6
0.7
0.8
0.9
0.95
0.98
0.99
0.999
1
0.727
1.000
1.376
1.963
3.080
6.310
12.71
31.80
63.70
63.70
2
0.617
0.816
1.061
1.336
1.886
2.920
4.300
6.960
9.920
31.60
3
0.584
0.765
0.978
1.250
1.638
2.350
3.180
4.540
5.840
12.94
4
0.569
0.741
0.941
1.190
1.533
2.130
2.770
3.750
4.600
8.610
5
0.559
0.727
0.920
1.156
1.476
2.020
2.570
3.360
4.030
6.860
6
0.553
0.718
0.906
1.134
1.440
1.943
2.450
3.140
4.710
5.960
7
0.549
0.711
0.896
1.119
1.415
1.895
2.360
3.000
3.500
5.400
8
0.546
0.706
0.889
1.108
1.397
1.860
2.310
2.900
3.360
5.040
9
0.543
0.703
0.883
1.100
1.383
1.833
2.260
2.820
3.250
4.780
10
0.542
0.700
0.879
1.093
1.372
1.812
2.230
2.760
3.170
4.590
11
0.540
0.697
0.876
1.088
1.363
1.796
2.200
2.720
3.110
4.490
12
0.539
0.695
0.873
1.083
1.356
1.782
2.180
2.680
3.060
4.320
13
0.538
0.694
0.870
1.079
1.350
1.771
2.160
2.650
3.010
4.220
14
0.537
0.692
0.868
1.076
1.345
1.761
2.140
2.620
2.980
4.140
15
0.536
0.691
0.866
1.074
1.341
1.753
2.130
2.600
2.950
4.070
16
0.535
0.690
0.865
1.071
1.337
1.746
2.120
2.580
2.920
4.020
17
0.534
0.689
0.863
1.069
1.333
1.740
2.110
2.570
2.900
3.960
18
0.534
0.688
0.862
1.067
1.330
1.734
2.100
2.550
2.880
3.920
19
0.533
0.688
0.861
1.066
1.328
1.729
2.090
2.540
2.860
3.880
20
0.533
0.687
0.860
1.064
1.325
1.725
2.090
2.530
2.840
3.850
21
0.532
0.686
0.859
1.063
1.323
1.721
2.080
2.520
2.830
3.820
22
0.532
0.686
0.858
1.061
1.321
1.717
2.070
2.510
2.820
3.790
23
0.532
0.685
0.858
1.060
1.319
1.714
2.070
2.500
2.810
3.770
24
0.531
0.685
0.857
1.059
1.318
1.711
2.060
2.490
2.800
3.740
25
0.531
0.684
0.856
1.058
1.316
1.708
2.060
2.480
2.790
3.720
26
0.531
0.684
0.856
1.058
1.315
1.706
2.060
2.480
2.780
3.719
27
0.531
0.684
0.855
1.057
1.314
1.703
2.050
2.470
2.770
3.690
28
0.530
0.683
0.855
1.056
1.313
1.701
2.050
2.470
2.760
3.670
29
0.530
0.683
0.854
1.055
1.311
1.699
2.040
2.460
2.760
3.660
30
0.530
0.683
0.854
1.055
1.310
1.697
2.040
2.460
2.750
3.650
40
0.529
0.681
0.851
1.050
1.303
1.684
2.020
2.420
2.700
3.550
60
0.527
0.679
0.848
1.046
1.296
1.671
2.000
2.390
2.660
3.460
120
0.526
0.677
0.845
1.041
1.289
1.658
1.980
2.360
2.620
3.370
ОО
0.524
0.674
0.842
1.036
1.282
1.645
1.960
2.330
2.580
3.290
Приближенные значения квантилей zi-a порядка 1 - адля распределения Пирсона с к степенями свободы:
2
\а к \
0.5
0.4
0.3
0.2
0.1
0.05
0.025
0.01
0.005
0.001
1
0.455
0.708
1.074
1.642
2.706
3.841
5.024
6.635
7.879
10.83
2
1.386
1.833
2.408
3.219
4.605
5.991
7.378
9.210
10.60
13.82
3
2.366
2.946
3.665
4.642
6.251
7.815
9.348
11.35
12.84
16.27
4
3.357
4.045
4.878
5.989
7.779
9.488
11.14
13.28
14.86
18.47
5
4.351
5.132
6.064
7.289
9.236
11.07
12.83
15.09
16.75
20.52
6
5.348
6.211
7.231
8.558
10.65
12.59
14.45
16.81
18.55
22.46
7
6.346
7.283
8.383
9.803
12.02
14.07
16.01
18.48
20.29
24.32
8
7.344
8.351
9.524
11.03
13.36
15.51
17.54
20.09
21.96
26.13
9
8.343
9.414
10.66
12.24
14.68
16.92
19.02
21.67
23.59
27.88
10
9.342
10.47
11.78
13.44
15.99
18.31
20.48
23.21
25.19
29.59
11
10.34
11.53
12.90
14.63
17.28
19.68
21.92
24.73
26.76
31.26
12
11.34
12.58
14.01
15.81
18.55
21.03
23.34
26.22
28.30
32.91
13
12.34
13.64
15.12
16.99
19.81
22.36
24.74
27.69
29.82
34.53
14
13.34
14.69
16.22
18.15
21.06
23.69
26.12
29.14
31.32
36.12
15
14.34
15.73
17.32
19.31
22.31
25.00
27.49
30.58
32.80
37.70
16
15.34
16.78
18.42
20.47
23.54
26.30
28.85
32.00
34.27
39.25
17
16.34
17.82
19.51
21.62
24.77
27.59
30.19
33.41
35.72
40.79
18
17.34
18.87
20.60
22.76
25.99
28.87
31.53
34.81
37.16
42.31
19
18.34
19.91
21.69
23.90
27.20
30.14
32.85
36.19
38.58
43.82
20
19.34
20.95
22.78
25.04
28.41
31.41
34.17
37.57
40.00
45.32
21
20.34
21.99
23.86
26.17
29.62
32.67
35.48
38.93
41.40
46.80
22
21.34
23.03
24.94
27.30
30.81
33.92
36.78
40.29
42.80
48.27
23
22.34
24.07
26.02
28.43
32.01
35.17
38.08
41.64
44.18
49.73
24
23.34
25.11
27.10
29.55
33.20
36.42
39.36
42.98
45.56
51.18
25
24.34
26.14
28.17
30.68
34.38
37.65
40.65
44.31
46.93
52.62
26
25.34
27.18
29.25
31.80
35.56
38.89
41.92
45.64
48.29
54.05
27
26.34
28.21
30.32
32.91
36.74
40.11
43.19
46.96
49.65
55.48
28
27.34
29.25
31.39
34.03
37.92
41.34
44.46
48.28
50.99
56.89
29
28.34
30.28
32.46
35.14
39.09
42.56
45.72
49.59
52.34
58.30
30
29.34
31.32
33.53
36.25
40.26
43.77
46.98
50.89
53.67
59.70
35
34.34
36.48
38.86
41.78
46.06
49.80
53.20
57.34
60.28
66.62
40
39.34
41.62
44.17
47.27
51.81
55.76
59.34
63.69
66.77
73.40
50
49.34
51.89
54.72
58.16
63.17
67.51
71.42
76.15
79.49
86.66
60
59.34
62.14
65.23
68.97
74.40
79.08
83.30
88.38
91.95
99.61
70
69.33
72.36
75.69
79.72
85.53
90.53
95.02
100.4
104.2
112.3
80
79.33
82.57
86.12
90.41
96.58
101.9
106.6
112.3
116.3
124.8
90
89.33
92.76
96.52
101.1
107.6
113.1
118.1
124.1
128.3
137.2
100
99.33
102.9
106.9
111.7
118.5
124.3
129.6
135.8
140.2
149.4
Литература
Агапов Г. И. Задачник по теории вероятностей. М., 1986.
Большее Л. Н., Смирнов Н.В. Таблицы математической статистики. М., 1983.
Боровков А. А. Теория вероятностей. М., 1984.
Ван дер Варден Б. Л. Математическая статистика. М., 1960.
Виленкин Н. Я. Комбинаторика. М., 1969.
Вент-цель Е. С. Теория вероятностей. М., 1962.
Гихман И. И., Скороход А. В., Ядренко М. И. Теория вероятностей и математическая статистика. Киев, 1979.
Гнеденко Б. В. Курс теории вероятностей. М., 1961.
Гнеденко Б. В., Хинчин А. Я. Элементарное введение в теорию вероятностей, М., 1982.
Гордин М. И., Фролов А. Н. Теория вероятностей в задачах и решениях, Математическая статистика в задачах и решениях (учебно-методические пособия). СПбГУ, 1997.
Ивченко Г. И., Медведев Ю. И. Математическая статистика. 2-е изд. М., 1992.
Крамер Г. Математические методы статистики. 2-е изд. М., 1975.
Колмогоров А. Н. Основные понятия теории вероятностей. М., 1974.
Мешалкин Л. Д. Сборник задач по теории вероятностей. М., 1963.
Нейман Ю. В. Вводный курс теории вероятностей и математической статистики. М., 1968.
Прохоров Ю. В., Розанов Ю. А. Теория вероятностей. М., 1973.
Свешников А. А. Сборник задач по теории вероятностей, математической статистике и теории случайных функций. М., 1965.
Севастьянов Б. А. Курс теории вероятностей и математической статистики, М., 1982.
Феллер В. Введение в теорию вероятностей и ее применения. Т.1, 2. М., 1967.
Предметный указатель
абсолютный момент 85, 90
порядка к 93
аксиомы теории вероятностей 43
алгебра 40
сг-алгебра 42
бином Ньютона 11
биномиальные коэффициенты 11
вариационный ряд 137
вероятностное пространство 43
вероятность 42
геометрическая 30
ошибки первого рода 172
второго рода 172
события 23
условная 32, 33, 46
выборочная дисперсия 148
квантиль порядка р 145
ковариация 152
медиана 145
характеристика 145
выборочное среднее 147
выборочный момент
порядка к 150
коэффициент корреляции 152
центральный момент по
рядка к 150
гамма-функция 175
гистограмма 143
детерминированная величина 88
дисперсия 88, 90
доверительная вероятность 159
доверительный интервал 159
задача Банаха 60
закон больших чисел 126
распределения 70, 72
— совместный 78
индикатор множества 86
информационное количество
Фишера 166
исход случайного экспери
мента 15
кардинальное число множества 23
квантиль порядка р 145
ковариация 93
корреляционный момент 93
коэффициент корреляции 93
классическая схема 23
критерий 171
критерий согласия Колмого
рова 172
Пирсона (хи-квадрат)
175
математическое ожидание
89
медиана 145
метод максимального прав
доподобия 185
множество занумерованное 7
счетное 7
момент порядка к 93
набор 7
наивероятнейшее число нас
туплений события 58
наудачу 24
неравенство
Коши-Буняковского 92
Рао-Крамера 166
Чебышева 123 несовместные события 18 независимые случайные ве
личины 79, 81
события 36
в совокупности события 36
эксперименты 56 некоррелированные вели
чины 94
общая формула сложения вероятностей 44
умножения вероятностей 34, 47
оценка асимптотически нормальная 156
эффективная 169
инвариантная относительно сдвига 146
максимального правдоподобия 187, 189
несмещенная 146
по методу наименьших квадратов 179
состоятельная 146
эффективная 167
перестановки 7
плотность распределения 74
совместная 82
эмпирическая 142 полная группа событий 52 попарно независимые собы
тия 36
порядковая статистика 136
правило “За”114
произведение двух событий 17
производящая функция 97 простая линейная
регрессия 183
пространство элементарных событий 15
процедура рекуррентного оценивания 192
равномерно распределенная величина 92
размещения 8
разность двух событий 17
распределение 72
биномиальное 107
гауссовское 111
геометрическое 109
двумерное нормальное 115
Коши 76
нормальное 111
отраженное нормальное 112
показательное 110
Пирсона 175
Пуассона 107
равномерное 109
стандартное нормальное 111
Стьюдента 162
треугольное 106
реализация случайной
величины 69
свертка распределений 116
функций 119
симметрическая разность
двух событий 17
случайная величина 69, 72
дискретная 70
выборка объема п 136,
152
случайный вектор 81
эксперимент 15
случайным образом 24
событие 15
дополнительное 17
достоверное 18
наступило 16
невозможное 18
независимое от другого события 35
противоположное 17
содержится 18
сочетания 10
среднее значение 85
статистический критерий 171
статистика 136
Колмогорова 172
Пирсона 174
хи-квадрат 174
сумма двух событий 17
схема Бернулли 56
сходимость в среднем квадратичном 125
по вероятности 125
с вероятностью единица 125
теорема Гливенко 140
интегральная Муавра-
Лапласа 65
Колмогорова 142
локальная Муавра-Лап- ласа 63 -
Пирсона 175
Пуассона 62
треугольник Паскаля 12
уравнение максимального правдоподобия 186, 188
линейной регрессии 184
уровень значимости критерия 172
формула Байеса 53
Бернулли 56
обращения 102
полной вероятности 52
Стирлинга 12
сложения вероятностей
44
условных вероятностей
47
- умножения вероятностей
47
Эйлера 105
функция Гаусса 66
Лапласа 66
множеств 42
правдоподобия 185, 188
распределения 72
Колмогорова 142
случайного вектора 81
совместная 80
эмпирическая 138
характеристическая функция 99
центральная предельная теорема 131
центральный момент
порядка к 93
частота появлений события 22
число комбинаций 13
перестановок 7
размещений 9
сочетаний 10
Андрей Николаевич БородинЭЛЕМЕНТАРНЫЙ КУРСТЕОРИИ ВЕРОЯТНОСТЕЙИ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ
Генеральный директор А. Л. КнопДиректор издательства О. В. СмирноваГлавный редактор Ю. А СандуловОригинал-макет А Н. Бородин
ЛР № 065466 от 21.10.97Гигиенический сертификат78.10.07.952.Т.11666.01.99 от 19.01.99выдан ЦГСЭН в СПб
Издательство «ЛАНЬ»»Санкт-Петербург, пр. Обуховской обороны, 277»для писем: 193029, Санкт-Петербург, пр. Елизарова, 1.Тел. 265-0088, 567-5493,267-1368,262-2495,267-2792, 262-1178. Факс 267-1368e-mail: lan@lpbl.spb.ru, root@lanpbl.spb.rupbl@lpbl.spb.ru (издательский отдел)trade@lpbl.spb.ru (торговый отдел)post@lpbl.spb.ru (книга почтой)
Сдано в набор 20.12.98. Подписано в печать 16.02.99.Бумага офсетная. Формат 84X108 Vm*Гарнитура Школьная. Печать высокая.Печ. л. 8,6. Тираж 8000 экз. Заказ № 659.
Отпечатано с фотоформ в ГПП «Печатный Двор»Государственного комитета РФ по печати.197110, Санкт-Петербург, Чкаловский пр., 15.
A. H. БОРОДИН
ЭлементарныйКУРСТЕОРИИВЕРОЯТНОСТЕЙи математическойСТАТИСТИКИ
РЕКОМЕНДОВАНО
Министерством общего и профессионального образованияРоссийской Федерации в качестве учебного пособиядля студентов высших учебных заведений,обучающихся по нематематическим специальностям
$1
Санкт-Петербург1999
ББК 22.17
Б 83
Бородин А. Н.
В 83Элементарный курс теории вероятностей и математичес
кой статистики. Серия «Учебники для вузов. Специальная литература» / Оформление обложки С. Шапиро, А.Олексенко. — СПб.: Издательство «Лань», 1999. — 224 с.
ISBN 5—8114—0076—4
Учебник содержит систематическое изложение основных разделов элементарного курса теории вероятностей и математической статистики. К традиционным разделам добавлен один новый — «Процедура рекуррентного оценивания», ввиду особой важности этой процедуры для приложений. Теоретический материал сопровождается большим количеством примеров и задач из разных областей знаний.
Рецензенты: доктор физ.-матем. наук А. Ю. Зайцев, академик И. А. Ибрагимов, профессор Я. Ю. Никитин.
ББК 22.17
Оригинал-макет подготовлен автором в пакете Т^Х
Охраняется законом РФ об авторском праве.Воспроизведение всей книги или любой ее частизапрещается без письменного разрешения издателя.Любые попытки нарушения законабудут преследоваться в судебном порядке.
© Издательство «Лань», 1999
© А. Н. Бородин, 1999
© Издательство «Лань», художественное оформление, 1999
ОГЛАВЛЕНИЕ
Предисловие 5
Список обозначений 6