Книга
← К списку книгЗагрузка разделов…
активнаАктивные записи участвуют в каталоге и синках. Неактивная книга скрыта, но не удалена из базы.
Книга
ВВЕДЕНИЕ
Статистическая обработка цифрового материала, полученного путем опытов, учетов и наблюдений при биологических исследованиях, необходима для определения степени достоверности результатов и правильного их обобщения. Особенно важна роль статистических методов как средства, помогающего принять верное решение в условиях неопределенности. Каждый из методов математической статистики имеет свои возможности и ограниченную область применения. Использование метода, не соответствующего данному экспериментальному материалу, может привести к неверным обобщениям и необоснованным выводам.
Эта книга предназначена исследователям-биологам в качестве пособия для самостоятельного выбора метода математической статистики, наиболее соответствующего изучаемому вопросу, и для ознакомления с техникой расчетов при использовании избранного способа обработки цифровых данных.
Перед обработкой результатов исследования прежде всего необходимо определить задачи, которые должны быть решены математическим путем. Отдельные главы книги посвящены этим задачам, и они обычно следующие.
Вычисление средней арифметической и ее ошибки, коэффициента вариации и других показателей, характеризующих один ряд однородных чисел, полученных в эксперименте или иным путем (гл. 1).
Установление по двум и больше сопряженным рядам чисел наличия связи (корреляции) между двумя и больше признаками (гл. 2).
Определение по двум сопряженным рядам чисел формы зависимости (регрессии) одного признака от другого (гл. 3).
Содержание глав книги соответствует в той же последователь* ности трем названным общим задачам. Иначе говоря, если в распоряжении исследователя одна совокупность или группа чисел, то для ее математической обработки подойдут методы из гл. 1; при двух и более различных группах чисел можно применить методы из гл. 2 и 3.
По оглавлению можно найти параграф, содержащий изложение метода, которым надлежит пользоваться. В начале каждого параграфа приводятся разъяснения, дающие возможность дальнейшего уточнения метода обработки данных. Большинство ме-
тодов биометрической обработки изложено в следующем порядке: а) случаи применения метода; б) ограничения его применения; в) формулы и объяснение символов; г) порядок расчетов по этапам; д) определение ошибки и достоверности полученных показателей.
В книге все таблицы обозначены числами без скобок, например табл. 1.04 означает табл. 4 в гл. 1. Номера таблиц в приложении сопровождаются буквой П, например 5П означает таблицу 5 в Приложении. Формулы пронумерованы числами, заключенными в скобки, например формула (2.13) означает гл. 2, формулу 13.
Пример подбора метода статистической обработки. Требуется проверить предположение о том, что между величиной зерен и продолжительностью их созревания у ячменя существует корреляционная взаимосвязь (табл. 2.11). В Соответствии с задачей (см. выше) выбираем гл. 2. В начале гл. 2 читаем пояснения, затем составляем корреляционную решетку, так как численность выборки больше 30. По расположению частот корреляционной решетки (табл. 2.11) принимаем связь за криволинейную (она встречается значительно чаще прямолинейной, и во всех неясных случаях связь лучше считать криволинейной).
Любой из методов, указанных в § 2.05—2.10, можно в рассматриваемом случае применить, но ввиду того, что деление наших данных на классы скорее качественное, чем количественное, выбираем § 2.10, следуя указанию в его начале.
Если требуется получить все основные статистические показатели совокупности, то лучше сразу обратиться к объединенным схемам расчетов (см. § 1.16 и 1.22).
Цифровой материал, подлежащий обработке, должен быть предварительно просмотрен для выявления грубых ошибок, если таковые имеются. Числа, очень сильно отклоняющиеся от остальных, надо обязательно проверить на принадлежность их к данной совокупности (см. § 1.02). Все цифровые данные перед обработкой следует округлять до одинакового числа знаков после запятой, причем оно должно быть минимальным, но достаточным для достижения требуемой точности выводов.
Алгоритмы (последовательные схемы расчетов) излагаемых в книге методов статистической обработки приведены нами по возможности полностью, чтобы не возникало затруднений при их освоении у лиц, недостаточно хорошо знакомых с математикой, но в достаточно лаконичной, почти рецептурной форме для того, чтобы яснее была видна схема расчетов. Последовательность расчетов по каждому методу подобрана таким образом, чтобы она соответствовала обычной логике составления программ для ЭВМ. Статистическая терминология объясняется в тех параграфах, в которых она впервые употребляется.
1
СТАТИСТИЧЕСКИЕ ПОКАЗАТЕЛИВАРИАЦИОННОГО РЯДА
Все объекты каждого исследования (растения, животные, урожаи с опытных делянок или вегетационных сосудов, образцы плодов, семян и пр.) образуют так называемую общую, или генеральную, совокупность. Термин «совокупность» в статистике относят и к полученным в опыте или путем наблюдений числам, характеризующим с какой-либо одной количественной стороны объекты, входящие в данную генеральную совокупность. При этом в статистическую совокупность следует включать лишь числа, относящиеся к качественно однородным признакам (свойствам) объекта исследования. Значение отдельного члена совокупности называется вариантой, или датой. При большом числе дат в генеральной совокупности можно исследовать ее некоторую часть, которая называется выборкой, или частичной совокупностью. Объем выборки, достаточный для изучения свойств генеральной совокупности, определяется по методам из § 1.24.
§ 1.01.СОСТАВЛЕНИЕ ВАРИАЦИОННЫХ РЯДОВ
Числа совокупности, или выборки (пример таких чисел дается в табл. 1.01), если последняя не очень велика по объему, желательно (но не обязательно) расположить в порядке убывания (или увеличения) их величин — в виде ранжированного невзвешенного вариационного ряда (см., например, табл. 1.02). Если совокупность или выборка содержат много чисел (см., например, табл. 1.01), то их следует сгруппировать в классы (табл. 1.03) и составить ранжированный взвешенный вариационный ряд (табл. 1.04). Разновидностями таких вариационных рядов являются многоклассовый (см. табл. 1.04) и двухклассовый (табл. 1.05) ряды, причем последний часто называют рядом с альтернативной (дихотомической) изменчивостью вариант.
Каждая группа чисел (вариант), на которые разбивается совокупность, или выборка, называется классом. Число классов зависит от величины классового интервала, т. е. разницы между наибольшим и наименьшим значением в пределах каждого класса. Классовые интервалы для одного вариационного ряда обычно делают одинаковыми. Иногда делят совокупность на классы по качественным признакам, имеющим нестрого определенное количественное содержание (например, ряды х и у в табл. 2.11).
1=11=11=1 l=ll=lt=ID [^ (^ 1=) (=11°) [=) L (^|^|=)|=||=)|=)|=1Е11=11=11=1 l=ll=lt=ID [^ (^ 1=) (=11°) [=) L (^|^|=)|=||=)|=)|=1Е12303462748423034627484
1=11=11=1 l=ll=lt=ID [^ (^ 1=) (=11°) [=) L (^|^|=)|=||=)|=)|=1Е1
1=11=11=1 l=ll=lt=ID [^ (^ 1=) (=11°) [=) L (^|^|=)|=||=)|=)|=1Е1
2
30
34
62
74
8
4
2
30
34
62
74
8
4
Таблица 1.01. Продолжительность вегетационного периода у 214 сортов ячменя, дни
66
69
63
77
73
66
72
75
75
80
78
63
75
73
74
80
75
78
68
77
82
75
68
72
84
74
65
73
71
81
80
72
79
75
80
78
84
78
67
84
70
65
79
64
72
77
77
77
82
62
77
69
75
66
69
74
81
91
77
81
78
83
78
80
79
76
77
78
77
77
67
82
80
82
80
82
82
78
79
79
86
72
77
74
76
75
79
79
78
82
80
80
84
80
81
80
76
77
75
76
82
80
78
79
77
68
81
80
75
80
78
79
79
78
80
78
78
76
78
73
65
65
67
76
78
67
71
81
76
78
76
72
75
74
70
70
74
84
76
78
73
70
76
71
74
72
75
81
82
75
73
76
69
72
68
71
80
74
72
80
66
79
78
79
64
68
74
80
64
63
65
64
82
74
64
74
64
64
65
68
60
71
77
68
75
76
67
65
70
66
82
74
80
76
72
78
80
80
69
67
88
92
92
65
73
84
73
71
76
72
78
74
80
80
Число вариант, или объем выборки: N = 214
Таблица 1.02. Высота 13 растений сои в виде ранжированного невзвешенного вариационного ряда
Варианты х, см
Варианты х, см
Варианты х, см
Варианты х, см
82
74
64
62
77
73
63
54
74
66
63
44
43
S х = 839,
^ = 13
Таблица 1.03. Группировка данных табл. 1.01 по классам
Границы класса
—3
Частоты
Сумма
57,5—62,4
62,5—67,4
67,5—72,4
72,5—77,4
77,5—82,4
82,5-87,4
87,5—92,5
о
Таблица 1.04. Данные табл. 1.01 в виде ранжированного взвешенного вариационного ряда
Границы класса
Середина класса
Частота
Частость, %
57,5—62,4
60
2
0,9
62,5—67,4
65
30
14,0
67,5—72,4
70
34
15,9
72,5—77,4
75
62
29,0
77,5—82,4
80
74
34,6
82,5—87,4
85
8
3,7
87,5—92,5
90
4
1,9
с = 5
k = 7
# = 214
100
Таблица 1.05. Число мутантов среди растений ячменя
Класс
Число растений, или частота
Частость
%
доли единицы
1. Нормальные растения
984
93,71
0,937
2. Мутанты
66
6,29
о,оез
Всего просмотрено растений, или объем выборки
N = 1050
100
1,000
Число вариант, относящихся к данному классу, называется его частотой. Так, в табл. 1.04 класс 77,5—82.4 имеет частоту 74.
Частоты, выраженные в относительных числах, как доли единицы или проценты от общего числа вариант (объема выборки), называют частостями (см. последние столбцы табл. 1.04 и 1.05).
Группировка вариант по классам и составление таким образом взвешенных вариационных рядов представляет выборку в легко обозримом виде и облегчает последующие расчеты. Однако любая группировка, при которой истинные значения групп вариант, объединяемых в классы, заменяются средними значениями классов, вносит неточность в получаемые затем показатели. Большей частью эта неточность невелика и ею можно пренебречь, однако в тех случаях, когда представляется возможность, например при обработке данных на электронно-вычислительной машине, рекомендуется работать с невзвешенным рядом, без разбивки его на классы. Располагая лишь арифмометром и логарифмической линейкой (минимум вычислительных приборов для биометрических расчетов), целесообразно составлять взвешенный вариационный ряд при объеме совокупности свыше 50 вариант, а при наличии настольного вычислительного автомата — свыше 150 вариант. Объемы данных, меньше указанных, еще доступны
для обработки без их группировки, ибо последняя требует часто много времени и внимания. Составление взвешенных вариационных рядов поддается программированию и может быть выполнено на ЭВМ.
Взвешенный вариационный ряд составляют также и для определения типа распределения обрабатываемых данных. Распределение может быть нормальным, биномиальным, пуассоновским или иным (§ 1.25—1.37). Если эмпирическое (полученное в данном опыте) распределение частот вариант близко к нормальному (метод проверки этого соответствия указан в § 1.25), все приводимые ниже методы применимы к данному материалу (в необходимых случаях в тексте имеются указания об ограничениях применения метода в отношении того или иного типа распределения вариант). Большинство биологических признаков имеет симметричное распределение вариант, близкое к нормальному. Согласно неравенству П. Л. Чебышева из теории вероятностей, при любом типе распределения вариант вероятность отклонения последнего от основного закона нормального распределения, так называемого правила трех сигм, составляет меньше чем 1/9 или равна этому числу. Следовательно, принимая неизвестное распределение вариант за нормальное, можно ошибиться лишь в 11 случаях из 100.
Порядок действий при составлении взвешенного вариационного ряда обычно следующий.
Определяется величина классового интервала, которая зависит от принятого числа классов и от объема выборки:
с=(хк-х^Цк-1^(1.01)
где с — величина классового интервала; xN — максимальная варианта выборки (в табл. 1.01—это 92); xt — минимальная варианта (в табл. 1.01—это 60); к — число классов, которое принимается обычно от 7 до 15 или цо табл. Ш.
Для данных табл. 1.01 по формуле (1.01)
с= (92—60)/(7—1)^5,
а число классов принято к=1. Классовый интервал выражается целым и дробным числом в зависимости от того, являются ли варианты дискретными, т. е. неделимыми (особи, число зерен, дней и тому подобное) или непрерывными, измеряемыми величинами (длина, ширина, высота, вес и т. п.).
Величину классового интервала можно рассчитать также по формуле
с = [ (xN-x,) 1 g 2 ] /1 g1 g 2 = 0,30102,
или(1-02)
c=[(xN—x1)ln2]/ln IV,In 2=0,69314,
или по формуле
c=(x„-x,)/(lW-l),(1.03)
где N — объем выборки, а прочие обозначения те же, что и в формуле (1.01).
По формуле (1.02) для данных табл. 1.01 классовый интервал равен
с= [ (92—60)lg2]/lg214^4.
Такой интервал дал бы около 9 классов, однако для сокращения вычислений и устранения нулевых классов примем классовый интервал, подсчитанный выше, по формуле (1.01): с = 5 дней. Критерием правильности выбора величины классового интервала является четкое выявление основной тенденции распределения при наименьшей потере информации о форме изгибов кривой и других существенных особенностях распределения вариант в данной совокупности. Иногда оказывается, что выборка состоит из разнокачественных элементов и нулевые (а также очень малочисленные) классы служат границей между ними, что можно установить по виду двухвершинной кривой распределения частот и путем анализа собранного материала. Такие выборки для дальнейшей обработки обычно разделяют на две.
Классовые интервалы во взвешенном ряду могут быть и неравными; это вполне оправданно в тех случаях, когда эмпирическое распределение при этом становится более информативным в отношении специфики изучаемого материала. Иногда следует принять малую величину интервала в области высокой концентрации вариант ряда и, напротив большую в областях их низкой концентрации (см. § 1.21). Классовые интервалы по необходимости не равны между собой, когда строится распределение логарифмированных чисел или же величины на оси абсцисс представляют собой некоторую прогрессию. При непосредственном распределении дат также обычно получают неравные интервалы, при этом точность вычисляемых показателей возрастает (§ 1.10, в). Расчет статистических показателей взвешенного ряда с неравными интервалами ведется по тем же способам, что и для рядов с равными интервалами, за исключением способов сумм (§ 1.10, а) и тех, в которых кодируют варианты в целых числах (табл. 1.21).
Расчет границ классов рекомендуется начать с числа, близкого к минимальной варианте, таким образом, чтобы полученные затем срединные значения классов (см. далее п. 3) были по возможности малозначными или целыми числами, что сократит объем вычислительной работы. Таким произвольным началом в табл. 1.04 является число 57,5, к которому прибавляем по 5 (с=5), записывая все суммы (границы классов) вплоть до высшего класса. Другая граница первого класса — величина 62,4 — получена небольшим уменьшением значения верхней границы второго класса: 62,5—0,1=62,4. Это целесообразно делать для удобства разноски вариант по классам. Все остальные нижние границы классов: 67,4, 72,4 и т. д.— получаются путем последовательного прибавления к ним величины классового интервала.
Рис. 1. Способы регистрации частот при составлении взвешенных вариаци< ных рядов посредством комбинаций четырех точек и шести штрихов (с, десяти (в, г) и пяти штрихов (5)
Произвольное начало отсчета границ классов, кроме того, жeJ тельно выбирать так, чтобы крайние варианты xv и xN по возмо ности оказались ближе к середине своих классовых интервале
Срединное значение первого класса в табл. 1.04 получе так: (57,5+62,5)/2 = 60 дней. В этом числе нет дробной части б; годаря правильно выбранным границам класса. Все остальн срединные значения классов получаются путем последоватеи ного прибавления к ним величины классового интервала. Се] дины классов после их получения рассматриваются как варис ты ряда и обозначаются также через х.
Разноску вариант по классам часто производят «конверт ком», т. е. точками и линиями, последовательные сочетания i торых обозначают числа от 1 до 10 (рис. 1, а, б). Если регистр ционные пометки при разноске вариант делать только штриха» например знаками «елочка» и «домик», то это уменьшит веро: ность ошибок при их подсчете (рис. 1, в, г). Обозначают чис вариант также пятерками штрихов (рис. 1, д). Сумма част после разноски должна равняться объему выборки (в табл. 1 и 1.04 ^ = 214), сумма процентных частостей должна равняй 100%. Если совокупность вариант не вызывает сомнений в oti шении ее качественной однородности, но желательно устраш классы, в которых отсутствуют частоты, следует увеличить кл. совый интервал и повторить работу по разноске вариант сна’
ла. Когда нулевые классы находятся ближе к началу или концу ряда, можно отбросить крайние классы с их частотами (если число классов достаточно большое), благодаря чему не будут включены в ряд сильноотклоняющиеся варианты выборки, нередко возникающие из-за ошибок при сборе материала (см. § 1.02).
Если форма кривой распределения свидетельствует о «смешанном» распределении (две или несколько вершин), это желательно объяснить при биологическом толковании результатов.
При помощи принципа взвешенного вариационного ряда легко решают различные задачи на составление многокомпонентных смесей, расчет концентраций и подобные им, а также строят шкалы балльной оценки.
§ 1.02.
ОЦЕНКА СИЛЬНООТКЛОНЯЮЩИХСЯ ВАРИАНТ
Наибольшее значение признака в выборке называется максимальной, а наименьшее — минимальной вариантой. Если в ранжированном вариационном ряду значение максимальной или минимальной варианты чрезмерно велико или мало по сравнению с соседними числами ряда, то необходимо проверить принадлежность к данной совокупности таких резко отклоняющихся вариант, которые могут относиться к иному сорту, другой популяции, а также возникнуть из-за грубой ошибки при измерении или подсчете. В подобных случаях резко отклоняющиеся варианты, чуждые данной совокупности, должны быть исключены из выборки. Однако это исключение должно быть обосновано посредством количественной оценки отклонения таких вариант.
Для максимальной варианты (при нормальном или близком к нему распределении вариант) применяется формула
An= (%n—xN_^i^xN—х2),(1.04)
где An— критерий принадлежности максимальной варианты к совокупности; xN — максимальная варианта; xN_v — варианта, следующая по величине за максимальной; х2 — варианта, стоящая в ранжированном ряду рядом с минимальной.
Проверим, например, принадлежность варианты 82 в табл. 1.02 к данной совокупности: AN = (82—77)/(82—44) =0,132.
Так как вычисленное значение критерия меньше табличного, которое для Лг= 13 соответствует 0,520 (табл. 2П), то варианту нельзя исключать из выборки.
Для минимальной варианты при распределении, не сильно отличающемся от нормального, применяется формула
At= (х2 x^[^xn_v х^ ,(1.05)
где Ai— критерий принадлежности минимальной варианты xt к совокупности; х2— варианта, стоящая рядом с минимальной; xN-i — вторая по значению варианта после максимальной.
Для примера оценим принадлежность варианты 43 в табл. 1.02 к данной совокупности: А^(44—43)/(77—43) =0,029.
Полученное значение критерия меньше табличного (табл. 2П): 0,029<0,520, поэтому отбрасывать варианту не следует.
В случае, если резко отклоняются по величине не только крайние варианты, но и соседние с ними, принадлежность их к данной совокупности оценивается по тем же формулам (1.04, 1.05). Например, из вариационного ряда 192, 187, 135, 127, 120, 111, 98, 87, 71, 66, 52, 47, 41, 12, 9 по формуле (1.04) надо проверить варианту 187, а по формуле (1.05) варианту 12. Если эти варианты окажутся чуждыми для данной выборки, то, естественно, варианты 192 и 9 также должны быть исключены. Если известно среднее квадратическое отклонение нормально распределенной совокупности, то оценку степени отклонения максимальной или минимальной варианты можно сделать более тоыно при помощи табл. ЗП и формул
^n— ^xN xN_^lo,(1.06)
^=1х,-х,Ш(1.07)
где о — среднее квадратическое отклонение (его называют также сигмой), остальные обозначения те же, что и к формулам (1.04, 1.05). В § 1.09 вычислена величина сигмы для данного ряда, которая равна 11,98. Повторим процедуру оценки этих же вариант по формулам (1.06, 1.07): -()>= (82—77)/11,98 = 0,42; 'ft1=(44—43)/11,98 = 0,08. По табл. ЗП критическое значение для объема совокупности ^=10 (принимаем ближайшее меньшее число) при уровне значимости 0,05 (см. об уровнях значимости § 1.03) равно 1,46, что больше вычисленных значений; следовательно, нет оснований отбрасывать как максимальную, так и минимальную варианту. Если варианта после описанных способов проверки отбрасывается, то вычисление сигмы следует повторить для новой уменьшенной выборки.
§ 1.03.СРЕДНЯЯ АРИФМЕТИЧЕСКАЯ НЕВЗВЕШЕННОГО РЯДА.УРОВНИ ЗНАЧИМОСТИ
Средняя арифметическая — статистический показатель, вычисляемый в первую очередь при решении различных практических и научно-теоретических задач. К сожалению, статистическая обработка в ботанике иногда ограничивается определением средней, даже при наличии возможности легко найти количественное выражение варьирования данных, что необходимо для получения затем ошибки средней и других ценных показателей. Например, нередко проводят наблюдения над сортом, образцом или видом по 5—10 растениям, но признак (такой, как высота, начало цветения или другой) фиксируют в полевом журнале как визуальное среднее из этой группы растений. Получаемая таким образом «средняя» величина, видимо, обладает некоторой долей достоверности, но лишена самого главного — границ научно обосно-
ванного интервала ее надежности. Между тем достаточно при записи результатов в приведенном примере отметить не визуальную среднюю, а данные по каждому отдельному растению, чтобы после несложной обработки в свободное время получить истинную среднюю арифметическую с показателями варьирования и ошибкой, что значительно повысит ценность результата измерения или подсчета.
При биохимических и других аналогичных исследованиях, связанных с трудоемкими анализами, получение достаточного числа повторностей нередко затруднительно. В подобных случаях все же следует находить возможности для автоматизации экспериментов и совершенствования их методического уровня с тем, чтобы получать в любом случае достаточное число повторностей для всех измерений и анализов. Ошибку средней в биохимических анализах можно приблизительно определить на основе обобщения опыта предыдущих аналогичных анализов, что, естественно, является паллиативным решением этого вопроса.
В фенологических и некоторых других результатах наблюдений вместо средней иногда указывают интервал крайних значений признака, например пишут, что некоторое растение начинает цветение 3—12 мая. Такой способ приведения числовых данных наихудший из всех возможных, так как именно крайние значения признака — самые ненадежные по сравнению со всеми другими из той же выборки, что следует из закона нормального распределения (§ 1.25). Если почему-либо все же нецелесообразно отражать результат в виде средней арифметической, то для невзвешенного ряда вместо нее следует привести хотя бы медиану (§ 1.15), которая определяется очень просто и точнее отражает тенденцию ряда, чем крайние величины или их полусумма.
Средняя арифметическая, являясь основной характеристикой статистической совокупности, отражает уровень, по отношению к которому колеблются значения вариант в ней. Вычисление средней арифметической, показанное в данном параграфе, производится для выборки, варианты которой не сгруппированы и представляют собой невзвешенный ряд, например приведенный в табл. 1.02. При большом объеме выборки целесообразно составить взвешенный вариационный ряд и применить метод из § 1.04. Если при вычислении средней арифметической имеется в виду затем оценить достоверность ее значения и получить, кроме того, другие параметры совокупности, то лучше воспользоваться схемой расчета из § 1.16.
Ранжирование ряда при вычислении средних величин не обязательно. Формула вычисления средней арифметической:
M = ^x^N, (1.08) где ^ к — сумма всех вариант ряда; N — объем выборки.
Порядок работы (данные в табл. 1.02).
Подсчитывается число вариант: jV=13.
Суммируются все варианты данной совокупности: 2^=839.
Сумма вариант делится на число вариант: Л1 = 839/13 = = 64,5 см.
Для оценки достоверности средней вычисляется ее ошибка:
mM=<5/VN.(1.09)
где тм — ошибка средней арифметической; о — среднее квадратическое отклонение, вычисление которого для данного ряда приведено в § 1.09, где оно равно 11,98; N— объем выборки.
Для ряда из табл. 1.02: тм = 11,98//13 = ±3,3 см.
Достоверность средней арифметической оценивают по /-критерию Стьюдента:
t = M(mM,(1.10)
где М — средняя арифметическая; тм — ее ошибка.
Для рассматриваемого примера величина критерия равна: / = 64,5/3,3=19,5. Число степеней свободы, которое необходимо знать для определения достоверности средней арифметической при помощи табл. 4П, принимается: v = N—1 = 13—1 = 12, где v — число степеней свободы; N— объем выборки.
Числом степеней свободы считается число независимых отклонений отдельных вариант от средней. Из отклонений независимыми являются все, кроме одного (Л/—1) последнего, величина которого уже определена остальными отклонениями, и поэтому это отклонение не будет независимым. Табличное значение критерия Стьюдента (табл. 4П) для 5% уровня значимости равно 2,179 и на 0,1% уровне значимости равно 4,318. Полученное значение критерия 19,5 значительно выше табличного, поэтому средняя арифметическая вполне достоверна даже при самой строгой оценке, т. е. на 0,1% уровне значимости.
Установлены следующие три уровня значимости в порядке возрастания строгости оценки достоверности биометрических показателей (в %): ^ = 5, 1172=1, Ц73 = 0,1. Им соответствуют в том же порядке возрастания строгости оценки следующие доверительные уровни (в %): Pt = 95, Р2 = 99, Р3 = 99,9. Выраженные в долях единицы уровни значимости равны соответственно: И7/ = = 0,05; W2 = 0,01 и №/=0,001, а те же доверительные уровни в долях единицы: Р/ = 0,95; Р/ = 0,99; Р/ = 0,999. Для биологических исследований во многих случаях достаточно принимать 5% уровень значимости, или 95% доверительный уровень (что одно и то же), при котором считают достаточным, если подтвердится существенность выводов в 95 случаях из 100.
Если вычисленное значение критерия Стьюдента будет меньше табличного (из табл. 4П), это может также означать, что недостаточен объем выборки, по которой найдена средняя арифметическая, или же изменчивость вариант слишком велика, или данные неоднородны.
Средняя арифметическая в результатах обработки опытных данных должна приводиться вместе с ее ошибкой, например: М±тм = 64,5+3,3 см, но при этом обязательно следует пояснять, что приводится одинарная или двойная величина именно ошибки средней.
Для проверки вычислений рекомендуется умножить среднюю арифметическую на объем выборки; полученное число должно равняться сумме вариант. В данном примере MN—^х, 64,538-13 = 838,99, что можно считать хорошим совпадением, так как фактическая сумма вариант равна 839 (табл. 1.02). Сумма отклонений вариант от средней арифметической невзвешенного ряда должна быть равна нулю, что также можно использовать для проверки вычислений: 2(х— М) — 0. Для ряда из табл. 1.02 эта’ сумма отклонений равна 0,006 (табл. 1.11). Сумма отклонений вариант от любого другого числа всегда будет больше, чем сумма отклонений от средней арифметической. Прибавление ко всем вариантам ряда или вычитание от них одного и того же числа, изменяет среднюю арифметическую на ту же величину.
Если объем общей или генеральной совокупности известен, то ошибка средней арифметической
тм = а(1.И)
где о — среднее квадратическое отклонение; No — объем генеральной совокупности; N — объем выборки из нее.
В примере из § 1.04, где о = 6,07; Л/+214, предположим, что 7V0 = 900 сортов, тогда
тм = 6,07/(900—214)/[214 (900—1)] = 0,36.
Ошибку средней арифметической вычисляют также через отклонения от средней арифметической:
тм= ГД^^-vM)2]/[W (Л* — 1)1,(1.12)
где тм — ошибка средней арифметической; 2 (х— /И)2—сумма квадратов отклонений вариант от средней арифметической (она вычислена в табл. 1.11); N — объем выборки.
Для данных из табл. 1.02 по формуле (1.12)
тм = /1721,23/[13(13—1)] = 3,3.
По формуле (1.09) можно найти также объем выборки, если он неизвестен, а сигма и ошибка средней известны: N = ^ШмУ.
§ 1.04.
СРЕДНЯЯ АРИФМЕТИЧЕСКАЯ ВЗВЕШЕННОГО РЯДА
Если кроме вычисления средней арифметической для большой группы наблюдений имеется в виду получить также среднее квадратическое отклонение, ошибку средней и другие параметры совокупности, то лучше пользоваться обобщенной схемой расчета из § 1.22.
Способ произведений
Для больших выборок рекомендуется составить взвешенный вариационный ряд (см. § 1.01), затем вычислить среднюю арифметическую:
(1.13)(1.13)
(1.13)
(1.13)
где ^xf—сумма произведений середин классов х на соответствующие им частоты /; N — объем выборки.
Вычисление М по данным о вегетационном периоде ячменя из табл. 1.04 показано в табл. 1.06. Расчеты по формуле (1.13) проводятся в следующем порядке.
Таблица 1.06. К вычислению средней арифметической взвешенного ряда по способу произведений
Граница класса
Середина класса (варианта) х
Частота f
xf
57,5—62,4
60
2
120
62,5—67,4
65
30
1950
67,5—72,4
70
34
2 380
72,5—77,4
75
62
4 650
77,5—82,4
80
74
5 920
82,5—87,4
' 85
8
680
87,5—92,5
90
4
360
с = 5
к = 1
^ = 214
16 060
Умножаем варианты на их частоты: 60-2=120 и т. д.
Суммируем эти произведения: 2 я/ = 120+1950+.. .+680+ + 360=16060.
Полученную сумму делим на объем выборки: М = 16060/ /214 = 75,05.
Достоверность полученной средней арифметической оцениваем так же, как это было сделано в § 1.03. Среднее квадратическое отклонение для приводимых здесь данных о вегетационном периоде ячменя вычислено в § 1.10 и равно 6,07.
Получаем ошибку средней арифметической по формуле (1.09):
тм = 6,070/^214 = ±0,415 дня.
Вычисляем критерий Стьюдента по формуле (1.10): 1= = 75,05/0,415=181.
Число степеней свободы равно: v = N—1 = 214—1=213.
По табл. 4П, на 5% уровне значимости при 213 степенях свободы /=1,960. Полученное значение критерия достоверности, равное 181, больше табличного, поэтому достоверность средней арифметической не вызывает сомнений. В окончательном виде средняя арифметическая для разбираемого примера записывается так: М±тм = 75,0+0,4 дня. Для проверки вычислений рекомендуется умножить объем выборки на среднюю арифметическую, что должно равняться сумме 2 х/214-75,05= 16060,70. Полученная разница 0,70 может быть опущена, так как возникла вследствие принятой в данном расчете точности промежуточных вычислений.
Сумма 2 (х — М)( должна равняться нулю (в пределах точности вычислений), что также можно использовать для проверки правильности вычислений средней арифметической. При вычислении М по способу произведений классовый интервал может быть неодинаковым в пределах одного взвешенного ряда распределения.
Способ сумм
Когда вариационный ряд состоит из большого числа классов (например, свыше 12), а частоты и середины классов выражаются трехзначными и более числами, вычисление М по способу произведений требует много времени из-за необходимости перемножения многозначных чисел. В подобных случаях и особенно при отсутствии достаточно производительной вычислительной техники можно применить способ суммирования частот вместо их умножения на варианты.
По данным табл. 1.07 вычислим способом сумм среднюю дату конца цветения гладиолуса в Москве.
В таблице даты конца цветения в столбцах 1, 2 даны в днях от 1 марта (см. табл. 5П).
В столбце 2 принимаем за условную среднюю центральную варианту ряда Л = 182,5; при этом можно за условную среднюю взять любую варианту, но желательно, чтобы она была ближе к середине ряда. Частоты из столбца 3 последовательно суммируем до черточки сверху вниз и в нижней половине ряда—снизу вверх, получаем первый ряд сумм частот, из которого таким же образом рассчитываем второй ряд сумм частот. Проверку суммирования производим сложением трех центральных частот из столбцов 3 и 4: 230+667+458=1355, результат совпадает с объ-
Таблица 1.07. Расчет средней арифметической способом сумм
Граница класса, дни от 1 марта
Середина класса х
Частота f
Первый ряд сумм частот
Второй ряд сумм частот
1
2
3
4
5
150—154,9
152,5
10
10
10
155—159,9
157,5
15
25
35
160—164,9
162,5
58
83
118
165—169,9
167,5
137
220
338
170—174,9
172,5
226
446
г 784
175—179,9
177,5
221
667
1451
180—184,9
182,5 = А
230
■ —■
—•
185—189,9
187,5
145
458
1034
190—194,9
192,5
149
313
576
195—199,9
197,5
94
164
263
200—204,9
202,5
51
70
99
205—209,9
207,5
И
19
29
210—214,9
212,5
6
8
10
215—219,9
217,5
2
2
2
с = 5
£ — 14
N = 1355
емом выборки; следовательно, нет ошибки в составлении первого ряда сумм частот. Средняя арифметическая
М=Аа4(^-6С)№,(1.14)
где А—условная средняя ряда, равная 182,5 в табл. 1.07; 62— верхнее число нижней половины второго ряда сумм частот (оно равно 1034); 6t — нижнее число верхней половины второго ряда сумм частот (оно равно 1451/; N— объем совокупности; с — классовый интервал, который должен быть одинаковым в пределах одного ряда.
По формуле (1.14) Л4= 182,5+[ (1034—1451)/1355]-5= 181,0. Ошибка средней арифметической и ее достоверность определяются по формулам из параграфа 1.03.
§ 1.05.
ОБЩАЯ СРЕДНЯЯ АРИФМЕТИЧЕСКАЯПО ЧАСТНЫМ СРЕДНИМ
Иногда встречается необходимость получить общую среднюю составной выборки, для каждой из отдельных частей которой средние арифметические уже вычислены. Такая общая средняя арифметическая
м-(2лш-)/(2л4
(1.15)
где Nt — объемы отдельных частей выборки; Mt— средние арифметические частей выборки; i— порядковые номера частей выборки, l^i^n, где п— число частей выборки.
Число отдельных частей выборки может быть любое. Если части выборки одинаковы по своему объему, т. е. N1 = N2 = = N3 = .. . = NU, то формула (1.15) упрощается: М = n-1^Mi.
В качестве примера найдем общую среднюю арифметическую высоты растений гелениума осеннего за четыре года наблюдений. Число растений и средняя их высота (в см) по годам были: ^=16, М, = 87; W2=16, М2=135; W3 = 20, М3=1ОЗ; У4=18, М4= = 89.
Общая средняя по формуле (1.15):
М=(16-87+16.135+20.103+18-89)/(16+16 4-20+18)= 103 см.
Ошибка общей средней арифметической и ее достоверность определяются по формулам (1.09), (1.10), при этом за N принимается весь объем полной выборки, а среднее квадратическое отклонение рассчитывается по способу, указанному в § 1.12.
В рассматриваемом примере среднее квадратическое отклонение объединенной выборки равно 14,82 (расчет не приводится), отсюда ошибка средней арифметической:
тм = dV У Nt = 14,827/16+16+20+18 = 1,77.
Решение вопроса о допустимости объединения тех или иных выборок возможно при помощи различных методов сравнения, а также на основе понятия нормы признака (§ 1.25), которое и применим в нашем примере. В формуле
НМ-МЖ (1.15а)
о— среднее квадратическое отклонение; М— средняя арифметическая объединенной выборки; М<— средние арифметические частных объединяемых выборок.
Нормированное отклонение для каждой из частных выборок:
^ = (103—87) /14,82 = 1,08; /2 = (103— 135) /14,82 = 3,2;
t3 = (103—103)/14,82 = 0; t4 = (103—89)/14,82 = 0,95.
Выборки с величиной t^ 1 можно объединять, а при /£> 1 этого делать не следует. Следовательно, первую, третью и четвертую выборки можно объединить в одну, а вторую выборку (/2 = 3,2) включить в общую выборку нельзя. Небольшое отклонение от единицы у первой выборки в данном случае можно не принимать во внимание, так как в ней участвовали только однолетние растения, как и в третьей и четвертой выборках. Вторая выборка состояла из двухлетних особей гелениума. После исключения некоторой выборки из объединенной расчеты указанных здесь показателей следует повторить.
§ 1.06.
СРЕДНЯЯ ГАРМОНИЧЕСКАЯ
При усреднении величин, представляющих собой изменения скорости каких-либо процессов, как то прироста длины или диаметра побегов, а также при усреднении индексов, выражающих, в частности, число устьиц на 1 см2 или величин концентрации, например i мг на 1 л, или других подобных отношений, вместо средней арифметической пользуются средней гармонической, которая для невзвешенного вариационного ряда равна:
(1.16)
где Н— средняя гармоническая; N — объем выборки; к — варианты выборки.
Пример. В результате подсчетов числа устьиц на определенной площади по пяти образцам листьев березы бородавчатой получены индексы, представляющие собой число устьиц на 1 см2 (табл. 1.08), которые оказались равными: 5, 7, 10, 13, 15 устьиц на 1 см2. Средняя арифметическая этих индексов по формуле (1.08):.
М = (5+7+10+13+15) /5 = 50/5 = 10 устьиц/см2.
Таблица 1.08. К вычислению средней гармонической
Номер образца
Число устьиц на 1 см2 л:
1/Х
100/х
1
5
0,200
20/
2
7
0,143
14,3
3
10
0,100
10,0
4
13
0,077
7,7
5
15
0,067
6,7
50
0,587
58,7 см2
Средняя гармоническая этих же чисел по формуле (1.16) равна:
Я=5/(1/5+1/7+1/10+1/13+1/15) =5/0,587=8,52 устьиц/см2.
Прямым подсчетом можно доказать,-что в данном случае более правильно употреблять Я вместо средней арифметической. Так, общая площадь пяти листьев (по одному от каждого образца) при условии, что на каждом из них будет 100 устьиц, равна:
100/5+100/7+100/10+100/13+100/15 = 58,7 см2.
Общее число устьиц на этой поверхности, определенное через Я, равно: 58,7-8,52 = 500,1 устьиц, в то время как число устьиц на той же поверхности, определенное через М=10, составля-
ет 58,7-10 = 587 устьиц. Между тем по условию задачи взято 5 листьев по 100 устьиц на каждом, т. е. всего должно быть именно 5-100 = 500 устьиц. Как видим, средняя гармоническая правильно отражает суть дела, а средней арифметической пользоваться здесь нельзя.
§ 1.07.
СРЕДНЯЯ КВАДРАТИЧЕСКАЯИ СРЕДНЯЯ КУБИЧЕСКАЯ
При выведении средних величин для значений площади и объема необходимо согласовать средние по линейным размерам и средние получаемых по ним значений площади и объема. Вычисленная по линейным размерам средняя арифметическая обычно дает меньшие значения площади и объема, чем те, которые получают по фактическому линейному размеру. В таких случаях вычисляют среднюю квадратическую для значений линейного параметра поверхности и среднюю кубическую для значений линейного параметра объема.
Средняя квадратическая невзвешенного вариационного ряда
5=K(S^H, (U7> где х— отдельные варианты линейного параметра; 2*2— сумма квадратов вариант; N — объем выборки.
Форма участков поверхности может быть в принципе любой, однако одинаковой или близкой в пределах усредняемой выборки, значения площади в которой должны определяться по одной формуле. Например, по данным табл. 1.09 вычислим среднюю
Таблица 1.09. Размеры листьев примулы
Длина листовой пластинки х, см
Фактическая площадь листа у, см2
3
7
5
20
6
30
8
'55
S х = 22
2 £/ = 112
Мх = 5,500
5 = 5,788
Му= 28,000 *
квадратическую длины листовой пластинки примулы обратноконической и покажем, что пользоваться средней арифметической в этом случае было бы неверно. Площадь листьев примулы может быть вычислена по уравнению степенной функции: у = = 0,6728х2-1229, где у — площадь листа; х— длина листовой пластинки.
Средние арифметические ряда х и ряда у равны: Л1Х=5,500 см и Л4У=28,000 см2.
Если же подсчитаем среднюю площадь листа у по уравнению, подставив в него среднюю арифметическую длины листовой пластинки х = 5,500, то получим: у = 0,6728-5,5002 1229 = 25,000 см2, т. е. средняя арифметическая длины листовой пластинки не соответствует истинной величине. Средняя квадратическая длины листовой пластинки:
S = V (32+52+62+82)/4 = 5,7879.
Определяя среднюю площадь листа через среднюю квадратическую, получим: z/=0,6728-5,787921229 = 28,000cM2,T.e. то же значение, которое получается по непосредственным значениям площади. Следовательно, средняя квадратическая более верно передает зависимость площади от линейного параметра.
Средняя квадратическая взвешенного ряда
S =VN'^fx3,(1.18)
где 2^2— сумма произведений частот f на квадраты соответствующих вариант х; N — объем выборки.
Средняя кубическая вычисляется для определения средней величины линейного параметра, на основании которого рассчитывается объем какого-либо тела (шаровидных плодов, пыльцы цветков и т. д.):
Q=y N-^x3(1.19)
где х — отдельные варианты линейного параметра; N— объем выборки.
Пример. Требуется определить средний радиус трех шаров, имеющих следующие радиусы ,и объемы: 5 см и 522,0250 см3, 6 см и 902,0592 см3, 7 см и 1432,4366 см3. Средние арифметические радиуса и объема соответственно 6 см и 952,1736 см3. Однако если определять средний объем через среднюю арифметическую радиуса, равную 6, то получим средний объем 902,0592, т. е. величину, не совпадающую с фактической. Средняя кубическая значений радиусов:
Q = ^(б^ТбЧ^Т^ = б, 1091 см.
Средний объем шара, вычисленный по формуле (1.19) с радиусом, равным средней кубической — 6,1091, в точности совпадает с фактическим средним объемом — 952,1736 см3.
Средняя кубическая взвешенного вариационного ряда
Q — VN'^fx3,(1.20)
где 2fa3—сумма произведений частот на соответствующие им кубы вариант; N — объем выборки.
Проверка правильности вычисления средней квадратической и средней кубической линейных параметров заключается в том, что полученные средние при подстановке в формулы определения площади или объема должны давать фактические площадь или объем.
§ 1.08.СРЕДНЯЯ ГЕОМЕТРИЧЕСКАЯ
При математической обработке данных по темпам количественного изменения явлений, например при усреднении темпов роста растений, вместо средней арифметической применяют среднюю геометрическую:
С=уш? (1.21) где П — знак произведения, означает, что все числа, стоящие за ним, следует перемножить, т. е. Пх=х1-х2-х3.. ,xN, среди них при этом не должно быть ни одного х, = 0; N— число вариант (например, число периодов времени).
При вычислении средней геометрической обычно пользуются логарифмами: IgG = Л/"1 212х» где 212 х—сумма логарифмов всех вариант; N — объем выборки.
Темпы роста площади листьев (табл. 1.10) определяются делением площади последующего измерения на площадь предыдущего: 2,2/1,3=1,69; 3,1/2,2=1,41 и т. д.
Таблица 1.10. Рост листа жимолости
Сроки измерений, дни
Средняя площадь листа х, см2
Темп роста '
Сроки измерений, дни
Средняя площадь листа х, см8
Темп роста xi!xi—\
10
1,3
30
3,1
1,41
20
2,2
1,69
40
3,7
1,19
50
4,6
1,24
Средняя арифметическая из значений темпов роста
Л1=( 1,69+1,41 +1,19+1,24)/4= 1,38,
а средняя геометрическая
1g 6 = (0,2279+0,1492+0,0755+0,0934)/4 = 0,13652,
отсюда G = l,37. Проверка ее вычисления производится по формуле
хн=х^-\(1.22)
где xN — максимальная варианта, т. е. последнее измерение наблюдавшегося признака; х^— начальное измерение признака; G— средняя геометрическая; N — число измерений.
xv= 1,3-1,374 = 4,58.
Полученное по формуле (1.22) значение максимальной варианты достаточно близко к фактическому: 4,6 см2, следовательно, средняя геометрическая вычислена верно. Подставляя в формулу (1.22) значение Af= 1,38 вместо G = l,37, получаем ^ = 4,71, т. е. больше фактического: 4,71 >4,6, поэтому средней арифметической здесь пользоваться было бы неправильно.
Средняя геометрическая взвешенного ряда вычисляется по формуле
G = Vx^x^xL . .х1к,(1.23)
или
lg G = 4" V1 1g *2 + /3 lg Х3 + . . . + fk 1 g Хк\ N
где х — варианты (середины классов); / — соответствующие им частоты; N — объем выборки; N = 2/*, &— число классов.
Между рассмотренными средними значениями одной и той же совокупности существует следующее соотношение: H^G^M^. ^S^Q, т. е. соответственно по величине средние располагаются от меньшей к большей в следующем порядке: гармоническая, геометрическая, арифметическая, квадратическая, кубическая. Степень различия между средними одной и той же совокупности зависит от величины коэффициента вариации данных этой совокупности: чем больше коэффициент вариации, тем больше различаются по величине указанные средние. (О коэффициенте вариации см. § 1.13.)
Все средние величины на графике кривой распределения вариант представляют собой точки на оси абсцисс.
§ 1.09.
СРЕДНЕЕ КВАДРАТИЧЕСКОЕ ОТКЛОНЕНИЕНЕВЗВЕШЕННОГО РЯДА
О невзвешенном ряде см. § 1.01.
Мера варьирования признака в статистической совокупности имеет важное методологическое значение в биометрическом ис- следовании для углубленного познания изучаемого явления. Величина колебаний значений вариант около их средней арифметической измеряется средним квадратическим отклонением. Вместе со средней арифметической среднее квадратическое отклонение о является основой для вычисления многих параметров выборки и других биометрических показателей. Среднее квадратическое отклонение в квадрате называется дисперсией о2. Суть понятия «среднее квадратическое отклонение» видна из табл. 1.11, где отклонения от средней перед их усреднением возведены в квадрат, благодаря чему все отклонения становятся положительными, а также получают большую величину, что повышает их значимость и, следовательно, определяет большую
Таблица 1.11. Вычисление суммы квадратов отклонений по данным табл. 1.02
Варианта X
х — М
(х — М^
Варианта X
х — М
(х — М)2
82
17,462
304,921444
63
—1,538
2,365444
77
12,462
155,301444
63
—1,538
2,365444
74
9,462
89,529444
62
—2,538
6,441444
74
9,462
89,529444
54
—10,538
111,049444
73
8,462
71,605444
—20,538
421,809444
66
1,462
2,137444
43
—21,538
463,885444
64
—0,538
0,289444
0,006
1721,230772
чуткость сигмы при измерении ею варьирования признака. Формула (1.24) чаще употребляется при работе на ЭВМ, для невзвешенных рядов при ручных расчетах применяют обычно формулу (1.25).
Прямой способ
Вычисление сигмы непосредственно через квадраты отклонений от средней требует меньшего числа операций, чем по остальным способам:
(1.24)(1.24)<> = + И5 (х- м)2] /^ -1),
(1.24)
(1.24)
где о* — среднее квадратическое отклонение; х— варианты совокупности; М — средняя арифметическая; N — объем выборки.
Перед знаком корня в формуле (1.24) всегда принимается знак плюс. Вычисление сигмы для невзвешенного ряда по этой формуле проводится в следующем порядке (табл. 1.11).
Определить среднюю арифметическую М. Для данного ряда она вычислена в § 1.03 и равна 64,538.
Найти отклонения вариант путем вычитания от каждой из них средней арифметической: х— М. Вычитая: 82—64,538= = 17,462; 77 — 64,538 и т. д., получим второй столбец табл. 1.11, сумма которого должна равняться нулю. В нашем случае 2 (я—/И) = 0,006, что можно считать удовлетворительным приближением к нулю.
Возвести в квадрат отклонения и получить их сумму:
5 (х — М)2 = 1721,230772.
Вычислить сигму по формуле (1.24):
о = + V 1721,230772/(13—1) = 11,98.
В промежуточных вычислениях статистических показателей обычно сохраняется число знаков, достаточное для получения необходимой их точности, сами же показатели приводятся с числом знаков, имеющим реальное значение.
Способ условной средней
Для облегчения расчетов по данному способу, особенно при многозначных вариантах, используется свойство среднего квадратического отклонения не изменять свою величину в зависимости от величины числа, от которого отсчитываются отклонения. Если прибавить ко всем вариантам ряда одно и то же число или вычесть его из них, то величина сигмы от этого не изменится. За условную среднюю арифметическую можно принять любое число Л. Если взять это число целым, близким к средней арифметической, или равным нулю, то вычисления становятся менее трудоемкими. Для вычисления сигмы невзвешенного ряда при ручном счете часто используют формулы (1.25) и (1.27).
Вычислим сигму невзвешенного вариационного ряда через отклонения вариант от условной средней Л = 64. Для этого понадобятся только столбцы 1, 3, 4 табл. 1.12. В столбце 3 таблицы приведены разности числа Л с каждой из вариант. Сумма разностей с учетом знаков равна 4-7. В столбце 4 разности возведены в квадрат, сумма квадратов разностей равна 1725. Проверка промежуточных вычислений делается повторением расчета с другой условной средней, при этом должно выполняться условие:
Таблица 1.12. Вычисление суммы квадратов отклонений от условной средней А и от нуля
Варианта х
Квадрат варианты X2
х — А
(х - А?
х — 65
1
2
3.
4
5
82
6 724
18
324
' 16
77
5 929
13
169
И
74
5 476
10
100
8
74
5 476
10
100
8
73
5 329
9
81
7
66
4 356
2
4
0
Л = 64
4 096
0
0
—2
63
3 969
—1
1
—3
63
3 969
—1
1
—3
62
3 844
—2
4
—4
54
2 916
—10
100
—12
44
1936
—20
400
—22
43
1 849
—21
441
—23
839
55 869
+7
1725
—19
где N — объем сово- условные средние;где N — объем сово- условные средние;JVM,—л2|= |2(*-A)| + |2(*-A)| - купности; Дь Д2— первая и вторая
где N — объем сово- условные средние;
где N — объем сово- условные средние;
2(* —А) и 2(* — А) — суммы отклонений вариант от этих
средних.
В столбце 5 табл. 1.12 приведены отклонения от второй условной средней Д2 = 66, вычисленные только с целью проверки промежуточных расчетов. Три члена последней формулы заключены в прямые скобки; это обозначает, что перед ними в любом случае ставится знак плюс. По нашим данным: 13|64—661 = = |7| + |19|, 26 = 26; следовательно, соответствующие расчеты выполнены верно. Знак суммы отклонений зависит от положения условной средней: если А>»М, то 2(х— ^ХО, а если А<МЭ то 2 (х - а>о.
Сигму вычисляем по формуле
а=+1+^-A2-a+2(^-A]2}/(M-1)(1.25)
где о — среднее квадратическое отклонение;2 (х— Д)2— сумма квадратов отклонений вариант от условной средней Л=64; [2(х—^)] —сумма отклонений, возведенная в квадрат; N— число вариант.
По формуле (1.25)
о = + V" (1725—72/13)/( 13—1) = 11,98.
Средняя арифметическая
М = А + N"12 (х — Д),М = 64+7/13=64,54.(1.26)
Обозначения в формуле (1.26) те же, что и в (1.25). Когда условные отклонения отсчитываются не от числа, близкого к средней арифметической, а от нуля (Д = 0), тогда формула (1.25) примет вид
a = +l/[2*2-W-x(2+|/(W-l)’ (1-27) где о — среднее квадратическое отклонение; 2 х2— сумма квадратов вариант; (2х) —квадрат суммы вариант; N — объем выборки. Формулу (1.27) рекомендуется применять при однозначных вариантах. Если данные двузначные и выше и тем более если ряды большие, то рекомендуется формула (1.25), которая, значительно облегчая вычисления, не делает их менее точными.
Для вычисления сигмы по формуле (1.27) нужны лишь столбцы 1 и 2 табл. 1.12.
Суммируем варианты:2х = 839.
Возводим в квадрат все варианты и суммируем их: 2х2 = 55869.
По формуле (1.27)
о= /(55 869—8392/13)/(13—1) - +11,98.
в. Способ квадрата средней арифметической
Формула (1.28) расчета сигмы может употребляться в тех случаях, когда уже известна с достаточной точностью средняя арифметическая данного ряда:
(1.28)(1.28)
(1.28)
(1.28)
где о — среднее квадратическое отклонение; ^х2—сумма квадратов вариант; N— объем выборки; М— средняя арифметическая данного ряда.
При больших объемах выборок множитель N/(N—1) можно принять за единицу.
Для данных табл. 1.12 по формуле (1.28)
о = 1//55869 _ 645382\.13 = t! 98
' \ 13/ '13— 1
Определение ошибки сигмы и метод проверки ее вычисления см. в § 1.10.
§ 1.Ю.СРЕДНЕЕ КВАДРАТИЧЕСКОЕ ОТКЛОНЕНИЕВЗВЕШЕННОГО РЯДА
СпосЪб сумм
Вычисление сигмы взвешенного ряда по способу сумм наиболее просто, однако в случае резко асимметричного ряда требуется подбор подходящего способа (см. § 1.18). Данный способ сумм целесообразно применять при ручном счете и симметричных рядах, если варианты и частоты ряда — большие числа, особенно если ряд сравнительно длинный, например при числе классов больше 12.
Вычислим сигму по этому способу для вариационного ряда распределения сортов ячменя по продолжительности вегетационного периода в днях, которая приведена в столбце 1 табл. 1.13 (середины классов), а в столбце 2 — соответствующее число сортов ячменя, или частоты.
Требуемый для расчетов вариационный ряд в нашем примере уже составлен (в табл. 1.13 приведены данные из табл. 1.04).
Таблица 1.13. Вычисление полусумм накопленных частот
Варианта х
Частота f
1-й ряд накопленных частот
2-й ряд накопленных частот
qt = 102
q2 = 20
1
2
3
4
90
4
4
4
85
8
12
16
80
74
86
75
62
—
—
70
34
66
—
65
30
32
34
to
2
2
2
с = 5
^ = 214
Чз = 100
94 = 36
Против среднего класса ряда (его варианта — 75) в столбцах 3 и 4 ставим 4 черточки точно так, как это показано в табл. 1.13.
Против крайних частот (4 и 2) записываем те же самые частоты в столбцах 3 и 4.
В столбце 3 составляем первый ряд накопленных частот сверху вниз: 4+8=12, 12+74 = 86. Поскольку дальше вниз стоит черта, накопление частот прекращаем, и таким же образом, но снизу вверх получаем накопленные частоты нижней половины первого ряда: 2+30 = 32, 32+34 = 66, дальше идет черта, накопление прекращаем.
Составляем второй ряд накопленных частот сверху: 4+12 = = 16, ниже идут три черты. Частоты второго ряда, начиная снизу, накапливаем так: 2+32 = 34, выше идут те же 3 черты, накопление частот закончено. Проверка правильности составления обоих рядов накопленных частот заключается в том, что три центральных числа вокруг первой черты должны в сумме дать объем выборки: 62+86-}-66 = 214 = Л7, а прочие числа около четырех черточек равны: 86+16= 102 = ^, 66+34 = 100 = ^3.
Суммируем верхнюю и нижнюю половины каждого из двух рядов накопленных частот:
qx = 4+12+86 = 102,^ = 4+16 = 20,
^з = 66+32+2= 100,94 = 34+2 = 36.
Вычисляем среднее квадратическое отклонение:
О = С /[<7! + <73 + 2 (<?2 + q4) — N"1 fa — <7з)2]/(W — 1), (1.29) где а — среднее квадратическое отклонение; с — классовый интервал; qv — верхняя полусумма первого ряда накопленных час-
тот; q3— нижняя полусумма первого ряда; q2— верхняя полусумма второго ряда накопленных частот; q^— нижняя полусумма второго ряда; N — объем выборки.
Средняя арифметическая в данном случае попутно вычисляется по формуле
М-Д+М-1^-^),(1.30)
где А— начало отсчета полусумм; с — классовый интервал; qY — верхняя полусумма первого ряда накопленных частот; q3— нижняя полусумма того же ряда; N — объем выборки.
Подставляя в формулу (1.30) данные табл. 1.13, получаем
Л4 = 754- [5(102— 100)1/214 = 75,05.
Подставляя значения полусумм из табл. 1.13 в формулу (1.29), получаем
Q _ 5102 ж 100 + 2 (20 + 36) — (102 — 100)2/214 _ g Qg
V214—1~ ’
Ошибка среднего квадратического отклонения вычисляется по формуле
mG=a(2jV)-°-5(1.31)
или (при небольших выборках)
та = о/]/Л2(М—1),(1.32)
где о — среднее квадратическое отклонение; N — объем выборки. Для сигмы, полученной по данным табл. 1.13, по формуле (1.31) ошибка равна:
т0 = 6,06//2^214 = ±0,29.
Таким образом, в нашем примере о = 6,06+0,29.
Когда распределение часто! исследуемого ряда сильно отличается от нормального, лучше вычислять ошибку сигмы по более универсальной формуле
ma = V (ЙТ^ЦЙЙЙЖ(1-33)
где то — ошибка среднего квадратического отклонения; р4— центральный момент четвертого порядка (см. § 1.18); ц2— центральный момент второго порядка (см. § 1.18); N — объем выборки.
Подставляя значения моментов, вычисленные в § 1.18, для той же величины сигмы получим ошибку по формуле (1.33)
т0 = V (3519,947-36,682)/(4 • 36,68 • 214) = 0,263.
Несколько сокращает вычисления формула
(1.34)(1.34)то = 0,5 V(р^Р4 —Нг) М’1.
(1.34)
(1.34)
При известной ошибке средней арифметической тм можно получить тот же результат по формуле
(1.35)(1.35)то = 0,5 V(p2/V) +4 — Шм,
(1.35)
(1.35)
где обозначения те же, что и в формуле (1.33).
Приблизительная проверка вычисления сигмы может быть сделана по соотношениям
х^ ^^ М-I™ 3 ст,х^ ^^ М-I™ 3 ст,х^М—Зо,х^М—Зо,(1.35а)(1.35а)
х^ ^^ М-I™ 3 ст,
х^ ^^ М-I™ 3 ст,
х^М—Зо,
х^М—Зо,
(1.35а)
(1.35а)
где xN—максимальная варианта выборки; М — средняя арифметическая; g — среднее квадратическое отклонение; х^— минимальная варианта.
Для рассматриваемого здесь примера xN = 75,047+3-6,06^ ^93 дня; ^ = 75,047—3-6,06^5 7 дней; фактически х^ = 92 дня, a xf = 60 дней (см. табл. 1.01), что можно считать удовлетворительным совпадением.
Вычисление ошибок среднего квадратического отклонения и средней арифметической можно приближенно проверить при помощи существующего соотношения между ними:
то/тм = 0,70711. (1.356)
Для рассматриваемого примера 0,29/0,415 = 0,7, что можно считать удовлетворительным результатом.
Способ условной средней
Ниже приведенная схема расчета сигмы взвешенного ряда является наиболее распространенной и применяется для сокращения вычислительной работы, особенно тогда, когда варианты (середины классов) и соответствующие им частоты выражены многозначными числами. Расчет необходимых сумм для подстановки в формулу (1.36) приведен в табл. 1.14, где обработан ряд из
Таблица 1.14. К расчету сигмы взвешенного ряда по способу отклонений от условной средней
Варианта (середина класса) х
Частота f
Условное отклонение а
fa
fat
а
fa
90
4
43
+12
36
2
8
85
8
4 2
+16
32
1
8
80
74
41
+74
74
0
0
Л = 75
62
0
0
0
—1
—62
70
34
—1
—34
34
—2
-68
65
30
—2
—60
120
—3
—90
СО
2
—3
—6
18
—4
—8
с = 5
^ = 214
а — (х—Л)/с
+2
314
Л = 80
—212
табл. 1.04.
<т = + с К[5 - N-1 (2 fa^N - 1),(1.36)
где о — среднее квадратическое отклонение; с — классовый интервал; / — частоты ряда; а — условные отклонения вариант от А = 75; N — объем выборки.
Порядок действий.
Выбираем начальную точку отсчета (условную среднюю), расположенную в середине ряда и возможно ближе к максимальной частоте: Д = 75.
Против класса с вариантой 75 (в столбце 3) записываем условное отклонение 0, затем вверх с плюсом, а вниз с минусом записываем отклонения в виде порядковых чисел: 1, 2, 3, 4, ... и т. д. по числу классов. Если варианты ряда (столбец 1) возрастают не так, как в табл. 1.13, а наоборот, т. е. сверху вниз, то отклонения из верхней половины ряда будут отрицательными, а из нижней половины ряда — положительными.
Перемножаем условные отклонения на частоты }: +3-4 = = 4-12; 4-2*8 = 4-16 и т. д. (столбец 4).
Числа столбца 4 умножаем по строкам на соответствующие числа столбца 3: 12-3 = 36, 16-2 = 32 и т. д. (столбец 5).
Суммируя числа столбцов 4 и 5, получаем ^fa = +2 и 2^2 = 314.
Подставим суммы +2 и 314 в формулу (1.36):
о = 5 /(314—22/214)/(214—1) = 6,06.
Средняя арифметическая
(1.37)(1.37)М = A + N^c^fa,
(1.37)
(1.37)
где А — начало отсчета условных отклонений, или условная средняя; с — классовый интервал; ^fa— сумма произведений частот на условные отклонения; N — объем выборки.
Частное ^fc^/N называется первым условным моментом /Hi (см. § 1.18 и 1.22).
В приведенном примере М = 754-5-2/214=75,05.
is?is?Проверку расчета М делаем повторением вычислений суммы отклонений от другой условной средней. В столбцах 6 и 7 исключительно для этой цели составлены отклонения от новой условной средней Л2 = 80 и произведения отклонений на те же частоты. Если AV<.M<.A^ то должно выполняться условие
is?
is?
I у fa — N, если Л1<Д2<Л1 или А^А^М, то долж-
но выполняться условиено выполняться условиеУ fa — У fa =N. Заключение сумм
но выполняться условие
но выполняться условие
в прямые скобки означает, что независимо от их фактического знака перед ними всегда ставится знак плюс. Так как 75<СЛ1 =
= 75,05<80, то выбираем первую из двух формул проверки и получаем: 2+212 = 214, т. е. условие выполняется. Средняя арифметическая, вычисленная по второй сумме отклонений fa = = —212, равна: Л4 = 80+[5-(—212)1/214 = 75,05, т. е. тому же значению, что и при вычислении по первой сумме отклонений. Вычисление ошибки сигмы приводится в § 1.10, а, ошибка и оценка М — в § 1.03.
Способ непосредственного распределения дат
Эту схему расчета удобно применять, если все варианты выборки — малозначные целые числа и среди них много повторяющихся. Формула для вычисления сигмы по способу в:
" = + /[S f^2 - ^-1 (S ^)2]/(М - 1) (1.38) где а— среднее квадратическое отклонение; З/^2— сУмма ПР°~ изведений частот на квадраты вариант; ^fx— сумма произведений частот на варианты; N — объем выборки.
Порядок действий (на примере данных из табл. 1.01).
Выписываем поочередно в столбец 1 табл. 1.15 все варианты и отмечаем в столбце 2, сколько раз каждая из них встретилась в выборке.
Таблица 1.15. К вычислению среднего квадратического отклоненияпо способу в)
Варианта X
Частота /
fx
fx*
Варианта X
Частота f
fx
fx*
1
2
3
4
1
2
3
4
92
2
184
16 928
75
14
1050
78 750
91
1
91
8 281
74
13
962
71188
88
1
88
7 744
73
8
584
42 632
86
1
86
7 396
72
11
792
57 024
84
6
504
42 336
71
6
426
30 246
83
1
83
6 889
70
5
350
24 500
82
11
902
73 964
69
5
345
23 805
81
7
567
45 927
68
7
476
32 368
80
23
1840
147 200
67
6
402
26 934
79
12
948
74 892
66
5
330
21 780
78
21
1638
127 764
65
8
520
33 800
77
14
1 078
83 006
64
7
448
28 672
76
14
1064
80 864
63
3
189
11907
62
1
62
3 844
60
1
60
3 600
21416 0691214 241
2 Г. Н. Зайцев
33
Умножаем варианты на их частоты (столбец 3).
Числа третьего столбца множим на числа первого столбца, результаты записываем в столбце 4.
Суммируем числа каждого столбца, кроме первого: ^=214, 2Л= 16069, 2^2= 1214 241.
Подставляем полученные суммы в формулу (1.38):
о = V0 214 241—16 0692/214)/(214—1) = 5,989.
Одновременно вычислим среднюю арифметическую (1.13): М = 16069/214 = 75,09.
Вычисление ошибки среднего квадратического отклонения — см. § 1.10, а, а ошибки М— см. § 1.03.
Одним из достоинств способа непосредственного распределения дат является также то, что в этом случае отпадает необходимость введения так называемой поправки Шеппарда (см. § 1.18) к величине сигмы.
г. Способ произведений
Этот способ вычисления сигмы отличается от предыдущего тем, что здесь составляется взвешенный вариационный ряд с равными классовыми интервалами, а по способу в интервалы могут быть неравными. Напомним, что наиболее простым по технике вычислительной работы является способ б, который и рекомендуется при симметричных распределениях в большинстве случаев. Для вычисления сигмы по способу произведений используется формула (1.38).
Порядок работы (табл. 1.16).
Таблица 1.16. К вычислению сигмы по способу произведений
Варианта (середина класса) х
Частота f
fx
fx2
Варианта (середина класса) х
Частота f
fx
fx2
60
2
120
7 200
80
74
5 920
473 600
65
30
1950
126 750
85
8
680
57 800
70
34
2 380
166 600
90
4
360
32 400
75
62
4 650
348 750
—
214
16060
1 213100
Перемножая частоты из столбца 2 на соответствующие середины классов из столбца 1, получаем числа столбца 3 таблицы: 120, 1950 и т. д.
Числа столбца 3 последовательно множим на варианты: 120-60- 7200,1950 • 65 = 126 750 и т. д.
Суммируя числа каждого столбца, кроме первого, получаем:
М = 214,5/^ = !6060;S/x2= 1213100.
По формуле (1.38)
о = V (1 213 100—16 0602/214)/(214—1) = 6,07.
Средняя арифметическая в данном случае может быть получена по формуле (1.13): М = 16060/214 = 75,05.
д. Прямой способ
Для машинного счета удобна при вычислении сигмы формула (1.24), написанная в применении к взвешенному ряду:
О = + |/[2(х —М)2/]/^ — 1).(1.38а)
где а — среднее квадратическое отклонение; 2(х—М)Ч— сумма произведений квадратов отклонений вариант от средней на соответствующие частоты; N — объем выборки.
Напомним, что формула 2(х— М)/ = 0, в пределах точности расчетов служит для проверки вычислений средней арифметической и отклонений от нее.
Пример обработки ряда по этому способу дан в § 1.34. Определение ошибки сигмы рассматривается в § 1.10, а расчет ошибки и оценка М приводятся в § 1.03.
§ MLПРИБЛИЖЕННЫЕ СПОСОБЫ ВЫЧИСЛЕНИЯСРЕДНЕГО КВАДРАТИЧЕСКОГО ОТКЛОНЕНИЯ
При планировании эксперимента может возникнуть необходимость определить, хотя бы приблизительно, объем выборки, достаточный для получения достоверных результатов или выводов по тому или иному вопросу. Для этого вычисляют приближенное значение среднего квадратического отклонения по способу случайных серий, размаху варьирования данных и по величине коэффициента вариации, что значительно облегчает расчеты и в то же время позволяет получить значение сигмы с точностью, приемлемой для названной цели. Вычисление сигмы по способу случайных серий на примере данных табл. 1.01 проводится следующим образом.
Неранжированная выборка разбивается на случайные серии, по 9 вариант в каждой, так, чтобы в эти серии попали максимальная и минимальная варианты (если выборка берется неполностью). Если выборка берется полностью и число ее вариант не кратно 9, то допустим случай, когда некоторые серии могут перекрывать друг друга так, что их крайние варианты будут общими для граничащих серий. Левая половина табл. 1.01 образует 12 строк, которые примем за случайные серии по 9 вариант в каждой: сверху вниз 1-я строка — первая серия, 2-я строка — вторая серия.
Подсчитаем размах вариации в сериях, для чего из максимальной варианты каждой серии вычитаем минимальную варианту этой же серии (столбец 4 табл. 1.17).
Таблица 1.17. К вычислению сигмы по способу случайных серий
Серия
XN
Х1
XN — Х1
Серия
XN
Х1
х^] — хг
1
77
63
14
7
80
75
5
2
84
65
19
8
81
70
11
3
84
64
20
9
82
69
13
4
91
69
22
10
80
64
16
5
86
78
8
11
77
60
17
6
84
75
9
12
92
65
27
2 = 181
Средний размах получается от деления суммы размахов (181) всех серий на их число: п= 12. _
Полученное число делим на 3(3=]/9). Если бы вместо девяток разбивали совокупность на четверки, то делили бы не на 3, а на 2 (2="|/4).
Указанные действия отображены в формуле
а“[2(*лг-*1)]/(Зп), (1.39)
где о — среднее квадратическое отклонение; xN— максимальная варианта каждой серии; х4— минимальная варианта серии; п— число серий.
Для данных табл. 1.01 и 1.17 с= 181/(3-12) =5,03. Точное значение сигмы для вегетационного периода сортов ячменя равно 5,989 (§ 1.10, в).
При нормальном распределении вариант весь размах варьирования (xN— xj занимает около 6о. На этом основан приближенный метод вычисления сигмы по размаху варьирования:
a==6-1(xN-x1)> (1.40) или:
o = h-1(xN — x1)> (1.41)
где о — среднее квадратическое отклонение; xN— максимальная варианта выборки; х4— минимальная варианта; h — коэффициент, выбираемый по табл. 6П.
Для ряда из табл. 1.02 по табл. 6П й=3,5; по формуле (1.41) о= (82—43)/3,5= 11,14. Точное значение сигмы этого ряда — 11,976 (см. § 1.09, б).
В тех случаях, когда при планировании опыта известно предполагаемое значение средней арифметической данной совокуп-
ности и примерная, хотя бы определенная глазомерно, величина коэффициента вариации (см. § 1.13), можно определить приближенно среднее квадратическое отклонение для установления минимального в данном эксперименте объема выборки по преобразованной формуле (1.43): о=100-1 Л4и, где о — среднее квадратическое отклонение; М— средняя арифметическая; и — приблизительное значение коэффициента вариации. Например, предполагаемая средняя длина листьев традесканции Л1 = 40 мм и по глазомерной оценке v=10%, отсюда о = 40-10/100 = 4 мм.
Найденное приближенное значение сигмы можно использовать для определения требуемой численности выборки при планировании эксперимента по формуле (1.102).
§ М2.
ОБЪЕДИНЕНИЕ ВЫБОРОКПО ИХ ДИСПЕРСИЯМ
В § 1.05 было показано, как объединить выборки по их средним арифметическим. Часто при этом требуется также найти и среднюю дисперсию объединенной выборки:
о2 = [2 ^ - l)a?]/(S Nt - А=),(1.42)
где Gt2 — дисперсии частных выборок; Nt— объемы частных выборок; к — число частных выборок.
Вычислим среднюю дисперсию для четырех групп измерений диаметра цветков гелениума осеннего: О!2 = 2,00; Nt = 7; a22 = 3,35; ^ = 5; a32 = 2,95; N3 = 8; a42 = 4,37; N4=9.
По формуле (1.42)
.[(7-1)2,00+(5-l)3,35+(8-l)2,95+(9-l)4,3714 9,
О —U.Zt.
(74-5+8+9-4)
откуда a = 1^3,24 = 1,80.
КОЭФФИЦИЕНТ ВАРИАЦИИ
Среднее квадратическое отклонение характеризует степень отклонения вариант данной совокупности от среднего арифметического в абсолютных числах. Однако для сравнения вариабельности двух или более совокупностей величины сигмы не могут быть использованы, за исключением редкого случая, когда средние арифметические одинаковы или очень близки друг к другу. Во всех остальных случаях для сравнения совокупностей по их вариабельности необходимо вычислять коэффициент вариации.
Коэффициент вариации показывает, какой процент составляет сигма от средней арифметической, и позволяет сравнивать совокупности между собой по степени варьирования. Коэффициент вариации имеет важное значение в биологии и агрономии,
например для установления степени выровненности популяции или сорта по тому или иному признаку.
Для оценки различных биологических признаков по степени их варьирования рекомендуется применять шестибалльную шкалу, приведенную в конце данного параграфа.
Коэффициент вариации для чисел с одинаковым знаком вычисляют по формуле
и = о-100/Л1,(1.43)
где и — коэффициент вариации; М — средняя арифметическая; о — среднее квадратическое отклонение.
Варьирование продолжительности вегетационного периода у сортов ячменя (по данным табл. 1.04 и § 1.10) v = 6,06-100/ /75,047 = 8,1%. Следовательно, изученные сорта ячменя сравнительно мало варьируют по продолжительности вегетационного периода и относятся ко второму баллу вариабельности.
Для данных по высоте растений сои (табл. 1.02 и § 1.09) v = = 11,976-100/64,538=18,6%. Растения сои также имеют небольшое варьирование данных по высоте, или, точнее, нормальное, и относятся ко второму баллу вариабельности.
Иногда при вычислении ошибки средней арифметической, например по формуле (1.11), значение сигмы не фиксируют. Величина коэффициента вариации в таких случаях
у= ЮОМ’1^/^,(1.44)
где тм — ошибка средней арифметической; N — объем совокупности; М — средняя арифметическая.
Для определения коэффициента вариации, минуя вычисление сигмы, полезна формула
v=(1.45)
Например, по данным табл. 1.12 а= 11,98; Л4 = 64,54; 2х2 = = 55869; Л^= 13;
и = 100— 13]/(13 — 1) = 19%,
V ( 64,542’
что практически совпадает с результатом, вычисленным по формуле (1.43).
Ошибка коэффициента вариации
ту = и тЛ ^-1 (0,5+0,0001 и2),(1.46)
где у — коэффициент вариации; N — объем выборки.
Чаще для вычисления ошибки коэффициента вариации пользуются менее точной формулой:
ту=и^Ж(1-47)
где обозначения те же, что и в формуле (1.46).
Для рассматриваемого примера о продолжительности вегетационного периода ячменя ошибка его коэффициента вариации по формуле (1.46) zny = 8,1У(0,5 + 0,0001-8,12)/214= ±0,394%, апо формуле (1.47) mr = 8,iy2-214= ±0,391 %. Оба результата практически совпадают, следовательно, при отсутствии особо высоких требований к точности определения ошибки коэффициента вариации можно пользоваться формулой (1.47). О вычислении коэффициента вариации совокупности с альтернативным разделением вариант — см. § 1.26. Если прибавить ко всем вариантам ряда одно и то же число п или вычесть его из них, то величина коэффициента вариации будет
у=(100о)/(Л4±л). (1.48)
Если данные представляют собой смесь отрицательных и положительных чисел, как, например, это бывает при обработке результатов измерения температуры, то коэффициент вариации следует вычислять по формуле
^(ЮОоШЫ+М). (1.49) где (для двух последних формул) о — среднее квадратическое отклонение; |xj—наименьшая отрицательная варианта ряда без знака; М — средняя арифметическая.
В формуле (1.49) принято во внимание то, что при вычислении коэффициента вариации средняя арифметическая, так же как и сигма, должна быть представлена в виде отрезка на числовой оси. Алгоритм вычисления коэффициента вариации для относительных или рациональных чисел покажем на следующем примере. Для ряда из 6 чисел —3, —2, —1, 0, +1, + 2 средняя арифметическая равна —0,5; а сигма 1,87, следовательно, по формуле (1.43) было бы: v= 1,87-100/(—0,5)=—374%, чего не может быть для такого небольшого варьирования данных. Если же М измерить как отрезок от точки —3 до точки —0,5, то она равна |—3| + (—0,5) =2,5; а по формуле (1.49) коэффициент вариации
и = (100 • 1,87)/(| - 3 | + (- 0,5)) = 75 %,
что гораздо ближе соответствует реальности.
В § 1.37 рассмотрена аппроксимация логнормальным распределением результатов изучения варьирования 165 различных признаков растений и предложена шкала (в %): 1) небольшое варьирование — от 0 до 4; 2) и 3) нормальное — от 5 до 44; 4) значительное — от 45 до 64; 5) большое — от 65 до 84; 6) очень большое — от 85 до 104; 7) аномальное — от 105 и больше. В пределах интервала нормы, т. е. второго и третьего баллов, варьирование может различаться: 2) от 5 до 24 — «нижняя» норма; 3) от 25 до 44 — «верхняя» норма.
В последнем числовом примере варьирование относится к пятому баллу и считается большим.
ПОКАЗАТЕЛЬ ТОЧНОСТИ ОПЫТА
Показатель точности опыта выражает величину ошибки средней арифметической в процентах от самой средней арифметической и таким образом служит показателем точности определения последней. Чем больше этот показатель, т. е. процент ошибки, тем меньше точность опыта. Показатель точности опыта
Р=тм-100/М%(1.50)
или
Р = vlVN,(1.51)
где М — средняя арифметическая; тм — ошибка средней арифметической; у— коэффициент вариации; N — объем выборки. Для данных по вегетационному периоду ячменя М=75,05 и ошибка тм = ±0,415. Отсюда показатель точности опыта (1.50) Р = = 0,415-100/75,05 = 0,55%.
Ошибка показателя точности опыта
тР = ^Pyl^jW+WW»(1-52)
где обозначения те же, что и в формуле (1.51).
Для того же числового примера
тР= ±0,55 1^(1/2-214) + (0,55/100)2 = ±0,0268.
В результате Р = 0,55 ±0,03 %.
Точность опыта считается удовлетворительной, если величина показателя не превышает 5%. При значениях, больших 5%, рекомендуется увеличить число наблюдений, или повторностей. Иногда можно снизить величину Р, если повысить точность измерений объектов опыта.
§.1.15.
МЕДИАНА
Варианта, которая разделяет ряд на две равные по числу вариант части, называется медианой. Порядковый номер медианной варианты от начала ранжированного невзвешенного и взвешенного рядов можно определить по выражению 0,5 (Af±l). Используется медиана как средний показатель описательного типа или в качестве средней положения и для непараметрического теста медианы. Медиана взвешенного ряда
Л^e = xe + d(0,5^-L)/^],(1.53)
где хе — начало класса, в котором находится медиана; с — величина классового интервала; N— объем выборки; L — сумма частот классов (начиная с меньшего), предшествующих классу, в котором находится медиана; fe — частота медианного класса.
Рассчитаем медиану вегетационного периода совокупности сортов ячменя по данным табл. 1.04. Порядковый номер медианной варианты 0,5 (214+1) = 107,5. Класс, в котором находится
медиана, определяется путем накопления частот. Так, в табл. 1.04 сумма частот сверху вниз равна: 2 + 30 + 34 + 62=128. Поскольку между вариантами 107 и 128 должна находиться медиана, накопление частот прекращаем и за начало медианного класса принимаем 72,5, т. е. меньшую границу класса (72,5—77,4), среднее значение которого 75, а частота 62. Отсюда по формуле (1.53)
Ме = 72,5 + 5 ((0,5 • 214—66) /62) = 75,8 дня.
Это означает, что в данной совокупности сортов ячменя половина из них (107 сортов) созревает не позже, чем на 76-й день от начала вегетационного периода, а вторая половина сортов имеет периоды созревания больше 76 дней.
Ошибка медианы вычисляется сравнительно редко. Для достаточно больших рядов
me=l,25331mM,(1.54)
где те— ошибка медианы; тм— ошибка средней арифметической (1.09).
Значение константы в формуле (1.54) зависит от объема N ряда:
Объем2468101220 оо
Константа1,01,0921,135 1,160 1,177 1,1891,2141,253
В рассмотренном примере /пм = 0,415; те = 1,25331 -0,415 = = 0,5 дня. Таким образом, медиана равна 75,8±0,5 и по своей величине близка к средней арифметической (Л4 = 75,05), что может служить одним из доводов в пользу заключения о близости данного распределения к симметричному.
ВЫЧИСЛЕНИЕ ОСНОВНЫХ ПАРАМЕТРОВНЕВЗВЕШЕННОГО РЯДА
В этом параграфе приводится схема совокупного вычисления всех основных статистических параметров невзвешенного ряда наиболее экономичным способом в расчете на то, что исследователь располагает лишь простейшими вычислительными средствами: счетами, арифмометром и таблицей квадратных корней.
Основными параметрами выборки считаются средняя арифметическая и среднее квадратическое отклонение (сигма), так как почти все прочие показатели невзвешенного ряда вычисляются на основании их числовых значений.
Первое место по трудоемкости вычислений среди обычных статистических показателей занимает сигма. Поэтому разработано несколько способов, упрощающих ее расчет. Наиболее рациональным из них является способ условной средней, который обеспечивает любую требуемую точность. В приводимом примере расчета обработаны даты зацветания ольхи кустарниковой в Ленинграде за 14 лет (табл. 1.18).
Таблица^!. 18. К вычислению параметров невзвешенного ряда способом условной средней
Даты^зацвета- ния, дни от 1 марта (см. табл. 5П)
а = х — А
о2
Дата зацветания, дни от
1 марта (см. табл. 5П)
а = х — А
а*
65
—10
100
73
—2
4
67
—8
64
73
—2
4
69
—6
36
78
+3
9
70
—5
25
81
+6
36
71
—4
14
85
4-ю
100
72
—3
9
86
4-11
121
72
—3
9
87
4-12
144
1049—1677
Суммируя варианты ряда и деля их на число наблюдений, получаем среднюю арифметическую по формуле (1.08).
|М = ^-12^= 1049/14=74,928.
Ближайшее к М целое число Д = 75; используем его для получения условных отклонений по формуле а = х— А, приведенных в столбце 2. Суммируем отклонения с учетом их знаков 2^=—1. Делаем проверку вычислений по формуле ^а = ^х— —NA; —1 = 1049—14-75; —1= — 1; равенство обеих частей уравнения соблюдается, следовательно, вычисления сделаны верно.
Возводим в квадрат условные отклонения (столбец 3) и суммируем эти квадраты: 2а2 = 677.
Определяем дисперсию по формуле (1.25)
а2 = [2 а2— Л^-^^а)2]/^—1)=[677—(—1)2/14]/(14—1)=52,07, откуда среднее квадратическое отклонение о=/52,07=7,2.
Прочие параметры статистического ряда определим следующим образом.
Ошибка средней арифметической по формуле (1.09) тм= =/у-0.5а = 7,2/Т4=±1,9.
Критерий достоверности средней арифметической по формуле (1.10) tM=M(mM = 74,9/1,9 = 39,4.
Ошибка сигмы по формуле (1.31) mo=o/У2^=7,2/y2• 14= = ± 1,4.
Коэффициент вариации по формуле (1.43) у=(100а)//И = = (100-7,2)/74,9 = 9,6%.
Ошибка коэффициента вариации по формуле (1.46) т„ = = уУ (0,5 + 0,0001 v^fN = 9,6У (0,5 + 0,0001-9,62)/14 =±1,8%.
Показатель точности опыта по формуле (1.50) Р = (mMjM) • •100= (1,9/74,9) 100 = 2,5%.
Ошибка показателя точности опыта по формуле (1.52)
тР = Р ^(1/(2ЛГ))+(Р/100)2 = 2,5 У(1/(2-14))+(2,6/100)2 = 0,5%.
Медиана определяется следующим образом. Находим номер медианной варианты, который равен 0,5 (М+1) =0,5(14+1) =7,5. При четном числе вариант за медиану принимается середина промежутка между двумя центральными вариантами. При нечетном числе вариант за медиану принимается центральная варианта. В нашем случае, при четном числе вариант, медиана равна полусумме 7 и 8 варианты: Ме= (72 + 73)/2 = 72,5.
Таким образом, рассчитано 11 параметров, которые дают довольно полное представление о конкретном статистическом невзвешенном ряде. Истолковать эти числа можно примерно так. В среднем за 14 лет ольха кустарниковая в Ленинграде зацветает через 74,9 дня от 1 марта, т. е. 13,9 мая (см. табл. 5П), округленно 14 мая, с ошибкой 1,9 дня, и с доверительным интервалом на 0,95 уровне (см. § 1.23): 13,9±2.1,9; т. е. самый ранний срок зацветания 10 мая и самый поздний— 18 мая. Варьирование годовых дат зацветания сравнительно невелико, так как коэффициент вариации и = 9,6±1,8%, поэтому полученные параметры заслуживают доверия ввиду большой достоверности средней арифметической: /м = 38,9>3 и значения показателя точности опыта, меньшего 5%: Р= (2,5% ±0,5%) <5%.
При работе на ЭВМ сигму лучше вычислять по формуле (1.24), а остальные показатели — по приведенным здесь формулам.
§ 117.МОДА
Модой называется точка на оси абсцисс, соответствующая максимальной частоте теоретической кривой распределения вариант. Мода вычисляется лишь тогда, когда вариационный ряд разбит на классы, содержащие разное число частот. В случаях, не требующих особой точности, за моду принимают наиболее часто встречающуюся варианту ряда. Например, в ряду из табл. 1.04 за моду можно принять Af0 = 75, т. е. середину класса 72,5—77,4, который имеет наибольшую частоту — 62. Положение моды относительно средней арифметической определяет степень скошенности, или асимметрии, кривой распределения данного ряда. Мода в симметричном нормальном распределении совпадает со средней арифметической. Вычисляется мода по формуле
Мо=х0+4 (f2-f1)/(2f2-/1-/3) ], (1.55)
где х0 — начало модального класса, т. е. меньшая граница того класса, который имеет наибольшую частоту; с — величина классового интервала; Л— частота класса, предшествующего модальному; /2— частота модального класса; /3 — частота класса.
следующего за модальным. Варианты ряда при этом возрастают сверху вниз.
Определим моду вегетационного периода совокупности сортов ячменя (табл. 1.04) по формуле (1.55):
Мо = 77,5 + 5 L (74—62) / (2 • 74—62—8) ] = 78,3.
Это означает, что наиболее часто встречаются сорта ячменя, зерно у которых созревает на 78-й день от начала их вегетационного периода.
Ошибка моды обычно бывает больше ошибки средней арифметической той же совокупности. Ввиду сложности и малой целесообразности ее вычисления она здесь не приводится. Наличие нескольких мод (пиков) в вариационном ряду большей частью указывает на неоднородность совокупности. В невзвешенном вариационном ряду мода отсутствует.
§ 1.18.
МОМЕНТЫ РАСПРЕДЕЛЕНИЯ
Моментами распределения называют средние степени отклонений вариант от средней арифметической или от произвольного числа, в частности от нуля. В первом случае моменты называются центральными, во втором — условными, в третьем — начальными. В этом параграфе приведена методика вычисления этих, а также факториальных и основных моментов. Порядок момента равен степени, в которую возводятся отклонения. Основным моментом называется частное от деления центрального момента соответствующего порядка на сигму, возведенную в степень, равную тому же порядку момента. Моменты, особенно центральные, играют большую роль при вычислении различных показателей вариационного ряда. Средняя арифметическая — это начальный момент первого порядка, а дисперсия — центральный момент второго порядка. Условные и факториальные моменты большей частью вычисляют в качестве вспомогательных для получения центральных моментов. Приведенные ниже вычисления моментов имеют главным образом методическое значение, они выполнены для иллюстрации самого понятия моментов. В практических расчетах рекомендуется для вычисления моментов применять способ кодированных вариант (§ 1.22), а также способы сумм, рассмотренные в конце данного параграфа.
В табл. 1.19 приведена сводка таких формул вычисления моментов, которые соответствуют приведенным определениям последних. Обозначения моментов первых четырех порядков в табл. 1.19 следующие: ць ц2, Цз, щ — центральные; b^ b2, b3l b^— начальные; ть т^, т3, тк — условные; гь г2, "з, гк — основные;
Таблица 1.19. Формулы для"вычисления моментов распределения
Порядок моментов
Центральные
Условные
Начальные
Основные
S (х —
M^f A
2(х-Л)/
.2(x-0)/
Hl A
Первый
th-N
—— = 0
'»! - N
01 — -
N
h = —= o
Второй
S(x —
W „2
2(x —Л)2/
2(x — 0M
r -Jis- 1
N
— cr
m2 —yy
°2 —
N
h - o2 - 1
'Mx-
Mff
2(x —0)3/
Из л
Третий
И»— N
'"з -N
03 —
N
r3 - 0» — AS
S(x —
MM
Шх-'АМ
S(x —0)4
Четвертый
Н« ~ N
'«4 -N
o4 — -
N
r4 — o«
СП
Таблица 1.20. Вычисление
условных моментов
Варианта х
Частота f
x — A (A =
75)
(x — A)f
(X-
-APf
(x - Л)» f
(x — A)4 f
60
2
—15
—30
450
—6 750
101 250
65
30
—10
—300
3000
—30 000
300 000
70
34
—5
—170
850
—4 250
21 250
75
62
0
0
0
0
0
80
74
+5
370
1850
9 250
46 250
85
8
+10
80
800
8 000
80 000
90
4
+15
60
900
13 500
202 500
с = 5
214
0
+ 10
7850
—10 250
751 250
2—знак суммирования; х— варианты; / — частоты вариант; N — объем выборки; М — средняя арифметическая; Л— начальная точка отсчета или условная средняя; а— среднее квадратическое отклонение (сигма); Л,— показатель асимметрии (см, §1.19).
Центральные моменты можно вычислить прямым способом по формулам, указанным в табл. 1.19, т. е. через отклонения вариант от средней арифметической, но предпочитают их получать
через условные моменты, для чего рекомендуются следующие формулы:
р2 = т2 —/тг^,(1.56)
р3 = т3 + /?г1(2/П1 — 3/тг2),(1.57)
р4 = т4 + тх [3/71! (2/п2 — /тг?) — 4m31,(1.58)
где обозначения те же, что и в табл. 1.19. Проверка вычислений центральных моментов производится по формулам:
Из = ^з — ^i (Зр2 + ^Ь,(1.59)
р4 = т4 — тх [4р3 + тх (6р2 + /тг?)].(1.60)
На примере данных из табл. 1.04 вычисление условных моментов показано в табл. 1.20, подставляя суммы столбцов из которой в формулы условных моментов из табл. 1.19, получаем: m1 = 10/214 = 0,0467; т2 = 7850/214 = 36,682; т3=—10250/214= = —47,897; т4 = 751250/214 = 3510,5.
Подставив значения условных моментов в формулы (1.56), (1.57), (1.58), определим величины центральных моментов:
р2 = 36,682—0,04672=36,680;
Из = —47,897+0,0467 (2-0,04672—3-36,682) = —53,036;
р4 = 3510,5+0,0467 [3 • 0,0467 (2 • 36,682—0,04672)+4 • 47,897] = = 3519,9.
Проверку вычисления центральных моментов делаем по формулам (1.59), (1.60):
р3 = —47,8972—0,0467 (3-36,680+0,04672) = —53,036;
р4 = 3510,5—0,0467 [-4-53,039+0,0467(6-36,680 +0,04672)] = = 3519,9.
Если после проверки не будет достигнуто совпадение величин центральных моментов в пределах точности вычислений, то следует искать ошибку в расчете.
Заметим, что чаще условные моменты вычисляют в единицах классового интервала, для чего делят разности х— Л на величину с. Благодаря этому условные отклонения становятся последовательностью однозначных чисел, что значительно сокращает вычисления (табл. 1.21).
Таблица 1.21. Вычисление факториальных моментов по способу произведений ряда распределения диаметра соцветий нивяника х
X
f
а
fat
fa2
fa4
1
2
3
4
5
6
7
37
2
—3
—6
24
—120
720
51
29
—2
—58
174
—696
3480
65
119
—1
—119
238
—714
2856
79
171
0
0
0
0
0
93
121
1
121
0
0
0
107
42
2
84
84
0
0
121
16
3
48
96
96
0
с = 14
N = 500
si-4: 70
616
—•1434
7056
По данным столбцов 1 и 2 табл. 1.20 вычислим также начальные моменты по формулам из табл. 1.19: ^=16060/214 = 75,05; Ь2 = 1213100/214 = 5668,69; Ь3 = 92206000/214 = 430869,16; 64= = 7050582500/214 = 32946647,19.
В биометрии из начальных моментов применяют обычно лишь момент первого порядка, который равен средней арифметической; начальный момент второго порядка иногда используют при вычислении среднего квадратического отклонения.
Из основных моментов вычисляют лишь г3, который является коэффициентом асимметрии (см. § 1.19), и г4, применяемый для вычисления эксцесса (см. § 1.20). Оба этих основных момента также часто встречаются в расчетах теоретических частот некоторых типов кривых распределения.
Хотя моменты и не имеют самостоятельного интереса для биометрического анализа, они необходимы для получения почти всех параметров взвешенного вариационного ряда, поэтому должны быть найдены достаточно точно, для чего их рекомендуется вычислять наиболее рациональным способом кодированных вариант, приведенным в § 1.22.
Когда варианты в совокупности распределяются симметрично или хотя бы по двускатной кривой, начальные и центральные моменты, вычисленные, например, по формулам из табл. 1.19, а также по формулам (1.56) — (1.58), могут быть уточнены поправками Шеппарда. Посредством моментов вычисляется большинство параметров статистического ряда, поэтому внесение поправок Шеппарда к моментам отразится далее почти на всех данных, получаемых в ходе статистического исследования. Эти поправки вводятся с целью компенсировать неточность определения моментов именно по взвешенному ряду, когда приходится варианты разносить по классам и тем самым как бы округлять их до среднего значения того класса, в который они попали. По-
этому поправки Шеппарда не нужны, когда моменты вычисляются непосредственно по исходным данным без группировки их во взвешенный ряд с равными интервалами. Например, не требуется поправка к значению среднего квадратического отклонения, вычисленного в § 1.10 по способу непосредственного распределения дат с естественной группировкой последних.
Поправки Шеппарда к начальным и центральным моментам:
F2 = 62-c2/12,(1.61)
63 = 63-W,(1.62)
b^ = £4 — (с2/2) (62 — 7с2/120),(1.63)
где S2 — 64— исправленные начальные моменты; bv— Ь4— исходные, неисправленные начальные моменты (формулы их вычисления— см. табл. 1.19); с — классовый интервал;
Н2 = Из — с2/12,(1.64)
Н< = Н4-(^2/2)(Н2-7с2/120),(1.65)
где р,2, 1^4 — исправленные центральные моменты; g2, Hi— не~ исправленные центральные моменты, вычисленные по формулам табл. 1.19 и (1.56) —(1.58).
Третий центральный момент ц3 поправок не требует.
Введем поправки в следующие вычисленные моменты: bt = = 75,05; 62 = 5668,69; 63 = 430869,16; 64 = 32946647,19; ц2=36,68; р4=3519,95; с = 5.
Исправленные значения моментов по формулам (1.61) — (1.65):
Ьа = 5668,69—52/12 = 5666,61;
Ь3 = 430 869,16—75,05 • 52/4 = 430 400,10;
Ь. = 32 946 647,19 —(52/2) (5668,69—7-52/120) = 32 875 806,79;
ра = 36,68 — 52/12 = 34,60;
р4 = 3519,95 — (52/2) (36,68 —7-52/120) = 3079,68.
Как видим, в некоторых случаях поправки Шеппарда могут заметно влиять на величину моментов. Однако следует иметь в виду, что применение поправок к несоответствующим распределениям может внести также и заметную ошибку. Поэтому единого мнения о необходимости введения поправок Шеппарда пока нет.
Факториальные моменты ввиду простоты их получения в прикладных вычислениях применяются для расчетов условных, далее центральных моментов, среднего квадратического отклонения и средней арифметической.
В этом параграфе приводятся пять способов вычисления условных и центральных моментов посредством факториальных. Некоторые из этих способов дают различные величины факториальных и условных моментов, однако центральные моменты всегда при этом совпадают. Для сравнимости результатов и облегчения понимания сути приводимых алгоритмов все пять способов расчета выполнены на примере одного и того же взвешенного ряда распределения величин диаметра соцветий (в мм) у нивяника.
Способ произведений
Вычисление факториальных моментов по этому способу приводится здесь для иллюстрации принципа их построения, а также ввиду того, что формулы способа произведений в общем случае более удобны для программирования и счета на ЭВМ. При ручном счете факториальные моменты рекомендуется вычислять по одному из приведенных далее в этом параграфе способов сумм (б—д). Последовательность расчетов факториальных моментов по способу произведений следующая.
По данным распределения соцветий нивяника по диаметру выписываем середины классов х и частоты f в табл. 1.21.
Условные отклонения в столбце 3 получены по формуле а=(х— А)/с, где условная средняя ряда А, имеющая /=171, равна 79, а классовый интервал с=14. Практически никаких вычислений для получения а не делают. Если ряд х возрастает сверху вниз с одинаковым интервалом (как в табл. 1.21), то против выбранного А записывают 0, а затем от нуля до конца ряда вверх с минусом, а вниз с плюсом пишут натуральные ряды чисел: 1, 2, 3, 4, и т. д. Если ряд х убывает сверху вниз, то в верхней половине, начиная от центрального нуля отклонения, а будут со знаком плюс, а в нижней половине — со знаком минус.
Произведения частот на факториалы отклонений записаны в столбцах 4—7 табл. 1.21, где: а^а, а2 = а(а— 1), а3 = а(а—1) • •(а — 2), а4 = а(а—1) (а — 2) (а— 3). Произведения указанного вида называются факториалами, откуда и получили название факториальные моменты. Таким образом, произведения в столбце fa^ сверху вниз равны: 2-(—3) =—6, 29-(—2) =—58 и т. д.; произведения /а2 равны: 2- (—3) • (—4) =24, 29- (—2) • (—3) = 174 и т. д.; произведения fa3: 2- (—3) • (—4) • (—5) = —120, 29- (—2) • • (—3) • (—4)=—696 и т. д.; произведения fa4: 2-(—3) • (—4) • • (—5) • (—6) =720, 29 - (—2) • (—3) • (—4) • (—5) =3480 и т. д.
Суммируем числа в столбцах 4—7 с учетом их знаков: st = = 70, s2 = 616, s3 = —1434, s4 = 7056.
Факториальные моменты равны
w^sJN, w^s^N, w3=s3/N, w^sJN,(1.66)
где w^— факториальные моменты; Sj_4 — суммы произведений частот на факториалы отклонений; N — объем совокупности.
И следовательно, w4 = 70/500 = 0,1400, w2=616/500= 1,232, w3=—1434/500 = —2,868, w4 = 7056/500= 14,112.
На основании вычисленных значений факториальных моментов ш^ находим условные моменты т^;
(1.67)(1.67)m^w^ ^2=^2+^!, т3=^з+3^2+^1,
(1.67)
(1.67)
Отсюда: т^О,^, т2 = 1,232 + 0,14= 1,372, т3 =—2,868 + + 3-1,232 + 0,14 = 0,968, т4 = 14,112 + 6- (—2,868) +7• 1,232 + 0,14 = = 5,668.
Значения условных моментов, найденные здесь, полностью -совпадают с вычисленными другим способом в § 1.22. Следовательно, подставив их в формулы (1.56) — (1.58), должны получить те же, что и в § 1.22 значения центральных моментов, измеренные в единицах классового интервала.
Способ полного суммирования
При отсутствии счетной автоматической машины условные моменты посредством факториальных при помощи простейших счетных средств вычислим способом сумм. На примере того же ряда распределения рассмотрим последовательность расчетов, в которых объединено вычисление факториальных и условных моментов (табл. 1.22).
Таблица 1.22. К вычислению условных моментов посредством факториальных по способу полного суммирования
X
f
к
к
к
f<
37
2
500
.2070
5 658
12 659
51
29
498
1570
3 588
7 001
65
119
469
1072
2 018
3 413
79
171
350
603
946
1395
93
121
179
253
343
449
107
42
58
74
90
106
121
16
16
16
16
16
с= 14
Д^ = 500
sx = 2070
s2 = 5658
s3 = 12 659
s4 = 25 039
Суммируем частоты / снизу вверх и записываем накопленные частоты в столбце 16 + 42 = 58, 58+121 = 179, 179+171 = = 350 и т. д. Нижнюю частоту 16 повторяем во всех столбцах /t-4 в той же строке. Числа столбцов /2, /з, к получаем точно так же на основании чисел предыдущего столбца: 16 + 58 = 74, 74+179 = 253 ит. д.
Суммируем числа во всех четырех столбцах и проверяем вычисление накопленных частот: верхняя частота столбца ft должна равняться ^ = 500; сумма каждого предыдущего столбца должна совпадать с верхней частотой последующего столбца. Вычисление и суммирование частот последнего столбца /4 необходимо повторить два раза.
Вычисляем условные моменты по формулам
mi=N-isi1 m^Sstl^M—ть
т3 = 213 (#“4 — 0,5т2) —- т^ j,(1.68)
т4 = 6 (4s^‘"1 — т^ — т^ — 11 т2.
Отсюда:
mY = 2070/500 = 4,14,m2 = 2 • 5658/500—4,14=18,492,
m3 = 2 [ 3 (12659/500—0,5 • 18,492) — 4,14 ] = 88,152,
т, = 6 (4 • 25039/500—4,14—88,152) — 1 Ы 8,492 = 444,708.
Несмотря на то что величины условных моментов отличаются от таковых, полученных по предыдущему способу, подставив их в формулы (1.56)— (1.58), получим практически те же, что и в § 1.22, значения центральных моментов в единицах классового интервала:
р2 = т^ — т^ = 18,492—4,142= 1,3524,
р3 = т3 + тх ^т^ — 3/л2) = 88,152 4-4,14 (2 • 4,142—3 • 18,492) = = 0,3972;
р4 = /и4 + ^Ч [3m! (2т2 — т^ — 4т3] = 444,708 +
4,14 [3 • 4,14 (2 • 18,492—4,142) — 4 • 88,152] = 5,2859.
Для проверки вычисления второго центрального момента в единицах классового интервала служит формула
р2=(2s2-S1 (14-^”1s1) ],(1.69)
где s„ s2 — суммы столбцов fi и /2 из табл. 1.22; N — объем совокупности.
Если требуется вычислить среднее квадратическое отклонение, как обычно, в именованных числах, то в формулу (1.69) вводится дополнительный множитель:
о2 = ^J^N— 1)] [2s2 — sx (1 4- М"^)], a = ]ЛА (1.69a)
По данным нашего примера (табл. 1.22)
р2 = 1/500.(2-5658—2070(14-2070/500))= 1,3524;
о2 = 142/(500—1). [2-5658—2070 (14-2070/500)] = 265,61,
о= /ЖбТ=16,3
В § 1.22 по тем же данным о2 = 265,07 за счет того, что там не вычиталась единица из N в знаменателе, что допустимо при до-
статочно большом объеме выборки. Когда W< 100, то при вычислении сигмы извлечением корня из второго центрального момента можно вводить так называемую поправку Бесселя N/(N—1). Если в знаменателе любой формулы вычисления сигмы или дисперсии стоит (^—1), это означает, что поправка Бесселя в нее введена и оценка дисперсии при этом стала несмещенной.
Средняя арифметическая
М = х1 + с^т1— 1), (1.70)
где xt — начальная варианта ряда; с — классовый интервал; mv — первый факториальный или первый условный момент (они равны между собой).
По данным нашего примера Л1 = 37 + 14(4,14—1) =80,96 = 81,0.
Заметим, что для вычисления среднего квадратического отклонения и средней арифметической по способу б в табл. 1.22, кроме исходных данных, достаточно получить частоты и суммы Si И S2 лишь двух столбцов — fi и /2.
На основе центральных моментов, дисперсии и средней можно рассчитать далее другие статистические показатели данного ряда (см. § 1.22).
Способ неполного суммирования
По тем же данным (см. табл. 1.21) составляем табл. 1.23, в которой варианты х возрастают сверху вниз.
Суммирование накопленных частот в столбцах ft-4 ведется онизу вверх, в каждом столбце оно заканчивается на одну строку раньше по сравнению с предыдущим столбцом, как показано в таблице. Столбец ^г 16 + 42 = 58, 58+121 = 179 и т. д. Столбец f2: 16 + 58 = 74, 74+179 = 253, 253 + 350 = 603, 603+469=1072, 1072 + 498=1570; здесь суммирование должно было бы закончиться, но для проверки вычислений получим еще одну накопленную частоту 1570 + 500 = 2070'и в знак того, что она не будет
Таблица 1.23. К вычислению факториальных моментов способом неполного суммирования
X
f
fi
fa
f3
f<
2
500
(2070)
51
29
498
1570
(3588)
•
65
119
469
1072
2018
(3413)
79
171
350
603
946
1395
93
121
179
253
343
449
107
42
58
74
90
106
121
16
16
16
16
16
^= 500
2070
3588
3413
1966
участвовать в дальнейших расчетах, возьмем ее в скобки. Также сделаем и с конечными частотами f3 и f4. Проверка заключается в том, что верхнее число последующего столбца должно равняться сумме частот предыдущего столбца у всех столбцов. Суммирование частот f4 необходимо повторить для проверки.
Факториальные моменты равны:
wt = sJN, w2=2s2N~i, w3 = 6s3N~1, w4 = 24s4A^-‘,(1.71)
где st_4— суммы частот в столбцах ft_4 табл. 1.23; N — объем совокупности.
wx = 2070/500 = 4,14, ш2 = 2 - 3588/500 = 14,352,
w3 = 6-3413/500 = 40,956, ш4 = 24-1966/500 = 94,368.
Вычислим условные моменты по формуле (1.67).
т, = w, = 4,14, m2 = 14,352 + 4,14=18,492,
т3 = 40,956+3 • 14,352 + 4,14 = 88,152,
т4 = 94,368 + 6 ■ 40,956+7 -14,352 + 4,14 = 444,708.
Центральные моменты определим по формулам (1.56) — <1.58):
ц2 = 18,492—4,142 = 1,3524,
р3 = 88,152 +4,14 (2-4,142-3-18,492) = 0,3972,
р4 = 444,708+4,14 [3-4,14 (2-18,492—4,142)—4-88,152]=5,2859.
Среднее квадратическое отклонение равно корню из второго момента, помноженному на классовый интервал: о=сУр2 = = 14-yi,3524= 16,3.
Средняя арифметическая по формуле (1.70) Л1 = 37+ + 14(4,14—1) =81,0.
Центральные моменты ц2 и ц3 возможно вычислить также непосредственно, используя суммы s1_3, полученные в табл. 1.23:
= -L [2s2 + S1 (1 - S1^)[, В- = -L |б(s3 + s2) +
+ s4 [1 + М2МГ^З+-6$.2 j ,(1 ?2)
где N — объем совокупности.
По данным нашего примера:
р2
1
= — f 2 • 3588 + 2070 (1 — —У
5001\500 /
500
2-2070500 ~5002-2070500 ~5006- 35886- 3588
2-2070
500 ~
500
2-2070
500 ~
500
6- 3588
6- 3588
±i= J- 6(3413+3588)+2070 Н
с3 500
= 0,3972.
Вычисление четвертого центрального момента непосредственно через суммы s^ нецелесообразно ввиду того, что соответствующая формула становится слишком громоздкой. Расчет этого момента, а при необходимости и остальных можно выполнить или проверить по формулам:
Ц2 = Ш2 +(1 — 10х),
ц8 = “’з + 2{1,5ш2+ш1[0,5 — 1,5ф2 — ^(1,5 — ayj]},(1.73)
ц4 = wt + 4 {1,5 w3 4-1,75 tv2 — wx (ty3 + 3ty2 — 0,25 — — ^i [l,5ay2 — 1+0,75^(2—аух)])},
где гУ]-4 — факториальные моменты, вычисленные по способу в; подставляя их значения в формулы (1.73), получим:
р2/с2= 14,352+4,14(1—4,14)= 1,3524,
Рз/с3 = 40,956+2 {1,5+4,352+4,14 [0,5—1,5-14,352—4,14(1,5— -4,14)]} = 0,3974,
Рд/с4 = 94,368+4 (1,5- 40,956+1,75 -14,352—4,14 (40,956+ +3-14,352—0,25—4,14(1,5.14,352— 1 +0,75 - 4,14 (2— —4,14)])} = 5,2852.
Четвертый центральный момент можно вычислить также иначе:
+ wx (1 — [4р3 + wx (6р2 + ш!)]),+ wx (1 — [4р3 + wx (6р2 + ш!)]),
+ wx (1 — [4р3 + wx (6р2 + ш!)]),
+ wx (1 — [4р3 + wx (6р2 + ш!)]),
(1.74)
— [4-0,3972 + 4,14 (6-1,3524 + 4,142)]) = 5,285.
Проверку по формулам (1.73) и (1.74) следует проводить, однако с несколько большим числом значащих цифр в промежуточных вычислениях.
Способ суммирования от центра ряда
Используя те же данные (см. табл. 1.23), составляем табл. 1.24, в которой против центральной варианты с максимальной частотой (Д = 171) проводим черту, от нее вверх и вниз ставим еще по три черты так, как указано в таблице, т. е. каждый раз отступая на одну клетку от центра ряда.
Суммирование накопленных частот делается от центра ряда вверх и вниз. Сумма центральных вариант (171 + 150 + + 179 = 500) должна равняться объему совокупности.
Правильность суммирования накопленных частот в остальных столбцах проверяется по равенству сумм крайних (в центральном пробеле) вариант соответствующей сумме а или &, на-
Таблица 1.24. К вычислению условных моментов посредством факториальных по способу суммирования от центра ряда
X
f
fi
fz
Js
f<
37
2
2
2
2
51
29
31
33
—
65
119
150
—•
—-
—
79
Л=171
—
—*
—
—
93
121
179
—
—
107
58
74
——
121
16
16
16
16
1 111 ■
к=1
#=500
6:183
35
2
0
а: 253
90
16
0
d:10
55
14
0
s:436
125
18
0
пример:179 + 74 = ^! = 253,74+16 = а2 = 90,16 + 0=а3=16,
150 + 33=bt = 183, 33 + 2=62 = 35, 2 + 0 = Ь3 = 2.
Верхнюю и нижнюю половины рядов чисел в столбцах /i_4 складываем отдельно, соответственно получаем суммы bt_4 и ^!-4. Затем ниже записываем разности d = a—b и суммы s = a-V-b этих сумм.
Подставляя эти разности и суммы в формулы, в которых условные моменты выражены через факториальные:
m^dJN, m2=(si+2s2)INi m3= [++6(^2+^3) ]/#,т^=
= {s, + 24 L 0,5 (1,1667s2 + 3s3) + s4 ]} /#,(1.75)
получим:
^=70/500=0,14, m2= (436+2-125)/500= 1,372,
m3 = (70 + 6 (55 + 14)) /500 = 0,968,
m4= (436+24(0,5(1,11667-125+3-18) +0]) /500=5,668.
Значения условных моментов совпадают с найденными ранее, следовательно, по ним можно получить те же, что и раньше величины центральных моментов по формулам (1.56) — (1.58).
Способ полуцентрального суммирования
Составим табл. 1.25, в первых двух столбцах которой приведены данные (х, /), уже использованные для иллюстрации расчетов по алгоритмам а—г.
В верхней половине таблицы образование накопленных частот ведем сверху вниз до черты против центральной варианты
Таблица 1.25. К вычислению моментов по способу полуцентрального суммирования
X
f
fi
/2
fs
f4
37
2
2
2
2
2
51
29
31
33
35
37
65
119
150
183
218
255
79
171
—
■
—-
—
93
121
179
—
—
—-
107
42
58
74
—
—
121
16
16
16
16
^=500
6:183
218
255
294
а: 253
90
16
0
d:70
—128
—239
—294
s:436
308
271
294
(Д=171): 2 + 29 = 31, 31 + 119=150, 2 + 31 = 33, 33+150=183, 2 + 33=35 и т. д.; в нижней половине таблицы накопленные частоты получаем суммированием снизу вверх: 16 + 42 = 58, 58 + + 121 = 179, 16 + 58 = 74 и т. д. до черточек, проставленных в таблице. Сумма центральных вариант должна равняться объему совокупности 150+171 + 179=^ = 500; нижняя частота в верхней половине таблицы должна равняться сумме b предыдущего столбца, например 183 = Z\=183; сумма любых двух верхних частот в нижней половине таблицы должна быть равна числу а, например: 179 + 74 = tz1 = 253, 74+16 = tz2 = 90.
Получаем суммы чисел верхней половины b и нижней половины а таблицы, затем записываем их разности d=a— b и суммы s = a + b.*
Факториальные моменты вычисляем по формулам:
w^dJN, w2 = 2s2N~\ w3 = 6d3N”1> w4 = 24s4N"\(1.76)
где o^— факториальные моменты; d и s — разности и суммы из табл. 1.25; N — объем совокупности.
По формулам (1.76):
юг = 70/500 = 0,14;ш2 = 2 - 308/500 = 1,232;
^3 = 6 .(—239)/. 500 = —2,868; w4 = 24-294/500 = 14,112,
откуда условные моменты по формуле (1.67) равны:
тг = wx = 0,14, т^ = 1,232+-0,14 = 1,372,
т3 = -2,868+3 -1,232+0,14 = 0,968,
т4 = 14,112+6-(—2,868)+7-1,232+0,14 = 5,668,
что полностью совпадает со значениями, полученными другими способами. Следовательно, подставив их в формулы (1.56) — (1.58), мы вправе ожидать верных результатов при вычислении центральных моментов.
Симметричные ряды распределений с целью получения указанных моментов можно обработать любым из пяти приведенных способов; для асимметричных рядов удобнее применять способ б или в; пример расчета по способу б дан в § 1.34 (показательное распределение).
АСИММЕТРИЯ
Асимметрией, или скошенностью, называется мера отклонения распределения частот от симметричного их распределения относительно максимальной ординаты. Степень асимметричности распределения можно измерить тремя способами: через разность между средней арифметической и модой, или медианой, по формулам (1.77), (1.78) и через отношение момента третьего порядка к кубу среднего квадратического отклонения по формуле (1.79).
способ.
КА=(М-М0Ш(1.77)
где К а — коэффициент асимметрии; М — средняя арифметическая; Л10— мода; о — среднее квадратическое отклонение.
Подставив в формулу (1.77) соответствующие параметры ряда из табл. 1.04, получим КА = (75,09—78,27)/5,99 = —0,53. Знак минус перед коэффициентом соответствует отрицательной, а плюс — положительной асимметрии (рис. 2, Л). В формулу (1.77), если не требуется особая точность, можно подставлять величину моды, полученную по формуле (1.55), но обычно подразумевают величину моды, определяемую при вычислениях параметров кривых Пирсона, т. е. по формуле
М0=М- ог3 (г4+3)/[2 (5г4 - 6г| - 9)1,(1.77а)
или по формуле:
М0 = М — аКА,(1.776)
в которой
Ка- Гз(г4+3)/[2(5г4-6г^9)1,(1.77в)
где Af0— мода; М — средняя арифметическая; о — среднее квадратическое отклонение; г3, г4 — третий и четвертый основные моменты (формулы их вычисления см. в табл. 1.19); КА— коэффициент асимметрии. Модификация формулы (1.77а) приведена в § 1.22 под номером (1.93).
Обозначив р^гД Р2 = г4, формулу (1.77а) можно представить так:
мо = М - [а Vк (Р2+3)]/[2 (5р2—6рх—9)].(1.77г)
Рис. 2. Асимметрия (А: а — отрицательная, б — положительная) и эксцесс (5: а — положительный, б — отрицательный)
/ — теоретическая и 2 — эмпирическая кривые распределения
Рассмотрим пример вычисления по формулам (1.77а, б, в)т используя данные из § 1.22. Мода ряда, приведенного в табл. 1.28, вычисленная по обычно применяемой формуле (1.55):
Мо = 72+141(171—119)/(2-171—119—121)] =79,14.
Для сравнения найдем более точную величину моды этого же ряда по формуле (1.776). В § 1.22 третий основной момент г3 = =Л8 = 0,253; четвертый основной момент по формуле из табл. 1.19 равен: г4=ц4/ц22 = 5,2861/1,35242 = 2,8902; М = 81,0; о= 16,28. По формуле (1.77в) КА= [0,253(2,8902+3) ]/[2(5-2,8902—6-0,2532— —9)1=0,14706; по формуле (1.776) М0=81,0-16,28-0,14706= = 78,606, 79,14>78,606. Как видим, более точное последнее значение моды меньше примерно на 0,5. Коэффициент асимметрии, полученный по формуле (1.77в), также меньше показателя асимметрии, вычисленного по формуле (1.79) : 0,147<0,253.
При публикации статистически обработанных научных данных необходимо приводить формулу, по которой получен тот или иной показатель (например, мода), или указывать источник, в котором можно ее найти.
способ.
Иногда в формуле (1.77) моду заменяют медианой М^ что также может характеризовать асимметрию:
KAs=(M — Ме)/п.(1.78)
способ.
Л = ц3/(Д или As = r^(1.79)
где As — показатель асимметрии; ц3— центральный момент третьего порядка; о — среднее квадратическое отклонение; г3— основной момент третьего порядка (см. табл. 1.19).
Подставляя ц3, вычисленный поданным табл. 1.20 и о = 6,056 в формулу (1.79), получим As =—53,036/6,0563 =—0,24. Подтверждается, что распределение вариант вегетационного периода сортов ячменя имеет отрицательную асимметрию.
Ошибка показателя асимметрии
niA-VW^(1.80)
где N — объем выборки.
Для рассматриваемого примера о вегетационном периоде сортов ячменя тА=уб/214=0,17, следовательно: А8= =—0,24+0,17. Более точно ошибка асимметрии может быть вычислена по формуле
тА = ^/(М+З),(1.81)
которую следует применять для сравнительно небольших рядов.
Оценка достоверности показателя асимметрии производится по формуле (1.10) и табл. 4П. Число степеней свободы при этом принимается равным бесконечности (у = оо).
t=AJmA,
где t — критерий Стьюдента (см. табл. 4П); А$ — показатель асимметрии; тА— ошибка показателя асимметрии.
Для только что рассмотренного примера / = 0,24/0,17=1,41. По табл. 4П при у = оо требуется величина критерия не меньше 1,96, для того чтобы можно было говорить о существенности асимметрии. Следовательно, рассматриваемое распределение сортов ячменя по вегетационному периоду достаточно близко к симметричному.
***
В случаях, требующих повышенной точности, показатель асимметрии и его ошибку вычисляют с учетом несмещенности их величин по формулам
А = (A'-^'Va VN (М—1),(1-82)
mA=V\6N (Af — 1 )]/[(W—2) ^+1) (М+3)],(1.83)
где обозначения те же, что и в формулах (1.79), (1.80).
Для рассматриваемого примера
As = [—0,24 /214(214—1)]/(214—2) = —0,2412,
тА= / [6.214(214—1)]/[(214—2)(214+1)|(214+3)] = 0,166.
Минимальное число вариант NA, которое обеспечивает достоверность величины показателя асимметрии Л$:
Na=^AV(1.83а)
В нашем примере NА = 54/(—0,24)2 —937. Таким образом, для надежного выявления особенностей асимметрии распределения величин вегетационного периода у ячменя необходимо взять 937 сортов или различных образцов этой культуры.
§ L20.
ЭКСЦЕСС
Эмпирические распределения по сравнению с нормальным могут быть туповершинными или островершинными (см. рис. 2, Б). Степень отклонения эмпирической кривой распределения от нормальной теоретической кривой на своей вершине количественно выражается показателем эксцесса:
Е= (yijo^—3, или Е=гк—3,(1.84)
где ц4— центральный момент четвертого порядка (о вычислении его см. § 1.18); о4 — среднее квадратическое отклонение в четвертой степени (о4 = ц22); г4— основной момент четвертого порядка (см. § 1.18).
Эксцесс эмпирической кривой распределения сортов ячменя по продолжительности вегетационного периода определим, подставив в формулу (1.84) найденные в § 1.18 значения ц4 и ц2:
Е = (3519,9473/36,68012) —3 = —0,38.
Ошибка показателя эксцесса равна удвоенной ошибке показателя асимметрии:
тЕ-2 VW,(1.85)
где тЕ— ошибка показателя эксцесса; N — объем выборки; ^6/N — ошибка показателя асимметрии.
тЕ=2 VW5 = ±0,34.
Для сравнительно небольших рядов несколько более точная величина ошибки эксцесса
тЕ = /24/(У+5),(1.86)
где обозначения те же, что и к формуле (1.85).
В ответственных случаях наиболее точные, несмещенные оценки показателя эксцесса и его ошибки вычисляются более сложно:
Е = (Л/2 - 1) [(г4 - 3) + 6KN + 1)/[^ - 2) ^ - 3)](1.87)
тЕ = V [24Мр\ГПр17[^^(1.88)
где обозначения те же, что и в формулах (1.84), (1.85).
Для рассматриваемого примера
£ = (2142—1) [(2,62-3) + ^^j/[(214-2) (214-3)]= -0,389;
тЕ = ^(24.214.(214—1)2]/[(214-3)(214-2)(214+3)(214+5)] = = 0,331.
Оценка достоверности показателя эксцесса производится по критерию Стьюдента (1.10): t = E]mE, где t— критерий Стьюдента (см. табл. 4П); в данном случае принимается число степеней свободы v=oo; Е— показатель эксцесса; тЕ — ошибка показателя эксцесса.
В рассмотренном здесь примере/=0,38/0,34= 1,12. По табл. 4П v = oo требуется величина критерия, большая 1,96, для того чтобы можно было считать распределение сортов ячменя по вегетационному периоду существенно отклоняющимся от нормального по своему эксцессу.
Показатель отрицательного эксцесса не может быть меньше, чем —2, и это его значение указывает на то, что данная выборка состоит из вариант, относящихся к различным совокупностям, «Провал» на вершине кривой при этом достигает оси абсцисс, и на графике получаются две различные кривые распределения. Положительный эксцесс по своей величине теоретически не ограничен. Эксцесс считается незначительным, если |£|<0,4; чем меньше |£|, тем ближе распределение к нормальному.
Когда кривая распределения имеет два выступа, которые одинаковы по размерам, форме и расположены симметрично относительно центра кривой, т. е. при наличии «провала» в середине кривой, тогда величина эксцесса также будет равной нулю, хотя, судя по форме кривой, эксцесс должен быть ясно выраженным по величине и обладать отрицательным знаком. Следовательно, распределение ряда будет подчиняться нормальному закону только тогда, когда близость величины Е к нулю одновременно сопровождается соответствующей формой кривой.
Минимальное число вариант NE, необходимое для достоверности показателя эксцесса Е:
Ne = 216IE\(1.88а)
В нашем примере ^=216/(—0,38)2=1496. Следовательно, для получения достоверного представления об особенностях эксцесса распределения величин вегетационного периода ячменя необходимо составить совокупность из 1496 сортов или различных образцов этой культуры.
ЭНТРОПИЯ
Многим биологическим явлениям, процессам, состояниям организмов и популяций в той или иной степени присуща неопределенность или различная информативность. Поэтому количественный показатель меры неопределенности, или энтропии (из
теории информации), должен найти широкое применение в биологических исследованиях. Энтропию возможно вычислить для любой системы, которая может принимать различные состояния с определенными вероятностями. В частности, посредством энтропийного анализа распределений фенодат в некоторой степени становится доступным объективное решение вопроса о том, какая из фенофаз содержит максимум полезной информации и, следовательно, должна наблюдаться более тщательно и глубоко, чем остальные. Если рассматривать комплекс фенодат по каждой фенофазе с точки зрения теории вероятностей как поле, образованное композицией независимых испытаний, что и представляет собой совокупность наблюдаемых видов растений, то к нему применимо понятие энтропии. Совокупности фенодат, состоящие из независимых испытаний, в то же время, следовательно, не могут считаться временными или динамическими рядами. Энтропия определяется вероятностями всех элементарных событий данного поля, она служит мерой его неопределенности и вычисляется по общей формуле
н (Pi, Рг,.. •, Pk) = — 2 Pi 1о§2 Ри (1.89) 1=1
где рь р2, ..., рк—все вероятности данного поля в целом, которые можно заменить частостями распределений; log2p — двоичный логарифм вероятности; к — число значений, которое может принимать данная система, в частности это число классов распределения вариационного ряда.
Для всякого поля, связанного с неопределенностью результата, энтропия всегда положительна, поэтому перед знаком суммы в формуле (1.89) стоит минус. Энтропия обычно измеряется в битах, что связано с применением двоичных логарифмов для ее вычисления, но она может быть выражена и в нитах — единицах, связанных с применением натуральных логарифмов, или в десятичных единицах (дитах), когда энтропия вычисляется с помощью десятичных логарифмов. Практически энтропию удобнее вычислять с помощью натуральных логарифмов, а затем для перевода в биты делить полученную величину на In 2 = = 0,69314718. Если энтропия найдена с помощью десятичных логарифмов в дитах, то для перевода в биты ее надо делить на 1g 2 = 0,3010300. Напомним, что перевод логарифма числа х с основанием b в логарифм с основанием а производят по известной формуле
log„x= (logbx)/(logb<z). (1.90)
Алгоритм вычисления энтропии покажем на примере взвешенного ряда, который представляет собой распределение по времени начала цветения 431 вида древесных растений из арбо- ретума Ботанического института АН СССР в Ленинграде. Время начала цветения указано в первом столбце табл. 1.26 в днях от
Таблица 1.26. Распределение видов по датам зацветания
Границы класса, дни от 1 марта
Середина класса х, дни от 1 марта
Частота (число видов) f
Частости UN=P
In р
—р In р
32,5—51,4
42
5
0,0116
-4,46541
0,0518
51,5—70,4
61
38
0,0882
—2,42815
0,2142
70,5—89,4
80
120
0,2784
—1,27870
0,3560
89,5—108,4
99
160
0,3712
—0,99101
0,3679
108,5—127,4
118
68
0,1578
—1,84643
0,2914
127,5—146,4
137
20
0,0464
—3,07046
0,1425
146,5—165,4
156
12
0,0278
—3,58272
0,0996
165,5—184,4
175
6
0,0139
—4,27587
0,0594
184,5—203,4
194
1
0,0023
—6,07485
0,0140
203,5—222,5
213
1
0,0023
—6,07485
0,0140
с=19
^=10
431
0,9999
1,6108
1 марта при помощи переводной табл. 5П. Для вычисления энтропии нужны только частоты ряда, которые путем деления на объем ряда (431) преобразуем в частости (столбец 4). Натуральные логарифмы частостей (столбец 5) умножаем на частости (столбец 6) и суммируем, получаем энтропию в нитах Ни = = 1,6108, делим ее на In 2, что дает энтропию в битах: Яб = = 1,6108/0,69315 = 2,324.
Подобным образом были вычислены величины энтропии для рядов распределения и других фенофаз этого же массива древесных растений. По своей убывающей информативности фенофазы располагаются в следующем порядке (в скобках величина энтропии в нитах): начало цветения (1,611), конец цветения (1,729), начало распускания листьев (1,845), начало осенней раскраски листьев (1,895), созревание плодов (1,917) и начало осеннего листопада (1,917). Более других содержит информации распределение видов по началу цветения, мера неопределенности поля вероятностей которого наименьшая (1,611). У травянистых многолетников путем множественного корреляционного анализа, т. е. принципиально иными методами, установлено, что центром корреляционной плеяды их фенофаз в Москве является также начало цветения, а на втором месте по силе корреляционных взаимосвязей стоит конец цветения, что также полностью соответствует порядку возрастания величин энтропии этих фенофаз у деревьев и кустарников в Ленинграде. Следовательно, у травянистых и древесных многолетников основной из фенофаз, определяющей ход других, является фенофаза начала цветения, которая и должна наблюдаться в первую очередь.
В результате изучения 300 взвешенных рядов, составленных по данным, представляющим собой разнообразные биологиче-
Таблица 1.27. Два варианта построений взвешенного ряда распределения частот величин энтропии биологических признаков
Ряд с равными интервалами
Ряд с неравными интервалами
Границы класса
Частота
Границы класса
Середина класса
Частота
0—2,499
137
0—0,499
0,25
5
2,5—4,999
159
0,5—0,999
0,75
6
5—7,499
1
1—1,499
1,25
12
7,5—9,999
0
1,5—1,999
1,75
35
10—12,499
0
2—2,499
2,25
88
12,5—14,999
0
2,5—2,999
2,75
102
15—17,499
0
3—3,499
3,25
36
17,5—19,999
0
3,5—3,999
3,75
5
20—22,499
0
4—4,499
4,25
6
22,5—24,999
1
4,5—4,999
4,75
1
25—27,499
1
5—5,499
5,25
1
27,5—29,999
0
5,5—5,999
5,75
0
30—32,499
0
6—6,499
6,25
0
32,5—35,000
1
6,5—6,999
6,75
0
с=2,5
—
7—7,499
7,25
0
^=14
—
7,5—34,676
21,088
3
2=300
с=0,5 и 27,5
£=16
300
ские признаки, получено распределение величин их энтропии, которое в двух вариантах приведено в табл. 1.27. В левой половине таблицы находится распределение величин энтропии с равным интервалом (с = 2,5), что привело к большой концентрации частот (137 и 159) в первых двух классах. Вполне возможно, что в начале этого распределения поэтому утеряны некоторые важные его детали. Заново составленное распределение (в правой половине табл. 1.27) с неравными интервалами (с = 0,5 и с = = 27,5) стало более правильным, центр концентрации частот в нем переместился из начала ряда в его середину, и стало ясно, что кривая распределения величин энтропии в действительности не односкатная, а двускатная. Средняя арифметическая и дисперсия левого ряда равны: Л4 = 2,88, а2 = 8,128, а правого: М = = 2,65, о2 = 3,956, т. е. варьирование одних и тех же данных в результате применения более методически правильного способа их организации снизилось в 2 раза. Рассмотренный пример ясно показывает, насколько важен неформальный подход в биометрических исследованиях. Для оценки информативности рядов и, следовательно, тех или иных биологических и других признаков в соответствии с их энтропией (в нитах) составим шкалу информативности. Для этого воспользуемся данными правого ряда в табл. 1.27. К средней арифметической последовательно приба-
вим, а затем вычтем величину о = Уо2 = уЗ,956= 1,989. Получим следующие баллы шкалы информативности:
Балл
Величина энтропии, ниты
Балл
Величина энтропии, ниты
1
10,608 и выше
5
2,650—4,638
2
8,617—10,607
6
0,661—2,649
3
6,628—8,616
7
0—0,660
4
4,639—6,627
Напомним, что меньшей энтропии соответствует большая информативность. Норма величины энтропии и, следовательно, информативности статистических рядов, по данным биологических признаков, находится в пределах Л1± о = 2,650 ± 1,989, т. е. от 4,639 до 0,661. Низкой информативностью обладают ряды с 1 — 3 баллами и высокой — с 6 и 7 баллами. Ряд из табл. 1.26, энтропия которого 1,6108 нит, относится к 6-му баллу и является высокоинформативным, вполне пригодным для научной обработки, в результате которой могут быть получены надежные выводы.
ВЫЧИСЛЕНИЕ ПАРАМЕТРОВ ВЗВЕШЕННОГО РЯДА
Приведенные здесь схемы расчета следует применять при необходимости сделать сравнительно полный анализ изучаемой совокупности. При разработке алгоритмов имелось в виду свести к минимуму вычислительную работу и вместе с тем обеспечить требуемую точность и правильность расчетов путем введения проверочных операций. Методика подготовки выборки для обработки в виде взвешенного вариационного ряда приводится в § L01.
Способ 1. Вычислим параметры ряда распределения соцветий нивяника по диаметру (табл. 1.28).
В столбце 2 выбираем А— начало отсчета отклонений, т. е. варианту, имеющую наибольшую частоту, такой здесь оказалась центральная варианта 79 с частотой 171.
По формуле а=(х— А))с=(х— 79)/14 (где с — классовый интервал) кодируем варианты (столбец 4).
Частоты f перемножаем с 1—4 степенями условных отклонений а (столбцы 5—8).
Суммируем числа в столбцах 3, 5—8.
Прежде чем переходить к вычислению условных моментов, проверим сделанные расчеты. Для этого переносим на один класс вверх начало отсчета условных отклонений, т. е. принимаем Д = 65; затем кодируем ряд х по формуле 1+а=(х—65)/ /14 и записываем новые отклонения в столбце 9, возводим их в четвертую степень (столбец 10) и перемножаем на частоты. Сумма чисел столбца 11 должна быть:
2/(а + 1)4=2М4 + 4 2/а3 + б2/й2 + 4 2^ + Л\ (1.91)
Таблица 1.28. К вычислению моментов ряда распределения величин диаметра соцветия у нивяника, мм
Границы класса
Середина класса
X
Частота f
а
fa
fa2
fa2
fa4
□4-1
№+!)•
to+W
1
2
3
4
5
6
7
8
9
10
11
30—43
37
2
—3
—6
18
—54
162
—2
16
32
44—57
51
29
—2
—58
116
—232
464
—1
1
29
58—71
65
119
—1
—119
119
—119
119
0
0
0
72—85
79
171
0
0
0
0
0
1
1
171
86—99
93
121
1
121
121
121
121
2
16
1936
100—113
107
42
2
84
168
336
672
3
81
3402
114—128
121
16
3
48
144
432
1296
4
256
4096
с=14
Л=79
S=50C
) 6=7
70
686
484
2834
9666
т. е.
9666=2834 + 4 • 484 4 6 • 686 + 4 • 70 + 500, 9666=9666.
Следовательно, вычисления данных пяти сумм сделаны верно. Если начало отсчета отклонений перенести вниз от вначале принятого нуля, например против варианты 93 с частотой 121, то проверку надо делать по формуле
2Н«-1)4=2М4-4 2/а3 + б2/«2-4 2/а + ^.(1.92)
Находим условные моменты: m^N^^fa — 70/500=0,1400, m2 = N-1 2 fa4 = 686/500 = 1,3720, m3 = N'12 fa3 = 484/500 =
= 0,9680, m4 = N"i 2 fa1=2834/500=5,6680.(1.92 a)
Моменты рекомендуется вычислять не менее чем с четырьмя знаками после запятой.
Вычисляем центральные моменты по формулам (1.56) — (1.58):.
с"2р2 = m2 — ml = 1,3720 — 0,14002 = 1,3524,
с-3ц3 —та + тг (2ml — 3m2) = 0,9680 + 0,1400 (2 - 0,14002—
-3-1,3720) = 0,3973,
с-4р4 = т4 + тг [Зт4(2т2—/п,)—4т3]=5,6680+0,1400[3-0,1400х
х (2 • 1,3720 — 0,14002) — 4 •0,9680] = 5,2861.
Проверяем по формулам (1.59), (1.60) вычисление центральных моментов (деленных на степени классового интервала):
с-3Рз = т3 — тх (Зс"2ц2 + ^1) =
= 0,9680 — 0,1400 (3 • 1,3524 + 0,14002) = 0,3973;
с“*р4 = т4 — тх [4ц3с-3 + тх (6ц2с"2 + /и2)] =
= 5,6680 — 0,1400 [4 -0,3973+0,1400(6 -1,3524 + 0,14002)] = = 5,2861.
Значения с-3р3 и с-4р4 практически совпадают с вычисленными выше, следовательно, расчеты произведены верно.
Находим центральные моменты из уравнений: ц2/с2= = 1,3524, ц3/с3=0,3973, ц4/с4=5,2861, где с2=142= 196, с3 = = 143=2744, с4=144 = 384 1 6, (с — классовый интервал). р2= = 196-1,3524=265,0704,р3=0,3973-2744= 1090,1912,ц4=
= 38416- 5,2861=203070,8176.
Средняя арифметическая определяется по формуле (1.37): М=Л+ ^=79+0,1400-14=80,96=81,0.
Среднее квадратическое отклонение о=Тр2=У265,0704= = 16,28.
Коэффициент асимметрии вычисляем по формуле (1.79):
As = (с-3р3)/(с"2р2 /г%) = 0,3973/(1,3524 V 1,3524) = 0,253.
Эксцесс — по формуле (1.84):
£ = (с”+4/(г+2)2 —3 =5,2861/1,35242 —3 = —0,11.
Коэффициент вариации рассчитываем по формуле (1.43): и=М-'о. 100= 16,28-100/81,0=20,1 %.
Пользуясь полученными здесь данными, можно вычислить другие параметры, а также кривые распределения взвешенного ряда в зависимости от цели обработки.
Кроме указанной в § 1.17, существует формула определения моды Мо через показатели асимметрии Л„ эксцесса Е, величины сигмы а и средней арифметической /И:
М0=М — [Л5ст(0,16667£+1)]/[2(0,83333£ — Л2 + 1)1,(1.93)
после чего возможно приближенное вычисление медианы
Ме=(М„+2М)/3.(1.94)
По данным рассматриваемого примера
Мо = 81 — [0,253 -16,28 (—0,11 - 0,16667+1)]/[2 (0,83333 X
X (—0,11) — 0,2532 + 1)] = 78,605.
Ме = (78,605 + 2-81)/3 = 80,205.
Формулы (1.93), (1.94) удобны при вычислениях на ЭВМ, когда желательно избежать промежуточного обращения к исход-
Таблица 1.29. К вычислению моментов ряда распределения величин коэффициента вариации биологических признаков
X
f
а
fa
fa2
fa3
fa4
а—1
(a-1)4
(a~W
10
89
— 1
—89
89
—89
89
—2
16
1424
30
45
0
0
0
0
0
— 1
1
45
50
19
1
19
19
19
19
0
0
0
70
9
2
18
36
72
144
1
1
9
90
3
3
9
27
81
243
2
16
48
110
1
4
4
16
64
256
3
81
81
130
3
5
15
75
375
1875
4
256
768
150
3
6
18
108
648
3888
5
625
1875
170
2
7
14
98
686
4802
6
1296
2592
190
1
8
8
64
512
4096
7
2401
2401
с=20
5=175
Л=10
16
532
2368
15 412
9243
ным данным, чтобы найти границы модального и медианного классов (§ 1.15, 1.17).
Способ 2. Рассмотренный пример относился к ряду, распределение частот которого довольно симметрично. Вычисление статистик взвешенного ряда с резко асимметричным распределением частот покажем на примере распределения величин коэффициента вариации 175 биологических признаков, для каждого из которых коэффициент вариации был получен, в свою очередь, в результате обработки взвешенного вариационного ряда достаточного объема. В табл. 1.29 приведены: х — величины коэффициента вариации от 10 до 190; / — частоты; а — условные отклонения от варианты Д = 30, полученные по формуле (х— 30)/20; fa, fa2, fa3, fa4 — произведения степеней отклонений на частоты; а—1, (а—I)4, (а—I)4/ — проверочные вычисления с нулем против варианты А = 50; число классов ряда ^=10; интервал ряда с=20; объем ряда W=175. Так как в этом примере для проверки вычислений число А перенесено не вверх, а вниз на один класс, то применяем формулу (1.92):
15412—4.2368 + 6 • 532—4 -16+175=9243, что совпадает с итогом последнего столбца табл. 1.29, следовательно, расчеты в ней выполнены верно. Условные моменты по формулам (1.92а):
mj = 16/175 = 0,0914286, m2 = 532/175 = 3,04,
m3 = 2368/175 = 13,53143, m4 = 15412/175 = 88,068576.
Средняя арифметическая, вычисленная по формуле (1.37): Л1=Л + т1с = 30+20-0,0914286=31,828572.
Среднее квадратическое отклонение ввиду сравнительно небольшого объема ряда лучше определить по формуле
o = cV^tQ1-m^ayN-xV(L95)
где обозначения те же, что и раньше.
о = 20 /(532—0,0914286 • 16)/( 175— 1) = 34,922,
что является несмещенной оценкой сигмы в отличие от формулы о = Ур2, применяемой для больших совокупностей и при использовании которой можно пренебречь несущественным смещением оценки сигмы. Дальнейшие расчеты других параметров ряда можно провести, пользуясь теми же формулами, по которым обработан симметричный ряд в этом же параграфе.
Способ 3. Рассмотрим еще один алгоритм вычисления (табл. 1.30) показателей взвешенного ряда, который представляет собой модификацию способа г вычисления факториальных
Таблица 1.30. Вычисление условных отклонений по способу сумм
X
f
Oi=71
a2—46
a3=20
<24=6
213
1
1
1
1
1
194
1
2
3
4
5
175
6
8
11
15
—
156
12
20
31
—
—
137
20
40
—
—
—
118
68
—
—
—
—
99
160
323
—
—
—
80
120
163
211
—
—
61
38
43
48
53
—
42
5
5
5
5
5
6=10
,V=431
^=534
62=264
63=58
b4^
Р=^-
-b
—463
—218
—38
+1
q=a-\-b
605
310
78
11
моментов, приведенного в § 1.18 (см. табл. 1.24). Найдем центральные моменты ряда из табл. 1.26. Обратим внимание на то, что варианты в столбце 1 табл. 1.30 возрастают по величине снизу вверх. Расположим 16 черточек в таблице симметрично относительно центральной варианты 118 и частоты 68. Получим как обычно (см. табл. 1.24) накопленные частоты в столбцах 3—6 и суммируем отдельно их верхние («1-4) и нижние (6i-4) части. В ходе суммирования проверяем правильность получения накопленных частот. Так, я1 = 71, что равно сумме нижних чисел в верхних частях данного и последующего столбцов, т. е. 40+31;
а2 = 46, что равно 31 + 15; as = 20, что равно 15+5. Аналогично проверяем суммы bt-t. Разности р и суммы q чисел а и b подставляем в формулы
Si = Pi, s2 = 9х + 2^2, s3 = /?! + 6 (р2 + р3),
S4 = qv + 2 [7^ + 6(393+2^)],(1.95а)
5,=—463, s2=605+2-310=1225,
s3=—463+6 (—218 —38)= —1999,
s4=605+2[7-310 + 6(3-78+2-11) ] =8017.
Далее находим вспомогательную величину:
m=sJN, т=—463/431 = —1,07425 и суммы степеней отклонений:
2 х2 = $2 — s^, 2 х3 = s3 — 2/п (1,5 s2 — s^fri),
2 х4 = s4 — m [4s3 — Зпг (2s2 — msO],(1.956)
2x2 = 1225-463-1,07425 = 727,62225,
2 x3 = —1999+1,07425 - 2 (1,5 -1225—463.1,07425) = 880,25265,
2 x4 = 8017+1,07425 (-4-1999+3-1,07425 (2-1225—1,07425 x X 463)) = 6187,8756.
Центральные моменты отсюда равны:
р2 = (2 x2)/W,Нз=(2^)/^,P4=(2x4)/^.(1.95b)
ц2 = 727,62225/431 = 1,6882, р3 = 880,25265/431 = 2,0424,
р4 = 6187,8756/431 = 14,3571. -
Среднюю арифметическую и сигму вычисляем по формулам М = А-\-ст,(з = сУ^
где А — начало отсчета отклонений; с — классовый интервал; т — вспомогательная величина; |л2— второй центральный момент, М=118 — 19-1,07425=97,589; о= 19уЕб882= 19-1,2992 = = 24,685. Пользуясь этими величинами, можно найти и другие показатели взвешенного ряда по ранее приведенным формулам.
Способ 4. При описании способа 3 рассмотрен алгоритм вычисления моментов взвешенного ряда путем суммирования, когда варианты ряда возрастают снизу вверх. В излагаемом здесь алгоритме показано вычисление моментов для ряда, варианты которого возрастаютсверху вниз. По данным из табл. 1.28 найдем моменты ряда распределения величин диаметра соцветия у нивяника (табл. 1.31).
Таблица 1.31. К вычислению моментов по способу 4
X
1
#1=183
#2—35
#з=2
#4=0
37
2
2
2
2
—
51
29
31
33
—
—
65
119
150
—
—
—
79
171
—
—
—
93
121
179
—
—
107
42
58
74
—
—
121
16
16
16
16
—
к=1
7V=5OO
6,=253
*2=90
63=16
д4=0
р=а-
—Ь
—70
—55
—14
0
q=a-\-b
436
125
18
0
По формулам (1.95а):
s,=—70, s2=436 + 2.125=686, s,=—70+6(—55— 14) = =—484,
s4=436+2[7-125+6-(3-18+2-0)] = 2834.
Вспомогательная величина m=sJN=—70/500=—0,14.
По формулам (1.956):
2*2 = 686-70-0,14 = 676,2;2х3 = -484+2-0,14(1,5 X
X 686—70 - 0,14) = — 198,624,2 ^ = 2834+0,14 (-4 х
X 484+3-0,14 (2-686—70-0,14)) = 2643,05736.
Центральные моменты для ряда, в котором варианты возрастают по величине сверху вниз, вычисляются по тем же формулам (1.95в), за исключением одного, третьего, центрального момента, перед которым меняется знак: ц2=676,2/500= 1,3524; Из=— (2 ^)/N=—198,624/500=—0,3972; ц4=2643,05736/500= = 5,2861.
Сравнивая суммы s^4 с суммами степеней отклонений fa, fa2, fa3, fa4 из табл. 1.28, видим, что они совпадают по абсолютной величине, что можно использовать для проверки вычислений, расположив варианты и частоты сначала по возрастанию вариант, а затем по их убыванию и, сравнив затем результаты вычислений, которые должны быть одинаковыми, лишь третий момент будет различаться по знаку, но не по величине. Прочие показатели взвешенного ряда можно найти по формулам, приведенным в описании способа 3.
§ 1.23.ДОВЕРИТЕЛЬНЫЕ ИНТЕРВАЛЫСТАТИСТИЧЕСКИХ ПАРАМЕТРОВ
Ценность статистически обработанных данных заключается также и в том, что вычисленные средние, коэффициенты вариации и корреляции, критерии различия и другие показатели получают количественные границы доверия, которые обозначают возможные колебания показателя в меньшую и большую стороны в пределах доверительного интервала. В зависимости от типа распределения данных доверительный интервал рассчитывается двумя способами.
В симметричных распределениях, близких к нормальному, размах отклонений данных от средней арифметической обычно равен приблизительно За в ту и другую сторону, поэтому считают, что все возможные отклонения параметра от его истинной величины будут лежать в пределах ±3а. Отклонения от средней арифметической для их сравнимости выражают в долях сигмы:
1=Цх-МШ
где t— нормированное отклонение от средней арифметической; х — любая варианта совокупности; М— средняя арифметическая; а — среднее квадратическое отклонение.
При расчете доверительного интервала для трех стандартных доверительных уровней: Р1 = 95%, Р2 = 99%, Р3 = 99,9%, / выбирается по табл. 4П, по числу степеней свободы, соответствующему данному параметру. Если объемы выборок достаточно велики, то принимаются /, равные 1,960; 2,576; 3,291, или округленно 2,0; 2,6; 3,3, по тем же доверительным уровням, т. е. берется последняя строка таблицы.
Доверительный интервал средней арифметической строится по формуле
М — /тм<истинное значение <Л4 + ^тлг. (1.96)
Пример. Доверительный интервал средней арифметической из §1.16 построим на 95% доверительном уровне при числе степеней свободы v=14—1 = 13, откуда по табл. 4П / = 2,160. Средняя Л4 = 74,9, ее ошибка тм=\$, следовательно:
74,9—2,160- 1,9<истинное значение<74,9 + 2,160-1,9,
откуда истинное значение средней арифметической находится в пределах 70,8<М <79,0, т. е. не меньше 70,796 и не больше 79,004.
Подставив в формулу (1.96) вместо М и тм величину любого параметра и его ошибки, например среднего квадратического отклонения, коэффициентов вариации или корреляции и других можно построить для них доверительный интервал таким же образом.
Когда доверительный интервал необходимо построить при неизвестном типе распределения вариант, применяется неравенство П. Л. Чебышева. В этом случае подразумевается, что размах отклонений от средней арифметической в совокупности с неизвестным распределением может быть больше, чем в нормальном распределении, т. е. больше чем Зо.
Согласно неравенству П. Л. Чебышева, истинная средняя арифметическая находится в интервале:
М — tumIV 1 — Р' ^ истинное значение ^ М + тм1У 1 —^'»
(1.97)
где М— средняя арифметическая, рассчитанная по выборке; тм — ее ошибка; Р'— доверительный уровень, или 1 — Р'= = W'— уровень значимости в долях единицы.
Построим доверительный интервал для средней из предыдущего примера по неравенству П. Л. Чебышева: /14 = 74,9; тм = = 1,9; примем доверительный уровень Р^ЭбУо, т. е. уровень значимости
№'=1-^=1 —0,95 = 0,05. По формуле (1.97)
,9 — 1,9/j/0J)5^истинная средняя ^74,9 + 1,9/(ЛО,05, следовательно, согласно неравенству (1.97), средняя арифметическая с вероятностью 0.95 находится в пределах от 66,4 до 83,4, т. е. в более широком интервале, чем при нормальном распределении. При доверительном уровне Р^ЭбУо истинная величина статистического параметра (например, средней арифметической) находится в пределах от М = —4,47 тм до М = +4,47тм, (где 4,47= 1/У0,05), каково бы ни было распределение данных в рассматриваемой выборке.
Если требуется определить доверительный интервал статистического параметра лишь с одной стороны (большей или меньшей), то значение / по сравнению с рассчитанным по формуле (1.96) принимается несколько меньшим, по табл. 7П. Для трех стандартных уровней: Pt = 95%, Р2=99% и Р3=99,9%, t при одностороннем доверительном интервале для больших (¥/>30) выборок соответственно равно: 1,645; 2,326 и 3,090. Используя пример из § 1.04, где средняя арифметическая равна /14 = 75,05, а ее ошибка тл/ = +0,41, вычислим доверительный интервал в большую сторону на 95% доверительном уровне:
истинное значение< M-VtmMl(1.98)
М+tmM = 75,05+1,645 • 0,41 = 75,72.
Следовательно, правая, или большая, граница одностороннего доверительного интервала рассматриваемой средней арифметической составляет 75,72. Односторонний интервал с левой, или меньшей, стороны
М — /тЛ1^истинное значение,(1.99)
где t принимается для больших выборок, согласно приведенным значениям для одностороннего интервала, или по табл. 7П, если выборки небольшие, при числе степеней свободы N— 1.
ОПРЕДЕЛЕНИЕ РЕПРЕЗЕНТАТИВНОСТИИ МЕТОДЫ ОТБОРА ВАРИАНТ ВЫБОРОК
Генеральной совокупностью называется вся совокупность особей или предметов изучаемого объекта. Если изучается средняя высота растений какого-либо сорта, то генеральной совокупностью являются все особи данного сорта, выращенные в сходных условиях. Большинство биометрических исследований проводится на некоторой части генеральной совокупности, которая называется выборкой, или выборочной совокупностью. Статистические показатели, полученные по выборке, распространяются затем на всю генеральную совокупность данного объекта. Численность генеральной совокупности может быть известной, а чаще ее определить трудно. Объем выборки, достаточный для достоверности получаемой по ней средней арифметической, можно определить различными способами. Объем репрезентативной, т. е. достаточной по численности, выборки для того случая, когда известен объем генеральной совокупности, вычисляется по формуле
#=1/[(Д//о)2+1Ж], (МОО)
где N— искомый объем выборки; критерий достоверности Стьюдента в зависимости от доверительного уровня исследования /=1,96 при ^/=0,95; / = 2,58 при Р2/=0,99 и /=3,30 при Р/= = 0,999; No — численность генеральной совокупности; Д — допустимая погрешность определения средней арифметической в именованных числах; о — среднее квадратическое отклонение.
Если сигму нельзя вычислить по предыдущим опытам с данным объектом, ее можно определить по приближенным способам, рассмотренным в § 1.11.
Определим репрезентативность выборки для изучения продолжительности вегетационного периода совокупности сортов ячменя. Предположим, что существует всего около 2000 сортов этой культуры. Из предыдущих расчетов известно, что в этой совокупности для выборки Д7 = 214 среднее квадратическое отклонение о=6,07 дня.
Примем допустимую погрешность определения средней арифметической Д=1 день, тогда по формуле (1.100) при /=1,96:
^= 1/[ (1/1/96-6,07)2+1/2000] = 132 сорта.
Таким образом, для изучения продолжительности вегетационного периода совокупности сортов ячменя достаточно было взять выборку в 132 сорта при условии их случайного отбора.
Репрезентативность выборки для достоверности ее средней арифметической можно определить, минуя расчет средней арифметической, сигмы и ошибки средней арифметической:
->9,(1.101)
(2 х) у^2х2—
где х — варианты ряда; Л7 — число вариант.
Если значение левой части неравенства (1.101) будет больше 9, то данный объем выборки достаточен для достоверности средней арифметической совокупности. Оценку значимости по формуле (1.101) можно делать также и более точно по критерию Фишера при v (1) = 1 и v(2)=iV— 1 (см. табл. 8П).
При отборе нужного числа вариант из генеральной совокупности необходимо прибегать к методу рендомизации, который обеспечивает случайность выбора вариант. Например, для производства каких-либо наблюдений или измерений следует отбирать не «типичные» и не «средние» экземпляры, а те, которые попадают в выборку по схеме отбора, независимо от размещения и состояния растений или их органов. Применяют в основном метод механического отбора и жеребьевку. При механическом отборе отсчитывают каждое пятое или десятое, или двадцатое и т. д. растение или рядок. При жеребьевке всем растениям делянки присваивают номера, затем записывают их на билеты и по жребию выбирают нужное число особей или же отбирают их по таблице случайных чисел (см.: [Янко, 1961, табл. 36]). Второй принцип отбора выборки — равномерность распределения отбираемых вариант по делянке, опытному полю, по буртам, ящикам и т. д. Например, нельзя брать все 20 растений какой-либо выборки из одного места делянки или 20 плодов из одного ящика, если ящиков много, и т. д. Можно отобрать 20 требуемых растений, например, по диагонали делянки через равные промежутки так, чтобы отбираемые особи распределялись равномерно по всей длине диагонали.
При подсчете репрезентативности выборки, например, из совокупности сортов растений по какому-либо хозяйственно важному признаку получаемое число может послужить при определенных условиях указанием на качественный состав данной совокупности сортов. Если, например, при объеме генеральной совокупности, равном 2000 сортов, при подсчете по формуле (1.100) получается, что для достоверного изучения длительности вегетационного периода сортов ячменя достаточно располагать выборкой в 132 сорта, это, помимо чисто статистического смысла данной величины, означает также и хозяйственную ненужность остальных 1868 сортов, так как они повторяют по данному признаку уже имеющиеся сорта. Поэтому использование таких сортов может быть оправдано лишь в том случае, если они обладают другими ценными признаками, не встречающимися у остальных сортов. Следовательно, сортооценка любой совокупности сортов
должна производиться по достаточно репрезентативному комплексу хозяйственно и биологически важных признаков.
В биологических исследованиях часто встречаются случаи, когда подлежащая изучению совокупность имеет неизвестную численность. Достаточный объем выборки из таких совокупностей
М=Цо1^\ (1.102) где t — критерий достоверности, порядок его применения указан в пояснении к формуле (1.100); о — среднее квадратическое отклонение; когда его величина для данного объекта неизвестна, ее можно приближенно определить по методам, рассмотренным в § 1.11; А — допустимая погрешность определения средней арифметической.
Определим достаточный объем выборки для примера, приведенного в начале параграфа, в предположении, что объем совокупности неизвестен, ^=1,96, а = 6,07 дня, Д=1 день, тогда по формуле (1.102) Л^ =.(1,96-6,07/1)2= 142.
Формулы (1.100) и (1.102) дают только приближенные значения численности выборок; результаты, получаемые по ним, сильно зависят от принимаемой величины допустимой погрешности средней арифметической. Проверить правильность назначения достаточной численности выборки можно, вычисляя затем по ней показатель точности опыта (см. § 1.14), который должен быть не больше 5%.
Когда известна величина варьирования вариант совокупности (в %), достаточный объем выборки
М=^и1гУ, (1.103) где у — коэффициент вариации, % ; е — допустимая погрешность, %; t— критерий достоверности.
Рекомендуется принимать е = 3% и не больше 5%. Если известны точно или приблизительно средняя арифметическая и сигма (см. § 1.11), то коэффициент вариации можно подсчитать (см. § 1.13), а затем подставить его значение в формулу (1.103). Достаточная численность выборки при /=1,96, и=10% и е=3% по формуле (1.103) .V= (1,96-10/3)2 = 43.
Если принять /=1,96, е = 3%, то формула (1.103) получает вид ^ = 0,43 и2. Тогда минимальный при /=1,96 и 8 = 5% и максимальный при /=3,30 и е=1% объемы достаточных выборок соответственно равны: A^min = 0,1537-y2 и Nmax= 10,89-и2.
При у =10% минимальная и максимальная выборки соответственно равны 15 и 1089 особей. Размеры минимальных выборок в зависимости от коэффициента вариации исходных данных приведены в табл. 9П.
При альтернативном варьировании и известной численности генеральной совокупности изучаемого объекта объем выборки, достаточный для достоверности определяемой доли, можно приближенно определить по формуле (1.100), которая для часто
применяемого уровня достоверности в 95% при /=1,96 и о=0,5 (когда последняя неизвестна) примет вид
N = (1,042А2 + N?y\ (1.104)
где Л/'о— объем генеральной совокупности; А—допустимая погрешность при определении доли (средней арифметической); о — среднее квадратическое отклонение изучаемой совокупности; если оно неизвестно, следует принять максимальное его значение при альтернативном разделении дат о=0,5; / — показатель достоверности суждения, в зависимости от требуемой точности опыта он равен 1,96; 2,58; 3,30.
Определим достаточный размер выборки, который требуется для достоверности определения доли корнеплодов моркови, поражаемых фомозом при механическом их повреждении (по данным^ 1.27). Сигма этой совокупности известна а=У0,63-0,37= = 0,48, имеющаяся в наличии численность генеральной совокупности: /Vo~6OO корнеплодов. Примем А = 0,1 и /=1,96. По формуле (1.100)
N = 1 / [ (0,1 / (0,48 • 1,96))2 +1 /600] = 77.
Таким образом, для достоверного определения доли распространения заболевания в данной партии моркови как минимум необходимо 77 корнеплодов.
По формуле (1.104) достаточная величина выборки по этим же данным, но для совокупности с неизвестной сигмой, которая принимается о=0,5 и при А = 0,1; ^o = 6OO: 7V= 1 /(1,042 -0,12+ 4-1/600) =83.
Увеличение выборки на 6 корнеплодов по сравнению с предыдущим результатом произошло из-за увеличения сигмы с 0,48 до 0,50.
При планировании опыта или обследования необходимый объем выборки, обеспечивающий достоверность доли при альтернативном варьировании признака, в зависимости от требуемой точности при неизвестном объеме генеральной совокупности может быть приближенно определен и по формуле (1.102).
Если сигма неизвестна, то и в этом случае следует принять се максимально возможное значение при альтернативном разделении вариант о=0,5, а А — допустимую погрешность определения доли выразить в частях единицы.
Для данных табл. 1.05 о доле мутантов среди особей ячменя по формуле (1.102) требуемый минимум объема выборки для достоверности определения доли мутантов при /=1,96; б=^рд = = У0,06-0,94 = 0,24 и А=0,02: Armin = (1,96-0,24/0,02)2 = 553 особи.
Величина выборки, в которой гарантировано наличие хотя бы одной особи, обладающей изучаемым признаком, определяется по формуле
M-ngd-^H/Ugd-p)], (1.105)
где Р/—0,95; Р2'=0,99; Р/=0,999; р— доля особей в генеральной совокупности, обладающих изучаемым признаком. При делении логарифмов их необходимо преобразовать из искусственной в естественную форму. Для тех же данных при р = 0,06 по формуле (1.105) объемы выборки, гарантирующих наличие как минимум одного зараженного корнеплода на трех указанных уровнях достоверности суждения от Р/ до Р/ будут: 48, 74 и 112 корнеплодов.
§ 125.
НОРМАЛЬНОЕ РАСПРЕДЕЛЕНИЕ
Достаточно большую статистическую совокупность можно представить в виде эмпирической кривой распределения частот. Почти каждое эмпирическое распределение можно, в свою очередь, интерпретировать каким-либо теоретическим типом распределения, что, как правило, раскрывает новые особенности изучаемого явления и позволяет прогнозировать некоторые его свойства. Принципы построения статистических распределений и другие подробности о них можно найти в курсах теории вероятностей. Распределения разделяются на два основных типа: дискретные и непрерывные — в зависимости от характера изменения составляющих их случайных величин. Начиная с § 1.26, рассмотрены распределения дискретного типа: альтернативное, биномиальное, гипергеометрическое, Пуассона, негативное биномиальное, мультиномиальное, а затем, начиная с § 1.32,— распределения непрерывного типа: Максвелла, Рэлея, показательное, Парето и др. Предшествует тем и другим типам нормальное распределение непрерывного типа, которое является основным, так как, согласно теории вероятностей, к нему в пределе стремятся все известные типы распределений. Нормальное распределение широко распространено, имеет наибольшее значение для теории и практики биометрических исследований, поэтому в первую очередь сравнивают полученное эмпирическое распределение с нормальным, теоретические частоты которого необходимо для этого вычислить. Нормальному распределению присущи следующие признаки: 1) симметричная колоколообразная двускатная кривая распределения частот; 2) соотношение средней арифметической и сигмы, равное М = 3а, или ц = 33%. Чем ближе эмпирическое распределение к этим показателям, тем больше шансов на удовлетворительную аппроксимацию его кривой нормального распределения. Итак, требуется установить, какие значения частот имел бы данный вариационный ряд, если бы распределение частот было нормальным. Теоретические частоты кривой нормального типа можно вычислить по формуле
/' = <Nc/oV"2^ e-°'st\(1.106)
или, что одно и то же:
f= (Ncjo) • (0,39894/е0>5/2),(1.107)
или
f'=Nexp {Inc+ln0,39894 — Inn—0,5H> (1.108) где N— объем выборки; с — классовый интервал; о — среднее квадратическое отклонение; е — основание натуральных лога- рифмов = 2,7182818 (см. табл. 10П); /=(х—Л1)/о— нормированное отклонение (о нем говорится также в § 1.23); М — средняя арифметическая; х — варианты (середины классов) ряда.
Формула (1.108) наиболее удобна при вычислении на небольших ЭВМ, так как дает возможность избежать переполнения памяти при больших показателях числа е. Вычисление теоретических частот и совпадение их с эмпирическими у распределения 214 сортов ячменя по продолжительности вегетационного периода по данным из табл. 1.04 по формуле (1.106) показано в табл. 1.32 и 1.33. В табл. 1.33 произведены следующие действия.
Найдены разности вариант и средней арифметической: х — М (столбец 2).
Разности х—М в столбце 3 нормируются, т. е. делятся на среднее квадратическое отклонение (о=5,989).
По вычисленным значениям /, пользуясь табл. 11П, находим значения выражения ф (/) = (l/|/^)e-0’5'2 для формулы (1.106), или ф(/) = 0,39894/(е0>5*2) для формулы (1.107) (столбец 4).
Вычисляем значение выражения
Nel о = 214 • 5/5,989 = 178,66.
Множим числа столбца 4 на 178,66 (столбец 5).
Округляя числа столбца 5 до целых чисел, получаем теоретические частоты; их сумма должна быть близкой к объему выборки, а величина крайних вариант, выраженных в нормированных отклонениях, должна быть не меньше 3. Если эти отклонения меньше 3, то следует соответственно слева, справа или симметрично добавить несколько классов по краям распределения. Уравнение кривой нормального распределения в конкретной форме: /'= 178,66 ф (0, где t= (х—75,09)/5,989.
На рис. 3 изображены эмпирическая и теоретическая кривые нормального распределения рассмотренной совокупности. Сравнение теоретических частот с эмпирическими с целью установить, отличается ли данное распределение от нормального, рекомендуется производить критерием Колмогорова.
При помощи критерия Колмогорова сравнивают лишь взвешенные ряды, как теоретические с эмпирическими, так и эмпирические между собой. Число наблюдений при этом должно быть достаточно большим; объединять их в очень крупные разряды (классы) нельзя, а сама изучаемая случайная величина должна иметь распределение непрерывного типа. В результате вычислений получают величину К(Х), которую сравнивают в зависимо-
Таблица 1.32. Расчет критерия [Колмогорова при сравнении эмпирических и теоретических частот
Ч астоты
n/N
n'/N
d
эмпирические
теоретические
накопленные эмпирические п
накопленные теоретические п'
1
2
3
4
5
6
7
2
2,98
2
2,98
0,00935
0,013925
0,0045
30
17,4
32
20,38
0,14953
0,095234
0,0543
34
49,7
66
70,08
0,30841
0,32748
0,01907
62
71,3
128
141,38
0,59813
0,66065
0,0625
74
50,9
202
192,28
0,94393
0,89850
0,0454
8
18,1
210
210,38
0,98131
0,98308
0,0018
4
3,2
214
213,58
1,000
0,99804
0,002
Af=214
213,58
Таблица 1.33. Вычисление теоретических частот нормального распределения
Варианты X
х—М
/ Х—М
— о
Ф(0 (табл.
11 П)
Теоретические частоты
Эмпирические частоты f
вычисленные
округленные
60
—15,09
—2,5196
01 667
2,98
3
2
65
—10,09
—1,6848
09 728
17,4
17
30
70
—5,09
—0,8499
27 798
49,7
50
34
75
—0,09
—0,0150
39 889
71,3
72
62
80
4,91
0,8198
28 504
50,9
51
74
85
9,91
1,6547
10 139
18,1
18
8
90
14,91
2,4896
01 797
3,2
3
4
с—5
М=75,09
о—5,989
—
213,58
214
214
сти от принятого доверительного уровня с одним из трех следующих чисел: 1,36 (Р/ = 0,95); 1,63 (Р/=0,99); 1,95 (Р/ = 0,999). Если вычисленная величина критерия будет меньше критического уровня для избранной доверительной вероятности (указана в скобках), то различие считается несущественным, если больше, то устанавливается факт неслучайного различия между двумя данными рядами. Критерий Колмогорова более удобен, чем обычно применяемый для этой же цели критерий хи-квадрат, в частности тем, что позволяет обходиться без таблиц, учета
Рис. 3. Распределение сортов ячменя по продолжительности вегетационною периода / — эмпирические частоты;2 — кривая нормального распределения; f — частоты;х — вариантыРис. 3. Распределение сортов ячменя по продолжительности вегетационною периода / — эмпирические частоты;2 — кривая нормального распределения; f — частоты;х — варианты
Рис. 3. Распределение сортов ячменя по продолжительности вегетационною периода / — эмпирические частоты;
2 — кривая нормального распределения; f — частоты;
х — варианты
Рис. 3. Распределение сортов ячменя по продолжительности вегетационною периода / — эмпирические частоты;
2 — кривая нормального распределения; f — частоты;
х — варианты
числа степеней свободы и объединения классов распределения с малыми частотами.
Вычислим величину критерия Колмогорова для данных, приведенных в табл. 1.32, где сравниваются частоты эмпирического ряда распределения продолжительности вегетационного периода у сортов ячменя (столбец 1) с частотами соответствующей нормальной кривой (столбец 2). Частоты располагаются в таблице сверху вниз в порядке возрастания вариант ряда, что принято в качестве условия при вычислении этого критерия. В столбцах 3 и 4 приведены эти же частоты, но нарастающим итогом, т. е. в столбце 3: 2 + 30 = 32; 324-34 = 66; 66 + 62=128 и т. д., также и в столбце 4; суммирование частот ведется только сверху вниз. По
следнее число в столбце 3 должно быть равно объему эмпирического ряда Af = 214, а последнее число в столбце 4 должно быть равно сумме частот теоретического ряда Л^/ = 213,58. В столбцах 5 и 6 те и другие частоты поделены на ^ = 214, т. е. на объем эмпирического ряда. В столбце 7 вычислена разница без знака построчно между приведенными в столбцах 5, 6 аналогичными частостями эмпирического и теоретического рядов. Для дальнейших расчетов необходима лишь одна разность из этого столбца — максимальная, которая в данном случае равна 0,0625. По формуле (1.178) К(Х) =dmax‘VN> в которой К(Х) —величина критерия Колмогорова; dTOax— максимальная разница по модулю числа (без знака) из столбца 7; N — объем эмпирического ряда; К<М — = 0,0625у214 = 0,915. Это число меньше чем 1,36 при Р/ = 0,95; поэтому делаем вывод, что совпадение частот эмпирического ряда с частотами нормальной кривой удовлетворительное.
Теоретические частости нормальной кривой (в %) можно приблизительно вычислить и для невзвешенного ряда, если принять в формуле (1.106) ^=100%, с=10% (что определяет число классов 6=10), начальную варианту .^ = 0. Необходимость в таком расчете может возникнуть, например, при оценке степени нормальности распределения данных.
* * *
Одним из важных применений свойств нормального распределения служит возможность определения доли совокупности, находящейся в пределах заданного интервала изменения величины х, что покажем на следующем примере. Требуется выяснить, у какой части всех сортов ячменя урожай созревает на 70—80-й день после появления всходов, или, говоря иначе, какова вероятность встретить в культуре сорта ячменя с вегетационным периодом от 70 до 80 дней.
Для этого вычисляем нормированные отклонения меньшей и большей границ заданного интервала: ^ = 70, х2 = 80. Выше были вычислены средняя Л4 = 75,09 дней и сигма о=5,989 дней. Отсюда нормированные отклонения равны: tv=(xv— M)jo= = (70—75,09)/5,989 = -0,8499; t2= (х2 — М)/в= (80—75,09)/ /5,989 = 0,8198.
По табл. 12П значений функции Ф(/), приведенной в при- ложении, определяем по вычисленным ^ и /2 доли совокупности, находящиеся левее этих точек, но перед этим следует каждый раз преобразовывать отрицательные величины t и функции, если таковые имеются, в положительные. В нашем примере Л = —0,8499, поэтому функция для него Ф (—0,8499) = 1 — [ Ф (0,8499) ] = = 1—0,8023 = 0,1977; т. е. в случае отрицательного t найденное по таблице значение функции Ф вычитаем из единицы; остаток и будет искомым значением функции Ф для отрицательного t. Нормированное отклонение t2 для второй, большей границы интервала— число положительное, поэтому находим сразу по таблице Ф (0,8198) =0,7939.
По формуле р = Ф(/2)—Ф(Л) находим искомую долю: р = 0,7939—0,1977=0,5962, или 59,62%.
Таким образом, примерно у 60% всех известных сортов ячменя на созревание урожая требуется от 70 до 80 дней. Подобные сведения представляют интерес как при определении направления селекции новых сортов этой культуры, так и при географическом их размещении.
На основе свойств нормального распределения возможно решать также и обратные задачи: по заданной вероятности или объему совокупности, в процентах или долях единицы найти количественную границу интервала, в котором эта доля будет находиться. При этом одна из границ интервала должна быть известна. Например, требуется определить, по какому количественному критерию следует отбирать 5% сортов ячменя, вегетационный период которых больше медии (средней арифметической) .
Одна из границ искомого интервала известна — это значение медии: 7И = 75,1 день. Другую границу, численное значение которой больше медии, предстоит найти. Сначала решим эту задачу обычным способом при помощи таблицы функции нормального
распределения. Сигма была вычислена раньше, она равна 5,989. Нормированное отклонение для средней арифметической, как известно, равно нулю: /±= (75,1—75,1)/5,989=0,0.
В табл. 13П находим, что этому значению соответствует вероятность 0,50, или 50% всего объема совокупности. Далее в этом же столбце табл. 13П находим вероятность 0,55(0,50 + 0,05, или 5%), которой соответствует Z2 = 0,13. Так как t2=(x— М)/с= = (х— 75,1)/5,989, то искомое значение второй границы интервала x=ot2-VM = 5,989-0,13 + 75,1 = 75,9 дней. Таким образом, для того чтобы отобрать 5% сортов с указанным признаком, надо выбрать из совокупности все те сорта, вегетационный период у которых равен 76 дням.
Решим эту же задачу вторым способом — непосредственно по эмпирическому ряду, без помощи каких-либо таблиц нормального распределения, рассуждая следующим образом. 5% от 214 сортов составят 214-0,05=10,7=11 сортов. По табл. 1.34
Таблица 1.34. К вычислению доли совокупности по эмпирическим частотам
Вегетационный период ячменя, дни
Частота f
Накопленная частота f5
граница класса
середина класса X
57,5—62,4
60
2
2
62,5—67,4
65
30
32
67,5—72,4
70
34
66
72,5—77,4
75
62
128
77,5—82,4
80
74
202
82,5—87,4
85
8
210
87,5—92,5
90
4
214
к^Ч
с=5
^=214
накопленных частот определяем, что значение медии — одной из границ искомого интервала находится в классе с границами от 72,5 до 77,4. Число сортов, приходящихся на одну единицу этого классового интервала: 128—66 = 62 сорта — на 5 дней. Определим прямолинейной интерполяцией, т. е. обычной пропорцией, сколько единиц классового интервала приходится на 11 сортов:
62 5 дней = 1Ь5 = 0 88?
11 — Х262
Таким образом, левая граница интервала равна 75,1 дня, а правая: 75,1+0,887=75,987^76 дням, что и было получено по первому способу решения этой задачи. Отобрав все сорта в пределах этого интервала, т. е. с вегетационным периодом 76 дней, получим 11 сортов, или 5% от их общего числа. В табл. 1.01 на-
считывается 12 сортов с вегетационным периодом 76 дней, что можно считать хорошим совпадением результатов подсчета с фактическими данными. Только что изложенную задачу, решенную по эмпирическим частотам, можно выполнить и по следующим формулам в зависимости от того, совпадают ли границы интервала искомой доли с границами или серединами класса.
Если границы интервала искомой доли совпадают с серединами классов распределения, например от х1 = 70 до х2 = = 80 дней, то
Р = [f22 - f 21 - 0,5 (/2 - А) ] IN, (1.109)
где f21, fx2 — накопленные частоты, соответствующие заданным х4 и х2; fb f2— эмпирические частоты, соответствующие заданным Xt и х2; N — объем совокупности.
Подставляя в формулу (1.109) известные данные из табл. 1.34, получим р= [202—66—0,5(74—34) ]/214 = 0,542, что хотя и немного меньше доли, полученной через посредство таблиц функции Ф(/), однако, вероятно, более соответствует фактам, так как аппроксимация нормальной кривой, как это видно на рис. 3, могла бы быть лучшей.
Если границы интервала искомой доли совпадают с границами классов распределения, то
P=(U-UW> (1.1Ю)
где обозначения те же, что и в формуле (1.109).
Например, для интервала от ^ = 72,5 до х2 = 82,4 дней доля совокупности, или вероятность: р=(202—128)/214= 0,346, или 34,6% сортов.
Если границы интервала искомой доли не совпадают ни с границами классовых интервалов, ни с серединами классов, то вычисления доли р ведем следующим образом. Находим частоты f/ и /V, соответствующие, например, заданным границам интервала доли Xi = 64, х2 = 73, для чего делим частоту, соответствующую меньшей границе интервала доли хь на классовый интервал, получаем число частот, приходящееся на единицу классового интервала: 30/5 = 6, умножаем его на разницу xt с меньшей границей класса (64—62,5), т. е. 6-1,5=9, и вычитаем полученное число из частоты f/ класса, в котором находится х^. 30—9 = = 21, что можно представить в виде формулы
к = fi [ 1 - СЧ - GJ/c] = 30 [ 1 — (64-62,5)/5] = 21, (1.111) где f/— частота, точно соответствующая xt — меньшей границе интервала искомой доли; ft— частота класса, в котором находится Xi\ Gi — меньшая граница класса, в котором находится xv; с — классовый интервал.
Частота для х2— большей границы интервала доли:
к = (1.112)
Рис. 4. Нормальная кривая
На оси абсцисс — баллы (1—6) шкалы по среднему квадратическому отклонению; vM — средняя арифметическая, f — частоты; х — варианты
где G2— меньшая граница класса, в котором находится значение х2; /г — частота этого класса, т. е. f2=62(73—72,5)/5 = 6,2.
Из таблицы накопленных частот данного ряда находим /21=32; /Х2= 128, после чего вычисляем искомую долю:
р = (/х2- /Х1+ А - А + ГЖ(1.113)
р = (128—32+21—62+6,2)/214 = 0,286,
т. е. среди сортов ячменя насчитывается 28,6% созревающих в период от 64 до 73 дней после посева.
При количественном определении понятий «типичное» и «норма» важную роль играет среднее квадратическое отклонение. На расстоянии (Л4+о) и (М—а) от медии на графике нормальной кривой расположены абсциссы ее двух точек перегиба (рис. 4). Точки перегиба кривых, как правило, указывают на тот момент процесса или явления, когда в нем происходят качественные изменения, что в данном случае важно для построения теоретически обоснованных шкал. В нормальном распределении в точках перегиба может произойти лишь переход от типичных величин вариант совокупности к нетипичным, хотя и принадлежащим еще к одной совокупности. В этом, собственно, и заключается смысл среднего квадратического отклонения, которое измеряет среднюю величину отклонений вариант от медии, наиболее вероятной, или типичной, величины. Приведем величины площади под нормальной кривой, которые соответствуют определенным значениям сигмы, одновременно по обе стороны от медии. В интервале нормы, между абсциссами, от (Л1 — о) до (Л1 + о) находится 68,27% всей площади нормального распределения, т. е. вариант, или дат совокупности; между М— 2а и М + 2о заключается 95,45% дат от всего объема и в интервале от М— За до Af + За лежит 99,73% от всего объема нормально распределенной совокупности.
Если тип распределения данных неизвестен или известно, что он не относится к нормальному, то минимальная доля вариант,
(1.113а)(1.113а)приходящаяся на интервал M-vt*. Pmin>l-1//2,
(1.113а)
(1.113а)
где :Ы— нормированное отклонение, взятое со знаком + и —, т. е. находящееся на одинаковом расстоянии от средней арифметической слева и справа по оси абсцисс. При определении доли вариант в сигмальном интервале (То), когда ±/=1, pm]n> >1 —1/1>0. Таким образом, не исключено, что в интервале нормы при некотором типе распределения может оказаться любое число вариант, о котором известно лишь одно — что оно больше нуля. При /<1 в правой части неравенства (1.113а) получается отрицательное число, следовательно, в интервале, меньшем ±о, по обе стороны от средней при некоторых типах распределений не гарантируется наличие даже одной варианты.
Доля вариант при нормальном и любом другом распределении данных для некоторых значений t указана в табл. 1.35.
Таблица 1.35. Доли вариант, соответствующие различным сигмальным интервалам
t
Границы интервалов
Доля вариант
от
ДО
при нормальном распределении
минимум при любом распределении
1
М—а
М+а
0,683
0
1,5
М—1,5 а
М+1,5 а
0,866
0,555
2
М—2 а
М+2 а
0,955
0,750
2,5
М—2,5 а
М+2,5 а
0,988
0,840
3
М—За
М+3 а
0,997
0,889
3,5
М—3,5 а
М+3,5 а
0,999
0,918
§ 1.26.
АЛЬТЕРНАТИВНОЕ РАСПРЕДЕЛЕНИЕ
Альтернативное (или дихотомическое) распределение применяется в тех случаях, когда варианты могут быть разделены по некоторому признаку только на два класса. Например, совокупность корнеплодов моркови может быть разделена на пораженные фомозом и здоровые, совокупность цветков на однодомном растении может быть разделена на мужские и женские, и т. д. Таким образом, при альтернативном варьировании дат совокупность делится на две части: в одной из них наблюдаемый признак, например поражение болезнью, присутствует, а в другой части наблюдаемый признак отсутствует.
Выборки, состоящие из двух групп альтернативных вариант, нередко встречаются в практике биологических, в частности генетических, исследований. Например, в табл. 1.05 в одной выборке, состоящей из 1050 обследованных растений ячменя, 66 осо-
бей оказались мутантами, что составляет 6,3% от всего числа растений, или 0,063 в долях единицы. Доли особей, или вариант, обладающих изучаемым признаком или не обладающих им:
p=nPIN,(1.114)
q=nJN1(1.115)
где р— доля особей с изучаемым признаком, выраженная как часть от единицы, она же и средняя арифметическая; q— доля особей без этого признака; пр— число особей, имеющих изучаемый признак; nq— число особей, не имеющих изучаемого признака; N — объем всей выборки (¥=np + ng).
Когда обе указанные доли выражаются в частях от единицы,
всегда соблюдается равенство
р + ?=1,(1.116)
которое служит для проверки вычислений.
Доли особей с изучаемым признаком или без него могут быть определены также в процентах:
р=мр.100%Ж(1.117)
^=ng-100%/¥,(1.118)
р + ^= 100,(1.119)
где обозначения аналогичны тем, которые даны в формулах (1.114) — (1.116). Для данных табл. 1.05 доли мутантов и нему- тантов в частях единицы определяются по формулам (1.114) — (1.116): р = 66/1050=0,063; (/=984/1050=0,937; р + ^ = 0,063 + + 0,937=1, или в процентах по формулам (1.117) — (1.119): р=66 -100/1050=6,3%; (7=984-100/1050=93,7%; p^-q=63 + + 93,7=100%.
Для определения достоверности доли при альтернативном разделении вариант необходимо определить ее ошибку.
mM = Vpq!N, (1.120)
где тм— ошибка доли; р— доля вариант, имеющих наблюдаемый признак, или средняя арифметическая этого признака; q— доля вариант, не имеющих наблюдаемого признака; N — объем выборки. Для данных табл. 1.05.
тм = V6,3-93,7/1050 = +0,75 %.
Ошибка получается в долях единицы или в процентах в зависимости от размерности р и q. Границы достоверности при альтернативном разделении вариант можно определить, прибавляя к той или другой доле выражение ±tmM> где /— критерий Стьюдента (по табл. 4П) с числом степеней свободы v=¥—1. Для рассматриваемого случая, при Р/=0,95, ¥=1050, v= = 1050—1 = 1049, /=1,96 (из табл. 4П), р=6,3%+ 1,96-0,75= = 6,3± 1,5%, т. е. процент мутантов в совокупности особей ячме-
ня при воздействии на них некоторых мутагенных факторов, или средняя арифметическая мутантов, может колебаться от 4,8 до 7,8%. Ошибка альтернативной доли равна той же величине, т. с. mq=mp = mM, в данном случае ^ = 93,7%±1,5%. При р = 0 ошибку доли вычисляют при помощи искусственного приема по формулам
Р = [(Пр + 1)-Ю0]/(Л^ Ч-2), тм = VPql^N + 3), (1.121)
где обозначения те же, что и в формулах (1.114), (1.120).
Допустим, что в другой выборке из 997 растений ячменя не оказалось ни одного мутанта, т. е. пр=01 тогда по формулам (1.121)
р = [(0+1). 1001/(997+2) = 0,1 %, тм = /0,1.99,9/(997+3)= = 0,1%,
т. е. в генеральной совокупности возможно все же встретить небольшой процент мутантов, несмотря на их отсутствие в данной выборке. Формулы (1.121), конечно, применимы также и к альтернативной доле — q.
Среднее квадратическое отклонение, или сигма двухклассового разделения вариант, определяется для количественного выражения меры альтернативной изменчивости в долях единицы или процентах:
<5 = V№ (1.122)
где р— доля вариант, обладающих наблюдаемым признаком в долях единицы или процентах; q— доля вариант, не обладающих наблюдаемым признаком.
Для данных из табл. 1.05 сигма в долях единицы по формуле (1.122) о=У0,063-0,937=0,243, или в процентах а=Уб,3-93,7= = 24,296%. Ошибку сигмы можно определить по формуле (1.32). Величина сигмы при альтернативном варьировании не может превышать 50%, или 0,5 в долях единицы.
Коэффициент вариации и для альтернативного варьирования дат
v = 2o%, (1.123)
где о — среднее квадратическое отклонение, %. При среднем квадратическом отклонении, равном 24,296, коэффициент вариации v = 2-24,296 = 48,6%. Ошибку коэффициента вариации можно определить по формуле (1.47).
С достаточным приближением показатель точности опыта при альтернативном разделении дат определяется по формулам (1.50) и (1.51). Для рассмотренного примера показатель точности опыта вычисляется по формуле (1.51):
Р = 48,6/КТб5б = 1,5 ?/0.
Такое значение является высоким показателем точности определения доли, или средней арифметической, в данном опыте. Точность опыта в общем случае считается неудовлетворительной, если показатель Р больше 5%.
БИНОМИАЛЬНОЕ РАСПРЕДЕЛЕНИЕ
Теоретические частоты распределения вычисляют главным образом для того, чтобы путем сравнения с эмпирическими частотами выяснить меру их совпадения. При совпадении опытных и теоретических частот на эмпирическую выборку распространяют закономерности, присущие данному теоретическому типу распределения.
Для применения биномиального распределения исходные данные должны быть дискретного типа и отвечать следующим условиям.
Объем исходной совокупности, из которой делается выборка, должен быть настолько велик, чтобы не могла измениться вероятность определения данного признака. Если объем исходной (генеральной) совокупности недостаточно велик, то отобранные единицы учета должны быть возвращены в нее для сохранения той же вероятности получения выборки с данным признаком. Если совокупность невелика и отобранные единицы не могут быть в нее возвращены, то в этом случае следует применить гипергеометрическое распределение (см. § 1.28).
Величина дисперсии выборки должна быть меньше ее средней арифметической. Выборка при биномиальном распределении обычно образуется, когда берут Nn проб одинакового объема, равного п. В каждой из проб подсчитывают число вариант, обладающих изучаемым признаком. Например, было взято Nn~ = 112 проб корнеплодов из совокупности сортов моркови с целью изучения их устойчивости к заболеванию фомозом. Корнеплоды заражали искусственно — механическим повреждением. В каждой из 112 проб было одинаковое число корнеплодов: п = 9. В каждой девятке подсчитывалось число пораженных фомозом корнеплодов (табл. 1.36). Соответствие эмпирического распределения биномиальному можно определить четырьмя способами. Если п велико, например больше 10, теоретические частоты би* номиального распределения можно получить с достаточной точностью по первому способу при помощи формулы частот нормального распределения. Если п<10, лучше воспользоваться вторым способом, т. е. формулой разложения бинома, отдельные члены которого представляют собой теоретические частоты биномиального распределения. В конце параграфа приведены также рекуррентный и табличный способы. Три первых способа рассмотрим на данных из столбцов 1 и 2 табл. 1.36.
Теоретические частоты биномиального распределения по первому способу, по схеме нормального распределения, вычисляю т-
Таблица 1.36. Вычисление гчастот биномиального распределения по формуле (1.107)
Число больных корнеплодов в пробе х
Число проб f
xf
хЧ
; _ (х-М) О
Мп
1
2
3
4
5
6
7
9
4
36
324
1,802
0,07895
5
8
20
160
1280
1,255
0,18037
И
7
18
126
882
0,708
0,31006
19
6
14
84
504
0,161
0,393870
24
5
27
135
675
0,386
0,371150
23
4
18
72
288
0,932
0,258880
16
3
4
12
36
1,479
0,133440
8
2
7
14
28
2,026
0,05082
3
1
0
0
0
2,572
0,014603
1
0
0
0
0
3,119
0,0030698
0
112
639
4017
НО
ся по формуле (1.107): /'= [A/nC^ (/)]/а, где сигма может быть найдена, например, по формуле (1.38):
° =V [S /*2 - (2 fx^!Nn\KNn - 1),
Обозначения в этих формулах следующие: f'— теоретические частоты биномиального распределения; Nn — число проб; Т (/) — функция от t, отыскивается по табл. 11П; t—нормированное отклонение: /=(х — М)/о; х— варианты распределения; М— средняя арифметическая; / — эмпирические частоты распределения: с — классовый интервал.
Теоретические частоты по первому способу вычисляем в следующем порядке (табл. 1.36).
Перемножаем варианты из столбца 1 на соответствующие им частоты из столбца 2, результаты пишем в столбце 3.
Числа столбца 3 множим на числа столбца 1, результаты записываем в столбце 4.
Суммируем числа столбцов 2—4, получаем итоги: ^n.= 112, 2 ^/ = 639, 2/^ = 4017.
Вычисляем среднюю арифметическую по формуле (1.13): М — 639/112=5,705 корнеплода.
Среднее квадратическое отклонение находим по формуле /1.38)
о = }/ (4017—6392/112)/(112—1) = 1,829.
Дисперсия а2=3,34 меньше, чем средняя, поэтому в данном случае можно применить биномиальное распределение.
Разности средней арифметической с вариантами х делим на о= 1,829, получаем значения нормированных отклонений в столбце 5.
По табл. 11П находим значения функции Т (О и выписываем их в столбец 6.
Находим значение выражения Nncfo= 112-1/1,829=
Рис. 5. Эмпирические (/) и теоретические (2) частоты биномиального распределения поражаемости фомозом корнеплодов морковиf — частоты;х — вариантыРис. 5. Эмпирические (/) и теоретические (2) частоты биномиального распределения поражаемости фомозом корнеплодов морковиf — частоты;х — варианты= 61,236.
Рис. 5. Эмпирические (/) и теоретические (2) частоты биномиального распределения поражаемости фомозом корнеплодов моркови
f — частоты;
х — варианты
Рис. 5. Эмпирические (/) и теоретические (2) частоты биномиального распределения поражаемости фомозом корнеплодов моркови
f — частоты;
х — варианты
Перемножаем числа из столбца 6 на 61,236 и, округляя до целых чисел, получаем в столбце 7 теоретические частоты кривой биномиального рас-
/'=61,23644 0, где/'=61,23644 0, гдепределения (рис. 5), уравнение которой
/'=61,23644 0, где
/'=61,23644 0, где
/= (х—5,7)/1,8.
Г = Nn(p + qf = NnГ = Nn(p + qf = Nnp°qn _|_ np^q^1 +p°qn _|_ np^q^1 +^(^ + 1)1-2^(^ + 1)1-2р29П-2р29П-2Для вычисления теоретических частот биномиального распределения по второму способу используем формулу разложения бинома:
Г = Nn(p + qf = Nn
Г = Nn(p + qf = Nn
p°qn _|_ np^q^1 +
p°qn _|_ np^q^1 +
^(^ + 1)1-2
^(^ + 1)1-2
р29П-2
р29П-2
(1.124)(1.124), n (n — 1) (/i — 2) о „„ a
(1.124)
(1.124)
— p3qn-^ + . .. + p q
где p — доля вариант, обладающих данным признаком; q— доля вариант, не обладающих данным признаком; п— число вариант в пробе; Nn — число проб.
В рассматриваемом примере (см. табл. 1.36) число больных корнеплодов мр = 639 (итог столбца 3), а общее число корнеплодов N=Nnn= 112-9= 1008. Следовательно: п^= 1008—639=369. В долях единицы от общего числа корнеплодов р = 0,63; ^=0,37. Размер пробы п = 9. Общее число проб ^=112. Вычисление теоретических частот по формуле (1.124): f'= (0,63 + 0,37)9- •112 — ведется в следующем порядке (табл. 1.37).
Из табл. 14П выписываем в столбце 1 коэффициенты разложения бинома при п = 9 (размер пробы).
Возводим в степени от 0 до 9 долю р = 0,63 (столбец 2).
Возводим в степени от 0 до 9 долю q = 0,37 (столбец 3).
Перемножаем по строкам числа столбцов 2 и 3, произведения записываем в столбец 4.
В столбце 5 получаем произведения чисел столбцов 1 на 4.
В столбце 6 записываем произведения числа проб ^=112 на числа из столбца 5, произведения округляем до целых чисел.
Таблица 1.37. Вычисление частот биномиального распределения по формуле (1.124)
Числа из табл. 14 П при П—9
Степени р=0,63
Степени
<7=0,37
PQ
Произведение чисел столбцов 1X4
Произведение W„=112 на числа столбца 5
Г
Частости, %
1
2
3
4
5
6
7
1 р9
=0,0156
^°=1,00
0,0156
0,0156
2
1,8
9
0,0248
0,37
0,0092
0,0826
9
8,0
36
0,0394
0,1369
0,0054
0,1942
22
19,6
84
0,0625
0,0507
0,0032
0,2662
30
26,8
126
0,0992
0,0187
0,0019
0,2337
26
23,2
126
0,1575
0,0069
0,0011
0,1369
16
14,3
84
0,2501
0,0026
0,0007
0,0546
6
5,4
36
0,3969
0,001
0,0004
0,0143
2
0,9
9
0,63
0,0004
0,0003
0,0023
0
1
р°=1
^9=0,0001
0,0001
0,0001
0
112
100,0
которые и будут теоретическими частотами биномиального распределения.
Если р = д = 0,5, то кривая биномиального распределения будет симметричной.
Вычисление частостей биномиального распределения наиболее легко производится по третьему способу, т. е. по рекуррентной формуле:
(1.125)
i +1 q
где fi+i — последующая частость; и — объем пробы; р, q— доли присутствия и отсутствия изучаемого признака в совокупности; // — предыдущая частость"; i — номер члена ряда частостей. Заметим, что рекуррентные формулы требуют достаточной точности вычислений, так как все последующие результаты расчетов основаны на предыдущих и даже небольшая неточность, допущенная вначале, быстро увеличивается в конце ряда.
В нашем примере п = 9; р = 0,63; ^ = 0,37. Начальный член f0' ряда частостей
h = q%(1.126)
через любые (десятичные или натуральные) логарифмы: Infoz= = nlnp, или /V = exp(nlnp), т. е. для нашего примера f= exp (9 In 0,37) = ехр[9(—0,99425)] = exp (—8,94825)=0,00012996. Последующие члены Вэтчисляем по формуле (1.125), например: Г = — .-^_.0,00012996=0,0019915 и т. д. (см. табл. 1.38).
10,37
Таблица 1.38. Вычисление частостей биномиального распределения по рекуррентной формуле (1.125)
п—1
1+1
(n—o/d+i)
(3)р/<7
Р, %
X
V=£> Nn
1
2
3
4
5
6
7
8
9
1
9
15,3243
0,0019915
0,199
0
0,015
8
2
4
6,8108
0,013564
1,36
1
0,223
7
3
2,333
3,9724
0,053882
5,39
2
1,52
4
1,5
2,5541
0,13762
13,8
3
6,04
5
5
1
1,7027
0,23433
23,4
4
15,4
4
6
0,6667
1,1352
0,26601
26,6
5
26,2
3
7
0,4286
0,7298
0,19423
19,4
6
29,8
2
8
0,25
0,4257
0,082684
8,27
7
21,7
1
9
0,1111
0,1892
0,015644
1,56
8
9,26
t
9
1,75
р/д=0,63/0,37=
= 1,7027,
/;=о,з7»=
=0,00012996,
99,98
^=112
111,91
В табл. 1.38 величинам изучаемого признака — от 1 до 9 больных корнеплодов (п— I в столбце 1) соответствуют частости биноминального распределения от 1,56 до 0,199 (столбец 6), которые могут быть нанесены на график. Оценка посредством критерия Колмогорова (см. § 1.25) меры совпадения частот вычисленных и эмпирических показала, что лучшее совпадение в рассматриваемом случае дает применение уравнения нормальной кривой (К(Х) =0,76); расчеты по рекуррентной формуле (К(Х) = 1,22) и по формуле разложения бинома (/< (X) = 1,13) дают примерно одинаковые результаты.
Найденные теоретические частоты биномиального распределения показывают, какова вероятность появления проб с данным числом в ней больных корнеплодов. Принимая во внимание в табл. 1.36 столбец 1, в табл. 1.37 столбец 7, можем видеть, сколько проб в процентах от общего их количества заключает в себе то или иное число больных корнеплодов. Так, с девятью больными корнеплодами может встретиться 1,8% всех проб; появление проб с 1 или 0 больных корнеплодов также маловероятно.
Меру совпадения теоретической кривой распределения с фактическими данными часто оценивают критерием согласия хи-квадрат (х2). Этот критерий может применяться лишь при наличии не менее пяти частот в каждом классе. Если в каком- либо классе вариационного ряда содержится частот меньше чем 5, то этот класс вместе с частотами следует объединить с соседним классом. Общая формула вычисления критерия х2-
(1126а)
О 12 34 56 789О 12 34 56 789О О 7 ’ 4 , 18 27 14 18 20О О 7 ’ 4 , 18 27 14 18 201724241917242419112112112112X2—8,737X2—8,737
О 1
2 3
4 5
6 7
8
9
О 1
2 3
4 5
6 7
8
9
О О 7 ’ 4 , 18 27 14 18 20
О О 7 ’ 4 , 18 27 14 18 20
17
24
24
19
17
24
24
19
112
112
112
112
X2—8,737
X2—8,737
Число пораженных корнеплодов в пробе х
Число проб фактическое f
Число проб теоретическое f'
Vf—rwr
1
2
3
4
Таблица 1.39. К сравнению эмпирических и теоретических частот биномиального распределения критерием хи-квадрат
О
1
3 -
8 ,
0,083
0,059
0,3754,167
0,053
4,000
где f — фактические частоты, или численности; f' — ожидаемые или теоретические частоты, или численности.
Найдем меру соответствия фактическим частотам — теоретической кривой биномиального распределения. В табл. 1.39 по столбцам приводятся следующие данные.
Классы распределения проб корнеплодов по поражаемости фомозом.
Всего проб одинакового размера было взято 112 — по 9 корнеплодов в каждой.
Ввиду того что по условиям применения критерия хи-квадрат требуется, чтобы частота в каждой клетке была не менее 5, объединяем в столбцах 2 и 3 классы 1, 2 и 3 в один с частотами 11 и 12, а также классы 8 и 9 — в другой класс с частотами 24 и 16. Дальше, следовательно, ведем расчеты уже с шестью классами распределения.
Квадраты разностей эмпирических и теоретических частот, деленные на теоретические частоты, что представляет собой критерий хи-квадрат по строкам; в итоге столбца 4 получаем искомую величину %2 = 8,737. Для ее оценки необходимо знать число степеней свободы, которое зависит от числа классов в ряду и числа параметров в том теоретическом распределении, которое сравнивается с данным эмпирическим рядом. Так, при нормальном распределении число степеней свободы \=к— 3, при биномиальном и пуассоновском v = A—2, где к — число классов взвешенного ряда; v — число степеней свободы.
В табл. 1.39 с эмпирическим сравнивается биномиальное распределение, в котором после укрупнения крайних вариант стало
шесть классов, следовательно: v = 6—2 = 4 степени свободы. По табл. 15П для уровня значимости Ц7/ = 0,05 и v = 4 находим табличное значение хи-квадрат, равное 9,488. Поскольку вычисленное значение, равное 8,737, меньше табличного, делаем вывод, что теоретическое распределение частот несущественно отличается от эмпирического. Поэтому рассматриваемые эмпирические данные в первом приближении могут быть моделированы биномиальным законом распределения, не исключая возможности более близкого соответствия частот другого типа распределения, так как по 0,01% уровню значимости табличное значение хи-квадрат равно 13,277.
Достоверность хи-квадрат при отсутствии таблиц и с числами свободы v оценивают также по правилу Романовского:
(х2 —v)/^2v^3.(1.1266)
Различие считается достоверным, если левая часть неравенства будет равна или больше 3. Для рассматриваемого примера: (8,737—4)/у2-4= 1,67<3, следовательно, биномиальное распределение подходит к эмпирическим данным.
Среднее квадратическое отклонение биномиального распределения в именованных числах (например, в числе особей)
o = ^npq,(1.127)
где п — объем пробы (см. в начале этого параграфа); р — доля наблюдаемого признака в совокупности; q— доля особей без наблюдаемого признака. Средняя арифметическая биномиального распределения, выраженная в именованных числах:
М = пр,(1.128)
где М — средняя арифметическая для пробы; п— объем пробы; р— доля наблюдаемого признака.
При изучении повреждаемости фомозом корнеплодов моркови бралось jVn=112 проб по 9 корнеплодов (п=9) в каждой; доля поврежденных корнеплодов оказалась р = 0,63, что составляет в среднем по формуле (1.128) Л4 = 9-0,63 = 5,67 корнеплода в пробе.
Среднее квадратическое отклонение для этого примера по формуле (1.127) 0=^9-0,63-0,37= 1,45 корнеплода в среднем для одной пробы. Указанные параметры могут быть выражены также и в относительных числах по примеру того, как это сделано в § 1.26. Ошибка средней арифметической биномиального распределения приближенно определяется по формуле (1.120). Показатели асимметрии А и эксцесса Е в рассматриваемом распределении:
А$ = ^-рМа№ь(1.129)
Я^-'Пр^-б],(1.130)
где остальные обозначения те же, что и к формуле (1.124).
В нашем примере Л5= (0,37—0,63)/yi008-0,63-0,37=—0,017, Е = [ (0,63 - 0,37) -1—6 ] /1008 = —0,0017.
Чем ближе к нулю величины As и Е, а р— к 0,5, тем симметричнее кривая данного распределения частот. При р<0,5 величина показателя асимметрии положительна, а при р>0,5— отрицательна. Центральные моменты биномиального распределения:
Р1 = 0, ^=Npq, n3=Npq(q—p)f ^=Npq[3pq (N—2)+ 1].
(1.131)
Коэффициент вариации
и^Жр).(1.132)
Кроме перечисленных трех способов, частоты биномиального распределения находят также и при помощи таблиц, что рассмотрим на примере распределения частот неразвитых семян яблони домашней, которых насчитали 148 из ^ = 307 (по данным, подготовленным по моей просьбе С. Ф. Демидовой). Следовательно: р = 148/307 = 0,48208, q = 159/307 = 0,51792, где последнее число обозначает долю нормальных, выполненных семян. Выберем число классов, например fe=10. По табл. 5.1 (см.: [Большев, Смирнов, 1968]) для этого числа классов и при р = 0,5 (ближайшее число в таблице) находим теоретические частости (в %, с округлением): 0,1; 1,0; 4,4; 11,7; 20,5; 24,6; 20,5; 11,7; 4,4; 1,0; 0,1 соответственно для i от 1 до 10. Если будем брать из этой совокупности пробы по 10 семян в каждой, то со всеми выполненными семенами найдем 0,1% от числа всех проб, с одним неразвитым семенем— 1,0%, с двумя неразвитыми семенами — 4,4% и т. д. Как видим, по этому способу можно получить ряд теоретического распределения, зная только долю признака. Среднее квадратическое отклонение в данном примере о =?УЗО7-0,5-0,5 = 8,76 семян.
Приведем еще один пример работы с этими же таблицами. При анализе партии семян лещины из 79 семян оказалось 8 невсхожих, что составляет р = 79~1-100-8= 10,13%. При числе классов k = 5 частости этого распределения (в процентах, с округлением) для вариант от 0 до 5 соответственно равны: 59; 33; 7; 1; 0 05; 0,001%.
§ 1.28.ГИПЕРГЕОМЕТРИЧЕСКОЕ РАСПРЕДЕЛЕНИЕ
Некоторые эмпирические дискретные распределения биологических признаков в зависимости от принципа организации выборки можно моделировать гипергеометрическим распределением вместо биномиального. Дело в том, что последний тип распределения требует соблюдения принципа случайного отбора проб из генеральной совокупности, для чего следует располагать очень большим объемом исходного материала или же каждый раз возвращать пробу обратно в исходную совокупность и тщательно
перемешивать объекты учета для того, чтобы вероятность доли содержания учитываемого признака в совокупности от пробы к пробе оставалась одной и той же. Гипергеометрическое распределение предоставляет возможности учитывать объем совокупности, а также не возвращать пробы обратно в совокупность и не перемешивать ее, что на практике более удобно.
Приведем два способа расчета частостей этого распределения. Отдельно взятая частость гипергеометрического распределения для любого значения х:
(1.133)
где f'— частость гипергеометрического распределения в долях единицы;
ГХ _ % ^Р~^ кпр-^... (п-х+\) .
ПрЬ2-3...х
х — варианта ряда; пр — число вариант, обладающих учитываемым признаком;
Пд (^~ О (^ —2)*-*(^ —^ + ^ + 1)
1-2-3 - • • (п — х)
п— объем пробы; nq — число вариант в совокупности, не обладающих учитываемым признаком; N — объем совокупности:
rt y(2V— 1) (ДГ —2)...(W —n+1) = .
1-2-3 --n
В распределении числа зараженных корнеплодов моркови, приведенном в табл. 1.36: np = 639, n = 9, ng=369, ЛА= 1008 корнеплодов. Рассчитаем для х = 3 значение его частости, т. е. определим вероятность найти три зараженных в пробе из девяти корнеплодов. По формуле (1.133)
639-638.6371-2-3639-638.6371-2-3369.368.367.366.365-364
639-638.637
1-2-3
639-638.637
1-2-3
=0,051, или 5,1 %=0,051, или 5,1 %1-2.3-4.5-6
=0,051, или 5,1 %
=0,051, или 5,1 %
1008-1007-1006-1005-1004-1003-1002-1001•1000
Ь2.3-4.5-6-7-8-9
Вычисления проводим через посредство логарифмов, предварительно сократив дробь. Сумма десятичных логарифмов числителя в данном примере равна 26,5018, а знаменателя — 27,7937, их разница, т. е. результат деления числителя на знаменатель, рав^а логарифму —1,2919, или в искусственной форме логарифма 2,7081, что соответствует числу 0,051. Вычислять по формуле (1.133) рекомендуется не менее чем с пятью знаками мантиссы логарифмов, особенно в тех случаях, когда объем выборки больше 1000.
97974 Г. Н. Зайцев
97
97
Таблица 1.40. Эмпирические частоты и частости /, / % (по данным табл. 1.36) и частости гипергеометрического распределения /', /, %
X
/
f. %
Г
г. %
0
0
0
0,00011091
0,0111
1
0
0
0,0017669
0,177
2
7
6,2
0,012456
1,25
3
4
3,6
0,051002
5,10
4
18
16,1
0,13367
13,4
5
27
24,1
0,23255
23,2
6
14
12,5
0,26855
26,9
7
18
16,1
0,19179
19,2
8
20
17,8
0,082345
8,23
9
4
3,6
0,015645
1,56
112
100
0,989886
99,0281
Второй способ расчета рассматриваемого типа распределения следует применять тогда, когда желательно получить все теоретические частости для аппроксимации эмпирического ряда.
Проведем этот расчет для тех же данных. В табл. 1.40 приведены взятые из табл. 1.36 варианты (столбец 1), их эмпирические частоты (столбец 2), частости (столбец 3), а также теоретические частости гипергеометрического распределения (столбцы 4 и 5).
. Определим исходное значение частости для х=0. Это значение следует вычислять с 6—7 знаками после запятой, так как оно послужит начальной величиной в цепочке дальнейших расчетов.
,;=5^=”.|”.-1><".-2)-<".-”+ч,(1134>
С^N (N — 1) (N — 2)---(N — n+ 1)
где f/— частость начального, нулевого члена распределения, остальные обозначения те же, что и к формуле (1.133).
Подставляя известные величины в формулу (1.134), получим через натуральные логарифмы частость нулевого члена:
/ _ 1369-368-367.366-365-364-363.362.361
info — ю 1008-1007.1006-1005.1004.1003.1002.1001.1000
= 11,65231932 — 20,75916426 = —9,10684494,
что соответствует /о'=0,00011091, или 0,0111%. Через десятичные логарифмы, что рекомендуется делать для проверки: lg/V= = 23,0605—27,0149= —3,9544, или в искусственной форме lgfo' = =4,0456, что соответствует f0'=0,0001111, или 0,0111%.
Вычисление следующих членов ряда частостей ведется по рекуррентной формуле
(U3S)
где f/— частость для х<\ xt_Y— предыдущая варианта; пр — число вариант с учитываемым признаком; N— объем выборки; п— объем пробы (число классов распределения); f^-t — частость предыдущей варианты.
Последовательно вычисляя по формуле (1.135), получим все остальные частости.
Ь =O-O) (639-0)0 0()011091 = 0,0017669.
(0+1) (1008 -639—94-0+1)
Заметим, что N—п,—п+1 = 1008—639—9+1 = 361 (в данном примере величина постоянная).
- = (9 — 1) (639- 1) . о 0017669 = 0,012456;
(1 + 1) (361 + 1)
^ _ J7+37 ;0 012456 = 0,051002; Д = —-0,23255 = 0,26855;
3 363'6-366
6+36 о 051002 = 0,13367; ^ = ^3-0,26855 = 0,19179;
4-364'7-367
/»' = 3+35 0 133б7 = о 23255/ = 2+32 . 0,19179 = 0,082345;
5-365'8-368
А = 1^1. о 082345 = 0,015645.
9-369
Все компоненты дробной части этой формулы изменяются закономерно: в числителе убывают, а в знаменателе возрастают на единицу с каждым шагом, чем можно воспользоваться для проверки расчета или для его упрощения.
Средняя арифметическая гипергеометрического распределения М = пр, где п— объем пробы; р— доля вариант с учитываемым признаком в выборке; по данным § 1.27, она равна 0,635, a q = 1—р = 1—0,63 = 0,37; М = 9-0,635=5,7. Дисперсия
o^Mq^N—n^KN—D,(1.136)
где N — объем совокупности, остальные обозначения см. в тексте, перед формулой (1.136).
а2 = 5,7-0,37- (1008—9)/(1008—1) =2,09.
Коэффициент вариации и гипергеометрического распределения при тех же обозначениях, что и в последнем расчете:
и = У[?(# — п)]/[Л1^ — 1)],(1.137)
и = V[0,37 (1008—9)]/15,7 (1008—1)] = 0,254, или 25,4%.
При вычислении медии и сигмы обычным способом, принятым для нормального распределения по данным § 1.27, коэффициент вариации: и = о]М= 1,829/5,7=0,321, или 32,1%, т. е. на 7% больше полученного по формуле (1.43), что следует учитывать при расчетах степени вариабельности подобных данных.
§ 1.29.
РАСПРЕДЕЛЕНИЕ ПУАССОНА
Распределение Пуассона, или распределение редких событий,, близко к биномиальному и образуется тогда, когда р (доля наблюдаемого признака) очень мало, a q близко к 1.
Таким образом, распределение Пуассона характерно для редких событий, вероятность (доля) появления которых очень мала. Так же как и при биномиальном распределении, эмпирические частоты распределения Пуассона являются числом одинаковых проб, имеющих ту или иную долю наблюдаемого признака. В распределении Пуассона средняя арифметическая примерно равна дисперсии М«о2, что является основным его признаком.
Теоретические частоты этого распределения вычисляют по формуле
f' =J^-Nne-M,(1.138)
х!
где f— теоретические частоты, т. е. число проб, обладающих той или иной долей наблюдаемого признака; х — варианты, т. е. отдельные значения наблюдаемого признака; х! (икс-факториал) — произведение ряда натуральных чисел, например: 31 = 1-2- • 3=6; М — средняя арифметическая; Nn — общее число проб; е = = 2,71828182 — основание натуральных логарифмов (см. табл. 10П).
Первый способ. Вычислим теоретические частоты распределения Пуассона для данных табл. 1.41, где приведены данные распределения проб корнеплодов моркови, заболевших естественна (в отличие от данных из § 1.27), не поврежденных механически и
Таблица 1.41. Вычисление частот распределения Пуассона
Число пораженных корнеплодов в пробе х
Частоты (число проб)
мх= =0,672х
х I
Mxjx !
(Мх/ x^Nne-M
V
0
70
1,000
0 !=1
1,00
62,43
62
1
32
0,6720
1
0,6720
41,95
42
2
14
0,4516
2
0,2258
14,10
14
3
2
0,3035
6
0,0506
3,16
3
4
4
0,2039
24
0,0085
0,53
1
122
—
—
—
122,17
122
без искусственного заражения их фомозом. Объем каждой пробы был и = 9, однако больше четырех больных корнеплодов в пробах не встречалось, поэтому расчет выполнен при п = 4, /Vn=122.
Определим среднюю арифметическую данного взвешенного ряда по формуле (1.13):
М = ^x^/Nn = (0 • 70+1 • 32+2 • 14+3 • 2+4 • 4)/122 = 0,672.
Возведем М в степень с показателем х: 0,672°= 1; 0,672* = = 0,672; 0,6722 = 0,4516 и т. д. (столбец 3).
В столбце 4 запишем факториалы от х: 0! = 1, 4! = 1 -2-3-4 = = 24 (столбец 4).
Числа столбца 3 поделим на числа столбца 4 и частные запишем в столбце 5.
Вычислим выражение Nne~M = 122-2,718-0’б72 = 62,43.
Числа столбца 5 перемножим на число 62,43; произведения запишем в столбце 6.
После округления чисел столбца 6 до целых получаем искомые теоретические частоты f'. Оценка совпадения эмпирических частот с теоретическими по критерию хи-квадрат (изложение метода его расчета см. § 1.27) показывает, что различие между ними несущественное (%2 = 4,413; при объединении классов 3 и 4 v = 4—2 = 2; пр табл. 15П %2 = 5,99 на уровне значимости W/ = = 0,05).
Таким образом, можно сделать вывод, что естественное заражение фомозом корнеплодов моркови, не повреждаемых механически искусственным путем,— явление редкое, но встречающееся с определенной частотой, которое можно моделировать распределением Пуассона. По первому способу можно вычислять отдельно теоретическую частоту для любой варианты рассматриваемого распределения по формуле (1.138).
Второй способ более удобен для расчетов, когда требуется вычислять все частоты данного распределения, так как в этом случае для вычисления последующей теоретической частоты необходимо знать величину предыдущей. Рассмотрим рекуррентный алгоритм вычисления частот по второму способу на примере распределения числа семян в плодах яблони домашней (табл. 1.42).
Вычисляем среднюю арифметическую и сигму: М =2996/446= = 6,7175; + = [5^7 — 6 xff !N\f(N — 1) = (23 214 — 29967446)/ /(446—1) = 6,9402; о = 2,6344. Так как средняя близка к величине дисперсии, то данный ряд соответствует распределению Пуассона. Это подтверждает также их сравнение по критерию Фишера: F = 6,9402/6,7175= 1,03, что меньше критической величины, равной 1,56.
Находим нулевой член распределения с помощью логарифмов или таблиц е“х: // = Л/е-м = 446-2,7183*6’7175 = 0,53953.
По рекуррентной формуле
h=—h-i(1.139)
Таблица 1.42. Распределение числа семян в плодах яблони домашней
Число семян
X
Число плодов f
xf
хЧ
Г
Число семян х
Число плодов f
xf
хЧ
Г
1
2
3
4
5
1
2
3
4
5
0100 0,53953
1666 3,6243
215306012,173
33811434227,257
44417670445,775
540200100061,499
659354212468,854
760420294066,076
867536428855,483
9 49 441 3969 41,411 10 38 380 3800 27,818 И 14 154 1694 16,988 12 И 132 1584 9,5097 13 3 39 507 4,914 14 1 14 196 2,3578 15 0 0 0 1,0559
6=164462996 23 214 445,34
вычисляем все остальные члены ряда теоретических частот:
А = 62175 .0,53953 = 3,6243;^ ^^75 .3(6243 = 12,173;
д 5275..!2,из = 27,257 и т. д.
3
Все теоретические частоты приведены в столбце 5 табл. 1.42, их удовлетворительное соответствие эмпирическим частотам достаточно ясно видно из рис. 6.
Третий способ вычисления частот распределения Пуассона основан на использовании таблиц, где для разных величин Л! приведены соответствующие частости. Например, на с. 197 таблиц [Янко, 1961] для Л4 = 6,7 и числа классов от 0 до 20 даны частости, умножая которые на наш объем совокупности W = 446, получим следующие частоты: 0,548, 3,68; 12,3; 27,5; 46,2; 61,6; 68,9; 66,0; 55,3; 41,2; 27,5; 16,8; 9,5; 4,82; 2,31; 1,03; 0,43; 0,169; 0,063; 0,022; 0,007, сумма которых 445,88. Соответствие этих частот, вычисленным по первому и второму способам, вполне удовлетворительное, что позволяет рекомендовать третий способ для применения в первую очередь, учитывая также то, что для данного расчета понадобится лишь логарифмическая линейка.
Центральные моменты, показатели асимметрии и эксцесса распределения Пуассона вычисляют по формулам
ц2 = Л1, ц3 = М, ц4 = М(ЗМ+1),(1.140)
Д5 = М-0’5, f-M-1.(1.141)
Коэффициент вариации у в распределении Пуассона: у=100/а%, или у = 100/1^/14%,(1.142)
Рис. 6. Эмпирические (/) и теоретические (2) частоты f распределения Пуассона
х — число семян в плодах яблони
где о — среднее квадратическое отклонение; М — средняя арифметическая.
Эти формулы можно использовать также для оценки близости некоторого эмпирического ряда к распределению Пуассона. Так, в примере, рассмотренном во втором и третьем способах, коэффициент вариации эмпирического ряда по формуле (1.43) равен ц=100о/М=100-2,6344/6,7175 = 39,2%, а по формуле (1.142) и = = 100/o=100/2,6344=38%; обе величины достаточно близки друг к другу, и, следовательно, данный эмпирический ряд соответствует распределению Пуассона.
В литературе встречаются указания на возможность применения одного из свойств распределения Пуассона в качестве универсального критерия или правила для определения максимальных величин различных, в том числе биологических, признаков. Речь идет о свойстве вариант этого распределения |хг|<2Л1, где Хг — любая варианта совокупности; М — средняя арифметическая той же совокупности. На практике это, например, означает, что если для сортов некоторой культуры средняя урожайность равна М, то не может существовать сорта с урожайностью х^^М. Фактически это правило представляет собой известное свойство более общего нормального распределения, в котором 2Af = 6o>Xt.
НЕГАТИВНОЕ БИНОМИАЛЬНОЕ РАСПРЕДЕЛЕНИЕ
Распределение случайных, дискретных, величин, вероятность появления которых в данной совокупности непостоянна, может быть моделирована негативным биномиальным распределением. На практике пользуются следующей формулой расчета членов
(1.143)(1.144)(1.145)(1.146)(1.143)(1.144)(1.145)(1.146)этого распределения: р*(1—?)-«, а=Л1/(М~*о2—1), р= 1/(1+Л1а_‘), <7+Р = 1,
(1.143)
(1.144)
(1.145)
(1.146)
(1.143)
(1.144)
(1.145)
(1.146)
где р— вероятность появления наблюдаемого признака; q — вероятность его отсутствия; a — экспонента бинома, характеризующая вариабельность данных; М, о2 — средняя арифметическая и дисперсия эмпирического ряда.
В рассматриваемом типе распределения дисперсия по абсолютной величине должна быть больше средней арифметической той же совокупности; это служит одним из признаков того, что некоторый эмпирический ряд может быть моделирован негативным биномиальным распределением, вычисление частот которого ведется следующим образом. Определяются обычным путем величины М, о2 и по формуле (1.144) —экспонента бинома. Дальнейшие вычисления обусловлены величиной полученной экспоненты а и ее соотношением с М, которое оценивается по формуле
1= [ (a+М) (а+2) ММ^ 15. (1.147)
Если />15, то расчеты ведем по первому способу. При /<15 дополнительно вычисляем величину
т = (М+0,17) (^Л—0,32) >0,20, (1.148) где ft — первая эмпирическая частота ряда; N — объем совокупности.
Когда т>0,20 и /<15, расчеты ведем по второму способу. При /< 15, т<0,20 переходим к третьему способу. Нередко оказывается, что, несмотря на несоответствие величин I и т критериям, указанным для первого способа, по нему получается неплохое совпадение на графике кривых эмпирических и теоретических частот, поэтому в случаях, не требующих большой точности, можно ограничиться применением первого способа. Для эмпирических рядов, у которых т>0,20 и /< 15, характерны резкая правосторонняя асимметрия кривых распределения и большая величина первой частоты по сравнению с остальными частотами данного ряда. Такие ряды обычно подходят для расчетов экспоненты бинома по второму способу.
Третий способ — универсальный, он дает точную величину экспоненты для любых форм негативного биномиального распределения независимо от полученных величин /, т, но этот способ наиболее трудоемкий и рекомендуется для исполнения с помощью ЭВМ.
Варианты х эмпирических рядов для вычислений по всем трем способам должны быть представлены числами 0, 1, 2, 3 и т. д. посредством преобразования х= (nf—n^jc (см. примеры для второ-
Таблица 1.43. Частоты негативного биномиального распределения (первый способ)
3 и
st
Её
« . 4 С« § о
>8 « £ | S § 2 х с ч ф
J5 го 8 s У х о >»
го 1 о го у
3 СО О я —
« Ф О. 5
Её
го со
S ф $ X £ ф ц и 5 о
« X X о КХО X s ^ ° Ф У X о о
го £ о го у
1
2
3
4
5
1
2
3
4
5
1
0
0
0,1869
0,495
13
12
26
6,228
16,5
2
1
5
0,8272
2,192
14
13
17
5,144
13,63
3
2
12
2,048
5,427
15
14
13
4,139
10,97
4
3
9
3,739
9,908
16
15
9
3,253
8,621
5
4
14
5,611
14,87
17
16
6
2,504
6,637
6
5
14
7,327
19,42
18
17
5
1,892
5,014
7
6
23
8,616
22,83
19
18
6
1,405
3,724
8
7
13
9,332
24,73
20
19
2
1,028
2,723
9
8
33
9,458
25,06
21
20
4
0,741
1,964
10
9
22
9,073
24,05
22
21
1
0,5274
1,398
11
10
17
8,311
22,02
23
22
0
0,3709
0,983
12
И
14
7,318
19,39
с=1
6=23
265
99,08
262,6
го и третьего способов). Три рассматриваемых способа отличаются друг от друга только техникой вычисления экспоненты ос, в остальном их алгоритмы совпадают.
Первый способ. Расчеты параметров и частот рассмотрим на примере распределения числа побегов у двулетних растений ге- лениума осеннего (табл. 1.43). Средняя арифметическая, дисперсия, экспонента бинома и / — критерий для этого ряда равны:
М = 9,3397, о2= 19,71, а=9,3397/(19,71/9,3397— 1) =8,4112,
/ = [ (8,4112 + 9,3397) (8,4112 + 2) ] /9,3397 = 19,787.
Так как 19,787>15, то применяем к данному ряду первый способ, или способ моментов, как он иначе называется, т. е. величину а далее не уточняем и приступаем к общему для всех трех способов этапу работы — вычислению параметров р, q и теоретических частот. По формулам (1.145), (1.146) р= 1/(1+ 9,3397/ /8,4112) =0,47385, q= 1—0,47385=0,5261.
Первый член распределения /7 для х = 0 вычисляется особо: f/=pa (в долях единицы), или f/=100pa (в %). (1.149)
Для нашего примера с использованием логарифмов при любом их основании //= 100-0,473858»4112 = ехр (In 100 + 8,4112- •In 0,47385) =0,1869%. Остальные члены разложения бинома в
виде частостей (в %) находим по рекуррентной формуле, т. е. такой, в которой каждый последующий член вычисляется по величине предыдущего:
ft = fU (а + х^),(1.150)
т.е.
=0,1869 (8,4112 4-0)^У_ = 0,8272,
/з =0,8272(8,4112+ 1)215221 = 2,048,
2
Д = 2,048 (8,4112 + 2) 2^- = 3,739 и т. д.
3
При каждом новом шаге вычислений увеличиваются на единицу правый член выражения в скобках и знаменатель дроби. Теоретические частости (в %) для всех 23 вариант ряда записаны в столбце 4 табл. 1.43. Если перенести в них запятую влево на 2 знака, т. е. разделить эти числа на 100, а затем умножить на объем выборки ^ = 265, то получим теоретические частоты, которые записаны в последнем столбце таблицы. Буквой I в формуле (1.150) и табл. 1.43 обозначены порядковые номера вариант и соответствующих им частот, начиная с 1. Варианты эмпирического взвешенного ряда перед вычислением частот негативного биномиального распределения желательно привести к натуральному ряду чисел, который начинается с нуля. Кривые эмпирических и теоретических частот в рассмотренном примере достаточно хорошо совпадают (рис. 7), что подтверждает и величина критерия согласия Колмогорова К(Х) =0,884, которая меньше первого критического уровня, равного 1,36.
Таким образом, распределение числа побегов на одной двулетней особи у гелениума осеннего может быть моделировано негативным биномиальным распределением.
Второй способ, или способ пропорции первого члена. Рассмотрим технику вычислений по этому способу на примере распределения числа побегов на однолетних растениях гелениума осеннего (табл. 1.44). Вначале преобразуем исходные варианты ряда, приведенные в столбце 1 таблицы в натуральный ряд, начинающийся с нуля (столбец 2), для чего из всех вариант вычтем первую варианту и разделим их на классовый интервал с = 1, т. е. произведем действия по формуле, указанной в заголовке столбца 2 таблицы. В столбце 3 даны эмпирические частоты ряда, сумма которых равна объему совокупности ^ = 339. Вычислим для этих преобразованных х следующие показатели: среднюю М = 0,19469; дисперсию о2 = 0,60695; экспоненту по формуле (1.144)
а = 0,19469/ (0,60695/0,19469— 1) = 0,091942;
критерий по формуле (1.147)
1 = [ (0,091942+0,19469) (0,091942+2) ]/0,19469=3,0799.
Рис. 7. Негативное биномиальное распределение числа побегов х на двухлетних растениях гелениума осеннего
f — частоты: / — эмпирические, 2 — теоретические
Так как вычисленная величина критерия меньше 15 (Z= = 3,0799<15) и поэтому данный вариационный ряд не желательно обрабатывать по первому способу, то определяем величину следующего критерия (1.148): т= (0,19469+0,17) (310/339— —0,32) =0,22011.
Величина критерия т оказалась больше критической 0,20, поэтому экспоненту бинома для рассматриваемого эмпирического ряда следует вычислять по второму способу:
а1=[1п(Ш)]/[1п(1 + Л1/а1)], (1.151)
где ai — экспонента бинома, полученная по второму способу; N — объем совокупности; ^ — первая частота ряда, соответствующая первой варианте: х = 0.
При вычислении по формуле (1.151) следует найти такое значение аь при котором левая часть формулы будет равна правой. Алгоритм заключается в том, что вначале в правую часть формулы подставляют ai, найденное по этой же формуле (1.151), полученный результат снова подставляют в правую часть, в знаменатель дроби, находящейся в скобках, и повторяют такой расчет до тех пор, пока подставленная и полученная величины af не будут равны между собой с точностью до трех-четырех знаков. Равенство (1.151) в нашем примере соблюдается при а! = 0,064119, а именно
0,064119= [In (339/310)]/[1п (1 + 0,19469/0,064119)].
Логарифмы в данном случае можно применять любые — натуральные или десятичные. Далее по найденной таким образом ве
Таблица 1.44. Частоты негативного биномиального распределения (способ 2)
Число побегов на однолетних особях гелениума осеннего
<4
«Ч — пх
X — с
f
1 г /0
Г
1
2
3
4
5
1
0
310
91,44
310
2
1
13
4,41
14,95
3
2
7
1,765
5,985
4
3
2
0,9138
3,098
5
4
3
0,5266
1,785
6
5
3
0,322
1,092
7
6
1
0,2045
0,6931
7
0
0,1333
0,4517
8
0
0,08852
0,3001
9
0
0,05967
0,2023
10
0
0,04069
0,1379
с = 1
к = 11
339
99,9
338,7
личине а, вычисляем по формулам (1.145), (1.146)
р = I / (1 + о, 19469/0,064119) = 0,24774,q = 1 —0,24774 = 0,7523.
Начальный член по формуле (1.149) //= 100-0,24774°-064||9 = = 91,44%. Прочие члены находим по формуле (1.150):
^ = 91,44(0,064119 + 0)^^ = 4,41%,
/з =4,41 (0,064119 + 1)2^1 = 1>765о/о>
/, = 1,765(0,064119 + 2) 2iZ2?2 = 0,9135 % и т.д.
3
В столбце 4 табл. 1.44 приведены теоретические частости негативного биномиального распределения (в %), умножив их на объем выборки ^=339 и разделив на 100, получим теоретические частоты (столбец 5), которые достаточно хорошо совпадают с эмпирическими, что подтверждает также и величина критерия согласия Колмогорова: К(Х)=0,111. Заметим, что подобные распределения иногда можно аппроксимировать кривой Парето (§ 1.35).
Третий способ (максимального правдоподобия). Рассмотрим технику вычислений по этому способу на примере распределения числа детки у 347 сортов гладиолуса. В столбце 1 табл. 1.45 даны границы классов, по которым распределены данные о числе дет-
Таблица 1.45. Частоты негативного биномиального распределения (третий способ)
Число детки
У глад
границы класса
на 1 луковицу иолуса
число
деток П(
Середина класса
П( — П1
X;—
1с
f
А
Г, %
Г
1
2
3
4
5
6
7
0—95011123633,58116,53
10—1915110313325,6789,06
20—29252587516,6457,74
30—39353235210,1435,2
40—4945422305,98820,78
50—5955511193,46512,03
60—696568И1,9796,866
70—79757471,1193,882
80—89858340,6282,179
90—9995940,35051,216
100,19470,6755
И0,10770,3739
с = 10А = 1034799,86346,53
ки на одну луковицу, в столбце 2 — середины классов пь в столбце 3 — величины середин классов х, -преобразованные по формуле, данной в заголовке этого столбца, в столбце 4— эмпирические частоты f. По величинам х и f вычисляем, как обычно, среднюю арифметическую М = 1,634, дисперсию о2 = 3,5391 и затем по формулам (1.144), (1.147) а= 1,634/(3,5391/1,634— 1) = 1,4015, 1 = [ (1,4015+ 1,634) (1,4015 + 2) ]/1,634=6,319.
Так как вычисленная величина числа / меньше 15, находим следующий критерий по формуле (1.148): т= (1,634+0,17) (111/ /347—0,32) =0,00284, величина которого значительно меньше Ю,20, поэтому к данному эмпирическому ряду следует применить третий способ для уточнения величины экспоненты бинома, основанный на решении уравнения
—^j=^lnfl+-V (1.152)
X + а2 у \ а2/
тде А— накопленные частоты; х— варианты ряда из столбца 3 талб. 1.45; а2— уточненное значение экспоненты бинома; N — объем совокупности; М — средняя арифметическая.
Уравнение (1.152) можно решать путем итераций, или последовательных приближений, на ЭВМ или с помощью ручных средств счета с применением интерполяции для ускорения приближения к равенству обеих частей уравнения.
Рис. 8. Негативное биномиальное распределение числа детки п у луковиц гладиолуса
/ — эмпирическая, 2 — теоретическая кривые; f — частоты
В столбце 5 таблицы приведены накопленные частоты, которые вычисляются путем последовательного вычитания всех эмпирических частот из объема совокупности, в данном случае из N = = 347. Например: Я, = 347—111=236, Л2=236—103= 133, Д3= = 133—58 = 75, Л4=75—23=52 и т. д. до к— 1.
Для данных рассматриваемого примера уравнение (1.152) справедливо при а2= 1,4359, т. е. 236/(0+1,4359) + + 133/(1 + 1,4359) + 75/(2 + 1,4359) + 52/(3 + 1,4359) + 30/ (4+1,4359) +19/ (5+1,4359) +11 / (6+1,4359) +7/ (7+1,4359) + +4/(8+1,4359) =3471п(1 + 1,634/1,4359). За исходное значение экспоненты перед началом процесса итерации принимаем то, которое было получено по формуле (1.144), в данном случае а = 1,4015. Изменяя его в ту или другую сторону, добиваемся, чтобы выполнялось равенство (1.152). После вычисления аг по формулам (1.145), (1.146) определяем величины:
р= 1/(1 + 1,634/1,4359) =0,46773, q= 1—0,46773 = 0,5323.
Начальная теоретическая частость по формуле (1.149) //= = 100-0,46773‘-43S9 = exp (In 100+1,4359In0,46773) =33,58%. Остальные частости (столбец 6 табл. 1.45) вычисляем по рекуррентной формуле (1.150) /2 = 33,58(1,4359+0)^^ = 25,67%, Д = = 25,67(1,4359+1)^^=16,64 0% и т. д. (до 12 класса).
Перенося в этих числах запятую на два знака влево и умножая на объем совокупности Af=347, получим теоретические частоты (столбец 7), которые хорошо соответствуют эмпирическим частотам, как видно из рис. 8, и величины критерия согласия Колмогорова К(Х) =0,4655. Число классов теоретических частостей и частот в данном случае увеличено на два по сравнению с числом эмпирических ввиду того, что суммы столбцов 6 и 7 иначе были бы заметно меньше соответственно 100% и ^ = 347.
МУЛЬТИНОМИАЛЬНОЕ РАСПРЕДЕЛЕНИЕ
Все до сих пор рассмотренные здесь дискретные распределения образованы изменением одной случайной величины и другой, альтернативно связанной с ней. При расширении числа комбинаций признаков, с определенной вероятностью, независимо друг от друга появляющихся в генеральной совокупности, получается мультиномиальное распределение.
Вероятность появления определенной комбинации признаков или ^-мерной случайной величины вычисляется по следующей формуле мультиномиального распределения:
(1.153)(1.153)N\p^...pnkk
(1.153)
(1.153)
nv\ п2\ ... пк\
где Р— вероятность появления комбинации из к признаков; пь л2, ..., пк— эмпирические численности особей с данными признаками; Лг = п1 + п2+.. .+пк— объем пробы, взятой из генеральной совокупности; pt—рк— теоретические вероятности появления признаков.
В биологии мультиномиальное распределение, в частности, может быть применено для оценки степени случайности появления некоторых комбинаций признаков в генетических, фитосоцио- логических и других исследованиях. Например, в одной коллекции сортов картофеля насчитывалось 209 сортов с белой окраской венчиков цветков, 88 — с красно-фиолетовой, 56 — с красной, 24 — с темно-сине-фиолетовой и 20 сортов с голубой окраской венчиков, всего 397 сортов. Доли этих окрасок, или признаков, соответственно составляют: р, = 0,526; р2 = 0,222; р3 = 0,141; р4 = 0,06; р5 = 0,05 от общего числа сортов. В пробе, взятой случайным образом из популяции гибридных сеянцев, полученных в результате свободного опыления, насчитали ^ = 8 сеянцев с белой окраской венчиков, пг = 6с красно-фиолетовой, п3 = 4 с красной, п4 = 6 с тем- _но-сине-фиолетовой, п5 = 5 с голубой, всего N = 29 сеянцев.
По формуле (1.153)
р^ 29!0,5268.0,222б.0,1414.0,066.0,055
8! 6! 4! 6! 5!
применяя десятичные логарифмы и таблицы логарифмов факториалов (см., например, [Большев, Смирнов, 1968. С. 454]), найдем искомую вероятность:
lg Р = 30,94654 — (4,60552 + 2,85733 + 1,38021 + 2,85733 + + 2,07918) — 8 • 0,279 — 6 • 0,6536- 4.0,8508—6 • 1,2218 — 5.1,301 = = —6,22563; 1g Р = 7,77437, откуда Р = 0,000000889.
Таким образом, вероятность случайного появления данной комбинации численностей очень мала: из 10 млн проб по 29 особей в каждой, может встретиться примерно лишь 9 проб, в которых будет наблюдаться указанное числовое соотношение признаков окраски цветков, появление которого было, следовательно, вызвано в данном случае некоторыми существенно действующими факторами. Формулу (1.153) можно также применить для анализа расщепления гибридного потомства, подобно тому, как это делают посредством хи-квадрата.
РАСПРЕДЕЛЕНИЕ МАКСВЕЛЛА
Кривая распределения эмпирических частот вариационного ряда существенно положительных чисел, обладающего умеренной асимметрией, может быть аппроксимирована распределением Максвелла. Кривая частот рассматриваемого типа распределения удобна тем, что строится посредством уравнения, определяемого всего одним параметром, причем она достаточно гибка и может быть применена для выравнивания асимметричных распределений различных биологических признаков, величины которых изменяются по непрерывному типу. Рассмотрим технику вычисления частот распределения Максвелла на примере эмпирического распределения периодов продолжительности цветения (в днях) 381 вида деревьев и кустарников в Ленинграде. Этот ряд, приведенный в столбцах 1 и 2 табл. 1.46, удовлетворяет требованиям, перечисленным в начале параграфа: период цветения — существенно положительная величина и не может принимать отрицательных значений; ряд — умеренно асимметричен (рис. 9, 1).
Последовательность расчетов следующая.
Вычисляем среднюю арифметическую М= 16,363 и среднее квадратическое отклонение ряда а= 12,362 для оценки теоретического соответствия условиям аппроксимации посредством коэффициента вариации у распределения Максвелла, который является величиной постоянной:
у = f (Зл)/8—1 =0,42203, или 42%.(1.154)
Отклонения от данного соотношения, однако, могут быть довольно большими, в частности для рассматриваемого примера по формуле (1.43) y = o/Af= 12,362/16,363 = 0,75, или 75%, тем не менее качество аппроксимации данного ряда распределением Максвелла, как увидим дальше, нельзя назвать плохим.
Рис. 9. Распределение Максвелла периодов цветения х древесных растений в Ленинградеt — частоты: / — эмпирические, 2 — теоретическиеРис. 9. Распределение Максвелла периодов цветения х древесных растений в Ленинградеt — частоты: / — эмпирические, 2 — теоретические
Рис. 9. Распределение Максвелла периодов цветения х древесных растений в Ленинграде
t — частоты: / — эмпирические, 2 — теоретические
Рис. 9. Распределение Максвелла периодов цветения х древесных растений в Ленинграде
t — частоты: / — эмпирические, 2 — теоретические
Параметр распределения получаем по одной из четырех равноценных формул:
а = 0,626657 М, а = М/(2/2/л), а = М//8/л, а=М/1,595769
(1.155) где М — средняя арифметическая; а— параметр распределения, т. е. в нашем примере
а = 16,363/(2 ]/2/л) = 10,254.
Среднее квадратическое отклонение распределения Максвелла
а — а У 3—8/л,о = 10,254 • 0,67345 = 6,9053, о2 = 47,683.Мода Мо = а |^2,Мо= 10,254-1,41421 = 14,501.МедианаМ,= 1,538а,Ме= 1,538-10,254= 15,771.а — а У 3—8/л,о = 10,254 • 0,67345 = 6,9053, о2 = 47,683.Мода Мо = а |^2,Мо= 10,254-1,41421 = 14,501.МедианаМ,= 1,538а,Ме= 1,538-10,254= 15,771.(1.156)(1.156)(1.157)(1.157)(1.158)(1.158)
а — а У 3—8/л,
о = 10,254 • 0,67345 = 6,9053, о2 = 47,683.
Мода Мо = а |^2,
Мо= 10,254-1,41421 = 14,501.
Медиана
М,= 1,538а,
Ме= 1,538-10,254= 15,771.
а — а У 3—8/л,
о = 10,254 • 0,67345 = 6,9053, о2 = 47,683.
Мода Мо = а |^2,
Мо= 10,254-1,41421 = 14,501.
Медиана
М,= 1,538а,
Ме= 1,538-10,254= 15,771.
(1.156)
(1.156)
(1.157)
(1.157)
(1.158)
(1.158)
В случае асимметричных распределений мода и особенно медиана нередко лучше характеризуют ряд по его центральной тенденции, чем средняя арифметическая.
В столбце 3 табл. 1.46 подсчитаны квадраты нормированных отклонений, для чего середины интервалов х поделены на а= 10,254 и возведены в квадрат.
Числа столбца 3 умножены на —0,5, и от них получены экспоненты, которые легко найти по таблицам ех (см., например
[Сегал, Семендяев, 1962]) или путем логарифмирования; результаты записаны в столбце 4.
Числа столбца 4 умножены на числа столбца 3, и результаты записаны в столбце 5.
Константа (с/а)У2М= (10.0,797885)/10,254 = 0,77812, где с — классовый интервал, умножена на числа столбца 5, и полученные частости в долях единицы записаны в столбце 6. Если перенести запятую в этих числах на 2 знака вправо, получим частости в процентах.
Умножая числа столбца 6 на объем выборки У=381, получим теоретические частоты распределения Максвелла (столбец 7), которые на рис. 9, 2 достаточно хорошо совпадают с эмпирическими (критерий Колмогорова K(i) = l,31). Изложенный здесь и рекомендуемый для применения ход вычислений соответствует формуле
Г = (/Ve/а) V^ t2^^,(1.159)
где f'— теоретическая частота распределения Максвелла; N— объем выборки; a — параметр распределения; t = xfa— нормированное отклонение; х— середины интервалов эмпирического ряда; е — основание натуральных логарифмов.
Формула (1.159) может быть представлена также и в следующих двух вариантах:
2Nc t1 ~Т - —- — е
|/ 2л a
где обозначения те же. При вычислении параметров и частот распределения Максвелла полезно располагать значениями следующихконстант: л = 3,14159; е = 2,718282; 2]/2/л= 1,595769; 1/ /(2№) =0,626657; У2М=0,797885; ^2= 1,414214; №= = 0,398942; 3—8/л = 0,453531; УЗ—8/л = 0,67345.
Если интервалы ряда после его составления окажутся слишком крупными, как это получилось в ряду из табл. 1.46, то промежуточные частоты можно получить, уменьшая классовый интервал и одновременно в столько же раз увеличивая объем выборки и число классов ряда. Уменьшив классовый интервал в 2 раза (с = 5) и увеличив объем выборки в 2 раза (^ = 762) и число классов тоже в 2 раза (6 = 24), получим по формуле (1.159) для соответствующих вариант следующие частоты в начале кривой: 0—0; 5—62,6; 10—175,3; 15—217,6; 20—168,3; 25—90,2; 30— 35,1; 35—10,2; 40—2,2, которые помогают более точно построить кривую теоретического распределения на том участке, где она была недостаточно определена. Распределение Максвелла связано с трехмерным нормальным распределением, поэтому его частоты можно вычислить также при помощи двух таблиц по формуле
f^-NyF^ — ^^X,(1.160)
Таблица 1.46. Вычисление частот распределения Максвелла
Период цветения видов деревьев и кустарников х, дни
Число видов f
<2 = (—V
1 а )
е-0 ,5^
^е-0,5Р
4
г
1
2
3
4
5
6
7
5
37
0,23777
0,88798
0,21114
0,16429
62,595
15
238
2,1401
0,34298
0,73401
0,57115
217,61
25
78
5,9443
0,051196
0,30432
0,2368
90,221
35
9
11,651
2,9514-Ю"3
3,4387- Ю"2
0,026757
10,194
45
8
19,259
6,5764-10"5
1,2666-Ю"8
9,8557-Ю"4
0,3755
55
3
28,77
5,6593-Ю"7
1,6282-Ю"6
1,2669-Ю"5
4,8269-10"8
65
3
40,183
1,8803-Ю"9
7,5556-10"•
5,8792-10"®
2,24-10"5
75
1
53,498
0
0
0
0
85
2
68,716
0
0
0
0
95
0
85,835
0
0
0
0
105
1
104,86
0
0
0
0
115
1
125,78
0
0
0
0
С =10; А = 12
, 381
1,00000
381,00
f(/)=-L v 7/2лf(/)=-L v 7/2лобъем совокупности;объем совокупности;где f$ —накопленные частоты распределения Максвелла; N — J ^'^(И— интегральная О
f(/)=-L v 7/2л
f(/)=-L v 7/2л
объем совокупности;
объем совокупности;
функция нормального распределения; ф (/) = е ^/2—плот- V 2л
ность нормального распределения; / = х/а — нормированное отклонение; х — варианта эмпирического распределения (середина класса); а — параметр распределения Максвелла.
Вычисления по второму способу ведутся следующим образом.
По величинам t; 0,48761; 1,4628 и т. д. из таблицы F^ выбираются соответствующие числа (они даны, например, в табл. 33, 34 [Митропольский, 1952]). Для первых двух вариант они равны: 0,37445; 0,856533.
Из табл. 11П по тем же величинам t находим (с интерполяцией) значения функции ф(ф 0,24187; 0,01614, умножаем их на 2/: 0,9752; 2,9256, вычитаем из найденных F^, получаем: 0,13258; 0,84039, умножаем на ^ = 381 и получаем накопленные частоты 50,5; 320 и таким же образом еще три: 372, 380, 381.
Дальнейшее вычисление накопленных частот прекращаем, так как все последующие будут равны объему выборки — 381. Вычитая предыдущую частоту из последующей, получаем 12 частот: 50,5; 269,5; 52; 28; 1; 0 (все остальные — нули).
Как видим, найденные по второму способу частоты, хотя и достаточно близки к эмпирическим, но отличаются от найденных по первому способу. Объясняется это тем, что частоты данного эмпирического ряда сильно сконцентрированы в начале кривой, которая к тому же имеет диапазон вариации от нуля до 11/, на что существующие таблицы F^ и i|)(f) не рассчитаны. Из этого следует, что в случае сильной концентрации частот в основной части ряда и большого варьирования дат лучше применять первый способ вычислений и, напротив, при более мелких интервалах ряда и сравнительно небольшого диапазона вариации (до 4/ в обе стороны) можно применять второй способ. Первый способ, кроме того, как показал опыт, удобнее для программирования на ЭВМ.
Из приведенного анализа можно сделать следующие выводы. Варьирование периода цветения у видов деревьев и кустарников очень велико. Величина нормы для периода цветения этих видов должна находиться в пределах М±о= 16,363± 12,362, т. е. от 4 до 29 дней. В этот период укладывается цветение 362 видов из 381, т. е. подавляющее большинство. Остальные 19 видов или относятся к ремонтантным, или при наблюдениях ошибочно фиксировались (главным образом в конце лета и осенью) вторично цветущие виды.
Таким образом, критерий нормальной продолжительности цветения 4—29 дней даст способ выделить отклоняющиеся виды для последующего биологического анализа их фенологии. В частности, этот критерий позволяет количественно отделить ремон-
тантные виды от видов с нормальной продолжительностью цветения. Большинство видов (238) цветет в течение 15 дней, на что указывает величина моды. Половина видов цветет в течение менее 16 дней, другая половина—дольше этого периода, что видно из величины медианы.
§ 1.33.
РАСПРЕДЕЛЕНИЕ РЭЛЕЯ
К числу типов распределений, определяемых одним параметром, относился также распределение Рэлея, которое пригодно для аппроксимации умеренно асимметричных вариационных рядов, составленных из дат непрерывного вида, принимающих только положительные значения. Количественным критерием того, что некоторый эмпирический взвешенный ряд может быть аппроксимирован распределением Рэлея, служит соотношение
а = М/(4/л)-Г=0,5227М,(1.161)
т. е. среднее квадратическое отклонение должно быть примерно в 2 раза меньше средней арифметической. Например, распределение 205 сортов пиона по среднему из 10 особей числу побегов (фертильных и вегетативных вместе) на особи может состоять только из положительных величин, которые после усреднения изменяются по непрерывному типу. Показатели этого эмпириче- ского ряда, приведенного в табл. 1.47 (столбцы 1—3), следующие: М = 22,075; о= 11,7806; Л = 0,60436; £ = —0,0842.
Таблица 1.47. Частоты распределения Рэлея
Общее число побегов на особи пиона
Частота f
X
а2
X2 х2а2
fo
Г
границы интервала
середина интервала X
1
2
3
4
5
6
7
1,5—8,4
5
21
0,016117
0,015479
0,10835
22,212
8,5—15,4
12
48
0,03868
0,030667
0,21467
44,007
15.5—22,4
19
50
0,061243
0,034229
0,2396
49,118
22,5—29,4
26
29
0,083806
0,02819
0,19733
40,453
29,5—36,4
33
34
0,10637
0,01839
0,12873
26,39
36,5—43,4
40
13
0,12893
0,0097821
0,068475
14,037
43,5—50,4
47
7
0,1515
0.0043078
0,030155
6,1818
50,5—57,4
54
2
0,17406
0,0015839
0,011087
2,2728
57,5—64,4
61
1
0,19662
0,0004889
0,0034223
0,70157
с= 7
£ = 12
205
1,0018
205,37
Рис. 10. Распределение Рэлея числа побегов х на растениях пиона f — частоты: / — эмпирические, 2 — теоретические
Вычисление показателей и частот распределения Рэлея ве
дется в следующем порядке.
Основной параметр а: а2= (2М2)/л,(1.162)
где М — средняя арифметическая эмпирического ряда; л = 3,1416; а2 = (2 • 22,075) /3,1416=310,24.
Мода
А40 = а= 17310,24 = 17,614.(1.162а)
Дисперсия
о2=а2(2—л/2),(1.163)
о2=310,24(2—3,1416/2) = 133,16 и среднее квадратическое отклонение о = V = V 133,16 = 11,54. 4. Медиана
Me=V2a2 In 2,(1.164)
М, = 172-310,24.0,69315 = 20,738.
Частоты вычисляем по формуле
f = —е ^Nc,(1.165)
а2
где f' — частоты распределения Рэлея; х — середины классов эмпирического распределения; а — основной параметр; е=2,7183; N — объем выборки; с — классовый интервал.
Г =—-—е 620>48 -205-7.
‘310,24
В табл. 1.47 (столбец 4) приведены частные от деления середин классов на а2: 5/310,24=0,016117 и т. д. В столбце 5 эти вели- чины умножаются на е 2а*: (5/310,24) (е-52/620»48) = 0,015479 и т. д. Числа столбца 5, умноженные на с = 7, дают теоретические частости (столбец 6), перенося в которых запятую на 2 знака вправо, получим частости (в %). Умножив числа столбца 6 на /V = 205, получим теоретические частоты распределения Рэлея (столбец 7).
Критерий согласия Колмогорова оказался равным КМ =0,54, что позволяет говорить о достаточно хорошем совпадении эмпирических и теоретических частот (рис. 10).
ПОКАЗАТЕЛЬНОЕ РАСПРЕДЕЛЕНИЕ
По этому типу распределения выравнивают эмпирический ряд, частоты которого распределены с резко выраженной правосторонней (или положительной) асимметрией, а средняя арифметическая примерно равна сигме: М^о. При этом величины изучаемого признака должны изменяться непрерывно и принимать только неотрицательные значения, т. е. они могут быть положительными числами или равными нулю. Единственный параметр показательного распределения так же всегда число положительное, обратное средней арифметической:
Х=1/М,(1.166)
где X — параметр показательного распределения; М— средняя арифметическая данного эмпирического ряда.
Дисперсия, сигма и медиана показательного распределения равны:
о2=1Д2,а=1Д,(1.167)
М е = In 2Д = 0,69315Д = 0,69315 М,(1.168)
где о2 — дисперсия; о — сигма; % — параметр распределения; Ме — медиана; М — средняя арифметическая.
Коэффициент вариации, учитывая равенство средней и сигмы в этом распределении равен: v = o//W=l, или 100%, что может служить одним из признаков соответствия эмпирического ряда показательному распределению. Мода показательного распределения всегда равна нулю, или началу отсчета величин вариант. Теоретические частоты f' вычисляют по формуле
/' = N (е-^*-1 — е~Хг‘),(1.169)
где X— параметр распределения; gt-^ g<— верхние границы предыдущего и последующего классов распределения вариант изучаемой величины; N— объем совокупности.
Таблица 1.48. Вычисление частот показательного распределения
Границы класса
Середина класса X
Частота f
Верхняя граница класса
5
e~^g
V» %
1
2
3
4
5
6
7
8
9
0
0
1
0—29
15
1249
30
0,66921
0,5121
0,4879
1277,8
48,8
30—59
45
639
60
1,3384
0,26227
0,2498
654,31
25
60—89
75
419
90
2,0076
0,1343
0,128
335,15
12,8
90—119
105
185
120
2,6768
0,06879
0,06551
171,57
6,56
120—149
135
89
150
3,3461
0,035222
0,03357
87,915
3,36
150—179
165
20
180
4,0153
0,018039
0,01718
45,002
1,72
180—209
195
10
210
4,6845
0,009239
0,0088
23,047
0,88
210—239
225
8
240
5,3537
0,0047305
0,004508
11,808
0,45
240—269
255
0
270
—
—
0,002308
6,0444
0,23
k = 9 с = 30
2619
0,998
2612,6
99,8
Распределение 2619 побегов в зависимости от числа соцветий на них у однолетних растений гелениума осеннего, приведенное в столбцах 1, 2, 3 табл. 1.48, обладает значительной положительной асимметрией: As = 1,4563; эксцесс также велик: £ = 2,34; коэффициент вариации v = 83,4%, т. е. близок к 100%; величина средней арифметической М = 44,828 близка к величине сигмы о = 37,383; число соцветий — величина существенно положительная, в данном случае непрерывно изменяющаяся, так как исходные данные являются результатом усреднения^—все эти признаки позволяют применить к указанному ряду показательное распределение для выравнивания эмпирических частот. Несмотря на большое варьирование данных, показатель точности опыта сравнительно мал: Р=1,63% и находится в допустимых пределах (Р^5%).
В табл. 1.48 приведены данные, которые по номерам столбцов разъясняются ниже.
1—3. Границы, середины и частоты классов.
В сответствии с формулой (1.169) для расчетов использованы не середины классов, а их верхние (меньшие) границы, которые записаны в столбце 4 на одну строку выше, так как здесь вычисляется объем интервала по разности его границ.
Величина параметра распределения по формуле (1.166): Л= 1/44,828 = 0,022307; эту величину умножим на все значения верхних границ из столбца 4.
Экспоненты отрицательных чисел из столбца 5.
Разность предыдущего и последующего чисел из столбца 6, например 1—0,5121=0,4879; 0,5121—0,26227 = 0,2498 и т. д. Эти
числа представляют собой вероятности появления побегов с данным количеством соцветий на них, сумма этих вероятностей должна бь/ть равна 1.
Умножив полученные вероятности на объем совокупности W ==2619 побегов, получим теоретические частоты показательного распределения, которые в столбце 9 представлены также в процентах от общей их суммы: 2612,6. Частоты теперь соответствуют серединам классов из столбца 2. Как видим, сумма теоретических частот несколько меньше фактической, что происходит в подобных случаях в основном из-за неполноты теоретического ряда, вычисление частот которого можно было бы продолжить и получить недостающие 6,4 побегов, или 0,2% от объема исходной совокупности. Однако эти дальнейшие частоты становятся слишком малыми, маловероятными событиями, поэтому здесь не приводятся.
Сравнение фактических частот (столбец 3) с теоретическими (столбец 8) по критерию Колмогорова показало, что их совпадение вполне удовлетворительное: К(Х) = 1,059 (рис. 11). Дисперсия и сигма показательного распределения на практике используются редко. Вместо них применяют дисперсию и сигму, подсчитанные способом, обычным для нормального распределения. В частности, для рассматриваемой совокупности второй центральный момент равен 1397,5.
Медиана, рассчитанная по формуле (1.168): Л1е = 0,69315- -44,828 = 31,072 соцветия. Отдельно взятые частоты показательного распределения, соответствующие серединам классов, вычисляются по формуле
f=NcXe-^ (1.170)
где х— середины классов; с — интервал распределения; остальные обозначения те же, что и к формуле (1.169).
Например, при х = 15 соцветий: /, = 2619-30-0,022307е“0’022307л5 = = 1254,2 побега. Заметим, что вытекающее из условия показательного распределения равенство Л1 = а не рекомендуется улучшать за счет усреднения (Л4 + а)/2 исходных показателей, так как это, по нашему опыту, не приводит к улучшению аппроксимации кривой распределения, т. е. в формулу (1.166) и при последующих расчетах следует подставлять только среднюю М исходного эмпирического ряда.
Если возвести в квадрат среднюю и сигму: М2= (44,828)2 = = 2009,55; а2= (37,383)2= 1397,79, то можно получить объективную оценку различия между ними.
Сравнение по критерию Фишера при величине большей дисперсии Ot2 = 2009,55 и меньшей дисперсии а22= 1397,79 показывает несущественное различие между ними: ^ = 2009,55/1397,79= 1,44, что близко к единице при v(l) = оо и v(2) =оо на доверительном уровне Р3 = 99,9% (табл. 8П), который рекомендуется для оценок в подобных случаях. Если объем совокупности больше 120, как это часто бывает, то оценку различия квадратов средней и сигмы
Рис. 11. Показательное распределение числа побегов f у однолетних растений гелениума осеннего в зависимости от числа соцветий на них х
f— частоты: / — эмпирические, 2 — теоретические
можно делать без таблиц, для этого достаточно сравнить полученное значение F с числом 1,56. При F>: 1,56 различие двух показателей существенно и данное распределение нс подходит для аппроксимации его показательным, а если F<1,56, то при подходящей форме кривой на графике некоторое эмпирическое распределение может быть интерпретировано как показательное.
Рассмотрим также применение показательного распределения к важному для биологических исследований распределению величин коэффициента вариации 175 различных признаков растений. Каждая величина коэффициента вариации, в свою очередь,, была получена путем обработки взвешенного ряда достаточного объема, и общее число первичных наблюдений, использованное для получения рассматриваемого ряда, составляет более 70300. В табл. 1.49 по столбцам 1—6 приведены: х— середина класса (или варианта), т. е. величины коэффициента вариации с интервалом с=20; f— частота; р— частости эмпирического распределения; xf—произведения вариант на частоты; (х—М^ и (х— —Myf — произведения отклонений вариант от средней, а также их квадратов с частотами. На основании данных табл. 1.49, которая служит также примером для способа д из § 1.10, вычисляем среднюю арифметическую: ^ = 2 xf!^ = 5570/175 = 31,828573, Проверка: ^xf-MN; 5570 = 31,828573-175 = 5570,000275; разница, равная 0,000275, в данном случае может считаться несуще-
Таблица 1.49. Определение средней и сигмы распределения величин коэффициента вариации
X
f
р, %
xf
(x-M)f
(х — M)2f
10
89
50,85714
890
—1942,7454
42 407,4122
30
45
25,71429
1350
—82,2870
150,4700
50
19
10,85714
950
345,2566
6 273,7958
70
9
5,14286
630
343,5426
13113,5020
90
3
1,71428
270
174,5142
10 151,7353
110
1
0,57143
110
78,1714
6109,7678
130
3
1,71428
390
294,5142
28 912,8713
150
3
1,71429
450
354,5142
41 893,4393
170
2
1,14286
340
276,3428
38 182,6716
190
1
0,57143
190
158,1714
25 018,1918
175
100,00000
5570
—0,0050
212 222,7571
Таблица 1.50. К вычислению факториальных моментов распределения величин коэффициента вариации
Г
fi
h
fa
и
f
fi
fa
fa
b
89
175
366
831
1962
1
10
29
63
118
45
86
191
465
1131
3
9
19
34
55
19
41
105
274
666
3
6
10
15
21
9
22
64
169
392
2
3
4
5
6
3
13
42
105
223
1
1
1
1
1
N — 175
$! = 366 $2 = 831
s3 = 1962
s4 = 4575
ственной. Правильность вычисления отклонений проверяем по равенству 2(х— М)/ = 0, в нашем примере эта сумма равна: —0,0050, что можно считать несущественной ошибкой. Дисперсия
О2 _ (х — Myf/^N — 1 ) = 212 222,7571 /(175—1 ) = 1219,671.
Среднее квадратическое отклонение: а=Уа2=У 1219,671 = = 34,92379. Проверяем вычисление сигмы посредством факториальных моментов по способу полного суммирования, который более чем другие способы из § 1.18, подходит для подобных асимметричных рядов. В табл. 1.50 подсчитаны суммы, необходимые для получения четырех факториальных моментов. Дисперсия
о
с2
N— 1
2s2 — Si
202
175—1
2 • 831
= 1219,625212;
о = 34,92.
Таблица 1.51. Частоты показательного распределения величин коэффициента вариации
Верхняя граница класса g
Середина класса
X
Xg
е—^s
р’
Г =Np
р, %
0
——
0
1
—
20
10
0,628
0,5337
0,4663
81,60
46,6
40
30
1,257
0,2845
0,2492
43,61
24,9
60
50
1,885
0,1518
0,1327
23,22
13,3
80
70
2,513
0,08103
0,07077
12,38
7,08
100
90
3,142
0,04320
0,03783
6,62
3,78
120
110
3,770
0,02305
0,02015
3,53
2,02
140
130
4,398
0,01229
0,01076
1,88
1,08
160
150
5,027
0,006558
0,005732
1,0
0,573
180
170
5,655
0,0035
0,003058
0,535
0,306
200
190
6,284
0,001866
0,001634
0,286
0,163
220
210
6,912
0,000996
0,00087
0,152
0,087
с = 20
& = И
174,813
99,889
Первый условный момент mv = sJN=366/175 = 2,0914287.
Средняя арифметическая М = х1 + с(т1—1) = 10 + 20- •(2,0914287—1) =31,82857; здесь xt— первая варианта из столбца 1 табл. 1.49.
Проверяем равенство средней и сигмы как условие показательного распределения: Р = бг!Мг = 1219,671/(31,828572)2 = 1,2< <1,56. Из сравнения величины критерия Фишера с числом 1,56 заключаем, что ряд распределения величин коэффициента вариации биологических признаков можно представить показательным распределением.
Основной параметр по формуле (1.166): Х= 1/31,8286 = = 0,031418. Дальнейшие действия представлены в табл. 1.51, где обозначения те же, что и в табл. 1.48. Совпадение теоретических (столбец 6 табл. 1.51) и эмпирических (столбец 1 табл. 1.50) частот удовлетворительное, что видно из величины критерия Колмогорова К (X) =0,66529. которая меньше первого критического уровня 1,36.
РАСПРЕДЕЛЕНИЕ ПАРЕТО
Ряды с односторонней кривой распределения и в первую очередь с резким падением частоты вариант в начале кривой рекомендуется аппроксимировать распределением Парето, которое относится к непрерывному типу, определяется всего одним параметром и сравнительно просто по технике вычислений.
Таблица 1.52. Частоты распределения Парето
Число побегов на однолетней особи гелениума
Число особей /
In X
a In х
х-а
-а xi-i"
102,92-5=
/', %
середина интервала
границы интервала X
1
2
3
4
5
6
7
8
9
—
0,5
—
—0,69316
1,1921
3,294
—
—
1
1,5
310
0,40546
—0,69731
0,49795
2,796
287,76
84,9
2
2,5
13
0,9163
—1,5759
0,20682
0,29113
29,963
8,9
3
3,5
7
1,2528
—2,1546
0,11595
0,09087
9,3523
2,7
4
4,5
2
1,5041
—2,5868
0,075262
0,04069
4,1878
1,2
5
5,5
3
1,7048
—2,9319
0,053293
0,021969
2,2611
0,67
6
6,5
3
1,8718
—3,2191
0,04
0,013296
1,3684
0,4
7
7,5
1
2,015
—3,4654
0,031258
0,008739
0,89942
0,27
8
8,5
0,006045
0,62215
0,18
^>8
ОО
2,59
0,76
k = 7
С = 1
339
339,0
99,98
Например, число побегов на одной особи гелениума (при вегетативном размножении путем деления растения) чаще всего небольшое — один побег имели большинство, т. е. 310 особей (табл. 1.52), а два побега — только 13 особей. В этом месте происходит резкое снижение частоты с 310 до 13 и кривая образует почти прямой угол, закругленный на вершине (рис. 12), что типично для кривой распределения Парето, напоминающей сильновогнутую гиперболу. Средняя арифметическая распределения побегов гелениума М = 1,1947; начальная или минимальная варианта ряда Xt=l побег и среднее квадратическое отклонение о = = 0,77906.
Последовательность расчета показателей и частот этого типа распределения следующая.
Для вычислений требуются: средняя арифметическая, начальное значение ряда, частоты, середины и границы классов. Единственный параметр распределения
а=МКМ—х,), (1.171)
где а — параметр распределения Парето; М — средняя арифметическая взвешенного эмпирического ряда; xt— начальное значение ряда. В данном случае вычисления будут вестись не по средним значениям классов, а по их границам. Левая наименьшая граница первого класса — 0,5, это число и принимаем за х4. По формуле (1.171) а= 1,1947/(1,1947—0,5) = 1,7198.
Рис. 12. Распределение однолетних особей гелениума осеннего по числу побегов на них х
f — частоты* / — эмпирические; 2 — кривой Парето
Медиана
Ме = 2ах1=х1ехр— ,
\ а /
Ме=0,5-ехр( °*69?15-) = 0,7482.(1.172)
1,7198 /
Частоты находим по формуле
f-Nx^x^-xA*(1.173)
где f— частоты распределения Парето; х1 — начальное значение ряда, в нашем примере равное 0,5; а — параметр распределения; Xi-i — предыдущая граница класса; х<— последующая граница класса.
Множитель перед скобками в этой формуле посредством логарифмирования вычислим сразу: Л^^ЗЗЭ-О^1'719^ 102,92.
Дальнейшие вычисления приведены в табл. 1.52. В столбце 4 — натуральные логарифмы границ классов, в столбце 5 они умножены на —а, в столбце 6 — экспоненты, или антилогарифмы, чисел столбца 5. В столбце 7 записаны разности предыдущего и последующего чисел из столбца 6, которые умножены на 102,92, и в столбце 8 — частоты распределения Парето, для наглядности представленные также в процентах (столбец 9). Более точная аппроксимация данного распределения дана в § 1.30 по второму способу негативного биномиального распределения, однако для этого там потребовались более сложные расчеты.
Вычисление частот далее седьмого класса в данном случае бесполезно, так как частота не может быть менее 1, т. е. одной особи. Кривая Парето асимптотически приближается к оси х, и число вариант может быть неограниченно большим. Класс >8 побегов в таблице означает, что теоретически в совокупности может встретиться около 0,76% особей, на которых может быть от 9 до 16 побегов. Последнее число было найдено продолжением вычислений до 16 класса, после которого сумма столбца 8 достаточно точно приблизилась к ^ = 339.
Дисперсия, среднее квадратическое отклонение о и коэффициент вариации и распределения Парето имеют смысл при условии, что а>2 или 2xt>M, и вычисляются по формулам:
о2 = ах^/Ца—2) (а—I)2], о = [Ло2, (1.174)
и=Ю0/|7а(а—2), или v = [100 (Л4—х1)1/УЛ1(2х1—УИ), (1.175)
где остальные обозначения те же, что и к формуле (1.171). В нашем примере а меньше двух и 2xt меньше чем величина средней арифметической, поэтому показатели по формулам (1.174), (1.175) не вычисляем.
РАВНОМЕРНОЕ РАСПРЕДЕЛЕНИЕ
Распределение дискретных, или непрерывных, величин с равной для всех из них вероятностью называется равномерным. Кривая распределения частот этого типа представляет собой прямую, параллельную оси абсцисс, ограниченную слева и справа значениями минимальной и максимальной вариант. Наиболее частым случаем применения этого типа распределения можно считать проверку на равную вероятность появления любой варианты из данной совокупности.
Рассмотрим два практических примера. В тиражах выигрышей спортивной лотереи «Спортлото 5 из 36» в 1977—1979 гг. числа от 1 до 36 появлялись с различной частотой (столбцы 1, 2 табл. 1.53). Определим, существенна ли разница между частотами появления этих чисел. Вычисления проводим в следующем порядке:
Находим среднюю частоту появления чисел
r = ^f'k = 1570/36 = 43,611112, (1.176)
где f'— теоретическая частота равномерного распределения; 2/ — сумма эмпирических частот; к— число классов распределения.
При помощи критерия хи-квадрат оценим степень соответствия эмпирических частот равномерному распределению. Для этого эмпирические частоты возведем в квадрат (столбец 3) и
Таблица 1.53. Проверка соответствия частот чисел лотереи равномерному распределению
X
Г
Г
п
п'
n/N
п* {N
<М03
1
2
3
4
5
6
7
8
1
41
1681
41
43,611
0,026
0,028
2
2
43
1849
84
87,2
0,053
0,055
2
3
34
1156
118
130,8
0,075
0,083
8
4
35
1225
153
174,4
0,097
0,111
14
5
46
2116
199
218,1
0,127
0,139
12
6
54
2916
253
261,7
0,161
0,167
6
7
58
3364
311
305,3
0,198
0,194
4
8
45
2025
356
348,9
0,227
0,222
5
9
42
1764
398
392,5
0,253
0,250
3
10
48
2304
446
436,1
0,284
0,278
6
И
53
2809
499
479,7
0,318
0,306
6
12
39
1521
538
523,3
0,342
0,333
9
13
43
1849
581
566,9
0,370
0,361
9
14
44
1936
625
610,5
0,398
0,388
10
15
56
3136
681
654,2
0,434
0,416
18
16
46
2116
727
697,8
0,463
0,444
19
17
42
1764
769
741,4
0,490
0,472
18
18
45
2025
814
785,0
0,518
0,500
18
19
51
2601
865
828,6
0,551
0,528
23
20
31
961
896
872,2
0,571
0,555
16
21
39
1521
935
915,8
0,595
0,583
12
22
37
1369
972
959,4
0,619
0,611
8
23
45
2025
1017
1003,1
0,648
0,639
9
24
51
2601
1068
1046,7
0,608
0,667
13
25
47
2209
1115
1090,3
0,710
0,694
16
26
39
1521
1154
* 1133,9
0,735
0,722
13
27
45
2025
1199
1177,5
0,764
0,750
14
28
43
1849
1242
1221,1
0,791
0,778
13
29
45
2025
1287
1264,7
0,820
0,806
14
30
36
1296
1323
1308,3
0,843
0,833
10
31
37
1369
1360
1351,9
0,866
0,861
5
32
49
2401
1409
1395,6
0,897
0,889
8
33
31
961
1440
1439,2
0,917
0,917
0
34
35
1225
1475
1482,8 .
0,939
0,944
5
35
50
2500
1525
1526,4
0,971
0,972
1
36
45
2025
1570
1570,0
1,000
1,000
0
1570
70 040
получим сумму 2/2 = 70 040. Величина критерия хи-квадрат:
X2 = 2 Р/Г — N = 70 040/43,6111 — 1570 = 36, (1.177) где ^Р —сумма квадратов эмпирических частот; Г— теоретическая частота равномерного распределения; N = 2/—объем совокупности, или сумма эмпирических частот.
Найденную величину хи-квадрат оценим с помощью табл. 15П. Число степеней свободы равно: \=к—1=36—1=35, по нему при трех стандартных уровнях значимости: 0,05; 0,01; 0,001 —табличные значения критерия равны: 49,8; 57,3; 66,6, что больше найденной величины, равной 36. Следовательно, различия между частотами появления чисел в тиражах выигрышей случайны и они появляются практически с равной вероятностью, иными словами, их распределение подчиняется закону равномерного распределения.
Для контроля проверку соответствия эмпирических частот равномерному распределению сделаем также по критерию Колмогорова. В столбце 4 таблицы записаны накопленные эмпирические частоты, которые получены так: 41+43 = 84, 84+34=118, 118 + 35=153 и т. д. В столбце 5 записаны накопленные теоретические частоты, которые начинаются со средней частоты Г= =43,611, к ней последовательно прибавляется ее же величина: 43,611+43,611=87,2; 87,2 + 43,611 = 130,8 и т. д. В столбцах 6, 7 помещены частные от деления этих частот на объем совокупности Л/=1570. В столбце 8 приведены разности чисел из предыдущих двух столбцов, умноженные на 1000 для краткости написания, так что dmaX=23 соответствует 0,023. Эту максимальную разность подставляем в формулу
X = dmaxyW = 0,023/1570 = 0,911. (1.178)
В соответствии с полученной величиной лямбда, равной 0,91 по табл. 16П, находим значение 1—К(Х) =0,379. Если табличная величина будет больше критической вероятности 0,05, то данное распределение не отклоняется от теоретического, а если 1—К(Х)<0,05, то исследуемое эмпирическое распределение существенно отклоняется от теоретического распределения частот. В нашем случае 1—К(^) = 0,379>0,05, следовательно, распределение частот чисел лотереи практически не отличается от равномерного, что подтверждает результат уже сделанной проверки при помощи критерия хи-квадрат. И поэтому все попытки некоторых любителей этой игры найти «счастливые» комбинации чисел являются заведомо и полностью бесплодными.
Рассмотрим второй пример применения равномерного распределения, относящийся к биологическим исследованиям. При помощи равномерного распределения можно получать ответы на вопросы следующего типа: правомерно ли считать сортовым признаком, например, высоту растений у совокупности сортов како-
Таблица 1.54. Распределение 270 двулетних растений 22 сортов гелениума осеннего по высоте
Высота х, см
Число особей /
/2
п
п*
n/N
n'/N
d
86
3
9
3
30
0,011
0,111
0,100
98
10
100
13
60
0,048
0,222
0,174
110
21
441
34
90
0,126
0,333
0,207
122
19
361
53
120
0,196
0,444
0,248
134
41
1681
94
150
0,348
0,555
0,207
146
92
8464
186
180
0,689
0,667
0,022
158
57
3249
243
210
0,900
0,778
0,122
170
23
529
266
240
0,985
0,889
0,096
182
4
16
270
270
1,000
1,000
0
с = 12
270
14 850
Л = 9
го-либо культивируемого вида. В табл. 1.54 приведено распределение по 9 классам высоты 270 двулетних особей 22 сортов гелениума осеннего. Требуется выяснить, различаются ли достоверно растения по высоте в данной совокупности и, следовательно, может ли служить высота растений сортовым признаком. Средняя частота распределения по формуле (1.176): /'=270/9= =30. Сравнение по критерию хи-квадрат — формула (1.177): ^2=14850/30—270=225 (по табл. 15П при v=9—1 = 8 и уровне значимости 0,001 — критическое значение 26,1) и по критерию Колмогорова: Х=0,248У270=4,075 (что соответствует нулевой вероятности 0<0,05) показало, что данное распределение частот существенно отличается от равномерного, следовательно, высота растений у данной совокупности сортов может служить сортовым признаком.
ЛОГНОРМАЛЬНОЕ РАСПРЕДЕЛЕНИЕ
Иначе этот тип распределения называют логарифмически нормальным, или типом SL из семейства распределений Джонсона. Весьма пластичное логнормальное распределение часто применяется для аппроксимации распределений многих биологических признаков, особенно тех из них, которые обладают умеренной положительной асимметрией. Величины признаков должны при этом отвечать условию: 0^%< + оо, т. е. быть положительными числами, так как они в дальнейших расчетах подвергаются логарифмированию. Если применяются для этого десятичные логарифмы, то желательно также, чтобы величины х были больше единицы или равны ей, что позволит избежать трудоемкого пере-
вода логарифмов из естественной в искусственную форму и обратно. Применение натуральных логарифмов поэтому предпочтительнее, когда среди величин х встречаются большие и меньшие единицы или только меньшие единицы. Из различных способов вычисления частот этого распределения рассмотрим наиболее рациональный— способ процентилей на примере распределения величин коэффициента вариации 165 биологических признаков. Ь § 1.34 этот резко асимметричный ряд был с удовлетворительной точностью аппроксимирован показательным распределением. Однако слишком большой шаг интервала в этом ряду с=20 заставлял предполагать, что в начале ряда, где особенно велика плотность вариант, могут быть скрыты существенные детали кривой данного распределения. По тем же данным был заново получек взвешенный вариационный ряд с шагом интервала с=5, асимметрия которого оказалась значительно меньшей и эмпирическая кривая стала двускатной, чю больше соответствует реальным фактам. При этом пришлось отбросить тс варианты, которые были больше 100%, и объем ряда поэтому стал ^=165 при числе классов ^=20 (табл. 1.55). Расчеты частот логнормального распределения выполнены в следующем порядке.
Составление ряда накопленных частот: 124-26=38, 384- -(-27=65, 65 4*24=89 и т. д. до последней частоты, которая должна быть равна объему ряда (столбец 3).
Вычисление номеров процентильных вариант:
iP=P(N+D,(1.179)
где I— номер процентильной варианты; Р— величина процентиля; N — объем ряда.
За величины процентилей приняты: медиана Р=0,5 и симметричные ей Р=0,05, Р=0,95. По формуле (1.179) i0 05=0,05(165+ + 0=8,3; ^5=0,5(165+ 1)=83; to,95=O,95( 1654-О = 157,7.
Значения процентильных вариант
xp = (ip-to^ + g.(1.180)
где ip — номер процентильной варианты; fu — накопленная частота класса, предшествующего процентильному; с — классовый интервал; f — частота процентильного класса (ненакопленная); g— левая, или меньшая, граница процентильного класса:
Хо,оз (8,3-0) - + 0 = 3,46;х0,5 = (83 — 65)- + 15 = 18,75;
1224
х0,95 = (157,7 — 153) - + 60 = 64,7.
5
Таким образом, процентильные варианты находятся в 1, 4 и 13 классах ряда (сверху вниз по строкам столбца 1 табл. 1.55).
Таблица 1.55. К расчету частот логнормального распределения
Нижняя граница класса g
Частота f
Накопленная частота
g-e
In (g—8)
-П (5)
2 =V+(6)
P
^'+1’~ pi
Г = N (9)
I » /0
1
2
3
4
5
6
7
8
9
10
II
0
12
12
4,15
1,423
2,127
—2,56
0,005234
0,0801
13,22
8,0
5
26
38
9,15
2,214
3,310
—1,37
0,08534
0,1504
24,82
15,0
10
27
65
14,15
2,649
3,960
—0,72
0,23576
0,1578
26,04
15,8
15
24
89
19,15
2,952
4,413
—0,27
0,39358
0,1383
22,82
13,8
20
14
103
24,15
3,184
4,760
0,08
0,53188
0,1087
17,94
10,9
25
14
117
29,15
3,373
5,043
0,36
0,64058
0,0852
14,06
8,5
30
10
127
34,15
3,531
5,279
0,60
0,72575
0,0624
10,30
6,2
35
7
136
39,15
3,667
5,482
0,80
0,78814
0,0483
7,97
4,8
40
4
138
44,15
3,788
5,663
0,98
0,83646
0,0364
6,01
3,6
45
10
148
49,15
• 3,895
5,823
1,14
0,87286
0,0286
4,72
2,9
50
3
151
54,15
3,992
5,968
1,29
0,90147
0,0207
3,42
2,1
55
2
153
59,15
4,080
6,100
1,42
0,92220
0,0160
2,64
1,6
60
5
158
64,15
4,161
6,221
1,54
0,93822
0,0123
2,03
1,2
65
1
159
69,15
4,236
6,333
1,65
0,95053
0,0103
1,70
1,0
70
1
160
74,15
4,306
6,437
1,76
0,96080
0,0070
1,16
0,7
75
2
162
79,15
4,371
6,535
1,85
0,96784
0,0066
1,09
0,7
80
1
163
84,15
4,433
6,627
1,95
0,97441
0,0044
0,73
0,4
85
1
164
89,15
4,490
6,713
2,03
0,97882
0,0038
0,63
0,4
90
1
165
94,15
4,545
6,795
2,11
0,98257
0,0032
0,53
0,3
95
0
165
99,15
4,597
6,872
2,19
0,98574
0,0024
0,40
0,2
100
—
—
104,15
4,646
6,946
2,26
0,98809
—*
—
с = 5165 к 20
162,2398,1
Параметры логнормального распределения:
т] = 1,645 Inт] = 1,645 InX X\1 “1^0,95А0,5\X X/^0,5^0,05/JX X\1 “1^0,95А0,5\X X/^0,5^0,05/J(J _ е-1.645/П —X X0,5Л0,05(J _ е-1.645/П —X X0,5Л0,058 = *0,5 — e~v/11,8 = *0,5 — e~v/11,(1.181)(1.182)(1.183)(1.181)(1.182)(1.183)
т] = 1,645 In
т] = 1,645 In
X X\1 “1
^0,95А0,5\
X X/
^0,5^0,05/J
X X\1 “1
^0,95А0,5\
X X/
^0,5^0,05/J
(J _ е-1.645/П —
X X
0,5Л0,05
(J _ е-1.645/П —
X X
0,5Л0,05
8 = *0,5 — e~v/11,
8 = *0,5 — e~v/11,
(1.181)
(1.182)
(1.183)
(1.181)
(1.182)
(1.183)
Л = 1,645Л = 1,64564,7 — 18,75у|-1 18,75 — 3,4бЛ64,7 — 18,75у|-1 18,75 — 3,4бЛ1,495,1,495,
Л = 1,645
Л = 1,645
64,7 — 18,75у|-1 18,75 — 3,4бЛ
64,7 — 18,75у|-1 18,75 — 3,4бЛ
1,495,
1,495,
у = 1,495 Inу = 1,495 In__ е~1,645/1,495 18,75 — 3,46__ е~1,645/1,495 18,75 — 3,46= — 4,6820,= — 4,6820,
у = 1,495 In
у = 1,495 In
__ е~1,645/1,495 18,75 — 3,46
__ е~1,645/1,495 18,75 — 3,46
= — 4,6820,
= — 4,6820,
е = 18,75 -- е4’682/1’495 = — 4,15
Нормированные отклонения 2, левых (нижних, или меньших) границ классов g, вычисленные по формуле
z=4 + t] ln(g—е),(1.184)
записаны в столбце 7.
Из табл. 12П в соответствии с величинами 2 в столбец 8 табл. 1.55 выписываем значения функции Ф, т. е. площади под интегральной кривой нормального распределения. Вычитая затем предыдущее значение из последующего, в столбце 9 получим частности логнормального распределения, выраженные в долях единицы.
Произведения чисел столбца 9 на объем ряда ^=165 (столбец 10) представляют собой частоты логнормального распределения, которые также выражены в процентах (столбец 11). Совпадение эмпирических и теоретических частот достаточно близкое (рис. 13), что показывает и величина критерия ^Х)=0,40336.
На этом задача аппроксимации данного распределения может быть закончена, но ввиду важности рассматриваемого ряда для оценки вариабельности признаков растений в целом вычислим его другие параметры.
Средняя арифметическая по серединам классов рассчитывается по формуле (1.13): М=4057,5/165=24,5909.
Среднее квадратическое отклонение определяем по формуле (1.24а):
а = /60 453,637/( 165— 1) = К368,6197 = 19,8958,
Проверка вычисления средней и сигмы по формулам (1.70), (1.69а):
М=2,5 + 5 (5,4182—1) =24,591,
о2 = 25/164 [2 • 4078—894 (1+894/165)] = 368,6196; о = 19,896.
Рис. 13. JIoi нормальное распределение величин коэффициента вариации х биологических признаков
/ — частоты: / — эмпирические, 2 — теоретические
Моменты условные по формулам (1.68):
/«! = 894/165 = 5,4182, т2 = 2 • 4078/165—5,4182 = 44,0121,
т3 = 2 [3 (16 852/165—0,5. 44,0121) — 5,4182] = 469,9268,
т4 = 6 (4.63 841 /165—5,4182—469,9268) — 11.44,0121 = = 5949,7593;
центральные моменты по формулам (1.56) — (1.58).
р2 = 44,0121—5,41822 = 14,6552;
Из = 469,9268+5,4182 (2 • 29,3569—3 -44,0121) = 72,6508;
р4 = 5949,7593+5,4182 [3.5,4182 (2.44,0121—29,3569) — — 4-469,9268] = 931,9984.
Коэффициент вариации эмпирического ряда по формуле (1.43)
и= 19,9 -100/24,6=81 %.
Величина М2/о2=604,7/368,6=1,76> 1,56 (см. § 1.34), поэтому данное эмпирическое распределение нельзя аппроксимировать показательным.
Уравнение, по которому можно вычислить частоту для любой величины х в пределах области аппроксимации логнормальным распределением:
Г = ;—^лг ехр (— 0,5т12 [~ + 1п (х—^П *(1.185)
(х — е) У 2л ( L Лj J
где N— объем ряда; с — классовый интервал; х — случайная величина, любая варианта ряда, в том числе g— граница класса; т], у, 8 — параметры распределения.
В рассматриваемом примере вычислим частоту для х=33%, т. е. теоретическую частоту появления рядов распределений биологических признаков с коэффициентом вариации 33%:
Г _ —165-5.1,495{_ 0 5. j 4952 [— 4 682/1 495 +
'(33 + 4,15) И2л
+ In (33 + 4,15)]2} = 165-0,08027 = 13,24,
где 1/"|/2л=0,39894. Таким образом, в данной совокупности может встретиться около 8% рядов, вариабельность которых близка к 33%.
Используя полученное значение среднего квадратического отклонения, построим интервал нормы вариабельности признаков растений: М4=0=24,59± 19,9, т. е. от 4,69 до 44,49, далее: 44,49— 64,39—84,29—104,19.
Округленно шестибалльная шкала вариабельности выглядит так: 1) 0—4,69; 2) 4,7—24,59; 3) 24,6—44,49; 4) 44,5—64,39; 5) 64,4—84,29; 6) 84,3—104,2 (величины коэффициента вариации в процентах.
Иногда для точного определения типа кривой из семейства распределений Джонсона пользуются следующими критериями:
Р^^Ж’ р2=нЖ. (1.186)
подставив в эти формулы найденные значения центральных моментов, получим:
Р,=72,65082/14,65523= 1,6769,р2= 931,99 84/14,65522=4,3394.
Однако как показывает наш опыт, аппроксимация логнормальным распределением бывает обычно достаточно точной, несмотря на то что по критериям (1.186) ряд может откоситься к другому типу кривой, как это имеет место в данном случае, в котором, согласно критериям (1.186), следовало бы применить тип кривой SB. По данным аппроксимации через процентили можно получить также приближенную оценку коэффициента вариации логнормального распределения:
и = 100 /exp(Tf2)—1,(1.187)
где т) вычисляется по формуле (1.181). Для нашего примера:
и = 100 /ехр(1,495-2)—1 =75,1 %.
2
КОРРЕЛЯЦИЯ
Между величинами может существовать более точная, или функциональная, связь, когда одному значению аргумента х соответствует одно определенное значение функции у, и менее точная— корреляционная связь, когда одному конкретному значению аргумента соответствует приближенное значение или некоторое множество значений функции, в той или иной степени близких друг к другу. Близость в этом множестве значений функции друг к другу соответствует понятию силы, или тесноты, корреляционной связи. Чем больше сила корреляционной связи, тем ближе эта связь к функциональной.
Объекты ботанических исследований (популяции, особи, органы, клетки) всегда в той или иной степени неоднородны по своим наследственным особенностям, и, кроме того, в любом, даже тщательно поставленном эксперименте его объекты испытывают неучитываемые воздействия многих факторов внешней среды. Поэтому между признаками объектов ботанических исследований бывают исключительно корреляционные связи. Например, большей длине корня у высших растений, как правило, соответствует, в общем, большая высота стебля, в этом случае имеет место положительная, или прямая, корреляция. Чем растения крупнее, больше по размерам или по весу, тем меньшее их число может произрастать на одной и той же единице площади участка земли; в этом случае существует отрицательная, или обратная, корреляция. В одной и той же парной связи может быть и прямая и обратная корреляция. Например, высота растений и число соцветий на них у гелениума осеннего находятся в прямой связи, но до некоторого предела, после которого при дальнейшем увеличении высоты растений происходит не увеличение а, наоборот, уменьшение числа соцветий на них. Поэтому при изучении корреляций следует брать достаточно широкие пределы изменений обоих признаков, чтобы была возможность выявить и такие двузначные связи.
Сложность изучения корреляционных связей заключается также и в том, что все признаки (например, у растения) в различной степени взаимосвязаны и при исследовании методом парной корреляции можно считать доказанной лишь ту связь между двумя признаками, механизм которой биологически понятен; в противном случае можно установить корреляцию там, где ее
нет, ибо изменения двух признаков могут более сильно зависеть от изменения другого, третьего признака или от совокупности некоторых других признаков. Поэтому более правильным было бы совместное, одновременное исследование связей всего комплекса признаков данного растения или явления с применением методов множественной корреляции, парциальных коэффициентов корреляции и корреляционных плеяд.
В этой главе методы вычисления показателей корреляции располагаются в следующем порядке: ранговые показатели корреляции, наиболее простые по технике вычисления (§ 2.02, 2.03), обычный коэффициент корреляции (§ 2.04, 2.05), схемы расчетов показателей криволинейной связи (§ 2.06—2.10), некоторые частные случаи корреляционных связей (§ 2.11—2.13).
Для проверки гипотезы о взаимосвязи между двумя признаками, которые могут быть выражены количественно, вычисляют различные показатели силы и достоверности этой связи. Для не- взвешенных рядов (см. 1.01) составление корреляционной решетки (пример ее см. табл. 2.01) не требуется, так как проще вычислить коэффициент корреляции без ее составления. Если объемы выборок значительны и требуют группировки вариант во взвешенные ряды, то для вычисления различных показателей связи: коэффициента корреляции, корреляционного отношения, полихорического показателя связи — желательно, особенно при отсутствии вычислительной техники, составить корреляционную решетку. Вычисление эмпирической линии регрессии сильно облегчает возможность выявления формы связи, чтобы далее решить, какой из показателей следует применить в данном конкретном случае. Если связь прямолинейная, то вычисляют коэффициент корреляции, показатель корреляции Спирмена, коэффициент корреляции Кендалла, а при криволинейной связи вычисляют корреляционное отношение и полихорический показатель связи независимо от объема выборки. Точки эмпирической линии регрессии, вычисленные по способу, приведенному в § 2.01, используются также при вычислении корреляционного отношения. При вычислении прямого корреляционного отношения требуется получить средние значения нескольких у для одного определенного значения х, а при вычислении обратного корреляционного отношения вычисляют усредненные значения нескольких х для определенного у. Таким образом, существуют два вида эмпирической линии регрессии: ух и ху, т. е. у по х и х по у. Вычисление точек эмпирической линии регрессии производится также и в том случае, когда корреляционное отношение вычисляют для невзвешенного ряда.
При исследовании корреляционных связей между признаками любых, в том числе и биологических, объектов желательно вначале выявить тип распределения данных (см. гл. 1). При этом, чем ближе эмпирическое распределение к нормальному или хотя бы к симметричному, тем больше оснований для применения методов корреляционного анализа, и наоборот Однако во многих
Таблица 2.01. Вегетационный период х (в днях) и вес 1000 семян у (в г) у 214 сортов ячменя
У
57,5-
62,4
62,5—
67,4
67,5—
72,4
72,5-
77,4
77,5—
82,4
82,5—
87,4
87,5—
92,5
fy
ХУ
60
65
70
75
80
85
90
55—6158
1
2
3
7
1
14
76,8
49-54,9 52
5
8
10
11
2
2
38
75,4
43—48,9 46
7
10
17
33
3
1
71
76,3
37—42,9 40
1
8
9
20
18
1
1
58
74,6
31—36,9 34
1
4
5
10
5
1
26
73,3
25—30,9 28
3
3
6
70,0
19—24,9 22
1
1
65,0
fx
2
29
34
63
74
8
4 N
г =214
Ух
37,0
41,4
44,8
42,9
45,8
46,8
47,5
случаях эту проверку нельзя выполнить из-за недостаточного объема исходных данных, что определяет в дальнейшем соответствующую надежность результатов. Затем следует установить степень криволинейности изучаемой связи, что можно сделать визуально при помощи несложного графика данной эмпирической зависимости или аналитически (§ 2.07). Далее вычисляют избранные показатели связи и обязательно их ошибки для оценки достоверности найденных величин показателей. Недостоверные величины показателей корреляции из дальнейшего анализа в общем случае исключают.
Методы статистических исследований, изложенные в гл. 1, могут быть отнесены к общему универсальному этапу математической обработки данных. Задача этого этапа — первичная обработка фактов, в результате которой большей частью ожидается получить основные характеристики массива данных: среднюю арифметическую, дисперсию, среднее квадратическое отклонение, ошибку средней, коэффициент вариации и показатель точности опыта. Перечисленные показатели позволяют судить об уровне и степени варьирования данных, оценить их полноту (репрезентативность), надежность и пригодность для дальнейших исследований и выводов. Методы корреляционного анализа, регрессии и другие, изложенные в гл. 2, 3, относятся к специальному этапу статистических исследований, на котором в отличие от общего требуется выдвижение четко сформулированной рабочей гипотезы, которую надлежит доказать или опровергнуть при помощи биометрических методов. В частности, посредством вычисления показателей корреляции и оценки их достоверности определяют наличие или отсутствие связи между различными признаками объектов.
01.
КОРРЕЛЯЦИОННАЯ решеткаИ ЭМПИРИЧЕСКАЯ ЛИНИЯ РЕГРЕССИИ
При составлении корреляционной решетки оба ряда данных надо сгруппировать в сопряженные между собой взвешенные ряды. Составление корреляционной решетки и вычисление точек эмпирической линии регрессии производится в следующем порядке.
Перед составлением сопряженных вариационных взвешенных рядов следует назначить аргумент х и функцию у, т. е. определить, что является соответственно причиной и следствием в изучаемой взаимосвязи. Это поможет лучше ориентироваться в расчетах показателей связи, хотя само по себе является приемом довольно условным, так как в биологии часто исследуются связи, зависящие не друг от друга, а от чего-то третьего. Многие из парных взаимосвязей позволяют легко установить, какой член связи у них является аргументом. Но в некоторых случаях правильность назначения аргумента определяется лишь после вычислений и заключается в том, что у рассматриваемых двух рядов величина прямого корреляционного отношения будет больше, чем у обратного корреляционного отношения. Если обратное корреляционное отношение окажется больше прямого, за аргумент принимают другой из двух рядов. Повторять вычисления при этом нет необходимости, так как величины обоих корреляционных отношений не изменятся. При исследовании взаимосвязи продолжительность вегетационного периода — вес 1000 семян у сортов ячменя (см. табл. 2.01) за аргумент х предположительно принимается продолжительность вегетационного периода, которая может оказывать влияние на вес семян у.
Вариационный ряд, который будет принят за функцию, лучше располагать в вертикальном ряду корреляционной решетки, числа ряда при этом возрастают снизу вверх. Значения аргумента располагаются в горизонтальном ряду, они возрастают слева направо. Такое же расположение рядов принимается при их графическом представлении. В табл. 2.01 приводятся границы классов и их срединные значения, т. е. варианты х, у, и затем частоты. Исходные данные разносятся по классам корреляционной решетки так же, как и при составлении отдельного вариационного ряда (§ 1.01), с той разницей, что здесь каждая точка в клетке (частота) соответствует определенным значениям обоих рядов одновременно. Сумма частот столбцов должна равняться сумме частот строк и объему выборки, в данном случае ^=214.
Расчет эмпирической линии регрессии ух, которая используется при вычислении прямого корреляционного отношения, ведется путем определения взвешенных средних арифметических для отдельных участков ряда у или групп вариант, имеющих частоты. Точка 37,0 (табл. 2.01) получена так: (40-1+34-1)/2= =37,0.
Рис. 14. Эмпирические линии регрессии признаков ячменя/ — вес 1000 семян у в зависимости от вегетационного периода — ух ;2 — продолжительность вегетационного периода х в зависимости от веса семян — ХуРис. 14. Эмпирические линии регрессии признаков ячменя/ — вес 1000 семян у в зависимости от вегетационного периода — ух ;2 — продолжительность вегетационного периода х в зависимости от веса семян — ХуЭмпирическая линия регрессии ху (рис. 14) вычисляется в том случае, если требуется определить обратное корреляционное отношение, т. е. когда правильность первоначального назначения аргумента вызывает сомнение. Точки ху получены путем определения групповых средних в горизонтальных рядах корреляционной решетки. Например: (65-1+70-2+ +75-3+80-7+ 85-1)/14 = 76,8; (65-5 + 70-8 + 75-10 + + 80-11 + 85-2 + 90-2)/38= = 75,4 и т. д.
Рис. 14. Эмпирические линии регрессии признаков ячменя
/ — вес 1000 семян у в зависимости от вегетационного периода — ух ;
2 — продолжительность вегетационного периода х в зависимости от веса семян — Ху
Рис. 14. Эмпирические линии регрессии признаков ячменя
/ — вес 1000 семян у в зависимости от вегетационного периода — ух ;
2 — продолжительность вегетационного периода х в зависимости от веса семян — Ху
Вычисление точки эмпирической линии ререссии ух наносим на график (см. рис. 14) и соединяем линией. Полученная эмпирическая линия позволяет заключить, что связь между
изучаемыми признаками положительная (так как при возрастании аргумента функция возрастает) и близка к прямолинейной. Следовательно, в данном случае для определения степени силы связи можно применить коэффициент корреляции (см. § 2.05).
При обработке невзвешенных малочисленных рядов, как ука
зывалось в начале главы, корреляционная решетка не составляется, однако график зависимости у от х по непосредственным данным вычерчивается для того, чтобы можно было судить о форме данной взаимосвязи, рукородствуясь рис. 15. Вычерчивание такого графика перед вычислением показателя корреляции часто позволяет легко найти правильный метод обработки материала. Многие корреляционные связи, не слишком отклоняющиеся от прямолинейных, могут быть удовлетворительно охарактеризованы коэффициентом корреляции, который вычисляется проще, чем корреляционное отношение. Допустимая степень отклонения корреляционной связи от прямолинейной в таких случаях определяется при помощи критериев криволинейности (см. § 2.07).
02.
ПОКАЗАТЕЛЬ КОРРЕЛЯЦИИ РАНГОВПО СПИРМЕНУ
Сила корреляционной связи между двумя признаками при помощи рассматриваемого показателя измеряется в основном для небольших невзвешенных рядов, которые представляют собой качественные оценки признаков. Численность рядов в прин-
ципе может быть любой, однако ранжирование выборки большого объема при ручном счете становится затруднительным. Достаточную точность вычисления обеспечивает формула
Р = 1 - [б(2 62 + 5х + вДДлГ (№-1)],(2.01)
где р — показатель корреляции рангов; N— число пар вариант корреляционных рядов; Вх— поправка на объединение рангов в ряду х по формуле (2.03); Ву—поправка на объединение рангов в ряду у по формуле (2.03); 5б2— сумма квадратов попарных разностей рангов.
Если в рядах х и у отсутствуют объединенные ранги, показатель корреляции рангов равен
р = 1 - 6j£ &W <№— 1)],(2.02)
где обозначения те же, что и в формуле (2.01). В биометрических исследованиях в подавляющем большинстве случаев применяют формулу (2.02).
На следующем примере показан один из возможных случаев использования показателя корреляции рангов. Требуется объективно подобрать из числа опытных специалистов группу экспертов для оценки сортов декоративных растений. Для этого всем этим специалистам предлагается оценить 13 сортов одной цветочной культуры (вообще желательно для этого брать большую выборку: 20—30 сортов или других образцов). Оценка ведется по декоративно-хозяйственным признакам растений и выражается в сумме баллов. Затем между оценками всех специалистов находят попарно показатель корреляции рангов и отбирают в качестве экспертов тех лиц, оценки которых в наибольшей степени совпадают. При этом требуется вычислить показатели корреляции, число которых равно 0,5N(N—1), где N — число кандидатов на должность эксперта. Для примера вычислим показатель корреляции рангов между оценками только двух экспертов: х и у (столбцы 1 и 2 табл. 2.02).
Ранжируем данные рядов х и у от большего к меньшему, присваивая вариантам порядковые номера. Варианта 72 ряда х получит ранг 1, варианта 67 — ранг 2, варианты 64 и 64 должны были бы получить ранги 3 и 4, но так как они имеют равное значение, то берется средний ранг для обеих вариант: (3 + 4)/2=3,5. Остальные ранги обоих рядов приведены в столбцах 3, 4 табл. 2.02.
Получаем разности рангов без учета их знаков (столбец 5).
Возводим разности в квадрат и суммируем: 2$2 = 479 (столбец 6).
Вычисляем поправки:
Вх (или В^ = 2 К»3 — '№1,(2.03)
Таблица 2.02. К вычислению показателя корреляции рангов между оценками двух экспертов
X
У
Ранг х
Ранг у
Разность рангов 6
б2
1
2
3
4
5
6
52
64
10
8
2
4
53
66
8,5
6
2,5
6,25
63
57
5
13
8
64
72
62
1
10
9
81
56
61
6
И
5
25
34
63
12
9
3
9
33
71
13
2
И
121
44
70
И
3,5
7,5
56,25
53
65
8,5
7
1,5
2,25
64
70
3,5
3,5
0
0
64
72
3,5
1
2,5
6,25
54
68
7
5
2
4
67
60
2
12
10
100
2 = 479,00
где Вх или Ву— поправки на объединение рангов в ряду х или у; п— число рангов в каждой группе объединенных рангов; 2 — знак суммирования всех значений (и3—я)/12, вычисленных для отдельных групп. Число групп объединенных рангов в ряду х— две группы. В каждой из групп по 2 ранга: 8,5 и 8,5; 3,5 и 3,5, отсюда по формуле (2.03)
^=[(23-2) + (23-2)]/12=1. '
В ряду у одна группа объединенных рангов с двумя рангами в ней: 3,5 и 3,5, следовательно, по формуле (2.03) В^=(23—2)/12= =0,5.
Подставляем полученные значения в формулу (2.01):
р=1 —[6(479+1+0,5) ]/[13(132—1)]=—0,32.
По тем же данным, но без поправок на объединенные ранги получим по формуле (2.02)
р= 1 — 6 • 479/ [ 13 (132—1) ] =—0,32.
Таким образом, для оценки силы связи в данном случае можно было бы пользоваться и формулой (2.02).
Критерий достоверности показателя корреляции рангов
(2.04)(2.04)/ = |р| /(^-2)/(1-1р|).
(2.04)
(2.04)
Число степеней свободы для его оценки определяется по выражению v=N—2; |р|—абсолютная величина показателя корреляции рангов; N— объем ряда х.
Достоверность показателя корреляции рангов в рассмотренном примере по формуле (2.04) /=0,32У(13—2)/(1—0,32) = = 1,286. По табл. 4П при Р/=0,95 и v=13—2=11 /=2,201, следовательно, полученный показатель корреляции рангов недостоверен и кандидаты на должность эксперта х и у оба не подходят или не подходит один из них, а кто именно, должны указать остальные показатели корреляции рангов между оценками других экспертов, рассмотренные совокупно.
Достоверность показателя корреляции рангов можно определить также по табл. 1711. При ^=13 вычисленное значение должно быть равно или больше табличного, которое равно 0,48, следовательно, подтверждается сделанный вывод о недостоверности показателя корреляции. Его критические значения при объеме совокупности N можно также рассчитать для 5% уровня значимости:
р = (1,96//аГ-Г)(1-0,16/(Лг-1))(2.05)
и для 1% уровня значимости:
р = (2,58//ЛГ=Ч) (1— 0,69/(Л/— 1)).(2.06)
Последние формулы дают более строгую оценку. Если вычисленное значение р будет меньше, чем полученное по формуле (,2.05) на 5% уровне значимости, то он недостоверен. Достоверным показатель корреляции рангов считается лишь тогда, когда он больше критического значения, полученного по формуле (2.06) на 1% уровне значимости.
§ 2.03.КОЭФФИЦИЕНТ КОРРЕЛЯЦИИ РАНГОВПО КЕНДАЛЛУ
Сила корреляционной связи между двумя невзвешенными рядами может быть определена посредством вычисления коэффициента корреляции рангов. Рекомендуется его вычислять для рядов не менее чем из 10 вариант. Численность ряда в большую сторону теоретически может быть любой, однако ранжирование рядов с большим числом вариант при ручном счете становится затруднительным, поэтому обычно применяют коэффициент Кендалла к небольшим выборкам. Вычисление производится по об- щей формуле:
т =(2.07)
гдет — коэффициент корреляции рангов по Кендаллу; Б — сумма рангов, пример ее вычисления приводится в табл. 2.03; N — объем выборки; Вх, Ву — поправки на объединение рангов, которые находим по формуле (2.08).
Таблица 2.03. Ранги и их оценка для вычисления коэффициента корреляции Кендалла
Ранги
х1
2
3,5
3,5
5678,5
8,510
1112
13
у ю
12
1
3,5
131156
78
3,59
2
Больше +3
Меньше —9
+1
—10
+9 0
+7
—1
Оценка рангов
00 +4 4-2
—8 —7 —2 —2
+2 +1
—2 —2
+10
—1 —1
+30
—45
Сумма оценок: Б =
+ 30+(-45)
= —15
Если среди вариант в обоих рядах нет совпадающих величин, следует обратиться к более простой формуле (2.12) вычисления коэффициента корреляции Кендалла.
Коэффициент корреляции рангов является более строгой оценкой связи, чем показатель корреляции рангов, так как по абсолютному значению |р|>|т| для одних и тех же данных. На примере, приведенном в § 2.02, вычислим коэффициент корреляции рангов по формуле (2.07).
Рекомендуется расположить все значения ряда х от меньшего к большему; сопряженные значения у ранжируем вместе с х, т. е. передвигаем одновременно, они также займут соответствующее им положение.
Всем значениям обоих рядов от большего к меньшему присваиваем порядковые номера (ранги) так, как это описано в § 2.02, п. 1. В примере предыдущего параграфа ряды уже ранжированы (столбцы 3, 4 табл. 2.02) остается лишь расположить ряды по порядку возрастания рангов ряда х (см. табл. 2.03).
Оценку рангов производим слева направо парами сопряженных рангов: в каждой паре один ранг из ряда х и другой, соответствующий ему, из ряда у. Каждая пара рангов сравнивается со всеми стоящими справа от нее. При сравнении могут возникнуть три случая: а) ранг у левой из сравниваемых двух пар меньше соответствующего ранга у из правой пары, в этом случае записываем +1;б) ранг у из левой пары больше соответствующего ему ранга из правой пары, в этом случае записываем — 1; в) ранги сравниваемых пар совпадают в одноименном ряду, в этом случае записываем 0. Начинаем с пары рангов 1 —10, сравнивая ее со всеми 12 парами, стоящими справа. В паре 2—12 ранг //==10 из левой пары меньше ранга //=12, записываем +1; в следующей паре: 3,5—1 левый ранг //=10 больше правого ранга //=1, записываем —1 и т. д. Если ранги совпадают, например при сравнении восьмой пары с девятой: 8,5—6 и 8,5—7 или четвертой пары с одиннадцатой: 3,5—3,5 и 11—3,5, записываем 0. Затем подсчитываются суммы положительных единиц и отрицательных единиц, что даст значение Б. Указанный алгоритм поясняет принцип построения коэффициента и пригоден для программирования и вычисления на ЭВМ.
При ручном счете рекомендуется поступать следующим образом. Для оценки любой пары рангов, начиная с первой, подсчитываем, сколько рангов у из находящихся справа от нее имеют значения большие чем значение ранга у, находящееся в оцениваемой паре, и записываем это число с плюсом. Затем подсчитываем справа же число пар, значение ранга у в которых меньше значения у из оцениваемой пары, и записываем это число рангов со знаком минус. Перед началом оценок каждой пары следует выявить совпадающие ранги (в одноименном ряду) и не принимать в расчет те пары рангов, в которых они встречаются. Первая пара 1 —10 имеет ранг у=10, больше которого справа в ряду у имеются три ранга: 12, 13, 11. Записываем +3. Меньше 10 справа насчитывается девять рангов. Записываем под оцениваемой парой —9. Совпадающих рангов нет. Оцененную пару 1—10 исключаем из дальнейших подсчетов. Во второй паре 2—12 ранг г/= 12, больше которого справа имеется один ранг и меньше его десять рангов, записываем под ним соответственно: +1 и —10. Совпадающих рангов нет.
Оцененную пару и далее каждый раз исключаем из расчетов. В третьей паре 3,5—1 в ряду х имеется ранг 3,5, совпадающий по значению с рангом х=3,5 в четвертой паре, поэтому четвертую пару исключаем из цикла оценки третьей пары. Получаем число рангов, больших 1 (справа), равно +9 и меньших 1 равно 0. Также при сравнении четвертой пары 3,5—3,5 с другими исключаем одиннадцатую пару 11—3,5, так как в ней ранг у=3,5 совпадает с таковым из четвертой пары, и т. д.
Суммируем положительные и отрицательные суммы оценок:
Б= + 30+(—45)=—15.
Находим поправки на объединение рангов в обоих рядах по формуле
Вх (или В^ =0,б2п(п+1),(2.08)
где Вх— поправка на объединение рангов в ряду х\ Ву — поправка на объединение рангов в ряду у; п — число объединенных рангов в каждой группе.
В ряду х объединено по два ранга в двух группах: 3,5; 3,5; и 8,5; 8,5; отсюда по формуле (2.08)
Вх=0,5 [2 (2-1) +2 (2— 1) ] =2.
В ряду у объединено два ранга в одной группе: 3,5; 3,5, отсюда
Ву=0,5-2(2—1) = 1.
Подставляем в формулу (2.07) найденные значения Б, Вх и В/
т = — 15/V[0,5-13 (13— 1) — 2] [0,5-13 (13—1) — 1] = —0,196.
Оцениваем значимость коэффициента корреляции Кендал- : ла:;
t = т//2 (2N-\-5WN GV—1)1 = т/тг > 3,(2.09) 1
где t — критерий достоверности Стьюдента; т — коэффициент корреляции Кендалла; N — объем выборки; тх— ошибка коэффициента корреляции, которую можно также получить из табл. 18П.
Коэффициент корреляции рангов является значимым, если / равно или превышает 3 или табличное значение (см. табл. 4П), при числе степеней свободы v=Ar—2. В нашем примере по формуле (2.09)
t = 0,196/f2(2.13+5)/[9.13(13—1)] = 0,93,
ту же величину получаем при тт=0,2099 (см. табл. 18П).
Вычисленное значение 0,93 значительно меньше табличного— 2,20 (см. табл. 4П) при числе степеней свободы 13—2=11 и доверительном уровне 95%, следовательно, коэффициент корреляции рангов, равный —0,196, является недостоверным. Это подтверждает вывод, сделанный в § 2.02, о несовместимости или непригодности специалистов х и у в качестве экспертов.
Формула (2.09) упрощается после возведения ее в квадрат и очевидных преобразований:
N(N— 1)т2/12(2ЛЧ5)]^1.(2.10)
Если левая часть этого неравенства будет больше единицы, то коэффициент Кендалла значим, а если левая часть неравенства будет меньше единицы, то коэффициент Кендалла будет недостоверным. Для рассмотренного примера при У=13 т=0,196 по формуле (2.10)
13 (13— 1) 0,1962/ [2(2-13+5)] =0,09666 < 1,
следовательно, данная величина коэффициента корреляции Кендалла недостоверна. При v (1 + 1 и x(2)=N—2 значимость коэффициента можно также оценить несколько точнее по критерию Фишера. Принимая Л=95% и v(l) = l, v(2) = 13—2=11, по табл. 8П, /7/=4,84 >0,09666, т. е. подтверждается тот же вывод. По формуле
х2^—1)/(0,4+1+)^10(2.11)
величина коэффициента корреляции Кендалла оценивается наиболее просто. Подставив в нее известные величины, получим
0,1962(13—1)/(0,4+ 1/13) =2,0521,
что меньше 10, следовательно, подтверждается уже сделанный вывод о недостоверности данной величины коэффициента корреляции.
Если при вычислении коэффициента Кендалла в рядах х и у объединения рангов не производится (в том случае, когда не име-
стся совпадающих вариант в любом из этих рядов), то формула (2.07) обращается в более простую, которая большей частью и применяется:
т^=2Б/[^(^—1) ],(2.12)
где обозначения те же, что и в (2.07). Процесс образования суммы рангов Б — см. в этом же параграфе. Без учета поправок на объединение рангов коэффициент Кендалла по формуле (2.12)* равен:
т=—2-15/113(13—1) ]=—0,192,
что несколько отличается от величины, полученной по формуле" (2.07). Значения N(N—1) и 2/[^(^—1)] вычислены в табл. 18П для N от 2 до 31. Оценка достоверности коэффициента, полученного по формуле (2.12), производится также по одной из формул— (2.09), (2.10), (2.11).
04.
КОЭФФИЦИЕНТ КОРРЕЛЯЦИИДЛЯ МАЛЫХ ВЫБОРОК
Коэффициент корреляции вычисляется в тех случаях, когда требуется выразить количественно силу связи между двумя сопряженными признаками, если известно, что зависимость одного из признаков от другого близка к прямолинейной. Если форма связи неизвестна, ее следует предварительно установить по графику (§ 2.01). При взвешенных рядах х (аргумент) и у (функция) применяют метод из § 2.05, а при невзвешенных рядах коэффициент корреляции
(2.13> где х — варианты ряда аргумента; у— варианты ряда функции; N — объем выборки (число пар вариант, или объем одного из рядов х или у).
В конце § 2.05 приведен способ вычисления коэффициента корреляции через отклонения от средней, который также удобен’ при небольших выборках или машинном счете.
Вычислим по формуле (2.13) силу связи между высотой растений и урожайностью у сои (табл. 2.04):
Возводим в квадрат значения х и у (столбцы 3 и 4).
Перемножаем по строкам значения х на у (столбец 5).
Суммируем величины столбцов 1—5 и получаем:
2^ = 839, 2У = 262, 2^ = 55 869, 2 У2 = 5544,
2^ = 16 696.
Таблица 2.04. Вычисление коэффициента корреляции для малых выборок
Высота растений
X, см
Урожай у, ц/га
Xй
У4
ху
62
19
3844
361
1178
63
20
3969
400
1260
73
12
5329
144
876
82
17
6724
289
1394
66
16
4356
256
1056
44
18
1936
324
792
43
26
1849
676
1118
54
25
2916
625
1350
63
19
3969
361
1197
74
25
5476
625
1850
74
27
5476
729
1998
64
23
4096
529
1472
77
15
5929
225
1155
839
262
55 869
5544
16 696
Возводим в квадрат суммы столбцов 1 и 2:
(2 х)2 = 8392 = 703 921, (2 У^ = 2622 = 68 644.
Перемножаем итог столбца х на итог столбца у.
2х2</ = 839.262 = 219 818.
Подставляем полученные значения в формулу (2.13):
г=[ 16 696-219 818/13]//(55 869-703 921 /13)(5544—68 644/13)= = —0,316.
В зависимости от особенностей исходных данных могут применяться различные способы вычисления коэффициента корреляции для малых выборок. Если известны средние арифметические обоих рядов Мх, Му, то формулу (2.13) можно преобразовать:
r=[2#x—MyS^/V^ (2 я2—м* 2 я) (2у2 —му2у\
(2.13а)
где обозначения те же. Несколько сокращается объем вычислений при пользовании формулой (2.18), где также участвуют величины средних арифметических. При известных коэффициенте регрессии и средних квадратических отклонениях обоих рядов
коэффициент корреляции можно получить из формул (3.10) и (3.11), преобразуя их соответственно:
rxy= ^а^Оу, rxy= (a^cJ/M (см. § 3.01).
Приблизительные, графические способы определения силы связи редко дают удовлетворительные результаты, поэтому здесь не рассматриваются.
Некоторое сокращение вычислительной работы достигается иногда путем преобразования исходных данных, в которых можно перенести запятую на любое одинаковое в каждом ряду число знаков вправо или влево или вычесть одно и то же число; от этого величина коэффициента корреляции не изменится. Для примера определим силу связи между высотой растений х (в см) и весом 1000 семян у (в г) у сои по данным из первых двух столбцов табл. 2.15. Найдем средние арифметические этих рядов: Л1Х=839/13=64,5385, Му=2868/13=220,6154, округлим эти величины: Лх=64, Лу=221, вычтем последние соответственно из всех вариант рядов х и у и произведем следующие действия:
ах = х — Лх
^|/ У Ад
“х
аха8
—2
—4
4
16
8
—1
—9
1
81
9
9
—3
81
9
—27
18
21
324
441
378
2
—22
4
484
—44
—20
—21
400
441
420
—21
14
441
196
—294
—10
14
100
196
—140
—1
4
1
16
—4
10
13
100
169
130
10
2
100
4
20
0
—3
0
9
0
13
—11
169
121
—143
7
—5
1725
2183
313
После вычислений первых двух столбцов сделаем проверку:
^ax = ^x — NAx = 839—13-64 = 7, ^ау = ^у — NAy = = 2868—13-221 =—5. Найденные суммы подставляем в формулу
Гхд == (2 ^х^у ITly^iQx^ ( Т (2®*/^х2 ^xV2 du Ши 2 Qu\ •
(2.136)
где тх = 2 «х^ = 7/13 = 0,53846; ту = 2 ay!N = —5/13 =
= —0,38462; г хд = (313 4-0,38462-7)/
/ У (1725—0,53846 - 7) (2183—0,38462 • 5) = 315,69/ /3 754 140.
Под знаком радикала, как это часто бывает, получилось большое число, которое в подобных случаях можно уменьшить^ представив его в виде произведения с 10 в четной степени: 3754140=3,754-106; У 106= 106/2= 103, следовательно (после сокращения на 103=1000): гжу=0,31569/уЗ,754= + 0,163. Напомним^ что извлечение квадратного корня равносильно делению на два показателя степени подкоренного выражения.
В некоторых случаях, чтобы не отвлекать внимания на знаки чисел, бывает целесообразно вычесть из всех чисел каждого ряда его минимальную варианту, например в рассматриваемом примере 43 в ряду хи 199 в ряду у. Далее надо вычислить новые средние арифметические для редуцированных данных, получить необходимые суммы, затем воспользоваться формулой (2.13а)’.
Оценка достоверности коэффициента корреляции производится путем преобразования его при помощи табл. 19П, из которой берем 2=0,33 для г=0,32. Ошибка преобразованного коэффициента корреляции
т.-МдИ^(2.14)
где N — объем выборки.
Для рассматриваемого примера mz= 1/У13—3 = 0,316, откуда критерий достоверности Стьюдента /=г//п2=0,33/0,32= 1,03. Вычисленное значение критерия достоверности меньше табличного (см. табл. 4П), которое на доверительном уровне 0,95 равно 2,2. Число степеней свободы при оценке преобразованного коэффициента корреляции принимается v=N—2. В данном случае коэффициент корреляции оказался недостоверным, что могло произойти по двум причинам: из-за малого объема выборки или ввиду отсутствия исследуемой связи в генеральной совокупности данного объекта. Заметим также, что некоторое снижение величины г может произойти из-за чрезмерно большого округления значений х и у. В табл. 20П приведены минимальные значения коэффициента корреляции, существенные при данном числе вариант. По этой таблице для суждения о достоверности г=0,316~ -0,32 требуется не менее 38 парных вариант, поэтому следует повторить вычисление г на большей выборке, после чего при недостоверном значении коэффициента корреляции можно делать вывод об отсутствии достоверной прямолинейной связи между изучаемыми признаками.
Дополнение коэффициента корреляции до единицы, т. е. значение выражения 1 — |г|, называется коэффициентом алиенации и позволяет судить о степени независимости изучаемых факторов. В рассмотренном примере коэффициент алиенации равен: 1 —10,32 =0,68.
§ 2.05.КОЭФФИЦИЕНТ КОРРЕЛЯЦИИДЛЯ БОЛЬШИХ ВЫБОРОК
Определение силы связи между признаками при взвешенных (см. § 1.01) рядах данных производится путем вычисления коэффициента корреляции с построением корреляционной решетки. Перед вычислением любого показателя связи рекомендуется предварительно построить график данной взаимосвязи для того, чтобы можно было обоснованно выбрать подходящий показатель силы связи в зависимости от степени криволинейности эмпирической линии регрессии. Если эмпирическая линия регрессии значительно отклоняется от прямой линии, следует применить соответствующий показатель криволинейной связи (см. § 2.08—2.12).
Коэффициент корреляции для больших групп вычисляется различными способами, здесь рекомендуется для применения формула
fхуахау — (5 axfx 2 ayfу)/^1 гх
г =— ,(2.15)
N°x°y
где N — объем выборки; fxy— совместные частоты рядов х и у; Дх, ау— отклонения вариант рядов х и у от условных средних Ах и ^/> fx, L— частоты рядов х. у; аж, оу— сигмы рядов х, у.
Отклонения вариант равны: ах=(х—Ах)/сх, ау=(у—Ау)/сУ1 где х. у — варианты обоих рядов; Ах, Ау — центральные варианты (условные средние); сХ1 су — классовые интервалы в рядах х и у. Вычислим сигмы обоих рядов:
= VA^tx-^a^^lN^N,(2.16)
°У = У^ [2 a»fv(2 °Уfy)]/^>
где обозначения те же, что и в формуле (2.15).
Определим коэффициент корреляции для проверки предположения о существовании зависимости веса 1000 зерен от продолжительности вегетационного периода у сортов ячменя (табл. 2.05). Действия производятся в следующем порядке.
Массивы данных по обоим признакам разбиваются на классы (см. § 1.01) и производится разноска вариант совместно обоих рядов по клеткам корреляционной таблицы (см. § 2.01). Число классов в рядах х и у может быть различным. Аргумент х располагается в горизонтальном ряду таблицы слева направо. Значения функции у возрастают снизу вверх (они могут и, напротив, возрастать сверху вниз; от этого результат не изменится, но будет труднее представить форму зависимости по расположению частот в таблице).
Находят точки эмпирической линии регрессии (см. § 2.01) для выяснения формы и степени криволинейности данной связи.
Рис. 15. Формы корреляционных связей
а — обратная (отрицательная) линейная; б — прямая (положительная) линейная; в, г» д — отсутствие связи; е — кольцевая связь
Если эмпирическая линия регрессии близка к прямой линии и не является двускатной (см. рис. 15), то вычисляют коэффициент корреляции, в противном случае — показатель корреляции для криволинейных связей (§ 2.06—2.12).
В корреляционной таблице произвольно выбирается условный центр, обычно это клетка, содержащая наибольшую частоту (в данном случае клетка с частотой 20). В ряду х против нее будет находиться условная средняя Лх=75, а в ряду у — средняя Л,=40.
Вычислим условные отклонения ах: (60—75)/5=—3, (65—75)/5=—2, (70—75)/5=—1, (75—75)/5=0, (80—75)/5= = + 1 и т. д., записывая их значения в горизонтальной строке.
Таким же образом от условной средней Лу=40 вычисляются отклонения аУ) которые записываются в вертикальной графе табл. 2.05.
Условные отклонения перемножаем на соответствующие им частоты: axfx=—3-2=—6, —2*29=—58, —1-34=—34 и т. д. «^= + 3-14=42, + 2-38=76 и т. д.
Квадраты условных отклонений перемножаем на соответствующие им частоты: axfx=(—3)2-2=18, (—2)2-29= 116, (—1)2Х X 34=34 и т. д.
Также для ряда у. ^Д^З2-14=126, 22-38= 152, 12-71=71, О2-58=0, (—1)2-26=26, (—2)2-6=24, (—3)М=9.
Находим произведения условных отклонений между собой и на имеющуюся совместную для них частоту. Начнем перемножать эти числа по столбцам слева направо; первый столбец:
Таблица 2.05. К вычислению коэффициента корреляции между вегетационным периодом х (в днях) и весом 1000 зерен ячменя у (в г)
и
57,5-
62,4
62,5-67,4
67,5—72,4
72,5-77,4
77,5—82,4
82,5—87,4
87,5—92,5
°в
60
65
70
75 =■ Лд,
80
85
90
55—6158
-6
1
—6 2
0
3
21
7
6
1
+3
14
42
126
49—54,9 52
—20
—16
0
22
8
12
+2
38
76
152
5
8
10
11
2
2
43—48,9 46
-14
—10
0
33
6
3
+1
71
71
71
7
10
17
33
3
1
37—42,9 40 = ^
0
0
0
0
0
0
0
0
58
0
0
1
8
9
20
18
1
1
31—36,9 34
3
1
8
4
5
5
0
10
—5
5
—2
1
—1
26
—26
26
25—30,9 28
12
3
0
3
—2
6
—12
24
19—24,9 22
6
—3
1
—3
9
1
ах
—3
—2
—1
0
• +1
+2
+3
2=148
2=408
fx
2
29
34
63
74
8
4
TV = 214
°xfx
—6
—58
—34
0
74
16
12
2 = 4
с? f XI X
18
116
34
0
74
32
36
2=310
fхМ
3
—14
—27
0
71
18
15
2 = 66
axayfxy=(—3) *0*1=0, (—3)*1*(—1)=3, второй столбец: (—2) X X3*l =—6, (—2) *2*5=—20, (—2)-1*7=—14 и т. д., записывая полученные произведения в правом верхнем углу соответствующих клеток таблицы.
Суммируем совместные частоты по столбцам и записываем в горизонтальной строке снизу таблицы: 3, —14, —27, 0, 71, 18, 15.
Получаем суммы по строкам (ряд х) и по столбцам (ряд у):
2Л = М = 214, 2^=4, 2^ = ^ = 214, 2^ = 310,
fxyQifiy = 66, 2 »yfy = 148, 2 «уЬ = 408.
Для проверки вычисление этих сумм следует повторить.
И. Находим сигмы обоих рядов по формуле (2.16):
ах = V(310—42/214)/214 = 1,203, оу = V(408—1482/214)/214= = 1,195.
Подставляя найденные суммы и величины сигм в формулу (2.15), получаем г=(66—4* 148/214)/(214• 1,203* 1,195)=0,2055.
Ошибку коэффициента корреляции вычисляют по двум формулам в зависимости от численности совокупности. Для небольших групп данных (N<100) применяют преобразование через z и формулу (2.14), а для больших групп (Л^> 100) ошибка
m^^-r^VN,(2.17)
где тт— ошибка коэффициента корреляции; г — коэффициент корреляции; N — объем выборки (Л’>100).
Для рассмотренного примера по формуле (2.17) mr= = (1—0,20 552)/|214=0,065. Достоверность найденного коэффициента корреляции определяется по критерию Стьюдента: /=г/тг=0,2055/0,065=3,16. Число степеней свободы при определении значимости коэффициента корреляции равно x=N—2= =214—2=212. По табл. 4П при Р/=0,95 /=2,0. Вычисленное значение, равное 3,16, больше табличного, следовательно, между продолжительностью вегетационного периода и весом 1000 семян, судя по выборке из 214 сортов ячменя, имеется положительная, небольшая, но достоверная зависимость: чем продолжительнее вегетационный период, тем больше вес 1000 зерен. Оценку достоверности коэффициента корреляции можно сделать также по табл. 20П (см. § 2.04).
При расчете коэффициента корреляции на ЭВМ как для малых, так и для больших рядов (без группирования в классы) удобна формула
Г = [2 (X-М,) (у - Му)] //2 (^ - ад 2 (У - ад» (2.18)
где г — коэффициент корреляции; (х—М^—отклонения значений ряда аргумента от его средней Мх\ {у—М^ — отклонения значений ряда функции от ее средней Му.
Пример расчета по этой формуле приведен в § 3.01.
§ 2.06.
ОПРЕДЕЛЕНИЕ ЛИНЕЙНОЙ И НЕЛИНЕЙНОЙ СВЯЗЕЙМЕЖДУ ВЗВЕШЕННЫМИ РЯДАМИ
Данный метод может быть применен главным образом тогда, когда при наличии большой выборки данных требуется количественно определить не только силу связи между двумя изучаемыми признаками, но и степень ее криволинейности. Такие случаи могут встретиться, если по эмпирической линии регрессии нельзя определенно судить, насколько изучаемая связь отклоняется от прямолинейной (см., например, рис. 14), или если требуется, помимо количественного выражения силы связи, получить также и представление о тенденции (знаке) данной зависимости. Квадрат коэффициента корреляции, который вычисляется и оценивается здесь, иногда называют коэффициентом детерминации. Рассматриваемый метод включает также и вычисление точек эмпирической линии регрессии ух, которыми можно воспользоваться для построения графика изучаемой взаимосвязи.
Вычисление коэффициента корреляции и прямого корреляционного отношения по совмещенному алгоритму ведется по формулам:
22 ^а^ —" (2 пхах 2 nyay}/N
г ” -7================’(2-19)
V [S "X -(2л а)2/^] [2 п^ - (2”а)8'N ]
где г — коэффициент корреляции; ах— условные отклонения вариант ряда х от начала ряда; f — частоты корреляционной решетки; ау— условные отклонения вариант ряда у от начала ряда; пх — суммы частот по столбцам корреляционной решетки; лу — суммы частот по строкам корреляционной решетки; N — объем выборки; т]у — прямое корреляционное отношение.
Последовательность вычислений следующая.
Составляем корреляционную решетку таким образом, чтобы варианты ряда аргумента х располагались в верхней строке решетки слева направо, а варианты ряда функции у располагались в вертикальном столбце снизу вверх (табл. 2.06).
Суммируем частоты по столбцам пх и по строкам пу.
Записываем условные отклонения ах и ау от начала рядов х и у в виде натурального ряда чисел, начиная с 0, соответственно направлению возрастания вариант в обоих рядах.
Таблица 2.06. Полный анализ корреляционной зависимости веса семян у от продолжительности вегетационного периода х у ячменя
У
X
ПУ
аи
60
65
70
75
80
85
90
58
1
2
3
7
1
14
6
52
5
8
10
И
2
2
38
5
46
7
10
17
33
3
1
71
4
40
1
8
9
20
18
1
1
58
3
34
1
4
5
10
5
1
26
2
28
3
3
6
1
22
1
1
о'
пх
2
29
34
64
74
8
4
М=214
790
^^у
5
94
129
219
293
33
17
790
3222
(^fayj ‘пх
12,50 304,69 489,44 761,29
1160,12 :
136,13
72,25 2936,42
—
°х
0
1
2
3
4
5
6
646
2260
2,50
3,24
3,79
3,48
3,96
4,13
4,25
—
—
Ух
37,00
41,44
44,74
42,88
45,76
46,78
47,50
—
—
ХЗ+1-2; последняя суммаХЗ+1-2; последняя суммаПолучаем по столбцам суммы произведений частот на соответствующие им условные отклонения а^. первая сумма 5=1 X
ХЗ+1-2; последняя сумма
ХЗ+1-2; последняя сумма
17=2-5+ 1 -44~1 -3. В итоге этой
строки 2/^ = 790.
^fa^iHx,^fa^iHx,Значения ^fay возводим в квадрат и делим каждое из них
^fa^iHx,
^fa^iHx,
получаем:получаем:на соответствующие им суммы частот:
получаем:
получаем:
12,50; 304,69; 489,44 и т. д., в итоге этой строки
2 «I = 2936,42.
Для получения точек эмпирической линии регрессии отдельные значения ^fay. 5,94; 129 и т. д.— надо разделить на соответствующие им пх: 2, 29, 34 и т. д., получим ^f^inx*: 2,50; 3,24; 3,79 и т. д. Затем каждое из полученных значений умножается на величину классового интервала г=6 и к каждому произведению прибавляется минимальная варианта ряда у (она в табл. 2.06 равна 22): 2,50-6+22=37,00; 3,24-6+22=41,44; 3,79-6+22=44,74 и т. д. Полученные значения ух представляют собой точки эмпирической линии регрессии.
Перемножаем все значения п на соответствующие условные отклонения ах и складываем произведения: 2-0 + 29-1 + + 34-2+63-3+.. . + 4-6=646 =2«Л.
Получаем сумму 2nxOx=2260, перемножая значения их на квадраты условных отклонений: 2-02 + 29-12+34-22+63-32... и т. д.
Подобно действиям в п. 7 и 8, получаем суммы:
2^ = 790 = 1-0+6-1+26-2... и т. д.
2^ = 3222 = 1-02+6-12+26-22+58-32 и т. д.
Получаем сумму 2 (^2^) = 2448=0-5 + 1 -94+2-129+ +3-219+4-293+5-33+6-17.
Находим показатели связи по формулам (2.19) и (2.20):
г = (2448—646 - 790/214)/ / (2260—6462/214) (3222—7902/214) = = +0,205, г2 = 0,0422,
^ = (2936,42 —7902/214)/(3222—7902/214) = 0,0656, Л^=О,256.
Достоверность коэффициента детерминации (г2— квадрата коэффициента корреляции) в зависимости от объема выборки N определяется по критерию Фишера F:
F-r^N—2)/(1— г2),(2.21)
т. е. +=0,0422 (214—2) / (1 —0,0422) =9,34.
Числа степеней свободы при оценке коэффициента детерминации принимаются v(l) = l, a v(2)=A7—2=214—2=212; отсюда значение критерия Фишера по табл. 8П при +4=95% равно 3,89. Вычисленное по формуле (2.21) значение критерия больше табличного, поэтому делаем вывод о существовании достоверной прямолинейной зависимости веса 1000 зерен от продолжительности вегетационного периода у ячменя.
Достоверность квадрата корреляционного отношения т]у2 в зависимости от N—объема выборки и кх— числа классов в ряду х определяется также по критерию Фишера:
F = [^ (N - Ш1(1 - Яр (^ - 1)1,(2.22)
т. е. для рассматриваемого примера по формуле (2.22):
F = [0,0656 (214—7)]/[( 1 —0,0656) (7—1)] = 2,42.
Числа степеней свободы при определении достоверности т)/ по табл. 8П принимаются равными числу классов ряда х без
единицы: v(l)=£x—1=7—1 = 6 и объему выборки минус число классов ряда х: v(2)=A'—fex=214—7=207. Отсюда при Р1=95% находим F' табличное, равное 2,14. Вычисленное по формуле (2.22) значение критерия составляет 2,42, т. е. больше табличного, поэтому делаем вывод о достоверности также и криволинейной зависимости веса 1000 зерен от продолжительности вегетационного периода у ячменя.
§ 2.07.
КРИТЕРИИ КРИВОЛИНЕЙНОСТИ
В биологических исследованиях нередко возникает вопрос, к какому типу отнести изучаемую связь: к прямолинейной или криволинейной. Оценка степени криволинейности корреляционной зависимости производится при помощи критериев криволинейности, из которых здесь рассмотрено пять в порядке возрастания трудоемкости их вычисления. В формулах (2.23) — (2.27) приняты следующие обозначения: г — коэффициент корреляции; цу— корреляционное отношение; N — объем выборки.
^-г2>0,1.(2.23)
Связь считается криволинейной, если разность квадратов т]у и г больше 0,1. Для рассмотренного в предыдущем параграфе примера: 0,0656—0,0422=0,02<0,1, поэтому связь между продолжительностью вегетационного периода и весом 1000 зерен практически можно считать прямолинейной. Кроме того, видно, что прямолинейная связь сравнительно слаба, поскольку вычисление корреляционного отношения лишь немного повысило ее оценку.
' б)^2-г2) >11,37,(2.24)
где 11,37 — критерий криволинейности Блэкмана.
Исходя из данных предыдущего примера (а) по формуле Блэкмана: 214(0,0656—0,0422) — 5,03. Полученная разница (5.03) меньше 11,37, поэтому считаем, что рассматриваемая связь может считаться близкой к прямолинейной.
F4(Vf2)^~W^(2.25)
где F — критерий Фишера; kx— число классов в ряду х.
Для рассматриваемого здесь примера по формуле (2.25):
Р=[ (0,0656—0,0422) (214—7) ]/[ (1—0,0656) (7—2) ] = 1,04.
Числа степеней свободы при определении значимости F равны числу классов ряда х без двух: v(l)=£x—2=7—2=5, и объему выборки минус число классов ряда х: v(2)=/V—^=214—7= =207. По табл. 8П при /^=95% на пересечении строк v(l)=5 и v(2)=207 находим Р/=2,26. Вычисленная величина критерия
меньше табличной: 1,04<2,26, поэтому делаем вывод о несущественном отличии рассматриваемой связи от прямолинейной.
Оценим степень криволинейности связи при помощи критерия Стьюдента t
/ = 0,5 /A^T7^2TT72)Z^4^^ > 3,(2.26)
или
/2 = 0,25^[(п2 — г2)"1 — 2 + ^ + г2] ^9.(2.26а)
Для примера, рассматриваемого в данном параграфе, по формуле (2.26)
/ = 0,5 /214/11/(0,0656 — 0,0422) — 2+0,0656+0,0422] = 1,15.
Вычисленное значение меньше 3 и меньше табличного (см. табл. 4П) при Pi=95%, которое равно 1,960; поэтому делаем вывод, что рассматриваемая связь несущественно отклоняется от прямолинейной.
Оценка степени криволинейности по критерию В. И. Романовского в зависимости от к— числа групп, на которое разбивается ряд при вычислении корреляционного отношения:
N — k — l—г2 _ ,
(2.27)
Для рассматриваемого примера по критерию Романовского также подтверждается уже сделанный вывод:
214 — 7 — 20,2562 — 0,20521
7-2'1 -0.256'ю 3
/2(214 — 4)/[(7 — 2).(214 — 7 — 4)]
Из пяти рассмотренных критериев криволинейности первые два просты по вычислению, но менее точны, чем три последних. Заметим, что для решения вопроса о степени криволинейности связи во многих случаях можно удовлетвориться визуальным анализом графика связи по эмпирическим данным.
§ 2.08.
КОРРЕЛЯЦИОННЫЕ ОТНОШЕНИЯДЛЯ НЕВЗВЕШЕННЫХ РЯДОВ
Корреляционные отношения дисперсий, прямое и обратное, служат для оценки силы связи между двумя признаками, когда последние могут находиться не только в прямолинейной, но и в криволинейной зависимости между собой. При более детальном исследовании вместо корреляционных отношений лучше применять методы дисперсионного анализа, с которыми они тесно связаны.
а. Под прямым корреляционным отношением понимается такой показатель, который измеряет силу криволинейной или прямолинейной зависимости признака у (функция) от признака х (аргумент), его расчет производится по формуле
(2.28)(2.28)Чу =У п2 ^ - М^/^ ^У - MMY ,
(2.28)
(2.28)
где ух — значения (точки) эмпирической линии регрессии; М^— средняя арифметическая ряда у; у — варианты ряда; п— число вариант в частной группе.
Вычисление прямого корреляционного отношения покажем на примере анализа взаимосвязи между числом вегетативных и фертильных побегов у костра безостого (табл. 2.07). Цель ана- - лиза — выяснить направление взаимосвязи между побегами, т. е. какая группа побегов больше влияет на численность другой.
Таблица 2.07. К вычислению прямого корреляционного отношения
Форма костра безостого
Число побегов
Суммы у (по 3 растения)
Ух
У х—^у
^х-М^
вегетативных X
фертильных У
1
132
164
164
184
533
177,7
14,85
220,5225
184
185
2
76
180
136
183
568
189,3
26,45
699,6025
96
205
3
257
123
78
92
330
110,0
—52,85
2793,1225
143
115
4
270
114
146
250
564
188,0
25,15
632,5225
121
200
*
5
206
150
197
142
475
158,3
—4,55
20,7025
227
183
6
53
80
92
124
364
121,3
—41,55
1726,4025
161
160
7
147
175
102
209
604
201,3
38,45
1478,4025
106
220
8
170
152
107
179
509
169,7
6,85
46,9225
155
178
9
20
126
27
146
450
150,0
—12,85
165,1225
36
178
^=27
3609
4397
4397
—0,05
7783,3225
Предположим, что число вегетативных побегов обусловливает число фертильных, поэтому примем число первых за аргумент х, а число вторых — за функцию у и соответственно вычислим прямое корреляционное отношение.
Точки эмпирической линии регрессии ух по невзвешенному ряду получаем путем усреднения по группам. В данном случае эти группы образовались естественно: по три растения каждого сорта (п=3); в других случаях группы составляют искусственно— не менее двух вариант в каждой. Суммы: 164+184+185= =533, 180+183 + 205=568 и т. д. (столбец 4)—делим на число вариант в группе (здесь оно везде равно 3) и получаем точки эмпирической линии регрессии ух: 177,7; 189,3; 110,0 и т. д. (столбец 5).
Средняя арифметическая ряда у вычисляется по формуле (1.08): Му = (2 y)/N = 4397/27= 162,85.
Вычисляем квадраты отклонений точек эмпирической линии регрессии от средней арифметической (столбцы 6 и 7): ^АУх — — MUY = 7783,3225.
Сумму квадратов отклонений вариант получаем возведением в квадрат разницы каждой варианты у со средней арифметической и одновременным суммированием квадратов:2 У—^)2= = 41 087.
По формуле (2.28) т]^ = у3-7783,3225/41 087 = 0,75.
Ошибка квадрата корреляционного отношения, в том числе и обратного:
^=(1-ц2Ы^,(2.29)
где т] — корреляционное отношение; х<=к—1; v2=^—к— числа степеней свободы; к — число групп (классов), на которое разделен ряд; N — объем выборки.
V1=9—1=8,v2=27—9=18 mr,*=(l—0,752) 8/18=0,19.
Оценим достоверность квадрата корреляционного отношения:
F=^lm^P\(2.30)
где F— вычисленное значение критерия Фишера; F'— его табличное значение; ц — корреляционное отношение; т^— ошибка квадрата корреляционного отношения;
F=0,7570,19=2,89.
По табл. 8П при Р/=0,95 и v(l)=Vi = 8, v(2)=v2=18, 7?/ = 2,51, следовательно, на данном доверительном уровне число вегетативных побегов у костра безостого достоверно влияет на число фертильных побегов.
Оценку достоверности корреляционных отношений, прямого и обратного удобно, особенно при отсутствии табл. 8П и при сче-
те на ЭВМ, делать по критериям:
(2.31)(2.32)(2.31)(2.32)(у« —2)ца/[(1 — ri5*) ViJ—1 ^з
(2.31)
(2.32)
(2.31)
(2.32)
K2(v1 + v2-2)/[v1 (v3 — 4)1’
ИЛИ
++' —-И v1(v2-4)/[2(v1 + v2-2)]5e9,
где vt = A—1; v2 = N—A; к — число групп, на которое был разделен ряд при вычислении корреляционного отношения; N — объем выборки; т) — корреляционное отношение.
Как видим из формулы, число степеней свободы v2 должно быть не меньше 5. При величине критерия, большей или равной 3 или 9 корреляционное отношение будет достоверным. Уровень достоверности при таком значении критерия примерно Р/=0,99. Для менее ответственных выводов можно принимать за его критическое значение соответственно 2,5, или 7,5. Вычислим критерий достоверности по формуле (2.31) для прямого корреляционного отношения (v, = 9—1 =8, v2=27—9= 18):
" (18 —2)0,752 (1 —0,752)8" (18 —2)0,752 (1 —0,752)8= 2,40.= 2,40.а /1/2(8+18-2)]/ '8(18—4)
" (18 —2)0,752 (1 —0,752)8
" (18 —2)0,752 (1 —0,752)8
= 2,40.
= 2,40.
Критерий здесь меньше 3, следовательно, на уровне достоверности, большем 0,95%, данное корреляционное отношение недостоверно.
б. В тех случаях, когда после вычисления прямого корреляционного отношения остается неуверенность в том, что аргумент в парной взаимосвязи был выбран верно, необходимо вычислить обратное корреляционное отношение, при помощи которого можно оценить обратную связь между признаками, т. е. силу влияния у на х, и тем самым получить более полное представление о данной связи. Схема расчета остается точно такой же, однако все вычисления проводятся с вариантами из ряда х:
Пх = У п^{ху - Мх)2/[2 (X - Мх)2], (2.33) где т)ж —обратное корреляционное отношение; ху— значения (точки) эмпирической линии регрессии; Мх— средняя арифметическая; п— число вариант в частной группе.
Суммируем по каждой форме костра варианты х, которые приведены в табл. 2.07, столбец 2, и записываем их в столбец 1 табл. 2.08: 480, 308, 478 и т. д.
Каждую групповую сумму делим на число ее составляющих, т. е. на п = 3, и получаем групповые средние, или точки эмпирической линии регрессии ху 160,0; 102,7; 159,3; и т. д.
Средняя арифметическая ряда аргумента по формуле (1.08)
Мх= ^x^N = 3609/27 = 133,67.
Таблица 2.08. К вычислению обратного корреляционного отношения для невзвешенных рядов
Групповые суммы X
ХУ
ху ^х
^у-МхУ
480
160,0
26,33
693,2689
308
102,7
—30,97
959,1409
478
159,3
25,63
656,8969
537
179,0
45,33
2 054,8089
630
210,0
76,33
5 826,2689
306
102,0
—31,67
1 002,9889
355
118,3
—15,37
236,2369
432
144,0
10,33
106,7089
83
27,7
—105,97
И 229,6409
3609
—
—0,03
22 765,9601
Сумма квадратов отклонений значений эмпирической линии регрессии х, от средней арифметической (столбцы 3, 4 табл. 2.08) 2 fe~^)2 = 22 765,9601.
Сумма квадратов отклонений вариант от средней арифметической (получена на счетной машине) 2(х— Мх)2= 110 720.
Обратное корреляционное отношение по формуле (2.33)
Чх= /3.22 765,9601/110 720 = 0,79.
Оценка достоверности по критерию (2.31)
= 3,55>3= 3,55>3' (18 —2)0,792 _ Я /т/ 2(8+18 — 2) (1 —0,792)8 J/ V 8(18 — 4)
= 3,55>3
= 3,55>3
и по критерию Фишера (2.29), (2.30): vf = 9—1=8, v2 = 27—9 = = 18, ^=(1—0,792)8/18 = 0,17, F= 0,7970,17 = 3,67, F^^X (при Р/ = 0,95) (табл.8П).
Следовательно, обратное корреляционное отношение более достоверно и по величине оказалось больше чем прямое. Поэтому делаем вывод о том, что за ряд аргумента следует принять не число вегетативных побегов, а число фертильных, т. е. число фертильных побегов более влияет на число вегетативных, чем наоборот.
При пользовании методами из § 2.08 и 2.09 следует иметь в виду для сравнимости результатов, что на величину корреляционного отношения влияет способ разбивки рядов на группы (число групп и число вариант, составляющих группы).
§ 2.09.КОРРЕЛЯЦИОННЫЕ ОТНОШЕНИЯДЛЯ ВЗВЕШЕННЫХ РЯДОВ
а. Прямое корреляционное отношение по данному методу вычисляется в тех случаях, когда исходные данные сгруппированы во взвешенные ряды. Перед началом работы по вычислению отношения требуется установить, что является аргументом х и функцией у в изучаемой зависимости. Прямое корреляционное отношение для взвешенных рядов вычисляется по формуле
Ъ = V[S- М№(2.34)
где Mv — средняя арифметическая ряда у.
Остальные обозначения по их смыслу и расположению соответствуют таковым в табл. 2.01, по данным которой оценим зависимость веса 1000 семян от периода созревания у ячменя. Вычисления производятся в следующем порядке.
Составляем корреляционную решетку и рассчитываем эмпирическую линию регрессии уХ) точки которой уже вычислены в табл. 2.01.
Выполнив действия, приведенные в столбце 3 табл. 2.09, получаем среднюю арифметическую ряда у: А1У=9448/214 = 44,15 г.
Сумма квадратов отклонений, умноженных на частоты для ряда у: ^(^ — My^fy= И 003 (столбец 6).
Сумма квадратов отклонений, умноженных на частоты, для эмпирической линии регрессии: 2(^—Myyfx = 736,90. Обе последние суммы и слагаемые для них получены на ЭВМ, округление на которой ведется непрерывно в процессе счета до 5 значащих цифр.
По формуле (2.34) Лу =/736,90/11 003 = 0,26.
Ошибка квадрата корреляционного отношения определяется по формуле (2.29):
m^=(l—0,262) 6/207 = 0,027, V1 = 7—1 = 6, v2 = 214—7 = 207.
Оценка достоверности по критерию Фишера по формуле (2.30) : ^=0,2670,027=2,50, ^=2,14 (табл. 8П).
Критерий достоверности, вычисленный по формуле (2.31) равен
Г(207 — 2)0,262 _ Я /, /2 (6 + 207^2)" = 2 51
. (1 — 0,262) 6 \l V 6(207 — 4)
Оба критерия позволяют заключить, что продолжительность вегетационного периода у ячменя лишь на 95% доверительном уровне достоверно влияет на вес 1000 семян, при более строгой оценке эта связь недостоверна.
Обратное корреляционное отношение для больших классифицированных выборок вычисляется в тех же случаях, в которых
Таблица 2.09. К вычислению прямого корреляционного отношения для взвешенных рядов
У
Vfy
Ух
f X
(У-МуУ!у
^Ух му^х
1
2
3
4
5
6
7
58
14
812
37,0
2
2685,5
102,25
52
38
1976
41,4
29
2341,7
219,31
46
71
3266
44,8
34
243,00
14,365
40
58
2320
42,9
63
998,91
98,438
34
26
884
45,8
74
2678,6
201,47
28
6
168
46,8
8
1564.9
56,180
22
1
22
47,5
4
490,62
44,890
214
9448
—
214
11 003
736.90
Таблица 2.10.
К вычислению обратного корреляционного отношения
для
взвешенных рядов
X
fx
xfx
ху
^У
^-MXWX
(Ху—Л? t)2fу
1
2
3
4
3
6
7
60
2
120
76,8
14
455,66
40,746
65
29
1885
75,4
38
2954,8
3,5582
70
34
2380
76,3
71
882,26
103,27
75
63
4725
74,6
58
0,55667
14,154
80
74
5920
73,3
26
1781,1
83,679
85
8
680
70,0
6
785,03
155,69
90
4
360
65,0
1
888,76
101,89
214
16 070
—
214
7748,2
502,99
оно применяется для невзвешенных рядов (см. § 2.08). Используя тот же пример, рассчитаем обратное корреляционное отношение т^, оценивающее зависимость продолжительности вегетационного периода от веса 1000 семян у ячменя (см. табл. 2.01):
Ъ = у [2 <ХУ - Мху Ц/| 2 (х - МхуЦ ,(2.35)
где ху — точки эмпирической линии регрессии; Мх — средняя арифметическая ряда х; fx, fy — частоты рядов.
Порядок вычислений тот же, что и в пункте а, но с другим рядом х.
Получаем значения эмпирической линии регрессии ху (столбец 4 табл. 2.10).
Средняя арифметическая ряда х: Мх= 16070/214=75,094 (столбцы 1, 2, 3 табл. 2.10).
Суммы квадратов отклонений вариант ряда х (столбец 6) и значений эмпирической линии регрессии (столбец 7), помноженных на соответствующие частоты, равны^С*—/Wx)2/x=7748,2, 2 (Ху - МХП = 502,99.
По формуле (2.35) т]х =^Л502,99/7748,2 = 0,25.
Ошибку отношения и критерий Фишера находим по формулам (2.29), (2.30): т^ (1—0,252) 6/207 = 0,027, V1 = 6, v2 = 207, F = 0,2570,027 = 2,30>F = 2,14 (см. табл. 8П).
Критерий достоверности по формуле (2.31):
(207 —2) 0,252 Л / 1 / 2 (6+ 207-2)2 17 < 3
. (1 — 0,252) 6 У V 6 (207 — 4)’
Оба критерия позволяют заключить, что обратная зависимость — продолжительность вегетационного периода от веса 1000 семян у ячменя является еще более слабой, чем прямая, поэтому считаем, что аргумент при расчете прямого корреляционного отношения (п. а) был назначен верно и что вес семян у ячменя больше зависит oi продолжительности их созревания, чем наоборот.
ПОЛИХОРИЧЕСКИЙ КОЭФФИЦИЕНТСОПРЯЖЕННОСТИ ЧУПРОВА
При измерении силы корреляционной связи между двумя признаками, каждый из которых варьирует по качественным показателям, вычисляется полихорический коэффициент сопряженности, предложенный А. А. Чупровым. Число классов варьирования обоих или одного из коррелирующих признаков при этом должно быть больше двух. Если число классов варьирования по два в каждом ряду, рекомендуется вычислять тетрахори- ческий (четырехпольный) вариант этого же коэффициента (см. § 2.11). Коэффициент сопряженности можно вычислить и тогда, когда оба ряда имеют многоклассовое распределение со взвешенными вариантами (по примеру корреляционной решетки в табл. 2.01), причем варианты в рядах могут быть и неранжиро* ванными.
Полихорический коэффициент сопряженности
Т = ^-1)/№-№-1),(2.36)
где J — сумма частных, вычисленная в табл. 2.11; kx — число классов в ряду х; &у — число классов в ряду у.
Вычисления ведем в следующем порядке.
Значения всех вариант разносим по клеткам корреляционной решетки (табл. 2.11).
Таблица 2.11. Вычисление суммы частных J для полихорического коэффициента сопряженности
Вес 1000 зерен у, г
Вегетационный период х, дни
пу
скороспелые, до 73 дней
среднеспелые, 74—81 дня
позднеспелые, более 85 дней
Крупнозерные
2(4)
12 (144)
14 (196)
28
(более 50,6)
0,14
5,14
7,0
Среднезерные
27 (729)
74 (5476)
47 (2209)
148
(от 38,0 до 50,6)
4,93
37,0
14,93
Мелкозерные
9(81)
25 (625)
4 (16)
38
(менее 37,9)
2,13
16,45
0,42
38
111
65
214=^
7,20
58,59
22,35
/гх=3
2w_
^=3
"х
0,19
0,53
0,34
J=l,06
Суммируем частоты по строкам таблицы, получая му, и по столбцам, получая пх. Сумма пх должна равняться сумме пу и является объемом выборки: ^ = 214.
Частоты всех клеток таблицы возводим в квадрат и произведения записываем рядом в скобках.
Квадраты часто! делим на сумму пу данной строки, в которой расположены частоты, например квадраты всех частот первой строки делим на 28, получаем: 4/28 = 0,14; 144/28 = 5,14; 196/28 = 7,0. Квадраты всех частот второй строки делим на 148: 729/148 = 4,93 и т. д. Результаты деления записываем в тех же клетках.
Суммируем результаты деления по всем столбцам таблицы, получаем 2 (f2/n</) — 0,14+4,93+2,13 = 7,20 и т. д.
Суммы частных от деления по столбцам делим на суммы частот по этим же столбцам:
2(№)]/^ = 7,20/38 = 0,19;58,59/111 =0,53 и т. д.
Суммируем результаты последнего деления по строке, получаем 7 = 0,19+0,53+0,34=1,06.
Применяем формулу (2.36): Т=(1,06—1)/У(3—1)(3—1) = = 0,03.
Оценку достоверности коэффициента сопряженности производим по критерию хи квадрат:
Х2 = ^(7-1),(2.37)
где N — объем выборки; 7 —сумма, полученная в итоге табл. 2.11.
Число степеней свободы v=(£x—1)(^у—1) = (3—1)(3—1)=4. В рассматриваемом примере по формуле (2.37) %2 = 214(1,06— —1,00) = 12,84, что выше значений хи-квадрат первых двух уровней достоверности, которые по табл. 15П при v = 4 равны соответственно 9,488 и 13,277. Следовательно, на вес 1000 зерен у ячменя в небольшой степени, но достоверно влияет продолжительность их созревания.
ТЕТРАХОРИЧЕСКИЙ КОЭФФИЦИЕНТ СОПРЯЖЕННОСТИ
Силу связи двух признаков, варьирующих альтернативно, можно определить также при помощи коэффициента сопряженности Чупрова (см. § 2.10), формула которого для четырехпольной таблицы данных следующая:
74 = [ | ad — be | — 0,5^]//(а + ЬНс + Ф (а + с) (b + d), (2.38 где 74 — тетрахорический коэффициент сопряженности; а — ячейка табл. 2.12, в которую заносятся особи или предметы, обладающие обоими признаками; b — ячейка, в которую заносятся особи, обладающие признаками х и без признака у; с —ячейка для особей без признака х, но с признаком у; d — ячейка для особей без обоих признаков; Лг —объем выборки.
Под х, как и во всех подобных случаях, (здесь подразумевается аргумент или причина изучаемого явления, а у — функция, или следствие, условно или фактически. Ряд х располагается горизонтально, а ряд у - вертикально. Выражение \ad—bc\ означает, что разница в прямых скобках в любом случае получает знак плюс. Буквы a, b, ct d обозначают также численности частот в этих же ячейках.
Рассмотрим последовательность вычислений на примере измерения силы связи между наличием остей и иммунитетом к бурой ржавчине у сортов пшеницьГ(см. табл. 2.12).
Располагая классы варьирования, как показано в табл. 2.12, производим разноску вариант по ячейкам a, b, с, d согласно их назначению, указанному в объяснении к формуле (2.38).
Подставляем значения полученных частот в формулу (2.38):
т =| 166.1078— 1297-34] —0,5-2575= , Q 15
4 К (166 + 1297) (344-1078) (166+34) (1297+1078) ~’
Оценим значимость полученного коэффициента:
X2 = NTX ,(2.39)
где х2 ” критерий хи-квадрат, используемый здесь для оценки силы сопряженности наблюдаемых факторов; N — объем выборки; 74 — тетрахорический коэффициент сопряженности.
Таблица 2.12. Четырехпольная корреляционная решетка данных к вычислению тетрахорического коэффициента сопряженности
У
X
Ости имеются
Ости отсутствуют
Сумма
Сорта, устойчивые к бу-
а-166
с-34
а + Ь—200
рой ржавчине
Сорта, неустойчивые к
b-1297
^=1078
b 4-^=2375
бурой ржавчине Сумма
а+6=1463
c+d=1112
А—2575
В данном примере Х2 = 2575-0,152 = 57,9. При оценке значимости коэффициента сопряженности число степеней свободы всегда равно v=l. По табл. 15П при доверительном уровне Р/ = 0,95 Х2 = 3,841; при Р2' = 0,99 /2 = 6,635 и Р3' = 0,999 х2=Ю,827. В данном случае вычисленное значение хи-квадрат, равное 59,5, значительно больше всех трех критических значений, следовательно, можно утверждать, что имеется положительная зависимость иммунитета сортов пшеницы от наличия у них остей. Сила этой связи измеряется тетрахорическнм коэффициентом сопряженности: 74 = +0,15. Направление связи можно определить, вычислив ожидаемую частоту ячейки a; аг = ^' (а+с) (а+Ь) =200-1463/ /2575= 113,6. Так как фактическая частота (166) больше ожидаемой (113,6), то связь положительная. Когда фактическая частота а меньше ожидаемой а\ то связь между признаками отрицательная.
При многозначных вариантах, как это имеет место в рассмотренном примере, формулой (2.38) иногда удобнее пользоваться в логарифмированном виде: 74 = ехр0,5{21п(|щ/—Ьс\—0,5^) — — [1п(а+Ь)+1п(с+^) +ln(a+c)4-1п(6+^) 1}, где обозначения те же, что и к формуле (2.38).
БИСЕРИАЛЬНЫЙ КОЭФФИЦИЕНТ КОРРЕЛЯЦИИ
Применяется тогда, когда один ряд варьирует по числу классов, большему двух, а второй ряд имеет альтернативное (двухклассовое), бисериальное размещение вариант. В биологии нередки подобные случаи, когда один признак варьирует количественно, а другой, связанный с ним, изменяется только качественно: по принципу «да» или «нет». Коэффициент корреляции по формуле (2.40) можно вычислять при любой численности выборки, в том числе при ^< 100:
5 ?ахау " (S iax 3 fay\/^ m rb = —г -: - -- , (2.40)
/ (2 к -(2i^^ )(S М2 +)7-v)
Таблица 2.13. К вычислению бисериального коэффициента корреляции
Освещенность, у
Даты зацветания х, дни от 1 марта
^У
ау
ЧаУ
г 2 ^уау
57
85
113
141
169
197
225
Открытый участок
77
172
131
57
13
7
9
459
0
0
0
Теневой участок
71
167
140
63
11
6
1
459
1
459
459
/х ах
148
—3
339
—2
271
—1
120 0
24
+1
13
-^2
3
+ 3
918
0
459
459
t хах
—444
1332
—678
1356
—271
271
0
0
24
24
26
52
9
27
—1393 4-59
3062
—1334
где гь — бисериальный коэффициент корреляции; f —частоты; ах, ау — условные отклонения; N — объем выборки.
Порядок вычислений следующий (табл. 2.13).
Составляется корреляционная решетка, в которой ряд х представляет собой даты зацветания в днях от 1 марта, а у — ряд с альтернативным распределением вариант на два участка — теневой и освещенный.
Суммируем частоты по столбцам и строкам, итоги которых должны совпадать и вместе равны объему выборки: ^ = 918.
Условные отклонения ау всегда будут 0 и I. Отклонения ах образуются путем поочередного вычитания из всех вариант ряда х числа Л =141, т. е. центральной варианты и деления разностей на классовый интервал, который в данном случае с = 28.
Перемножив условные отклонения ах на соответствующие им суммы частот fx, получим: —3-148 =—444; —2-339=—678; —1-271=—271 и т. д.
Перемножим квадраты условных отклонений ах на тс же частоты: —З2-148= 1332, —22-339= 1356 и т. д. Те же самые действия произведем с частотами и условными отклонениями /у, Пу.
Суммируем: 2/х^х = —-1334, 2 f^x = 3062, 2 fyay — 459, 2/^ = 459.
Получаем сумму 5Мл:йг/= 71 (—3) • 1 + 167(—2) • 1 + + 140(-1)-1+63 0-1+-11 -1 -1+6-2-1 + 1-3-1 = —661 путем пере- множения каждой частоты из строки «теневой участок» на соответствующие условные отклонения ах. Частоты из строки «открытый участок» не множим на отклонения, так как все произведения будут равны нулю, поскольку в ней ау=0.
По формуле (2.40)
ГьГьл - 1334-459— 661 — 918л - 1334-459— 661 — 918= —0,012.= —0,012.
Гь
Гь
л - 1334-459
— 661 — 918
л - 1334-459
— 661 — 918
= —0,012.
= —0,012.
Ошибка бисериального коэффициента корреляции, ввиду того что ^>100, определяется по формуле (2.17): тт = (1—г2)/ [^N=^\—0,0122)/У918 = 0,033. Оценка достоверности гъ производится по критерию Стьюдента: / = 0,012/0,033 = 0,36.
Величины ошибки и критерия Стьюдента совпадают с вычисленными по формуле (2.14) с преобразованием через z. По табл. 4П при v = Af—2 = 918—2 = 916 и Pi = 95% /=1,96. Поскольку вычисленное значение / = 0,36 меньше табличного, делаем вывод об отсутствии корреляционной связи между числами видов, зацветающих одновременно на теневом и открытом участках. Следовательно, динамика зацветания видов на этих участках различна, на нее больше влияют местные микроусловия, чем общий ход изменения метеофакторов.
Бисериальный коэффициент корреляции можно найти также с помощью таблицы Келли—Вуда (табл. 21П). Этот способ применяется в тех же случаях, что и предыдущий, но по технике вычислений он проще благодаря наличию специальных таблиц. При ^<100 вместо способа Келли—Вуда для вычисления бисе- риального коэффициента лучше пользоваться способом по формуле (2.40) ввиду довольно сложной поправки, которая вводится при способе Келли—Вуда, Бисериальный коэффициент корреляции, находимый с помощью табл. 21П:
г.= [|М--Л4+|р9]/Ы), (2.41)
где М~ — взвешенная средняя арифметическая ряда отрицательных частот; М+— средняя арифметическая ряда положительных частот; р — доля ряда положительных частот; q — доля ряда отрицательных частот; oz —среднее квадратическое отклонение суммарного ряда частот (ряда 2f в табл. 2.14); 3 — ордината в месте границы классов положительных и отрицательных частот; х — абсцисса этой же точки в долях сигмы.
Величины ^ х в соответствии с р находйм по табл. 21П. Прямые скобки в формуле (2.41) обозначают, что знак разности средних арифметических не принимается во внимание, т. е. бисериальный коэффициент —всегда положительная величина. Вычисление бисериального коэффициента корреляции ведем в следующем порядке.
Заполняем корреляционную решетку по образцу табл. 2.14. В столбец /+ заносим особи, обладающие первым изучаемым признаком (растут в тени), а в столбец /_ заносим особи с альтернативным признаком (растут на открытом месте). Требуется
Таблица 2.14. К вычислению бисериального коэффициента корреляции с использованием табл. 21П
Баллы повреждаемости растений
X
Условия освещенности растений у
5^2
в тени f+
на открытом месте /_
3
1
1
3
9
4
—-
4
4
16
(4
5
—-
7
7
35
175
6
2
21
23
138
828
7
5
16
21
147
1029
8
2
3
5
40
320
9
—
1
1
9
81
—
9
53
62
388
2506
—
М+=7,00
М"=6,13
—
—
—
выяснить, связана ли повреждаемость растений болезнями с их освещенностью.
Суммируем частоты по столбцам, получая ^^ = 9, S/- = = 53 и по строкам: ^f = N = 62.
Находим величины р и q. Так как следует выполнить условие p>q, то для определения q из сумм рядов /+ и /_ выбираем меньшую, т. е. 2/+ = 9, отсюда одна доля равна q = (^ f+^/N = = 9/62 = 0,1452 и другая р = 1—q= 1—0,1452 = 0,8548.
Определяем средние арифметические рядов /+ и /_ по формуле (1.13): М+ = (6-2+7-5+8-2)/9 = 7,00 баллов, М~=(3-1 + +4-4+5-7+6-21+7-16+8-3+9-1)/53 = 6,13 балла. Таким образом, повреждаемость растений в тени больше, чем на открытом месте.
Вычисляем сигму суммарного ряда частот по формуле (1.38).
ог = V(2506—3882/62)/(62—1) = 1,13 балла.
По табл. 2Ш для р = 0,85 находим величины 8 = 0,2332 и х = 1,0364.
По формуле (2.41) бисериальный коэффициент корреляции гъ = [ 16,13—7,001 • 0,8548 - 0,1452 ] / (1,13 • 0,2332) = 0,41.
Так как в рассматриваемом случае число наблюдений равно 62 (меньше 100), то к полученному значению коэффициента вычисляется поправка (которая не определяется при А7> 100)
^ /1 +^LH 0,25г2а / \ а /^ /1 +^LH 0,25г2а / \ а //(2.42)81/(2.42)81по формуле
^ /1 +^LH 0,25г2а / \ а /
^ /1 +^LH 0,25г2а / \ а /
/(2.42)
81
/(2.42)
81
г6с=гЛ1 + -1-[0,25 + ^-(1
I Л7 L 2^\
где гЬс — исправленная с учетом числа наблюдений величина би- сериального коэффициента корреляции; гь — величина коэффициента корреляции до введения поправки; N — объем выборки; остальные обозначения те же, что и в формуле (2.41).
Для рассматриваемого примера:
0,145-1,03640,23320,145-1,03640,23320,885-0,1452-0,233220,885-0,1452-0,233220,855-1,0364 \
0,145-1,0364
0,2332
0,145-1,0364
0,2332
0,885-0,1452-0,23322
0,885-0,1452-0,23322
0,2332/ Х
= 0,4502.
(2.43)(2.43)Ошибка бисериального коэффициента корреляции
(2.43)
(2.43)
mr= WVpq^ — fbWN.
где обозначения те же, что и в формуле (2.42). В данном примере
т, = [ (У0,8548 • 0,1452) /0,2332 — 0.45022] / /62 = 0,1661.
Ошибку бисериального коэффициента корреляции тт можно определить также с помощью табл. 22П, составленной Сопером, по формуле
mr = V (X* - Vb + AMN, (2.44)
где Х22, Х3 —величины, находимые по табл. 22П в зависимости от величины q; rb — величина бисериального коэффициента корреляции; N — объем выборки.
Отсюда ошибка по формуле (2.44) тТ = ^(2,3453—3,0923- •0,45022+0,45024)/62 = 0,1685, т. е. по величине ошибка достаточно близка к вычисленной по формуле (2.43).
Если доля q окажется меньше 0,05, то ошибку гь вычисляют иначе:
mr = V— (—-[-+ (1-— 1 fl + — Ук-М),(2.45)
' N h2 L 2 (3 Д з л J
где обозначения те же, что и в формуле (2.42).
Оценим достоверность коэффициента корреляции по критерию Стьюдента: t=rbJmr = 0,4502/0,166 = 2,71. При числе степеней свободы n=N—2 = 62—2=60 и при 95% уровне достоверности по табл. 4П /=2,000. Вычисленное значение больше табличного, следовательно, между степенью затенения растений и степенью их повреждаемости болезнями имеется небольшая, но достоверная связь: гь=0,4502±0,166, т. е. (чем больше затенение, тем больше повреждаемость растений.
§ 2.13.
ЧАСТНЫЕ И МНОЖЕСТВЕННЫЕКОЭФФИЦИЕНТЫ КОРРЕЛЯЦИИ
Основные задачи, которые решают обычно при анализе множественных взаимосвязей,— это выявление полной структуры связей в данном комплексе признаков, а также отбор центральных или доминантных, наиболее тесно связанных между собой признаков, служащих ядром данной структуры или плеяды. Если зависимости между признаками комплекса линейные, что можно предварительно проверить построением простейших графиков, то для исследования структуры взаимосвязей применяют частные (парциальные) и множественные коэффициенты корреляции. Если эти зависимости нелинейные, то их следует привести путем различных преобразований данных к линейной форме. Множественные и частные коэффициенты корреляции возможно вычислить лишь при числе коррелирующих признаков, большем двух. Сила совокупной взаимосвязи трех признаков, когда измеряется совместное взаимодействие двух признаков с третьим, определяется при помощи множественных коэффициентов корреляции:
R^xz =
(ГХу + ^2 •
-Л)/(1
(2.46)
Р2 ^x-yz
кТХу + ^Х2
—л)/(1
(2.47)
р2
1\2*ху
V^X + ^
—Л)/(1
(2.48)
Частные, или парциальные, коэффициенты корреляции для трех связанных признаков равны:
fyx-2 Vr ух
fyzTxz^V(1fy^ (1
- d2),
(2.49)
fyz-x — Vyz
Tyx?XZ^I ^( 1Гyx) ( 1
(2.50)
Гхх-у — (^*хг 1*хуГzy^V(1 —ГХу) (1 — ГZy),(2.51)
В формулах (2.46) —(2.51) приняты обозначения: ^.^ — множественный коэффициент корреляции; точка, например, после у означает, что изучается совместное, или объединенное, влияние аргументов х, 2 на функцию у; A = <2rxurxzryz\ ryz, r^ rxz — полные (обычные) коэффициенты корреляции попарно между признаками х, у, 2; ryz.X) rwz, тхг.у — частные (парциальные) коэффициенты корреляции попарно при исключении влияния третьего признака, индекс последнего ставится справа от точки.
Полные коэффициенты корреляции вычисляются по формуле (2.15), если ряды взвешенные, или по формулам (2.13), (2.18), если ряды невзвешенные.
Вычисление множественного и частных коэффициентов корреляции производится в следующем порядке.
Вычисляем полные коэффициенты корреляции между признаками сои, для чего выполним действия указанные в табл. 2.15.
185412 — (2868 • 839)/13 ~ .ggК (55869 — 8393/13) (634906 — 28682/13)’’185412 — (2868 • 839)/13 ~ .ggК (55869 — 8393/13) (634906 — 28682/13)’’16609—(839-260)/13V (55869—8392/13) (5458—2602/13)16609—(839-260)/13V (55869—8392/13) (5458—2602/13)S—G-S^GS—G-S^G57737 —(2868-260)/13 К(5458—2602/13) (634906 — 28682/13)57737 —(2868-260)/13 К(5458—2602/13) (634906 — 28682/13)= 0,502.= 0,502.
185412 — (2868 • 839)/13 ~ .gg
К (55869 — 8393/13) (634906 — 28682/13)’’
185412 — (2868 • 839)/13 ~ .gg
К (55869 — 8393/13) (634906 — 28682/13)’’
16609—(839-260)/13
V (55869—8392/13) (5458—2602/13)
16609—(839-260)/13
V (55869—8392/13) (5458—2602/13)
S—G-S^G
S—G-S^G
57737 —(2868-260)/13 К(5458—2602/13) (634906 — 28682/13)
57737 —(2868-260)/13 К(5458—2602/13) (634906 — 28682/13)
= 0,502.
= 0,502.
Подставим суммы столбцов этой таблицы в формулу (2.13)
_3 - Й у S xVN
Тух г- ■• ■—■■.,—
= — 0,257,
Ошибки по формуле (2.14) и значения критерия достоверности этих коэффициентов следующие:
гух = о, 163, mz = 1 / V В=3 =0,316,/2=0,164/0,316 =0,52
г уг = 0,502,mz = 0,316,/2 = 0,552/0,316= 1,75.
гХ2 = —0,257, тг = 0,316, tz = 0,263/0,316 = 0,83.
Все три полных коэффициента корреляции оказались недостоверными, так как величины 1г меньше табличных, однако это не означает, что связь между рассматриваемыми признаками отсутствует. Например, связь между у и 2, т. е. весом 1000 семян и урожайностью, хотя и недостоверна, но сильнее, чем прочие связи. Может возникнуть вопрос, не мешает ли полнее выявить связь между у и 2 влияние х, т. с. высоты растений. Чтобы проверить эту гипотезу, необходимо исключить из связи между у и 2 влияние х. Для этого вычисляем парциальные коэффициенты корреляции по формулам (2.49), (2.50), (2.51):
ryx.z = [0,163-0,502 (—0,257)]// (1-0,5022) [1 - (—0,257)2] = = 0,350,
гу2.х = [0,502-0,163 (—0,257)]/ /(1—0,163)2 [ 1 — (—0,257)2[ = = 0,571,
гХ2.и = [—0,257—0,163 ■ 0,502]//(1—0,1632)(1—0,5022)=—0,404.
Исключаемый фактор в индексах при г обозначен буквой справа отточки. Критерий достоверности t частного коэффициента корреляции при любом объеме совокупности
t = г Ху.г /^ —n —2)/(1 — r2y2);(2.52)
подставляя сюда известные величины, получим: tx#„ = 0,35 /(13—1—2)/(1—0,352) = 1,182, t№.x = 0,571 V(13—1—2)/(1—0,571а) = 2,200, tX2.g = —0,404 /(13—1—2)/(1—0.5712) = — 1,400. При оценке достоверности частного коэффициента корреляции по табл. 4П число степеней свободы принимается v = =N—2—п, где N — объем выборки; п — число факторов, действие которых устраняется, в данном случае п=1, следовательно: v = = 13—2—1 = 10; те же обозначения N, п приняты в формуле (2.52).
Таким образом, связь между у и z действительно стала достоверной, когда мы устранили влияние высоты растений х на связь между весом 1000 семян у и урожайностью z. Следовательно, парциальные коэффициенты корреляции имеют важное самостоятельное значение как метод исследования множественных взаимосвязей.
Таблица 2.15. Вычисление полных (обычных) коэффициентов корреляции между тремя признаками
Высота растений X, см
Вес 1000 зерен У. г
Урожайность 2, ц/га
X2
У2
22
ху
XX
ух
62
217
19
3 844
47 089
361
13 454
1 178
4123
63
212
20
3 969
44 944
400
13 356
1260
4 240
73
218
12
5 329
47 524
144
15 914
876
2 616
82
242
17
6 724
58 564
289
19 844
1394
4114
66
199
16
4 356
39 601
256
13 134
1056
3184
44
200
17
1936
40 000
289
8 800
748
3 400
43
235
25
1 849
55225
625
10105
1075
5 875
54
235
25
2 916
55 225
625
12 690
1350
5 875
63
225
19
3 969
50 625
361
14175
1 197
4 275
74
234
25
5 476
54 756
625
17 316
1850
5 850
74
223
27
5 476
49 729
729
16 502
1998
6 021
64
218
23
4 096
47 524
529
13 952
1472
5 014
77
210
15
5 929
44100
225
16 170
1155
3150
839
2868
260
55 869
634 906
5458
185 412
16 609
57 737
Множественные коэффициенты корреляции, отражающие силу взаимосвязи одного с двумя остальными факторами совокупно, определим по формулам (2.46), (2.47), (2.48):
R„-xz = (0,1632 +0,5022 — Л)/( 1 - (—0,257)2) = 0,34330,
Ryxz =0,58593,
Rx-yz = [0,1632+(—0.257)2 — Л1/(1—0,5022) = 0,18005,
Rx-yz = 0,42432,
Rtxv = [—0,2572+0,5022 — Л]/( 1 —0,1632) = 0,36994,
Rzxy :^ 0,60822,
Л = 2 • 0,163 • 0,502 • (—0,257) = —0,042058.
Без применения таблиц достоверность квадрата коэффициента множественной корреляции R2 в зависимости от объема выборки N оценивается по критерию Романовского:
-^Г^" - 11 //^-W-7) S3.(2.53)
Из формулы (2.53) видно, что коэффициент множественной корреляции может быть достоверным лишь в том случае, если объем совокупности не менее 8.
Если левая часть выражения, полученного по формуле (2.53), будет больше или равна 3, то коэффициент считается значимым. Величина R^ в нашем примере недостоверна, так как
(13 — 5) 0.5862 _ 11 /^(1з_з)/(1з_7) = 0,84 < 3.
L 2 (1 —0,5862)]/ у v ,v ’’
Величина критерия Романовского для Rx.yZ равна —0,094, для Rz.xu она составляет наибольшую величину—1,04. Следовательно, в уравнении множественной регрессии этих трех признаков 2 следует принять за функцию, т. е. искать зависимость 2, = а0+ ■Va^+a^y. При оценке достоверности величины множественного коэффициента корреляции можно пользоваться также критерием Фишера:
F = —^— • —-,(2.54)
1—Я2 п-1 *v ’
где F — вычисляемая величина критерия, которая сравнивается с табличной (см. табл. 8П) при Vi = n—1, v2=N—п степенях свободы; 7? — множественный коэффициент корреляции; N — объем совокупности; п — число признаков в изучаемом комплексе.
п п плолоп г 0,424322 13 — 3 D
Для Rx-yz—0,42432 Fx лолуог* о i 1>Ю, для RyXz—~ = 0,58593 ^=2,61; для Rz^ = 0,60822 Fz = 2,94. По табл. 8П при Vi = 3—1=2 и v2=13—3=10 на 95% доверительном уровне Fz=4,10, что больше каждой из трех вычисленных величин критерия, следовательно, все три найденных множественных коэффициента корреляции недостоверны при оценке как критерием Романовского, так и критерием Фишера. Причина недостоверности связи в данном случае, по-видимому, заключается в недостаточном объеме совокупности. Таким образом, все нужные величины для построения структуры взаимосвязей в изучаемом комплексе вычислены — это частные и множественные коэффициенты корреляции, которые отражают как попарные связи признаков, так и связи совместно двух из них с третьим.
3
РЕГРЕССИЯ
После того как при помощи методов, приведенных в гл. 2, установлено наличие корреляционной связи между двумя изучаемыми явлениями или признаками, можно попытаться установить закономерность количественного изменения одного из признаков (функция) при изменении другого (аргумент). Эту закономерность можно далее использовать для прогноза изучаемого явления или выяснения его критических точек. Для этого изучаемую связь выражают аналитически в виде соответствующего уравнения регрессии и графически с вычислением точек вычерчиваемой теоретической кривой по найденному уравнению. В этой главе даются методы такого аналитического и графического выражения некоторых типов корреляционных зависимостей.
Определенно ответить на вопрос о достаточном числе точек для построения той или иной кривой регрессии нельзя, так как это связано с числом коэффициентов уравнения и точек перегиба кривой, с одной стороны, и дисперсией исходных данных — с другой. Чем больше у кривой точек перегиба и чем больше дисперсия выборки, тем больше требуется данных для вычисления уравнения и больше точек для построения кривых. Поэтому, хотя формально прямую линию можно построить и по двум точкам, а параболу второго порядка — по ’трем, на практике, особенно в биологических исследованиях, почти никогда не бывает достаточно этого минимума точек, чтобы более или менее ясно представить себе тенденцию изучаемой связи. В общем случае, рассматриваемый вопрос следует решать в начале исследования, когда определяется репрезентативность выборок. Если объемы обеих выборок достаточны для достоверности определения их основных статистических показателей — средней и сигмы, то объемы этих выборок обычно достаточны и для выявления тенденции взаимосвязи между ними.
Независимо от способа расчета коэффициентов уравнений регрессии существенно снижает трудоемкость расчетов преобразование исходных данных так, чтобы их величина приближалась по возможности к первому порядку. Для этого исходные данные делят на одно и то же число или вычитают из них среднее или начальное значение, а также принимают другие единицы измерения. Такое преобразование чисел на обеих осях координат,
чтобы они приняли величины от 1 до 10, полезно также для подбора по рисункам в § 3.16 уравнения кривой, соответствующей графику эмпирических данных.
§3.01.
УРАВНЕНИЕ ПРЯМОЙ ЛИНИИ
Эмпирические линии регрессии, получаемые по способу из § 2.01, отражают изучаемую корреляционную связь с присущими ей случайными отклонениями и не дают возможности аналитического прогноза данного явления. Чтобы получить уравнение, по которому можно такой прогноз сделать, требуется аппроксимировать данную эмпирическую линию регрессии подходящей теоретической линией регрессии, которая даст возможность аналитической интерпретации связи. Простейшей теоретической линией регрессии, подходящей для приблизительного прогноза явления в некоторых случаях, является прямая линия или парабола первого порядка. Уравнение прямой линии несложно для расчета, поэтому путем различных преобразований данных часто стремятся свести криволинейные зависимости к прямолинейным. Однако нередко корреляционные связи в биологии имеют такую форму криволинейности, что уравнение прямой к ним применить нс удается. В таких случаях, изучив форму эмпирической линии регрессии (см. § 2.01), следует попытаться подобрать к ней подходящую теоретическую кривую (см. § 3.03—3.16). Вопрос о пригодности той или иной эмпирической линии регрессии для аппроксимации ее прямой линией обычно решается визуальным анализом графика, на котором нанесены эмпирические данные в виде точек. Последние по своей общей тенденции расположения должны достаточно близко соответствовать прямой линии.
На примере зависимости веса 1000 семян от продолжительности вегетационного периода у ячменя ниже излагаются пять способов вычисления коэффициентов уравнения прямой линии, которое в общей форме имеет вид
у'^аЛа^х, (3.01) где у' — теоретические значения функции или зависимой переменной; х — аргумент или независимая переменная; а0, п4 — коэффициенты уравнения, имеющие различное значение в зависимости от специфики изучаемого явления; у — эмпирические значения зависимой переменной.
Для того чтобы можно было пользоваться уравнением (3.01) в применении к некоторой конкретной связи, необходимо определить присущие ей величины коэффициентов а^ av
Способ 1. Определение коэффициентов уравнений теоретических линий регрессии производится различными способами, самый точный из них—метод наименьших квадратов, посредством которого вычислим коэффициенты уравнения прямой линии.
Таблица 3.01. К вычислению уравнения прямой линии
Продолжительность вегетационного периода X, дни
Вес 1000 семян ячменя у, г
X2
ух
у'
у'-у
ку'—уУ
1
2
3
4
5
6
7
90
47,50
8100
4275,00
48,3399
0,84
0,7056
85
46,75
7 225
3973,75
46,8004
0,05
0,0025
80
45,75
6 400
3660,00
45,2609
—0,49
0,2401
75
42,85
5 625
3213,75
43,7214
0,87
0,7569
70
44,76
4 900
3133,20
42,1819
—2,58
6,6564
65
41,44
4 225
2693,60
40,6424
—0,80
0,6400
60
37,00
3 600
2220,00
39,1029
2,10
4,4100
525
306,05
40 075
23169,30
306,0498
—0,01
13,4115
В качестве исходных данных для нахождения коэффициентов уравнения служат точки эмпирической линии регрессии (способ ее вычисления см. в § 2.01), если функция и аргумент представлены взвешенными рядами. Если же выборки у и х представлены невзвешенными рядами, то для расчета коэффициентов уравнения регрессии берутся непосредственно варианты этих рядов без вычисления эмпирической линии регрессии.
Требующиеся здесь значения эмпирической линии регрессии ух уже подсчитаны в табл. 2.01.
В столбцах 1 и 2 табл. 3.01 приведены значения ряда х и у, последние равны ух из табл. 2.01. В столбцах 3 и 4 производятся действия, суть которых ясна из заголовков.
Суммы, полученные в итоге столбцов 1—4, подставляем в систему двух нормальных уравнений:
а0^ +«12^ = 2^(3.02)
а^х + aiSx2 = 2^.
получаем:
7a0+525at = 306,05,
525а0+40075а1 = 23169,3.
Находим значения а0 и а, из уравнений следующим образом. Делим число при а» во втором уравнении на число при а» в первом уравнении: 525/7 = 75, умножаем все члены первого уравнения на 75, вычитаем из второго уравнения первое:
_ 525а0 + 40 075ах = 23 169,3
525а0 + 39 375ах = 22953,75
700^ = 215,55,
откуда at = 0,3079. Подставляя найденное значение av в первое уравнение, находим а0 = (306,05—525-0,3079)/7 = 20,6289. Уравнение (3.01) получает следующие коэффициенты:
у'= 20,6289+0,3079х, или округленно у' = 20,63+0,31х.
В столбце 5 вычислены теоретические значения веса 1000 семян у' при различной продолжительности вегетационного периода х.
В столбце 6 приводится разница между теоретическими и фактическими значениями веса 1000 семян.
Ошибка уравнения прямолинейной или криволинейной регрессии вычисляется по формуле
тв = оуу (М-1)(1-гу/(М-/г),(3.03)
или по вытекающей из нее формуле
т«=У\^кУ- У'У\^ -n),(3.04)
где у — эмпирические значения функции; у' — теоретические значения функции; N — число точек эмпирической линии регрессии, по которым вычислялось уравнение регрессии; ау —сигма ряда функции; гху — коэффициент корреляции между х и у; при криволинейной регрессии вместо него подставляется цу; п — число коэффициентов уравнения, включая свободный член.
В рассматриваемом примере (см. табл. 3.01) ту = У13,4115/ /(7—2) = 1,6 г. Таким образом, вес 1000 семян у' (в г) у ячменя можно приблизительно определить, зная продолжительность их созревания х (в днях) по уравнению у' = 20,63+0,31х с ошибкой ± 1,6 г (рис. 16).
Точки пересечения с осями ординат и абсцисс равны соответственно:
У=Ло,х= — (^i),(3.05)
где обозначения те же, что и в формуле (3.01), т. е. у = 20,63, х = — (20,63/0,31)=—66,5.
Коэффициент ^ — основной параметр уравнения прямой линии и, кроме того, степень его достоверности отражает также и наличие или отсутствие корреляционной связи между признаками. Поэтому рекомендуется оценивать достоверность отличия найденного коэффициента aY от нуля по критерию
t = (^х VN — 1 )/тУ1(3.06)
где t — величина критерия Стьюдента, сравниваемая с критической по табл. 4П при числе степеней свободы n = N—2; если вычисленная величина больше табличной, то связь между х, у и значение си достоверны, а если вычисленная величина будет меньше табличной, то связь данных признаков и значение а4 — недостоверны; сц— коэффициент при аргументе в уравнении
Рис. 16. Зависимость веса 1000 семян у от продолжительности вегетационного периода х у сортов ячменяРис. 16. Зависимость веса 1000 семян у от продолжительности вегетационного периода х у сортов ячменя1 — эмпирическая линия регрессии ух, 2 — прямолинейная регрессия связи1 — эмпирическая линия регрессии ух, 2 — прямолинейная регрессия связипрямой линии; а* — средне® квадратическое отклонения ряда аргумента; ту — ошиб-З ка уравнения по формуле! (3.04;) N— объем выборки.!
Рис. 16. Зависимость веса 1000 семян у от продолжительности вегетационного периода х у сортов ячменя
Рис. 16. Зависимость веса 1000 семян у от продолжительности вегетационного периода х у сортов ячменя
1 — эмпирическая линия регрессии ух, 2 — прямолинейная регрессия связи
1 — эмпирическая линия регрессии ух, 2 — прямолинейная регрессия связи
Для нашего примера ве-| личина ах= 10,802 (см. спо-' соб 3 в этом параграфе). Остальные величины известны. Подставив их в формулу (3.06), получим /=(0,308* • 10,802у7^Т)/1,637=5. По табл. 4П значение критерия при числе степеней свободы v = 7—2 = 5 и 99 %-ном дове
рительном уровне меньше вычисленного: 4,032<5, следовательно, корреляция между х и у действительно существует и величина коэффициента пропорцио- ? нальности av данной линии регрессии достоверно отличается от
нуля.
Достоверность отличия от нуля коэффициента а0 оценивается по критерию-
t=aJ /пу1/ _L + _L_ ^(3.07) .
\ V N N — X \ с, ) )Х;
где / — величина критерия Стьюдента, сравниваемая с табличной (см. табл. 4П) при числе степеней свободы v = N—2; ту — ошиб- ’ ка уравнения; а0 — величина свободного члена в уравнении пря- ' мой линии; N — объем выборки; Мх, ох — средняя арифметическая и сигма ряда х,;
t = 20,628 /Г 1,637 V- + —— (V] =4,4.
/ L V 77 — Д 10,802 / J
Полученная величина критерия больше табличной: 4,4>4,032 при пяти степенях свободы и 99% доверительном уровне, поэтому считаем достоверной найденную величину коэффициента а».
Способ 2. Для вычисления коэффициентов уравнения прямой линии й0 и й, применяют также следующие формулы:
ай = Ми — сцМх, (3.08)
«1 = [2 Д-Мл) {У-M^/fS(х-Mx)2], (3.09) где Af, и Мх — средние арифметические рядов у и х. По данным табл. 3.02: А1х = (2х)/М = 525/7=75дней, М„=306,05/7 = = 43,723 г, 2 (х — Мл)2 = 700, 2 (х — Мл) (у — Afy) = 215,55, отсюда и, = 215,55/700=+0,30793, й0=43,723—0,30793-75 = 20,628. Ошибка уравнения и гочки пересечения прямой с осями координат вычисляются по формулам (3.04), (3.05).
Таблица 3.02. К вычислению коэффициентов уравнения прямой линии по способу 2
X
У
Х~МХ
кх-МхУ
1
1х-Мх№-М^
1У-МуУ
90
47,50
15
225
зап
+56,655
14,266
85
46,75
10
100
3,027
+30,270
9,163
80
45,75
5
25
2,027
+10,135
4,109
75
42,85
0
0
—0,873
0
0,762
70
44,76
—5
25
1,037
—5,185
1,075
65
41,44
—10
100
—2,283
+22,83
5,212
60
37,0
—15
225
—6,723
+100,845
45,199
525
306,05
0
700
+215,55
79,786
Способ 3. Если известны средние квадратические отклонения рядов х, у и коэффициент корреляции между ними, то величины коэффициентов (ц и а0 уравнения прямой линии, не вычисляя точек эмпирической линии регрессии, можно найти по формуле
ai = rxy — 1(3.10)
°х
или С f а^гху^^-,(3.11)
sx сх
где а^ — коэффициент регрессии при аргументе х; гху — коэффициент корреляции между признаками х и у; ау, о* —сигмы рядов у и х в исходных единицах; sy, sx — сигмы тех же рядов в классовых интервалах; с^ сх — классовые интервалы рядов у и х. Свободный член уравнения а0 вычисляется по формуле (3.08) из способа 2. Рассчитаем вначале коэффициенты уравнения для той же зависимости веса семян у от продолжительности вегетационного периода х у ячменя, рассмотренной в способах 1 и 2, но с тем отличием, что используем все даты выборки объемом 7V=214, не вычисляя эмпирической линии регрессии. В § 2.05 для нашего примера уже вычислены: гху—0,2055, sy= 1,203, sx= 1,195, су=6, сх=5. По формуле (3.11) ах = 0,2055 ^^- • -|- = 0,24826. Средняя арифметическая вариант вегетационного периода ранее вычислялась в разных примерах (см., например, § 1.10): Л4х=75,0. Средняя арифметическая веса семян у ячменя найдена в § 2.10, она может быть вычислена также по формуле (1.37) с использованием данных из табл. 2.05: Л4у=40+6-148/214 = 44,15 г, где 148— сумма столбца 2 справа. По формуле (3.08) а0 = 44,15—
—0,24826-75 = 25,53. Искомое уравнение прямой линии для Ы = = 214: у=25,53+0,24826^.
Ошибка уравнения регрессииi
^z/ = oryyi —г2,(3.12)
где ту~ ошибка теоретических значений функции; оу —среднее квадратическое отклонение ряда у; г — коэффициент корреляции между х и у.
Подставляя известные величины в формулу (3.12), получим ту=1,187-"|/1—0,20552 = 7,03. Вместо коэффициента корреляции в , формулу (3.12) можно подставлять также корреляционное отношение, измеряющее силу связи между теми же признаками при том же объеме выборки (оно вычислено для этих рядов в § 2.09: ^=0,26). Отсюда по формуле (3.12) ту—7Д87У1—0,262 = 6,94.
Формула (3.12) представляет собой упрощенный вариант формулы (3.03), применяемый для сравнительно больших выборок. Для невзвешенных рядов х и у, относящихся к той же самой выборке и представляющих собой точки эмпирической линии регрессии, вычисленной по методу из § 2.01 по формуле (1.24), используя суммы столбцов 4 и 7 табл. 3.02, получим бх= 10,802, оу=3,6466. Затем вычислим коэффициент корреляции по формуле (2.18).
r=te^x-MxHy-М/V^x-мхУ2 (у -миу.
(3.13)(3.13)По данным из табл. 3.02: г = 215,55/^700-79,786 = 215,55/ /236,33 = 4-0,91207, далее по формуле (3.10): at = 0,9121 -3,6466/ /10,802 = 0,308. Если число вариант в обоих рядах одинаково, как это обычно и бывает при анализе их взаимосвязей, то коэффициент при х в уравнении прямой линии
(3.13)
(3.13)
^1 — гху^му! Ш-мх,
где тМх, tnMu — ошибки средних'арифметических рядов х и у, вычисленные по формуле (1.09). Подставляя их значения для рассматриваемого примера в формулу (3.13), получим а, = 0,9121- •1,3783/4,0828 = 0,308.
Коэффициент а0 по формуле (3.08) в данном случае равен тому же значению, что в способе 2. Для оценки меры соответствия изучаемой взаимосвязи закону прямой линии вычисляют показатель линейности
К^/ЩГ^^З. (3.14)
Значение Кь большее 3, указывает на то, что связь не может считаться прямолинейной. Подставив в формулу (3.14) известные величины, получим Kt=V7(l—0,9121)2= 1,09, что меньше 3, следовательно, рассматриваемая связь может быть интерпретирована в указанных пределах уравнением прямой линии. Ошибка прогноза т„, т. е. определения значений у', по формуле (3.03)
ти = 3,6466 V(7—1)(1—0,91212)/(7—2) = 1 >637 = 1 >6 г,
где все величины уже известны из предыдущих вычислений по способу 3.
Как видим, первое уравнение, рассчитанное непосредственно по всем данным выборки, в значительной степени отражает случайные отклонения, большей частью мешающие выявлению основной тенденции зависимости. Ошибка прогноза по нему поэтому больше (ту=7,03), чем по уравнению, вычисленному для точек эмпирической линии рег- грессии:у' = 20,628 +
+ 0,30793х, для которого 1,6 г. Далее мы сравним эти два уравнения, чтобы оценить правомерность процедуры замены взвешенн рессии.
Рис. 17. Зависимость дат (в днях от 1 марта) конца цветения у от дат его начала х у травянистых многолетников в МосквеРис. 17. Зависимость дат (в днях от 1 марта) конца цветения у от дат его начала х у травянистых многолетников в Москвего ряда эмпирической линией рег-го ряда эмпирической линией рег-Способ 3 удобен тем, что посредством него можно одновременно вычислить величины средних арифметических, дисперсий, средних квадратических отклонений обоих рядов, коэффициента корреляции между ними, коэффициентов уравнения прямой линии и ошибку последнего.
Рис. 17. Зависимость дат (в днях от 1 марта) конца цветения у от дат его начала х у травянистых многолетников в Москве
Рис. 17. Зависимость дат (в днях от 1 марта) конца цветения у от дат его начала х у травянистых многолетников в Москве
го ряда эмпирической линией рег-
го ряда эмпирической линией рег-
Способ 4. Если нс предъявляется особых требований к точности определения коэффициентов уравнения прямой линии, то можно их найти непосредственно по графику эмпирических данных. Во многих случаях, особенно при удачном подборе положения глазомерно проводимой прямой, по этому способу можно получить удовлетворительные результаты. На рис. 17 эмпирическая линия регрессии, представленная в виде точек, отражает зависимость даты конца цветения от даты зацветания в совокупности из 1351 вида и сорта травянистых многолетников в Москве. Эта зависимось очень близка к прямолинейной и глазомерно выровнена прямой. Измерив угол, под которым эта прямая пересекает ось абсцисс, и определив по таблицам тригонометрических функций тангенс этого угла, тем самым найдем величину коэффициента при х в уравнении. В нашем примере (см. рис. 17) а = 45°, следовательно: ai = tga = tg45°= 1. Другой коэффициент равен отрезку от начала координат до места пересечения прямой с осью ординат, т. е. а0 = 33 дня. Таким образом, уравнение данной зависимости у'= 33+х, где у'— дата конца цветения вида или сорта травянистого многолетника; х — дата его зацветания. В столбце 3 табл. 3.03 вычислены по этому уравнению теоретические значения дат конца цветения, довольно близкие к наблю-
даемым срокам.
Таблица 3.03. Прямолинейная зависимость даты конца цветения от даты зацветания у травянистых многолетников (дни от 1 марта)
Начало цветения X
Конец цветения
У
У’
У"
Начало цветения X
Конец цветения У
У'
У"
40
13
75,4
140
176,4
173
175,4
60
92,4
93
95,4
160
203,6
193
195,4
80
114,5
ИЗ
115,4
180
216,7
213
215,4
100
134,3
133
135,4
200
230.9
233
235,4
120
159,4
153
155,4
220
230
Способ 5 (избранных точек). На том же примере (см, табл. 3.03) рассмотрим технику вычислений коэффициентов уравнения прямой линии посредством двух избранных точек (1 и 2 на рис. 17). Координаты этих двух точек: ^ = 40; гл = 75,7; %2 = = 140; у2 = 176,4. Искомые коэффициенты:
=,(ЗД5)
х2 — XY‘
а, = уг-У\ ((3.16)
х2 —
т. е. ай = (140-75,7—40-176,4)/(140—40) =35,4, а,= (176,4—75,7)/ /(140—40) = 1, и уравнение прямой приближенно у" = 35,4+%.
В столбце 4 табл. 3.03 приведены даты конца цветения, вычисленные по найденному уравнению, которые несколько лучше под- I ходят к эмпирическим данным, чем полученные по предыдущему | способу. Так как уравнения прямой, полученные по способам 4 5 и 5, являются приближенными, вычисление ошибок прогноза j для них нецелесообразно. Чем лучше выражена прямолинейная зависимость у эмпирических данных, тем меньше ошибки определения коэффициентов уравнения прямой линии по последним двум способам. В § 3.06 приведен алгоритм вычисления коэффи- ; циентов уравнений парабол, в том числе прямой линии, по спо- ; собу сумм.*
Сравнение двух уравненийпрямолинейной регрессии
При помощи излагаемого метода можно сравнить два любых уравнения прямой линии, чтобы аналитически оценить степень близости линий регрессии, которые они представляют.
Рассмотрим технику расчета критериев для сравнения на примере двух уравнений, полученных разными способами, но по одним и тем же данным. Первое из уравнений у = 25,53+0,24826% получено в § 3.01 по способу 3 прямым путем по всем данным выборки, объем которой ^1 = 214. Второе уравнение у=20,628+ +0,30793% рассчитано в § 3.01 (способы 1—3) для той же выбор-
ни, но по эмпирической линии регрессии, т. с. фактически лишь но семи точкам, W2=7, хотя косвенно и они отражают присущие данной выборке средний уровень варьирования и усредненную юнденцию изменения веса семян (функции) в зависимости от продолжительности вегетационного периода (аргумента) у ячменя. Таким образом, надлежит выяснить, насколько репрезентативно отражает указанную зависимость уравнение, рассчитанное по точкам эмпирической линии регрессии, иначе говоря, можно ли считать это уравнение несущественно отличающимся от того, которое было получено прямым способом, по всем датам отой же выборки. Сравнение названных уравнений проводится в три этапа.
Этап 1. Проверка гипотезы о близости величин остаточных дисперсий.
Сравним остаточные дисперсии, или квадраты ошибок уравнений:
(ЗЛ7)
где F — величина критерия Фишера; т^, т„2 —ошибки первого и второго уравнений, которые были вычислены раньше и равны соответственно 7,033 и 1,637 г, откуда Г=7,0332/1,6372 = 49,47/ /2,68=18,5. Объем первой выборки A/\ = 214, второй Мг = 1, число степеней свободы v1 = A^I—2=214—2 = 212, v2 = ^2—2 = 7—2 = 5. По табл. 8П при Р» = 99,9% значение критерия для указанных чисел свободы равно F'=23,78, т. е. больше вычисленного (F= = 18,5), следовательно, при данной, сравнительно нестрогой оценке остаточные дисперсии двух уравнений, или их ошибки, различаются несущественно.
Этап 2. Гипотеза о близости величин коэффициентов регрессии уравнений проверяется по критерию Стьюдента:
р | =“1-1-“1-2,(3.18)
of 1/[(М1-1) 0^1+ 1/[(Л/2-1)о22]
где
а = VЦЛ^ - 2) т^ + (Na - 2) m2HMNi + ^2 — 4);(3.19)
соответственно для первого и второго уравнений Ом, а^ — коэффициенты регрессии, или коэффициенты при х; о^. о22 — дисперсии аргумента, т. е. величин х; о —усредненная величина среднего квадратического отклонения; Мъ N2 — объемы выборок; т^, т?у — квадраты ошибок прогноза, или остаточные дисперсии; |/| — величина критерия Стьюдента без знака.
ст = f [(214—2)49,47 + (7—2)2,681/(214+7—4) = 6,96;
• ji _0,24826 — 0,3080 217
1 1 “ 6,96 /1/[(214 — 1)5,9892]+1/[(7-1) Ю,8022] ~ ’
Число степеней свободы в данном случае v=Nt+N2—4=214+1 +7—4 = 217. По табл. 4П для этого числа степеней свободы и до-1 верительного уровня Р = 95% величина критерия равна 1,960,? что больше вычисленной величины t. Следовательно, можем счи-; тать две сравниваемые прямые достаточно параллельными линиями, так как их коэффициенты регрессии несущественно различаются друг от друга.
Этап 3. Гипотеза о близости величин свободных членов уравнений (aOi и йог) проверяется также по критерию Стьюдента:
Wi2^)+^i2_^^2L1L^^
„1 /Л।/ 1 "T \
где о — усредненная величина среднего квадратического отклонения по формуле (3.19); соответственно для первого и второго уравнений: N^ М2 — объемы выборок; а^р а^ — дисперсии аргумента (ряда х); av.x, б+2 — коэффициенты регрессии; MVB М^ — средние арифметические функции (ряда у): Л4Х1, Мх2 — средние арифметические аргумента (ряда %).
Вначале вычислим усредненную сигму по формуле (3.19):
о = V [(214—2) 49,47 + (7-2) 2,68]/(214+7—4) = 6,9564,
затем величину критерия Стьюдента по формуле (3.20):
(214 — 1) 35,868-0,24826 + (7— 1) 116,683-0,30844,15 — 43,723
. _ (214—1) 35,868 + (7—1) 116,683"75,047 — 75 _
Редуцированная форма уравнения прямой линии
Многие прямолинейные зависимости можно представить на графике таким образом, что прямая линия регрессии будет исходить непосредственно из точки пересечения осей ординат и абсцисс. Иногда это следует из смысла биологической зависимости, например при числе растений, равном нулю, получаемый с них урожай также равен нулю. В таких случаях вычисление уравнения прямолинейной регрессии упрощается, так как в нем отсутствует свободный член (по = О). Определение коэффициента а^ уравнения
y' = atx,(3.20а)
1де обозначения те же, что и в формуле (3.01), проведем по методу наименьших квадратов на примере аппроксимации зависимости, известной под названием «пропорция золотого сечения», которая имеет большое практическое значение. В табл. 3.04 приведены предыдущий (х) и последующий (у) члены ряда Фибоначчи, отношение которых, начиная с членов 5 и 8, равно величине золотого сечения. Построив точечный график указанных величин х, у, можно убедиться в том, что они образуют простую пропорциональную зависимость, поэтому применим аппроксимацию по уравнению (3.20а). В столбцах 3 и 4 табл. 3.04 приведены квадраты величин х и произведения ух, их суммы используем для вычисления коэффициента av уравнения (3.20а):
«1 = (2Н/2^.(3 206)
т. е. aY = 1575239/974169= 1,618034. По уравнению у'— 1,618034% вычисляем теоретические значения функции, т. е. значения по-
Таблица 3.04. К вычислению отношения золотого сечения
X
У
X2
ух
У*
(у'—уУ
5
8
25
40
8,09
0,0081
8
13
64
104
12,94
0,0036
13
21
169
273
21,03
0,0009
21
34
441
714
33,98
0,0004
34
55
1 156
1870
55,01
0,0001
55
89
3 025
4 895
88,99
0,0001
89
144
7 921
12 816
144,00
0
144
233
20 736
33 552
233,00
0
233
377
54 289
87 841
377,00
0
377
610
142 129
229 970
610,00
0
610
987
372 100
602 070
987,00
0
987
1597
974 169
1 576 239
1 597,00
0
0,0132
следующего (у') члена ряда Фибоначчи по значению предыдущего (х). Эти величины записаны в столбце 5 табл. 3.04. Совпадение вычисленных и фактических членов ряда Фибоначчи удовлетворительное, особенно, начиная с членов 89/144 и дальше. Ошибка прогноза для вычисленного уравнения по формуле (3.04) ^=0,0132/(12—1) =0,0012, ^=1^0012=0,0346.
Уравнение прямой в отрезках
В исследовательской работе, особенно в области биологии, прямолинейные связи между различными изучаемыми факторами встречаются нечасто, во всяком случае реже, чем криволинейные. Однако в практической или хозяйственной деятельности они нередки. В частности, прямолинейная функция может быть полезной при решении ряда плановых, научно-организационных, финансовых и других вопросов. Рассмотрим некоторые возможные случаи применения так называемого уравнения прямой в отрезках:
xja+ylb—X,(3.20в)
где х, у— аргумент и функция; а, b— соответственно абсцисса и ордината точек пересечения прямой с осями координат.
Уравнением (3.20в) и особенно его графиком удобно пользоваться для решения часто повторяющихся однотипных задач на составление пропорций.
Пример 1. При постоянном объеме работ по уходу за растениями (прополка с рыхлением и полив), но при меняющейся численности садовых рабочих можно быстро определять сроки исполнения работ. Для этого начертим график, на оси абсцисс которого откладываем отрезок а, градуированный по числу рабочих, а на оси ординат — отрезок Ь, соответствующий срокам выполнения работ по принятым* нормам. На оси абсцисс (рис. 18) отрезок а=60 человек, а отрезок Ь=16 ч. Из рисунка видно,
что заданный объем работ за 4 в 45 человек, 30 рабочих — за 8что заданный объем работ за 4 в 45 человек, 30 рабочих — за 8Рис. 18. График уравнения прямой в отрезкахРис. 18. График уравнения прямой в отрезкахч выполнит коллектив рабочих ч. Подобный график помогает при контроле расхода средств или материалов оперативно получать информацию об их пе- рерасходе или экономии.
что заданный объем работ за 4 в 45 человек, 30 рабочих — за 8
что заданный объем работ за 4 в 45 человек, 30 рабочих — за 8
Рис. 18. График уравнения прямой в отрезках
Рис. 18. График уравнения прямой в отрезках
Пример 2. Для работы газонокосилки в ботаническом саду на 60 дней по норме отпущено 160 л бензина. Используя тот же график на рис. 18, видим, что через 15 дней работы остаток бензина должен быть равным 120 л, а через 52 дня — 20 л. Также можно
контролировать уменьшение с течением времени стоимости какой-либо машины вследствие износа (амортизация).
Решение уравнения (3.20в) относительно функции дает у= = Ь—(bla^x, где b— соответствует коэффициенту а0, а Ь[а— коэффициенту а^ в уравнении (3.01). Следовательно, уравнение графика на рис. 18 иначе можно представить так: у=16— — (16/60)х; f/= 16—0,266х, где для последнего примера коэффициент при х означает ежедневный расход бензина (2,66 л).
02.
УРАВНЕНИЕ МНОЖЕСТВЕННОЙ РЕГРЕССИИ
Аналитическим выражением многофакторных связей являются уравнения множественной регрессии. В рассматриваемом здесь примере о высоте растений, весе 1000 семян и урожайности сои связь между этими факторами оказалась в общем слабой. Более или менее целесообразным в данном случае было бы искать лишь параметры уравнения, выражающего зависимость веса семян о г двух других факторов:
у=а0 + atx + a2z,(3.21)
где у — функция, зависимая переменная, вес 1000 семян; а0, ць сь— коэффициенты уравнения; независимые переменные: х— высота растений, см, и z— урожайность сои, ц/га.
Для вычисления коэффициентов уравнения множественной регрессии по первому способу требуется решить систему трех нормальных уравнений, полученных по методу наименьших квадратов:
^y = a0N -Va^x-Va^z,
^yx = a0^x-V а^х1 + сц^гх,(3.22)
2yz = a02z + ^S^ + ^S22-
Необходимые для решения уравнений суммы вычислены в табл. 2.15:
2у = 2868, 2х = 839, 2^= I85412, Sx2 = 55869,
Syz = 57 737, S*2=I6 609, 2 z2 = 5458, 2 2 = 260.
Подставим эти суммы в систему уравнений (3.22):
2868=13^ + 839^ + 260^,
185412 = 839а0 + 55869at + 16609а2,
57737=260а0 + 16609а, + 5458а2.
Решим систему, состоящую из первого и второго уравнений, для чего разделим первое уравнение на 13, а второе — на
839 и вычтем из второго первое:1
_ 220,9916 = а0 + 66,589^ + 19,7962а2'
220,6154 = а0 + 64,5385а! + 20а20,3762 = 2,0515ах — 0,2038а2
Чтобы получить второе уравнение с двумя неизвестными, решим систему, состоящую из первого и третьего уравнений, для чего разделим первое уравнение на 13, а третье — на 260 и вычтем из третьего первое:
_ 222,0654 =а0 + 63,8808ai +20,9923а2
220,6154 = а0 + 64,5385ai + 20а2
1,4500 = —0,6577а! + о,9923а2
Теперь решим систему двух получившихся уравнений с двумя неизвестными:
0,3762=2,0515а,—0,2038а2
1,4500=—0,6577а, + 0,9923а2,
для чего разделим первое из них на 2,0515, а второе—на 0,6577 и. сложив полученные уравнения, найдем а2:
0,183378 = аг — 0,099342а2
+ 2,20465 = — aj + 1,50874а2
2,388028 = 1,409398а2; а2= 1,694367.
Подставляя значение а2 в первое уравнение из системы двух уравнений (п. 4) с двумя неизвестными, определим а,:
0,3762 = 2,0515а,—0,2038 • 1,6944, а, = (0,3762+0,3453)/2,0515= = 0,3517.
Подставляя в первое уравнение начальной системы значения а, и а2, найдем а0:
2868= 1 За0 + 839 • 0,3517+260 • 1,6944,
а0= (2868—295,0763—440,5440)/13= 164,030.
Уравнение регрессии ухг= 164,030+0,3517x4- l,69436z.
Проверка: подставляя в первое уравнение начальной системы значения а0, а, и а2, получаем 2868=13-164,030 + 839- -0,3517 + 260-1,69436 = 2132,3900 + 295,0763 + 440,5336 = = 2867,9999. Очевидно, что коэффициенты а0, а,, а2 определены правильно.
Ошибка уравнения множественной регрессии равна
где пц—ошибка теоретических значений функции у; a*, aV) аг— отклонения вариант рядов х, у, г от их средних арифметических:
«,, аг—коэффициенты уравнения множественной регрессии; N — объем ряда; п — число коэффициентов уравнения, включая свободный член.
Суммы отклонений ае, а„ а,:
а^х = 2 ух - NMgMx,(3.24)
а А = 2 У2 — NMyMz.
Пользуясь данными табл. 2.15, определяем средние арифметические рядов х, у, 2 по формуле (1.08):
М,= 839/13= 64,5384, ^=2868/13=220,615, ЛГг=260/13= = 20,0 и суммы 2У2 = 634 906, 2у^= 185 412, 2^ = 57 737.
Подставляя найденные величины в формулу (3.24), найдем:
4 = 634 906 — 13.220,6152 = 2183,2831,
ауах = 185 412 — 13 • 220,615 • 64,5384 = 316,1915,
а А = 57 737 — 13 • 220,615 • 20,0 = 377,100,
после чего определены все величины, необходимые для вычисления ошибки уравнения множественной регрессии по формуле (3.23):
ту = /[2183,2831—(0,3517.316,1915+1,6944.377,1)]/(13—3) = = ±11,971.
Таким образом, по уравнению yxz= 164,030 + 0,3517%+ + 1,69442 можно рассчитать вес 1000 семян, зная высоту растений и урожайность сои с ошибкой my= ± 11,97 г.
Способ 2. Из системы нормальных уравнений (3.22) можно получить коэффициенты множественного уравнения линейной регрессии следующим образом.
. Находим по данным того же примера (см. табл. 2.15) те же суммы [они приведены вслед за уравнениями (3.22)] и сред ние арифметические всех трех рядов данных [они приведены к формулам (3.24)].
. Определяем промежуточные величины:
А=Мх-^х^х, В = 2х3/2а:-2+22. C = BjA,
(3.25)
А = 64,53846—55869/839=—2,05152; В=55869/839— 16609/260= =2,70921; С=2,70921 / (—2,05152) = — 1,32059.
. Находим коэффициент уравнения при г:
_ с(мУ-2»х/2ж)-2ух/2х+2^/2гИ9_
с (м^~ 2zx/2х) - 2гх/2х+2 zVS2
а2 = [—1,32059(220,61538 — 185 412/839) — 185 412/839 +
+ 57 737/2601/1—1,32059 (20 — 16 609/839) — 16 609/839+ ;
+ 5458/2601 = 1,69437.;
. Определяем коэффициент уравнения при х:
а^^Мх^у — ^ух — а! (/И,2 2 — 2гх)]/^2 * ~ 2 x2) >
(3.27)
аг = [ 64,53846 • 2868 — 185 412 — 1,69437 (64,53846 • 260 — — 16 609)1/(64,53846 • 839 — 55 869) = 0,35174.
. Находим свободный член уравнения множественной регрессии:
я0 = му—а^Мх—агМг1(3.28)
а.=220,61538—0,35174 • 64,53846— 1,69437 • 20 = 164,02709, после чего все неизвестные коэффициенты определены и уравнение линейной зависимости веса 1000 семян у от высоты растения х и урожая сои г принимает конкретную форму:
у'= 164,027 + 0,35174х+ 1,69437г.
Подставляя в это уравнение соответствующие величины х и г, получим теоретические значения веса 1000 семян у', приведенные в столбце 4 табл. 3.05; сумма их разностей с эмпирическими значениями у, возведенных в квадрат 2 (у — у')2, подставленная в формулу (3.23), даст величину ошибки прогноза по этому уравнению ту= 11,9635, т. е. примерно ту же, что и по способу 1. Данные в табл. 3.05 ранжированы по у в отличие от данных табл. 2.15, где они не упорядочены.
Способ 3. По этому способу коэффициенты уравнения множественной регрессии находят через суммы квадратов и произведений отклонений от средней, что несколько сокращает расчеты, так как позволяет оперировать с меньшими по абсолютной величине числами. Данный способ может применяться в любых случаях, но особенно он рекомендуется, когда исходные данные представлены многозначными числами, а также когда одновременно желательно вычислить дисперсии, сигмы всех трех рядов и коэффициенты корреляции между ними. Рассмотрим технику расчетов по этому способу на том же числовом примере, что и в первых двух способах, описанных в данном параграфе.
Вычислим по данным табл. 3.05 средние арифметические наших трех рядов: Afy=220,62, Мх=64,538, Mz=20; и следую-
Таблица 3.05. Зависимость веса 1000 семян у от высоты растений х и урожайности г у сои. у’ —теоретические значения веса семян
X, см
z, ц/га
У» г
У\ г
2-мг
я-му
66
16
199
214,3
1,462
—4
-21,62
44
17
200
208,3
—20,538
—3
—20,62
77
15
210
216,5
12,462
—5
—10,62
63
20
212
220,1
—1,538
0
—8,62
62
19
217
218,0
—2,538
—1
—3,62
73
12
218
210,0
8,462
—8
—2,62
64
23
218
225,5
—0,538
3
—2,62
74
27
223
235,8
9,462
7
2,38
63
19
225
218,4
—1,538
—1
4,38
74
25
234
232,4
9,462
5
13,38
54
25
235
225,4
—10,538
5
14,38
43
25
235
221,5
—21,538
5
14.38
82
17
242
221,7
17,462
—3
21,38
+0,006
0
0,06
щие суммы (табл. 3.06):2(х — МхУ=\1<2.\,2,^у — 44^= 2181,2, 2 (z — 44г)2 = 258, 2(х-Мх)(у-44^ = 315,68, 2(г-44г)(у- -44^ = 377, S(x-44,)(z-44z) = -17L
Найдем вспомогательные величины:
2(2-Мг)2
В =",(3.29)
^кх-М^ (г-Мг)
В = 258/ (—177)=—! ,5088;
А = В 2 (х - Мху - 2 (X - 44,) (г - 44z),(3.30)
А=—1,5088 • 1721,2 +171 =—2426.
Коэффициент при х:
^ = ^ [в 2 U - ^ ку -М^-^kz- Мг) ку - 44,)], (3.31) av= =^26 1—1 ’5088 •315.68 — 377] = 0,35173.
1957*
Таблица 3*06. Вычисление сумм для определения коэффициентов уравнения множественной регрессии по способу 3
Мс-МхУ
U-МуУ
y-Mg)«
(х—Mx)(f/—Л1^)
(г-М2Ху-Му)
(x—Af ^ )(z—М g)
1
2
3
4
5
6
2,1374
467,42
16
—31,608
86,48
—5,848
421,81
425,18
9
423,49
61,86
61,614
155,3
112,78
25
—132,35
53,1
—62,31
2,3654
74,304
0
13,258
0
0
6,4414
13,104
1
9,1876
3,62
2,538
71,605
6,8644
64
—22,17
20,96
—67,696
0,28944
6,8644
9
1,4096
—7,86
—1,614
89,529
5,6644
49
22,52
16,66
66,234
2,3654
19,184
1
—6,7364
—4,38
1,538
89,529
179,02
25
126,6
66,9
47,31
111,05
206,78
25
—151,54
71,9
—52,69
463,89
206,78
25
—309,72
71,9
—107,69
304,92
457,1
9
373,34
—64,14
—52,386
1721,2
2181,2
258
315,68
377
—171
4. Коэффициент при z:
^х-М^у-М^^х-М^у-М^L S^-^S^-^Xy-^)
^х-М^у-М^
^х-М^у-М^
(3.32)(3.32)Л 2(x-M,)(?-Mz)
(3.32)
(3.32)
11721,2- 377 Qic со 1 сил л
а2 =315,68 = 1,6944.
5. Свободный член уравнения по формуле (3.28) а»=220,62—0,3517 • 64,538— 1,6944 • 20 = 164,03,
т. е. величины всех коэффициентов совпадают с полученными выше. Используя суммы из табл. 3.06, можно также вычислить по формуле (1.24) сигмы всех трех рядов и коэффициенты корреляции между ними по формуле (2.18): ох2= 1721,2/(13—1) = = 143,43; ох=11,976; о„2=2181,2/(13—1) = 181,77; оу= 13,482; ог2 = 258/(13—1) = 21,5; аг=4,6369; гхд= 315,68//1721,8 2181,2= = 0,16292; гхг = — 171//1721,2-258 = —0,2566; ггд = 377/ /"[/"258-2181,2 = 0,50254. Величины коэффициентов корреляции между этими же признаками совпадают с вычисленными в § 2.13 по другому способу.
Оцениваем достоверность значений найденных коэффициен- юв, или, точнее, достоверность их отличия от нуля:
(3.33)
t (а2)=t (а2)=(3.34)
t (а2)=
t (а2)=
где t^a^, Ца^—величины критерия Стьюдента, сравниваемые с табличными величинами (см. табл. 4П), при числе степеней свободы \ = N—3; ту—ошибка уравнения по формуле (3.23);
2 (к — МХУ, 2(2—^?)2—суммы квадратов отклонений величин х, z из табл. 3.06; гхг— коэффициент корреляции между рядами X, Z.
Величины критерия Стьюдента соответственно для коэффициентов сц и а2:
ад = тп^ KiWyo^o^W) = 1,179,
t ^ = -1^- ^258(1 —0,25662) = 2,199.
По табл. 4П при числе степеней свободы v=13—3 = 10 и на 95% доверительном уровне /=2,228, что больше обоих вычисленных величин /(а^ и /(я2). Следовательно, вес 1000 семян сои у существенно нс зависит ни от средней высоты растений х, ни от урожайности z. Причиной того, что влияние этих факторов на вес семян в данном случае нс доказано, является недостаточное число наблюдений.
В заключение заметим, что при исследовании комплексов признаков можно установить структуру их связей различными способами. Наиболее простым из них является способ троек признаков, когда исследуются взаимосвязи комплекса признаков во всех возможных их сочетаниях по три, а затем устанавливается структура связей по максимальным величинам корреляционных отношений и коэффициентов корреляции [Зайцев, 1978]. При этом исключаются многие побочные эффекты взаимодействия, о которых в настоящее время пока еще мало что известно, и сфера исследований не выходит за пределы реально доступного нам трехмерного пространства.
§ 3.03.
ПАРАБОЛА ВТОРОГО ПОРЯДКА
Подбор теоретической криволинейной функции, соответствующей данной эмпирической зависимости, пока не формализован и осуществляется главным образом на основании имеющегося опыта исследователя в этой области методом проб и ошибок. Наибольшую помощь при подборе кривых, в том числе и
Таблица 3.07. Вычисление сумм для определения коэффициентов уравнения параболы второго порядка методом наименьших квадратов
X е со и S
со х . S« * У к я
СО н кс
X2
Xs
X*
О £ к я
О) о
о о д к
КС X
ху
ух2
V
112
12 544
1 404 928
157 351 936
24,0
2688,0
301 056,0
22,97
95
9 025
857 375
81 450 625
17,6
1672,0
158 840,0
18,69
78
6 084
474 552
37 015 056
13,2
1029,6
80308,8
15,14
61
3 721
226 981
13 845 841
14,4
878,4
53 582,4
12,34
44
1936
85184
3 748 096
11,2
492,8
21 683,2
10,29
27
729
19 683
531 441
8,0
216,0
5 832,0
8,97
417
34 039
3 068 703
293 942 995
88,4
6976,8
621 302,4
88,40
парабол, оказывает сборник их графиков [Семендяев, 1933], воспроизведенных в § 3.16.
В биологии нередко применяется аппроксимация криволинейных эмпирических зависимостей параболой второго порядка, уравнение которой в общей форме:
у'=а0 + «1% + а2х2,(3.35)
где у'—функция, или зависимая переменная; х— аргумент, или независимая переменная; а0, а^ а2—коэффициенты уравнения.
Вычисление конкретных значений коэффициентов уравнения (3.35) и является содержанием работы по аппроксимации данной эмпирической зависимости параболой второго порядка. Попробуем посредством этой параболы отобразить зависимость между высотой растения и урожаем семян на нем у кориандра. Первичные данные были обработаны с построением корреляционной решетки (которая здесь не приводится) и вычислением эмпирической линии регрессии (по способу, приведенному в § 2.01). Значения последней и приняты в качестве исходных данных (табл. 3.07) для вычисления коэффициентов параболы, которые находят разными способами.
Способ 1. Применяя метод наименьших квадратов в его обычной форме, для определения коэффициентов уравнения (3.35) требуется решить систему нормальных уравнений:
a6N + aiS^4-ti22^2 = Si/.
а^х + а^х^ + а^х3 — ^дх,(3.36)
«oS^ + ^S^ + ^S^ = ^Ух2,
где а0, аь а2—искомые коэффициенты уравнения (3.35); N— число точек эмпирической линии регрессии; 2х» 2 *2> 2 х3, 2х4 > 2 У, 2ух, 'SiU^ — суммы, полученные в результате вычислений, выполненных в табл. 3.07.
Подставляя найденные суммы в систему (3.36), получаем:
6а0+417 а t+34039а2=88,4,
416а0 + 34039а ± + 3068703а2=6976,8,
34О39ао + 3068703а1 + 293942995а2=621302,4.
Решая эти уравнения относительно а0, at и а2, находим: а0 = = 8,41, av =—0,013937, а2=0,0012852. Уравнение (3.35) в конкретной форме:
у'=8,41—0,013937х + 0,0012852г2,
где у'—теоретические значения функции, т. е. веса семян с одного растения, г; х—аргумент, т. е. высота растений у кориандра, см.
В табл. 3.07, в последней колонке вычислены теоретические значения функции. Подобно тому, как это сделано в табл. 3.01, вычислим попарно разности (у—y'V возведем все разности в квадрат и получим их сумму ^(у— у')2 = 12,025. Применив формулу (3.04), определим ошибку уравнения параболы: ту= =У12,025/(6—3)=2,0 г. Точки пересечения параболы с осью ординат и осью абсцисс соответственно:
у = а0, х=(—ах±/а’ — 4а0о2)/(2а2).(3.37)
По формуле (3.37) подкоренное выражение (дискриминант) для данных по рассматриваемому примеру равно —0,043, т. е. отрицательному числу, поэтому точек пересечения с осью абсцисс у этой параболы не существует.
Абсцисса точки максимума (или минимума) параболы:
x= — (aj(2a2)),(3.38)
или для нашего примера:
х= — (—0,013937/ (2 • 0,0012852)) = 5,42.
Обозначения коэффициентов в формулах (3.37) и (3.38) те же, что и в формуле (3.35). Как видно из рис. 19, совпадение эмпирической линии регрессии с теоретической по параболе второго порядка нс совсем удовлетворительное. В § 3.04 показано, каким образом в подобных случаях можно улучшить качество аппроксимации, повышая порядок параболы.
Способ 2. Те же вычисления, которые сделаны по способу 1, можно представить в виде формул:
а _ NJJe--hcVVJHN^.^ ^д.
2с (с2— 26е — Ng) +^Ve2 ^gb1 ’
ai=Vdb—fN—a^cb—NeHKb2—Nc),(3.40)
a0= (d—atb—a2c)IN,(3.41)
где 6 = 2^ = 417; c = 2^2 = 34039; d = 2t/ = 88,4; e = 2*3 = = 3 068 703; / = 2 ^ = 6976,8; g = 2 ** = 293 942 995; /i=2^2= = 621302,4; N — объем совокупности; a0, ab a2—коэффициенты уравнения.
Рис. 19. Связь между высотой растения кориандра х и урожаем семян с него у
Эмпирическая (/) и теоретические линии регрессии:
— парабола второго порядка,
— парабола третьего порядка
Подставив указанные числовые значения из табл. 3.07 в формулы (3.39) — (3.41), получим коэффициенты: я2 = 0,00128; aY = =—0,01395; 00 = 8,41124, которые практически совпадают с найденными по способу 1. Величины ошибок уравнения, его дискриминанта, точки максимума по формулам (3.04), (3.37), (3.38) также равны найденным выше. Способы 1 и 2 целесообразно применять в случае малозначных величин х и у.
Способ 3. Этот способ целесообразно применять, когда величины х многозначные, а величины у—малозначные, шаг интервала в ряду х может быть как одинаковым, так и неравным во всех интервалах. Алгоритм заключается в следующем (числовой пример по тем же данным из табл. 3.07).
Вычислим среднюю арифметическую ряда х по формуле (1.08): Мх = (2 x^N= 417/6 = 69,5.
Кодируем варианты ряда х по формуле х0=х—Мх, получим 42,5; 25,5; 8,5; —8,5; —25,5; —42,5.
Вычислим суммы: d = ^y = 88А; h = ^yxo=7852\3; с = = 2^о= 5057,5; g = 2 4 = = 7 381 168,375; / = 2№ = 833> N = 6. Для вычисления этих величин при ручном счете следует составить таблицу, построение которой ясно из перечня сумм, и повторить расчеты 2 раза.
Найдем искомые коэффициенты в соответствии с обозначениями п. 1—3:
^2 = (d — Nh/c)/(c — Ng]c\ aY = /7с, ай = (d — a2c)/N, (3.42)
«1 = ^ —2c2Mx, a0 = a0A-Mx^Mxa^ — a1\ (3.43)
их величины совпадают с найденными выше: а/=0,1647; д0'= = 13,65. Квадраты разностей эмпирических и теоретических значений функции в данном примере следующие: 1,058; 2,237; 6,011; 10,243; 11,079, сумма этих величин равна 2(У — УТ = 12,023, и ошибка по формуле (3.04) составляет 2 г, что и по способу 1.
Способ 4. Этот способ как наиболее рациональный рекомендуется применять в большинстве расчетов коэффициентов парабол, но особенно в тех случаях, когда значения как х, так и у представлены двух-, трех- и многозначными числами. Желательно, чтобы варианты ряда х были отделены одинаковым шагом интервала, как в нашем примере, где они следуют через с=17. В табл. 3.08 вычислены суммы, необходимые для дальнейших расчетов.
В столбце 2 варианты ряда х кодированы по формуле, приведенной в его заголовке, где А— начальная (минимальная) варианта ряда.
Средняя арифметическая величин из столбца 2 по формуле (1.08): Мх (2Х')/^ = 15/6 = 2,5, где N = объем ряда.
Таблица 3.08. К вычислению коэффициентов параболы по способу 4 (4=27, с=17)
X
, х—А х =
с
Xq—X — Л^^
У
до=у—мд
2
*0
2
УоХо
УоХо
4
*0
1
2
3
4
5
6
7
8
9
112
5
2,5
24,0
9,27
6,25
57,94
23,18
39,0625
95
4
1,5
17,6
2,87
2,25
6,46
4,31
5,0625
78
3
0,5
13,2
—1,53
0,25
—0,38
—0,76
0,0625
61
2
—0,5
14,4
—0,33
0,25
—0,08
0,17
0,0625
44
1
—1,5
11,2
—3,53
2,25
—7,94
5,29
5,0625
27
0
—2,5
8,0
—6,73
6,25
—42,06
16,83
39,0625
15
0
88,4
-4-0,02
17,5
+ 13,94
+49,02
88,375
Из величин столбца 2 вычитаем их среднюю х0=х'—Мх и результаты записываем в столбец 3.
Средняя арифметическая ряда у по формуле (1.08): Му =
= (5 y\N = 88,4/6 — 14,73.’
Из величин столбца 4 вычитаем их среднюю Уь=у—Afy и < результат записываем в столбце 5.i
В столбце 6 записаны квадраты чисел из столбца 3.j
В столбце 7— произведения чисел из столбцов 5 и 6.i
В столбце 8 — произведения чисел столбцов 3 и 5.:
В столбце 9 — квадраты чисел столбца 6.
Суммируем числа столбцов 2—9.
И. Вычисляем первые промежуточные величины трех коэф- - фициентов параболы:
= (2 Уо^ДУ х40 — /V"1 (5 Хо)2] =(3.44)
= 13,94/(88,375 - (17,5)2/6] =0,3734,
= (УУо+Ухо = 49,02/17,5 = 2,8011,(3.45)
^ = Ца^х^Ы = -(0,3734 -17,5)/6 = —1,0891.(3.46)
Вычисляем вторые промежуточные величины двух коэффициентов:
аг = ^ — ^Мх = 2,8011 -2-0,3734.2,5 = 0,9341,(3.47)
ао = МУ + ао + Мх(а2Мх-- Oi)= 14,73 — 1,0891 +(3.48)
+ 2,5 (0,3734-2,5 — 2,8011) = +8,9719.
Вторую промежуточную величину коэффициента о2 вычислять не надо, так как она совпадает с его первой промежуточной величиной. Полученные величины коэффициентов на этом этапе вычислений уже можно использовать для получения теоретических значений функции при условии, что в уравнение будут подставлены кодированные величины аргумента х7=(х—А)/с, в нашем примере приведенные в столбце 2 табл. 3.08. Подставляя в уравнение t/' = 8,9719 + 0,9341х'+0,3734(х')2 значения х7, получим значения у', практически совпадающие с приведенными в последнем столбце табл. 3.07.
Если требуется получить уравнение, пригодное для вычислений у' по исходным значениям х, то производится дальнейшее преобразование коэффициентов:
я2 = ^/с2 = 0,3734/172 = 0,001292, (3.49)
^ = ^-2^4=0,9341/17—2-0,001292.27 =-0,01482, (3.50) -
а0 = ^ —4(^/с —а24) = 8,9719 — 27(0,9341/17—(3.51)
— 0,001292-27) = 8,4302,
что дает уравнение у'=8,4302—0,01482x4-0,001292х2, т. е. то же, которое было получено по способам 1—3.
В § 3.06 приведены алгоритмы вычисления уравнений парабол первого, второго и третьего порядка по способу сумм.
Определение точек пересеченияпарабол второго порядка
Методика расчета точки пересечения двух парабол пригодна для определения критических точек двух процессов, переходящих один в другой, например широтных изменений средней температуры в Северном и Южном полушариях земли. Исходя из уравнений парабол У1 = а^Ьхх^сххг. у2=а2-^-Ь2х-^-с2х2 абсцисса точки пересечения их кривых
3.52)3.52)_ (^2 — ^1) ± / (Ь1 — Ь2у — 4 (^ — с2) (аг — а2) 02 (q — с2)
3.52)
3.52)
Ординату у0 точки пересечения парабол получим, подставив х0 в любое из двух исходных уравнений.
Приведем пример расчета. При определении зоны оптимума для наибольшего накопления массы растительности в связи с некоторыми вопросами интродукции предполагается, что эта зона расположена около термического экватора (ТЭ) Земли, где аборигенные растения находятся в зоне комфорта, так как обеспечены максимальным количеством света и тепла. Однако положение ТЭ известно до сих пор весьма приблизительно и количественные данные об этой важной геофизической константе Земли расходятся. По данным справочной литературы, среднегодовая температура воздуха (в °C) на соответствующих градусах широты равна: в Южном полушарии: 90° ю. ш.— минус 32,6, 80 — минус 21,9, 70—минус 12,2, 60 — минус 3,4, 50—4,4, 40— 11,3, 30—17,2, 20—22,1, 10° ю. ш.— 26,1; в Северном полушарии: 10° с. ш,— 28,2, 20—23,6, 30—18,5, 40—12,7, 50—6,4, 60--минус 0,54, 70 — минус 8, 80 — минус 16,1, 90° с. ш.— минус 24,8. Коэффициенты парабол по этим данным равны для Южного полушария: а^ =—32,606, bi= 11,173, cY =—0,47929; для Северного полушария: а2 = 41,619, Ь2 = 1,5905, с2 =—0,29332. Подставляя величины найденных коэффициентов в формулу (3.52), получим абсциссу х0=4,97°^5° с. ш., что соответствует положению ТЭ по использованным данным. Причина, вызывающая более холодный климат Южного полушария известна — это преобладание в нем океанических масс; в Северном полушарии выше, чем в Южном, процент суши от общей его площади. Найденная величина ТЭ не является постоянной, она колеблется в зависимости от различных циклов изменения средней температуры воздуха на земле. В свою очередь, систематическое, например ежегодное, определение положения ТЭ могло бы помочь в идентификации тех или иных сдвигов параметров климата Земли. Преимуществом предлагаемого метода определения ТЭ являются его
Рис. 20. Определение точки пересечения парабол / и 2
точность и учет одновременного влияния метеонаблюдений из всех регионов Земли, использованных для расчетов ТЭ.
На рис. 20 пунктиром показан перпендикуляр, опущенный из точки пересечения парабол на ось абсцисс, где точка ТЭ соответствует положению термоэкватора. Уравнения линий 1 и 2 дают значения среднегодовой температуры воздуха при подстановке в них х, равных для уравнения 1 от 0 до 9, а для уравнения 2— от 9 до 18. Эти условные градусы широты, приведенные также на рисунке, соответствуют значениям через 10° от 90°ю. ш. до 90° с. ш. Экватору соответствует при этом условная широта 9.
04.
ПАРАБОЛА ТРЕТЬЕГО ПОРЯДКА
Если при аппроксимации криволинейной зависимости оказалось, что парабола второго порядка неудовлетворительно совпадает с эмпирической линией регрессии, то можно попытаться улучшить это совпадение, применяя уравнение параболы третьего порядка (или кубической параболы):
у'=а0 + avx + а2х2 + а3х\ (3.53) где у'—функция; а0—а3—коэффициенты уравнения; х— аргумент.
При определении коэффициентов уравнения (3.53) методом наименьших квадратов вычисления становятся слишком гро- моздкими, поэтому для нахождения коэффициентов уравнения кубической параболы рекомендуется применять метод П. Л. Чебышева, или способ сумм (§ 3.06). Некоторые графики парабол приведены в § 3.16. Рассмотрим вычисление коэффициентов уравнения методом Чебышева на данных по кориандру из предыдущего параграфа. Особенность этой схемы расчета состоит в том, что варианты ряда аргумента должны быть расположены через равные интервалы, т. е. с одинаковым шагом.
Таблица 3.09. Вычисление коэффициентов параболы третьего порядка по методу Чебышева
Расчетные
Высота растений х
Суммы
27
44
61
78
95
112
величины
Вес семян с одного растения у
2<7=88,4
8,0
11,2
14,4
13,2
17,6
24,0
/1
—5
—3
— 1
+ 1
4-3
+5
£/Но
/*2
4*5
—1
—4
—4
— 1
+5
2/1=84
/з
—5
+ 7
4-4
—4
—7
+5
2/1=180
Ук
—40,0
—33,6
—14,4
4-13,2
52,8
120,0
2№=93-0
УН
40,0
— 11,2
—57,6
—52,8
—17,6
120,0
2-//2=20,8
У!з
—40,0
78,4
57,6
—52,8
—123,2
120,0
2у/з=40,0
aji
—7,0
—4,2
—1,4
1,4
4,2
7,0
а^к
1,238
—0,2476
—0,9904
—0,9904
—0,2476
1,238
азк
-1,111
1,5554
0,8888
—0,8888
—1,5554
1,111
У'
7,83
11,87
13,32
14,43
17,44
24,58
\у—у'\
0,17
0,67
1,08
1,23
0,16
0,50
ку—у’?
0,0289
0,4489
1,1664
1,5129
0,0256 0,2500
2=3,4327
Эмпирическая линия регрессии в данном случае состоит из шести точек. В табл. 23П приведены числа Чебышева, при помощи которых можно вычислить коэффициенты уравнений параболы первого (прямая линия), второго и третьего порядков. Из раздела 6 (число точек эмпирической линии регрессии) табл.23П выписываем числа Чебышева /ь /2, /3 и их суммы в табл. 3.09.
Умножаем значения у поочередно на соответствующие им /ь /2 и /3; получаем в шестой строке сверху 8,0-(—5)=—40,0; 11,2-(—3) =—33,6 и т. д. Произведения yj{, yU, УЬ суммируем по строкам.
Находим условные значения коэффициентов уравнения:
а» = ®^N = 88’4/6 = 14’733: ^ = (^ Wi)/2/i =
= 98,0/70=1,40;
(3.54)
4= (5 у\№ /2 = 20,8/84 = 0,2476; а, = (5 ///3)/2 b =
= 40,0/180 = 0,2222.
Перемножаем условные коэффициенты 0/, а2', а2 на соответствующие числа /\, /2, /з и результаты записываем в строках 9, 10, 11 (сверху): 1,4. (—5) =—7,0; 1,4-(—3) =—4,2 и т. д.
Вычисляем теоретические величины функции, для чего суммируем по вертикали (в строках 9, 10, 11) следующие числа: y^ao' + a/ji + ^A + ^b, например: у'= 14,733—7,0+1,238— — 1,111=7,86; /=14,733—4,2—0,2476+1,5554=11,8408 и т. д.
Для определения величин истинных коэффициентов уравнения выпишем четыре любые равноотстоящие (или рядом стоящие) величины у' и х и образуем систему уравнений следующего вида:
11,84=а0 + 440! + 193б02+85184а3,
13,23=0О +610i + 372102 + 22698103,
14,25 = 0О + 7801 + 6084аа+47455203,
17,13=а0 + 95^! + 9О2502 + 85737503.
Числа при 02 и 03 представляют собой соответственно квадраты и кубы рядом стоящих величин х: 44, 61, 78, 95.
Вычитая предыдущее значение у' из последующего, образуем столбец 1 табл. 3.10: 13,23—11,84=1,39 и т. д. В столбце 2 записаны разности величин аргумента при коэффициенте 0t: 61—44 = = 17, 78—61 = 17, 95—78=17. В столбце 3 — разности чисел: последующее минус предыдущее при коэффициенте 02, то же самое записано в столбце 4 для чисел при 03 (см. систему четырех уравнений выше). В столбце 5 — разности чисел из столбца 1, в 6 — разности чисел столбца 3, в 7 — разности чисел столбца 4, в 8 — разности чисел столбца 5, в 9 — разности чисел столбца 7. Во всех случаях в табл. 3.10 вычитается вышестоящее число из нижестоящего.
Истинные коэффициенты уравнения находим, решая следующие выражения:
03 = (А"/)/(Л'У) = 2,23/29478 = 0,00007565(3.55)
02 (Д"у' - 03AY)/(AY) =
= (—0,37 —0,00007565-105774)/578 = —0,014512,
aY = ^у' — 02 А'х2 — 03A'x3)/(A'x) =
= ( 1,39 + 0,014512 • 1785 — 0,00007565 -141797)/17 =
= 0,974528,
0О = / — ахх — 02х2 — 03х3 =
= 11,84 — 0,974528- 44 + 0,014512-1936 —
— 0,00007565 -85184 = — 9,3882.
Уравнение (3.53) в результате получает следующую конкретную форму: у'=—9,39 + 0,974х—0,0145х2 + 0,000076л3. Для вычисления теоретических значений функции уравнение (3.53) лучше представить в форме /=0о + х[01+х(02 + 03х) ].
Таблица 3.10. Таблица приращений для вычисления коэффициентов уравнения кубической параболы по методу П. Л. Чебышева
Му'
А'х
А'х2
А'х3
^’у’
А"х2
А"х3
^”у'
А'"х3
1
2
3
4
5
6
7
8
9
1,39
17
1785
141 797
—0,37
578
105 774
2,23
29 478
1,02
17
2363
247 571
1,86
578
135 252
—
2,88
17
2941
382 823
—
—
—
—
—
Теоретические значения функции, их разности с фактическими значениями (у—у') и квадраты последних (см. табл. 3.09) необходимы для вычисления ошибки прогноза по формуле (3.04) по данному уравнению: ту=]/3,4327/(6—4) = 1,7. Линия 3 на рис. 19 соответствует уравнению параболы третьего порядка и ближе отражает эмпирическую зависимость (линия /), чем парабола второго порядка (линия 2). Ошибка теоретического уравнения регрессии также уменьшилась: с 2,0 (см. § 3.03) до 1,7.
Методика вычисления по способу П. Л. Чебышева коэффициентов уравнений парабол, которые заданы рядами с неодинаковым шагом по аргументу, приводится в книге В. И. Хотимского [1959].
Точка пересечения параболы третьего порядка с осью ординат равна у=х0, абсцисса ее точки максимума и точка перегиба
х = (—у2 — V аХ — З«3а1)/(3а3),(3.56)
х=-[а2/(За3)],(3.57)
где обозначения те же, что и в формуле (3.53).
В рассматриваемом примере парабола не пересекается с осью абсцисс, так как при подстановке значений коэффициентов в формулу (3.56) в подкоренном выражении получается отрицательное число. Абсцисса точки перегиба
х= — (—0,0145/3*0,000076) =63,6 см.
§ 3.05.
ОБРАЩЕННАЯ ПАРАБОЛА
Зависимость изменений интенсивности физиологических функций или морфологических особенностей организма от количественного изменения какого-либо экологического фактора, например тепла, нередко можно выразить кривой, уравнение которой
у'=х] (а0 + а^х + а2х2),(3.58)
где у'—теоретическое значение функции; х — аргумент; а0, аь а2—коэффициенты уравнения. Графики кривой этого вида приведены в § 3.16.
Свое название эта кривая получила в связи с тем, что она легко может быть приведена к уравнению параболы второго, третьего или более высокого порядка делением на х обеих частей уравнения с одновременным их обращением, после чего уравнение (3.58) принимает вид х\у = ай-\-ахХ-Уа2хг\ обозначив уй = х!у, получим уравнение параболы второго порядка.
Конкретные значения коэффициентов можно находить способом наименьших квадратов (см. способ 2), однако для той же цели применяют также и более простой метод средних.
Способ 1. Посредством метода средних выровнена зависимость прироста (в мм) грибницы плесневого гриба Coniophora cerebella от температуры. Измерения длины грибницы производились через каждые2сут. Вычисления, приведенные в табл. 3.11, выполняются в следующем порядке.
Величины х делим на соответствующие им у (столбец 3).
Выбираем пару значений xt (из столбца 1), {х!у^ (из столбца 3) в качестве избранной точки, в данном случае xt = 15; (xjy) 4=0,9375, и поочередно вычитаем число 15 из всех чисел столбца 1 и число 0,9375 из всех чисел столбца 3.
Числа столбца 5 поделим на соответствующие им числа столбца 4.
Для нахождения коэффициентов ах и а2 применяются уравнения:
У — = па + а4 У х, У — =па + а4 у х, (3.59) 1 ха12 ха2
ax = aY-V ОД,
где 21л — — сумма вариант верхней части ряда в столбце 6, в 1 ха
данном случае она равна 0,23484; V —— сумма нижней, остав- Ха
шейся части того же ряда из столбца 6, в данном случае она равна 1,05854; nt = 5 — число вариант, суммированных в верхней части столбца 6; п2=4— число вариант, суммированных в ниж ней части столбца 6; 21х==75— сумма соответствующих вариант верхней части ряда х из столбца 1; ^2а:=150— сумма соответствующих вариант нижней части ряда из столбца 1; а/— условное значение коэффициента а^ aVl а2—коэффициенты уравнения (3.58) . Заметим, что ряды в столбцах 1 и 6 могли бы быть разделены на любые две части; лучше, если они будут приблизительно равными; Xj= 15 — абсцисса избранной точки.
Подставим найденные суммы в уравнения (3.59):
0,23484 = Ьак + 75а2, 1,05854 = 4^+150д2.
Таблица 3.11. К вычислению коэффициентов уравнения обращенной параболы по методу средних
Температура х, °C
Прирост У» мм
х/у
ха=х—15
Уа=х!у—0,9375
У а) ха
У'
W—yY
X2
5
5
1
—10
0,0625
—0,00625
3,59
1,9881
25
10
11
0,9091
—5
—0,0284
0,00568
11,07
0,0049
100
Х!=15
16
(x/i/)1=0>9375
0
0
0
16,73
0,5329
225
20
15
1,3333
5
0,3958
0,07916
14,56
0,1936
400
25
10
2,5000
10
1,5625
0,15625
10,71
0,5041
625
—
—
—
—
У а
У —=0,23484
—
—
—
30
8
3,7500
15
2,8125
0,18750
7,94
0,0036
900
35
6
5,8333
20
4,8958
0,24479
6,13
0,0169
1225
40
5
8,0000
25
7,0625
0,28250
4,93
0,0049
1600
45
4
11,2500
30
10,3125
0,34375
4,09
0,0081
2025
S2x=150
—
—
—
—
У--1,05854
—
—
—
2^=225
- 2
1^=35,5132
—
—
—
—
3,2571]
^х2=7125
Решая эти уравнения с учетом того, что а/=а1 + 15а2, полу-' чаем: а2=0,0096741; а/=—0,098143; at =—0,24325.
Величину коэффициента а0 найдем из уравнения параболы второго порядка:
— = ^0+^2^4-022%2’<3-60)
У1
где 2~сумма величин столбца 3; N— объем выборки; а0, у
аь а2—коэффициенты уравнения (3.58); 2х"“сУмма величин столбца 1;2%2— сумма квадратов величин столбца 1, в данном случае она равна 7125 (столбец 9).
Подставим суммы из табл. 3.11 в уравнение (3.60) : 35,5132= - = 9а0 + (—0,24325)-225 + 0,0096741-7125; отсюда а0 = 2,3686.:
Итак, зависимость прироста грибницы от температуры окру- 1 жающей среды может быть аппроксимирована уравнением
/=х/(2,3686—0,24325х + 0,0096741*2).;
Для определения ошибки данного уравнения вычислены по ; нему теоретические значения функции у' (столбец 7), а затем : квадраты их разностей с эмпирическими данными (столбец 8). : Подставим сумму столбца 8 в формулу (3.04): ту= | =УЗ,2571/(9—3)=0,74 мм, что и составляет ошибку прогноза | прироста грибницы по уравнению обращенной параболы j (рис. 21). Абсцисса точки максимума этой кривой
x = Va6ia»>(3.61);
где обозначения тс же, что и в формуле (3.58). Для рассмотренного примера абсцисса точки максимума х=У2,3686/0,00967= = 15,6.
Если кривая, найденная методом средних, не даст удовлетворительного совпадения с эмпирическими данными, следует попытаться улучшить качество аппроксимации путем повторения вычислений с другой парой избранных точек. В данном случае | эти точки были выбраны сравнительно удачно, так как ошибка j прогноза невелика.I
Способ 2. По способу наименьших квадратов и с преобразо- • ванием исходных данных коэффициенты обращенной параболы 1 вычисляются следующим образом.
Приведенные в столбцах 1, 2 табл. 3.12 величины аргумен- • та делим на значения функции и результаты (уъ=х)у) записываем в столбце 3.
Для сокращения вычислений преобразуем величины х по i формуле х'=^х—А)/с, где х'—преобразованные, а х—исход- ные величины; А — начальное значение ряда х, который при | этом способе должен представлять собой арифметическую про- - грессию с разностью членов, равной с. В нашем примере А=5, с = 5.
Рис. 21. Зависимость прироста грибницы у' (в мм) от температуры среды х (в °C)
/ — эмпирические данные; 2 — теоретическая кривая
Найдем среднюю арифметическую по формуле (1.08) ряда х* :M1=(Sx,)z^ = 36/9=4. Объем исходных рядов данных N=9.
Преобразуем величины х' в х» по формуле хй=х'—Мь результаты запишем в столбце 5.
В столбцах 6 и 7 записаны квадраты и четвертые степени величин х0.
Таблица 3.12. К вычислению коэффициентов обращенной параболы по способу 2
X
1
у
УЬ
X*
^0
2
*0
4
*0
У»
УоХ»
2 thx0
У'
2
3
4
5
6
7
8
9
10
н
5
5
1
0
—4
16
256
—2,9459
11,7836
—47,1344
4,35
10
11
0,90909
1
—3
9
81
—3,0368
9,1104
—27,3312
13,1
15
16
0,9375
2
—2
4
16
—3,0084
6,0168
—12,0336
17,8
20
15
1,33333
3
—1
1
1
—2,6126
2,6126
—2,6126
14,4
25
10
2,5
4
0
0
0
—1,4459
0
0
10,4
30
8
3,75
5
1
1
1
—0,1959
—0,1959
—0,1959
7,75
35
6
5,8333
6
2
4
16
1,8874
3,7748
7,5496
6,03
40
5
8
7
3
9
81
4,0541
12,1623
36,4869
4,87
45
4
11,25
8
4
16
256
7,3041
29,2164
116,8656
4,06
—
—
35,51325 36
0
60
708
0,0001
74,481
71,5944
—
Вычислим среднюю арифметическую по формуле (1.08) ряда уь".
М2 = (2 Уь^/N = 35,51325/9 = 3,9459.
Преобразуем величины уь в у0 по формуле yQ — yb—Мг (столбец 8). С величиной у0 произведены вычисления, понятные из заголовков столбцов 9, 10.
Найдем коэффициенты параболы для величин х0, у» по формулам (3.44), (3.45), (3.46):
^/=71,5944/(708—6079) =0,23245, а/=74,481/60= 1,24135,
а^ =— (0,23245-60)/9=—1,54967, что дает уравнение
у0 =—1,54967+1,24135х0 +0,23245х02, по которому с помощью выражения
t/ = xl(y0-VM2)(3.62)
можно найти теоретические значения функции уравнения обращенной параболы, где х0 = (х—А)/с—Mv.
Если требуется получить коэффициенты уравнения обращенной параболы в размерности для исходных данных, то далее вычислим:
ай — а0 + Мх (а2Мг — ^i) 4~ А [я2 (2М! + Alc^ — а\\! с + Л12, (3.63)
^i = [^i — 2^2 VAlc + MJJ/c, а^ = а^с2,
а.= —1,54967 + 4(0,23245-4 — 1,24135) + 5(0,23245(2-4 + + 5/5) — 1,24135 ] /5 + 3,9459=2,0005,
а. = (1,24135—2 • 0,23245 (5/5 + 4)) /5=—0,21664,
я2 = 0,23245/52 = 0,00 9 2 98, что дает уравнение обращенной параболы для исходных данных у'=х/(2,0005—0,21664% + + 0,009298%2).
Заметим, что удобнее вычислять теоретические значения функции обращенной параболы по любой из двух формул:
у'= 1/(а0/х+а14-^2х),(3.64)
у'=х/[а0 + %(Я1 + я2%)].(3.65)
Теоретические значения функции для нашего примера даны в столбце 11 табл. 3.12, их ошибка по формуле (3.04) ту= = ]/8,6283/(9—3) = 1,2.
06.
ВЫЧИСЛЕНИЕ КОЭФФИЦИЕНТОВУРАВНЕНИЙ ПАРАБОЛ СПОСОБОМ СУММ
Рассматриваемые в этом параграфе схемы вычисления эффективны при использовании как автоматических, так и ручных средств счета, в последнем случае с применением специальных
таблиц. Ряды аргумента могут быть с четным и нечетным числом вариант, более желателен второй случай, при котором несколько сокращаются расчеты. Варианты ряда аргумента должны располагаться через равные интервалы. Существенно сокращает вычисления предварительное приведение рядов аргумента и функции к малозначным числам 0, ±1 порядка, что всегда несложно сделать при помощи простейших арифметических преобразований. По приведенным способам сумм можно сравнительно легко рассчитать три уравнения парабол: первого, второго и третьего порядка. При этом благодаря системе поэтапной проверки вычислений в значительной степени гарантируются правильные результаты. Алгоритмы способа сумм для четных и нечетных (по числу вариант) рядов различаются, поэтому рассмотрим их отдельно на биологических примерах.
а. Ряд с нечетным числом вариант. В первых двух столбцах табл. 3.13 приведены числа, отражающие зависимость числа побегов (z/zz) от числа соцветий (xz) на растениях гелениума осеннего. Как это было рекомендовано, приведем указанные величины по возможности ближе к 0, ± 1 порядку, для чего число побегов в столбце 4 выразим в десятках (y=t//z/10). Число соцветий преобразовано в столбце 3 по формуле х= (xz—А^]с = = (xz—486)/134, где х— преобразованные, а х'—исходные величины аргумента; А — центральное число ряда х'\ с —классовый интервал ряда хг. В соответствии с данным алгоритмом преобразование величин ряда функции желательно, а указанное преобразование ряда аргумента обязательно.
Дальнейшие действия в столбцах 5—8 являются четырехкратным суммированием величин у. Поставим семь черточек, начиная с центральной, нулевой строки, так, как показано в таб-
Таблица 3.13. Вычисление сумм произведений функции (для нечетного N)
Число соцветий х’
Число побегов if
X
У
У1
У2
^3
У»
1
2
3
4
5
6
7
8
84
4,1
—3
0,41
0,41
0,41
0.41
0,41
218
6,9
—2
0,69
1,10
1,51
1,92
—
352
9,7
—1
0,97
2.07
3,58
—
—
486
10,1
0
1,01
—
—
—
—
620
12,4
1
1,24
5,28
11,92
21,16
33
754
14,4
2
1,44
4,04
6,64
9,24
11,84
888
26,0
3
2,6
2,6
2,6
2,6
2,6
с = 134
к = 7
0
8,36
Pi
2,07
3,58
1,92
0,41
Qi
5,28
11,92
21,16
33
лице. Затем в верхней и нижней строках повторяем крайние ва- * рианты ряда функции: 0,41 и 2,6. Суммирование во всех столб- : цах ведется по направлению от крайних к центральной строке: ' 0,41 + 0,69= 1,10; 1,10 + 0,97=2,07 — суммирование прекращаем, так как в следующей клетке — черточка. В нижней части столбца 5 числа получены так: 2,6+1,44=4,04; 4,04+1,24=5,28. Так же получены числа в остальных столбцах 6—8.•
Выписываем внизу таблицы нижнее число (р^ верхней половины и верхнее число (уЭ нижней половины каждого столбца и вычисляем суммы произведений функции: 2У— Р1 + Ч1 + У0™ 1 = 2,07 + 5,28+1,01=8,36. Сравниваем результат с суммой вари- ' ант ряда у, они должны совпасть; у0 здесь обозначает централь- ■ ную варианту ряда у.>;
2 ху = q^ — ра = 11,92—3,58 = 8,34,2
2 х^у = 2 (р3 + q^ - 2 ху = 2 (1,92+21,16)-8,34=37,82^(3.66) ■
2 ^У =[(?4 - р^ - ^Р» + Рз)16 + 2 ху = [(33-0,41) -\
— (1,92+21,16)1.6+8,34 = 65,4.i
Проверяем вычисление сумм функций, для чего повторяем его по иному способу, который можно использовать при желании и как основной.
В табл. 3.14 суммирование производится так же, но в центре таблицы располагаются симметрично девять черточек. В нижних строках таблицы: суммы верхних ^ ) и нижних ^н) поло"
Таблица 3.14. Проверка вычисления сумм произведений функции (для нечетного
X
У
tit
tii
«Л
1
2
з *
4
5
—3
0,41
0,41
0,41
0,41
—2
0 69
1,10
1,51
i
—1
0,97
2,07
—
—
0
1,01
——
—
1
1,24
5,28
—
2
1,44
4,04
6,64
—
3
2,6
2,6
2,6
2,6
2в
—
3,58
1,92
0,41
2Н
11,92
9,24
2,6
8,36
15,5
11,16
3,01
d:
——
8,34
7,32
2,19
вин столбцов, суммы (s) и разности (d) сумм верхних и нижних половин столбцов. Суммы произведений функции находим по формулам:
2 У ~ so ~ 8,36; 2 ^У ~ di ~ 8,34,
2^2У = 2s2 + Si = 2-11,16+15,5 = 37,82,(3.67х
2%^ = 6 (d3 + d2) + <4 = 6 (2,19+7,32) + 8,34 = 65,4.
Величины сумм совпали с найденными по формулам (3.66), следовательно, их вычисление выполнено правильно.
Коэффициенты уравнений парабол первого, второго и третьего порядков находим при помощи табл. 24П, откуда берем величины множителей Mt—Л48 для данного ЛГ=7. Парабола первого порядка (прямая линия):
а0 = ^2+ = 0,14286-8,36 = 1,1942,
аг = М2 2 ху = 0,035714 • 8,34 = 0,29785,(3.68)
у* = 1,1942+0,29785%.
Парабола второго порядка:
«о = м 3 2 У — М4 S хйу = 0,33333.8,36—0,047619 - 37,82 =
= 0,98569;
^ = М2 2 ху = 0,035714 • 8,34 = 0,029785,(3.69)
а8 = ^s 2 х2у — М4 2 У = 0,0119048 • 37,82—0,047619 • 8,36 =
= 0,052145,
у' = 0,98569+0,29785%+0,052145%2.
Парабола третьего порядка:
а0 = ^з 2 У — М4 2 х^у = 0,33333 • 8,36 — 0,047619 • 37,82 =
= 0,98569;
«г = Мв 2 ху — М, 2 х^у = 0,26257 • 8,34 — 0,032407- 65,4=
=0,0704,(3.70)
«2 = М5 2 х»у — М4 2 У = 0,0119048 • 37,82 — 0,047619 - 8,36 =
= 0,052145,
aa = М8 2 ^у — М7 2 ху = 0,0046296 - 65,4 — 0,032407 • 8,34 =
= 0,0325,]
у' = 0,98569 + 0,0704% + 0,052145%2 + 0,0325%3.
Во всех трех уравнениях х=0, ±1, ±2, ±3...
При отсутствии таблиц или при счете на ЭВМ множители М,—М8 для нечетного числа вариант в ряду можно вычислить по формулам:
M^MN, /И2=12/^(№-1)], М3 = [3(3№—7)]/[4^(№-4)], М4 = 15/[М (№-4)],М5 = 180/[^ (№-1) (№-4)],(3.71)
М6 = {25 [№ (№—18) + 31 ]}/[М (№-1) (№—4) (№—9)], М7 = [ 140 (3№—7)l/[^ (№—1) (№—4) (№—9)1, М8 = 2800/[ N (№—1) (№—4) (№—9)], где N — объем ряда.
Вычисление множителей Mt—М8 можно проверить:
Мх = 1/^М2 = 1/2 х\ М3 = (2 ^D3,
М4 = (2 ^/D4, М6 = N/Dz, М8 = (2 x«)/D3,
м7 = (2 X^D3, м8 = (2 X^D3,(3.72)
где D2, D3—определители распределения ряда натуральных чисел, их величины приведены в табл. 25П, для которой они вычислены по формулам:
D2 = [№(/V—1)(№—4)]/180, Ds = [№(№—!)(№—4).
•(№—9)1/33600.(3.73)
Вычисление определителей можно также проверить:
D2 = ^2x‘-(2x2)2, d3 = 2x22^6-(5M2-(3-74)
Суммы степеней отклонений натуральных чисел от их средней приведены в табл. 25П, или'они могут быть вычислены для нечетного N в следующих формулах:
2х2= [М(№— 1)]/12,2^ = (2^2)(3^2- 7)/20,
(3.75) 2х6 = (2’х2) [3№ (№ —6)+311/112,
и для четного N:
2 X2 = 1ЛГ (№ - 1)]/3,2 ^ = (2 *2) (3№ -- 7)/5,
(3.76)
2 X6 = (2 х2^ [3№ (№ - 6) + 31 ]/7.
Вычисление коэффициентов парабол, приведенное в предыдущем пункте, проверяем с помощью табл. 25П по следующим формулам.
Парабола первого порядка (прямая):
«0 = (2 у)/^> ai = (2 ху^ х\^^
а0=8,36/7 = 1,194,а, =8,34/28=0,2978.
Парабола второго порядка:
а0 = (2 у 2 -^—2 х^у 2 х^ю4,а, = 5 ху*^ хй,
(3.78)
а2 = (^ 2 х4у— 2 у 2 x^d2,
а0 = (8,36 • 196—37,82 •28)/588=0,9857,
а, = 8,34/28=0,2978,а2 = (7 • 37,82—8,36 • 28) /588=0,052143.
Парабола третьего порядка:
«о = (2 у 2 х?*—2 х2у 2 ^2)/^2.
«г = (2 ХУ^ х® — 2 х3у 2 x^/d3,
(3.79)
й2 = (^ 2 х^у— 2 У 2 x^jD^
Оз = (2х22л3У— ^x^xy^Da,
а0 = (8,36 • 196—37,82 • 28) /588=0,9857,
av = (8,34 • 1588—65,4 • 196) /6048=0,070357,
а2 = (7 • 37,82—8,36 • 28) /588=0,052143,
а2 = (28 • 65,4— 196 • 8,34) /6048=0,0325.
По найденным уравнениям парабол удобно вычислять теоретические значения функции, представив их в виде:
t/<=6z0 + x(a1 + a2x) —парабола второго порядка;
y'z^ao-VxVcit + x^ + asX)^—парабола третьего порядка, где х = 0, ±1, ±2, ±3...
В табл. 3.15 приведено вычисление теоретических значений функции кубической параболы, представленной в форме последнего уравнения, для рассматриваемого примера. В столбце 6 записаны теоретические значения числа побегов гелениума, которые хорошо соответствуют их эмпирическим значениям (см. столбец 4 табл. 3.13). Теоретические значения функции, вычисленные по уравнению параболы первого порядка (^'=1,194 + + 0,298.x): 0,3; 0,6; 0,9; 1,2; 1,5; 1,8; 2,1, а по уравнению параболы второго порядка [#'=0,985 + ^(0,298 + 0,052х) ]: 0,56; 0,60: 0,74; 0.98; 1,33; 1,79; 2,35.
Ряд с четным числом вариант.
Таблица 3.15. Вычисление ^ по уравнению параболы третьего порядка
а3х
(O+^S
(2)*
(3)4*^i
(4) х
(5)4-Оо = У’
X
0,0325х
(1)4-0,052143
(3)4-0,070357
(5)4-0,98569
1
2
3
4
5
6
7
—0,0975
—0,04536
0,13608
0,20644
—0,61932
0,36637
—3
—0,065
—0,01286
0,02572
0,096077
—0,19215
0,79354
—2
—0,0325
0,01964
—0,01964
0,050717
—0,050717
0,93497
—1
0
0,052143
0
0,070357
0
0,98569
0
0,0325
0,08464
0,0864
0,156757
0,156757
1,14245
1
0,065
0,11714
0,23428
0,30464
0,60928
1,59497
2
0,0975
0,14964
0,44892
0,519277
1,55783
2,5435
3
Таблица 3.16. Суммы произведений функции для вычисления кубической параболы с четным числом вариант в ряду
Месяц X'
X
Средняя температура у, °C
Ух
Уг
Уз
у'
У
1
2
3
4
5
6
7
8
1
—5,5
—6,5
—6,5
—6,5
—6,5
—9,7
—12,8
2
—4,5
—7
—13,5
—20
—26,5
—5,0
—4,7
3
—3,5
—4,4
—17,9
—37,9
—64,4
—0,1
1,8
4
—2,5
3,6
—14,3
—52,2
—116,6
4,6
7
5
-1,5
9,8
—4,5
—56,7
—
8,9
10,6
6
—0,5
15,3
10,8
—
—
12,2
12,8
7
0,5
17,5
46,0
—
—
14,2
13,6
8
1,5
16
28,5 .
.33,8
—
14,6
12,9
9
2,5
11,2
12,5
5,3
—14,5
13,1
10,7
10
3,5
5,7
1,3
—7,2
—19,8
9,1
7,1
11
4,5
—0,3
—4,4
-8,5
—12,6
2,3
2,1
12
5,5
—4,1
—4,1
-4,1
—4/1
—7,5
—4,4
2в
10,8
—45,9
—173,3
—214
2н
46
79,8
19,3
—51
S
56,8
—
—154
—
d
35,2
125,7
192,6
163
В столбцах 1 и 3 табл. 3.16 представлены данные, отражающие сезонное изменение среднемесячной температуры воздуха в Ленинграде. Рассчитаем ординаты параболы третьего порядка, аппроксимирующей эту зависимость.
При вычислении по данной схеме следует кодировать ряд аргумента так, чтобы его варианты, начиная от центра, были представлены числами: ±0,5; ±1,5; ±2,5 и т. д. Для этого находим условную среднюю А и величину интервала с. составляя два уравнения по двум центральным вариантам: —0,5= (6—Л)/ /с, ±0,5= (7—Л)/с, откуда Л = 6,5; с=1, после чего по формуле х= (х7—А^1с=^х'—6,5)/1 кодируем варианты аргумента (столбец 2).
По тому же принципу, что и в табл. 3.14, суммируем числа в столбцах 4—6, располагая в них шесть черточек указанным способом около центральной линии.
Находим суммы верхней ^в) и нижне^(5'н) половин чисел в тех же столбцах, затем их суммы и разности, причем вычитается верхняя сумма из нижней: JH— ^в*
Находим искомые суммы произведений функции:
2 У = s0 = 56,8,
2 ху = di — d0/2 = 125,7—35,2/2= 108,1,
2^2у = 2s2 + s0/4 = 2 (—154) + 56,8/4 = —293,8,(3.80)
2 x^y = 3 (2d3 + d^ + (2 xy^t = 3 (2 • 163+192,6) +
+ (125,7 — 0,5 352)/4 = 1582,825.
При ручном счете целесообразно далее ввести проверочный расчет, при котором варианты аргумента кодируются, как показано в табл. 3.17, для чего по двум центральным вариантам составляем уравнения: —1 = (6—А) (с, 1 = (7—А) (с, откуда А = = 6,5, с = 0,5. По формуле х=(х'—А)(с=(х'—6,5)/0,5 вычислим кодированные величины вариант аргумента и запишем их в столбец 2. Суммирование чисел в столбцах 4—7 ведется так же, как и в предыдущей таблице. Черточки около центральной черты необходимо располагать так, как указано в табл. 3.17. Числа над центральной чертой (р) и непосредственно под ней (^) выписываем снизу таблицы. Находим суммы произведений:
2 У = Pi + 41 = 10>8 + 46 = 56,8,
2 ху = 2(qa-p^-'2ly = 2 (79,8 + 56,7) - 56,8 = 216,2,
^х^у = 8 (р3 + q^ + 2 У = 8(19,3-173,3)+5б,8 = -1175,2,
,(3.81)
^у = 24 [2 (р4 - р4> - (р3 + Уз)1 + S ху = 24 [2 (-31,7+
+ 214) —(—173,3 + 19,3)] +216,2= 12 662,6.
Таблица 3.17. Проверка вычисления сумм произведений функции для уравнения кубической параболы (ряд с четным числом вариант)
Месяц X*
X
Средняя температура у, СС
Ух
Уз
Уз
У»
У'
1
2
3
4
5
6
7
8
1
— 11
—6,5
—6,5
—6,5
—6,5
—6,5
-9,7
2
—9
—7
—13,5
—20
—26,5
—33
—5,0
3
—7
-4,4
—17,9
—37,9
—64,4
—97,4
-0,1
4
—5
3,6
—14,3
—52,2
—116,6
—214
4,6
5
—3
9,8
-4,5
—56,7
—173,3
—-
8,9
6
—1
15,3
10.8
—
———
12,2
7
1 1 1
17,5
46
79,8
—
—•
14,2
8
4*3
16,0
28,5
33,8
19,3
—31,7
14,6
9
+5
И,2
12,5
5,3
—14,5
—51
13,1
10
5,7
1,3
-7,2
—19,8
—36,5
9,1
И
+9
—0,3
-4,4
—8,5
—12,6
—16,7
2,3
12
+11
-4,1
—4.1
-4,1
-4,1
-4,1
-7,5
Pi
10,8
—56,7
—173,3
—214
Pi
46
79,8
19,3
—31,7
Приводимый в п. 5 алгоритм вычисления сумм может быть применен не только для проверки, но и в качестве самостоятельного, в этом случае дальше следует использовать суммы в том виде, как они только что получены по формулам (3.81). Для операции проверки эти суммы надо соответственно разделить на 2°, 21, 22, 23, т. е.:
2 У = ^у- 2 ^У = (2 *у)/2 = 216,2/2 - 108,1,
2 ^У = (2*2У )/< = — 1175,2/4 = —293,8,(3.82)
2^у = (S^yJ/S = 12 662,6/8 = 1582,825.
По формулам (3.79) с применением табл. 25П вычисляем коэффициенты уравнения кубической параболы:
а, = (56,8 ■ 3038,75 + 293,8 ■ 143) /16016= 13,4,
й,= (Ю8,1 -76156,4375—1582,825-3038,75)/1656369 = 2,066379,
й2= (—12-293,8—56,8-143)/16016=—0,72727,
й3= (143-1582,825-3038,75-108,1)/1656369=—0,061668.
Вычисление коэффициентов можно проверить по формулам (3.70) с применением табл. 26П множителей для четных значе- ний N:
ц0 = 0.1897321 -56,8—0,0089986 (—293,8) = 13,42057,
ц1 = 0,0459779-108,1—0,0018346-1582,825=2,06636,
я2 = 0,0007493 (—293,8)—0,0089986-56,8 =—0,73126,
ti3 = 0,0000863-1582,825—0,0018346-108,1=—0,061722.
Из-за приближенных значений множителей, приведенных в табл. 26П, в величинах коэффициентов наблюдаются расхождения. В данном случае эти неточности почти не повлияли на величины ординат параболы, но при необходимости можно уточнить значения множителей по формулам (3.71), (3.72).
По уравнению у' = 13,4 + %[2,066379 + %(—0,72727— —0,061668%)], где %=±0,5; ±1,5; ±2,5... или %=(%'—6,5)/1,0, вычисляем ординаты кубической параболы, которые записаны в столбце 7 табл. 3.16.
Малая величина коэффициента а3 в полученном уравнении кубической параболы дает основание полагать, что данная эмпирическая зависимость может быть приближенно аппроксимирована также параболой второго порядка, коэффициенты уравнения которой находим по формулам (3.78):а0=(56,8-
-3038,75 + 293,8-143)/16016=13,4, ^=108,1/143 = 0,75594, а2= = (12(—293,8)—56,8-143)/16016=—0,72727. Уравнение этой параболы у"= 13,4 + 0,75594%—0,72727%2, где %=±0,5; ±1,5; ±2.5...; его ошибка по формуле (3.04)/п^ = У134,28/(12—3) = = 3,86. Ординаты параболы второго порядка yff вычислены по приведенному уравнению и записаны (округленно) в столбце 8 табл. 3.16. Уравнение прямой для данного случая может быть вычислено по формулам (3.77).
Рассчитаем также коэффициенты уравнения и ординаты кубической параболы по суммам, найденным в табл. 3.17. По формулам (3.70) и с множителями из табл. 24П коэффициенты равны:
а. = 0,189732 - 56,8—0,00223214 (— 1175,2) = 13,4,
О1 = 0,0114945-216,2—0,000114662-12662,6= 1,033192,
а2 = 0,0000468282 (—1175,2)—0,00223214-56,8=—0,181818,
я3 = 0.00000134896-12662,6—0,000114662-216,2 = —0,00770858.
Ординаты по уравнению у'= 13,4+%[ 1,033192 + %(—0,181818— —0,00770858%) ], где %= ± 1; ±3; ±5... или %= (%'—6,5)/0,5, записаны в столбце 8 табл. 3.16.
Множители Mt—Ms для четного числа вариант в табл. 24П 1 вычислены по формулам:1
M^X/N, M2 = 3/[N(N2—\)], М3 = [3(ЗЛГ2—7)]/[4М(Л^^]
М4 = 15/[4^ (^2—4)],М5 = 45/I4.V ^—\Х^—^
Мв = [25 (3^—18^2+31)]/[4^ (Af2—1) (Af2—4) (W2-9)],(3.83) '
М7 = [35 (3^—7)]/[4^ (М2— 1) (М2—4) (Л72—9)],
М8 = 175/[4^ (№—1) (№-4) (№-9)].
В работе Н. С. Четверикова [1975] содержатся таблицы вс- , личин множителей Afi-s до Л7= 100 с точностью до 6 знаков ман- ’ тиссы, а в книге А. К. Митропольского [1971] приводится алго- 1 ритм вычисления способом сумм коэффициентов уравнений парабол до четвертого порядка включительно.
§ 3.07.СТЕПЕННАЯ ФУНКЦИЯ
В биологии степенная, или аллометрическая, функция наиболее часто применяется при исследовании морфогенеза и корреляций органов растений и животных; ее уравнение
у'=аох\ (3.84) где у — функция, например величина одного из органов; а0—коэффициент, соответствующий константе начального роста второго органа или особи в целом; х— аргумент, или величина, второго органа или особи, измеренная в тот же момент времени; Р — коэффициент, или константа аллометрии, показывающая во сколько раз скорость роста первого органа у превышает скорость роста второго органа х.
44Графики кривой (3.84) приведены в § 3.16. Если ^=1, оба органа растут с одинаковой скоростью и находятся по отношению друг к другу в состоянии изометрии. При р>1 скорость роста первого органа у больше скорости второго органа х, что называется положительной аллометрией; при ^<1 скорость роста второго органа х больше скорости первого органа у и органы находятся между собой в состоянии отрицательной аллометрии. Таким образом, константа [3 передаст относительную скорость органов в онтогенезе, ее величина приблизительно постоянна для определенных органов и фаз онтогенеза живых существ.
4
4
Рассмотрим процесс вычисления уравнения степенной, или аллометрической, функции на примере аппроксимации зависимости площади листа от его длины у огурца.
Вычисления, приведенные в табл. 3.18, выполняются в следующем порядке.
Логарифмы величин х к у записаны в столбцах 3 и 4.
Логарифмы вариант х (столбец 3) возводим в квадрат (столбец 5).
Таблица 3.18. К вычислению параметров уравнения степенной функции
Длина листа X, см
Площадь листа 1/, см2
1g х
^У
(1g х)2
\gx\gg
У'
б =
= у-у'
б2
8
67,65
0,9031
1,8303
0,8156
1,6529
69,92
2,27
5,1529
10
110,60
1,0000
2,0438
1,0000
2,0438
109,32
1,28
1,6384
12
153,40
1,0792
2,1858
1,1647
2,3589
157,51
4,11
16,8921
14
224,10
1,1461
2,3504
1,3135
2,6938
214,49
9,61
92,3521
16
297,50
1,2041
2,4735
1,4499
2,9783
280,22
17,28
298,5984
18
369,15
1,2553
2,5672
1,5758
3,2226
354,89
14,26
203,3476
20
460,40
1,3010
2,6132
1,6926
3,3998
438,13
22,27
495,9529
22
514,50
1,3424
2,7114
1,8020
3,6398
530,40
15,90
252,8100
2197,30
9,2312
18,7756
10,8141
21,9899
2 6» = 1366,7444
Перемножаем логарифмы х и у (столбцы 3, 4, 6).
Суммируем числа в столбцах 2—6.
Для нахождения коэффициентов уравнения (3.84) решаем систему нормальных уравнений:
(3.85)(3.85)ЛГ1£а0 + р2^х=2^У»
(3.85)
(3.85)
ig «о S !§х+Р 2 (ig*)2=2 0g я ig у).
где N— число точек, или значений эмпирического ряда; а0, Р— искомые коэффициенты уравнения; прочие обозначения — суммы из табл. 3.18, подставляя которые в систему (3.85), получим:
81g а0 + 9,2312^=18,7756,
9,2312 lga0+10,8141^=21,9899,
откуда: ^ = 2,0018, а0= 1,087, lga0=0,037026. Искомое уравнение у'= 1,087х2 0018, или в логарифмической форме 1g у'= =0,037026 + 2,00181g х. Решить систему уравнений (3.85) можно для проверки также по формулам
^А-М^КВ-М,),\ga0=M-^Mx,(3.86)
или
(3.87)(3.87)\ga0=A—рВ,
(3.87)
(3.87)
где Му—средняя арифметическая логарифмов значений функции из столбца 4 табл. 3.18; Мх—средняя арифметическая лога-
Рис. 22. Зависимость площади листа у от его длины х у огурца
/ — эмпирическая линия регрессии; 2— теоретическая кривая степенной функции
рифмов значений аргумента из столбца 3 табл. 3.18;
A-^x^yj^x; B=^{\gx^/^\gx,(3.88)
Мх=9,2312/8= 1,1539,Mv= 18,776/8=2,347,
А = 21,99/9,2312 = 2,3821,5=10,814/9,2312=1,1715,
подставив эти величины в формулы (3.86), (3.87), получим те же значения коэффициентов р и а0.
В столбцах 7—9 табл. 3.18 приведены теоретические значения площади листа, их разностй с фактическими и квадраты разностей, что необходимо для вычисления ошибки полученного уравнения (3.04):
ту= V 1366,7444/(8—2)= 15,09 см2.
Как видно из рис. 22, фактические данные удовлетворительно совпадают с теоретической линией регрессии. Константа [3 в 2 раза больше единицы, следовательно, площадь листа возрастает в 2 раза быстрее, чем его длина у огурца и эти оба размера листа находятся в отношении положительной аллометрии. Ко* эффициенты аллометрического уравнения можно приближенно найти также способом избранных точек:
р = 1п^-/1п^-, (3.89) у2 / ^2
(3.90)(3.90)/ In Хо In Ух — In Xv In о о - ехр =——1——
(3.90)
(3.90)
(3.91)(3.91)или а0 = ^/xt
(3.91)
(3.91)
где а0, р — коэффициенты уравнения; хь уь х2, у2— координаты двух избранных точек.
Например, для точек с координатами Xt = 10, yt = 110,6, х2 = 20, #2 = 460,4 :
п 1 110,6 Л 10 оIn 20 In 110,6— In 10 In 460,4
р = In —— / In — = 2,0576, g0 = exp’— =
460,4/ 20rIn (20/10)
= 0,96448, или Go = 110,6/102'0576= 0,96661.
Более точное приближение к эмпирическим данным дало вычисление функции при g0, полученном по формуле (3.90): 69,6, 110,4; 160,5; 220,2; 289,8; 369,1; 458,5; 557,9 (для соответствующих значений х из первого столбца табл. 3.18).
§ 3.08.
ПОКАЗАТЕЛЬНО-СТЕПЕННАЯ ФУНКЦИЯ
Эта функция ценна тем, что позволяет аппроксимировать зависимости, которые графически передаются двускатной кривой, в чем в биологических исследованиях необходимость возникает нередко, однако выбор подходящих для этого кривых весьма ограничен. Уравнение показательно-степенной функции
у = ахьесх, или # = exp(lna+& Inx-j-cx), (3.92)
где у — функция; х— аргумент; а, 6, с—коэффициенты; е — основание натуральных логарифмов.
Коэффициенты этого уравнения можно найти двумя методами: наименьших квадратов и избранных точек. По методу наименьших квадратов требуется выполнить следующие вычисления.
Найти средние: Mx = ^2-X^!N, My=^^\x\x^]N ,М^^
Определить промежуточные величины:
А = Мг 2 In X {2 х [21п У In х <N + 1) — 2 In У 21п х] +
+ 2х 1п х2 in у —2х 1° у 2 in х}+2 in2 х(2х 1п у 21п х—
— 2 In У In X 2 х) — 2 X In X 2 In X 2 In У In х,
б=мх (2 х 2 in х—n 2 х in x)(2x inx - 2x2 in x) + + ^2xinx2x—2 х2 2 in х)(мх21пх—2in2x) •
Коэффициенты равны: c=A/B, а = ех^^Мг—MJ)—Mxc\
Mi 2 *n У — 2 ^У Inx—cMi 2 *n У — 2 ^У Inx—c(мж 2 in x(мж 2 in x(3.93)(3.93)
Mi 2 *n У — 2 ^У Inx—c
Mi 2 *n У — 2 ^У Inx—c
(мж 2 in x
(мж 2 in x
(3.93)
(3.93)
Дм x2 In x—2 In2 x)
XУУ'XУУ'0,11,7811,0290,70,6910,710,23,1832,5560,80,4040,4040,33,1932,9750,90,2280,220,42,542,541,00,1260,1160,51,7681,8291,10,0680,060,61,1831,1831,20,0360,03XУУ'XУУ'0,11,7811,0290,70,6910,710,23,1832,5560,80,4040,4040,33,1932,9750,90,2280,220,42,542,541,00,1260,1160,51,7681,8291,10,0680,060,61,1831,1831,20,0360,03Таблица 3.19. Вычисление теоретических значений показательно-степенной функцииТаблица 3.19. Вычисление теоретических значений показательно-степенной функцииПриведенный алгоритм целесообразно выполнять лишь при помощи ЭВМ с достаточным числом знаков в мантиссе, поэтому рассмотрим числовой пример расчета коэффициентов по более простому способу избранных точек, который также может обеспечить приемлемую точность, особенно при удачном подборе этих точек. В столбцах 1, 2 табл. 3.19 приведены данные К. А. Семендяева [1933], а в столбце 3 — вычисленные по способу избранных точек теоретические значения функции, которые находим в следующем порядке.Из рядов х, у выбираем 3 пары значений аргумента и функции: х1 = 0,4; yt = 2,54; х2 = 0,6; у2 = 1,183; х3 = 0,8; г/3 = 0,404. Число вариант в рядах N = 12.Формулы вычисления коэффициентов:Приведенный алгоритм целесообразно выполнять лишь при помощи ЭВМ с достаточным числом знаков в мантиссе, поэтому рассмотрим числовой пример расчета коэффициентов по более простому способу избранных точек, который также может обеспечить приемлемую точность, особенно при удачном подборе этих точек. В столбцах 1, 2 табл. 3.19 приведены данные К. А. Семендяева [1933], а в столбце 3 — вычисленные по способу избранных точек теоретические значения функции, которые находим в следующем порядке.Из рядов х, у выбираем 3 пары значений аргумента и функции: х1 = 0,4; yt = 2,54; х2 = 0,6; у2 = 1,183; х3 = 0,8; г/3 = 0,404. Число вариант в рядах N = 12.Формулы вычисления коэффициентов:с = fin— In— + In — In—V (Xt — x2) In —\у2*3 Уз *1 H L*3с = fin— In— + In — In—V (Xt — x2) In —\у2*3 Уз *1 H L*3Kx2—X3)ln-^ , X1JKx2—X3)ln-^ , X1Jb = ln^L Узb = ln^L Узc(x2 —xc(x2 —xn —*3n —*3(3.94)(3.94)tz = exp(ln yv—b In Xi—cxt),tz = exp(ln yv—b In Xi—cxt),откуда:откуда:cc2,54 , 0,6 , , 1,183 —In — + In — 1,1830,80,4042,54 , 0,6 , , 1,183 —In — + In — 1,1830,80,4040,6) In ^ +0,80,6) In ^ +0,8b =b =+ (0,6 -0,8) In ^+ (0,6 -0,8) In ^= — 9,16126,= — 9,16126,• 1,183In—0,404• 1,183In—0,404+ 9,16126 (0,6+ 9,16126 (0,6-0,8)]/ln^ =]/0,8-0,8)]/ln^ =]/0,82,63436,2,63436,
X
У
У'
X
У
У'
0,1
1,781
1,029
0,7
0,691
0,71
0,2
3,183
2,556
0,8
0,404
0,404
0,3
3,193
2,975
0,9
0,228
0,22
0,4
2,54
2,54
1,0
0,126
0,116
0,5
1,768
1,829
1,1
0,068
0,06
0,6
1,183
1,183
1,2
0,036
0,03
X
У
У'
X
У
У'
0,1
1,781
1,029
0,7
0,691
0,71
0,2
3,183
2,556
0,8
0,404
0,404
0,3
3,193
2,975
0,9
0,228
0,22
0,4
2,54
2,54
1,0
0,126
0,116
0,5
1,768
1,829
1,1
0,068
0,06
0,6
1,183
1,183
1,2
0,036
0,03
Таблица 3.19. Вычисление теоретических значений показательно-степенной функции
Таблица 3.19. Вычисление теоретических значений показательно-степенной функции
Приведенный алгоритм целесообразно выполнять лишь при помощи ЭВМ с достаточным числом знаков в мантиссе, поэтому рассмотрим числовой пример расчета коэффициентов по более простому способу избранных точек, который также может обеспечить приемлемую точность, особенно при удачном подборе этих точек. В столбцах 1, 2 табл. 3.19 приведены данные К. А. Семендяева [1933], а в столбце 3 — вычисленные по способу избранных точек теоретические значения функции, которые находим в следующем порядке.
Из рядов х, у выбираем 3 пары значений аргумента и функции: х1 = 0,4; yt = 2,54; х2 = 0,6; у2 = 1,183; х3 = 0,8; г/3 = 0,404. Число вариант в рядах N = 12.
Формулы вычисления коэффициентов:
Приведенный алгоритм целесообразно выполнять лишь при помощи ЭВМ с достаточным числом знаков в мантиссе, поэтому рассмотрим числовой пример расчета коэффициентов по более простому способу избранных точек, который также может обеспечить приемлемую точность, особенно при удачном подборе этих точек. В столбцах 1, 2 табл. 3.19 приведены данные К. А. Семендяева [1933], а в столбце 3 — вычисленные по способу избранных точек теоретические значения функции, которые находим в следующем порядке.
Из рядов х, у выбираем 3 пары значений аргумента и функции: х1 = 0,4; yt = 2,54; х2 = 0,6; у2 = 1,183; х3 = 0,8; г/3 = 0,404. Число вариант в рядах N = 12.
Формулы вычисления коэффициентов:
с = fin— In— + In — In—V (Xt — x2) In —
\у2*3 Уз *1 H L*3
с = fin— In— + In — In—V (Xt — x2) In —
\у2*3 Уз *1 H L*3
Kx2—X3)ln-^ , X1J
Kx2—X3)ln-^ , X1J
b = ln^
L Уз
b = ln^
L Уз
c(x2 —x
c(x2 —x
n —
*3
n —
*3
(3.94)
(3.94)
tz = exp(ln yv—b In Xi—cxt),
tz = exp(ln yv—b In Xi—cxt),
откуда:
откуда:
c
c
2,54 , 0,6 , , 1,183 —In — + In — 1,1830,80,404
2,54 , 0,6 , , 1,183 —In — + In — 1,1830,80,404
0,6) In ^ +
0,8
0,6) In ^ +
0,8
b =
b =
+ (0,6 -0,8) In ^
+ (0,6 -0,8) In ^
= — 9,16126,
= — 9,16126,
• 1,183
In—
0,404
• 1,183
In—
0,404
+ 9,16126 (0,6
+ 9,16126 (0,6
-0,8)]/ln^ =]/0,8
-0,8)]/ln^ =]/0,8
2,63436,
2,63436,
a = exp (In 2,54—2,63436 In 0,4+9,16126- 0,4) = 1108,225.
. 3. По уравнению y'= 1 108,225x2'63436e~9'161261, или y'= = exp (In 1108,225+2,63436 In x—9,16126%), находим теоретические значения функции (столбец 3).
Ошибка прогноза вычисляется по формуле (3.04):
ти = V ^-уУ<^-^ = f 1,01045/(12-3) = 0,335.
Координаты максимального значения функции:
xmax= — Щс) = — (2,63436/—9,16126) =0,28755,(3.95)
Z/max=exp(lna+6 1пхтах+схтах) = exp (In 1108,225+
+2,63436 In 0,28755—9,16126- 0,28755) = 2,9827.
В § 3.16 показаны примеры кривых, соответствующих уравнению (3.92). Из ботанических объектов в соответствии с показательно-степенной функцией происходит, например, хронологическое изменение числа видов травянистых многолетников, у которых начинается весеннее отрастание побегов.
§ 3.09.
ПОКАЗАТЕЛЬНАЯ ФУНКЦИЯ
При аппроксимации таких зависимостей, когда величины одного из признаков изменяются по геометрической прогрессии при равномерном изменении величин связанного с ним признака, нередко бывает подходящей показательная функция, уравнение которой
у = аеЬх>(3.96)
где у — функция; х— аргумент; а, b — коэффициенты; е— основание натуральных логарифмов.
Рассмотрим технику расчетов коэффициентов уравнения (3.96) методом наименьших квадратов на примере аппроксимации зависимости между датами созревания семян х и начала цветения у у травянистых многолетников в Москве. В результате обработки данных многолетних наблюдений за 1384 видами выявилась эмпирическая зависимость между этими датами, представленная в табл. 3.20. В столбце 1 таблицы приведены даты созревания семян многолетников, а в столбце 2 — соответствующие даты начала цветения в том же массиве видов. Даты даны в днях от 1 марта, перевод в которые и обратно производится по табл. 5П. Коэффициенты уравнения равны:
Mi+Sln+v, M=(5x)//V,
(Sxln у)/2х—
b = 1^IL^, a = exp VMv — bM),(3.97)
2ху2х-м
где Mt — средняя арифметическая натуральных логарифмов величин функции; 21ПУ—сумма натуральных логарифмов величин функции; N — объем ряда; М — средняя арифметическая ве-
Таблица 3.20. Даты созревания семян х и начала цветения у у травянистых многолетников в Москве, дни от 1 марта
Созревание семян х
Начало цветения
Созревание семян х
Начало цветения
У
У'
У
у'
82,5
50,0
55,3
172,5
115,2
112,3
97,5
65,5
62,3
187,5
125,5
126,4
112.5
71,3
70,1
202,5
137,3
142,2
127,5
81,0
78,8
217,5
153,5
160,0
142.5
90,0
88,7
232,5
183,1
180,1
157.5
102,7
99,8
N = И
личин аргумента; 2 х—сумма величин аргумента; а, b — искомые коэффициенты; 2Х1ПУ— сумма произведений величин аргумента на натуральные логарифмы величин функции; 2 х2— сумма квадратов величин аргумента.
Вычислив требуемые суммы, подставим их в формулы (3.97) и получим: ^ = 50,636/11 = 4,6033, М= 1732,5/11 = 157,5,
= 0,0078656,= 0,0078656,_ 8170,0/1732,5 — 4,6033 ~ 297630/1732,5 — 157,50
= 0,0078656,
= 0,0078656,
а = ехр (4,6033—0,0078656 • 157,50) = 28,923.
Аппроксимирующее уравнение показательной функции, по данным табл. 3.20: #'=28,923е°’0078656х, вычисленные по нему теоретические значения функции приведены в столбце 3 табл. 3.20. Качество аппроксимации можно считать вполне удовлетворительным, как это видно из рис. 23, по которому можно заранее прогнозировать сроки сбора семян травянистых многолетников или восстанавливать даты начала их цветения, если известно лишь время созревания семян.
Заметим, что при знаке минус у коэффициента b показательная функция передает зависимость, близкую к гиперболической, в этом случае коэффициент корреляции между признаками также со знаком минус. Графики кривой, рассчитанной по уравнению (3.96), даны также в § 3.16.
Показательная функция может быть представлена также уравнением вида
y = abx,(3.98)
где у— функция; а, b— коэффициенты уравнения; х — аргумент. Коэффициенты уравнения (3.98) в логарифмированном виде Ogy = lgfl+Xlgb) несложно найти методом наименьших квад-
ратов из системы нормальных уравнении: У lga + lgl>2-r = 21gi'-
lga2x + X&b'^x^'^jxlsy,lga2x + X&b'^x^'^jxlsy,(3.99)(3.99)
lga2x + X&b'^x^'^jxlsy,
lga2x + X&b'^x^'^jxlsy,
(3.99)
(3.99)
Рис. 23. Зависимость дат начала цветения у от дат созревания семян х у травянистых многолетников в Москве/ — эмпирическая.Рис. 23. Зависимость дат начала цветения у от дат созревания семян х у травянистых многолетников в Москве/ — эмпирическая.
Рис. 23. Зависимость дат начала цветения у от дат созревания семян х у травянистых многолетников в Москве
/ — эмпирическая.
Рис. 23. Зависимость дат начала цветения у от дат созревания семян х у травянистых многолетников в Москве
/ — эмпирическая.
где N — объем ряда.
Решив систему уравнений (3.99) относительно Iga и 1g6 и приняв М = (2 X]/N, А = (2 х 1§ У^М, В = (2 х^/М, получим формула:
igb=(2igy-4/(2^-5),
(3.100)
lga = Ar-121g^ — Mig ft.
Технику аппроксимации по уравнению (3.98) покажем на данных, приведенных в табл. 3.21, в которой по столбцам выполнены следующие действия.
2. Приведены исходные данные из первых двух столбцов табл. 3.20, деленные на 100, для сокращения вычислений.
Величины из столбца 1 возведены в квадрат.
Десятичные логарифмы чисел из столбца 2, где отрицательные логарифмы приведены в естественной форме для облегчения дальнейших расчетов.
Произведения чисел из столбцов 1 и 4.
Суммируем числа в столбцах 1, 3—5, затем вычисляем вспомогательные величины: М = 17,325/11 = 1,575, Д = 0,82935/1,575 = = 0,52657, 5 = 29,7616/1,575=18,896. По формулам (3.100): lg b = = (—0,01056—0,52657)/(17,325—18,896) =0,3419, lga=—0,01056/
/11 — 1,575 • 0,3419 = = —0,53945.
В результате расчета коэффициенты уравнения (3.98) для рассматриваемой зависимости между датой созревания семян х и началом цветения у у травянистых многолетников в Москве определены: ^У' = x\gb + Iga = =0,3419х—0,53945. В со- ответствии с этим последним уравнением в столбцах 6—9 табл. 3.21 выполнены расчеты теоретических значений функции у'. В столбце 8 отрицатель-
2 — теоретическая линия регрессии
Таблица 3.21. К вычислению коэффициентов уравнения у = abxj
X
У
X
1g У
л 1g У
х 1g b
1g У'
И
У'
1
2
3
4
3
6
7
8
9 :
0,825 0,50,6806—0,30103—0,248350,28207—0,257381,742620,55291
0,975 0,6550,9506—0,18376—0,179170,33335—0,206101,793900,6222'
1,125 0,7131,2656—0,14691—0,165270,38464—0,154811,845190,7001
1,275 0,811,6256—0,09161—0,116800,43592—0,103531,896470,7879*
1,425 0,92,0306—0,04576—0,065210,48721—0,052241,947760,8867.
1,575 1.0272,48060,011570,018220,53849—0,000961,999040,9978!
1,725 1,1532,97560,061830,106660,589780,05033—1,123:
1,8751,2553,51560,098640,184950,641060,10161—1,264j
2,025 1,3734,10060.137670,278780,692350,15290—1,4220(
2,175 1,5354,73060,186110,404790,743630,20418—1,600i
2,3251,831 5,40560,262690,610750,794920,25547—1,801
17,325 —29,7616 —0,01056 0,82935——
ные логарифмы из столбца 7 представлены в искусственной форме (И) для того, чтобы можно было воспользоваться таблицами антилогарифмов; положительные логарифмы оставлены без изменения. Как видим, из сравнения у' в табл. 3.20 и 3.21, качество аппроксимации по уравнениям (3.96) и (3.98) примерно одинаковое.
При помощи показательного уравнения вида y = abx можно решать некоторые задачи, связанные с прогнозом и ретрогнозом биологических явлений, что покажем на конкретных примерах.
В обеих рассмотренных задачах, относящихся к прогнозу и ретрогнозу жизненных явлений, роль коэффициентов а и b одинакова. Первый из них является начальным (в случае прогноза) или конечным (в случае ретрогноза) значением функции в соответствии с логически естественным ходом явления. Коэффициент b означает величину, которая показывает, во сколько раз изменяется функция у в течение некоторого периода, или цикла. Число этих циклов, или периодов (месяцы — в первой задаче и годы — во второй), является аргументом х.
§ зло.
ПОКАЗАТЕЛЬНОЕ УРАВНЕНИЕ ВТОРОГО ПОРЯДКА
При подборе подходящей теоретической линии регрессии к некоторой заданной эмпирической зависимости в настоящее время на практике применяется метод проб и ошибок, так как этот процесс математически пока не формализован. Применение в качестве аппроксимирующей кривой параболы и дальнейшего повышения ее порядка как способа улучшения аппроксимации и отчасти как метода формализации последней ограничивается тем, что далеко не исчерпывает всех видов эмпирических зависимостей, и тем, что повышение порядка параболы выше четвертого обычно нецелесообразно. В связи с этим представляют интерес различные виды других функций, в том числе показательных как довольно гибких по своим возможностям. В зависимости от своего строения показательные уравнения принимают вид у=\ (при х=0), у=ах, у=аь\ что можно назвать показательными уравнениями соответственно нулевого, первого и второго порядков. Чем выше порядок, тем большими возможностями для аппроксимации обладает показательное уравнение. Однако при нахождении коэффициентов показательных уравнений второго порядка возникают значительные трудности, так как методом наименьших квадратов и методом моментов найти коэффициенты не удается. Метод средних — единственный, применяемый с этой целью, довольно громоздкий и не дает достаточной точности. Итерационные методы, в принципе, видимо, применимые в данном случае, не могут быть эффективно реализованы без ЭВМ. В данной ситуации представляется более целесообразным искать коэффициенты рассматриваемых уравнений методом избранных точек, который, несущественно уступая по точности методу средних, в то же время значительно проще по технике вычислений.
Найдем коэффициенты показательного уравнения второго порядка
у = а^сх.(3.101)
Условием рассматриваемого способа является возрастание ряда аргумента сверху вниз и равный интервал между его величинами. Логарифмируем уравнение (3.101) и напишем его для трех величин аргумента х!>х2>х3, находящихся на равных рас-
стояниях друг от друга и соответствующих им ординат уь у2, Уз1 уг = In а + Ье°х\
у2 = In а + Ьесх*,(3.102)
у3 = In а + Ьесх=.
Обозначая
Xn(,yjy1)l\n(,y1,y3')=k
и решив систему уравнений (3.102) относительно коэффициентов, получим
с = (In &)/(х2 — х3), или с = In к)\ х, — х1+11,(3.103)
b = In Куг1у^СХх — е"1),(3.104)
а = у1/е^х‘.'(3.105)
Пример. Найдем коэффициенты уравнения (3.101) для аппроксимации им следующей эмпирической зависимости:
х О 123 4 5678910
и 0 0,5 1,6 3,2 5 6,6 7,8 8,6 9,2 9,5 9,6 где х — аргумент; у — функция.
Примем за избранные точки х^Ю, х2 = 6, х3 = 2, У1 = 9,6, у2= = 7,8, у3= 1,6. По формулам (3.103), (3.104), (3.105):
с = 1П (9,6/7,8) /(6 _ 2) = _ 0 50785 In (7,8/1,6)/’
b = In (9,6/7,8)/(ecw — еС6) = —5,0312, a = 9,6/eteC1° = 9,9062.
Таким образом, искомое уравнение теоретической линии регрессии предстанет в виде у=9,9е'‘б’03е“°’б08х, коэффициенты которого почти близки к тем, которые были получены методом средних К. А. Семендяевым [1933. С. 85] для этих же данных.
Форма кривой на рис. 24 указывает, что уравнением (3.101) можно аппроксимировать такие эмпирические зависимости, которые обычно приходится выравнивать более сложными при расчете логистическими кривыми. Графики кривой (3.101) даны также в § 3.16.
§3.11.ЛОГИСТИЧЕСКАЯ ФУНКЦИЯ
Многие явления роста, увеличения численности популяций, изменений физиологического состояния организмов под воздействием неблагоприятных факторов и другие могут быть моделированы логистической кривой, уравнение которой
»’=тт^+°-<3J06>
Рис. 24. График показательного уравнения второго порядка
Рис. 25. Логистическая функцияД — прямая,Б — обратная зависимости;В — прирост сухого вещества плодов томата у в течение вегетационного пе- ' риода х,1 —эмпирическая линия регрессии;2 — логистическая криваяРис. 25. Логистическая функцияД — прямая,Б — обратная зависимости;В — прирост сухого вещества плодов томата у в течение вегетационного пе- ' риода х,1 —эмпирическая линия регрессии;2 — логистическая криваягде у'— функция, или зависимая переменная; а0—нижняя асимптота, или нижний предел функции; av — расстояние между верхней (ai+a0) и нижней (а0) асимптотами (см. рис. 25, А, Б); у, р — коэффициенты уравнения, определяющие изгиб и наклон логистической кривой.
Рис. 25. Логистическая функция
Д — прямая,
Б — обратная зависимости;
В — прирост сухого вещества плодов томата у в течение вегетационного пе- ' риода х,
1 —эмпирическая линия регрессии;
2 — логистическая кривая
Рис. 25. Логистическая функция
Д — прямая,
Б — обратная зависимости;
В — прирост сухого вещества плодов томата у в течение вегетационного пе- ' риода х,
1 —эмпирическая линия регрессии;
2 — логистическая кривая
Рассмотрим процесс вычисления значений асимптот и коэффициентов уравнения (3.106) на примере аппрок
симации динамики накопления сухого вещества в растущих плодах томата. В табл. 3.22 приведены следующие данные (по столбцам).
Пятидневки вегетационного периода х. Интервалы между величинами аргумента могут быть и неравными.
Таблица 3.22. К вычислению коэффициентов логистического уравнения
X
X*
У
&31у
80,3/z/—1
z=lg (80,3/ /У—0
Z
хг
1
2
3
4
5
6
7 1
1 8
(17)
(289)
80,3
1
0
—
(16)
(256)
80,3
1
0
—
—
—
15
225
80,2
1,0012
0,0012
3,0792
—2,9208
—43,812
14
196
77,6
1,03
0,03
2,4771
—1,5229
—21,3200
13
169
71,5
1,12
0,12
1,0792
—0,9208
—11,9704
12
144
67,8
1.18
0,18
1,2553
—0,7447
—8,9364
11
121
63,8
1,26
0,26
1,4150
—0,5850
—6,4350
10
100
58,7
1.37
0,37
1,5682
—0,4318
—4,3180
9
81
49,0
1,64
0,64
1,8062
—0,1938
—1,7442
8
64
41,7
1 93
0,93
1,9685
—0,0315
—0,2520
7
49
29,9
2 69
1,69
0,2279
0,2279
1,5953
6
36
26,5
3.03
2,03
0,3075
0,3075
1,8450
5
25
11,2
7.17
6,17
0,7903
0,7903
3,9515
4
16
5,28
15,2
14,2
1,1523
1,1523
4,6092
3
9
3,07
26,2
25,2
1,4014
1,4014
4,2042
2
4
1,20
66,9
65,9
1,8189
1,8189
3,6378
1
1
0,312
257
256
2,4082
2,4082
2,4082
120
1240
—
—
—
—
0,7552
—76,5374
Квадраты порядковых номеров пятидневок х2.
Прирост сухого вещества в плодах у (на одно растение, г).
Расстояние между асимптотами at (величина которого делится на у в столбце 4) определяется по графику эмпирических данных (рис. 25, В) также, как-и величина нижней асимптоты а0. В данном случае прияимаем: a, = 80,3, ао = О.
Значение верхней асимптоты при равноотстоящих величинах аргумента можно определить также аналитически:
а1=(2Ь-у1-у1)/(6/уг-1),(3.107)
где at — расстояние между асимптотами; b=yty3ly2, уь у2, у3— три эмпирических значения функции, взятых через одинаковые интервалы аргумента, здесь t/t = 71,5; t/2=80,2; у3=80,3, подставив которые в формулу (3.107), получим:
6 = 71,5-80,3/80,2 = 71,589,
аг = (2-71,589—71,5—80,3)/(71,589/80,2—1) = 80,3.
Из чисел столбца 4 вычитается единица.
Логарифмы десятичные (в искусственной форме) чисел столбца 5. Поскольку два верхних числа в этом столбце равны
нулю, а логарифма нуля не существует, то приходится для сравнимости сумм в столбцах 1, 2, 7, 8 изъять также два верхних числа в столбцах 1 и 2 (они взяты в скобки), которые при суммировании не учитываются, причем число наблюдений соответственно также сокращается до N = 15.
Перевод логарифмов из столбца 6 в естественную форму для удобства арифметических действий с ними.
Произведения чисел столбцов 1 и 7.
После этого суммируем числа в столбцах 1, 2, 7, 8, находим средние по формуле (1.08): Мх= (2х)/^= 120/15 — 8,0; М2 = ^(S2)/^ — 0,7552/15 = 0,05035 и коэффициенты уравнения:
(3.108)
Т=Л1-^Х,(3.109)
по которым р= (—76,5374/8—0,7552)/(1240/8—120) =—0,2949, 7 = 0,05035+0,2949-8 = 2,4096. Для проверки вычислений решим систему уравнений:
ny+pS*=Sz» t2^+pS^2=Sxz»(злю)
для чего подставляем в нее известные числа: 15у+р 120 = 0,7552, 7120+^1240 = —76,5374, откуда получаем те же значения коэффициентов.
Уравнение (3.106) приобретает для рассматриваемого примера следующую конкретную форму:
у’ =I 0
У02,4 096—0,2949Х 1 ’
где у'— теоретические значения функции, которые вычислены в табл. 3.23; в ней по столбцам приведены следующие данные.
Аргумент — пятидневки вегетационного периода х.
Величина коэффициента ^ = —0,2949 умножена на значения аргумента х и к этим величинам прибавлено значение коэффициента 7 = 2,4096, результат есть логарифм в естественной форме.
Логарифмы чисел столбца 2 в искусственной форме.
Антилогарифмы чисел столбца 3.
Числа столбца 4, увеличенные на 1.
Расстояние между асимптотами ai = 80,3, деленное на числа из столбца 5, что в данном примере соответствует теоретическим значениям функции у'.
Эмпирические значения функции у.
Квадраты разниц соответствующих эмпирических и теоретических значений функции, сумма которых 2(У— у')2 = 321,69.
Приведенный алгоритм вычисления теоретических значений функции кратко может быть записан в виде логарифмированного
Таблица 3.23. Вычисление значений функции по уравнению логистической кривой
X
V+P*
ig(iov+e*)
10V+P*
14-10V+P*
У*
У
ку—у'У
1
2
3
4
5
6
7
8
17
—2,6037
3,3963
0,00249
1,00249
80,1
80,3
0,04
16
—2,3088
3,6912
0,004911
1,004911
79,9
80,3
0,16
15
—2,0139
3,9861
0,009684
1,009684
79,5
80,2
0,49
14
—1,7190
2,2810
0,0191
1,0191
78,8
77,6
1,44
13
—1,4241
2,5759
0,03766
1,03766
77,4
71,5
34,81
12
—1,1292
2,8708
0,07426
1,07426
74,7
67,8
47,61
И
—0,8343
1,1657
0,1464
1,1464
70,0
63,8
38,44
10
—0,5394
1,4606
0,2887
1,2887
62,3
58,7
12,96
9
—0,2445
1,7555
0,5695
1,5695
51,2
49,0
4,84
8
0,0504
0,0504
1,123
2,123
37,8
41,7
15,21
7
0,3453
0,3453
2,215
3,215
25,0
29,9
24,01
6
0,6402
0,6402
4,367
5,367
15,0
26,5
132,25
5
0,9351
0,9351
8,611
9,611
8,35
11,2
8,12
4
1,2300
1,2300
17,02
18,02
4,46
5,28
0,67
3
1,5249
1,5249
33,49
34,49
2,33
3,07
0,55
2
1,8198
1,8198
66,04
67,04
1,20
1,20
0
1
2,1147
2,1147 1
30,2
131,2
0,612
0,312
0,09
——
—
—
—-
——
—.
321,69
уравнения (3.106): 1g(—11) = у + Р^> где в нашем приме-
ХУ'—оо /
ре ао = О.
Вычисление у' начинается с нахождения значения выражения y+Px> которое представляет собой-логарифм в естественной форме, далее переводим этот логарифм в искусственную форму и находим по нему число, к которому прибавляем единицу. На полученное выражение делим аь что и даст значение у'.
Например, у' для х=17, по уравнению lg(80,3/z/z—1) = = 2,4096—0,2949%, 2,4096—0,2949-17=—2,6037 = 3,3963, что соответствует числу 0,00249, к которому прибавляем 1 и делим: 80,3/1,00249 = 80,1 = у'. Ошибка найденной аппроксимации изменения прироста сухого вещества в плодах томата в зависимости от номера пятидневки его вегетационного периода по формуле (3.04) /72^=^321,69/(17—3) =4,7936 г. На рис. 25, В изображены эмпирическая и теоретическая линии регрессии прироста сухого вещества в плодах томата. При анализе логистического уравнения важную роль играют точки перегиба кривой и ее пересечения с осями.
Точка пересечения логистической кривой с осью ординат
Уп = ^/(1 + 1О^)+ао,(3.111)
координаты средней точки перегиба кривой
Хс = — (у/р), г/с = О,5а1+ао,(3.112)
где обозначения те же, что и в формуле (3.106).
Для рассматриваемого примера точка пересечения кривой с осью ординат t/n = 80,3/(l + 102’4096)+0 = 0,612; координаты точки перегиба кривой хс =— (2,4096/—0,2949) =8,17; ус = 0,5-80,3+ +0=40,15. При более детальном анализе полезно определить координаты также нижней и верхней точек перегиба логистической кривой:
хн = хс—0,5719/1 р |,ун = 0,2113^,(3.113)
хв = xG+0,5719/1 р |, у в = 0,7887аь(3.114)
где хн, Ун — абсцисса и ордината нижней точки перегиба; хв, Ув— абсцисса и ордината верхней точки перегиба; хс — абсцисса средней точки перегиба; а^— расстояние между асимптотами; |Р| —коэффициент (при х) уравнения без знака.
Для нашего примера:
хн = 8,17—0,5719/0,2949 = 6,23, ун = 0,2113 • 80,3 =16,97, хв = 8,17+0,5719/0,2949 = 10,11, ув = 0,7887 - 80,3 = 63,33.
Для проверки вычислений ординат точек перегиба можно применить следующее равенство:
Я1 = £/н+ув,(3.115)
где обозначения те же, что и в формулах (3.113), (3.114): 80,3=16,97+63,33.
Для проверки вычислений абсцисс верхней и нижней точек перегиба служит равенство
2хс = Хц+хв,(3.116)
2-8,17 = 6,23+10,11.
Таким образом, в начале пятидневок седьмой (6,23), девятой (8,17) и одиннадцатой (10,11) в процессе накопления сухих веществ в плодах томата происходят качественные изменения, которые подлежат биологическому объяснению. По-видимому, эти явления связаны с внешними и внутренними признаками созревания, а также с изменениями в биохимическом составе веществ плода томата. Кроме того, эти данные при аналогичных метеоусловиях и агротехнике позволяют прогнозировать урожай помидор по сухому веществу. Для этого на 31-й день после начала роста плодов следует определить в них содержание сухого вещества ун и разделить его на 0,21, что даст величину содержания сухого вещества в конце вегетационного периода а^ которую нетрудно пересчитать при желании на вес сырой массы. Например: а^ун^^Х = 16,97/0,21 = 80,3. Этот прогноз можно повторить и уточнить его на 41-й день от начала роста плодов: fl^yc/0,5 и
на 51-й день: 0i = yB/O,79. Значение точки пересечения кривой с осью ординат уп в данном примере заключается в том, что существовал минимум сухой массы (семена, рассада) перед тем, ' как началось ее накопление в процессе роста. В этом же состоит = и биологическое значение нижней асимптоты. Значение верхней асимптоты в нашем примере указывает высший предел содержания сухого вещества в плодах томата при существующих экологических условиях, ассортименте сортов и агротехнике.
В некоторых случаях качество аппроксимации логистической кривой может повысить применение в показателе степени ее уравнения не прямой линии, а параболы. Рассмотрим пример расчета коэффициентов уравнения такой кривой:
s' = rvA^' + "•'<3J,7>
Т 6
где у'— теоретические значения функции; а^ а0 — верхняя и нижняя асимптоты; а, р, у — коэффициенты.
Требуется аппроксимировать данные о всхожести семян жимолости через разные сроки их хранения. В табл. 3.24 по столбцам приведены следующие данные.
Сроки хранения семян, в годах.
Всхожесть семян, в процентах.
Величину верхней асимптоты делим поочередно на эмпирические значения функции, т. е. всхожести без величины нижней асимптоты, вычитаем единицу из частного и берем натуральный логарифм полученного числа, например:
г=1пМ1lUlnf^й = 6,7593.
\у—а0 /\0,1—0/
Значение верхней асимптоты принимаем а4 = 86,3, т. е. немного больше максимального значения у, а величина а0 здесь равна нулю, что соответствует естественному значению всхожести при полной потере жизнеспособности семян в результате слишком длительного их хранения.
Квадраты преобразованных значений аргумента, из которых вычитается его средняя арифметическая, т. е. х0 = х—Мх, где, как обычно, Мх = 2 x/N = 28,6/9 = 3,1778, например: х0 = = 1—3,1778 = 3,8222; последнее число в квадрате равно 14,6092.
Преобразованные значения аргумента в четвертой степени, т. е. х04 = (х02)2 = (14,6092)2 = 213,4287.
Величины из столбца 3 г = 1п(—^1) преобразуем по
\У — «о /
тому же принципу, что и в столбце 4, т. с. находим среднюю арифметическую: Мг = ^2,К = 0,17254/9 = 0,01917 и вычитаем ее из всех значений 2, например: 20 = 2—Л42 = 6,7593—0,01917= , = 6,740. Полученные 20 умножаем попарно на величины х02 из j столбца 4.1
Таблица 3.24. Вычисление коэффициентов уравнения логистической кривой
Годы
X
Всхожесть У» %
г
2
*0
4
*0
2
2<^о
ZqZo
у’
1
2
3
4
5
6
7
8
7
0,1
6,7593
14,6092
213,4287
98,4675
25,762
0,015
6
0,64
4,8968
7,9648
63,438
38,8491
13,7656
0,439
5
6
2,594
3,3204
11,0251
8,5494
4,6918
6,98
436
0,33446
0,676
0,457
0,2131
0,2592
40,86
3
52
—0,41612
0,0316
0,001
—0,0138
0,0774
72,95
2
71,4
—1,5667
1,3872
1,9243
—2,2
1,8679
82,14
1 ;
80,3
—2,5943
4,7428
22,4941
—12,3953
5,6917
84,31
0,5 ;
85
—4,1799
7,1706
51,4175
—30,1101
11,2443
84,64
0,1 ;
86
—5,655
9,4729
89,7358
—53,7511
17,4641
84,73
28,6
—
0,17254
49,3755
453,9215
47,6088
80,824
—
Произведения преобразованных величин функции и аргумента, например z0 = 6,740 и х0 = 3,8222, zoxo = 6,740-3,8222 = = 25,762. Далее находим суммы столбцов 3—7 и после — коэффициенты уравнения логистической кривой:
а = I ^/[2 х? - (2 x^N\, (3.118)
(3.119)
y=Mz — a^^N -МхфА-»Мх\ (3.120)
а = 47,6088/ (453,9215—2437,9499/9) = 0,2601, р = 80,824/49,3755— —2 • 0,2601 • 3,1778=—0,0162, у=0,0192— (0,2601 • 49,3755) /9— —3,1778 (—0,01624-0,2601 -3,1778) =—3,9906.
Вычисление теоретических значений функции начинаем с выражения у+%(р+а%) =—3,9906+%(—0,0162+0,2601%), затем берем экспоненту от полученного числа, прибавляем к нему единицу, делим на него величину верхней асимптоты и прибавляем величину нижней асимптоты, т. е. вычисляем по уравнению (3.117), которое получило следующие коэффициенты:
е~3,9906+Х(-0,0162+0,2601Х)
Находим ошибку полученного уравнения (3.04): ту = = У596,7/(9—3) = 10%. Значения аргумента по значениям функции можно вычислить, преобразуя уравнение (3.117) следующим
образом:
(3.121) |
Критические точки кривой, рассчитанной по уравнению (3.117), находим следующим образом. Координаты верхней точки максимума равны:
(3.122)(3.123)(3.122)(3.123)хм = —(Р/2а),
(3.122)
(3.123)
(3.122)
(3.123)
ИЛИ
Ум = aQ + ^/(1 + ev-W4a).
Вторая производная уравнения (3.117)
(3.124)
где г=ет+х(Р+аэс). Значение х, при котором у" принимает максимальное значение, соответствует абсциссе критической точки Н, значение х, соответствующее у" = <\ равно абсциссе точки С, и значение х, при котором у" принимает минимальное значение, соответствует критической точке В. Ординаты точек В, Н находим подобно тому, как и ординату ум, по уравнению (3.123). При отрицательных и положительных значениях х могут быть по две симметрично расположенных точки Н, С, В, так как кривая становится в этом случае двускатной (рис. 26). Придавая аргументу ряд последовательных значений с небольшим шагом, выявляем абсциссы критических точек, которые в данном примере равны: хв = 3,4584; хс = 4,06314; хн = 4,6809; затем по этим абсциссам находим ординаты: ув = 61,98; t/c = 38,05; ун= 14,11. В рассматриваемом примере отрицательные величины х не имеют смысла, поэтому не определяем координат критических точек из левой части кривой на рис. 26. В тех случаях, когда вычисление их желательно, для проверки можно использовать равенство
= Р/а.= Р/а.(3.125)(3.125)Хв- + Хв+ ' Хс- + Хс+ > Хн~ + *н+
= Р/а.
= Р/а.
(3.125)
(3.125)
Координаты точки максимума М находим по формулам (3.122), (3.123):
хм =—[ — 0,0162/ (2 • 0,2601) ] = 0,03115,
ум = 86,3/ [ 1+е-3’9906-(-°’0162>2/(4 •°'260,) ] =84,73.,
Рис. 26. Схематический график кривой (3.117) —а, б — график ее второй производной (3 124)
М, В, С, Н — критические точки
КРИВАЯ ГАУССА
Для аппроксимации таких эмпирических зависимостей, точки которых располагаются по колоколообразной, двускатной кривой и по краям плавно приближаются к оси абсцисс, можно использовать уравнение кривой Гаусса:
(3.126)(3.126)у = Ь^х^\
(3.126)
(3.126)
где у — зависимая переменная; b, И, а — коэффициенты; х— независимая переменная.
Логарифмируем уравнение (3.126) и составим систему уравнений по трем избранным точкам:
In yv — In b — A2 (х? — 2ахт + а2),
In у^ = In b — № (х2 — 2ах2 + а2),
In у3 = In b — /i2 (Хз — 2б?х3 + о2).
Решая эту систему относительно искомых коэффициентов, по- j лучаем:]
№ =№ =1п-^1п-^(3.127)(3.127)
№ =
№ =
1п-^
1п-^
(3.127)
(3.127)
ln(z/2/^i) 'ln(z/2/^i) 'A2 (xx — x^ J ’A2 (xx — x^ J ’(3.128) .1(3.128) .1
ln(z/2/^i) '
ln(z/2/^i) '
A2 (xx — x^ J ’
A2 (xx — x^ J ’
(3.128) .1
(3.128) .1
b = y^^*1”6^.b = y^^*1”6^.(3.129)(3.129)iIiI
b = y^^*1”6^.
b = y^^*1”6^.
(3.129)
(3.129)
i
I
i
I
Пример. Найдем коэффициенты уравнения (3.126) примени- - тельно к эмпирической зависимости, приведенной в табл. 3.25. « При избранных точках: xt = 65, х2 = 79, х3 = 93, л/±= 119, у2=171, у3=121 по формулам (3.127)— (3.129) получим уравнение.
у’ — 171,02е“0,0018072 (*-79,165)^1
теоретические частоты по которому представлены в столбце 4 • табл. 3.25. В столбце 1 этой таблицы приведены варианты, во втором — соответствующие им частоты, в третьем — частоты нормальной кривой, вычисленные точным способом.*
Лучшее совпадение теоретических рядов с эмпирическими по ] рассмотренному способу достигается, если брать избранные точ- { ки возможно ближе к вершине кривой. Это и понятно, имея в виду наибольшую достоверность частот нормальной кривой в се , середине, в области математического ожидания.’
Методом избранных точек можно также вычислить среднюю , арифметическую и дисперсию эмпирического распределения, j близкого к нормальному, для чего исходное уравнение (см. : § 1.25)
<х-МУга*<х-МУга*
<х-МУга*
<х-МУга*
логарифмируем и запишем систему уравнений для четырех точек:
In Д = Л—d (х,—М)2,In f2=Л—d (х2—Al)2,
In N=A—d (х3—М)2,In f4=A—d (х4—М)2,
где Л = 1пА-|-1пс—1п<т—Inm; т = ]/2л; f— частоты. Обозначим d=il/(2a2), a=fjf2, b=f3/f4 и решим систему четырех уравнений относительно коэффициентов:
М = 0,5 [(х^ — Xi) In b — (х. — Хз) In а]/[(х2—Xj) In b—(х4—х3) In а],
(3.131) .(3.132) :(3.131) .(3.132) :(3.130)
(3.131) .
(3.132) :
(3.131) .
(3.132) :
d= (In а)/[ (х2—МУ— (х,—ДЛ)2], <r=l/(2d).
Таблица 3.25. Данные к вычислению коэффициентов уравнения кривой Гаусса
X
У
у'
X
У
fH
у'
1
2
3
4
1
2
3
4
3724,56,9
512931,640,8
65119106,1119,0
79171170,4171,0
93121130,6121,0
1074247,842,2
121168,37,2
Х2=17,65
Приняв (из столбцов 1 и 2 табл. 3.25) за избранные точки %1 = 37, х2 = 65, х3 = 93, х4=121, Л = 2, f2=119, f3=121, Д=16, по формулам (3.130) — (3.132) получим: Л4=88,4; а2=256,7; о= = 16,0. Точные значения этих параметров равны: средняя арифметическая Л1 = 80,960; о2 = 265,06; сигма а= 16,281. Вершина нормальной кривой находится в точке с координатами х=Л4, у = =/тах=МУ(аУ2л), абсциссы точки перегиба кривой равны ±о.
Формулы (3.130)— (3.132) можно применять в тех случаях, когда вариационный ряд по каким-либо причинам оказался неполным; для применения изложенного метода достаточно, чтобы в ряду сохранились четыре варианты с их частотами.
ЛОГАРИФМИЧЕСКАЯ ФУНКЦИЯ
Кривые этого типа графически отражают такие зависимости, в которых корреляция двух факторов, довольно сильная в начале, становится слабой и почти незначимой в конце данного процесса. Технику вычисления коэффициентов уравнения логарифмической кривой
y = a-Vbx-\-c In х, (3.133) рассмотрим на примере аппроксимации эмпирической зависимости срока созревания семян от начала цветения у видов травянистых многолетников.
В столбцах 1 и 2 табл. 3.26 даны сроки этих двух фенофаз в днях от 1 марта. Предстоящие вычисления с этими главным образом трехзначными числами могли бы стать затруднительными, если бы не были преобразованы исходные величины с целью снижения их порядка (столбцы 3 и 4). Заметим, что подобное преобразование желательно делать при аппроксимации любыми типами кривых, особенно тогда, когда исходные величины при расчетах возводят в степень или логарифмируют. Для приведения ряда аргумента к натуральному ряду чисел следует найти
Таблица 3.26. Сроки зацветания х и созревания семян у у видо в травянистых многолетников в Москве, дни от 1 марта
Зацветание X*
Созревание семян у"
Кодированные даты
Теоретические значения у'
х=(х'—20)/20
y=y”j\^
40
97,5
1
0,975
0,83283
60
124,4
2
1,244
1,2625
80
138,1
3
1,381
1,5141
100
152,8
4
1,528
1,6926
120
174,2
5
1,742
1,8313
140
198,9
6
1,989
1,9448
160
212,05
7
2,1205
2,0408
180
220,2
8
2,202
2,1239
200
225,8
9
2,258
2,1973
^=9
4=20, сА=20
45
—
—
подходящие значения величин А (начального значения х) и ск (интервала между значениями х). В затруднительных случаях следует с этой целью решить систему уравнений: xv = (х/—А^]ск) Хг= (х/—A)jck. Например, для данных в столбце 1 табл. 3.26: 1 = (40—А)(ск) 2= (60—А\]ск, откуда 4 = 20, cfe=20. Эта несложная операция существенно снижает трудоемкость расчетов и повышает их точность.
Найдем суммы величин: х, у, xlnx, 1пх, ху, у\пх, х2, 1п2х, для чего выполним соответствующие вычисления с числами, приведенными в столбцах 3, 4 табл. 3.26.
Средние арифметические обоих рядов по формуле (1.08) равны:
Мх = У-12х = 45/9 = 5, MyT=N"'L^,y= 15,44/9 = 1,7155.
Определим вспомогательные величины:
А = (2 In х)'^ х In х = 79,057/12,802 = 6,1754,
Б = 2 ху/2 X = 87,144/45 = 1,9365,
В = 2 У 1пх/21пх = 24,532/12,802 = 1,9163,
Г = 2х2/5х = 285/45 = 31,666,(3.134)
Д=2 х In х/2х = 79,057/45= 1,7568,
Е = ^2 In х= 12,802/9= 1,4224,
Ж= 2 ln2x/2 In х = 22,348/12,802 = 1,7457.
-4. Коэффициенты уравнения логарифмической кривой равны:
с = А (Б - Му) + Мх (В - Б) + Г (Му - В)з
А (Д — Е) + Л4ж (Ж —Д) + Г (Е — Ж) ’1 ‘
_ 6,1754(1,9365—1,7155)+5(1,9163 — 1,9365) +31,666(1,7155—1,9163) _ — 6,1754(1,7568—1,4224)+5(1,7457— 1,7568) +31,666 (1,4224—1,7457) ~ = 0,61911,
й=[с(Д-Е)+М-Б]/(Мх-Г)(3.136)
b = [ 0,61911 (1,7568— 1,4224) +1,7155—1,9365] / (5—31,666) =
= 0,00052501,
а = М — ЬМ — сЕ,(3.137)
а= 1,7155—0,00052501 -5—0,61911 • 1,4224 = 0,8323.
Вычисленные по уравнению у'=0,8323+0,00052501%+ +0,619111п% теоретические значения дат созревания семян приведены в столбце 5 табл. 3.26. Величины х в этом уравнении соответствуют числам из столбца 3. Ошибка данного уравнения, вычисленная по формуле (3.04):/иу =/(м-зг^у-ут- =К 0,091429/(9—6) =0,123. На рис. 27, а видно, что теоретическая линия регрессии 2 удовлетворительно совпадает с эмпирическими данными 1. Очевидно также, что корреляционная связь между сроками зацветания и созревания семян у видов травянистых многолетников уменьшается в конце сезона.
ГИПЕРБОЛА
Для аппроксимации обратных криволинейных зависимостей нередко применяют различные модификации гиперболической функции. Ветви гиперболы не имеют точек пересечения с осями координат, они асимптотически приближаются к ним, что следует принимать во внимание при биологическом толковании соответствующих графиков. Рассмотрим технику расчета различных видов уравнений гиперболы на конкретных примерах из ботаники.
В соответствии с уравнением
(3.138)(3.138)у = сЦ-Ь!х,
(3.138)
(3.138)
где у, х — функция и аргумент; а, b— коэффициенты, выполним расчет по аппроксимации зависимости продолжительности цветения у от даты его начала х0 у совокупности сортов гелениума осеннего по данным многолетних фенологических наблюдений в Москве. В табл. 3.27, в столбце 1 указаны средние даты зацветания сортов гелениума х0 в днях от 1 марта (табл. 5П); этим датам соответствуют величины продолжительности цветения у в
246
Рис. 27. Связи признаков у травянистых многолетников
а — логарифмическая кривая (3.133): сроки созревания семян у" в совокупности из 1300 видов и сортов — даты начала их цветения х'\ б —гипербола (3.138): продолжительность цветения у — даты его начала Яо у сортов гелениума; в — гипербола (3 143): продолжительность цветения (/ — даты его начала х у сортов гелениума осеннего; г — гипербола (3.146): продолжительность цветения (/ — даты начала весеннего отрастания х у сортов дельфиниума; д — гипербола (3.148): продолжительность цветения#— даты начала отрастания х у сортов дельфиниума; е — степенная функция (3.150): длина соцветий у — высота растений х0 (в см) у сортов дельфиниума; 1 — эмпирическая и 2— теоретическая линия регрессии
Рис. 27 (окончание)Рис. 27 (окончание)
Рис. 27 (окончание)
Рис. 27 (окончание)
Таблица 3.27. Зависимость продолжительности цветения у от даты его начала х0 у сортов гелениума осеннего
о
*
н
1 *
т ч
т
1
Т 3 х
т
1
1
1
2
3
4
5
6
7
8
9
10
11
12
145,0
163,7 1
4-0,702
0,493 +7,8
+5,476
63,7 1
64
0,(9
148,1
4,1 57,10,244
—0,054
0,003 +1,2
—0,065
13,932 0,059
55,2
3,61
152,8
8,8 53,90,114
—0,184
0,034 —2
+ 0,368
6,1450,013
53,7
0,04
156,7 12,7 52,5 0,079
—0,219
0,048 —3,4
+ 0,745
4,148 0,006
53,3
0,64
162,918,9 52,3 0,053
—0,245
0,060—3,6
+ 0,882
2,772 0,003
53,0
0,49
279,51,49
0,638
7,406
90,6971,081
4,87
днях (столбец 3). Расчеты уравнений гиперболы облегчает преобразование аргумента, из величин которого вычитаем постоянное число, близкое к минимальной варианте ряда х0. В нашем случае это число А = 144. Ряд преобразованного по формуле х= = х0—144 аргумента представлен в столбце 2. В столбце 4 — обратные величины аргумента 1/х, что иначе записывается в виде х-1. Средняя арифметическая обратных величин аргумента равна Mi = 2 x"xlN = 1,490/5 = 0,298, где N — число вариант. В столбце 5 даны разности обратных величин с их средней, а в столбце 6 — квадраты разностей. Средняя арифметическая величин функции равна My=^y[N = 279,5/5=55,9. Разности величин функции с их средней приведены в столбце 7, а в столбце 8 — произведения разностей функции и аргумента. В столбце 9 — произведения обратной величины аргумента на соответствующее значение функции, иначе это действие может быть выполнено делением: yjx. В столбце 10 запишем квадраты величин из столбца 4, после чего закончены подготовительные расчеты для вычисления и проверки коэффициентов уравнения (3.138). По формуле
b = 2 (х-1 - MJ (у - Лу/2 (X-1 - Мгу (3.139)
находим значение коэффициента при аргументе 6 = 7,406/0,638 = = 11,605. Проведенное вычисление коэффициента b желательно проверить. Для этого воспользуемся другой формулой:
ь = (2 ух-1 -М^ X-1)/(2 X2 - ^2 х-1) , (3.140)
подставив в которую итоги из табл. 3.27 и другие известные величины, получим Ь= (90,697—55,9-1,49)/(1,081—0,298-1,49) = = 11,626, что с учетом точности расчетов является удовлетвори-
тельным совпадением с величиной, вычисленной по формуле (3.139). Находим величину свободного члена уравнения
а=М—ЬМъ(3.141)
а=55,9— 11,605 • 0,298=52,442.
Проверить вычисления или найти значения коэффициентов а, b иным способом можно, решив систему нормальных уравнений
aN + Ь^1х-1 = '21У,а^х^ + Ь^х-2 ^^ух-1.(3.142)
Теоретические значения у' продолжительности цветения сортов гелениума осеннего, вычисленные по уравнению у' = 52,4+ + 11,605/х, приведены в столбце 11 табл. 3.27. Напомним, что подставлять в это уравнение следует преобразованные значения аргумента х=х0—144. Вычитая полученные у' из величин у (столбец 3) и возводя разницы в квадрат, получим (у—у')2 в столбце 12, сумма которых необходима для вычисления ошибки уравнения по формуле (3.04) ту=У4,87/(5—2) = 1,27. На рис. 27, б показаны точками эмпирические данные и аппроксимирующая их гипербола, рассчитанная по формуле (3.138), которые позволяют заключить, что при более раннем зацветании продолжительность цветения у сортов гелениума больше. Следовательно, при селекции желательно стремиться к получению ранних сортов гелениума, что является единственной возможностью увеличить продолжительность цветения растения в средней полосе СССР, где заморозки наступают в конце периода цветения большинства сортов гелениума.
На том же примере покажем технику вычисления коэффициентов другого уравнения гиперболы:
у=1/(а+М>(3.143)
где обозначения те же, что и в формуле (3.138). Графики этой кривой см. § 3.16.
В первых двух столбцах табл. 3.28 приведены данные из табл. 3.27, т. с. х— преобразованные даты начала цветения сортов гелениума (х=х0—144); у0 — продолжительность их цветения, дни. Преобразуем также и величины у0) вычитая из них 51,3 с тем расчетом, чтобы минимальная величина у была равна единице (столбец 3). В столбце 4 выполнено деление 1/у, иначе у-1. В столбце 5 — возведенные в квадрат величины столбца 1, в столбце 6 — произведения величин столбцов 1 и 4.
Найти коэффициенты приведенного уравнения можно непосредственным решением системы нормальных уравнений:
2 у”1 = aN + b 2 х,^xy^ — a^x-j-b^x2,(3.144)
необходимые суммы для этого приведены в табл. 3.28.
Таблица 3.28. Аппроксимация гиперболой по уравнению (3.143)
X
Уо
У=У»—51,3
у-1
Xе
ху~х
у'
1
2
3
4
5
6
7
1
63,7
12,4
0,0806
1
0,0806
24,15
4,1
57,1
5,8
0,1724
16,81
0,7068
4,66
8,8
53,9
2,6
0,3846
77,44
3,3845
2,09
12,7
52,5
1,2
0,8333
161,29
10,5829
1,44
18,9
52,3
1
1
357,21
18,9
0,95
45,5
2,4709
613,75
33,6548
Из уравнений (3.144) выведены формулы, дающие те же результаты:
ь = ^Мх 2 у-1 - 2 ху-1){^М, 2 х - 2 х^ ,(3.145)
а = Мх — ЬМХ,
где Мх = (2 x^N, М. = (2 У^/N.
Подставив из табл. 3.28 известные величины в формулы (3.145), получим: Мх=45,5/5=9,1; ^ = 2,4709/5 = 0,49418; 6 = =-(9,1 -2,4709—33,6548)/(9,1 -45,5—613,75) =0,0559, а = 0,49418— —0,0559-9,1 =—0,0145. Для проверки подставим полученные значения коэффициентов и две суммы из табл. 3.28 в первое урав- ' пение системы (3.144): 2,4709 =—0,0145-5+0,0559-45,5; решив правую часть уравнения, найдем: 2,4709 = 2,4709, следовательно, коэффициенты а и b вычислены верно. Теоретические точки гиперболы по уравнению у' = 1/(0,0559х—0,0145) приведены в по- • следнем столбце табл. 3.28, их совпадение с эмпирическими дан- ; ными удовлетворительное (см. рис. 27, в) и несколько лучшее, чем по уравнению (3.138). Первая точка гиперболы по своей ординате (24,15) значительно отклоняется от эмпирической величины (12,4). В этом месте графика начинается асимптота гиперболы, поэтому данному отклонению не следует придавать реального значения. На рис. 28, б представлены различные формы кривых, которые соответствуют уравнению (3.143).
Ввиду большего числа коэффициентов в нем довольно гибко в отношении аппроксимации уравнение гиперболы
у = а0-\-а1х-^а2(х1(3.146) j
где а0, 0ь а2— коэффициенты; у и х— функция и аргумент. Най- 1 дем точки гиперболы, отражающей зависимость средней продол- , жительности цветения сортов дельфиниума культурного у | (в днях) от начала их отрастания в открытом грунте х (в днях j от 1 марта). В табл. 3.29 в первых двух столбцах приведены эти ।
Таблица 3.29. Зависимость продолжительности цветения дельфиниума у от начала его отрастания в открытом грунте Москвы х
X
У
х-Ч
х8
Ух
х-8
ух-1
У*
ку-у’?
0,33
0,54
3,0303
0,1089
0,1782
9,1827
1,6364
0,53
0,0001
0,42
0,407
2,3809
0,1764
0,1709
5,6687
0,969
0,404
0
0,45
0,38
2,2222
0,2025
0,171
4,9382
0,8444
0,37
0,0001
0,48
0,35
2,0833
0,2304
0,168
4,3401
0,7292
0,345
0
0,51
0,288
1,9608
0,2601
0,1468
3,8447
0,5647
0,32
0,0010
0,54
0,29
1,8519
0,2916
0,1566
3,4295
0,5371
0,30
0,0001
0,57
0,287
1,7544
0,3249
0,1635
3,0779
0,5035
0,28
0
0,60
0,238
1,6667
0,36
0,1428
2,7779
0,3967
0,26
0,0005
0,63
0,22
1,5873
0,3969
0,1386
2,5195
0,3492
0,25
0,0009
0,66
0,38
1,5151
0,4356
0,2508
0,2955
0,5757
0,23
0,0225
0,69
0,14
1,4493
0,4761
0,0966
2,1005
0,2029
0,22
0,0196
5,88
3,52
21,5022
3,2634
1,7838
44,1752
7,3088
—
0,0448
данные, но запятая во всех них перенесена на два знака влево для удобства вычислений. Таким образом, х=0,33 соответствует 33 дням от 1 марта, или 2 апреля (табл. 5П), а у = 0,54 означает продолжительность цветения 54 дня. Коэффициенты уравнения (3.146) можно найти, решив систему нормальных уравнений:
а0^+ °i 2 х + аг2 х"г = 2 У»
aQ^x+а^х2+ а^=^ух,(3.147)
«о 2 х"1 + «1N + о2 2 х”2 = 2 УХ"\
или по приведенным ниже формулам, полученным из системы (3. 147).
Выполнив действия, указанные в табл. 3.29, найдем следующие величины:
Мх = N-1^ X = 5,88/11 = 0,5345, М.и= N^ у = 3,52/11=0,32,
М, = N"1 2 х’1 = 21,5022/11 = 1,9547,
Л = 2 ^/2 х = 3,2634/5,88 = 0,555, В = МгА — 1 = 1,9547 •
. 0,555 — 1 = 1,0849, К = 2 Ух/2 х = 1,7838/5,88=0,3034;
D = Мх — Л = 0,5345 — 0,555 = —0,0205, Е = (Мд — K^D = = (0,32—0,3034)/—0,0205 = —0,8097,
F = ^МгК - 2 yx^/N^B = (1,9547 • 0,3034-7,3088/11)/1,0849= = —0,0657,
G = (Mx — N^ x^D = (1,9547—11/5,88)7-0,0205 = —4,0976,
H = (2*-1/2* - 2 x^/N^B = (21,5022/5,88 — 44,1752/11)/
/1,0849 = —0,331,
«2 = (£ — F№ — H) = (—0,8097+0,0657)/(—4,0976+0,331) = = +0,1975,
ax = [л4х 2 У — 2 Ух — °2 (мх2 x — + ]/|+^ 2 * - 2 *2]=
= [0,5345 -3,52— 1,7838 — 0,1975 (1,9547 • 5,88— 11)]/ /(0,5345.5,88—3,2634) = —0,00083,
Oo = M —atMx—a2Mv = 0,32+0,00083 • 0,5345—0,1975-1,9547 = = —0,0657.
Теоретические значения функции, приведенные в столбце 8 табл. 3.29, вычислены по уравнению у' =—0,0657—0,00083%+ +0,1975/%. В столбце 9 таблицы приведены квадраты разностей эмпирических у и теоретических у' значений функции, сумма которых необходима для вычисления ошибки уравнения (3.04): т* = 0,0448/11 =0,0041; ту=0,064, или 6,4 дня в исходных данных.
На рис. 27, г представлены эмпирическая (/) и теоретическая (2) кривые, совпадение между ними хорошее. Небольшая величина коэффициента ^ = 0,00083 позволяет предполагать, что при аппроксимации рассматриваемой зависимости можно было применить уравнение (3.138) вместо (3.146).
Для аппроксимации обратных зависимостей, графическое представление которых соответствует рис. 28, в, можно применять уравнение
у' = %/(«+&%),(3.148)
где у', х — функция и аргумент; а, b— коэффициенты. По методу наименьших квадратов эти коэффициенты можно найти, решив систему нормальных уравнений:
^уй = аМ ^-b^x,'21xy0 = a’2ix-V-b’21x2,(3.149)
где уй=х]у.
Рассмотрим технику вычисления коэффициентов уравнения (3.148) по формулам, полученным из системы (3.149), на данных предыдущего примера (см. табл. 3.29). Для решения системы (3.149) дополнительно необходимы суммы 5Уо, ^ХУ^ ко* торые приведены в табл. 3.30, остальные суммы 2%> 2%2 в
Таблица 3.30. Дополнительные данные к табл. 3.29 для расчета коэффициентов уравнения (3.148)
y»=xjy
хуй
у’
Уо=х!у
хуй
У*
0,6111
0,2017
1,508
1,9861
1,1321
0,248
1,0319
0,4334
0,421
2,5210
1,5126
0,235
1,1842
0,5329
0,358
2,8636
1,8041
0,224
1,3714
0,6583
0,316
1,7368
1,1463
0,215
1,7708
0,9031
0,287
4,9286
3,4007
0,207
1,8621
1,0055
0,265
21,8676
12,7307
табл. 3.29 уже вычислены. Расчеты проведем в следующем порядке.
М х = ^/^=5,88/11 = 0,5345,Л^ = 2 У»1У = 21,8676/11 =
= 1,988; b=(/Wx2//0 —2хУо)Д^2х —Sx2) =
= (0,5345 • 21,8676— 12,7307)/(0,5345 • 5,88 — 3,2634) = 8,6514,
а = М1 — ЬМх = 1,988-8,6514-0,5345 = —2,6362.
Теоретические значения гиперболы по уравнению у' = = х/(8,6514х—2,6362) приведены в табл. 3.30; их совпадение с эмпирическими точками удовлетворительное (см. рис. 27, д).
СТЕПЕННАЯ ФУНКЦИЯ СО СВОБОДНЫМ ЧЛЕНОМ
Зависимости, близкие к гиперболе или параболе, иногда соответствуют и степенной функции:
у^а^Ьх2,(3.150)
где у' — теоретические значения функции; х— аргумент; а, b— коэффициенты. По методу наименьших квадратов коэффициенты можно найти из системы уравнений
^y^aN + Ь^х»,^yx^a^+b^x1.(3.151)
Рассмотрим технику расчетов на примере зависимости длины соцветий от высоты растений в совокупности сортов дельфиниума по наблюдениям в Москве. В столбце 1 табл. 3.31 приведены через равные интервалы величины высоты растений (в см), которые в столбце 2 преобразованы для удобства расчетов в натуральный ряд чисел по формуле х = (х0—34)/17, где 34 — число, подобранное так, чтобы варианты были в результате целыми числами (если это возможно); 17 — классовый интервал. Величинам высоты в среднем по многим измерениям соответствуют ве-
Таблица 3.31. Зависимость длины соцветий у от высоты растений х у сортов дельфиниума в Москве, см
Хо
X
У
X2
ух2
X*
у'
1
2
3
4
5
6
7
51
1
10,3
1
10,3
1
18,0
68
2
14,7
4
58,8
16
19,4
85
3
21,1
9
189,9
81
21,7
102
4
22,5
16
360
256
24,9
119
5
30,9
25
772,5
625
29,0
136
6
36,1
36
1299,6
1296
34,1
153
7
36,5
49
1788,5
2 401
40,1
170
8
40
64
2560
4 096
47,0
187
9
56,3
81
4560,3
6 561
54,8
204
10
68
100
6800
10 000
63,5
336,4
385
18399,9
25 333
личины длины соцветий у, приведенные в столбце 3. Дальнейшие действия ясны из заголовков столбцов в табл. 3.31.
Вычисления коэффициентов по формулам, полученным из системы (3.151), проводим в следующем порядке.
Му = 2 ylN = 336,4/10 = 33,64, Мх = 2 ^W = 385/!1 = 35,
Рис. 28. Формы кривых первой группы сложности
у~а^х (см. § 3.09):
/) z/=e~°»69X, 2) 1/=е”°»61х, 5) у=ег°*^х, 4) у—^"0»^» 5) у=е~°*10ЬХ, 6) у=ег°^ъх,
^=е”°»01х, 5) г/=е0,01*, 9) у=е°»°^х, 10) у=^*^х w //) (/=е°’18*;
027 6 8 76 72 т
b = (^ 2^-2 ^/(^х 2 ^2 - 2 ^4) = (33,64 • 385—
— 18 399,9)/(35.385—25 333) = —5448,5/(— 11 858) = = +0,45948,
a=M „—bM, = 33,64—0,45948 -35=17,56.
Теоретические значения длины соцветий, вычисленные по уравнению #'= 17,56+0,45948х2, приведены в столбце 7 табл. 3.31. На рис. 27, е видим, что совпадение величин у и у' удовлетворительное.
§ 3.16.
МЕТОД ИЗБРАННЫХ ТОЧЕК
Для аппроксимации графоаналитических зависимостей применяют методы: 1) наименьших квадратов, 2) моментов, 3) средних, 4) избранных точек. Два первых метода обеспечивают практически любую требуемую точность аппроксимации, однако применимы далеко нс ко всем типам зависимостей из-за отсутствия способов аналитического решения некоторых видов уравнений и их систем. Оба первых метода также довольно трудоемки в отношении вычислительной работы. Третий метод занимает промежуточное положение как по точности аппроксимации, так и по объему вычислений между первыми двумя и четвертым методом. Заметим, однако, что благодаря подробно разработанным алгоритмам [Семендяев, 1933] метод средних более универса-
Рис. 29. Формы кривых второй группы сложности
л) у=ахь (см. § 3.07):
/) у=2х-^ 2) у=2х_1, 3) у=2х~й'\ 4) y=2x^^t 5) у=2х°«5, 6) у=2х, 7) у=2хх^э 8) у=2х2;
, х
У =Г— + С.
’ у а+Ьх
у=2 — хЦ 1,5+0,4х), 2) у=2 — х/(1,5+0,5х), 3) у-2 — х/( 1,5+0,6х), 4) ^=0,5+х/(1 + 1.5х), .5) t/=0,5 + x/(l+x), 6) j/=0,5+x/(l+0,6x);
<e) lg y—a-V-bx-ucx2;
П 1g £=0,81—0,36л: + 0,03л:2, 2) 1g £-0,54-0,24л:+0,02л:2, 3) lg у-0,27-0,12^+0,01 х2, 4Hg У= — 0,135—0,06л:+0,005л:2, 5) 1g у0,135+0,06л: — 0,005х2, 6) 1g £=-0,54+0,24х—0,02х2;
1 .
— агл-Ьх^сх2 '
/) У-М^Лх- — х+2,5), 2) £=1/(0,1х2 — х+2,62), 3) у= 1/(0,1х2 — х+2,7), 4) £=1/(0,1х2 - jc+3), 5) у=\К—0,4л:2+4х+0,1), 6) у= 1/(—0,1х21-х+0,1), 7) у= 1/(—0,04х2+0,4х+0,1), 8) у- —1/(—0,01 х2+0,1х+0,1);
-д у —г—т (см. § 3.05):
у a+bx+сх2 х'
V) у=хК^,2—0,1х+0,05л:2), 2) y=xl^2—0,1х+0,07х2), 3) у-xj^,2—0,1 х + 0,1 л:2), 4) i/=x/(0,2— О,1х+О,2х2), 5) у=х!^,2—0,1х+0,4х2);
.b с
е) у — а ^ — + —- :
х х2
^«6-10/г+5/х2, 2) !/=6-10/л:+10/х2, 3) (/=6-10/х+15/х2, 4) у-6-10/х4-20/х2.
лен по сфере приложения, чем методы моментов и наименьших квадратов.
Метод избранных точек наиболее прост по технике вычислительной работы, но в общем случае не гарантирует особой точности. Между тем с появлением ЭВМ с программируемым процессом вычислений появились новые возможности использования уже известных вычислительных методов. Дело в том, что эффективность, или рентабельность, применения ЭВМ складывается в том числе из соотношения между работой по составлению алгоритма и программированию, с одной стороны, и работой по непосредственному машинному счету — с другой. Чем меньше это отношение, тем эффективнее применяется ЭВМ при прочих равных условиях. Иначе говоря, выгоднее меньше тратить времени и сил на составление алгоритма, если есть возможность адекватно переложить значительную долю работы на машину, конечно, при равной полноте и точности результатов в обоих случаях. Обычно достичь указанной ситуации удастся, упрощая алгоритм за счет увеличения числа вычислительных операций, производимых ЭВМ. Таковы, например, некоторые вычислительные процедуры, связанные с применением итераций. В отношении к аппроксимации зависимостей итерации часто применяются в таких процедурах, где коэффициенты уравнений функций находятся способом последовательных улучшений, причем критерием оценки качества приближения величин коэффициентов служит обычно дисперсия значений функции или величина ошибки последней. Как только при последовательном уменьшении или увеличе-
Рис. 30. Формы кривых третьей группы сложности
«) У=а+Ь Igx+c lg2x:
/) Z/=I+lg х+0,1 lg2 х (^min^1’5 ПРИ lg x=—5). 2) y=I+lg x 0.01 lg2 x (t/min=—24 при lg x=-50), 3) z/=l+0,2 lg x+0,3 lg2 x, 4) y=A - lg x + lg2 x, 5) y=A - lg x+0,5 lg2 x;
y^a-vbx-vcxV
П i/2=0,lx2 — x+2,51, 2) ^=0,lx2 — x+2,7. 3) у^-ОДх2 — x+3,5, 4) y2=0,01x2 - 0,lx+0,3, 5) у2=4 — х-Ю,05х2, 6> y2=4S — x + 0,05x2, 7) y2-0,25+x — 0,lx2, 8) t/2=0,05+0,5x — 0,05x2. 9) y2=0,054-0, lx —O.Olx2;
e) y=axbePx (cm. § 3.08):
/) у=Д£х^С0»92x, 2) y=3x2e~°»069X, 3) y=3x”"2e°’41x, 4) y=—0,5x1*5e°*29X;
г) y=a^bxC:
/) y=2^9^x\ 2) y=I,6e-°’046*1,7, 3) y=l,2e-°>069x1’5, 4) у=1,0е-°’092х1’36,
y=0,8e~0.115X1,24, ^ y_Q 5e—0.138X1*12.
d) у—аеР^СХ (см. § 3.10):
/) t/=e°»ie , 2) y=e°»ie , 3) y=e°’lc , 4) y=5e °>1е, а) у—эе °>ie t
--— a 1P0,5X- _1A "0,3X1A -0,5X
^Se^»16, 7) #=10e 5e , 8) t/=10e 5e t P) z/=10e 5e ;
e) y=a-vbx-vce^x:
/) ^=0,5+x-0,01ex, 2) t/=0,5+x-0,001ex, 3) z/=0,5-bx, 4) y=0,5+x+0,00Iex, 5) y— 0,5+x+0,01xe
Рис. 31. Формы кривых четвертой группы сложностиРис. 31. Формы кривых четвертой группы сложности
Рис. 31. Формы кривых четвертой группы сложности
Рис. 31. Формы кривых четвертой группы сложности
у=аеЬхл-се^х:
/) у=е_"х—€~^х, 2) у=еГх—0,5е~ъх, 3) у=е~х, 4) у=е~'х+0,5е~'^х, 5) у=е~~х+е~2>х;
у=еах (с cos Ьхл-d sin bx^;
/) ^=eO.oix (1,5 cos O.lx-0,5 sin 0,lx), 2) |/=e~0»ax*(l,5 cos 0,5x-0,5 sin 0,5x),
y=eTQAx (0,6 cos 0, 1x4-0,8 sin 0,lx), 4) y=^Ax (0,2 cos 0,3x~0,l sin 0,3x),
y=eQ^x (0,4 cos 0,16x+0,17 sin 0,16x), 6) y—0,5e~°’lx sin x;
y=axb*cx;
/) y=2x°A-x°^t 2) z/=:3x°»5-2,2x°>6, 3) z/^2,3x°«8-2x0»85, 4) r/=0,lx°’14-0,5x°’2,
z/~0,33x—0,0012x8, 6) z/=O,25xo-5+O,O5xo>8;
y=a + bx-\-cx2+dx^+... (см. § 3 04, 3.06):
/) ^в i—o,lx, 2) y=\—0,1x4- 0,0 lx2, 3) y=\—0,1x4-0,Olx2—O.OOIx3, 4) y= 1—0, lx 4- 0,0 lx2— 0,001x34-0,0001x4, 5) y= 1—0,1X4-0, Olx2—0,001x4 0,000 lx4—0,0000 lx5, 6)i/=l—0,lx4-0,01x2—
0,001 x34- 0,0001 x4—0,00001 x5 4- 0,000001 x6
нии величины первого коэффициента дисперсия функции перестает уменьшаться, переходят поочередно таким же образом к еле* дующим коэффициентам, а затем процедура может повториться нужное число раз до тех пор, когда при начале увеличения или уменьшения каждого коэффициента дисперсия функции будет
только увеличиваться. На этом вычисления коэффициентов заканчиваются. Недостаток описанного способа итераций заключается в том, что исходные значения коэффициентов могут быть заданы с большими отклонениями и потребуется слишком много машинного времени для их уточнения. Сократить время расчетов при этом можно двумя способами: оперативно изменяя шаг итераций и (или) задавая в качестве исходных величин приближенно найденные, например по способу избранных точек, значения коэффициентов уравнения. В последнем случае весьма полезны модельные графики кривых, построенные по уравнениям с различными величинами коэффициентов и позволяющие понять закон изменения формы кривой в зависимости от изменения величины коэффициентов ее уравнения. Наиболее полный сборник таких графиков различных кривых, составленный К. А. Семендяевым [1933], в настоящее время стал библиографической редкостью, поэтому в данном параграфе приводится большинство модельных графиков (рис. 28—31) из этого издания. Сравнивая эмпирическую кривую исследуемого явления с этими графиками, можно подобрать тип кривой и подходящее уравнение для ее аппроксимации методом избранных точек, или итераций. Определить коэффициенты уравнений некоторых из функций, показанных на рис. 28—31, можно также по способам, приведенным в параграфах, номера которых указаны в подписях к этим рисункам.
ПРИЛОЖЕНИЕ
Таблица 1П. Число классов в зависимости от объема выборки
Объем выборки N
Число классов к
Объем выборки N
Число классов к
40—60
6—8
100—200
9—12
60—100
7—10
200—500 и больше
12—17
Таблица 2П. Значения критериев ф^ и ^ на уровнях значимости 0,01 (верхнее число) и 0,05 (нижнее число) *
N
^(1)
N
N
^N (1)
4
0,991
0,955
13
0,520
0,410
22
0,414
0,320
5
0,916
0,807
14
0,502
0,395
23
0,407
0,314
6
0,805
0,689
15
0,486
0,381
24
0,400
0,309
7
0,740
0,610
16
0,472
0,369
25
0,394 0,304
8
0,683
0,554
17
0,460
'0,359
26
0,389
0,299
9
0,635
0,512
18
0,449
0,349
27
0,383
0,295
10
0,597
0,477
19
0,439
0,341
28
0,378 0,291
И
0,566
0,450
20
0,430
0,334
29
0,374
0,287
12
0,541
0,428
21
0,421
0,327
30
0,369
0,283
Если вычисленные значения Од^ или Ох превышают табличные, то варианта отбрасывается»
Таблица ЗП. Критические значения разности между двумя крайними вариантами совокупности
Объем совокупности N
Уровни значимости
Объем сово- купно- сти N
Уровни значимости
0,10
0,05
0,01
0,005
0,10
0,05
0,01
0,005
2
2,33
2,77
3,64
3,97
80
0,83
1,04
1,50
1,70
3
1,79
2,17
2,90
3,20
90
0,82
1,03
1,50
1,67
10
1,18
1,46
2,03
2,27
100
0,81
1,02
1,47
1,57
20
1,03
1,27
1,80
2,00
200
0,75
0,95
1,38
1,55
30
0,96
1,20
1,70
1,90
300
0,72
0,91
1,32
1,50
40
0,91
1,15
1,63
1,85
400
0,70
0,88
1,30
1,47
50
0,88
1,11
1,60
1,80
500
0,68
0,87
1,28
1,45
60
0,86
1,08
1,57
1,76
1000
0,65
0,83
1,22
1,40
70
0,84
1,06
1,53
1,72
Таблица 4П. Значения критерия Стьюдента t
Число степеней свободы
V
Доверительные уровни
Число степеней свободы
V
Доверительные уровни
Pi=95%
Р^=0,95
Р2=99%
Р2=0,99
Р3=99,9% р'=0,999
Pi=95% р'=0,95
Р»^%
Р2=о,99
Р,=99,9% />3=0,999
112,70663,657—
24,3039,92531,598
33,1825,84112,941
42,7764,6048,610
52,5714,0326,859
62,4473,7075,959
72,3653,4995,405
82,3063,3555,041
92,2623,2504,781
102,2283,1694,587
И2,2013,1064,437
122,1793,0554,318
132,1603,0124,221
142,1452,9774,140
152,1312,9474,073
162,1202,9214,015
172,1102,8983,965
182,1012,8783,922
192,0932,8613,883
202,0862,8453,850
212,0802,8313,819
222,0742,8193,792
232,0692,8073,767
242,0642,7973,745
252,0602,7873,725
262,0562,7793,707
272,0522,7713,690
282,0482,7633,674
292,0452,7563,659
302,0422,7503,646
352,0302,7243,591
402,0212,7043,551
452,0142,6903,520
502,0082,6783,496
552,0042,6693,476
602,0002,6603,460
701,9942,6483,435
801,9892,6383,416
901,9862,6313,402
1001,9822,6253,390
1201,9802,6173,373
>1201,9602,57583,2905
№1=5%, или №'=0,05
^2=1%, ИЛИ №'=0,01
1Г3=0,1%, ИЛИ №'=0,001
Уровни значимости
Таблица 5П. Перевод календарных дат в непрерывный ряд
Месяцы
III IV V VI VII VIII IX X XI XII I II
34353612431344144515463435361243134414451546й йй й
34
35
36
1243
1344
1445
1546
34
35
36
1243
1344
1445
1546
й й
й й
69100
71102
72 ЮЗ
73104
76 Ю7
77 Ю8
78109
89120
125156
126157
127158
128159
129160
130161
131162
132163
133164
134165
135166
136167
137168
138169
139170
144175
145176
146177
147178
148179
149180
150181
151182
152183
186216
187217
188218
189219
190220
191221
192222
193223
194224
195225
196226
197227
198228
199229
200230
201231
202232
203233
204234
205235
-206236
207237
208238
209239
210240
212242
213243
214244
246276
247277
248278
249279
250280
251281
252282
253283
254284
255285
256286
257287
258288
259289
260290
261291
262292
263293
264294
265295
266296
267297
268298
269299
270300
272302
273303
274304
275305
307338
308339
309340
310341
311342
312343
313344
314345
315346
316347
317348
318349
319350
320351
321352
322353
323354
324355
325356
326357
327358
328359
329360
330361
331362
332363
333364
334365
335 (366)
Таблица 6П. Значения коэффициента h для приближенного определения среднего квадратического отклонения
Объем выборки N
Л
Объем выборки N
h
Объем выборки
Л
2
1,1
6
2,5
15—30
4,0
3
1,1
7
2,7
30—200
5,0
4
2,1
9
3,0
200—1000
6,0
5
2,3
15
3,5
>1000
7,0
Таблица 7П. Значения критерия Стьюдента для односторонней оценки гипотез
Число степеней свободы
V
Доверительные уровни
Число степеней свободы
V
Доверительные уровни
95%
99%
99,9%
95%
99%
99,9%
1
6,31
31,82
318,31
18
1,73
2,55
3,61
2
2,92
6,97
22,33
19
1,73
2,54
3,58
3
2,35
4,54
10,21
20
1,73
2,53
3,55
4
2,13
3,75
7,17
21
1,72
2,52
3,53
5
2,01
3,37
5,89
22
1,72
2,51
3,51
6
1,94
3,14
5,21
23
1,71
2,50
3,49
7
1,89
3,00
4,79
24
1,71
2,49
3,47
8
1,86
2,90
4,50
25
1,71
2,49
3,45
9
1,83
2,82
4,30
26
1,71
2,48
3,44
10
1,81
2,76
4,14
27
1,70
2,47
3,42
И
1,80
2,72
4,03
28
1,70
2,47
3,41
12
1,78
2,68
3,93
29
1,70
2,46
3,40
13
1,77
2,65
3,85
30
1,70
2,46
3,39
14
1,76
2,62
3,79
40
1,68
2,42
3,31
15
1,75
2,60
3,73
60
1,67
2,39
3,23
16
1,75
2,58
3,69
120
1,66
2,36
3,17
17
1,74
2,57
3,65
ОО
1,64
2,33
3,09
265265^ Г. Н. Зайцев
265
265
V (1)
V (2)
2
3
4
5
6
8
12
16
24
50
П
[ри PY = 9J
5%
1
161,4
199,5
215,7
224,6
230,2
234,0
238,9
243,9
246,5
249,0
251,8
254,3
2
18,51
19,00
19,16
19,25
19,30
19,33
19,37
19,41
19,43
19,45
19,47
19,50
3
10,13
9,55
9,28
9,12
9,01
8,94
8,84
8,74
8,69
8,64
8,58
8,53
4
7,71
6,94
6,59
6,39
6,26
6,16
6,04
5,91
5,84
5,77
5,70
5,63
5
6,61
5,79
5,41
5,19
5,05
4,95
4,82
4,68
4,60
4,53
4,44
4,36
6
5,99
5,14
4,76
4,53
4,39
4,28
4,15
4,00
3,92
3,84
3,75
3,67
7
5,59
4,74
4,35
4,12
3,97
3,87
3,73
3,57
3,49
3,41
3,32
3,23
8
5,32
4,46
4,07
3,84
3,69
3,58
3,44
3,28
3,20
3,12
3,03
2,93
9
5,12
4,26
3,86
3,63
3,48
3,37
3,23
3,07
2,98
2,90
2,80
2,71
10
4,96
4,10
3,71
3,48
3,33
3,22
3,07
2,91
2,82
2,74
2.64
2,54
И
4,84
3,98
3,59
3,36
3,20
3,09
2,95
2,79
2,70
2,61
2,50
2,40
12
4,75
3,88
3,49
3,26
3,11
3,00
2,85
2,69
2,60
2,50
2,40
2,30
13
4,67
3,80
3,41
3,18
3,02
2,92
2,77
2,60
2,51
2,42
2,32
2,21
14
4,60
3,74
3,34
3,11
2,96
2,85
2,70
2,53
2,44
2,35
2,24
2,13
15
4,54
3,68
3,29
3,06
2,90
2,79
2,64
2,48
2,39
2,29
2,18
2,07
16
4,49
3,63
3,24
3,01
2,85
2,74
2,59
2,42
2,33
2,24
2,13
2,01
17
4,45
3,59
3,20
2,96
2,81
2,70
2,55
2,38
2,29
2,19
2,08
1,96
18
4,41
3,55
3,16
2,93
2,77
2,66
2,51
2,34
2,25
2,15
2,04
1,92
19
4,38
3,52
3,13
2,90
2,74
2,63
2,48
2,31
2,21
2,11
2,00
1,88
20
4,35
3,49
3,10
2,87
2,71
2,60
2,45
2,28
2,18
2,08
1,96
1,84
21
4,32
3,47
3,07
2,84
2,68
2,57
2,42
2,25
2,15
2,05
1,93
1,81
22
4,30
3,44
3,05
2,82
2,66
2,55
2,40
2,23
2,13
2,03
1,91
1,78
23
4,28
3,42
3,03
2,80
2,64
2,53
2,38
2,20
2,11
2,00
1,88
1,76
24
4,26
3,40
3,01
2,78
2,62
2,51
2,36
2,18
2,09
1,98
1,86
1,73
266
Таблица 8П. Значения критерия F'
V (1)
v (2)
1
2
3
4
5
6
8
12
16
24
50
ОО
При ?! = 95%
25
4,24
3,38
2,99
2,76
2,60
2,49
2,34
2,16
2,07
1,96
1,84
1,71
26
4,22
3,37
2,98
2,74
2,59
2,47
2,32
2,15
2,05
1,95
1,82
1,69
27
4,21
3,35
2,96
2,73
2,57
2,46
2,30
2,13
2,03
1,93
1,80
1,67
28
4,20
3,34
2,95
2,71
2,56
2,44
2,29
2,12
2,02
1,91
1,78
1,65
29
4,18
3,33
2,93
2,70
2,54
2,43
2,28
2,10
2,00
1,90
1,77
1,64
30
4,17
3,32
2,92
2,69
2,53
2,42
2,27
2,09
1,99
1,89
1,76
1,62
35
4,12
3,26
2,87
2,64
2,48
2,37
2,22
2,04
1,94
1,83
1,70
1,57
40
4,08
3,23
2,84
2,61
2,45
2,34
2,18
2,00
1,90
1,79
1,66
1,51
to45
4,06
3,21
2,81
2,58
2,42
2,31
2,15
1,97
1,87
1,76
1,63
1,48
350
4,03
3,18
2,79
2,56
2,40
2,29
2,13
1,95
1,85
1,74
1,60
1,44
60
4,00
3,15
2,76
2,52
2,37
2,25
2,10
1,92
1,81
1,70
1,56
1,39
70
3,98
3,13
2,74
2,50
2,35
2,23
2,07
1,89
1,79
1,67
1,53
1,35
80
3,96
3,11
2,72
2,49
2,33
2,21
2,06
1,88
1,77
1,65
1,51
1,32
90
3,95
3,10
2,71
2,47
2,32
2,20
2,04
1,86
1,76
1,64
1,49
1,30
100
3,94
3,09
2,70
2,46
2,30
2,19
2,03
1,85
1,75
1,63
1,48
1,28
125
3,92
3,07
2,68
2,44
2,29
2.17
2,01
1,83
1,72
1,60
1,45
1,25
150
3,90
3,06
2,66
2,43
2,27
2,16
2,00
1,82
1,71
1,59
1,44
1,22
200
3,89
3,04
2,65
2,42
2,26
2,14
1,98
1,80
1,69
1,57
1,42
1,19
300
3,87
3,03
2,64
2,41
2,25
2,13
1,97
1,79
1,68
1,55
1,39
1,15
400
3,86
3,02
2,63
2,40
2,24
2,12
1,96
1,78
1,67
1,54
1,38
1,13
500
3,86
3,01
2,62
2,39
2,23
2,11
1,96
1,77
1,66
1,54
1,38
1,11
1000
3,85
3,00
2,61
2,38
2,22
2,10
1,95
1,76
1,65
1,53
1,36
1,08
ОО
* —
3,84
2,99
2,60
2,37
2,21
2,09
1,94
1,75
1,64
1,52
1,35
1,00
V (1)
V (2)
1
2
3
4
5
6
8
12
16
24
50
ОО
1
4052
4999
5403
5625
При Р2 = 99% 576458595981
6106
6169
6234
6302
6366
2
98,49
99,00
99,17
99,25
99,30
99,33
99,36
99,42
99,44
99,46
99,48
99,50
3
34,12
30,81
29,46
28,71
28,24
27,91
27,49
27,05
26,83
26,60
26,35
26,12
4
21,20
18,00
16,69
15,98
15,52
15,21
14,80
14,37
14,15
13,93
13,69
13,46
5
16,26
13,27
12,06
11,39
10,97
10,67
10,29
9,89
9,68
9,47
9,24
9,02
6
13,74
10,92
9,78
9,15
8,75
8,47
8,10
7,72
7,52
7,31
7,09
6,88
7
12,25
9,55
8,45
7,85
7,46
7,19
6,84
6,47
6,27
6,07
5,85
5,65
8
11,26
8,65
7,59
7,01
6,63
6,37
6,03
5,67
5,48
5,28
5,06
4,86
9
10,56
8,02
6,99
6,42
6,06
5,80
5,47
5,11
4,92
4,73
4,51
4,31
10
10,04
7,56
6,55
5,99
5,64
5,39
5,06
4,71
4,52
4,33
4,12
3,91
И
9,65
7,20
6,22
5,67
5,32
5,07
4,74
4,40
4,21
4,02
3,80
3,60
12
9,33
6,93
5,95
5,41
5,06
4,82
4,50
4,16
3,98
3,78
3,56
3,36
13
9,07
6,70
5,74
5,20
4,86
4,62
4,30
3,96
3,78
3,59
3,37
3,16
14
8,86
6,51
5,56
5,03
4,69
4,46
4,14
3,80
3,62
3,43
3,21
3,00
15
8,68
6,36
5,42
4,89
4,56
4,32
4,00
3,67
3,48
3,29
3,07
2,87
16
8,53
6,23
5,29
4,77
4,44
4,20
3,89
3,55
3,37
3,18
2,96
2,75
17
8,40
6,11
5,18
4,67
4,34
4,10
3,79
3,45
3,27
3,08
2,86
2,65
18
8,28
6,01
5,09
4,58
4,25
4,01
3,71
3,37
3,20
3,00
2,79
2,57
19
8,18
5,93
5,01
4,50
4,17
3,94
3,63
3,30
3,12
2,92
2,70
2,49
20
8,10
5,85
4,94
4,43
4,10
3,87
3,56
3,23
3,05
2,86
2,63
2,42
21
8,02
5,78
4,87
4,37
4,04
3,81
3,51
3,17
2,99
2,80
2,58
2,36
22
7,94
5,72
4,82
4,31
3,99
3,76
3,45
3,12
2,94
2,75
2,53
2,31
23
7,88
5,66
4,76
4,26
3,94
3,71
3,41
3,07
2,89
2,70
2,48
2,26
24
7,82
5,61
4,72
4,22
3,90
3,67
3,36
3,03
2,85
2,66
2,44
2,21
268
v (1)
V (2)
1
2
3
4
5
6
8
12
16
24
50
ОО
25
7,77
5,57
4,68
4,18
При Р2 = 99% 3,863,633,32
2,99
2,81
2,62
2,40
2,17
26
7,72
5,53
4,64
4,14
3,82
3,59
3,29
2,96
2,78
2,58
2,36
2,13
27
7,68
5,49
4,60
4,11
3,78
3,56
3,26
2,93
2,74
2,55
2,33
2,10
28
7,64
5,45
4,57
4,07
3,75
3,53
3,23
2,90
2,71
2,52
2,30
2,06
29
7,60
5,42
4,54
4,04
3,73
3,50
3,20
2,87
2,68
2,49
2,27
2,03
30
7,56
5,39
4,51
4,02
3,70
3,47
3,17
2,84
2,66
2,47
2,24
2,01
35
7,42
5,27
4,40
3,91
3,59
3,37
3,07
2,74
2,56
2,37
2,13
1,90
40
7,31
5,18
4,31
3,83
3,51
3,29
2,99
2,66
2,48
2,29
2,05
1,80
45
7,23
5,11
4,25
3,77
3,45
3,23
2,94
2,61
2,43
2,23
1,99
1,75
50
7,17
5,06
4,20
3,72
3,41
3,19
2,89
2,56
2,38
2,18
1,94
1,68
60
7,08
4,98
4,13
3,65
3,34
3,12
2,82
2,50
2,32
2,12
1,87
1,60
70
7,01
4,92
4,07
3,60
3,29
3,07
2,78
2,45
2,28
2,07
1,82
1,53
80
6,96
4,88
4,04
3,56
3,26
3,04
2,74
2,42
2,24
2,03
1,78
1,49
90
6,92
4,85
4,01
3,53
3,23
3,01
2,72
2,39
2,21
2,00
1,75
1,45
100
6,90
4,82
3,98
3,51
3,21
2,99
2,69
2,37
2,19
1,98
1,73
1,43
125
6,84
4,78
3,94
3,47
3,17
2,95
2,66
2,33
2,15
1,94
1,69
1,37
150
6,81
4,75
3,91
3,45
3,14
2,92
2,63
2,31
2,13
1,92
1,66
1,33
200
6,76
4,71
3,88
3,41
3,11
2,89
2,60
2,28
2,09
1,88
1,62
1,28
300
6,72
4,68
3,85
3,38
3,08
2,86
2,57
2,24
2,06
1,85
1,59
1,22
400
6,70
4,66
3,83
3,37
3,06
2,85
2,56
2,23
2,04
1,84
1,57
1,19
500
6,69
4,65
3,82
3,36
3,05
2,84
2,55
2,22
2,03
1,83
1,56
1,16
1000
6,66
4,63
3,80
3,34
3,04
2,82
2,53
2,20
2,01
1,81
1,54
1,11
ос
6,64
4,60
3,78
3,32
3,02
2,80
2,51
2,18
1,99
1,79
1,52
1,00
269
v(l) V (2)
1
2
3
4
5
6
8
12
24
ОО
1
405 284
500 000
540 379
При Р3 = 99,9% 562 500576 405585 937
598144
610 667
623 497
636 619
2
998,5
999,0
999,2
999,2
999,3
999,3
999,4
999,4
999,5
999,5
3
167,5
148,5
141,1
137,1
134,6
132,8
130,6
128,3
125,9
123,5
4
74,14
61,25
56,18
53,44
51,71
50,53
49,00
47,41
45,77
44,05
5
47,04
36,61
33,20
31,09
29,75
28,84
27,64
26,42
25,14
23,78
6
35,51
27,00
23,70
21,90
20,81
20,03
19,03
17,99
16,89
15,75
7
29,22
21,69
18,77
17,19
16,21
15,52
14,63
13,71
12,73
11,69
8
25,42
18,49
15,83
14,39
13,49
12,86
12,04
11,19
10,30
9,34
9
22,86
16,39
13,90
12,56
11,71
11,13
10,37
9,57
8,72
7,81
10
21,04
14,91
12,55
. 11,28
10,48
9,92
9,20
8,45
7,64
6,76
И
19,69
13,81
11,56
10,35
9,58
9,05
8,35
7,63
6,85
6,00
12
18,64
12,97
10,80
9,63
8,89
8,38
7,71
7,00
6,25
5,42
13
17,81
12,31
10,21
9,07
8,35
7,86
7,21
6,52
5,78
4,97
14
17,14
11,78
9,73
8,62
7,92
7,43
6,80
6,13
5,41
4,60
15
16,59
11,34
9,34
8,25
7,57
7,09
6,47
5,81
5,10
4,31
16
16,12
10,97
9,00
7,94
7,27
6,81
6,19
5,55
4,85
4,06
17
15,72
10,66
8,73
7,68
7,02
6,56
5,96
5,32
4,63
3,85
18
15,38
10,39
8,49
7,46
6,81
6,35
5,76
5,13
4,45
3,67
19
15,08
10,16
8,28
7,26
6,61
6,18
5,59
4,97
4,29
3,52
20
14,82
9,95
8,10
7,10
6,46
6,02
5,44
4,82
4,15
3,38
21
14,59
9,77
7,94
6,95
6,32
5,88
5,31
4,70
4,03
3,26
22
14,38
9,61
7,80
6,81
6,19
5,76
5,19
4,58
3,92
3,15
23
14,19
9,47
7,67
6,69
6,08
5,65
5,09
4,48
3,82
3,05
24
14,03
9,34
7,55
6,59
5,98
5,55
4,99
4,39
3,74
2,97
270
V (1)
V (2)
1
2
3
4
5
6
8
12
24
ОО
При Р3 = 99,9%
25
13,88
9,22
7,45
6,49
5,88
5,46
4,91
4,31
3,66
2,89
26
13,74
9,12
7,36
6,41
5,80
5,38
4,83
4,24
3,59
2,82
27
13,61
9,02
7,27
6,33
5,73
5,31
4,76
4,17
3,52
2,75
28
13,50
8,93
7,19
6,25
5,66
5,24
4,69
4,11
3,46
2,70
29
13,39
8,85
7,12
6,19
5,59
5,18
4,64
4,05
3,41
2,64
30
13,29
8,77
7,05
6,12
5,53
5,12
4,58
4,00
3,36
2,59
40
12,61
8,25
6,60
5,70
5,13
4,73
4,21
3,64
3,01
2,23
60
11,97
7,76
6,17
5,31
4,76
4,37
3,87
3,31
2,69
1,90
to120
11,38
7,31
5,79
4,95
4,42
4,04
3,55
3,02
2,40
1,56
ОО
10,83
6,91
5,42
4,62
4,10
3,74
3,27
2,74
2,13
1,00
Таблица 9П. Минимальное число наблюдений в зависимости от варьирования данных при доверительном уровне Р^ — 95% и показателе точности 5%
Коэффициент вариации и, %
0
1
2
3
4
5
ь
7
8
9
0
5
5
5
5
5
5
6
8
10
12
10
15
19
22
26
30
35
39
44
50
55
20
61
68
74
81
89
96
104
112
121
129
30
138
148
157
167
178
188
199
210
222
234
40
246
258
271
284
298
311
325
340
354
369
50
384
400
416
432
448
465
482
499
517
535
60
553
572
591
610
630
649
670
690
711
732
YIU
X
0
!
2
3
4
5
6
7
8
9
0,00
1,
9990
9980
9970
9960
9950
9940
9930
9920
9910
0,0
1,
9900
9802
9704
9608
9512
9418
9324
9231
9139
1
9048
8958
8869
8781
8694
8607
8521
8437
8353
8270
2
8187
8106
8025
7945
7866
7788
7711
7634
7558
7483
3
7408
7334
7261
7189
7118
7047
6977
6907
6839
6771
4
6703
6637
6570
6505
6440
6376
6313
6250
6188
6126
0,5
6065
6005
5945
5886
5827
5769
5712
5655
5599
5543
6
5488
5434
5379
5326
5273
5220
5169
5117
5066
5016
7
4966
4916
4868
4819
4771
4724
4677
4630
4584
4538
8
4493
4449
4404
4360
4317
4274
4232
4190
4148
4107
9
4066
4025
3985
3946
3906
3867
3829
3791
3753
3716
1,
3679
3329
3012
2725
2466
2231
2019
1827
1653
1496
2,
1353
1225
1108
1003
0907
0821
0743
0672
0608
0550
3,
0498
0450
0408
0369
0334
0302
0273
0247
0224
0202
4,
0183
0166
0150
0136
0123
0111
0100
0091
0082
0074
5,
0067
0061
0055
0050
0045
0041
0037
0034
0030
0027
6,
0025
0022
0020
0018
0017
0015
0014
0012
ООН
0010
7,
0009
0008
0007
0007
0006
0006
0005
0005
0004
0004
8,
0003
0003
0003
0002
0002
0002
0002
0002
0002
0001
9,
0001
0001
0001
0001
0001
0001
0001
0001
0001
0000
Таблица 10П. Показательная функция е”^ (нуль целых опущен)
Таблица 11П. Значения функции ф (О = О,39894/(е0’6*2) (перед числами в таблице надо поставить О,)
01234567
8
0,0
39894
39892
39886
39876
39862
39844
39822
39797
39767
39733
0,1
39695
39654
39608
39559
39505
39448
39387
39322
39253
39181
0,2
39104
39024
38940
38853
38762
38667
38568
38466
38361
38251
0,3
38139
38023
37903
37780
37654
37524
37391
37255
37115
36973
0,4
36827
36678
36526
36371
36213
36053
35889
35723
35553
35381
0,5
35207
35029
34849
34667
34482
34294
34105
33912
33718
33521
0,6
33322
33121
32918
32713
32506
32297
32086
31874
31659
31443
0,7
31225
31006
30785
30563
30339
30114
29887
29659
29430
29200
0,8
28969
28737
28504
28269
28034
27798
27562
27324
27086
26848
0,9
26609
26369
26129
25888
25647
25406
25164
24923
24681
24439
1,0
24197
23955
23713
23471
23230
22988
22747
22506
22265
22025
1,1
21785
21546
21307
21069
20831
20594
20357
20121
19886
19652
1,2
19419
19186
18954
18724
18494
18265
18037
17810
17585
17360
1,3
17137
16915
16694
16474
16256
16038
15822
15608
15395
15183
1,4
14973
14764
14556
14350
14146
13943
13742
13542
13344
13147
1,5
12952
12758
12566
12376
12188
12001
11816
11632
11450
11270
1,6
11092
10915
10741
10567
10396
10226
10059
09893
09728
09566
1,7
09405
09246
09089
08938
08780
08628
08478
08329
08183
08038
1,8
07895
07754
07614
07477
07341
07206
07074
06943
06814
06687
1,9
06562
06438
06316
06195
06077
05959
05844
05730
05618
05508
2,0
05399
05292
05186
05082
04980
04879
04780
04682
04586
04491
2,1
04398
04307
04217
04128
04041
03955
03871
03788
03706
03626
2,2
03547
03470
03394
03319
03246
03174
03103
03034
02965
02898
2,3
02833
02768
02705
02643
02582
02522
02463
02406
02349
02294
2,4
02239
02186
02134
02083
02033
01984
01936
01888
01842
01797
2,5
01753
01709
01667
01625
01585
01545
01506
01468
01431
01394
2,6
01358
01323
01289
01256
01223
01191
01160
01130
01100
01071
2,7
01042
01014
00987
00961
00935
00909
00885
00861
00837
00814
2,8
00792
00770
00748
00727
00707
00687
00668
00649
00631
00613
2,9
00595
00578
00562
00545
00530
00514
00499
00485
00470
00457
3,0
00443
00430
00417
00405
00393
00381
00370
00358
00348
00337
3,1
00327
00317
00307
00298
00288
00279
00271
00262
00254
00246
3,2
00238
00231
00224
00216
00210
00203
00196
00190
00184
00178
3,3
00172
00167
00161
00156
00151
00146
00141
00136
00132
00127
3,4
00123
00119
00115
00111
00107
00104
00100
00097
00094
00090
3,5
00087
00084
00081
00079
00076
00073
00071
00068
00066
00063
3,6
00061
00059
00057
00055
00053
00051
00049
00047
00046
00044
3,7
00042
00041
00039
00038
00037
00035
00034
00033
00031
00030
3,8
00029
00028
00027
00026
00025
00024
00023
00022
00021
00021
3,9
00020
00019
00018
00018
00017
00016
00016
00015
00014
00014
4,0
00013
00009
00006
00004
00002
00002
00001
00001
00000
00000
Таблица 12П. Функция Ф(х) нормированного нормального распределения (перед числами в таблице поставить О,)
X
0,00
0,01
0,02
0,03
0,04
0,05
0,06
0,07
0,08
0,09
0,0
50000
50399
50798
51197
51595
51994
52392
52790
53188
53586
0,1
53983
54379
54776
55172
55567
55962
56356
56749
57142
57535
0,2
57926
58317
58706
59095
59483
59871
60257
60642
61026
61409
о,з
61791
62172
62552
62930
63307
63683
64058
64431
64803
65173
0,4
65542
65910
66276
66640
67003
67364
67724
68082
68439
68793
0,5
69146
69497
69847
70194
70540
70884
71226
71566
71904
72240
0,6
72575
72907
73237
73565
73891
74215
74537
74857
75175
75490
0,7
75804
76115
76424
76730
77035
77337
77637
77935
78230
78524
0,8
78814
79103
79389
79673
79955
80234
80511
80785
81057
81327
0,9
81594
81859
82121
82381
82639
82894
83147
83398
83646
83891
1,0
84134
84375
84614
84849
85083
85314
85543
85769
85993
86214
1,1
86433
86650
86864
87076
87286
87493
87698
87900
88100
88298
1,2
88493
88686
88877
89065
89251
89435
89616
89796
89973
90147
1,3
90320
90490
90658
90824
90988
91149
91309
91466
91621
91774
1,4
91924
92073
92220
92364
92507
92647
92786
92922
93056
93189
1,5
93319
93448
93574
93699
93822
93943
94062
94179
94295
94408
1,6
94520
94630
94738
94845
94950
95053
95154
95254
95352
95449
1,7
95543
95637
95728
95818
95907
95994
96080
96164
96246
96327
1,8
96407
96485
96562
96638
96712
96784
96856
96926
96995
97062
1,9
97128
97193
97257
97320
97381
97441
97500
97558
97615
97670
2,0
97725
97778
97831
97882
97932
97982
98030
98077
98124
98169
2,1
98214
98257
98300
98341
98382-
98422
98461
98500
98537
98574
2,2
98610
98645
98679
98713
98745
98778
98809
98840
98870
98899
2,3
98928
98956
98983
99010
99036
99061
99086
99111
99134
99158
2,4
99180
99202
99224
99245
99266
99286
99305
99324
99343
99361
2.5
99379
99396
99413
99430
99446
99461
99477
99492
99506
99520
2,6
99534
99547
99560
99573
99585
99598
99609
99621
99632
99643
2,7
99653
99664
99674
99683
99693
99702
99711
99720
99728
99736
2,8
99744
99752
99760
99767
99774
99781
99788
99795
99801
99807
2,9
99813
99819
99825
99830
99836
99841
99846
99851
99856
99860
X
0,0
0,1
0,2
о,з
0,4
0,5
0,6
0,7
0,8
0,9
з,о
99865
99903
99931
99952
99966
99977
99984
99989
99993
99995
Таблица 13П. Значения ф ^^ ^у—функции, обратной к интегралу вероятностей
N+X
0
1
2
3
4
5
6
7
8
9
0,00
ОО
—3,09
—2,88
—2,75
—2,65
—2,58
—2,51
—2,46
—2,41
—2,37
0,01
—2,33
—2,29
—2,26
—2,23
—2,20
—2,17
—2,14
—2,12
—2,10
—2,07
0,02
—2,05
—2,03
—2,01
—2,00
—1,98
—1,96
—1,94
—1,93
—1,91
—1,90
0,03
—1,88
—1,87
—1,85
—1,84
—1,83
—1,81
—1,80
—1,79
—1,77
—1,76
0,04
—1,75
—1,74
—1,73
—1,72
—1,71
—1,70
—1,68
—1,67
—1,66
— 1,65
0,05
—1,64
—1,64
—1,63
—1,62
—1,61
—1,60
—1,59
—1,58
—1,57
—1,56
0,06
—1,55
—1,55
—1,54
—1,53
—1,52
—1,51
—1,51
—1,50
—1,49
—1,48
0,07
—1,48
—1,47
—1,46
—1,45
—1,45
—1,44
—1,43
—1,43
—1,42
—1,41
0,08
—1,41
—1,40
—1,39
—1,39
—1,38
—1,37
—1,37
—1,36
—1,35
—1,35
0,09
—1,34
—1,33
—1,33
—1,32
—1,32
-1,31
—1,30
—1,30
—1,29
—1,29
о,ю
—1,28
—1,28
—1,27
—1,26
—1,26
—1,25
—1,25
—1,24
—1,24
—1,23
о,н
—1,28
—1,22
—1,22
-1,21
-1,21
—1,20
—1,20
—1,19
—1,19
—1,18
0,12
—1,18
-1,17
-1,17
—1,16
—1,16
-1,15
-1,15
—1,14
—1,14
—1,13
0,13
-1,13
-1,12
-1,12
—1,11
—1,11
—1,10
—1,10
—1,09
—1,09
—1,09
0,14
—1,08
—1,08
—1,07
— 1,07
—1,06
—1,06
—1,05
—1,05
—1,05
—1,04
0,15
—1,04
—1,03
—1,03
—1,02
—1,02
—1,02
—1,01
—1,01
—1,00
—1,00
0,16
-0,99
—0,99
—0,99
-0,98
—0,98
—0,97
—0,97
—0,97
-0,96
—0,96
0,17
-0,95
-0,95
-0,95
—0,94
—0,94
—0,93
—0,93
-0,93
—0,92
—0,92
0,18
—0,92
-0,91
—0,91
-0,90
—0,90
—0,90
-0,89
-0,89
-0,89
-0,88
0,19
-0,88
-0,87
—0,87
—0,87
—0,86
—0,86
-0,86
-0,85
—0,85
—0,85
0,20
-0,84
-0,84
-0,83
-0,83
—0,83
-0,82
—0,82
-0,82
-0,81
—0,81
0,21
-0,81
-0,80
—0,80
-0,80
—0,79
—0,79
—0,79
—0,78
—0,78
—0,78
0,22
-0,77
-0,77
—0,77
—0,76
—0,76
—0,76
—0,75
—0,75
—0,75
—0,74
0,23
—0,74
—0,74
—0,73
—0,73
—0,73
—0,72
—0,72
—0,72
—0,71
—0,71
0,24
—0,71
-0,70
—0,70
—0,70
—0,69
—0,69
—0,69
-0,68
—0,68 —0,68
0,25
—0,67
—0,67
—0,67
-0,67
—0,66
—0,66
-0,66
-0,65
-0,65
—0,65
0,26
—0,64
-0,64
—0,64
-0,63
—0,63
—0,63
—0,63
-0,62
-0,62
—0,62
0,27
—0,61
-0,61
—0,61
—0,60
—0,60
—0,60
—0,59
—0,59
—0,59
-0,59
0,28
-0,58
-0,58
-0,58
—0,57
—0,57
—0,57
—0,57
—0,56
-0,56
—0,56
0,29
—0,55
-0,55
-0,55
-0,54
—0,54
—0,54
-0,54
—0,53
—0,53
—0,53
0,30
-0,52
-0,52
-0,52
—0,52
—0,51
—0,51
—0,51
—0,50
—0,50
—0,50
0,31
-0,50
—0.49
—0,49
—0,49
—0,48
—0,48
—0,48
—0,48
—0,47
—0,47
0,32
—0,47
—0,46
—0,46
—0,46
—0,46
—0,45
—0,45
-0,45
-0,45
—0,44
0,33
-0,44
—0,44
—0,43
-0,43
—0,43
—0,43
—0,42
—0,42
-0,42
—0,42
0,34
-0,41
—0,41
—0,41
—0,40
—0,40
—0,40
—0,40
—0,39
—0,39
—0.39
0,35
—0,39
—0,38
-0,38
—0,38
—0,37
—0,37
—0,37
—0,37
—0,36
—0,36
0,36
—0,36
—0,36
-0,35
—0,35
—0,35
—0,35
—0,34
—0,34 —0,34
—0,33
0,37
—0,33
—0,33
—0,33
—0,32
—0,32
—0,32
—0,32
-0,31
-0,31
—0,31
0,38
—0,31
—0,30
—0,30
—0,30
—0,30
—0,29
—0,29
-0,29
—0,28
—0,28
0,39
—0,28
—0,28
—0,27
—0,27
—0,27
—0,27
—0,26
-0,26
—0,26
—0,26
0,40
—0,25
—0,25
—0,25
—0,25
—0,24
—0,24
—0,24
—0,24
—0,23
—0,23
0,41
—0,23
—0,23
—0,22
—0,22
—0,22
—0,21
—0,21
-0,21
—0,21
—0,20
0,42
—0,20
—0,20
—0,20
—0,19
—0,19
—0,19
—0,19
-0,18
—0,18
—0,18
0,43
—0,18
—0,17
—0,17
—0,17
—0,17
—0,16
—0,16
—0,16
—0,16
—0,15
0,44
—0,15
—0,15
—0,15
—0,14
—0,14
—0,14
—0,14
—0,13
—0,13
—0,13
0,45
—0.13
—0,12
—0,12
—0,12
—0,12
—0,11
—0,11
—0,11
—0,11
—0,10
0,46
—ОДО
—0,10
—0,10
—0,09
—0,09
—0,09
—0,09
—0,08
—0,08
—0,08
0,47
—0,08
—0,07
—0,07
—0,07
—0,07
—0,06
—0,06
—0,06
—0,06
-0,05
0,48
—0,05
—0,05
—0,05
—0,04
—0,04
—0,04
—0,04
—0,03
—0,03
—0,03
0,49
—0,03
—0,02
—0,02
—0,02
—0,02
—0,01
—0,01
—0,01
—0,01
—0,00
0,50
0,00
0,00
0,01
0,01
0,01
0,01
0,02
0,02
0,02
0,02
OOOOOOOOOOOOOOOOOOOOOOOOOOOOOOOOO'H’H'H'^'H'HtHvh^^^^h^^hoIoI
276
сошюоосоюоооеосооо’гчсосоокм^г-ос’осоокмюоот-ч^оочнтоосчсоочиооооосооиот-чоосоюсоог-г- OCOv<v<v<v<G10iCjNC0C0C0 0Q*4,*<fi^lfiiDiDifiCDCD<Dt^l>t*00 00 00 0)OOOO'r<viNNC0sr*»l0(Dt*0>OC0 o' О O~ O~ О О~ о” о" о" о" О О О оТ сГ О О О О О О О О О О о" О О~ о” о" о" о” о" т-7^ч" т-7"т-7^^ ^н" ^ ^н" vT^" ^ ^ ^-Г oi eV
сотооосо1лооос01ло0’чг<сос©0’чн*^1^оо<1>ло0'?-<^1^^ч^1^’г-<^оо<м1-0 0^оос,ооосооо^^оот)*^тоотео 000'*H*r-<v41-4CS]o<]0<]CSlCOCOCOCO*d1vt«»d1LOirDLOirDCOOOL'~L'*l^-OOOOOOaDOOOO^'H(MO<]CO*sP^LOCDl^-OOOCO О*О о"О О О**o'"О О О о"О**О**о"оГО О О О О О о"О**о”о”о"о"о"о"о"о”о'о"о"^ч^"^THV^^^^^-Г^Г^7Т-7сч"csT
*14*14тЧС^1СОМ11Л0 1^00 0 0'^0<100'4,Ю0 1^00 0 0^С<100^т0 1^00 0 0'гНС\100^1Л<0 1^00 0 0’тч<Г<100^»ЛС0 1-00 0 LTD LTD LTD Ю Ю Ю LTD in LTD О О О О CD CD СО CD О О L^- L - L'- L-- L - L'- t^ 1^- 1^- 1^ 00 00 00 00 00 00 ОС1 00 ОО 00 О ООО О а: О О О О ооо оооооооооооооооо эооооооооооооооооооооооооооо'о'о"
*14
*14
п
Коэффициенты долей частных групп при р=0,5
2
1 — 1 1—2 — 1
0,25
3
1 — 3 _ 3 _ 1
0,125
4
1 _ 4 — 6 — 4 — 1
0,0625
5
1 — 5—10—10 — 5 — 1
0,03125
6
1 _ 6 — 15 — 20 — 15 — 6 — 1
0,015625
7
I — 7 —21 —35 — 35 — 21 — 7 — 1
0,0078125
8
1 - 8 — 28 — 56 — 70 — 56 — 28 — 8 — 1
0,00390625
9
1 — 9 — 36 — 84 —126— 126 — 84 — 36 — 9 — 1
0,001953125
10
1—Ю— 45 -120 — 210—252 — 210 — 120 — 45 — 10 — 1
0,0009765625
Примечание. Таблицу можно легко продолжить до любого п, складывая два рядом стоящих числа строки и записывая сумму в нижеследующей строке в промежутке между ее слагаемыми.
Таблица 15П. Значения критерия хи-квадрат
Число степеней свободы
V
Уровни значимости
Число степеней свободы
V
Уровни значимости
*^^0,05
^'=0,01
U73=0,001
1^=0,05
U/2=0,01
W^-O.OOl
13,8416,63510,827
25,9919,21013,815
37,81511,34516,268
49,48813,27718,465
511,07015,08620,517
612,59216,81222,457
714,06718,47524,322
815,50720,09026,125
916,91921,66627,877
1018,30723,20929,588
И19,67524,72531,264
1221,02626,21732,909
1322,36227,68834,528
1423,68529,14136,123
1524,99630.57837,697
1626,29632,00039,252
1727,58733,40940,790
1828,86934,80542,312
1930,14436,19143,820
2031,41037,56645,315
2132,67138,93246,797
2233,92440,28948,268
2335,17241,63849,728
2436,41542,98051,179
2537,65244,31452,620
2638,88545,64254,052
2740,11346,96355,476
2841,33748,27856,893
2942,55749.58858,302
3043,77350,89259,703
Таблица 16П. Значения 1—К (X) критерия Колмогорова
X
0
1
2
3
4
5
6
7
8
9
0,3
99999
99998
99995
99991
99983
99970
99949
99917
99872
99807
0,4
99719
99603
99452
99262
99027
98741
98400
97998
97532
96998
0,5
96394
95719
94969
94147
93250
92282
91242
90134
88960
87724
0,6
86428
85077
83678
82225
80732
79201
77636
76042
74422
72781
0,7
71124
69453
67774
66089
64402
62717
61036
59363
57700
56050
0,8
54414
52796
51197
49619
48063
^6532
45026
43545
42093
40668
0,9
39273
37907
36571
35266
33992
32748
31536
30356
29206
28087
Таблица 16П (окончание)
X
0
1
2
3
4
5
6
7
8
9
1,0
27000
25943
24917
23922
22957
22021
21114
20236
19387
18566
1,1
17772
17005
16264
15550
14861
14196
13556
12939
12345
11774
1,2
11225
10697
10190
09703
09235
08787
08357
07944
07550
07171
1,3
06809
06463
06132
05815
05513
05224
04949
04686
04435
04196
1,4
03968
03751
03545
03348
03162
02984
02815
02655
02503
02359
1,5
02222
02092
01969
01852
01742
01638
01539
01446
01357
01274
1,6
01195
01121
01051
00985
00922
00864
00808
00756
00707
00661
1,7
00618
00577
00539
00503
00469
00438
00408
00380
00354
00330
1,8
00307
00285
00265
00247
00229
00213
00198
00186
00170
00158
1,9
00146
00136
00126
00116
00108
00100
00092
00085
00079
00073
2,0
00067
00062
00057
00053
00048
00045
00041
00038
00035
00032
2,1
00030
00027
00025
00023
00021
00019
00018
00016
00015
00014
2,2
00013
00011
00010
00010
00009
00008
00007
00007
00006
00006
2,3
00005
00005
00004
00004
00004
00003
00003
00003
00002
00002
2,4
00002
00002
00002
00001
00001
00001
00001
00001
00001
00001
Таблица 17П. Минимальные значения показателя корреляции рангов при данном числе вариант
Число вариант N
Значение р на двух уровнях значимости*
Число вариант N
Значение р на двух уровнях значимости *
Uz'=0,05
^2=0,01
U71==0,05
^'^0,01
4
0,80
13
0,48
0,64
5
0,80
0,90
14
0,46
0,62
6
0,77
0,89
15
0,44
0,60
7
0,68
0,86
16
0,43
0,58
8
0,60
0,81
17
0,41
0,56
9
0,58
0,77
18
0,40
0,55
10
0,55
0,73
19
0,39
0,53
11
0,53
0,70
20
0,38
0,52
12
0,50
0,67
р недостоверно, если оно меньше табличного.
о
Таблица 18П. Значение выражений N (N—1), ^-^—jy и ошибка коэффициента корреляции рангов Кендалла
N
N 0V—1)
2
тт
N
N (N—\)
2
N (ЛГ—1)
N (N— 1)
2
2
1
—
17
272
0,00735
0,1786
3
6
0,3333
—
18
306
0,00654
0,1726
4
12
0,1667
—
19
342
0,00585
0,1671
5
20
0,1000
—
20
380
0,00526
0,1622
6
30
0,0667
—
21
420
0,00476
0,1577
7
42
0,0476
—
22
462
0,00433
0,1535
8
56
0,0357
0,2886
23
506
0,00395
0,1496
9
72
0,0278
0,2665
24
552
0,00362
0,1460
10
90
0,0222
0,2483
25
600
0,00333
0,1426
11
110
0,0182
0,2337
26
650
0,00308
0,1396
12
132
0,0152
0,2214
27
702
0,00285
0,1367
13
156
0,0128
0,2099
28
756
0,00264
0,1338
14
182
0,0110
0,2007
29
812
0,00246
0,1312
15
210
0,0095
0,1922
30
870
0,00230
0,1289
16
240
0,0083
0,1847
31
930
0,00215
0,1265
1 + г
Таблица 19П. Функция г = 0,5 In у^1
0123456789
0,0 0,0000 0,1000 0,0200 0,0300 0,0400 0,0501 0,0601 0,0701 0,0802 0,0902 1 0,1003 0,1105 0,1206 0,1308 0,1409 0,1511 0,1614 0,1717 0,1820 0,1923 2 0.2027 0,2132 0,2237 0,2342 0,2448 0,2554 0,2661 0,2769 0,2877 0,2986 3 0.3095 0,3206 0,3317 0,3428 0,3541 0,3654 0,3769 0,3884 0,4001 0,4118 4 0,4236 0,4356 0,4477 0,4599 0,4722 0,4847 0,4973 0,5101 0,5230 0.5361 5 0,5493 0,5627 0,5763 0,5901 0,6042 0,6184 0,6328 0,6475 0,6625 0,6777 6 0,6931 0,7089 0,7250 0,7414 0,7582 0,7753 0,7928 0,8107 0,8291 0,8480 7 0,8673 0,8872 0,9076 0,9287 0,9505 0,9730 0,9962 1,0203 1,0454 1,0714 8 1,0986 1,1270 1,1568 1,1881 1,2212 1,2562 1,2933 1,3331 1,3758 1,4219 9 1,4722 1,5275 1,5890 1,6584 1,73801,83181,94592,09232,29762,6467
Примечание. Обратное преобразование делается с помощью таблиц гиперболического тангенса (г = thz) или по формуле г — (е2г—1)/(е224*1). Достоверность коэффициента корреляции г можно оценить, не обращаясь к табл. 19П по формуле
1 = (°’5 1пТ^)Г^“3’
где N — объем ряда; t — критерий Стьюдента при числе степеней свободы v = Лг—2 (см. табл. 4П).
Таблица 20П. Объем выборки, достаточный для достоверности коэффициента корреляции на трех доверительных уровнях
N
N
N
г
=0,95
Р2=0,99
р'=0,999
г
=0,95
^2= =0,99
Р3=0,999
г
р'1=
=0,95
р2=о,99
^3=
=0,999
01
38407
66503
108903
31
40
68
109
61
11
16
25
02
9603
16628
27228
32
38
63
102
62
10
16
24
03
4269
7392
12103
33
36
60
96
63
10
15
23
04
2403
4159
6809
34
34
56
90
64
10
15
22
05
1539
2263
4359
35
32
53
85
65
9
14
21
06
1069
1850
3028
36
30
50
80
66
9
14
20
07
787
1360
2225
37
28
47
75
67
9
13
20
08
604
1042
1704
38
27
44
71
68
9
13
19
09
477
824
1347
39
26
42
67
69
8
12
18
10
383
661
1081
40
24
40
64
70
8
12
18
11
317
548
896
41
23
38
60
71
8
И
17
12
267
462
754
42
22
36
57
72
8
И
16
13
228
392
640
43
21
34
55
73
7
И
16
14
196
337
550
44
20
33
52
74
7
10
15
15
171
295
481
45
19
31
49
75
7
10
15
16
151
259
422
46
19
30
47
76
7
10
14
17
133
228
373
47
18
29
45
77
7
9
14
18
119
204
332
48
17
27
43
78
7
9
13
19
107
183
297
49
16
26
41
79
6
9
13
20
97
165
270
50
16
25
39
80
6
9
12
21
87
149
242
51
15
24
'37
81
6
8
12
22
80
136
211
52
15
23
36
82
6
8
11
23
73
124
202
53
14
22
34
83
6
8
И
24
68
114
185
54
14
21
33
84
6
7
10
25
62
105
170
55
13
20
32
85
5
7
10
26
57
97
157
56
13
20
30
86
5
7
10
27
53
90
145
57
12
19
29
87
5
7
9
28
49
83
135
58
12
18
28
88
5
7
9
29
46
78
125
59
И
18
27
89
5
6
8
30
43
73
117
60
И
17
26
90
5
6
8
Примечание. Коэффициент корреляции приведен в виде первых двух знаков после запятой.
Таблица 21П. Таблица Келли—Вуда (сокращенно)
q
pq
Vpq
5
X
р
0,50
0,2500
0,5000
0,3989
0,0000
0,50
0,49
0,2499
0,4999
0,3988
0,0251
0,51
0,48
0,2496
0,4996
0,3984
0,0502
0,52
0,47
0,2491
0,4991
0,3978
0,0753
0,53
0,46
0,2484
0,4984
0,3969
0,1004
0,54
0,45
0,2475
0,4975
0,3958
0,1257
0,55
0,44
0,2464
0,4964
0,3944
0,1510
0,56
0,43
0,2451
0,4951
0,3928
0,1764
0,57
0,42
0,2436
0,4936
0,3909
0,2019
0,58
0,41
0,2419
0,4918
0,3887
0,2275
0,59
0,40
0,2400
0,4899
0,3863
0,2533
0,60
0,39
0,2379
0,4877
0,3837
0,2793
0,61
0,38
0,2356
0,4854
0,3808
0,3055
0,62
0,37
0,2331
0,4828
0,3776
0,3318
0,63
0,36
0,2304
0,4800
0,3741
0,3585
0,64
0,35
0,2275
0,4770
0,3704
0,3853
0,65
0,34
0,2244
0,4737
0,3664
0,4125
0,66
0,33
0,2211
0,4702
0,3621
0,4399
0,67
0,32
0,2176
0,4665
0,3576
0,4677
0,68
0,31
0,2139
0,4625
0,3529
0,4958
0,69
0,30
0,2100
0,4583
0,3477
0,5244
0,70
0,29
0,2059
0,4538
0,3423
0,5534
0,71
0,28
0,2016
0,4490
0,3366
0,5828
0,72
0,27
0,1971
0,4440
0,3306
0,6128
0,73
0,26
0,1924
0,4386
0,3244
0,6433
0,74
0,25
0,1875
0,4330
0,3178
0,6745
0,75
0,24
0,1824
0,4271
0,3109
0,7063
0,76
0,23
0,1771
0,4208
0,3036
0,7388
0,77
0,22
0,1716
0,4142
0,2961
0,7722
0,78
0,21
0,1659
0,4073
0,2882
0,8064
0,79
0,20
0,1600
0,4000
0,2800
0,8416
0,80
0,19
0,1539
0,3923
0,2714
0,8779
0,81
0,18
0,1476
0,3842
0,2624
0,9154
0,82
0,17
0,1411
0,3756
0,2530
0,9542
0,83
0,16
0,1344
0,3666
0,2433
0,9945
0,84
0,15
0,1275
0,3571
0,2332
1,0364
0,85
0,14
0,1204
0,3470
0,2226
1,0803
0,86
0,13
0,1131
0,3363
0,2115
1,1264
0,87
0,12
0,1056
0,3250
0,2000
1,1750
0,88
0,11
0,0979
0,3129
0,1880
1,2265
0,89
0,10
0,0900
0,3000
0,1755
1,2816
0,90
0,09
0,0819
0,2862
0,1624
1,3408
0,91
0,08
0,0736
0,2713
0,1487
1,4051
0,92
Таблица 21П (окончание)
q
pq
V pq
X
р
0,07
0,0651
0,2551
0,1343
1,4758
0,93
0,06
0,0564
0,2375
0,1191
1,5548
0,94
0,05
0,0475
0,2179
0,1031
1,6448
0.95
0,04
0,0384
0,1960
0,0862
1,7507
0,96
0,03
0,0291
0,1706
0,0680
1,8808
0,97
0,02
0,0196
0,1400
0,0484
2,0537
0,98
0,01
0,0099
0,0995
0,0266
2,3263
0,99
Таблица 22П. Таблица Сопера для вычисления ошибки бисериального коэффициента корреляции
q
>4
Х3
q
х3
0,50
1,5708
2,5000
0,25
1,8567
2,7166
0,49
1,5711
2,5003
0,24
1,8874
2,7399
0,48
1,5722
2,5011
0,23
1,9208
2,7654
0,47
1,5741
2,5024
0,22
1,9574
2,7933
0,46
1,5766
2,5043
0,21
1,9974
2,8240
0,45
1,5799
2,5068
0,20
2,0414
2,8578
0,44
1,5839
2,5098
0,19
2,0898
2,8951
0,43
1,5886
2,5134
0,18
2,1437
2,9364
0,42
1,5943
2,5177
0,17
2,2035
2,9825
0,41
1,6007
2,5225
0,16
2,2703
3,0341
0,40
1,6079
2,5279
0,15
2,3453
3,0923
0,39
1,6161
2,5341
0,14
2,4303
3,1582
0,38
1,6251
2,5409
0,13
2,5272
3,2337
0,37
1,6351
2,5484
0,12
2,6389
3,3208
0,36
1,6461
2,5568
0,11
2,7687
3,4224
0,35
1,6582
2,5659
0,10
2,9221
3,5427
0,34
1,6714
2,5759
0,09
3,1057
3,6873
0,33
1,6858
2,5868
0,08
3,3299
3,8648
0.32
1,7015
2,5986
0,07
3,6110
4,0879
0,31
1,7186
2,6115
0,06
3,9748
4,3777
0,30
1,7371
2,6256
0,05
4,4652
4,7723
0,29
1,7573
2,6409
0,04
5,1715
5,3410
0,28
1,7791
2,6575
0,03
6,2859
6,2485
0,27
1,8028
2,6755
0,02
8,3600
7,9572
0,26
1,8286
2,6952
0,01
13,9393
12,6086
Таблица 23П. Числа ЧебышеваТаблица 23П. Числа Чебышева
Таблица 23П. Числа Чебышева
Таблица 23П. Числа Чебышева
Таблица 23П (продолжение)Таблица 23П (продолжение)
Таблица 23П (продолжение)
Таблица 23П (продолжение)
23
24
25
26
27
—11 +77 —77 —10 +56 —35
—9 +37 —3 —8 +20 +20 —7 +5 +35 —6 —8 +43 —5 —19 +45 —4 —28 +42 —3 —35 +35
—2 —40 +25
—1 —43 +13
0 —44 0 +1 —43 —13 +2 —40 —25 +3 —35 —35 +4 —28 —42 +5 —19 —45 +6 —8 —43 +7 +5 —35 +8 +20 —20 -j-9 +37 +3
+10 +56 +35 +11 +77 +77 1012 35420 32890
—23 +253 —1771 —21 +187 —847 —19 +127 —133 —17 +73 +391 —15 +25 +745 —13 —17 +949 —И —53 +1023
—9 —83 +987 —7 -107 +861 —5 —125 +665 —3 —137 +419 —1 —143 +143 +1 —143 —143 +3 —137 —419 +5 —125 —665 +7 —107 —861 +9 —83 —987 +11 -53 -1023 +13 —17 —949 +15 +25 —745 +17 +73 -391 +19 +127 +133 +21 +187 +847 +23 +253 +1771 4600 394680 17760600
—12 +92 —506 —И +69 —253 —10 +48 —55
—9 +29 +95
—8 +12 +196
—7 —3 +259 -6 -16 +287 —5 —2/ +285 —4 —36 +258 —3 —43 +211 —2 —48 +149 —1 —51 +77
0 —52 0 +1 —51 —77 4-2 —48 —149 +3 —43 —211 +4 —36 —258 +5 —27 -285 +6 —16 —287 +7 —3 —259 +8 +12 —196 +9 +29 —93
+10 +48 +55 +11 +69 +253 +12 +92 +506 1300 53820 1480050
—25 +50 —1150 —23 +38 —598 —21 +27 —161 —19 +17 +171 —17 +8 +408 —15 0 +560 —13 —7 +637 —11 —13 +649
—9 —18 +606
—7 —22 +518 —5 —25 +395 —3 —27 +247
—1 —28 +84 +1 —28 —84 +3 —27 —247 +5 —25 —395 +7 —22 —518 +9 —18 —606 +11 —13 —649 +13 —7 —637 +15 0 —560 +17 +8 —408 +19 +17 —171 +21 +27 +161 +23 +38 +598 +25 +50 +1150 5850 16380 7803900
—13+325—130
—12+250—70
—И+181—22
—10+118+15
—9+61+42
—8+10+60
— /—35+/0
—6—74+73
—5—107+70
—4—134+б2
—3—155+50
—2—170+35
—1—179+18
0—1820
+1—179—18
+2—170—35
+3—155—50
+4—134—62
+5—107—70
+6—74—73
+7—35—70
+8+10—60
+9+61—42
+10+118—15
+11+181—22
+12+250—«и
+13+325—134*
1638712530HH79U
285
Таблица 23П (окончание)Таблица 23П (окончание)
Таблица 23П (окончание)
Таблица 23П (окончание)
Таблица 24П. Множители для вычисления коэффициентов уравнений парабол (нуль целых опушен, в скобках число нулей между запятой и первой цифрой мантиссы)
N
Af,
м2
м3
М4
мб
мв
м.
м8
5
2
1
4857143
1428571
0714286
9027778
2361111
0694444
6 1666667
0142857
3945313
0195313
(2)167411
112675
(2)487076
(3)241127
7
1428571
0357143
3333333
047619
0119048
2625661
0324074
(2)462963
8
125
(2)595238
2890625
(2)78125
(3)372024
0419635
(3)973274
(4)263047
9 1111111
0166667
2554113
021645
(2)324675
1143378
(2)827721
(3)701459
10
1
(2)30303
228906
(2)390625
(3)118371
0204013
(3)296434
(5)50586
11 0909091
(2)909091
2074593
011655
(2)11655
0603794
(2)288138
(3)161875
12
3833333
(2)174825
1897321
(2)223214
(4)468282
0114945
(3)114662
(5)134896
13 0769231
(2)549451
1748252
(2)699301
(3)4995
0358461
(2)121406
(4)485625
14 0714286
(2)10989
1621094
(2)139509
(4)214629
(2)712567
(4)518655
(6)446347
15 0666667
(2)357143
1511312
(2)452489
(3)242405
0230459
(3)583068
(4)174571
16
3625
(3)735294
1415551
(3)93006
(4)109419
(2)4726
(4)262201
(6)172274
17
3588235
(2)245098
1331269
(2)309598
(3)128999
015702
(3)308164
(5)716661
18 0555556
(3)515996
125651
(3)651042
(5)604683
(2)329671
(4)144079
(7)746522
19 0526316
(2)175439
1189739
(2)221141
(4)737137
0111832
(3)175256
(5)325755
20
05
(3)37594
1129735
(3)473485
(5)356004
(2)239172
(5)844838
(7)354081
21 047619
(2)12987
1075515
(2)163452
(4)445778
(2)824851
(3)10562
(5)160517
22 0454545
(3)282326
1026278
(3)355114
(5)220567
(2)179056
(5)521881
(7)180582
23 0434783
(3)988142
0981366
(2)124224
(4)282326
(2)625908
(4)667207
(6)844567
24 0416667
(3)217391
0940232
(3)273164
(5)142521
(2)137548
(5)336458
(8)97 7507
25
04
(3)769231
0902415
(3)966184
(4)185805
(2)486235
(4)438236
(6)469203
26 0384615
(3)17094
0867531
(3)214629
(6)953907
(2)107959
(5)224803
(8)556168
27 037037
(3)610501
0835249
(3)766284
(4)12631
(2)385274
(4)297453
(6)272893
28 0357143
(3)136836
0805288
(3)171703
(6)657867
(3)862955
(5)154823
(8)330112
29 0344828
(3)492611
0777407
(3)617971
(5)882815
(2)310473
(4)207641
(6)165056
30 (
3333333
(3)111235
0751395
(3)139509
(6)465547
(3)700681
(5)10944
(8)203194
31 0322581
(3)403226
072707
(3)505612
(5)632015
(2)25387
(4)148503
(6)103271
32 03125
(4)916422
0704274
(3)11489
(6)33692
(3)576715
(6)79131
(8)129088
33 030303
(3)334225 0682866
(3)418936
(5)462062
(2)210245
(4)10848
(7)665521
34 0294118
(4)763942 0662722
(4)957414
(6)248679
(3)480378
(6)583624
(9)843143
35 0285714
(3)280112 0643735
(3)351
(5)344118
(2)176078
(5)807344
(7)440209
36 0277778
(4)643501 0625806
(4)806244
(6)186775
(3)404376
(6)438065
(9)564371
Таблица 25П. Вспомогательные величины для вычисления коэффициентов уравнений парабол способом сумм
N
5*'
5^*
D»
о»
2
0,5
0,125
0,03125
0
0
3
2
2
2
2
0
4
5
10,25
22,8125
16
9
5
10
34
130
70
144
6
17,5
88,375
511,09375
224
1134
7
28
196
1588
588
6 048
8
42
388,5
4187,625
1344
24 948
9
60
708
9 780
2 772
85 536
10
82,5
1208,625
20 795,15625
5 280
254 826
И
110
1 958
41 030
9 438
679 536
12
143
3 038,75
76 156,437 5
16 016
1 656 369
13
182
4 550
134 342
26 026
3 747 744
14
227,5
6 608,875
226 994,21875
40 768
7 963 956
15
280
9 352
369 640
61 880
16 039 296
16
340
12 937
582 951,25
91 392
30 837 456
17
408
17 544
893 928
131 784
56 930 688
18
484,5
23 377,125
1337 250,28125
186 048
101 407 788
19
570
30 666
1 956 810
257 754
174 978 144
20
С 65
39 667,25
2 807 434,0625
351120
293 452 929
21
770
50 666
3 956 810
471 086
479 700 144
22
885,5
63 977,375
5 487 625,34375
623 392
766 187 730
23
1012
79 948
7 499 932
814 660
1198 248 480
24
1150
98 957,5
10113 746,375
1 052 480
1 838 222 100
25
1300
121 420
13 471 900
1 345 500
2 770 653 600
Таблица 26П. Множители Л для четных рядов (нуль целых опущен)
Л7
Mi
М2
м3
М4
М5
мв
м7
Me
6
1666667
0571429
3945313
078125
0267857
4507
0779391
0154321
8
125
0238095
2890625
03125
0059524
1678541
0155724
0016835
10
1
0121212
2291233
0156398
0018957
0816053
0047429
0003238
12
0833333
0069930
1897321
0089986
0007493
0459779
0018346
0000863
14
0714286
0043956
1621094
0055804
0003434
0285027
0008298
0000286
16
0625
0029412
1415551
0037202
0001751
0189040
0004195
000011
18
0555556
002064
125651
0026042
0000967
0131869
0002305
0000048
20
05
0015038
1129735
0018939
000057
0095669
0001352
0000023
22
0454545
0011293
1026278
0014197
0000353
0071622
0000835
0000011
24
0416667
0008696
0940232
0010927
0000228
0055019
0000538
0000006
2981 3294 3G41 4024 4447 4915 5432 6003 6634 7332 8103 8955 9897 10938 12088 13360 14765 16318 18034 19930 22026 24343 26903 29733 32860 36316 40135 44356 49021 54176
СП
ОО
Таблица 27П. Показательная функция е*
Таблица 28П. Числа, производные от е и л
е 2,7182818 е2 = 7,3890561 /ё" = 1,6487213 1/е = 0,3678794 1/е2 = 0,1353353 1//ё" = 0,6065307 Ige = 0,4342945 Ige3 = 0,8685890 1g Уё = 0,2171472 lg(l/e) = 1,5657055 lg (1/е2) = 1,1314110 lg(l//<T) = 1,7828528 lg Ige = 1,6377843
л = 3,1415927 2л = 6,2831853 л2 = 9,8696044 К л = 1,7724539 /2л" = 2,5066283 /л/2= 1,2533141 Гл" = 1,4645919 4л/3 = 4,1887902 1g л = 0,4971499 1g (2л) = 0,7981799 1g л2 = 0,9942997 lg УТ = 0,2485749 1g У 2л = 0,3990899 1g /л/2 = 0,0980599 1g у'Т = 0,1657166 1g (4л/3) = 0,6220886
1/л = 0,3183099 1/(2л) = 0,1591549 1/л2 = 0,1013212 1//л" = 0,5641896 1//2л" = 0,3989423 /2/л = 0,7978846 1/Гй” = 0,6827841 л/6 = 0,5235988 1g (1/л) = Г, 5028501 1g (1/2л) = Г, 2018201 1g (1/л2) = 1,0057003 lg (1//л ) = 1,751451 lg (1//2л”) = 1,6009101 1g /2/л = 1,9019401 lg(l//r) = 1,8342834 1g (л/6) = 1,7189986
ЛИТЕРАТУРА
Браунли К. А. Статистическая теория и методология в науке и технике. М.: Наука, 1977. 407 с.
Бреев К. А. Применение негативного биномиального распределения для изучения популяционной экологии паразитов. Л.: Наука, 1972. 73 с.
Венецкий И. Г., Венецкая В. И. Основные математико-статистические понятия и формулы в экономическом анализе. Жл Статистика, 1974. 279 с.
Вентцель Е. С. Теория вероятностей. М.: Наука, 196-9. 576 с.
Воробьев Н. Н. Числа Фибоначчи. М.: Наука, 1969. НО с.
Воронцов-Вельяминов Б. А. Сборник задач и практические упражнения по астрономии. 7-е изд. М.: Наука, 1977. 262 с.
Ганьшин В. Н. Простейшие измерения на местности. 3-е изд. М.: Недра, 1983. 109 с.
Доерфель К. Статистика в аналитической химии. М.: Мир, 1969. 247 с.
Дружинин Н. К. Математико-статистические методы анализа экспериментальных данных в товароведении. М.: Госторгиздат, 1959. 164 с.
Зайцев Г. Н. Методика биометрических расчетов. М.: Наука, 1973. 256 с.
Зайцев Г. Н. Фенология травянистых многолетников. М.: Наука, 1979. 150 с.
Зайцев Г. Н. Фенология древесных растений. М.: Наука, 1981. 120 с.
Зайцев Г. Н. Математическая статистика в экспериментальной ботанике. М.: Наука, 1984. 424 с.
Кендалл М., Стьюарт А. Теория распределений. М.: Наука, 1966. 587 с.
Лахтин Л. К. Кривые распределения и построение для них интерполяционных формул по способу Пирсона и Брунса. М.: ГИЗ, 1922.
Леонтьев Н. Л. Техника статистических вычислений. М.: Гослесбумиздат, 1966. 250 с.
Липкин М. И. Кривые распределения в экономических исследованиях. М.: Статистика, 1972. 144 с.
Митропольский А. К. Техника статистических вычислений. М.: Наука, 1971. 576 с.
Пановский Г. А., Брайер Г. В. Статистические методы в метеорологии. Л.: Гидрометеоиздат, 1967. 242 с.
Пдохинский Н. А. Биометрия. Новосибирск: Изд-во АН СССР, 1961. 364 с.
Пдохинский Н. А. Математические методы в биологии. М.: Изд-во МГУ, 1978. 265 с.
Поморский Ю. Л. Вариационная статистика. Л., 1930. Ч. 2. 463 с.
Пустыльник Е. И. Статистические методы анализа и обработки наблюдений. М.: Наука, 1968. 282 с.
Рокицкий П. Ф. Биологическая статистика. Минск: Вышейш. шк., 1967. 327 с.
Романовский В. И. Применения математической статистики в опытном деле. М.: Гостехиздат, 1947, 247 с.
Селиванов Н. А. Математические методы в собирании и исследовании доказательств. М.: Юрид. лит., 1974. 120 с.
Семендяев К. А. Эмпирические формулы. М.; Л.: Гостехиздат, 1933. 88 с.
Сепетлиев Д. Статистические методы в научных медицинских исследованиях.
М.: Медицина, 1968, 419 с.
Смирнов Е. С. Таксономический анализ. М.: Изд-во МГУ, 1969. 187 с.
Смирнов Н. В., Дунин-Барковский И. В. Курс теории вероятностей и математической статистики для технических приложений. 3-е изд. М.: Наука, 1969. 511 с.
Снедекор Д. У. Статистические методы в применении к исследованиям в сельском хозяйстве и биологии. М.: Сельхозиздат, 1961.
Терентьев П. В., Ростова Н. С. Практикум по биометрии. Л.: Изд-во ЛГУ, 1977. 152 с.
Урбах В Ю. Математическая статистика для биологов и медиков. М.: Наука, 1963. 323 с.
Хан Г., Шапиро С. Статистические модели в инженерных задачах. М.: Мир, 1969. 395 с.
Хастингс Н., Пикок Дж. Справочник по статистическим распределениям. М.: Статистика, 1980. 96 с.
Хотимский В. И. Выравнивание статистических рядов по методу наименьших квадратов (способ Чебышева). М.: Госстатиздат, 1959. 88 с.
Четвериков Н. С. Статистические исследования: (Теория и практика). М.: Наука, 1975. 388 с.
Шторм Р. Теория вероятностей. Математическая статистика. Статистический контроль качества. М.: Мир, 1970. 368 с.
Юл Д. Э., Кендэл М. Д. Теория статистики. М.: Госстатиздат, I960. 779 с.
Ястремский Б. С. Избранные труды. М.: Статистика, 1964. 391 с.
Martin R. Lehrbuch der Anthropologie in systematischer Darstellung mit be- sonderer Beriicksichtigung der anthropologischen Methoden. 2. Aufl. Jena: Fischer, 1928. Bd. 1.
Weber E. Grundriss der biologischen Statistik. 6. Aufl. Jena: Fischer, 1967. 674 S.
Таблицы
Большее JI. H., Смирнов H. В. Таблицы математической статистики. M.: ВЦ АН СССР, 1968. 474 с. (Б-ка мат. табл.; Вып. 46).
Келли Т. Я. Статистические таблицы. М.: ВЦ АН СССР, 1966. 194 с. (Б-ка мат. табл., Вып. 35).
Митропольский А. К. Статистическое исчисление. Л., 1952—1954. Вып. 1—4.
Митропольский А. К. Краткие математические таблицы. М.: Наука, 1968. 95 с.
О’Рурк. Таблицы умножения. М.: Госстатиздат, 1962. 336 с.
Сегал Б. И., Семендяев К. А. Пятизначные математические таблицы. 3-е изд. М.: Физматгиз, 1962. 464 с.
Таблицы Барлоу/Под ред. и доп. Л. С. Хренова. М.: Мир, 1965. 326 с.
Янко Я. Математико-статистические таблицы. М.: Госстатиздат, 1961. 243 с.
Pearson К. Tables for statisticians and biometricians. 3rd ed. L, 1931. Pt 2.
ОГЛАВЛЕНИЕ
Введение 3
Глава 1. Статистические показатели вариационного ряда .. .5
.Составление вариационных рядов 5
.Оценка сильноотклоняющихся вариантИ
, Средняя арифметическая невзвешенного ряда. Уровни значимости 12
.Средняя арифметическая взвешенного ряда ....16
.Общая средняя арифметическая по частным средним..18
.Средняягармоническая20
.Средняя квадратическая и средняя кубическая ...21
.Средняягеометрическая23
.Среднееквадратическоеотклонениеневзвешенногоряда24
Среднееквадратическоеотклонение взвешенногоряда.28
Приближенные способы вычисления среднего квадратического отклонения35
Объединение выборок по их дисперсиям37
Коэффициент вариации37
Показатель точности опыта40
Медиана40
Вычисление основных параметров невзвешенного ряда .41
Мода43
Моменты распределения44
Асимметрия 57
Эксцесс60
Энтропия61
Вычисление параметров взвешенного ряда ....65
Доверительные интервалы статистических параметров .72
Определение репрезентативности и методы отбора вариант выборок74
Нормальное распределение78
Альтернативное распределение86
Биномиальное распределение89
Гипергеометрическое распределение96
Распределение Пуассона100
Негативное биномиальное распределениеЮЗ
Мультиномиальное распределение Ш
Распределение Максвелла112
Распределение Рэлея117
Показательное распределение119
Распределение Парето124
Равномерное распределение127
Логнормальное распределение130
Глава 2. Корреляция136
Корреляционная решетка и эмпирическая линия регрессии 139
02.Показатель корреляции рангов по Спирмену ....140
03.Коэффициенткорреляциирангов по Кендаллу...143
04.Коэффициенткорреляциидля малых выборок...147
05.Коэффициенткорреляциидля больших выборок...151
06. Определение линейной и нелинейной связей между взвешенными рядами155
07. Критерии криволинейности158
08.Корреляционныеотношения для невзвешенных рядов.159
09.Корреляционныеотношения для взвешенных рядов ..164
10.Полихорическийкоэффициент сопряженности Чупрова.166
11.Тетрахорическийкоэффициент сопряженности . . ..168
12. Бисериальный коэффициент корреляции169
13. Частные и множественные коэффициенты корреляции .174
Глава 3. Регрессия178
01. Уравнение прямой линии179
02. Уравнение множественной регрессии191
03. Парабола второго порядка197
04. Парабола третьего порядка204
05. Обращенная парабола207
06. Вычисление коэффициентов уравненийпарабол способом
сумм212
07. Степенная функция222
08. Показательно-степенная функция225
09. Показательная функция227
Показательное уравнение второго порядка ....231
Логистическая функция232
Кривая Гаусса241
Логарифмическая функция243
Гипербола245
Степенная функция со свободным членом253
Метод избранных точек257
Приложение262
1П. Число классов в зависимости от объема выборки ...262
2П. Значения критериев ^n и ^i на уровнях значимости 0,01 (верхнее число) и 0,05 (нижнее число)262
ЗП. Критические значения разности между двумя крайними вариантами совокупности 363
4П. Значения критерия Стьюдента t263
5П. Перевод календарных дат в непрерывный ряд .. ..264
6П. Значения коэффициента h для приближенного определения среднего квадратического отклонения265
7П. Значения критерия Стьюдента для односторонней оценки гипотез265
8П. Значения критерия F'.266
9П. Минимальное число наблюдений в зависимости от варьиро
вания данных при доверительном уровне Pi = 95 % и показателе точности 5%.271
10П Показательная функция е-х272
11П. Значения функции ф(/) =0,39894/е°’5<2273
12П. Функция Ф(х) нормированногонормального распределения274
/ xi
13П. Значения—функции, обратной к интегралу вероятностей .275
14П. Арифметический треугольник277
15П. Значения критерия хи-квадрат277
16П. Значения 1—критерияКолмогорова277
17П. Минимальные значения показателя корреляции рангов при данном числе вариант 278
18П. Значение выражений N(М—1), 2/[^(^—1)] и ошибка коэффициента корреляции ранговКендалла 279
19П. Функция 2 = 0,5 1п[(1+г)/(1—г)]. .....279
20П. Объем выборки, достаточный для достоверности коэффи
циента корреляции на трех доверительных уровнях ..280
21П. Таблица Келли—Вуда (сокращенно)281
22П. Таблица Сопера для вычисления ошибки бисериального коэффициента корреляции282
23П. Числа Чебышева283
24П. Множители для вычисления коэффициентов уравнений парабол ; 287
25П. Вспомогательные величины для вычисления коэффициентов уравнений парабол способом сумм 288'
26 П. Множители М для четных рядов288
27П. Показательная функция ех289
28П. Числа, производные от е и л290
Научное издание
Зайцев Геннадий Николаевич
МАТЕМАТИКА
В ЭКСПЕРИМЕНТАЛЬНОЙБОТАНИКЕ
Редактор издательства Л. К- СоколоваХудожник Н. Н. МихайловичХудожественный редактор В. В. Алексеев
Технический редактор Т. С. Жарикова
Корректоры А. Б. Васильев, Р. 3. Землянская
ИБ № 46992
Сдано в набор 28 11.89. Подписано к печати 9.02.90.
Формат 60X90716
Бумага книжно-журнальнаяГарнитура литературнаяПечать высокая
Усл. печ. л. 18,5 Усл. кр. отт. 18,5 Уч.-изд. л. 19,2Тираж 1500 экз. Тип. зак 3759Цена 4 р. 30 к.
Ордена Трудового Красного Знаменииздательство «Наука»
117864, ГСП-7, Москва, В-4 8 5 Профсоюзная ул., 90
2-я типография издательства «Наука» 121099, Москва, Г-99, Шубинский пер., 6.
1. У высокорослого травянистого многолетника — сахалинской гречихи высота побегов при хороших условиях роста удваивается примерно каждый месяц. Определим, чему будет равна высота побегов этого растения через 3 мес, если непосредственно перед этим она составляла 30 см. В указанном уравнении приведенные величины будут соответствовать следующим обозначениям: у — искомая конечная высота побегов; а — начальная высота, которая известна и равна 30 см; х = 3 — число периодов (месяцев), в течение каждого из которых высота удваивается (Ь = 2). Таким образом, # = 30*23 = 240 см. Если, например, 1 мая высота побегов сахалинской гречихи составляла 0,3 м, то к 1 августа того же года она может быть равной 2,4 м.
ритории ежегодно сокращалась в 1,5 раза и через 6 лет составила 200 особей. Определить, сколько особей данного вида было
на этой территории 6 лет тому назад. Здесь а = 200; Ь= 1,5; х=6,
следовательно: # = 200* 1,56. Логарифмируя, получим lnz/ =
= 1п 200+6 In 1,5 = 5,2983+6*0,4055 = 7,731, что соответствует у = 2278 особей.
61 я=-^ (см-$ЗЛ4,:
/) Р-1/(*+1), 2) М1(х-1), 3) y-\K0,5x-D, 4) у-ЖТ — х), 5) ^—1/(8—0,6х), 6) у» «—1/(10—0,5х);
»)^-^ (см. §3.14):
/) #-х/(0,2+0,2х), 2) t/=l/(0,l+0,2x), 3) у~хЦ—0,1 +0,2х), 4) у-хК-Ф,2+0,2х);
г) у—ах^л-с;
/) #=1+0,бх0»5, 2) #=1-0,2х0»5, 3) р=1+0,04х\ 4) #=1+0,08x2, 5) y=AV2x-°*\ 6) у=\+3х~°>5;
д) y—ae^x-vc:
/) #=2—е™°’69^, 2) у=2—е*°*^х, 3) y=2—C°'^x, 4) #=2—е—0,22^t 5) у—2—е~°,1бх>
6) #=2—е-0’!05^, 7) #=2—е—^»05^, 3) у=2—е~Of03^ 9) у=2—е—О»0!^, Ю) у=2—е°*°^х,
//) у=2—е°*03л:, 12) y=2—fc0’^xt 13) у=2—еО.Обвх, /4) у=2—е°»077х;
е) y=a-vbx-vcx2 (см. § 3.03, 3.06):
1) у=5— 0,5х+0,1х2, 2) y^,\x2t 3) у=9—Зх+0,25х2, 4) у=ЬА-х — 0Л5х\ 5) у=4—0,1а:—0,01х»
АКАДЕМИЯ НАУК СССР
ГЛАВНЫЙ БОТАНИЧЕСКИЙ САД
77 Н. Зайцев
МАТЕМАТИКАвэкспериментальнойБОТАНИКЕ
Ответственный редакторчлен-корреспондент ВАСХНИЛВ. Н. БЫЛОВ
МОСКВА «НАУКА»
УДК 578.087.1
Математика в экспериментальной ботанике/Г. Н. Зайцев. М/ Наука, 1990.— 296 с. ISBN 5—02—004053—3
Книга является одним из наиболее полных справочных пособий, позволяющих исследователям самостоятельно решать разнообразные задачи по анализу отдельных выборок, а также их взаимосвязей, возникающие при математической обработке результатов наблюдений, экспериментов, или принимать решения в неясных ситуациях. Все методы, большинство которых относится к математической статистике, изложены вполне доступно, иллюстрированы реальными примерами из исследовательской ботанической тематики и задачами, решаемыми по детально разработанным, наиболее рациональным алгоритмам. Приведены справочные таблицы, необходимые для оценки результатов и^и облегчающие расчеты.
Рассчитана на практических и научных работников ботанических садов, сельского хозяйства, биологов широкого профиля, студентов и аспирантов.
Табл. 127. Ил. 31. Библиогр.: 51 назв.
Mathematics in experimental botany/C. N. Zaitsev. M.: Nauka, 1990. 296 p.
The prezented book is one of the most complete reference books, devoted to mathematical methods in botany. It can be of great help for both practical and research workers of botanical gardens, agriculture, for wide profile bioloigists, students and post-graduates, dealing with experimental and observation data treatment. It can aid to analyse cross-section data and interrelations of indicators and to make decisions in indetermined situations as well. All methods, most of them stemming from mathematical statistics, are set forth quite intelligibly and illustrated with factual botanical research examples and with problems solved according to elaborated algorithms. Special attention is paid to the quality of mathematical maintenance and to the simplicity of the account. All reference tables, necessary for estimation of results or making calculations easier, are enclosed herewith.
Рецензенты:
доктор биологических наук В. Ф. ЛЮБИМОВАдоктор биологических наук Б. К. ТЕРМИНА
1901000000-051 т459-90, I полугодие042 (02)-90J1901000000-051 т459-90, I полугодие042 (02)-90J© Издательство «Наука», 1990© Издательство «Наука», 1990
1901000000-051 т
459-90, I полугодие
042 (02)-90J
1901000000-051 т
459-90, I полугодие
042 (02)-90J
© Издательство «Наука», 1990
© Издательство «Наука», 1990
ISBN 5—02—004053—3