Книга
← К списку книгЗагрузка разделов…
активнаАктивные записи участвуют в каталоге и синках. Неактивная книга скрыта, но не удалена из базы.
Книга
АКАДЕМИЯ НАУК СССР
ГЛАВНЫЙ БОТАНИЧЕСКИЙ САД
УДК 578.087.1
Методика биометрических расчетов. Математическая статистика в экспериментальной ботанике. Зайцев Г. Н. М., «Наука», 1973, стр. 1—256.
В книге приведены многие методы математической статистики, которые можно применить в экспериментальной ботанике и других отраслях биологии, ключи для правильного выбора метода в зависимости от целей исследования и от конкретных данных. Прилагаются все математические таблицы, необходимые для пользования изложенными методами. Книга предназначена для широкого круга биологов, занимающихся экспериментальной работой и обобщением массовых наблюдении. Табл. 10(1. Илл. 13. Библ, па 1 стр.
Ответственный редактор доктор сельскохозяйственных наук Ю. II. МАЛЫГИН
3 (^.^^Заказ 042(02)
ВВЕДЕНИЕ
Статистическая обработка цифрового материала, полученного путем опытов, учетов и наблюдений при биологических исследованиях, необходима для проверки степени достоверности результатов и правильного их обобщения.
Каждый из методов математической статистики имеет определенные возможности и свою ограниченную область применения. Использование метода, не соответствующего данному экспериментальному материалу, может привести к неверным обобщениям и необоснованным выводам.
Эта книга предназначена исследователям-биологам в качестве пособия для выбора метода математической статистики, наиболее соответствующего изучаемому вопросу, и для ознакомления с техникой расчетов при использовании избранного способа обработки цифровых данных. Перед обработкой результатов исследования необходимо прежде всего определить задачи, которые должны быть решены математическим путем. Этим задачам пос- вящены отдельные главы книги, и они обычно следующие.
Вычисление средней арифметической и ее ошибки, коэффициента вариации и других показателей, характеризующих ряд чисел, полученных в эксперименте или иным путем (глава 1).
Установление по двум и больше сопряженным рядам чисел наличия связи (корреляции) между признаками (глава 2).
Определение по двум сопряженным рядам чисел формы зависимости (регрессии) одного признака от другого (глава 3).
Проверка гипотезы о различии (или сходстве) между признаками пли вариантами опыта (глава 4).
Главы книги начинаются с таблиц для определения метода, которым надлежит пользоваться, после чего по оглавлению находят параграф, содержащий изложение этого метода. В начале каждого параграфа приводятся положения, позволяющие уточнить метод обработки данных. Большинство методов биометрической обработки изложено в следующем порядке: случаи применения метода, ограничения его применения, формулы и объяснение символов, порядок расчетов по этапам, определение ошибки и достоверности полученных показателей.
В книге все таблицы обозначены числами без скобок: например, табл. 1.04 означает таблицу 4 в главе 1. Формулы пронумерованы
числами, заключенными в скобки: например, формула (2.13) означает главу 2, формулу 13. § 1.01 означает первый параграф в главе 1. Номера таблиц в приложении сопровождаются буквой П; например, 5П означает таблицу 5 в приложении.
Пример подбора метода статистической обработки
Ио имеющимся данным (табл. 2.11) требуется проверить предположение о том, что между величиной зерен и продолжительностью их созревания у ячменя существует корреляционная взаимосвязь. В соответствии с задачей (см. выше) обращаемся к главе 2. В начале главы 2 в определительной таблице принимаем тезу 1 (0), от которой идем к тезе 2 (1), к антитезе 3 (2) и составляем корреляционную решетку, так как численность выборки больше 30. По расположению частот корреляционной решетки (табл. 2.11) принимаем связь за криволинейную (она встречается значительно чаще прямолинейной, во всех неясных случаях ее лучше считать криволинейной).
Далее идем к тезе G (3), которая указывает на § 2.06, § 2.10, § 2.11, § 2.12. Любой из методов, изложенных в этих параграфах, можно в рассматриваемом случае применить, но, ввиду того, что деление наших данных па классы скорее качественное, чем количественное, выбираем § 2.12, следуя указанию в начале этого параграфа.
Если требуется получить все статистические показатели совокупности, то лучше сразу обратиться к объединенным схемам расчетов (§ 1.40 и § 1.41). Для получения предварительных выводов при оценке различий между небольшими совокупностями лучше воспользоваться непараметрическими критериями (§ 4.07 — § 4.13).
Цифровой материал, подлежащий обработке, должен быть предварительно просмотрен для выявления грубых ошибок, если таковые имеются. Числа, очень сильно отклоняющиеся от остальных, надо обязательно проверить па принадлежность их к данной совокупности (§ 1.02). Все цифровые данные перед обработкой следует округлять до одинакового числа знаков после запятой, причем оно должно быть минимальным, но достаточным для достижения требуемой точности выводов.
Методы статистической обработки изложены в возможно лаконичной, почти рецептурной форме, для того, чтобы яснее была видна схема расчетов. В целях сокращения вычислительных операций ряд формул был преобразован и предложено несколько новых. Статистическая терминология объясняется в тех параграфах, в которых она впервые употребляется.
Выражаю благодарность Г. В. Пономареву за предоставление и подготовку данных по некоторым примерам вычислений; В. Н. Былову, И. А. Нечаеву и, особенно, IO. Н. Малыгину за большую помощь в работе.
Глава I
ВЫЧИСЛЕНИЕ СРЕДНЕЙ АРИФМЕТИЧЕСКОЙ И ЕЕ ОШИБКИ, КОЭФФИЦИЕНТА ВАРИАЦИИ И ДРУГИХ ПОКАЗАТЕЛЕЙ, ХАРАКТЕРИЗУЮЩИХ ВАРИАЦИОННЫЙ РЯД
Все объекты каждого исследования (растения, животные, урожаи с делянок опыта или вегетационных сосудов, образцы плодов, семян и пр.) образуют так называемую общую, или генеральную совокупность. Термин совокупность в статистике относят и к полученным в опыте или путем наблюдений числам, характеризующим с какой-либо одной количественной стороны объекты, входящие в данную генеральную совокупность. При этом в статистическую совокупность следует включать лишь числа, относящиеся к качественно однородным признакам (свойствам) объекта исследования. Значение отдельного члена совокупности называется вариантой, или датой. При большом числе дат в генеральной совокупности можно исследовать ее некоторую часть, которая называется выборкой, или частичной совокупностью. Достаточный объем выборки для изучения свойств генеральной совокупности определяется по методам, указанным в § 1.36-- § 1.39.
00. Таблица для выбора метода обработки отдельного вариационного ряда
(0). Обрабатываемые данные являются единой совокупностью (табл. 1.01 или 1.02) и не подразделяются на две альтернативные группы по признаку: да, нет . . . .2 — Данные подразделяются на две группы по признаку: да, нет или плюс, минус. Расчет статистических показателей или параметров таких альтернативных рядов (табл. 1.04) см. в параграфах: средняя арифметическая—§1.30,
среднее квадратическое отклонение —§1.31,
коэффициент вариации—§1.32,
показатель точности опыта—§1.33,
построение доверительных интервалов — § 1.42,
(1). Выборка небольшая; состоит не более чем из 150 чисел (табл. 1.02)3
— В выборке 150чисел и больше (табл. 1.01) — сгруппировать данные во взвешенный ряд (§ 1.01, табл. 1.03) .9
(2). Вычислить статистические параметры ряда или определить объем репрезентативной выборки4
— Построить доверительные интервалы к имеющимся или вычисленным статистическим параметрам . . § 1.42.
(3). Вычислить параметры ряда5
— Определить объем репрезентативной выборки .... 8
(4). Вычислить все обычные статистические параметры выборки по единой схеме расчета§1.40
— Вычислить отдельные параметры выборки .... 6
(5). Вычислить средние величины чисел невзвешеиного ряда:
средняя арифметическая — § 1.03,
средняя гармоническая — § 1.07,
средняя квадратическая и кубическая — § 1.08,
средняя геометрическая — § 1.09, общая средняя арифметическая по средним частных выборок — § 1.00.
— Найти меру варьирования чисел ряда7
(6). Меру варьирования данных вычислить с достаточной точностью обычными методами:
среднее квадратическое отклонение и дисперсия — § 1.10,
§ 1.И, § 1-12
объединение выборок по их дисперсиям — § 1.20,
коэффициент вариации — § 1.21,
показатель точности опыта — § 1.22.
— Меру варьирования (среднее квадратическое отклонение) вычислить приближенно, более простыми методами (например, для планирования эксперимента) . . § 1.17, 1.18, 1.19
(4). Определить объем репрезентативной выборки при известной численности генеральной совокупности:
для достоверности средней арифметической — § 1.36, для достоверности доли — § 1.38.
— Определить объем репрезентативной выборки при неизвестной численности генеральной совокупности: для достоверности средней арифметической — § 1.37, для достоверности доли — § 1.39.
(2). Вычислить статистические параметры взвешенного ряда
и построить кривую распределения10
— Рассчитать шкалу балльной оценки признака § 1.43.
(9). Вычислить параметры взвешенного ряда11
— Построить кривую распределения следующих типов: нормального — § 1.29, биномиального — § 1.34, Пуассона — § 1.35.
И (10). Вычислить все обычные параметры взвешенного ряда по единой схеме расчета§1.41.
— Вычислить отдельные параметры взвешенного ряда 12
12 (11). Найти средние величины и показатели положения шейного ряда: среднюю арифметическую — § 1.04, § 1.05, общую среднюю арифметическую по средним частных выборок — § 1.06, среднюю квадратическую и среднюю кубическую — §1.08, среднюю геометрическую — § 1.09, моду — § 1.23, медиану — § 1.24, асимметрию — § 1.27, эксцесс — § 1.28, моменты распределения и поправки к ним — § 1.25, § 1.26.
— Найти показатели варьирования взвешенного ряда: среднее квадратическое отклонение — § 1.13, 1.14, 1.15, 1.16, объединение выборок по их дисперсиям — § 1.20, коэффициент вариации — § 1.21, показатель точности опыта — § 1.22, построить доверительные интервалы к статистическим параметрам — § 1.42.
§ 1.01. Составление вариационных рядов
Числа нерапжированиой совокупности или выборки (табл. 1.01), если последняя не очень велика по объему, желательно (но не обязательно) расположить в порядке убывания (или увеличения) их величин, т. е. в виде ранжированного иевзвешенпого вариационного ряда (например, табл. 1.02). Если совокупность пли выборка содержит много чисел (например, табл. 1.01), то их следует сгруппировать в классы и составить ранжированный взвешенный вариационный ряд (табл. 1.03). Разновидностями таких вариационных рядов являются многоклассовый ряд (табл. 1.03) и двухклассовый (табл. 1.04), причем последний часто называют рядом с альтернативной изменчивостью вариант.
Каждая группа чисел (вариант), па которые разбивается совокупность или выборка, называется класс. Число классов зависит от величины классового интервала, т. е. разницы между наибольшим и наименьшим значением в пределах каждого класса. Классовые интервалы для одного вариационного ряда обычно делают одинаковыми. Иногда делят совокупность па классы по качественным признакам, имеющим неопределенное количественное содержание (например, ряды г и у в табл. 2.11).
Число вариант, относящихся к данному классу, называется его частотой. Например, в табл. 1.03 класс 77,5—82,4 имеет частоту 74.
Частоты, выраженные в относительных числах, как доли единицы или проценты от общего числа вариант (объема выборки),
Таблица 1.01
Продолжительность вегетационного периода (в днях) у 214 сортов ячменя
66 69637773667275758078637573748075 78
68 77827568728474657371818072797580 78
84 78678470657964727777778262776975 66
69 74819177817883788079767778777767 82
80 82808282787979867277747675797978 82
80 80848081807677757682807879776881 80
75 80787979788078787678736565677678 67
71 81767876727574707074847678737076 71
74 72758182757376697268718074728066 79
78 79646874806463656482746474646465 68
60 71776875766765706682748076727880 80
69 678892926573847371767278748080
Число вариант и.ш объем выборки — ^ = 214.
называют частостями (они приведены, например, в последних
столбцах табл. 1.03 и 1.04).
Группировка вариант по классам и составление взвешенных вариационных рядов представляют выборку в легкообозримом
Таблица 1.02
Высота растений сои (в еле) в виде ранжированного невзвешенного вариационного ряда
виде и облегчают последующие рас-
четы. Однако любая группировка такого рода, когда истинные значения групп вариант, объединяемых в классы, заменяются средними значе-
Варианта, х
ниями классов, вносит неточность в получаемые затем показатели. Большей частью эта неточность невелика
82
77
74
74
73
66
64
63
63
62
54
44
43
vV 13
Si = 839
и ею можно пренебречь, однако, во всех случаях, когда представляется возможность (например, при обработке данных на электронно-вычислительной машине), рекомендуется работать с невзвешеппым рядом, без разбивки его на классы. При наличии лишь счет, арифмометра и логарифмической линейки (минимум вычислительных приборов для биометрических расчетов) целесообразно составлять взвешенный вариационный ряд при объеме совокупности свыше 50
вариант, а при наличии счетно-вычи-
слительпого автомата (например, CAP—2Ц) — не менее 150 вариант. Такие объемы данных еще доступны для обработки без их группировки, ибо последняя требует часто много времени и внимания.
Взвешенный вариационный ряд составляют также и с целью идентификации типа распределения обрабатываемых данных.
Таблица 1.03
Данные таблицы 1.01 в виде ранжированного взвешенного вариационного ряда
Границы класса
Середина класса (х)
Частота (/)
Частость, %
57,5-62,4
60
2
0,9.
62,5-67,4
65
30
14,0
67,5—72,4
70
34
15,9
72,5—77,4
75
62
29,0
77,5—82,4
80
74
34,6
82,5-87,4
85
8
3,7
87,5—92,5
90
4
1,9
с — 5
к = 7
N —(214
100
Распределение может быть нормальным (§ 1.29), биномиальным (§ 1.34), пуассоновским (§ 1.35) или иным. Если эмпирическое (полученное в данном опыте) распределение частот вариант близко к нормальному (метод проверки этого соответствия указан в §4.14), то все приводимые ниже методы применимы к данному материалу (в необходимых случаях в тексте имеются указания об ограничениях применения метода в отношении того или иного типа распределения вариант).
Подавляющее большинство биологических признаков имеет
Таблица 1.04
Число мутантов среди растений ячменя
Класс
Число растений или частота
Частость
%
ДОЛИ единицы
1. Нормальные растения
984
93,71
*0,937
2. Мутанты
66
6,29
0,063
Всего просмотрено растений, или объем выборки
N = 1050
100
1,000
Вегетационный период (х^ .иа:Вегетационный период (х^ .иа:Рис. 1. Распределение 214 сортов ячменя по продолжительности вегетационного периода
Вегетационный период (х^ .иа:
Вегетационный период (х^ .иа:
— эмпирические частоты;
- — кривая нормального расяре- целения
симметричное распределение вариант, близкое к нормальному (рис. 1). Согласно неравенству II. Л. Чебышева из теории вероятностей, при любом типе распределения вариант вероятность отклонения последнего от основного закона нормального распределения, так называемого «правила трех сигм», составляет меньше чем 1/д или равна этому числу. Следовательно, принимая неизвестное распределение вариант за нормальное, можно ошибиться лишь в И случаях из 100.
Составление взвешенных рядов необходимо также для построения шкалы балльной оценки (§ 1.43).
Порядок действий при составлении взвешенного вариационного ряда следующий:
Определяется величина классового интервала, которая зависит от принятого числа классов и от объема выборки:
1N — 21к — 1
(1.01)(1.01)где с — величина классового интервала; xn — максимальная варианта выборки (в табл. 1.01 это 92); xt — минимальная варианта (в табл. 1.01 это 60); к — число классов, которое принимается обычно от 7 до 15; или по табл. 1П (см. приложение).
(1.01)
(1.01)
с —с —92 - - 6092 - - 607 — 17 — 15,5,Для данных таблицы 1.01 по формуле (1.01):
с —
с —
92 - - 60
92 - - 60
7 — 1
7 — 1
5,
5,
где число классов принятой = 7. Классовый интервал выражается целым и дробным числами, в зависимости от того, являются ли варианты дискретными, т. е. неделимыми (особи, число зерен, дней и т. п.) или непрерывными, измеряемыми величинами (длина ширина, высота, вес и т. д.).
Величину классового интервала можно рассчитать также по формуле
(1.02)(1.02)(1.03)(1.03)(XN — x^ 1g 2
(1.02)
(1.02)
(1.03)
(1.03)
lg N ’ где lg2 — 0,30102, или
(xN Xj) In 2 с" hi“y ’
где In 2 -- 0,69314; или по формуле
^*ДГ Zj
/zV—i ’
где N — объем выборки, а прочие обозначения те же, что и в формуле (1.01). По формуле (1.02) для данных табл. 1.01 классовый
(92 - 60) 1g 2 , интервал равен с — -—~ 4.
Такой интервал дал бы около девяти классов, однако для сокращения вычислений и устранения пулевых классов примем классовый интервал, подсчитанный выше, по формуле (1.01): с -■- 5 дней. Критерием правильного выбора величины классового интервала является четкое выявление основной тенденции распределения при наименьшей потере информации о форме изгибов кривой и других существенных особенностях распределения вариант в данной совокупности. Иногда оказывается, что выборка состоит-из разнокачественных элементов и нулевые (а также очень малочисленные) классы служат границей между ними, что можно установить по виду двухвершинной кривой распределения частот и путем анализа собранного материала. Такие выборки для дальнейшей обработки обычно разделяют.
Расчет границ классов начинается от произвольного начала таким образом, чтобы полученные затем срединные значения классов были по возможности малозпачными числами, что сократит объем вычислительной работы. Таким произвольным началом в табл. 1.03 является число 57,5, к которому прибавляем по 5 (с — — 5), записывая все суммы (границы классов) вплоть до высшего класса. Другая граница первого класса — величина 62,4— получена небольшим уменьшением значения верхней границы второго класса: 62,5—0,1 — 62,4. Это целесообразно делать для удобства разноски вариант по классам. Все остальные нижние границы классов — 67,4, 72,4 и т. д,— получаются путем последовательного прибавления к ним величины классового интервала.
Произвольное начало отсчета границ классов следует выбирать так, чтобы крайние варианты ,т} и kn по возможности оказались примерно в середине своих классовых интервалов.
Срединное значение первого класса в табл. 1.03 получено так: (57,5 Ч 62,5) : 2 — 60 дней. Все остальные срединные значения
классов получаются путем последовательного прибавления к ним величины классового интервала. Середины классов после их получения, рассматриваются как варианты ряда и обозначаются также через х.
Варианты по классам лучше разносить «конвертиком», т. е. точками и линиями, последовательные сочетания которых обозначают следующие числа:
Сумма частот после разноски должна равняться объему выборки (в табл. 1.03 N = 214), сумма процентных частостей должна составлять 100%. Если совокупность вариант не вызывает сомнений в отношении ее качественной однородности, но желательно устранить классы, в которых отсутствуют частоты, следует увеличить классовый интервал и повторить работу по разноске вариант сначала. Когда нулевые классы находятся ближе к началу или концу ряда, можно отбросить крайние классы с их частотами (если число классов достаточно большое), благодаря чему не будут включены в ряд сильно отклоняющиеся варианты выборки, большей частью возникающие из-за ошибок при сборе материала.
Если форма кривой распределения свидетельствует о «смешанном» распределении (две или несколько вершин), это желательно объяснить при биологическом толковании результатов.
02. Оценка сильно отклоняющихся вариант
Наибольшее значение признака в выборке называется максимальная варианта, а наименьшее — минимальная варианта. Если в ранжированном вариационном ряду значение максимальной или минимальной варианты чрезмерно велико или мало по сравнению с соседними числами ряда, то необходимо проверить принадлежность к данной совокупности таких резко отклоняющихся вариант, которые могут относиться к иному сорту, другой популяции, а также возникнуть из-за грубой ошибки при измерении или подсчете. В подобных случаях резко отклоняющиеся варианты, чуждые данной совокупности, необходимо исключить из выборки.
Однако это исключение должно быть обосновано посредством количественной оценки отклонения таких вариант.
Для максимальной варианты (при нормальном или близком к нему распределении вариант) применяется формула
=(1.04)
где On — критерий принадлежности максимальной варианты к совокупности; »« — максимальная варианта; zn-i — варианта, следующая по величине за максимальной; z2 — варианта, стоящая в ранжированном ряду рядом с минимальной.
Проверим, например, принадлежность варианты 82 в табл. 1.02 к данной совокупности:
= 0,132.
Вычисленное значение критерия, которое для N = 13 равно 0,520 (табл. 2П), меньше табличного, поэтому варианту нельзя исключать из выборки.
Для минимальной варианты при распределении, не сильно отличающемся от нормального, применяется формула
^=;г^:.(1-05)
где Oi— критерий принадлежности минимальной варианты х1 к совокупности;
хг — варианта, стоящая рядом с минимальной; х^ — вторая по значению варианта после максимальной.
Для примера оценим принадлежность варианты 43 в табл. 1.02 к данной совокупности:
=0,029.
Полученное значение критерия меньше табличного (табл. 2П): 0,029 < 0,520, поэтому отбрасывать варианту нельзя.
В случае если резко отклоняются по величине не только крайние варианты, но и соседние с ними, принадлежность их к данной совокупности оценивается по тем же формулам (1.04; 1.05). Например, из вариационного ряда 192, 187, 135, 127, 120, 111, 98, 87, 71, 66, 52, 47, 41, 12, 9 по формуле (1.04) надо проверить варианту 187, а по формуле (1.05) — варианту 12. Если эти варианты окажутся чуждыми для данной выборки, то, естественно, варианты 192 и 9 также должны быть исключены.
03. Средняя арифметическая невзвешенного ряда.
Уровни значимости
Средняя арифметическая, являясь основной характеристикой статистической совокупности, отражает уровень, по отношению к которому колеблются значения вариант в ней. Вычисление средней арифметической по данному методу производится для выборок, варианты которых не сгруппированы и представляют собой невзвешенный ряд, например приведенный в табл. 1.02. Если объем выборки большой, то целесообразно составить взвешенный вари-
ациопный ряд jf применить метод из § 1.04. Если при вычислении средней арифметической нужно затем оценить достоверность ее значения и получить, кроме того, другие параметры совокупности, то лучше воспользоваться схемой расчета из § 1.40.
Ранжирование ряда при вычислении средних величин не обязательно. Формула вычисления средней арифметической:
(1.06)
где М — средняя арифметическая; Sz — сумма всех вариант ряда; N — объем выборки.
Порядок работы (табл. 1.02):
подсчитывается число вариант: N —- 13;
суммируются все варианты данной совокупности: Sz — 839;
сумма вариант делится на число вариант:
М -- 839 : 13 =- 64,5 см.
Для оценки достоверности средней вычисляется ее ошибка по формуле:
где тм — ошибка средней арифметической; я — среднее квадратическое отклонение, вычисление которого для данного ряда приведено в § 1.11, где оно равно 11,98; N — объем выборки.
Для ряда из табл. 1.02
тм — 11,98 : V 13 = + 3,3 см.
Достоверность биометрических параметров или показателей большей частью оценивают при помощи критерия Стьюдента по общей формуле
^ биометрический: показатель,.
ошибка данного показателя '\ • /
Например, достоверность средней арифметической оценивается по формуле
t — М1тм,
где t — критерий Стьюдента; М — средняя арифметическая. тм — ее ошибка.
Для рассматриваемого примера величина критерия равна: t 64,5 : 3,3 - 19,4.
Число степеней свободы, которое необходимо знать для определения достоверности средней арифметической при помощи табл. ЗП.
принимается равным:
v . У - 1 - 13 - 1 - 12;
где v — число степеней свободы; N — объем выборки.
Числом степеней свободы считается число независимых отклонений отдельных вариант от средней. Из отклонений независимыми являются все, кроме одного (У — 1), последнего, величина которого уже определена остальными отклонениями, в силу равенства (1.09), и поэтому это отклонение не будет независимым.
Табличное значение критерия Стьюдента (табл. ЗП) для 5 %-ного уровня значимости равно 2,179 и на 0,1%-пом уровне значимости равно 4,318. Полученное выше значение I -- 19,4 намного выше табличного, поэтому средняя арифметическая вполне достоверна даже при самой строгой оценке, т. е. па 0,1%-пом уровне значимости. Установлены следующие три уровня значимости в порядке возрастания строгости оценки достоверности биометрических показателей: ГУД - 5%, W2 1%, IT3 - 0,1%. Им соответствуют в том же порядке возрастания строгости оценки, следующие доверительные уровни: Рт — 95%, Р2 — 99%, Рй ~ 99,9%. Выраженные в долях единицы уровни значимости равны соответственно: Wy — 0,05, W2 --- 0,01 и W3 -0,001, а доверительные уровни в долях единицы представляются следующими числами: Ру ----- - 0,95; Р2 - 0,99; Рл - 0,999. Для биологических исследований во многих случаях достаточно принимать 5%-нып уровень значимости, или 95%-пый доверительный уровень (что одно и то же), при котором считают достаточным, если подтвердится существенность выводо'в в 95 случаях из 100.
Если вычисленное значение критерия Стьюдента будет меньше табличного (из табл. ЗП), это может означать, что недостаточен объем выборки, по которой найдена средняя арифметическая или же варьирование вариант слишком велико, или данные неоднородны.'
Средняя арифметическая в результатах обработки опытных данных должна приводиться вместе с ее ошибкой, например:
М ----- 64,53,3 см.
Для проверки вычислений рекомендуется умножить среднюю арифметическую на объем выборки; полученное число должно равняться сумме вариант. В данном примере
MN ---- Sz; 64,538-13 - 838,99;
что можно считать хорошим совпадением, так как фактическая сумма вариант равна 839 (табл. 1.02). Сумма отклонений вариант от средней арифметической должна быть равна нулю, что также можно использовать для проверки вычислений:
5 U - Л/) = 0.(1.09).
Для ряда из табл. 1.02 эта сумма отклонений равна 0,006 (табл. 1.10). Сумма абсолютных отклонений вариант от любого другого числа всегда будет больше суммы отклонений от средней арифметической. Если объем общей или генеральной совокупности известен, то ошибка средней вычисляется по формуле
тм = з ]/ N ^ J4^ ,(1.10)
где тпм — ошибка средней арифметической; а — среднее квадратическое отклонение; No — объем генеральной совокупности; N — объем выборки из нее.
В примере из следующего параграфа 1.04, где о = 6,07; N ^214, предположим, что No = 900 сортов, тогда
- = 6'07 V= °'36'
Ошибку средней арифметической вычисляют также через отклонения от средней арифметической по формуле
.(Ы1)
где гпм — ошибка средней арифметической; 2 (ж — М)2 — сумма квадратов отклонений вариант от средней арифметической (она вычислена в табл. 1.10); N — объем выборки.
Для данных из табл. (1.02)
/
1721,23„ у
13 (13 — 1)3’3,
04. Средняя арифметическая взвешенного ряда
Если кроме вычисления средней арифметической для большой группы наблюдений имеется ввиду получение также среднего квадратического отклонения, ошибки М и других параметров совокупности, то лучше пользоваться обобщенной схемой расчета из § 1.41.
Для больших выборок рекомендуется составить взвешенный вариационный ряд (см. § 1.01), средняя арифметическая затем вычисляется по формуле
м = М_^, (1Л2)
где М — средняя арифметическая; 2 ж/ — сумма произведений середин классов ж на соответствующие им частоты / (от английского: frequency — частота); N —- объем выборки.
Вычисление М по данным о вегетационном периоде ячменя из таблицы 1.03 показано в табл. 1.05.
Таблица 1.05
К вычислению средней арифметической взвешенного ряда
Границы класса
Середина класса (варианта), х
Частота, 1
х/
57,5-62,4
60
2
120
62,5-67,4
65
30
1950
67,5-72,4
70
34
2380
72,5-77,4
75
62
4650
77,5-82,4
80
74
5920
82,5-87,4
85
8
680
87,5-92,5
90
4
360
с — 5
к = 7
N 214
16060
Расчеты проводятся в следующем порядке:
Умножаем варианты на их частоты:
60-2 — 120 и т. д.
Суммируем эти произведения:
120 + 1950 . ... 680 + 360 - 16060.
Полученную сумму 5ж/ — 16060 делим на объем выборки;
М = 16060 : 214 = 75,05.
Оценку достоверности полученной средней арифметической производим так же, как это было сделано в § 1.03. Среднее квадратическое отклонение для приводимых здесь данных о вегетационном периоде ячменя вычислено в § 1.16 и равно 6,07.
Получаем ошибку средней арифметической по формуле (1.07):
6,070, л ,л ,
тм = .= +0,414 дня.
/214" ’
Вычисляем критерий Стьюдента по формуле (1.08):
I = 75,05 : 0,414 = 181.
Число степеней свободы равно:
v = У — 1 = 214 — 1 = 213.
По табл. ЗП, на 5 %-ном уровне значимости, при 213 степенях свободы t — 1,960. Полученное выше значение критерия достоверности, равное 181, больше табличного, поэтому достоверность средней арифметической не вызывает сомнений. В окончательном
виде средняя арифметическая для разбираемого примера записывается так:
М - 75,0 — 0,4 дня.
Для проверки вычислений рекомендуется умножить объем выборки на среднюю арифметическую, что должно равняться сумме Sz/:
214-75,05 - 16060,70.
Полученная разница 0,70 может быть опущена, так как возникла из-за округлений.
05. Средняя арифметическая взвешенного ряда по способу сумм
Когда вариационный ряд состоит из большого числа классов (например, больше 12), а частоты и середины классов выражаются чаще трехзначными и более числами, вычисление М по методу из § 1.04 требует много времени из-за необходимости перемножения многозначных чисел. В подобных случаях, и особенно при отсутствии достаточно производительной вычислительной техники, можно применить способ суммирования частот, вместо их умножения па варианты.
По данным табл. 1.06 вычислим способом сумм среднюю дату конца цветения гладиолуса в Москве. В таблице даты конца цветения в столбцах 1, 2 даются в числах от 1 марта (табл. 24П).
'Г а б л и ц а 1.06
Средняя арифметическая по способу сумм
Класс, дни от 1 марта
Середина класса, х
Частота, /
Первый ряд сумм частот
Второй ряд сумм частот
150-154,9
152,5
10
10
10
155-159,9
157,5
15
25
35
160-164,9
162,5
58
83
118
165-169,9
167,5
. 137
220
338
170—174,9
172,5
226
446
784
175 — 179,9
177,5
221
667
1451
180-184,9
182,5-А
230
—
—
185-189,9
187,5
145
458
1034
190-194,9
192,5
149
313
576
195—199,9
197,5
94
164
263
200—204,9
202,5
51
70
99
205-209,9
207,5
И
19
29
210—214,9
212,5
6
8
10
215-219,9
217,5
2
2
2
с — 5
к 14
Л" 1355
—
В столбце 2 принимаем за условную среднюю центральную варианту ряда: А — 182,5; при этом можно за условную среднюю взять любую варианту, но желательно ближе к середине ряда. Частоты из столбца 3 последовательно суммируем до черточки, сверху вниз, и в нижней половине ряда — снизу вверх, получаем первый ряд сумм частот, из которого таким же образом получаем второй ряд сумм частот. Проверку суммирования производим сложением трех центральных частот из столбцов 3 и 4: 230 -г 667 ■— 4- 458 -- 1355, результат совпадает с объемом выборки — следовательно, нет ошибки в составлении первого ряда сумм частот. Средняя арифметическая вычисляется по формуле
М =- A -l^J^.c,(1.13)
где М — средняя арифметическая; А — условная средняя ряда, равная 182,5 в табл. 1.06; 62 — верхнее число нижней половины второго ряда сумм частот, равное 1034; 6t — нижнее число верхней половины второго ряда сумм частот ( — 1451); N — объем совокупности; с — классовый интервал.
По формуле (1.13)
М - 182,5 --= 181,0.
Ошибка средней арифметической и ее достоверность определяются по формулам (1.07), (1.08) из § 1.03.
06. Общая средняя арифметическая по частным средним
Иногда необходимо получить общую среднюю составной выборки, для каждой из отдельных частей которой средние арифметические уже вычислены. Такую общую среднюю можно найти по формуле
М - ^^ ,(1.14)
где М — общая средняя арифметическая; Nt -- объемы отдельных частей выборки; М, — средние арифметические частей выборки.
Число отдельных выборок может быть любое.
В качестве примера найдем общую среднюю арифметическую высоты растений гелениума осеннего за четыре года наблюдений. Число растений и средняя их высота в с.м по годам были: Nt — = 16; Мг - 87; N2 16; М2 135; N3 = 20; М3 = 103; N4 = - 18; М4 89.
Общая средняя по формуле (1.14)
,.16-87 + 16-135+ 20-103 + 18-89
М 16 +46 + 20 + 18 103 СМ'
Ошибка общей средней арифметической и ее достоверность определяются по формулам (1.07), (1.08) из § 1.03, при этом за N принимается весь объем полной выборки, а среднее квадратическое отклонение рассчитывается по способу, указанному в § 1.20.
В указанном примере среднее квадратическое отклонение объединенной выборки равно 14,82.
Ошибка средней арифметической равна:
VSNt "/16+ 16 + 204-18’ '
07. Средняя гармоническая
При усреднении величин, представляющих собой изменения скорости каких-либо процессов, например прироста длины или диаметра побегов, а также при усреднении индексов, выражающих, например, число устьиц па 1 сл42, или величин концентрации, например 1 ла па 1 л, или других подобных отношений, вместо средней арифметической пользуются средней гармонической, которая для невзвешенного вариационного ряда вычисляется по формуле
X
где Н — средняя гармоническая; N — объем выборки; х — варианты выборки.
Т а б л и ц а 1.07
К вычислению средней гармонической
Номер образца
Число устьиц (х) на см1
1/х
100/х
1
5
0,200
20,0
2
7
0,143
14,3
3
10
0,100
10,0
4
13
0,077
7,7
5
15
0,067
6,7
Сумма
50
0,587
58,7 сМ2
Пример. В результате подсчетов числа устьиц на определенной площади по пяти образцам листьев березы бородавчатой получены индексы, представляющие собой число устьиц на 1 см2 (табл. 1.07), которые оказались равными: 5, 7,10,13,15 устьиц на 1 см2. Средняя арифметическая этих индексов равна:
М = (5 + 7 + 10 4- 13 + 15) : 5 = 50 : 5 = 10 устьиц на 1 см2.
Средняя гармоническая этих же чисел по формуле (1.15) равна:
Н = 5 : (1/5 -г 1/7 + 1/10 + 1/13 + 1/15) = 5 : 0,587 = 8,52 устьиц па 1 сл2.
Прямым подсчетом можно доказать, что в данном случае более правильно употреблять II вместо средней арифметической. Так, общая площадь пяти листьев (по одному от каждого образца) при условии, что на каждом из них будет 100 устьиц, равна:
100/5 + 100/7 + 100/10 + 100/13 + 100/15 = 58,7 ел2.
Число устьиц на этой поверхности, определенной через Н, равно: 58,7-8,52 = 500,1 устьиц, в то время как число устьиц на той же поверхности, определенное через М = 10, равно: 58,7 X 10 = — 587 устьиц. Между тем по условию задачи взято пять листьев, по 100 устьиц па каждом, т. е. всего должно быть именно 5 X 100 = 500 устьиц. Как видно, средняя гармоническая правильно отражает суть дела, а средней арифметической пользоваться здесь нельзя.
08. Средняя квадратическая и средняя кубическая
При выведении средних величин для значений площади и объема необходимо согласовать средние по линейным размерам и средние получаемых по ним значений площади и объема. Вычисленная по линейным размерам средняя арифметическая обычно дает меньшие зпачепия площади и объема, чем те, которые получают по фактическому линейному размеру. В таких случаях вычисляют среднюю квадратическую для значений линейного параметра поверхности и среднюю кубическую для значений линейного параметра объема.
Средняя квадратическая невзвешенного вариационного ряда вычисляется по формуле
S = V^’(1Л6)
где S — средняя квадратическая; х — отдельные варианты линейного параметра; 2ж2 — сумма квадратов вариант; N — объем выборки.
Форма участков поверхности может быть в принципе любой, однако одинаковой или близкой в пределах усредняемой выборки, зпачепия площади в которой должны определяться по одной формуле. Например, по данным табл. 1.08 вычислим среднюю квадратическую длины листовой пластинки примулы обратнокопиче- ской и покажем, что пользоваться средней арифметической в этом случае было бы неверно. Площадь листьев примулы с хорошей степенью совпадения может быть вычислена по уравнению степенной функции: у = 0,6728 ж2’1229, где у — площадь листа; х — длина листовой пластинки.
Т а б а и ц а 1.08
Длина листовой пластинки и площадь листьев примулы
Длина листовой пластинки (х) СЛ1
Фактическая площадь листа (у) см2
3
7
5■
20
6
30
8
55
Sz = 22
М х = 5,500
55,788
Sy =- 112
Му = 28,000
Средние арифметические ряда х и ряда у равны:
Мх = 5,500 см и Му — 28,000 см".
Если же подсчитаем среднюю площадь листа (у) но уравнению, подставив в него среднюю арифметическую длины листовой пластинки — х — 5,500, то получим
у - 0,6728-5,5002’1229 - 25,000 см\
т. е. средняя арифметическая длины листовой пластинки не соответствует истинной величине. Средняя квадратическая длины листовой пластинки:
8 - -)/ ОЦТ+Е „ 5,787V.
Определяя среднюю площадь листа через среднюю квадратическую, получим
у = 0,6728-5,78792>1229 = 28,000 см2,
т. е. то же значение, которое получается по непосредственным значениям площади. Следовательно, средняя квадратическая более верно передает зависимость площади от линейного параметра.
Средняя квадратическая взвешенного ряда вычисляется по формуле
(1л7)
где S — средняя квадратическая; 2/х2 — сумма произведений частот (/) на квадраты соответствующих вариант (х); N — объем выборки.
Средняя кубическая вычисляется по формуле (1.18) для определения средней величины лилейного параметра, на основании
которого рассчитывается объем какого-либо тела (шаровидных плодов, пыльцы цветков и т. д.):
Q = V^-,(1.18)
где Q — средняя кубическая; х — отдельные варианты линейного параметра; Зя3 — сумма их кубов; N — объем выборки.
Например, требуется определить средний радиус трех шаров, имеющих следующие радиусы и объемы: 5 см и 522,0250 см3, 6 см и 902,0592 см3, 7 см и 1432, 4360 см3. Средние арифметические радиуса и объема — соответственно 6 см и 952,1736. Однако если определять средний объем через среднюю арифметическую радиуса, равную 6, то получим средний объем 902,0592, т. е. величину, не совпадающую с фактической. Средняя кубическая значений радиусов:
я/~
Q — |/ '——^-- 6.1091 см.
Средний объем шара, вычисленный по формуле с радиусом, равным средней кубической — 6,1091, в точности совпадает с фактическим средним объемом — 952,1736 см3.
Вычисление средней кубической для взвешенного вариационного ряда производится по формуле
" J(1-19)
где 2jx3 — сумма произведений частот на соответствующие им кубы вариант; N — объем выборки.
Проверка правильности вычисления средней квадратической и средней кубической линейных параметров заключается в том, что полученные средние при подстановке в формулы определения площади или объема должны давать фактические площади или объем.
§ 1.09. Средняя геометрическая
При математической обработке данных по темпам количественного изменения явлений или при усреднении различных приростов, например приростов растений, вместо средней арифметической применяют среднюю геометрическую, которая вычисляется по формуле
С^уПх,(1.20)
где G — средняя геометрическая; П — знак произведения означает, что все числа, стоящие за ним, следует перемножить, т. о.
Таблица 1.09
Рост листа жимолости
день измерения
1 Темп роста
Средняя площадьх,
(х) листа, ем*7
10-й 20-й 30-й 40-й
50-й
1,3-
2,21,69
3,11,41
3,71,19
4,61,24
Иг = ^-^'^з^n", N — число вариант (например, число пе
риодов времени и др.).
При вычислении средней геометрической обычно пользуются логарифмами:
где Slgx — сумма логарифмов всех вариант;"N — объем выборки.
Темпы роста площади листьев (табл. 1.09) определяются делением площади последующего наблюдения на площадь предыдущего замера:
2,2 : 1,3 = 1,69;
3,1 : 2,2 = 1,41 и т. д.
Средняя арифметическая из значений темпов роста:
М = (1,69 + 1,41 + 1,19 + 1,24) : 4 = 1,38;
а средняя геометрическая
IgG = (0,2279 + 0,1492 + 0,0755 + 0,0934) : 4 = 0,13652,
отсюда G = 1,37.
Проверка ее"вычисления производится по формуле
xN = xrGN-\(1.21)
где xn — максимальная варианта, т. е. последнее измерение наблюдавшегося признака; хг — начальное измерение признака; G — средняя геометрическая по темпу роста; N — число наблюдений. xN = 1,3 -1,34* = 4,58..
Полученное по формуле (1.21) значение максимальной варианты достаточно близко к фактическому — 4,6 см\ следовательно, средняя геометрическая вычислена верно. Подставляя в формулу (1.21) значение М = 1,38, вместо G = 1,37, получаем xN = 4,71, т. е. больше фактического: 4,71 ^> 4,6, поэтому средней арифметической здесь пользоваться было бы неправильно.
Средняя геометрическая взвешенного ряда вычисляется по формуле
G = у/^'•^•а:^... х^,(1.22)
пли
IgG ^(/llg^l +/2lg^2 + /з^3+ • • • 'I fjg^,
где G — средняя геометрическая; х — варианты (середины классов); / — соответствующие им частоты; N — объем выборки, N — = 2/; к — число классов.
Между рассмотренными выше средними значениями одной и той же совокупности существует следующее соотношение: Н 5^ ^ G ^ М ^ 8 ^ Q, т. е. соответственно по величине средние располагаются от меньшей к большей в следующем порядке: гармоническая, геометрическая, арифметическая, квадратическая, кубическая. Степень различия между средними одной и той же совокупности зависит от величины коэффициента вариации данных этой совокупности: чем больше коэффициент вариации, тем больше различаются по величине указанные средние.
Все средние величины на графике кривой распределения вариант представляют собой точки па оси абсцисс.,
Среднее квадратическое отклонение невзвешенного ряда через отклонения от средней арифметической
О невзвешенном ряде см. § 1.01.
Мера варьирования признака в статистической совокупности имеет важное методологическое значение в биометрическом исследовании для углубленного познания изучаемого явления. Величина колебаний значений вариант около их средней арифметической измеряется средним квадратическим отклонением. Вместе со средней арифметической среднее квадратическое отклонение (о), или просто «сигма», как его часто называют, является основой для вычисления многих параметров выборки и других биометрических показателей. Среднее квадратическое отклонение в квадрате называется дисперсией (з2). Суть понятия — среднее квадратическое отклонение — видно из табл. 1.10, где отклонения от средней перед их усреднением возведены в квадрат, благодаря чему все отклонения становятся положительными, а также получают большую величину, что повышает их значимость и, следовательно, определяет большую чуткость «сигмы» при измерении ею варьирования признака. Формула (1.23) расчета сигмы употребляется редко, обычно для невзвешенных рядов применяют формулу (1.24), приведенную в § 1.11. При вычислении сигмы на ЭВМ
Таблица 1.10
Вычисление суммы квадратов отклонений по данным табл. 1.02
Варианта, х
х — М
(х — MV
82
17,462
304,921444
77
12,462
155,301444
74
9,462
89,529444
74
9,462
89,529444
73
8,462
71,605444
66
1,462
2,137444
64
-0,538
0,289444
63
-1,538
2,365444
63
-1,538
2,365444
62
-2,538
6,441444
54
-10,538
111,049444
44
-20,538
421,809444
43
—21,538
463,885444
Сумма
0,006
1721,230772
из-за простоты программирования нередко прибегают и к формуле (1.23). Среднее квадратическое отклонение через средний квадрат отклонений вариант от их средней арифметической вычисляется по формуле
где о — среднее квадратическое отклонение; 5 — знак суммирования; х — варианты совокупности; М — средняя арифметическая; N — объем выборки.
Перед знаком корня в формуле (1.23) всегда принимается знак плюс.
Сигма для певзвешепного ряда вычисляется в следующем порядке (табл. 1.10).
Определяем среднюю арифметическую. Для данного ряда она вычислена в § 1.03 и равна М — 64,538.
Находим отклонения вариант путем вычитания от каждой из них средней арифметической: х — М. Вычитая: 82—64,538 — — 17,462; 77—64,538 и т. д., получим второй столбец табл. 1.10, сумма которого должна равняться нулю.
В нашем случае S (х — М') = 0,006, что можно считать удовлетворительным приближением к нулю.
Возведем в квадрат отклонения и получим их сумму:
2 (ж - MY = 1721,230772.
Вычислим сигму по формуле (1.23):
5 =5 =1721 230772 = 13—1’1721 230772 = 13—1’
5 =
5 =
1721 230772 = 13—1’
1721 230772 = 13—1’
В промежуточных вычислениях показателя обычно сохраняется число знаков, достаточное для получения необходимой его точности, сам же показатель, в данном случае сигма, приводится в результате с числом знаков, имеющим реальное значение.
Определение ошибки среднего квадратического отклонения и метод проверки его вычисления приведены в § 1.13.
Среднее квадратическое отклонение невзвешен’ного ряда по отклонениям от условной средней
О значении среднего квадратического отклонения в биометрии см. § 1.10, об объеме невзвешенного ряда — § 1.01.
Для облегчения расчетов, особенно при многозначных вариантах, используется свойство среднего квадратического отклонения не изменять величину в зависимости от величины числа, от которого отсчитываются отклонения. Вместо средней арифметической, как это сделано в § 1.10, можно взять любое число А. Если взять это число целым, близким к средней арифметической, или равным пулю, то вычисления становятся менее трудоемкими. Для вычисления сигмы левзвешенного ряда наиболее часто используют приведенные ниже формулы (1.24) и (1.26). Вычислим сигму невзвешенного вариационного ряда через отклонения вариант от условной средней А — 64. Для этого понадобятся только столбцы 1, 3, 4 табл. 1.11. В столбце 3 таблицы приведены разности числа А с каждой из вариант. Сумма разностей с учетом знаков равна «-7. В столбце 4 разности возведены в квадрат, сумма квадратов разностей равна 1725. Сигму вычисляем по формуле
4 - p^IEEZEEBysW,(1.24)
где 5 — среднее квадратическое отклонение; S (z — Л)2 — сумма квадратов отклонений вариант ж от условной средней А •- 64; [S (я — Л)Р — сумма отклонений, возведенная в квадрат; N — число вариант.
По формуле (1.24) получаем
3 . ,у<СТ»„11,98.
Средняя арифметическая легко может быть получена по формуле"
М — А(1.25)
М - 64 - у 64,54.
Таблица 1.11
Вычисление суммы квадратов отклонений от условной средней А и от нуля
Варианта, х
Квадрат варианты, х2
х — А
(х — А)2
82
6724
18
324
77
5929
13
169
74
5476
10
100
74
5476
10
100
73
5329
9
81
66
4356
2
4
.1=64
4096
0
0
63
3969
- 1
1
63
3969
- 1
1
62
3844
—2
4
54
2916
-10
100
44
1936
-20
400
43
1849
-21
441
839
55869
-1 7
1725
Обозначения в формуле (1.25) см. после формулы (1.24). Когда условные отклонения отсчитывают не от числа, близкого к средней арифметической, а от нуля (4 — 0), тогда формула (1.24) примет вид:
+ V,(1.26)
где з — среднее квадратическое отклонение; 2а:2 — сумма квадратов вариант; (2а:)2 — квадрат суммы вариант; N — объем выборки.
Формулу (1.26) рекомендуется применять при однозначных вариантах. Если данные двузначные и выше и, тем более, если ряды большие, то рекомендуется формула (1.24), которая, значительно облегчая вычисления, не делает их менее точными.
Для вычисления сигмы по формуле (1.26) нужны лишь столбцы 1 и 2 табл. 1.11.
Суммируем варианты: 2а: = 839.
Возводим в квадрат все варианты и суммируем их: 2а:2 = = 55869.J '
По формуле (1.26) вычисляем:
3 =11,98.
Определение ошибки сигмы и метод проверки ее вычисления см. § 1.13.
Среднее квадратическое отклонение невзвешенного ряда через среднюю арифметическую
О значении среднего квадратического отклонения см. § 4.10, о невзвешенном ряде — § 1.01. Наиболее просто сигма вычисляется по методу, указанному в § 1.11. Приведенная ниже формула ее расчета может употребляться в тех случаях, когда уже известна с достаточной точностью средняя арифметическая данного ряда:
= =+/(т~^)л£т.<127>
где о — среднее квадратическое отклонение; Si2 — сумма квадратов вариант; N — объем выборки; М — средняя арифметическая данного ряда.
N
При больших объемах выборок множитель ^—j- в формуле (1.27) можно принять за единицу.
Для данных табл. 1.11 по формуле (1.27)
° = V 64.5382) j^- И,98.
Определение ошибки сигмы и метод проверки ее вычисления при- веденЫ-в'§'1.13.
Среднее квадратическое отклонение взвешенного ряда по способу сумм
Вычисление о по способу сумм наиболее просто, так как при этом не требуется возведения чисел в квадрат, однако в некоторых случаях оно дает менее точный результат и довольно сложно для программирования на ЭВМ. Способ сумм целесообразно применять при ручном счете, если варианты и частоты ряда — большие числа, особенно если ряд сравнительно длинный, например, при числе классов больше 12. Вычислим сигму по этому способу для вариационпого ряда распределения сортов ячменя по продолжительности вегетационного периода в днях, которая приведена в столбце 1 табл. 1.12 (середины классов), а в столбце 2 дано соответствующее число сортов ячменя, или частоты.
Составим вариационный ряд (см. § 1.01), в нашем примере он уже составлен (данные из табл. 1.03 приведены в табл. 1.12).
Против среднего класса ряда (его варианта 75), в столбцах 3 и 4, ставим четыре черточки точно так, как зто показано в табл. 1.12._
Против крайних частот (4 и 2)"записываем те же'самые часто- ты”в столбцах 3 и 4.1
В столбце 3 составляем первый ряд накопленных частот сверху вниз: 4 + 8 = 12; 12 + 74 = 86. Поскольку дальше вниз стоит черта, накопление частот прекращаем и таким же образом,
Т а б л и ц а 1.12
Вычисление полусумм накопленных частот
Варианта, х
Ч астота /,
Первый ряд накопленных частот
Второй ряд накопленных частот
41-102|
4г = 20
90
4
4
4
85
8
12
16
80
74
86
—
75
62
—
—.
70
34
66
- ..
65
30
32
34
60
2
2
2
с — 5
Л'= 214
7з = ЮО
q4 — 36
но снизу вверх, получаем накопленные частоты нижней половины первого ряда: 2 + 30 = 32; 32 + 34 = 66; дальше идет черта, накопление прекращаем.
Составляем второй ряд накопленных частот сверху: 4 + 12 = = 16, ниже идут три черты. Частоты второго ряда, начиная снизу, накапливаем так: 2 + 32 — 34, выше идут те же три черты, накопление частот закопчено. Проверка правильности составления обоих рядов накопленных частс*т заключается в том, что три центральных числа вокруг первой черты должны в сумме дать объем выборки: 62 + 86 + 66 = 214 — N, а прочие числа около четырех черточек равны: 86 +16 = 102 — ^; 66 + 34 = 100 = д3.
Суммируем верхнюю и нижнюю половины каждого из двух рядов накопленных частот:
^=4 + 12 + 86 = 102, q. = 4 + 16 = 20,q3 = 66 + 32 + 2 = 100, q4 = 34 + 2 — 36.
Вычисляем среднее квадратическое отклонение по формуле
5 = -I су5 = -I су(1.28)(1.28)/ ?l + ?3 = 2(?2-i?4)^^V
5 = -I су
5 = -I су
(1.28)
(1.28)
TV — 1
где о — среднее квадратическое отклонение; с — классовый пп- тервал; ^i — верхняя полусумма первого ряда накопленных частот; д$ — нижняя полусумма первого ряда; q3 — верхняя полусумма второго ряда накопленных частот; q4 — нижняя полусумма второго ряда; N — объем выборки.
Средняя арифметическая в данном случае вычисляется по формуле
М=Л+^^1,(1.29)
где М — средняя арифметическая; А — начало отсчета полусумм; с — классовый интервал; дг — верхняя полусумма первого ряда накопленных частот; д3 — нижняя полусумма того же ряда; N — объем выборки.
Подставляя в формулу (1.29) данные табл. 1.12, получаем
М = 75 + 5 (102-100) : 214 = 75,05.
Подставляя значения полусумм из табл. 1.12 в формулу (1.28),
получаем:
= 6,06.= 6,06.г -. Г 102 + 100 + 2 (20 + 36) — (102 — 100) : 214
= 6,06.
= 6,06.
3 ” а 214^1
Ошибка среднего квадратического отклонения вычисляется по формуле
з
т-=-™(*-30)
или (при небольших выборках)
(1.31)(1.31)з т„ = —г —=
(1.31)
(1.31)
/2 (N — 1)
где т3 — ошибка сигмы; б — среднее квадратическое отклонение; N — объем выборки.
Для сигмы, полученной по данным табл. 1.12, по формуле (1.30) ошибка равна:
т,= 4-0,29.
/2-214— ’
Таким образом, в нашем примере б = 6,06 + 0,29.
Если имеется предположение, что распределение частот исследуемого ряда сильно отличается от нормального, то лучше вычислять ошибку сигмы по более универсальной формуле:
™--\^-Уь(1-з2)
где та — ошибка среднего квадратического отклонения; р4 — центральный момент четвертого порядка (§ 1.25); ц2 — центральный момент второго порядка (§ 1.25); N — объем выборки.
Подставляя значения моментов, вычисленные в § 1.25, для той же сигмы получим ошибку по формуле (1.32):
1 /3519,947 — 36,682 п
3333т- - V 4736,687214= °’263'
33
33
Приблизительная проверка вычисления сигмы может быть сделана по формулам:
$Я«МА-^,(1.33)
z, 3;,(1.34)
где xn — максимальная варианта выборки; М — средняя арифметическая; о — среднее квадратическое отклонение; хг — минимальная варианта.
Для рассматриваемого здесь примера
xN = 75,047 + 3-6,06 — 93 дня,
хг = 75,047 - 3-6,06 « 57 дней,
фактически xn = 92 дня, а ^ = 60 дней (табл. 1.01), что можно считать удовлетворительным совпадением.
Вычисление ошибок средней арифметической (/пм) и среднего квадратического отклонения (zn0) можно проверить при помощи существующего соотношения между ними:
— = 0,70711.(1.35)
тм
Для примера, рассматриваемого в этом параграфе: 0,29 : 0,414 = 0,7, что можно считать удовлетворительным результатом.
Среднее квадратическое отклонение взвешенного ряда по способу отклонений от условной средней
О значении сигмы как биометрического показателя см. § 1.10. Нижеприведенная схема расчета сигмы является наиболее распространенной и применяется для сокращения вычислительной работы, особенно в том случае, когда варианты (середины классов) и соответствующие им частоты выражены многозначными числами. Для вычисления среднего квадратического отклонения следует составить взвешенный вариационный ряд (§ 1.01). Расчет необходимых сумм для подстановки в формулу (1.36) приведен в табл. 1.13, где обработан ряд из табл. 1.03.
= = + «¥,(1.36)
где о — среднее квадратическое отклонение; с — классовый интервал; / — частоты ряда; а — условные отклонения вариант от А = 75; N — объем выборки.
Таблица 1.13
К расчету сигмы взвешенного ряда по способу отклонений от условной средней
Варианта (середина класса), жЧастота, /Условное отклонение, аВарианта (середина класса), жЧастота, /Условное отклонение, а/а2/а2908580Л = 757065908580Л = 75706548 74 62 34 3048 74 62 34 30602602+ 12 -16 -740 -34 -60 - 6+ 12 -16 -740 -34 -60 - 63632740341201836327403412018N= 214N= 214а=(х—+)/са=(х—+)/с314314
Варианта (середина класса), ж
Частота, /
Условное отклонение, а
Варианта (середина класса), ж
Частота, /
Условное отклонение, а
/а2
/а2
90
85
80
Л = 75
70
65
90
85
80
Л = 75
70
65
4
8 74 62 34 30
4
8 74 62 34 30
602
602
+ 12 -16 -74
0 -34 -60 - 6
+ 12 -16 -74
0 -34 -60 - 6
36
32
74
0
34
120
18
36
32
74
0
34
120
18
N= 214
N= 214
а=(х—+)/с
а=(х—+)/с
314
314
Порядок действий:
Выбираем начальную точку отсчета (условную среднюю), расположенную в середине ряда и возможно ближе к максимальной частоте: А = 75.
Против класса с вариантой 75 (в столбце 3) записываем условное отклонение 0, затем вверх с плюсом, а вниз с минусом записываем отклонения в виде порядковых чисел: 1, 2, 3, 4 ... и т. д., по числу классов. Если варианты ряда (столбец 1) возрастают не так, как в табл. 1.13, а наоборот, т. е. сверху вниз, то отклонения из верхней половины ряда будут отрицательными, а из нижней половины ряда — положительными.
Перемножаем условные отклон ния на частоты /: + 3-4 = = + 12, -|- 2-8 = -|- 16 и т. д. (столбец 4).
Числа столбца 4 умножаем по строкам на соответствующие числа столбца 3 : 12-3 = 36, 16-2 = 32 и т. д. (столбец 5).
Суммируя числа столбцов 4 и 5, получаем:
S/а = + 2 и 2/а2 = 314.
Подставляя суммы (+2 и 314) в формулу (1.36), получим: б=5/3^^=6,06.
У 214 — 17
Среднюю арифметическую можно получить по формуле
М = А-^-,(1-37)
где А — начало отсчета условных отклонении, или условная средняя; с — классовый интервал; М — средняя арифметическая;
^ja — сумма произведений частот'на условные отклонения; Л* — объем выборки.
В приведенном примере
М = 75 + (5-2) : 214 = 75,05.
Вычисление ошибки сигмы приводится в конце § 1.13, а ошибка и оценка М — в § 1.03.
Среднее квадратическое отклонение взвешенного ряда по способу распределения дат
О значении среднего квадратического отклонения в биометрии см. § 1.10, о взвешенном ряде — § 1.01.
Излагаемую схему расчета удобно применять, если все варианты выборки— малозначные целые числа и среди них много повторяющихся. Формула для вычисления сигмы по способу распределения дат:
^-ЬУ —^^ ,(1.38)
где б — среднее квадратическое отклонение; S/z2 — сумма произведений частот на квадраты вариант; 2/ж — сумма произведений частот на варианты; N — объем выборки.
Порядок действий (на примере данных из табл. 1.01):
Таблица 1.14
К вычислению среднего квадратического отклонения по способу распределения вариант
Варианта, X
Частота, /
fx
fx2
Варианта, X
Частота, /
fx ,
f)S
92
2
184
16928
74
13
962
71188
91
1
91
8281
73
8
584
42632
88
1
88
7744
72
И
792
57024
86 •
1
86
7396
71
6
426
30246
84
6
504
42336
70
5
350
24500
83
1
83
6889
69
а
345
23805
82
11
902
73964
68
7
476
32368
81
7
567
45927
67
6
402
26934
80
23
1840
147200
66
5
330
21780
79
12
948
74892
65
8
520
33800
78
21
1638
127764
64
7
448
28672
77
14
1078
83006
63
3
189
11907
76
14
1064
80864
62
1
62
3844
75
14
1050
78750
60
1
60
3600
- Сумма
214
16069
1214241
Выписываем поочередно в столбец 1 табл. 1.14 все варианты и отмечаем в столбце 2, сколько раз каждая из них встретилась в выборке.
Умножаем варианты на их частоты (столбец 3).
Числа столбца 3 множим на числа столбца 1, результаты записываем в столбце 4.
Суммируем числа каждого столбца, кроме первого, и получаем:
N = 214; Sfx - 16069; ^fx2 = 1214241.
Подставляем полученные суммы в формулу (1.38):
3 /1214241 - l^6^
3- 5,989.
Одновременно может быть легко вычислена средняя арифметическая по формуле (1.12):
.,2/х16069„
М == "214" - 7°’09'
Вычисление ошибки среднего квадратического отклонения см. § 1.13, а ошибки и оценки М — § 1.03.
Среднее квадратическое отклонение взвешенного ряда по способу произведений
О значении среднего квадратического отклонения в биометрии см. § 1.10, о взвешенном ряде — § 1.01.
Способ произведений для вычисления сигмы отличается от способа из § 1.15 тем, что здесь составляется взвешенный вариационный ряд с равными классовыми интервалами, а по способу из § 1.15 интервалы могут быть неравными. Напомним, что наиболее простым по технике вычислительной работы является способ из § 1.14, который и рекомендуется в большинстве случаев, кроме связанных, например, с применением ЭВМ и особенностями программирования. Для вычисления сигмы по способу произведений используется формула (1.38):
где б — среднее квадратическое отклонение; Sfx — сумма произведений частот на соответствующие им варианты; ЕД2 — сумма произведений частот на квадраты вариант; N — объем выборки.
Порядок работы (табл. 1.15):
Т а б л и ц а 1.15
К вычислению сигмы по способу произведений
Варианта (середина класса) х
Частота, /
/х
fx2
Варианта (середина класса) х
Частота, /
/х
fx2
60
2
120
7200
80
74
5920
473600
65
30
1950
126750
85
8
680
57800
70
34
2380
166600
90
4
360
32400
75
62
4650
348750
—
214
16060
1213100
Перемножая частоты из столбца 2 на соответствующие середины классов из столбца 1, получаем числа третьего столбца таблицы: 120, 1950 ит. д.
Числа столбца 3 последовательно множим на варианты: 120-60 = 7200, 1950-65 = 126750 и т. д.
Суммируя числа каждого столбца, кроме первого, получаем:
N = 214, ^fx = 16060, 2Д2 - 1213100.
По формуле (1.38) вычисляем:
6,07.6,07.। / 1213100 - УУ.^
6,07.
6,07.
F 211 -1
Средняя арифметическая в данном случае может быть получена по формуле (1.12):
2/Ж16060
~ N ~~ 214 ~
Определение ошибки сигмы рассматривается в конце § 1.13, а ошибка и оценка М — в § 1.03.
Приближенное среднее квадратическое отклонение по способу случайных серий
При планировании эксперимента может возникнуть необходимость определить, хотя бы приблизительно, объем выборки, достаточный для получения достоверных результатов или выводов по тому или иному вопросу. Для этого следует вычислить приближенное значение среднего квадратического отклонения по способу случайных серий, изложенному в этом параграфе, или по размаху варьирования данных (§ 1.18), что значительно облегчает расчеты и в то же время позволяет получить значение сигмы, достаточно точное для названной цели. Вычисление сигмы по способу случайных серий на примере данных табл. 1.01 проводится следующим образом.
Неранжированная выборка вариант разбивается на случайные серии, по девять вариант в каждой, так чтобы в эти серии попали максимальная и минимальная варианты (если выборка берется неполностью). Если выборка берется полностью и число ее вариант некратно девяти, то некоторые серии могут налегать краями друг па друга так, что их крайние варианты будут общими для граничащих серий. Левая половина табл. 1.01 образует 12 строк, которые примем за случайные серии по девять вариант в каждой: сверху вниз первая строка — первая серия, вторая строка — вторая серия.
Подсчитаем размах вариации в сериях, для чего из максимальной варианты каждой серии вычитаем минимальную варианту (столбец 4, табл. 1.16).
Таблица 1.16
К вычислению сигмы по способу случайных серий
Серия
XN
Хх
XN —xt
Серия
XN
Х1
Х.у — Хх
1
77
63
14
7
80
75
2
84
65
19
8
81
70
11
3
84
64
20
9
82
69
13
4
91
69
22
10
80
64
16
5
86
78
8
11
77
60
17
6
84
75
9
12 ■
92
65
27
Сумма
181
Средний размах получается от деления суммы размахов (181) всех серий на их число: п = 12.
Полученное число делим на 3 (3 = 1^9). Если бы вместо девяток разбивали совокупность на четверки, то делили бы не на 3, а на 2(2= /4).•
Указанные действия отображены в формуле
(1.39)(1.39)S (Я^ ' #1)Зп
(1.39)
(1.39)
где о — среднее квадратическое отклонение; xN — максимальная варианта каждой серии; хг — минимальная варианта серии; п — число серий.I
Для данных табл. 1.01 и 1.16
— 3-12 — 5’03-
Точное значение сигмы для вегетационного периода ячменя равно 5,989 (§ 1.15).
Приближенное среднее квадратическое отклонение по размаху варьирования данных
При нормальном распределении вариант весь размах варьирования ^xn — х^ занимает около 6з. На этом основан приближенный метод вычисления сигмы по размаху варьирования по формуле
(1.41)(1.41)или по формуле xN-rx 3 Л ’
(1.41)
(1.41)
где а — среднее квадратическое отклонение; xN — максимальная варианта выборки; xL — минимальная варианта; Л — коэффициент, выбираемый по табл. 4П.
Для ряда из табл. 1.02 по табл. 4П: h = 3,5; по формуле (1.41):
82 - 4314
3,5’
Точное значение сигмы этого ряда: 11,976 (§ 1.11).
Приближенное среднее квадратическое отклонение по коэффициенту вариации
В тех случаях, когда при планировании опыта известно предполагаемое значение средней арифметической данной совокупности и примерная, хотя бы определенная глазомерно, величина коэффициента вариации (§1.21), можно определить приближенно среднее квадратическое отклонение для установления минимального в данном эксперименте объема выборки по формуле (1.43):
MV
3 “ 100 ’
где 5 — среднее квадратическое отклонение; М — примерное значение средней арифметической; V— приблизительное значение коэффициента вариации.
Например, предполагаемая средняя длина листьев традесканции: М = 40 мм и по глазомерной оценке V = 10%, отсюда:
40-10,
Найденное значение сигмы можно также использовать для определения требуемой численности выборки при планировании эксперимента по формуле (1.89) из § 1.37.
Объединение выборок по их дисперсиям
В § 1.06 было показано, как объединить выборки по их средним арифметическим. Часто при этом требуется также найти и среднюю дисперсию объединенной выборки, которую можно вычислить по формуле
б2б25 (^ -1) з?5 (^ -1) з?2У1— к2У1— к(1.42)(1.42)
б2
б2
5 (^ -1) з?
5 (^ -1) з?
2У1— к
2У1— к
(1.42)
(1.42)
где б2 — средняя дисперсия; si — дисперсии частных выборок; N; — объемы частных выборок; к — число частных выборок.
Вычислим среднюю дисперсию для четырех групп измерений диаметра цветков гелениума осеннего: б* = 2,00; Nt = 7; бг = = 3,35; N2 = 5; б| = 2,95; N3 = 8; б^ = 4,37; N4 = 9.
По формуле (1.42)
2(7— 1) 2,00 + (5 -1) 3,35 4- (8 — 1) 2,95 + (9 — 1) 4,37 _ ч
67п--5 + 8 |-9-4-
откуда о =- V3,24 = 1,80.
Среднее квадратическое отклонение характеризует степень отклонения вариант данной совокупности от среднего арифметического в абсолютных числах. Однако для сравнения вариабельности двух или более совокупностей величины сигмы не могут быть использованы, за исключением редкого случая, когда средние арифметические одинаковы или очень близки друг к другу. Во всех остальных случаях для сравнения совокупностей по их вариабельности необходимо вычислять коэффициент вариации (§ 1.21).
Коэффициент вариации
Коэффициент вариации показывает, какой процент составляет сигма от средней арифметической, является числом относительным и позволяет' сравнивать между собой по степени варьирования любые совокупности. Поэтому коэффициент вариации имеет важное значение в биологии и агрономии, например, для установления степени выровненпости популяции или сорта по тому или иному признаку. В зависимости от величины коэффициента вариации варьирование биологических данных считают небольшим (0—10%), средним (11—20%) и большим (7 > 20%).
Вычисление коэффициента вариации ведется по формуле
V --= ^-100%,(1.43)
где 7 — коэффициент вариации; М — средняя арифметическая; б — среднее квадратическое отклонение.
Для данных о длине вегетационного периода сортов ячменя (табл. 1.03 и § 1.13)
у 6,06-100 „ .
Следовательно, изученные сорта ячменя сравнительно мало варьируют по продолжительности вегетационного периода.
Для данных по высоте растений сои (табл. 1.02 и § 1.11)
= И,976-100 = 18 б0/
г 64,538
Растения сои имеют среднее варьирование данных по высоте.
Иногда при вычислении ошибки средней арифметической, например по формуле (1.11), значение сигмы не фиксируют. Величину коэффициента вариации в таких случаях можно найти по формуле
(1.44)(1.44)_ 100«м /^
(1.44)
(1.44)
v " м
где пгм — ошибка средней арифметической; N — объем совокупности; М — средняя арифметическая.
Ошибка коэффициента вариации определяется по формуле
туту1 /"0,5-1- 0,0001 Г2V N1 /"0,5-1- 0,0001 Г2V N(1.45)(1.45)
ту
ту
1 /"0,5-1- 0,0001 Г2
V N
1 /"0,5-1- 0,0001 Г2
V N
(1.45)
(1.45)
где ту — ошибка коэффициента вариации; V — коэффициент вариации; N — объем выборки.
Чаще для вычисления ошибки коэффициента вариации пользуются менее точной формулой;
(1.46)(1.46)V mv = ■ г—■, /2У
(1.46)
(1.46)
где обозначения те же, что и в формуле (1.45).
Для рассматриваемого примера о продолжительности вегетационного периода ячменя ошибка его коэффициента вариации по формуле (1.45)
о л 1 /" 0,5 + 0,0001-8,I2 . п ту = 8,1 у —-—2— = +0,393%,
а по формуле (1.46):
ту = —1-’ —. = + 0,391 %. /+214— ’
Оба результата практически совпадают, следовательно, при отсутствии особо высоких требований к точности определения ошибки коэффициента вариации можно пользоваться формулой (1.46). О вычислении коэффициента вариации совокупности с альтернативным разделением вариант см. § 1.32.
Показатель точности опыта
Показатель точности опыта выражает величину ошибки средней арифметической в процентах от самой средней арифметической и, таким образом, служит показателем точности определения последней. Чем больше показатель Р, т. е. процент ошибки, тем меньше точность опыта. Показатель точности опыта вычисляется по формуле
(1-47)(1.48)(1-47)(1.48)Р = ^.100%. или по формуле
(1-47)
(1.48)
(1-47)
(1.48)
Р
Vn
где Р — показатель точности опыта; М — средняя арифметическая; тм — ошибка средней арифметической; V — коэффициент вариации; N — объем выборки.
Для данных по вегетационному периоду ячменя
М = 75,05 и ошибка тм = +0,414,
отсюда по формуле (1.47) показатель точности опыта:
0,414.100 _0 ,
Р - 75,05
Ошибка показателя точности опыта вычисляется по формуле
тр = Р V 2W + (1бб) ’(1.49)
где тр — ошибка показателя точности опыта; Р — показатель точности опыта; N — объем выборки.
В данном случае
"р = ±0,55/^ + (^)’ = + 0,0268.
В результате Р = 0,55 ± 0,03%.
Точность опыта считается удовлетворительной, если Р не превышает 5%: Р 5%. При значениях больше 5% рекомендуется увеличить число наблюдений или повторностей. Иногда можно снизить величину Р, если повысить точность измерений объектов опыта. О вычислении показателя точности опыта при дисперсионном анализе см. § 4.25.
Мода
Модой называется точка на оси абсцисс, соответствующая максимальной частоте теоретической кривой распределения вариант. Мода вычисляется лишь тогда, когда вариационный ряд разбит на классы. В случаях, не требующих особой точности, за моду можно принять приближенно наиболее часто встречающуюся варианту ряда. Например в ряду из табл. 1.03 за моду можно принять Мо = 75, т. е. середину класса 72,5—77,4, который имеет наибольшую частоту — 62.
Положение моды относительно средней арифметической показывает степень скошенности или асимметрии кривой распределения данного ряда. Мода в симметричном нормальном распределении совпадает со средней арифметической. Вычисляется мода по формуле
(1-50)
где Мо — мода; ж0 — начало модального класса, т. е. меньшая граница того класса, который имеет наибольшую частоту; с — величина классового интервала; /, — частота класса, предшествующего модальному; /2 — частота модального класса; /3 — частота класса, следующего за модальным.
Определим моду вегетационного периода совокупности сортов ячменя (табл. 1.03) по формуле (1.50):
м» - 77,5 + 5 (п^в^б) - 78,3.
Это означает, что наиболее часто встречаются сорта ячменя, зерно которых созревает на 78-й день от начала их вегетационного периода.
Ошибка моды бывает обычно больше ошибки средней арифметической той же совокупности. Ввиду сложности и малой целесообразности ее вычисления, она здесь не приводится. Наличие нескольких мод (пиков) в вариационном ряду большей частью является указанием на неоднородность совокупности.
Медиана
Варианта, которая разделяет все частоты ряда па две равные по числу вариант части, называется медианой. Порядковый номер медианной варианты от начала ранжированного ряда можно определить по выражению: 0,5 (# + 1). Используется медиана как средний показатель описательного типа или в качестве средней положения и для непараметрического теста медианы (§ 4.08). Вычисляется медиана по формуле
М е — леМ е — леJ^N-L\С\J^N-L\С\(1.51)(1.51)
М е — ле
М е — ле
J^N-L\
С\
J^N-L\
С\
(1.51)
(1.51)
где Me — медиана; хе — начало класса, в котором находится медиана; с — величина классового интервала; N — объем выборки; L — сумма частот классов (начиная с меньшего), предшествующих классу, в котором находится медиана; /е — частота медианного класса.
Рассчитаем медиану вегетационного периода совокупности сортов ячменя (по данным табл. 1.03). Порядковый номер медианной варианты: 0,5 (214 + 1) = 107,5. Класс, в котором находится медиана, определяется путем накопления частот. Так, в табл. 1.03 сумма частот сверху вниз равна: 2 + 30-1- 34 + 62 = — 108. Поскольку между 107 и 108 вариантами должна находиться медиана, накопление частот прекращаем и за начало медианного класса принимаем 72,5, т. е. меньшую границу класса: 72,5—77,4, среднее значение которого 75, а частота 62. Отсюда по формуле (1.51):
। г/0,5-214 — 66\ о
Me — 72,5 + 5 —^) = <5,8 дня.
Это означает, что в данной совокупности сортов ячменя половина из них (107 сортов) созревает не позже чем на 76-й день от начала вегетационного периода, а вторая половина сортов имеет периоды созревания более 76 дней.
Ошибка медианы вычисляется сравнительно редко. Определить* ее можно по формуле
те^ 1,25331—,(1.52)
где тР — ошибка медианы; о — среднее квадратическое отклонение; N — объем выборки;! ■ ^^-— ошибка средней арифметической (§ 1.03).
Для только что рассмотренного примера
/ге = 1 25331- - ’^- — 0,5 дня.’/214’
Таким образом, медиана равна 75,8 J^ 0,5 и при этой величине ее ошибки почти совпадает со средней арифметической М = 75,05, что может служить одним из доводов в пользу заключения о близости данного распределения к симметричному.
Моменты распределения
Моментами распределения в биометрии называют средние степени отклонений вариант от средней арифметической или от произвольного, близкого к ней числа, или от нуля. В первом случае моменты называются центральными, во втором — условными,
в третьем — начальными. Порядок момента равен степени, в котирую возводятся отклонения. Основным моментом называется частное от деления центрального момента соответствующего порядка на сигму, возведенную в степень, равную тому же порядку момента. Моменты, особенно центральные, играют большую роль при вычислении различных показателей вариационного ряда. Средняя арифметическая — это начальный момент первого порядка, а среднее квадратическое отклонение — квадратный корень из центрального момента второго порядка. Условные моменты вычисляют в качестве вспомогательных для получениядеп- тральных моментов. Приведенные ниже вычисления моментов имеют целью иллюстрировать само понятие моментов. В практических расчетах рекомендуется для вычисления? моментов применять способ кодированных вариант (§ 1.41).
В табл. 1.17 приведена сводка таких формул вычисления моментов, которые соответствуют вышеприведенным определениям последних. Обозначения моментов первых четырех порядков в табл. 1.17 следующие:
pip2p3p4 — центральные; m1m2m3m4 — условные; 51525354 — начальные; т^т^ — основные;
остальные обозначения:
S — знак суммирования; х — варианты; /— частоты вариант; N — объем выборки; М — средняя арифметическая; Л — начальная точка отсчета, или условная средняя; а— среднее квадратическое отклонение (сигма); As — показатель асимметрии (§ 1.27).
В главе 2 через г будет обозначен также коэффициент корреляции. Если г означает моменты, то при нем стоит подстрочный индекс в виде цифры 3 или 4, а при г, означающем коэффициент корреляции, подстрочного индекса не бывает (или он иной).
Центральные моменты можно вычислить прямым способом, по формулам, указанным в табл. 1.17, т. е. через отклонения вариант от средней арифметической, но их предпочитают получать
через условные моменты, для чего рекомендуются следующие формулы:
Ра = тг — т^,(1.53)
р3 = m3 + m, (2m2 — Зт2),(1.54)
р4 — т4 + т4 [Зт4 (2т2 — т^) — 4т3],(1.55)
где обозначения те же, что и к табл. 1.17. Проверка вычислений центральных моментов производится по формулам:
р, = m, — mt (Зца + т»),(1.56)
р4 = т4 — тх [4р3 4- тх (6р2 4- тр].(1-57)
Таблица 1.17
Формулы для вычисления моментов распределения
Порядок моментов распределения
Центральные
Условные
Начальные
Основные
Первый
= S(x-M)/ =
ГN
гп^Ч^М
N
6 =3(x-0)/ = M N
n= 1^1 = 0 6
Второй
rN
3(® - AY^ тг—N
A S(z-0)V N
r2 = ^ = l s2
Третий
^^x-M^f N
A S(x-0)3/ N
ГЗ == As
Четвертый
2(х-МП
^(x-AYf
b4_^^-0Yj
1N
N
1N
s4
На примере данных из табл. 1.03 вычисление условных моментов показано в табл. 1.18, подставляя суммы столбцов из которой в формулы условных моментов из табл. 1.17, получаем:
^ - ^ = + 0,0467, ш3 = - ^ ^ - 47,897,
7850,751250-
m, = тгг = -г 36,682, т4 = —лгу- = 3510,а.
1214’’1214’
Подставив значения условных моментов в формулы (1.53), (1.54), (1.55), определим величины центральных моментов:
р2 = 36,682 - О,О4672 = 36,680;
ц3= - 47,897 + 0,0467 (2-0,04672 - 3-36,682) = - 53,039;
р4 = 3510,5 + 0,0467 13-0,0467 (2-36,682 - 0.04672) +
+ 4-47,897] = 3519,9.
Проверку вычисления центральных моментов делаем по формулам (1.56), (1.57):
Из = -47,8972-0,0467 (3-36,680 + 0,04672) - -53,039;
щ = 3510,5-0,0467 [-4-53,039 + 0,0467 (6-36,680 +
+ 0,04672)] =3519,9.
Если после проверки не будет достигнуто совпадение величин центральных моментов в пределах точности вычислений, то следует искать ошибку в расчете.
По данным столбцов 1 и 2 табл. 1.18 вычислим также начальные моменты по формулам из табл. 1.17:
,16060,61 = "214" =75’05’63 =,1213100,о2= —о77—~5668,69;&z 214* ’4,16060,61 = "214" =75’05’63 =,1213100,о2= —о77—~5668,69;&z 214* ’492206000430869,16;
,16060,
61 = "214" =75’05’63 =
,1213100,
о2= —о77—~5668,69;&
z 214* ’4
,16060,
61 = "214" =75’05’63 =
,1213100,
о2= —о77—~5668,69;&
z 214* ’4
214’ ’
= 705056250032946647,19.
214’
Таблица 1.18
Вычисление условных моментов
<5 х «
Sg
8
О
св
« 1
-С
К.
1 к.
1
?
1 и.
!
£
60
2
-15
-30
225
450
-3375
-6750
50625
101250
65
30
-10
-300
100
3000
-1000
—30000
10000
300000
70
34
-5
-170
25
850
- 125
— 4250
625
21250
75
62
0
0
0
0
0
0
0
0
80
74
+ 5
370
25
1850
125
9250
625
46250
85
8
+10
80
100
800
1000
8000
10000
80000
90
4
+ 15
60
225
900
3375
13500
50625
202500
2
214
0
+ 10
—
7850
—
—10250
—
751250
В биометрии изначальных моментов применяется обычно лить момент первого порядка, который равен средней арифметической, начальный момент второго порядка иногда используется при вычислении среднего квадратического отклонения. Из основных моментов вычисляется лишь г3, который является коэффициентом асимметрии (§ 1.27) и г4, который служит для вычисления эксцесса (§ 1.28). Оба этих основных момента часто применяют для расчета теоретических частот некоторых типов кривых распределения.
Хотя моменты и не имеют самостоятельного интереса для биометрического анализа, они являются необходимыми для вычисления почти всех параметров взвешенного вариационного ряда. Поэтому они должны быть вычислены достаточно точно, для чего их рекомендуется вычислять наиболее рациональным способом кодированных вариант, приведенным в § 1.41.
Поправки Шеппарда к начальным и центральным моментам
Когда варианты в совокупности распределяются симметрично или хотя бы по двускатной кривой, начальные и центральные моменты, вычисленные, например, по формулам табл. 1.17 а также (1.53) — (1.57), могут быть уточнены поправками Шеппарда. Посредством моментов вычисляется большинство параметров статистического ряда, поэтому внесение поправок Шеппарда к моментам отразится далее почти на всех данных, получаемых в ходе статистического исследования. Эти поправки вводятся с целью компенсировать неточность определения моментов именно по взвешенному ряду, когда приходится разносить варианты по классам и тем самым как бы округлять их до среднего значения того класса, в который они попали. Поэтому поправки Шеппарда не нужны, когда моменты вычисляются непосредственно по исходным данным, без группировки их во взвешенный ряд с равными интервалами. Например, не требуется поправка к значению среднего квадратического отклонения, вычисленного в § 1.15 по способу распределения дат, с естественной группировкой последних.
Поправки Шеппарда к начальным и центральным моментам вычисляются по формулам:
(1.58)
(1.59)
(1.60)
где 62 — Ь4 — исправленные начальные моменты; Ъг — Ъ4 — исходные, неисправленные начальные моменты (формулы их вы-
(1-61)(1.62)(1-61)(1.62)
(1-61)
(1.62)
(1-61)
(1.62)
числения см. в табл. 1.17);
~с2
Ц2 — Цз — ^2 ;
с2 /7с2 \
Р< — Р4 2120] ;
с — классовый интервал;
где ра, р4 — исправленные центральные моменты; р,2, ц4 — неисправленные центральные моменты, вычисленные по формулам табл. 1.17 и (1.53) — (1.57).
Третий центральный момент — ц3 поправок не требует.
Введем поправки в моменты, вычисленные в § 1.25, где bY = = 75,05; 62 = 5668,69; Ь3 = 430869,16; bt = 32946647,19; ц2 - = 36,68; ц4 = 3519,95; с = 5.
Исправленные значения моментов по формулам (1.58) — (1-62) следующие:
Ьг = 5668,69 - ^ = 5666,61;
Ь3 = 430869,16 - 2^2^. = 430400,10;
Ъ, = 32946647,19 - у (5668,69 - ^) = 32875806,79;
= 36,68 - % = 34,60;
ц4 = 3519,95 - у (36,68 -1g.) = 3079,68.
Как видно, в некоторых случаях поправки Шеппарда могут заметно влиять на величину моментов, однако следует иметь в виду, что применение поправок к несоответствующим распределениям может внести также и заметную ошибку, поэтому единого мнения о необходимости введения поправок Шеппарда пока нет.
Асимметрия
Асимметрией, или скошенностью, называется мера отклонения распределения частот от симметричного их распределения относительно максимальной ординаты. Степень асимметричности распределения можно измерить двумя способами: по разности между средней арифметической и модой, по формуле (1.63) и по отношению момента третьего порядка к кубу среднего квадратического отклонения по формуле (1.65).
I способ:
Kas =Kas =М — Мо<$М — Мо<$(1.63)(1.63)
Kas =
Kas =
М — Мо
<$
М — Мо
<$
(1.63)
(1.63)
где Kas — коэффициент асимметрии; М — средняя арифметическая; Мо — мода; о — среднее квадратическое отклонение.
M МоM МоОтрицательная асимметрия М < МоОтрицательная асимметрия М < МоПоложительны й .жсцессПоложительны й .жсцессМо M
M Мо
M Мо
Отрицательная асимметрия М < Мо
Отрицательная асимметрия М < Мо
Положительны й .жсцесс
Положительны й .жсцесс
Отри пательны й экснессОтри пательны й экснессРис. 2. Асимметрия (а) и эксцесс (б) распределенияКривые распределения: I — теоретическая; 2 — эмпирическаяРис. 2. Асимметрия (а) и эксцесс (б) распределенияКривые распределения: I — теоретическая; 2 — эмпирическаяПоложительная асимметрия М > Мо
Отри пательны й экснесс
Отри пательны й экснесс
Рис. 2. Асимметрия (а) и эксцесс (б) распределения
Кривые распределения: I — теоретическая; 2 — эмпирическая
Рис. 2. Асимметрия (а) и эксцесс (б) распределения
Кривые распределения: I — теоретическая; 2 — эмпирическая
Подставив в формулу (1.63) соответствующие параметры ряда из табл. 1.03, получим
у 75,09—78,27 n
Ка« =—5^~ = -0’53-
Отрицательное значение коэффициента соответствует отрицательной асимметрии, а положительное — положительной асимметрии (см. рис. 2, а).
Иногда в формуле (1.63) моду заменяют медианой, что также может характеризовать асимметрию:
Kas =5•(1-64)
II способ:
(1.65)(1.65)As = ^, или As - г3,
(1.65)
(1.65)
где As — показатель асимметрии; ц3 — центральный момент третьего порядка; o' — среднее квадратическое отклонение; г3 — основной момент третьего порядка (табл. 1.17). Подставляя ц3, вычисленный по данным табл. 1.18, и о — 6,056 в формулу (1.65) получим:
As =As =53,03946,056» “53,03946,056» “- 0,24.- 0,24.
As =
As =
53,0394
6,056» “
53,0394
6,056» “
- 0,24.
- 0,24.
Показатель асимметрии также имеет отрицательное значение; следовательно, распределение вариант вегетационного периода сортов ячменя имеет отрицательную асимметрию.
Ошибка показателя асимметрии вычисляется по формуле
о-66)
где гпа — ошибка показателя асимметрии; N — объем выборки.
Для рассматриваемого примера о вегетационном периоде сортов ячменя
Шд -= К^0.17. следовательно, As = — 0,24 + 0,17.
Ошибка асимметрии может быть также вычислена по формуле
тА=УмТз’(L67)
которую следует применять для сравнительно небольших рядов. Достоверность показателя асимметрии оценивается по формуле (1.08) и табл. ЗП. При числе степеней свободы v — оо,
t = — , где t— критерий Стьюдента (табл. ЗП); As — показа- тА
тель асимметрии; ша — ошибка показателя асимметрии. Для только что рассмотренного примера t = ^’^ — 1,41. По табл. ЗП при v = оо требуется величина критерия не меньше 1,96, для того чтобы можно было говорить о существенности асимметрии. Следовательно, рассматриваемое распределение сортов ячменя по вегетационному периоду, по своей асимметрии несущественно отклоняется от нормального распределения.
Эксцесс
Эмпирические распределения по сравнению с нормальным могут быть туповершинными или островершинными (см. рис. 2, б). Степень отклонения эмпирической кривой распределения от нормальной теоретической кривой на своей вершине количественно выражается показателем эксцесса по формуле
Е = -^- — 3, или Е — г4 — 3,(1.68)
где Е — показатель эксцесса; ц4 — центральный момент четвертого порядка (о вычислении его см. § 1.25); <т4—среднее квадратическое отклонение в четвертой степени (о4 = р,*); г4 — основной момент четвертого порядка (§ 1.25).
Эксцесс эмпирической кривой распределения сортов ячменя по продолжительности вегетационного периода определим, подставив
в формулу (1.68) найденные в § 1.25 значения р4 и ^г
Е =Е =3519,947336.680123519,947336.68012- 3 = - 0,38.- 3 = - 0,38.
Е =
Е =
3519,9473
36.68012
3519,9473
36.68012
- 3 = - 0,38.
- 3 = - 0,38.
Ошибка показателя эксцесса равна удвоенной ошибке показателя
асимметрии:
(1.69)
где тЕ — ошибка показателя эксцесса; N — объем выборки; ]/ 6jN — ошибка показателя асимметрии. тЕ — 21Лй/214 = + 0,34.
При вычислении тЕ, особенно для сравнительно небольших рядов, применяют и более точную формулу:
тв ^+ 5 ’(1-70)
где обозначения те же.
Оценка достоверности показателя эксцесса производится по формуле (1.08): t — Е!ше, где t — критерий Стьюдента (табл. ЗП), в данном случае принимается число степеней свободы: v = оо; Е — показатель эксцесса; тЕ — ошибка показателя эксцесса. В ,0,38.
рассмотренном здесь примере t = "^ = 1,12.
По табл. ЗП при v — оо требуется, чтобы величина критерия была больше 1,96, для того, чтобы можно было считать распределение сортов ячменя по вегетационному периоду существенно отклоняющимся от нормального по своему. эксцессу.
Показатель отрицательного эксцесса не может быть меньше, чем —2, и это его значение указывает на то, что данная выборка состоит из вариант, относящихся к различным совокупностям. «Провал» на вершине кривой при этом достигает оси абсцисс и на графике получаются две различные кривые распределения. Положительный эксцесс по своей величине теоретически не ограничен. Эксцесс считается незначительным, если Е < 0,4.
Теоретические частоты нормальной кривой
Достаточно большую статистическую совокупность можно моделировать построением эмпирической кривой распределения. Почти каждое эмпирическое распределение можно в свою очередь интерпретировать каким-либо теоретическим типом распределения, что, как правило, раскрывает новые особенности изучаемого явления и позволяет прогнозировать некоторые его свойства. Наибольшее значение для практики биометрических исследований имеет нормальное распределение, поэтому в первую очередь сравнивают полученное эмпирическое распределение с
(1.71)(1.72)(1.73)(1.71)(1.72)(1.73)нормальным, теоретические частоты которого необходимо длч этого вычислить. Требуется установить, какие значения частот имел бы данный вариационный ряд, если распределение частот было бы нормальным. Теоретические частоты нормальной кривой можно вычислить по формуле
(1.71)
(1.72)
(1.73)
(1.71)
(1.72)
(1.73)
NcNc(2(2
Nc
Nc
(2
(2
или, что одно и то же, по формуле
Nc 0,39894
*н — О "e0.5f*’
ИЛИ
/н = N exp {In с + In 0,39894 — In б — 0,5<2},
где /н — теоретические частоты нормальной кривой; N — объем выборки; с — классовый интервал; б — среднее квадратическое отклонение: е — основание натуральных логарифмов, равное 2,7182818 (табл. 22П);
. X — М,.
t =нормированное отклонение (о нем говорится также
в § 1.42); М — средняя арифметическая; х — варианты (середины классов) ряда.
Формула (1.73) наиболее удобна при вычислении на ЭВМ «Про- минь-М», так как дает возможность избежать переполнения памяти при больших показателях числа е.
Вычисление теоретических частот распределения 214 сортов ячменя по продолжительности вегетационного периода по данным табл. 1.03, по формуле (1.71) показано в табл. 1.19, где произведены следующие действия:
Таблица 1.19
Вычисление теоретических частот нормального распределения
Варианта , X
х — М
_ х — М
О
*«)
(табл. 5П)
Теоретические частоты /н
Эмпирические частоты /
вычисленные
округленные
■ 60
-15,09
—2,5196
01667
2,98
3
2
65
-19,09
-1,6848
09728
17,4
17
30
70
-5,09
-0,8499
27798
49,7
50
34
75
-0,09
-0,0150
39889
71,3
72
62
80
4,91
0.8198
28504
50,9
51
74
85
9,91
1,6547
10139
18,1
18
8
90
14,91
2,4896
01797
3,2
3
4
с = 5
М 75,09
а 5,989
—
213,58
214
214
Найдены разности вариант и средней арифметической: $ — М (столбец 2).
Разности х — М нормируются, т. е. делятся на среднее квадратическое отклонение б = 5,989, (столбец 3).
По вычисленным значениям f по табл. 5П находим значения выражения ф(/) =—т=е 2 для формулы (1.71) или ф(£) = = —L|^r~ для формулы (1.72) (столбец 4).
Вычисляем значение выражения
- 178-66'
Множим числа столбца 4 на 178,66 (столбец 5).
Округляя числа столбца 5 до целых чисел, получаем теоретические частоты; их сумма должна быть близкой к объему выборки. Уравнение кривой нормального распределения в конкретной форме:
/н = 178,66 ф(<), где t = * ~ д^09 .
На рис. 1 изображены эмпирическая и теоретическая кривые нормального распределения рассмотренной совокупности. Сравнение теоретических частот с эмпирическими с целью установить, отличается ли данное распределение от нормального, рекомендуется производить критерием хи-квадрат (изложение метода сравнения по последнему см. в § 4.14). Совпадение эмпирических и теоретических частот в данном случае нельзя назвать вполне удовлетворительным, что и показало их сравнение по критерию хи-квадрат, который оказался больше табличного. Когда эмпирическое распределение напоминает нормальное, но имеет значительную асимметрию или эксцесс и вследствие этого не подходит под нормальное, рекомендуется высчитать частоты распределения Шарлье (Романовский, 1947).
Средняя арифметическая
при альтернативном разделении совокупности
Альтернативное разделение вариант используется в тех случаях, когда варианты могут быть разделены по данному признаку только на два класса. Например, все варианты совокупности из корнеплодов моркови могут быть разделены на пораженные и не пораженные фомозом; совокупность цветков может быть разделена на мужские и женские цветки, и т. д. Таким образом, при альтернативном варьировании дат совокупность делится на две части: в одной из них наблюдаемый признак, например поражение
болезнью, присутствует, а в другой части наблюдаемый признак отсутствует.
ч=-тг.ч=-тг.Выборки, состоящие из двух групп альтернативных вариант нередко встречаются в практике биологических, в частности гене тических, исследований, поэтому в § 1.30—1.33 приводятся некоторые рецепты вычисления их основных показателей. Например, в табл. 1.04 в одной выборке, состоящей из 1050 обследованных растений ячменя, 66 особей оказались мутантами, что составляет 6,3% от всего числа растений или 0,063 в долях единицы. Доли особей или вариант, обладающих изучаемым признаком или не обладающих им, определяются по формулам:
ч=-тг.
ч=-тг.
(1,74)
(1.75)
где р — доля особей с изучаемым признаком, выраженная как часть от единицы, она же и средняя арифметическая; q — доля особей без этого признака; пр — число особей, имеющих изучаемый признак; п() — число особей, не имеющих изучаемого признака; N — объем всей выборки (N = пр + пчУ
(1.76)(1.76)Когда доли выражаются в частях от единицы, всегда имеется следующее равенство:
(1.76)
(1.76)
Р + Ч = 1,
которое служит для проверки вычислений.
Доли особей с изучаемым признаком или без него могут быть определены также в процентах по формулам:
(1.77)(1.78)(1.77)(1.78)Р^ • юо%, q -^ • Ю0%.
(1.77)
(1.78)
(1.77)
(1.78)
К формулам (1.77), (1.78) также существует равенство
(1.79)(1.79)р + q = 100%,
(1.79)
(1.79)
где обозначения аналогичны тем, которые даны к формулам (1.74)—(1.76). Для данных табл. 1.04 доли мутантов и немутантов в частях единицы определяются по формулам (1.74)—(1.76):
»- тит=°-063;
’=S=0^
p + q = 0,063 + 0,937 = 1,
яти в процентах по формулам (1-.77)—(1.79):
г-100 = 6,3%;
#-5т-1ео-”-7*=
р 4- q 6,3 + 93,7 - 100%.
Для определения достоверности доли при альтернативном разделении вариант необходимо определить ее ошибку по формуле
где тм — ошибка доли; р — доля вариант, имеющих наблюдаемый признак, или средняя арифметическая этого признака; q — доля вариант, не имеющих наблюдаемого признака; N — объем выборки.
Для данных таб. 1.04
/ 6,3 • 93,7. n z
тм " у 1050-±0,7оо.
Ошибка получается в долях единицы или в процентах, в зависимости от размерности р и q. Границы достоверности при альтернативном разделении вариант можно определить, прибавляя к доле выражение ± 1тм^ где t — критерий Стьюдента (по табл. ЗП) с числом степеней свободы: v = N — 1. Для рассматриваемого случая, при Ру = 0,95, N = 1050, v = 1050 — 1 = 1049, t = = 1,96 (по табл. ЗП), р = 6,3% ± 1,96-0,75 — 6,3 ± 1,5%, т. е. процент мутантов в совокупности особей ячменя при воздействии на них некоторых мутагенных факторов, или средняя арифметическая мутантов, может колебаться от 4,8 до 7,8%.
Среднее квадратическое отклонение при альтернативном разделении совокупности
О значении среднего квадратического отклонения или сигмы см. § 1.10. Сигма двухклассового разделения вариант определяется для количественного выражения меры альтернативной изменчивости в долях единицы или процентах по формуле
3 = у и.(1-81)
где о — среднее квадратическое отклонение; р — доля вариант, обладающих наблюдаемым признаком в долях единицы или процентах; q — доля вариант, не обладающих наблюдаемым нризпа- ком. Для данных табл. 1.04 и § 1.30 сигма в долях единицы
по формуле (1.81):
о = V0,063 - 0,937”= 0,243,
или в процентах:
б = /6,3-93,7 = 24,28%.
Ошибку сигмы можно определить по формуле (1.31). Величина сигмы^при альтернативном варьировании не может превышать1 50% или 0,5 в долях единицы.
Коэффициент вариации при альтернативном разделении совокупности
О значении коэффициента вариации см. § 1.21. Для альтернативного варьирования дат коэффициент вариации можно вычислить по формуле
7=2б%,(1.82)
где V — коэффициент вариации; б — среднее квадратическое отклонение в процентах.
При среднем квадратическом отклонении, найденном в § 1.31,
V = 2-24,28 = 48,6%.
Ошибку коэффициента вариации с достаточной точностью можно определить по формуле (1.46).
Показатель точности опыта при альтернативном разделении вариант совокупности
О значении показателя точности опыта см. § 1.22. С достаточным приближением показатель точности опыта при альтернативном разделении дат определяется по формуле (1.47) и (1.48). Для примера, рассмотренного в § 1.30—1.32, показатель точности опыта по формуле (1.48):
Р == 1,5%.
V1050’
Такое значение является высоким показателем точности определения доли или средней арифметической в данном опыте. Точность опыта считается неудовлетворительной, если показатель Р больше 5 %.
^ 1.34. Теоретические частоты
' биномиального распределения и его параметры
Теоретические частоты распределения вычисляют главным образом для того, чтобы путем сравнения с эмирическими частотами выяснить меру их совпадения. При совпадении опытных и теоретических частот на эмпирическую выборку распространяют закономерности, присущие данному теоретическому типу распределения. Выборка при биномиальном распределении обычно образуется, когда берут Nn проб одинакового объема, равного п. В каждой из проб подсчитывают число вариант, обладающих изучаемым признаком. Напри.мер, было взято N^ = 112 проб корнеплодов из совокупности сортов моркови с целью изучения их устойчивости к заболеванию фомозом. Корнеплоды заражали искусственно с механическим их повреждением. В каждой из 112 проб было одинаковое число корнеплодов: п = 9. В каждой девятке подсчитывали число пораженных фомозом корнеплодов
Таблица 1.20
Вычисление частот биномиального распределения по формуле (1.72)
Число пораженных корнеплодов в пробе, х
Число проб, /
XI
xV
х — М
Ф (0
/б = ^ >Ь (0
(J
9
4
36
324
1,802
0,07895
5
8
20
160
1280
1,255
0,18037
и
7
18
126
882
0,708
0,31006
19
6
14
84
504
0,161
0,393870
24
27
135
675
0,385
0,371150
24
4
18
72
288
0,932
0,258880
17
3
4
12
36
1,479
0,133440
8
2
7
14
28
2,026
0,05082
3
1
0
0
0
2,572
0,014603
1
0
0
0
0
3,119
0,0030698
0
Сумма
112
639
4017
—
—
112
(табл.1.20). Соответствие эмпирического распределения биномиальному можно определить двумя способами в зависимости от величины (га) пробы. Если га велико, например более 10, теоретические частоты биномиального распределения можно получить с достаточной точностью при помощи формулы частот нормального распределения. Если га •< 10, лучше воспользоваться формулой (1.83) бинома Ньютона, отдельные члены разложения которого представляют собой теоретические частоты биномиального распределения. Оба способа рассмотрим на данных из столбцов 1 и 2 табл. 1.20.
Теоретические частоты биномиального распределения по первому способу, по схеме нормального распределения, вычисляются по формуле (1.72):
по формуле (1.38):
Обозначения в формулах (1.72), (1.38) следующие: /о — теоретические частоты биномиального распределения; Nn — число проб; ф (/) — функция от /, находится по табл. 5П; ( — нормированное
, I - М
отклонение, t — —-—; о — среднее квадратическое отклонение; ж — варианты распределения; М — средняя арифметическая; / — эмпирические частоты распределения; с — классовый интервал. Теоретические частоты по первому способу (табл. 1.20) вычисляем в следующем порядке:
Перемножаем варианты из столбца 1 на соответствующие им частоты из столбца 2, результаты пишем в столбец 3.
Числа столбца 3 множим на числа столбца 1, результаты записываем в столбце 4.
Суммируем числа столбцов 2—4, получаем итоги: N„ -■ - 112, Sx/ = 639, ^х^ - 4017.
Вычисляем среднюю арифметическую по формуле (1.12):
,,639-
М —= э,70э корнеплода.
Вычисляем среднее квадратическое отклонение по формуле (1.38):
6392
1/ 1017
= - V 11гЛ — 1,829.
Разности средней арифметической от всех вариант х делим на а = 1,829, получаем значения нормированных отклонений в столбце 5.
По табл. 5П находим значения функции ф (<) и выписываем их в столбец 6.
Находим значение выражения
2У^с_112 • 161 g
а 1,829
Перемножаем числа из столбца 6 на 61,236 и, округляя до целых чисел, получаем в столбце 7 теоретические частоты кривой
Чш io гюражепныл корисило.к’ав (х) в пробе ficiacri.i)
Рис. 3. Эмпирические (7) и теоретические (2) (по схеме нормального распределения) частоты поражаемости фомозом корнеплодов моркови
биномиального распределения (рис. 3), уравнение которой:
/б 61,236ф(7), где t = -Ys’"'' 1
Для вычисления теоретических частот биномиального распределения по второму способу используем формулу разложения бинома Ньютона:
/о - Nn ■ (р -|- (?)" - Nn |pV -(-■ пр^"^" (,‘ ;21) ■ pVl т
ж...... 4 p^oj ,(L83)
где р — доля вариант, обладающих данным признаком; q — доля вариант, не обладающих данным признаком; п — число вариант в пробе; Nn — число проб.
В рассматриваемом примере (табл. 1.20) число пораженных корнеплодов — пр = 639 (итог столбца 3), а общее число корнеплодов — N = Nn-n = 112-9 = 1008. Следовательно, nq — = 1008—639 = 369. В долях единицы от общего числа корнеплодов р = 0,63, q — 0,37. Размер пробы п = 9. Общее число проб — Nn = 112. Вычисление теоретических частот по формуле (1.83): /б = (0,63 + 0,37)9-412 ведется в следующем порядке (табл. 1.21)
Из табл. 6П выписываем в столбце 1 коэффициенты разложения бинома Ньютона при и = 9 (размер пробы).
Возводим в степени от 0 до 9 долю р = 0,63 (столбец 2).
Возводим в степени от 0 до 9 долю q — 0,37 (столбец 3).
Перемножаем по строкам числа столбцов 2 и 3, произведения записываем в столбец 4.
Числи пораженных корнеплодов (л) в пробе (классы)Рис. 4. Эмпирические (1) и теоретические (2) частоты (по формуле разложения бинома Ньютона) норажаемости фомозом корнеплодов морковиjЧисли пораженных корнеплодов (л) в пробе (классы)Рис. 4. Эмпирические (1) и теоретические (2) частоты (по формуле разложения бинома Ньютона) норажаемости фомозом корнеплодов морковиj
Числи пораженных корнеплодов (л) в пробе (классы)
Рис. 4. Эмпирические (1) и теоретические (2) частоты (по формуле разложения бинома Ньютона) норажаемости фомозом корнеплодов морковиj
Числи пораженных корнеплодов (л) в пробе (классы)
Рис. 4. Эмпирические (1) и теоретические (2) частоты (по формуле разложения бинома Ньютона) норажаемости фомозом корнеплодов морковиj
1 а б л и ц а 1.21
Вычисление частот биномиального распределения по формуле (1.83)
Число из таблицы 6П при п — 9
Степень р = 0,63
Степень q = 0,37
PQ
Произведение чисел столбцов 1 • 4
Произведение N^ = 112 на числа столбца 5 /д
Частости %
1
р»--0,0156
(f- 1,00
0,0156
0,0156
2
1,8
9
0,0248
0,37
0,0092
0,0826
9
8,1
36
0,0394
0,1369
0,0054
0.1942
22
19,8
84
0,0625
0,0506
0,0032
0,2657
30
27,0
126
0,0992
0.0187
0,0019
0,2337
26
23,4
126
0,1575
0,0069
0,0011
0,1369
15
13,5
84
0,2500
0,0026
0,0006
0,0546
6
5,4
36
0,3969
0,0009
0,0004
0,0129
1
0,9
9
0,63
0,0004
0,0003
0,0023
0
0
1
р°= 1
q»-- 0,0001
0,0001
0,0001
0
0
—
—
Сумма
111
99,9%
В"столбце 5 получаем произведения чисел столбцов 1 на 4.
В столбце 6 записываем произведения числа проб Nn = 112 на числа из столбца 5, произведения округляем до целых чисел,
которые и будут теоретическими частотами биномиального распределения (рис. 4).
Если доли р и q равны, то кривая биномиального распределения будет симметричной.
Теоретические частоты биномиального распределения показывают, какова вероятность появления проб с данным числом в ней пораженных корнеплодов. В табл. 1.21, столбце 7, указано, сколько проб в процентах от общего количества может заключать в себе то или иное число пораженных корнеплодов. Так,
со всеми девятью пораженными корнеплодами может встретиться 1,8% всех проб, а появление проб с 1 или 0 пораженных корнеплодов также малове
роятно.
Оценка совпадения теоретических частот распределения с эмпирическими производится в основном по критерию хи-квадрат (§4.14).
Среднее квадратическое отклонение биномиального распределения в именованных числах (например, в числе особей) вычисляется по формуле
б = Утгрд, (1-84) где о — среднее квадратическое отклонение; п — объем пробы (см. в начале § 1.34); р — доля наблюдаемого признака в совокупности; q — доля особей без наблюдаемого признака.
Средняя арифметическая биномиального распределения, выраженная в именованных числах, равна:]
М = пр, (1.85)
где М — средняя арифметическая для пробы; п — объем пробы; р — доля наблюдаемого признака.
При изучении повреждаемости фомозом корнеплодов моркови брали Nn = 112 проб по девять корнеплодов (п = 9) в каждой; доля поврежденных корнеплодов оказалась р = 0,63, это составляет в среднем по формуле (1.85) М = 9-0,63 = 5,67 корнеплода в пробе.
Среднее квадратическое отклонение для этого примера равно по формуле (1.84) о = 3^9 • 0,63 • 0,37 = 1,45 корнеплода в среднем для одной пробы. Указанные параметры могут быть выражены также и в относительных числах, как это сделано в § 1.30 и 1.31. Ошибка средней арифметической биномиального распределения приближенно, определяется по формуле (1.80).
Теоретические частоты распределения Пуассона
Распределение Пуассона, или распределение редких событий, близко к биномиальному и образуется тогда, когда р (доля наблюдаемого признака) очень мало, a q близко к единице. Таким образом, распределение Пуассона характерно для каких-либо редких событий, вероятность (доля) появления которых (р) очень мала. Как и при биномиальном распределении, эмпирические частоты распределения Пуассона являются числом одинаковых проб, имеющих ту или иную долю наблюдаемого признака. В распределении Пуассона средняя арифметическая примерно равна дисперсии: М« о2, что является основным его признаком.
Теоретические частоты распределения Пуассона вычисляют по формуле
(1.86)
где /п — теоретические частоты распределения Пуассона, т. е. группы выборок, обладающих той или иной долей наблюдаемого признака; ж — варианты, отдельные значения наблюдаемого нриз-
Таблица 1.22
Вычисление частот распределения Пуассона
Число пораженных корнеплодов в пробе, х
Частота (число проб), /
мх =
= 0,672”
х!
мх х!
Мхм
-г- N„e-M х! и
/п
0
70
1,000
0! - 1
1,00
62,43
62
1
32
0,6720
1
0,6720
41,95
42
14
0,4516
2
0,2258
14,09
14
3
2
0,3035
6
0,0506
3,16
3
4
4
0,2039
24
0,0085
0,53
1
Сумма
122
—
—
—
122,16
122
нака; х'. (читается икс-факториал) обозначает произведение ряда натуральных чисел, например: 3! = 1-2-3 = 6; М — средняя арифметическая данного ряда; Nn — общее число проб;
е = 2,71828182, основание натуральных логарифмов (табл. 2211)
Вычислим теоретические частоты распределения Пуассона для табл. 1.22, где приведены данные распределения проб корнеплодов моркови, заболевших естественно, неповрежденных механически и без искусственного заражения их фомозом. Объем каждой пробы был и = 9, однако более четырех больных корнеплодов не встречалось, поэтому расчет выполнен при п — 4, Nn — 122.
По формуле (1.12) определим среднюю арифметическую для данного взвешенного ряда:
Число пораженных * корнеплодов (X) в пробе (классы)Число пораженных * корнеплодов (X) в пробе (классы)Рис. 5. Распределение Пуассона (2) корнеплодов моркови, пораженных фомозом при естественном заражении у -- эмпирические частотыРис. 5. Распределение Пуассона (2) корнеплодов моркови, пораженных фомозом при естественном заражении у -- эмпирические частоты_ 0 • 70 + 1 • 32 + 2 • 14 + 3 • 2 + 4.4 _
Число пораженных * корнеплодов (X) в пробе (классы)
Число пораженных * корнеплодов (X) в пробе (классы)
Рис. 5. Распределение Пуассона (2) корнеплодов моркови, пораженных фомозом при естественном заражении у -- эмпирические частоты
Рис. 5. Распределение Пуассона (2) корнеплодов моркови, пораженных фомозом при естественном заражении у -- эмпирические частоты
‘"122
= 0,672.
Возведем М в степень с показателем X".
0,672°- 1, 0,6721 = 0,672,
0,6722 = 0,451 6 и т. д. (столбец 3).
В столбце 4 запишем факториалы от х;
0! — 1, 4! - 1-2.3-4- 24 (столбец 4).
Числа столбца 3 разделим на числа столбца 4 и частные запишем в столбце 5.
Вычислим выражение
Nne~M 122.2,718'п'67'262,43.
Числа столбца 5 перемножим на число 62,43, произведения запишем в столбце 6.
После округления чисел столбца 6 до целых получаем теоретические частоты /ц распределения Пуассона. Оценка совпадения эмпирических частот с теоретическими по критерию хи-квадрат (изложение метода его расчета см. в § 4.14) показывает, что различие между ними несущественное (%2 = 4,413; при объединении классов 3 и 4, v = 4—2 = 2, требуется %2 = 5,99 на 0,95 уровне достоверности) (рис. 5). Таким образом, можно сделать вывод, что естественное заражение фомозом корнеплодов моркови (нс повреждаемых механически, искусственным путем)— явление редкое, по с определенной частотой.
Объем выборки, достаточный для достоверности средней арифметической при известной численности генеральной совокупности. Методы отбора вариант выборки
Генеральной совокупностью называется вся совокупность особей или предметов изучаемого объекта. Если изучается средняя высота растений какого-либо сорта, то генеральной совокупностью являются все особи данного сорта, выращенные в сходных условиях. Большинство биометрических исследований проводят на некоторой части генеральной совокупности, эта часть называется выборкой, или выборочной совокупностью. Статистические показатели, полученные по выборке, распространяются затем па всю генеральную совокупность данного объекта. Численность генеральной совокупности может быть известной, а чаще ее определить трудно. Репрезентативность, или объем выборки, численность которой будет достаточной для достоверности получаемой по ней средней арифметической, можно определить различными способами. Ниже приводится способ определения репрезентативности выборки для случая, когда известен объем генеральной совокупности. Объем такой выборки исчисляется по формуле
\ to ) + No
где N — искомый объем выборки; t — критерий достоверности Стьюдента, в зависимости от доверительного уровня исследования он равен: ( = 1,96 при Р\ = 0,95, ( = 2,58 при Р\ = 0,99 и i = = 3,30 при Рд = 0,999; Na — численность генеральной совокупности; А — допустимая погрешность определения средней ариф-
65653 Зайцев Г. И.
65
65
метической в именованных числах; о — среднее квадратическое отклонение.
Если сигму нельзя вычислить по предыдущим опытам с данным объектом, ее можно определить по приближенным способам, рассмотренным в § 1.17, 1.18, 1.19.
Определим репрезентативность выборки для изучения вегетационного периода совокупности сортов ячменя. Предположим, что существует всего около 2000 сортов этой культуры. Из предыдущих расчетов известно, что в этой совокупности для выборки N = 214 среднее квадратическое отклонение б = 6,07 дня.
Примем допустимую погрешность определения средней арифметической: А = 1 день, тогда по формуле (1.87) при t = 1,96
N = -,5£— = 132 сорта.
\ 1,96 • 6,07 ) + 2000"
Таким образом, для изучения вегетационного периода совокупности сортов ячменя достаточно было взять выборку в 132 сорта при условии их случайного отбора.
В тех случаях, когда требуется определить только репрезентативность выборки для достоверности се средней арифметической, можно вычислить критерий Стьюдента прямо, минуя расчет средней арифметической, сигмы и ошибки средней арифметической по формуле
/ = 2xj/TvTs^TT^r > 3»(i-88)
где t — критерий Стьюдента; 2ж — сумма вариант ряда; N — число вариант в ряду; 2х2 — сумма квадратов вариант ряда.
Если значение критерия, вычисленного по формуле (1.88), будет более трех, то данный объем выборки достаточен для достоверности средней арифметической совокупности при определенных границах доверия.
При отборе нужного числа вариант из генеральной совокупности необходимо прибегать к методу рендомизации, который обеспечивает случайность выбора вариант. Например, для каких-либо наблюдений или измерений следует отбирать не «типичные» и не «средние» экземпляры, а тс, которые попадают в выборку по схеме отбора, независимо от размещения и состояния растений или их органов. Применяют в основном метод механического отбора и жеребьевку. При механическом отборе отсчитывают каждое пятое или десятое, или двадцатое и т. д. растение или рядок. При жеребьевке всем растениям делянки присваивают номера, затем записывают их па билеты и по жребию выбирают нужное число особей или же отбирают их по таблице случайных чисел (Янко, 1961, табл. 36). Второй принцип отбора выборки — равномерность распределения отбираемых вариант по делянке, опытно-
му полю, по буртам, ящикам и т. д. Например, нельзя брать все 20 растений какой-либо выборки из одного места делянки или 20 плодов из одного ящика, если ящиков много и т. д. Можно отобрать 20 требуемых растений, например, по диагонали делянки через равные промежутки, так чтобы отбираемые особи распределялись равномерно по всей длине диагонали.
Объем выборки, достаточный для достоверности средней арифметической при неизвестной численности генеральной совокупности
В биологических исследованиях .часто встречаются случаи, когда подлежащая изучению совокупность имеет неизвестную численность. Достаточный объем выборки из таких совокупностей определяют по формуле
<l89)
где N — искомый обьсм выборки; t — критерий достоверности, о его величине см. пояснение к формуле (1.87); о — среднее квадратическое отклонение (если сигма данного объекта неизвестна, ее можно приближенно определить по методам, рассмотренным в § 1.17—1.19); А — допустимая погрешность определения средней арифметической. Определим достаточный объем выборки для примера из § 1.36, предполагая, что объем совокупности неизвестен, < = 1,96, о = 6,07 дня, А = 1 день, тогда по формуле (1.89)
И,96.6,07 у \ 1 /
Формулы (1.87) и (1.89) дают только приближенные значения численности выборок, результаты, получаемые по ним, сильно зависят от принимаемой величины допустимой погрешности средней арифметической. Проверить правильность назначения достаточной численности выборки можно, вычисляя затем по ней показатель точности опыта (§ 1.22), который должен быть не более 5% .
Если возможно приблизительно определить величину варьирования вариант совокупности в процентах, то для нахождения достаточного объема выборки можно применить формулу
N-^V(1.90)
где N — искомый минимальный объем выборки, V — коэффициент вариации в процентах; Р — требуемая точность опыта в процентах; t — критерий достоверности, см. пояснение к формуле (1.87).
Рекомендуется принимать Р = 3% и не более 5%. Если известны точно или приблизительно средняя арифметическая и сиг-
Ma (§§ 1.17—1.19), то коэффициент вариации можно подсчитать (§ 1.21), а затем подставить его значение в формулу (1.90). Достаточная численность выборки при t = 1,96, V = 10% и Р = 3%, по формуле (1.90):
^,96-io.y.^
При исходных данных: t = 1,96; Р = 3%, формула (1.90) получает вид: N = 0,43 V2.
Минимальный, при t = 1,96 и Р — 5%, и максимальный, при t = 3,30 и Р — 1 %, объемы достаточных выборок можно определить по формуле (1.90) в следующих ее вариантах.
Минимальная выборка: N = 0,1537-V2.
Максимальная выборка: N — 10,89-V2.
При V — 10% минимальная и максимальная выборки соответственно равны 15 и 1089 особям. Размеры минимальных выборок в зависимости от коэффициента вариации исходных данных приведены в табл. 2311.
Достаточный объем выборки для достоверности доли при известной численности генеральной совокупности
При альтернативном варьировании и известной численности генеральной совокупности изучаемого объекта объем выборки, достаточный для достоверности доли, можно приближенно определить по формуле (1.87):
На наиболее часто применяемом уровне достоверности в 95% при t = 1,96 и при сигме о = 0,5 (когда она неизвестна) формула (1.87) примет вид:
N-(1.91)
1.042Д2 ’1 Ло
где N — искомый объем выборки; 7V0 — объем генеральной совокупности; Д — допустимая погрешность при определении доли; ст — среднее квадратическое отклонение изучаемой совокупности (если оно неизвестно, следует принять максимальное его значение при альтернативном разделении дат, равное 0,5);
t — показатель достоверности суждения, в зависимости от требуемой точности опыта он равен: 1,96; 2,58; 3,30.
Определим достаточный размер выборки, который требуется для достоверности определения доли корнеплодов моркови, поражаемых фомозом при механическом их повреждении (§ 1.34).
Сигма этой совокупности известна и равна: s |/ 0,63 • 0,37 — 0,48, имеющаяся в наличии численность генеральной совокупности — No ^ 600 корнеплодов. Примем А = 0,1 и t = 1,96. По формуле (1.87)
^ = / о,1 1 -77‘ \0,48 • 1,96 / + 600
Таким образом, для достоверного определения доли пораженных корнеплодов достаточно 77 корнеплодов.
По формуле (1.91) достаточная величина выборки для совокупности с неизвестной сигмой, которая принимается ст = 0,5 и при А = 0,1; Мо = 600:
N —”гl,042.0,l^WN —”гl,042.0,l^W- 83.- 83.
N —”г
l,042.0,l^W
N —”г
l,042.0,l^W
- 83.
- 83.
Увеличение выборки на шесть корнеплодов по сравнению с предыдущим результатом произошло из-за увеличения сигмы с 0,48 до 0,50.
Достаточный объем выборки для достоверности доли при неизвестной численности генеральной совокупности
При планировании опыта или обследования необходимый объем выборки, обеспечивающий достоверность доли при альтернативном варьировании признака, в зависимости от требуемой точности, при неизвестном объеме генеральной совокупности может быть приближенно определен по формуле (1.89):
■
где N — искомый объем выборки; I — показатель достоверности суждения, в зависимости от требуемой точности опыта он равен 1,96; 2,58; 3,30; ст — среднее квадратическое отклонение (если сигма неизвестна, следует принять ее максимально возможное значение при альтернативном разделении вариант равным 0,5);
А — допустимая погрешность определения доли в частях единицы.
Для данных табл. 1.04, о доле мутантов среди особей ячменя, по формуле (1.89) требуемый минимум объема выборки для достоверности доли мутантов, при I = 1,96:
д= ^pq,
- КО,06 • 0,94 - 0,24 и А = 0,02, N = ( 1 * q6^’24 )2 - 553.
Величина выборки, в которой гарантировано наличие хотя бы одной особи, которая обладает изучаемым признаком,
определяется по формуле
Ig(l-P) ’v ■
где N — объем выборки, Pt = 0,95; Р2 = 0,99; Р3 = 0,999; р — доля особей в генеральной совокупности, обладающих изучаемым признаком. При делении логарифмов их необходимо преобразовать из искусственной в естественную форму. При р = 0,06, по формуле (1.92) объемы выборок, гарантирующих наличие минимум одного зараженного корнеплода на трех указанных уровнях достоверности суждения от Pi до Р3, будут 48, 74 и 112 корнеплодов.
Вычисление 11 параметров невзвешениого ряда
В этом параграфе приводится схема совокупного вычисления всех основных статистических параметров невзвсшснного ряда наиболее экономичным способом, в расчете па то, что исследователь располагает лишь простейшими вычислительными средствами: счетами, арифмометром и таблицей квадратных корней.
Основными параметрами выборки считаются средняя арифметическая и среднее квадратическое отклонение (сигма), так как почти все прочие статистики певзвешепного ряда вычисляются на основании их числовых значений.
Первое место по трудоемкости вычислений среди обычных статистик занимает сигма. Поэтому разработано несколько способов, упрощающих ее расчет. Наименее трудным является способ сумм, однако он иногда вносит неточность в значение сигмы. Поэтому более предпочтителен способ округления, или иначе, способ условной средней, который значительно упрощает вычисление сигмы и обеспечивает любую требуемую точность. Исходные данные для приводимого примера расчета являются датами зацветания ольхи кустарниковой в Ленинграде за 14 лет (табл. 1.23). Вычисления проводятся в следующей последовательности.
Суммируем варианты ряда и делим их на число наблюдений, получаем среднюю арифметическую:
М = ^ = -^ - 74,928^ 74,9.
Округляем М до ближайшего целого числа: А = 75, которое используем для получения условных отклонений по формуле а = х — А, приведенных в столбце 2. Суммируем отклонения с учетом их знаков 2п = —1. Делаем проверку вычислений по формуле:
2а = I^x- NA;
—1 = 1049—14-75; —1 =—1; равенство обеих частей уравнения соблюдается; следовательно, вычисления сделаны верно.
fa блица 1.23
К вычислению параметров невзвешенного ряда способом условной средней
Даты зацветания в днях от 1 марта (табл. 24П), х
а = х — 75
а1
Даты зацветания в днях от 1 марта (табл. 24 П), я
а — ос — 75
«2
65
-10
100
73
-2
4
67
-8
64
73
-2
4
69
-6
36
78
3
9
70
25
81
■•-6
36
71
—4
16
85
-НО
100
72
-3
9
86
+ 11
121
72
-3
9
87
+ 12
144
Сумма 1049
-1
677
Возводим в квадрат условные отклонения (столбец 3) и
суммируем эти квадраты:
За2 = 677.
Определяем дисперсию по формуле:
б2 =б2 =^а?^а?(2а)»(-1)»Т677—14-(2а)»(-1)»Т677—14-N — 1N — 114-114-1= 52,07= 52,07
б2 =
б2 =
^а?
^а?
(2а)»(-1)»
Т677—14-
(2а)»(-1)»
Т677—14-
N — 1
N — 1
14-1
14-1
= 52,07
= 52,07
откуда
о = у52Ж, =7,2.
Прочие параметры данного статистического ряда определим следующим образом.
Ошибка средней арифметической:
тмтмз _ 7,2/¥ ~ /14з _ 7,2/¥ ~ /14±1Д±1Д
тм
тм
з _ 7,2
/¥ ~ /14
з _ 7,2
/¥ ~ /14
±1Д
±1Д
Критерий достоверности средней арифметической:
Ошибка сигмы: з72, . ,
та = —т= = >= +1,4.
V2N /2 • 14~
Коэффициент вариации:
V =
100з100-7,2 nRn/
—9’6°-
Ошибка коэффициента вариации:
m, _.г^+ода№ _ gg^-Wojmi-V =±1|8и.
Показатель точности опыта:
100 = ,)%00 = 2,6%.
Ошибка показателя точности опыта:
'"р -“ 2.в V+i+w)’ = °.5"-'
Медиана определяется следующим образом. Находим номер медианной варианты, который равен 0,5 (N + 1) = 0,5 (14 + 1) = = 7,5. При четном числе вариант за медиану принимается середина промежутка между двумя центральными вариантами. При нечетном числе вариант за медиану принимается центральная варианта. В нашем случае, при четном числе вариант, медиана равна полусумме 7-и 8-й варианты: Me — — 72,5. Таким образом, получено 11 параметров, которые дают довольно полное представление о данном статистическом невзвешепном ряде. Истолковать эти числа можно примерно так. В среднем за 14 лет ольха кустарниковая в Ленинграде зацветает через 74,9 дня от 1 марта, т. е. 13,9 мая (табл. 24П), округленно — 14 мая, с ошибкой в 1,9 дня ис доверительным интервалом на 0,95 уровне (§ 1.42): 13,9 + 2-1,9; т. е. самый ранний срок зацветания 10 мая и самый поздний — 18 мая. Варьирование годовых дат зацветания сравнительно невелико, так как коэффициент вариации равен: V = 9,6 + 1,8%, поэтому полученные параметры заслуживают доверия, ввиду большой достоверности средней арифметической: 1м = 38,9 % 3 и значения показателя точности опыта, меньшего 5%: Р — = (2,6% + 0,5%) <5%.
Вычисление параметров взвешенного ряда
Приведенную здесь схему расчета следует применять, когда необходим сравнительно полный анализ изучаемой совокупности. При разработке алгоритма ставили целью: свести к минимуму вычислительную работу и вместе с тем обеспечить требуемую точность и правильность расчетов путем введения проверочных операций. Методика подготовки выборки для обработки в виде взвешенного вариационного ряда приводится в § 1.01.
Вычислим параметры ряда распределения цветков поповника по диаметру (табл. 1.24).
К вычислению моментов ряда распределения
Границы класса
Середина класса, X
Частота, /
а
/а
fa2
/а3
/а*
а — 1
(a+D*
+
30-43
37
2
-3
-6
18
-54
162
—2
16
32
44—57
51
29
—2
—58
116
- 232
464
-1
1
29
58-71
65
119
-1
-119
119
- 119
119
0
0
0
72 -85
79
171
0
0
0
0
0
1
1
171
86 -99
93
121
1
121
121
121
121
2
16
1936
100-113
107
42
2
84
168
336
672
3
81
3402
114-128
121
16
3
48
144
432
1296
4
256
4096
с -- 14
А — 79
500
—
70
686
484
2834
—
—
9666
В столбце 2 выбираем варианту, имеющую наибольшую частоту, такой здесь оказалась центральная варианта 79 с частотой 171. Следовательно, начало отсчета — Л = 79, а классовый интервал — с = 14.
По формуле а — ~4*~ ~ Т ]//' кодируем варианты (столбец 4).
Частоты / перемножаем с 1—4 степенями условных отклонений а (столбцы 5—8).
Суммируем числа в столбцах 3, 5—8.
Прежде чем переходить к вычислению условных моментов, проверяем сделанные вычисления. Для этого переносим на один класс вверх начало отсчета условных отклонений, т. е. кодируем Ряд ж по формуле 1 + а = (ж — 65) : 14 и записываем новые отклонения в столбце 9, затем их возводим в четвертую степень (столбец 10) и перемножаем на частоты. Сумма чисел столбца И должна быть равна следующему выражению:
2/ (а + I)4* = S/а4 + 4S/a3 -}- 6S/a2 |- 4S/a + N;
9666 = 2834 + 4-484 + 6-686 + 4 *70 + 500; 9666 = 9666.
Вычисления сумм сделаны верно.
Находим условные моменты:
S/a70пл/лл2/а2686. „„„а
W = 0,1400;= 1,3720;
S/a3484пS/a4283 4-
тз == зоо - 0,9680;== — = э,6680.
Моменты рекомендуется вычислять с тремя — четырьмя знаками после запятой.
Вычисляем правую часть следующих уравнений:
^ = т _ тг = 1 3720 - 0.14002 = 1,3524;
^ = та + mY (2т{ - Зт2) = 0,9680 + 0,1400 (2 • 0,1400а - - 3 • 1,3720) = 0,3973;
^- = m4 -г ^i [3m, (2m2 — т^ — 4т3] = 5,6680 -| 0,1400 х X [3-0,1400(2-1,3720 — 0,1400а) — 4-0,9680] = 5,2861.
Проверяем вычисление центральных моментов (деленных на степени классового интервала):
-g- = та - т^З -§■ + т?) = 0,9680 - 0,1400 (3:1,3524 + + 0.14002) = 0,3973;
^- — т4 — mY ^-^- + mY (-^- + тЭД = 5,6680 — 0,1400 х X [4.0,3973 - 0,1400(6-1,3524 r 0,14002)] = 5,2861.
Значения-^- и -^-практически совпадают с вычисленными выше, следовательно, расчеты произведены верно.
Находим центральные моменты из уравнений:
= 1,3524;- 0,3973;= 5,2861,
С2 ’с4 1с4 ’
где с2 = 142 = 196; с3 = 143 = 2744; с4 = 144 = 38416 (с — классовый интервал).
ц2 = 196 - 1,3524 = 265,0704; ц3 = 0,3973 - 2744 = 1090,1912
ц4 = 38416 - 5,2861 = 203070,8176.
Средняя арифметическая находится по формуле
М = А + mYc = 79 + 0,1400 • 14 = 81,0.
Среднее квадратическое отклонение:
з = /^ = /265,0704 = 16,28.
Коэффициент асимметрии
Л$Л$Нз с8Нз с8Р-2С2Р-2С2Р2С2Р2С20,39731,3524 /Г^5240,39731,3524 /Г^524= 0,253.= 0,253.
Л$
Л$
Нз с8
Нз с8
Р-2
С2
Р-2
С2
Р2
С2
Р2
С2
0,3973
1,3524 /Г^524
0,3973
1,3524 /Г^524
= 0,253.
= 0,253.
Эксцесс:
р _ с< 3 _ 5-2861 „q . .
Лd " 1,3524=
у с2 /
Коэффициент вариации:
Пользуясь полученными здесь данными, можно вычислить также другие параметры и кривые распределения взвешенного ряда в зависимости от цели обработки.
Доверительные интервалы статистических параметров
Ценность статистически обработанных данных заключается также и в том, что вычисленные средние коэффициенты вариации, коэффициенты корреляции, критерии различия и другие показатели получают количественные границы доверия, которые обозначают возможные колебания показателя в меньшую и большую стороны в пределах доверительного интервала. В зависимости от типа распределения данных доверительный интервал рассчитывается двумя способами.
В симметричных распределениях, близких к нормальному, размах отклонений данных от средней арифметической обычно равен приблизительно 3 а в ту и другую стороны, поэтому считают, что все возможные отклонения параметра от его истинной величины будут лежать в пределах + За. Отклонения от средней арифметической для их сравнения выражают в долях сигмы:
— х~м — о *
где t — нормированное отклонение от средней арифметической; ж— любая варианта совокупности; М — средняя арифметическая; а — среднее квадратическое отклонение.
При расчете доверительного интервала для трех стандартных доверительных уровней: ^ = 95%; Р2==99%; Р3 = 99,9%, t — выбирается по табл. ЗП, по числу степеней свободы, соответствующему данному параметру.
Если объемы выборок достаточно велики, то принимаются t, равные 1,960; 2,576; 3,291 или округленно 2,0; 2,6; 3,3; по тем же доверительным уровням, т. е. берется последняя строка табл. ЗП.
Доверительный интервал средней арифметической строится по формуле
М — tmM <( истинное значение <^М ф tmM-(1.93)
Пример. Доверительный интервал средней арифметической ив § 1.40 построим на 95%-ном доверительном уровне, при числе степеней свободы v = 14—1 = 13, откуда по табл. ЗП: t = 2,160. Средняя равна М = 74,9, ее ошибка m.v = l,9, следовательно: 74,9—2,160-1,9 < истинное значение < 74,9 4-2,160-1,9, т. е. истинное значение средней арифметической находится в пределах не меньше 70,796 и не больше 79,004: 70,8 <_ М < 79,0.
Подставив в формулу (1.93) вместо М и тм величину любого параметра и его ошибки, например среднего квадратического отклонения, коэффициента вариации, коэффициента корреляции и других, можно построить для них доверительный интервал и таким образом оценить эти параметры.
Когда доверительный интервал необходимо построить при неизвестном типе распределения вариант, применяется неравенство П. Л. Чебышева. В этом случае подразумевают,' что размах отклонений от средней арифметической в совокупности с неизвестным распределением может быть больше, чем в нормальном распределении, т. е. более Зо.
Согласно неравенству П. Л. Чебышева, истинная средняя арифметическая находится в интервале:
772772
Мт^4=^ истинное значение ^ М 4—.,(1 -94)
/1 - р'V^-P'
где М — средняя арифметическая, рассчитанная по выборке; тм — ее ошибка; Р'— доверительный уровень в долях единицы, или 1 — Р' — W' — уровень значимости.
Построим доверительный интервал для средней из предыдущего примера по неравенству П. Л. Чебышева: М = 74,9; тм = 1>9; примем' доверительный уровень Р^ = 95%, т. е. уровень значимости И^ = 1 — Рх = 1—0,95 = 0,05. По формуле (1.94):
1919
.9истинная средняя 74,9 4г ■ ?
’|<0,05■/0,05
следовательно, согласно неравенству (1.94), средняя арифметическая с вероятностью 0,95 находится в пределах от 66,4 до 83,4,
1/0^51/0^5т. е. в более широком интервале, чем при нормальном распределении. При доверительном уровне Рх = 95% истинная величина статистического параметра (например, средней арифметической) находится в пределах от М — 4,47 тм до М 4- 4,47 тм.
1/0^5
1/0^5
где 4,47 —где 4,47 —каково бы ни было распределение данных
где 4,47 —
где 4,47 —
в’рассматриваемой выборке.
Если требуется определить доверительный интервал статистического параметра лишь с одной стороны (большей или меньшей), то значение t по сравнению с формулой (1.93) принимается несколько меньшим, по табл. 25П. Для трех стандартных уровней: Р1 = 95%; Р2 = 99% и Р3 = 99,9%, /при одностороннем до-
верительном интервале для больших (Л7 > 30) выборок соответственно равно: 1,645; 2,326 и 3,090. Используя пример из § 1.05, где средняя арифметическая равна: М = 75,05, а ее ошибка тм = 1 ■ 0,41, вычислим доверительный интервал в большую сторону на 95%-ном доверительном уровне:
истинное значение М 4 1пгм\ (1.95)
М -4 tmv = 75,05 4- 1,645 • 0,41 - 75,72.
Следовательно, правая или большая граница одностороннего доверительного интервала рассматриваемой средней арифметической составляет 75,72. Односторонний интервал с левой или меньшей стороны находится путем уменьшения М на величину 1тм;
М — tm^ ^истинное значение, (1.96) где t принимается для больших выборок согласно вышеприведенным значениям для одностороннего интервала или по табл. 2511, если выборки небольшие, при числе степеней свободы: Л7 — 1.
Построение шкал балльной оценки
В биологии и многих других областях научной и производственной деятельности для качественной оценки состояния объектов нередко используют различные шкалы, которые представляют собой последовательный ряд баллов или аналогичных им словесных выражений. Примерами могут служить шкалы зимостойкости деревьев и кустарников, оценки повреждаемости растений вредителями и болезнями, качества различных сельскохозяйственных и промышленных изделий, антропометрических, медицинских признаков, шкала оценки школьных знаний и многие другие. Разработка каждой отдельной шкалы вызывается конкретными потребностями, поэтому, а также из-за отсутствия соответствующих методических принципов, наблюдается большое разнообразие в способах балльной оценки объектов. При построении шкал балльной оценки рекомендуется принимать во внимание следующие положения.
Направление возрастания последовательности баллов шкалы должно логически соответствовать ее названию, как это, например, имеет место в шкале оценки знаний, где меньшим и большим знаниям соответствуют мёпьший (1) и больший (5) балл. В то же время встречаются шкалы, в частности для оценки зимостойкости растений, в которых наибольшей зимостойкости соответствует наименьший балл, и наоборот. Однако такие шкалы более правильно было бы называть шкалами незимостойкости.
Баллы шкалы желательно отсчитывать от нуля, что удобнее при математической обработке и графическом представлении
материала. Например, применяемая обычно 5-балльная шкала оценки знаний выглядела бы тогда так: 0, 1, 2, 3, 4 (вместо 1, 2, 3, 4, 5).
За число баллов в шкале можно принять близкое к этому понятие числа классов в статистической совокупности. Число классов взвешенного вариационного ряда (о его составлении см. § 1.01.) в основном находят следующими способами.
Эмпирическое правило, выработанное на основании большого опыта, по которому число классов следует принимать в пределах к = 12 + 3.
Согласно правилу Стургеса, объем выборки (7V) может быть выражен через число классов по формуле
N = 2t~1, откуда к = 3,32 lg N + 1, или
к = 1,44 In N + 1,
что применялось выше в формуле (1.02).
Число классов принимают также равным (Доерфель, 1969):
к = УХ
что использовано при построении формулы (1.03).
При известных параметрах ряда можно применить следующую формулу классового интервала:
с = 0,6 о,(1.97)
которая предусматривает разделение выборки в среднем на 10 классов, где с — величина классового интервала; or — среднее квадратическое отклонение.
Основным критерием правильности выбора числа классов и, следовательно, оптимального числа баллов является верная передача типа распределения частот данной совокупности: без излишних мешающих подробностей, что является следствием слишком большого числа классов и без чрезмерного упрощения, что бывает при недостаточном числе классов. Оптимальное число классов в распределениях биологических признаков наиболее часто бывает 10—12; при наименьшем числе классов — 5, и наибольшем — 21 класс (по опыту работы с ботаническими объектами).
IV. Интервалы вариационного ряда обычно делаются равными. Однако баллы большинства шкал имеют неравномерное количественное содержание, которое увеличивается с каждым баллом в сторону усиления признака или же сначала интервал увеличивается, а затем симметрично уменьшается. В связи с этим возможно применение двух следующих структур шкал.
Хотя неравномерное количественное содержание баллов почти всегда устанавливали, не руководствуясь каким-либо теоретическим обоснованием, в этом случае, вероятно, применяется психофизический закон Фехнера, согласно которому сила ощуще-
ния каких-либо раздражителей изменяется в арифметической прогрессии, в то время как сила явления, вызывающего раздражение, изменяется в том же направлении в геометрической прогрессии. Используя закон Фехнера, количественное содержание баллов шкалы с достаточным для практики приближением можно рассчитать по правилу геометрической прогрессии, которая задается последним членом п, начальным членом — а, числом членов — Ли знаменателем прогрессии — ск
Ig^^18^1?0-- (1-98)
Далее будет приведен пример расчета шкалы со структурой геометрической прогрессии.
В качестве другой структуры шкалы, когда интервалы между границами баллов сначала увеличиваются, а затем симметрично уменьшаются, применяют шкалу Кристля (Сепетлиев, 1968). В этом случае выборка дат изучаемого признака делится на группы, имеющие следующее количественное содержание (в процентах от всего объема выборки): 3, 7, 15, 50, 15, 7, 3 или 3, 7, 15, 50, 85, 93, 97, 100. Последний ряд указывает границы шкалы, которая является, таким образом, 8-балльной. Далее будет приведен пример расчета шкалы Кристля.
Для определения границ баллов шкалы и выбора начала ее отсчета важное значение имеет понятие порога чувствительности, интервала безразличия или предела ощущаемости, которое в терминах математической статистики можно считать уровнем значимости. В дополнение к трем стандартным уровням значимости — W\ = 5%, W2 = 1 %, W3 = 0,1 % — для построения шкал целесообразно ввести еще один уровень значимости — Wo = = 10%, при котором за интервал безразличия или допускаемую ошибку принимается 10%; это также та меньшая разница в величинах, которую в среднем еще надежно улавливают при глазомерных наблюдениях биологических объектов. Более точно интервал безразличия в каждом конкретном случае нетрудно определить специальными опытами.
Распределять варианты изучаемой совокупности по процентным группам в соответствии с выбранной структурой шкалы удобно способом процентилей по формуле
где ж0 — процентили в фактических числах; L — пижняя (мёнь шая) граница процентильного класса; /р — сумма частот до процентильного класса; с — классовый интервал; i — порядковый номер процентильной варианты; /р — частота процентильного класса.
В качестве примера рассчитаем шкалу Оценки величины цветков у поповника для сортооценки этого декоративного растения.
Т а б л и ц а 1.25
К вычислению процентилей
Диаметр цветков, -ММДиаметр цветков, -ММЧастота, /Частота, /Ряд накопленных частот,Ряд накопленных частот,Положение процентильных вариант,Положение процентильных вариант,
Диаметр цветков, -ММ
Диаметр цветков, -ММ
Частота, /
Частота, /
Ряд накопленных частот,
Ряд накопленных частот,
Положение процентильных вариант,
Положение процентильных вариант,
30-4344-5758-7172—8586-99100-113114—12830-4344-5758-7172—8586-99100-113114—128291191711214216291191711214216231 150 321 442 484 500231 150 321 442 484 500z15^60- *12 5*230^373*47,0ТГ485z15^60- *12 5*230^373*47,0ТГ485
30-43
44-57
58-71
72—85
86-99
100-113
114—128
30-43
44-57
58-71
72—85
86-99
100-113
114—128
29
119
171
121
42
16
29
119
171
121
42
16
2
31 150 321 442 484 500
2
31 150 321 442 484 500
z15
^60- *12 5
*230
^373
*47,0
ТГ485
z15
^60- *12 5
*230
^373
*47,0
ТГ485
С — 14С — 14N = 500
С — 14
С — 14
В табл. 1.25 приводится ряд распределения 500 цветков по их диаметру. Число классов было найдено по формуле (1.02).
За основу построения шкалы сначала примем структуру Кристля с изменением: вместо 7 и 15% возьмем соответственно 10 и 25%, так что процентное распределение вариант по градациям шкалы будет таким: 3, 10, 25, 50, 25, 10, 3, или нарастающим итогом: 3, 10, 25, 50, 75, 90, 97.
Найдем номера процентильных вариант т;, где i определяется из выражения
NP«
где i — помер процентильной варианты; N — объем выборки; Р° — процентное выражение процентиля.
Для данного случая i = -^- *Р° = 5Р°, откуда t3 5-3 = 15; 1'10 = 5-10 = 50; i25 = 5-25 = 125; i30 = 5*50 = 250; i75 = 5. •75 = 375; г90 = 5-90 - 450; г„ = 5-97 = 485.
Для каждого номера процентильной варианты отыщем класс, в котором она должна находиться. Удобно это делать с помощью ряда накопленных частот, который составлен в столбце 3 табл. 1.25. Варианта я:^ находится в классе 44—57, ж50 — в классе 58—71 и т. д., как указано в столбце 4 табл. 1.25. Распределение процентильных вариант по классам нужно для того, чтобы определить начало процентильного класса L и прочие данные для расчета по формуле (1.99).
щкала сортооценки поповника но диаметру цветков, составленная по процентилям Кристля
Баллы
Диаметр цветков, MJC
Цветки с данным диаметром в общей совокупности, %
Баллы
Диаметр цветков, мм
Цветки с данным диаметром в общей совокупности, %
1
0-49
3
$
80-91
25
9
50- 59
7
6
92-101
15
3
60-69
15
7
102-114
7
4
70 79
25
8
115 и выше
3
Расчет процентилей в фактических числах ведется следующим образом: для Р° = 3% процентильная варианта ж16 находится в классе 44—57, следовательно, L — 44; i = 15; /р = 2; с = = 14; /р = 29, откуда по формуле (1.99)
д? _ 44 . _ <1^^Л = 50,276;
,г;о_58+£0^60,235;
Z5 = 58 4- 025 ^ :— - 69,059;
До 72 + f250- 1^—^ _ 80,187;
^.од 86 + (375-^1РЛ£ = 92)248;
4о - 100 -г ^°-^.' 14 = Ю2,67;
47 - 114 -г <^1^М1Л = 114,88.
Округляя полученные процентили до практически применяемой точности, получим искомую шкалу (табл. 1.26). Если окажется, что рассчитанная шкала слишком детальна, ее можно упростить за счет попарного объединения баллов. Вместо структуры Кристля, когда необходимо рассчитать шкалы с иным числом баллов, возможно применение следующих рядов процентилей: 10, 25, 50, 75, 90 (6-балльная шкала); 1, 3, 10, 25, 50, 75, 90, 97, 99 (10-балльная шкала); 1, 3, 10, 15, 25, 50, 75, 85, 90, 97, 99 (12-балльная шкала).
Как ранее указывалось, при определении числа баллов шкалы лучше руководствоваться формулой (1.02), по которой находят число классов взвешенных рядов вообще, а при назначении конкретных границ баллов можно использовать принцип геометрической прогрессии. Принимая за основу два этих принципа, вместо
структуры Кристля, рассчитаем другую шкалу сортооценки цветков поповника. :
Число баллов определялось при составлении вариационного ряда по формуле (1.02).
При помощи геометрической прогрессии по формуле (1.98) надлежит построить ряд процентилей, который определит границы баллов. Значение п берется в процентах, в зависимости от формы кривой распределения. Если кривая распределения двускатная, то и = 50%, так как рассчитывается лишь половина процентилей шкалы, а вторая половина процентилей ряда принимается симметричной первой, причем к следует взять равным ближайшему четному числу. Если кривая распределения односкатная, то процентили можно рассчитывать сразу па всю шкалу при п = 100% и без изменения к до ближайшего четного числа.
Рассчитаем две шкалы: сначала для ряда с двускатной кривой распределения частот (диаметр цветков поповника), затем для ряда с односкатной кривой распределения (число детки на одну луковицу у гладиолуса).
Число классов ряда распределения диаметров цветков поповника, определенное ранее по формуле (1.02), равно к = 7. Примем к = 8, как ближайшему четному числу, следовательно, число баллов в искомой шкале будет также равно 8.
Интервал безразличия, или первый член геометрической прогрессии, возьмем а = 2%.
Последний член прогрессии и = 50%, так как рассчитываем шкалу по ряду с двускатной симметричной кривой распределения частот. Следовательно, шкала рассчитывается для половины ее баллов, поэтому 0,5 /с = 0,5-8 = 4. Таким образом, все исходные данные получены и знаменатель прогрессии
lg d = l^2- 0,466; d 2,924.
Члены этой геометрической прогрессии получают последовательным умножением их на знаменатель d: 2; 5,848; 17,099; 49,997. Округляя полученные процентили и распространяя их симметрично на другую половину ряда, получим искомый ряд процентилей: 2, 6, 17, 50, 83, 94, 98%, которые образуют структуру 8-балльной шкалы.
По формуле (1.100), где -^у- = -^у = 5, находим номера процентильных вариант: г2 = 5-2 = 10; i6 = 5-6 = 30; i17 = 5-17 = = 85; t50 = 5 • 50 = 250; i83 = 5-83 = 415; iM = 470; г88 = 490.
Процентильная варианта ж10 находится в классе 44—57 (табл. 1.25), где L = 44; i = 10; /р = 2; с = 14; /р = 29, откуда по формуле (1.99)
4 = 44+ (1°-2)-^ = 47,9.
Точно таким же образом вычисляются все остальные процентили: 4 = 57,5; 47 = 64,4; 4о = 80,2; 4з = 96,9; 41=109,3; 4s = 119,3, которые составляют границы баллбв шкалы, приводимой в табл. 1.27.
Таблица 1.27
Шкала оценки размера цветков поповника, составленная по геометрической прогрессии процентилей
Баллы
Диаметр цветков, л:м
Цветки с данным диаметром в общей совокупности, %
Баллы
Диаметр цветков, мм
Цветки с данным диаметром в общей совокупности, %
1
0-48
2
5
81-97
33
2
49-58
4
6
98-109
11
3
59—64
11
7
110-119
4
4
65-80
33
8
120 и выше
2
Как видим, шкала, составленная по структуре геометрической прогрессии, более точно оценивает крайние отклонения диаметра цветков (первый и восьмой баллы охватывают по 2% совокупности) и менее детальна в оценке обычно встречающихся диаметров (центральные баллы по 33%), что можно считать преимуществом этой шкалы по сравнению со шкалой, построенной в табл. 1.26.
В качестве примера рассчитаем шкалу по ряду распределения с односкатной кривой распределения частот с применением структуры геометрической прогрессии процентилей (данные табл. 1.28).
Число классов распределения количества детки па луковицу было установлено формулой (1.02): к = 10.
Для расчета шкал по рядам с односкатной кривой распределения частот, как указывалось выше, применяется формула геометрической прогрессии (1.98), в которой всегда « = 100%, а шкала рассчитывается сразу для всего ряда, в противоположность рядам с двускатной кривой распределения частот. В нашем примере «=100%, интервал безразличия возьмем а = 10%, к = = 10, следовательно:
lg(/ = ^ = Г =0,111; (/ = 1,291.
Умножая первый член а и все последующие на знаменатель d, получим ряд процентилей (с округлением до целых чисел): 10, 13, 17, 22, 28, 36, 46, 60, 77, 100%.
Номера процентильных вариант по формуле (1.100) следующие:
*ю = -^‘10=4,96.10 = 49,60; /13 = 64,48;/17 = 84,32;/22 = 109,12; i2s = 138,88; i36 = 178,56; i,6 = 228,16; ieo = 297,60; i„ = 381,92;
*ioo = 496,00.''
В столбце 5 табл. 1.28 указано, в каких классах находятся пр* центильные варианты, номера которых в таблице даются окру ленно.
Процентиль в фактических числах для гГ) по формул (1.99):
,.о _ п 1 (49,60 0) • 10 _ «
J io — и ~* •
Вычисляя остальные процентили таким же образом, получил 43= 3,34; ж?7 = 4,37; 4г = 5,65; 4 = 7,20; 4в = 9,25; 4в = 12,4? 4 = 17,42; 4? = 26,56; 4о = 100,00.
Округляя полученные границы баллов, составим шкалу, прив< денную в табл. 1.29.
Если суммировать проценты в столбце 3, то результат буде несколько больше 100%, что вызвано округлением процентов д целого числа. Количество детки в шкале дается в дробных числах так как оценка делается на основании средних величин.
Таблица 1.28'
К расчету шкалы сортов гладиолуса по числу детки на луковицу
Класс числа детки
Середина класса
Частота
Накопленная частота
Положение процентильных вариант, х.
0-9,9
5
193
193
49,6; 64,5; 84,3; 109,1 138,9; 178,6;
10-19,9
15
141
334
228,2; 297,6;
20-29,9
25
73
407
381,9;
30-39,9
35
33
440
—
40—49,9
45
26
466
—
50-59,9
55
И
477
—
60—69,9
65
8
485
—
70-79,9
75
4
489
—
80-89,9
85
3
492
—
90-100
95
4
496
496,0;
к = 10
с — 10
N = 496
—
—
Таблица 1.29
Шкала оценки сортов гладиолуса по количеству детки на луковицу
Баллы
Количество детки на луковицу
Растения с данным количеством детки на одну луковицу, %
Баллы
Количество детки на луковицу
Растения с данным количеством детки на одну луковицу, %
1
0-2,5
10
6
7,2-9,2
8
2
2,6-3,2
3
7
9,3-12,4
10
3
3,3-4,3
4
8
12,5—17,3
14
4
4,4-5,6
5
9
17,4-26,5
17
5
5,7-7,1
6
10
26,6-100
27
Все вышерассмотренные шкалы были рассчитаны па основании эмпирических или фактических частот рядов распределений. Такие частоты нередко содержат случайные отклонения от общей тенденции их распределения. Для того чтобы по возможности освободить шкалу от влияния случайных отклонений, ее следует рассчитать по теоретической кривой распределения.
Рассчитаем шкалу, построенную на основании теоретических частот нормального распределения цветков поповника, по диаметру.
Определение числа классов ряда, приведенного в табл. 1.30, сделано по формуле (1.02); принимаем к = 8, с округлением до четного числа.
В качестве структурной основы шкалы возьмем процентили, рассчитанные выше для этого же ряда по геометрической прогрессии: 2, 6, 17, 50, 83, 94, 98%.
Номера процентильных вариант по формуле (1.100), также вычисленные выше (округленно): U = 10; /6 = 30; iu = 85; iso = 250; i83 = 415; i81 = 470; i98 = 490.
Положение процентильных вариант в ряду указано в столбце 4 табл. 1.30.
Таблица 1.30
К вычислению процентилей по частотам нормальной кривой
Класс, диаметр цветков, alm
Частота нормальной кривой
Ряд накопленных частот
Положение процентильных вариант, х^
30-43
4,48
4,48
44-57
31,57
36,05
^101 -^зо
58-71
106,14
142,19
^85
72—85
170,38
312,57
^250
80-99
130,58
443,15
^415**
100-113
47,76
490,91
114-128
8,34
499,25
с = 14
N = 499,25
—•
—
Таблица 1.31
Шкала оценки цветков поповника по диаметру, составленная но частотам нормальной кривой
Баллы
Диаметр цветков, мм
Цветки с данным диаметром в общей совокупности, %
Баллы
Диаметр цветков, мм
Цветки с данным диаметром в общей совокупности, %
1
0-46
2
5
81-96
33
2
47-55
4
6
97-107
и
3
56-64
11
7
108-114
4
4
65—80
33
8
114 и выше
2
По формуле (1.99) были получены следующие процентили: 46,448; 55,317; 64,457; 80,859; 96,982; 107,871; 114,026. Округляя эти числа, составим шкалу (табл. 1.31).
В заключение кратко перечислим способы, которыми могут быть рассчитаны шкалы:
На основе структуры Кристля: 3, 7, 15, 50, 15, 7, 3% или аналогичного ряда процентилей с произвольным их числом, следовательно, и числом баллов.
На основе ряда процентилей, образованного геометрической прогрессией, начиная от величины интервала безразличия, или уровня значимости. Число баллов задается формулой (1.02):
а) для рядов с двускатной кривой распределения частот шкала рассчитывается для половины ряда, вторая половина образуется симметрично первой, число баллов (если оно нечетное) округляется до ближайшего четного числа; б) для рядов с односкатной кривой распределения частот шкала рассчитывается сразу по всему ряду, число классов не изменяется.
Каждый из способов (1, 2а, 26) может быть применен двояко — к эмпирическим или к теоретическим частотам данного ряда. Если кривая эмпирических частот имеет неровности и заметные случайные отклонения, то ее рекомендуется выровнять любой подходящей кривой распределения или даже какой-либо другой кривой и шкалу рассчитать по теоретическим частотам.
Глава 2
КОРРЕЛЯЦИЯ
Между величинами может существовать более точная, или функциональная связь, когда одному значению аргумента (ж) соответствует одно определенное значение функции (у), и менее точная — корреляционная связь, когда одному конкретному значению аргумента соответствует приближенное значение или некоторое множество значений функции, в той или иной степени близких друг к другу. Близость в этом множестве значений функции друг к другу соответствует понятию силы, или тесноты корреляционной связи. Чем больше сила корреляционной связи, тем ближе эта связь к функциональной. Объекты ботанических исследований (популяции, особи, органы, клетки) всегда в той или иной степени неоднородны по своим наследственным особенностям и в любом, даже тщательно поставленном эксперименте его объекты испытывают неучитываемые воздействия многих факторов внешней среды.
Поэтому между признаками объектов ботанических исследований бывают исключительно корреляционные связи.
Например, большей длине корня у высших растений, как правило, соответствует в общем большая высота стебля; в этом случае имеет место положительная или прямая корреляция. Чем растения крупнее, больше по размерам или по весу, тем меньшее их число может произрастать на одной и той же единице площади участка земли; в этом случае существует отрицательная или обратная корреляция. В одной и той же парной связи может быть и прямая, и обратная корреляция. Например, высота растений и число соцветий на них у гелениума осеннего находятся в прямой связи, но до некоторого предела, после которого при дальнейшем увеличении высоты растений происходит не увеличение, а, наоборот, уменьшение числа соцветий на них. Поэтому при изучении корреляций следует брать достаточно широкие пределы изменений обоих признаков, чтобы была возможность выявить и такие двузначные связи. Сложность изучения корреляционных связей заключается также и в том, что все признаки (например, у растения) в различной степени взаимосвязаны и при исследовании методом парной корреляции можно считать доказанной лишь ту связь между двумя признаками, механизм которой биологически
понятен; в противном случае можно установить корреляцию там, где ее нет, ибо изменения двух признаков могут более сильно зависеть от изменения другого, третьего признака или от совокупности некоторых других признаков. Поэтому более правильным было бы совместное, одновременное исследование связей всего комплекса признаков данного растения или явления с применением методов множественной корреляции и корреляционных плеяд.
В главе 2 методы вычисления показателей корреляции располагаются в следующем порядке: ранговые показатели корреляции, наиболее простые по технике вычисления (§ 2.02, 2.03), обычный коэффициент корреляции по схеме Бравэ — Пирсона (§ 2.04, 2.05), схемы расчетов для случаев криволинейной связи (§ 2.06^—2.12), некоторые частные случаи корреляционных связей (§ 2.13—2.16).
Для проверки гипотезы о наличии взаимосвязи между двумя признаками, которые могут быть выражены количественно, вычисляют различные показатели силы и достоверности этой связи. Для невзвешепных рядов (§ 1.01) составление корреляционной решетки (пример ее см. в табл. 2.01) пе требуется, так как проще вычислить коэффициент корреляции без ее составления. Если объемы выборок значительны и требуют группировки вариант во взвешенные ряды, то для вычисления различных показателей связи — коэффициента корреляции, корреляционного отношения, полихорического показателя связи — желательно, особенно при отсутствии вычислительной техники, составить корреляционную решетку. Вычисление эмпирической линии регрессии сильно облегчает возможность выявления формы связи, с тем чтобы далее установить: какой из показателей связи следует применить в данном конкретном случае. Если связь прямолинейная, то вычисляют коэффициент корреляции, показатель корреляции Спирмена, коэффициент корреляции Кепдэла, а при криволинейной связи вычисляют корреляционное отношение и полихорический показатель связи независимо от объема выборки. Точки эмпирической линии регрессии, вычисленные по методу, приведенному ниже в данном параграфе, используются также при вычислении корреляционного отношения. При вычислении прямого корреляционного отношения требуется получить средние значения нескольких у для одного определенного значения ж, а при вычислении обратного корреляционного отношения вычисляют усредненные значения нескольких ж для определенного значения у. Таким образом, существуют два вида эмпирической линии регрессии — у/х ях!у, т. е. у по ж и ж по у. Вычисление точек эмпирической линии регрессии производится также и в том случае, когда корреляционное отношение вычисляют для невзвешепного ряда.
§ 2.00. Таблица для выбора метода вычисления показателя корреляции
(0). Вычислить показатель корреляции между двумя признаками2
— Вычислить показатель корреляции между тремя признаками. Коэффициент множественной корреляции — § 2.16.
(1). Один из рядов данных не подразделяется на две альтернативные группы, оба ряда данных имеют сходное построение (например, х, у в табл. 2.02. 2.04, 2,05. 2.11. 2.12). .3
— Один из рядов данных подразделяется на две альтернативные группы (табл. 2.13)Бисериальныйкоэф
фициент корреляции — § 2.14, § 2.15.
(2). Число сопряженных вариант в рядах невелико (например, 30 и меньше), в связи с чем не требуется составление корреляционной решетки4
— Число сопряженных вариант в рядах сравнительно большое, для дальнейшей работы лучше составить корреляционную решетку (§ 2.01) по типу табл. 2.01, 2.11, 2.126
(3). Связь между рядами криволинейная (что можно предварительно установить по графику, а затем проверить по методам из § 2.07)Корреляционные отношения —
§ 2.08, § 2.09
— Связь между рядами прямолинейная (§ 2.01 и § 2.07). . . 5 5 (4). Оба ряда представляют собой обычные числа, полученные главным образом в результате измерений или подсчетов Коэффициент корреляции — § 2.04
— Оба ряда или один из них представляют собой ранговые или балльные оценки признаков
Показатель корреляции рангов — § 2.02 Коэффициент корреляции рангов — § 2.03. G (3). Связь между рядами криволинейная, что можно предварительно установить при помощи эмпирической линии регрессии (§ 2.01), а затем проверить по методам из § 2.07 . . . .Корреляционные отношения — § 2.06, § 2.10, § 2.11.
Коэффициент сопряженности Чупрова — §2.12.'
— Связь между рядами прямолинейная (§ 2.01 и § 2.07) ... Коэффициент корреляции — § 2.05, § 2.16. Тетрахорический коэффициент сопряженности — § 2.13.
§ 2.01. Корреляционная решетка и эмпирическая линия регрессии
Перед составлением корреляционной решетки оба ряда данных надо сгруппировать во взвешенные ряды (§ 1.01). Составление корреляционной решетки и вычисление точек эмпирической линии регрессии производится в следующем порядке.
Вегетэпиошшй период (х), дпиВегетэпиошшй период (х), дпи
Вегетэпиошшй период (х), дпи
Вегетэпиошшй период (х), дпи
Рис. 6. Эмпирические линии регрессии (признаки ячменя)
— вес 1000 семян в зависимости от вегетационного периода (у/х);
г — продолжительность вегетационного периода в зависимости от веса семян (х/у)
После составления обоих вариационных взвешенных рядов и вычисления их основных параметров следует назначить аргумент (ж) и функцию (у), т. е. определить, что является соответственно причиной и следствием в изучаемой взаимосвязи. Это поможет лучше ориентироваться в расчетах показателей связи, хотя само по себе является довольно условным приемом, так как в биологии часто исследуются связи, зависящие не друг от друга, а от чего-то третьего. Многие из парных взаимосвязей позволяют легко установить, какой член связи у них является аргументом. Но в некоторых случаях правильность назначения аргумента определяется лишь после вычислений и заключается в том, что у рассматриваемых двух рядов величина прямого корреляционного отношения будет больше, чем у обратного корреляционного отношения. Если обратное корреляционное отношение окажется больше прямого, за аргумент принимают другой из двух рядов. При этом пет необходимости повторять вычисления, так как величина обоих корреляционных отношений не изменяется. При исследовании взаимосвязи — продолжительность вегетационного периода — вес 1000 семян у сортов ячменя (табл. 2.01) — за аргумент (ж) предположительно принимается продолжительность вегета- . ционпого периода, которая может оказывать влияние на вес семян (у).
Вариационный ряд, который будет принят за функцию, лучше располагать вертикально, числа ряда при этом возрастают снизу вверх. Значения аргумента располагаются в горизонтальном ряду, они возрастают слева направо. Такое же расположение рядов принимается при их графическом представлении. В табл. 2.01 приводятся границы классов и их срединные значения, т. е. варианты х, у, и затем частоты. Исходные данные разносят по классам корреляционной решетки так же, как и при составлении вариационного ряда (§ 1.01), с той разницей, что здесь каждая варианта соответствует определенным значениям обоих рядов одновременно. Сумма частот столбцов должна равняться сумме частот строк и объему выборки в данном случае N — 214.
Таблица 2.01
Вегетационный период (в днях) н вес 1000 семян (в г) у 214 сортов ячменя
Вес 1000 семян, г
Вегетационный период (границы классов и их середина) х
границы класса
середина класса
V
57,5
62,4
62,5
67,4
67,5— 72,4
72,5—
77,4
77,5
82,4
82,5—
87,4
87.502,5
1у
х/у
60
65
70
75
80
85
90
55-61
58
1
2
3
7
1
14
76,8
49—54,9
52
5
8
10
11
2
2
38
75,4
43-48,9
46
7
10
17
33
3
1
71
76,3
37—42,9
40
1
8
9
20
18
1
1 '
58
74,6
31-36,9
34
1
4
5
10
5
1
26
73,3
25-30,9
28
3
3
6
70,0
19-24,9
22
1
1
65,0
/х
—
2
29
34
63
74
8
4
N = 214
—
у!х
—
37,0
41,4
44,8
42,9
45,8
46,8
47,5
—
—
Расчет эмпирической линии регрессии у!х, которая используется при вычислении прямого корреляционного отношения, ведется путем определения взвешенных средних арифметических для отдельных участков ряда у. Точка 37,0 (табл. 2.01) получена так:
40 • 1 + 34.1240 • 1 + 34.12= 37,0.= 37,0.
40 • 1 + 34.1
2
40 • 1 + 34.1
2
= 37,0.
= 37,0.
Эмпирическая линия регрессии х!у (рис. 6) вычисляется в том случае, если требуется определить обратное корреляционное отношение, т. е. когда правильность первоначального назначения аргумента вызывает сомнение. Точки х!у получены путем определения групповых средних в горизонтальных рядах корреляционной решетки. Например:
65-1+70 • 2 + 75 • 3 + 80 • 7+85 - 1 _ 7g g 14’ '
= 75,4; и т. д.= 75,4; и т. д.65 • 5 + 70 • 8 +175 • 10 + 80 • 11 + 85 • 2 + 90 • 2
= 75,4; и т. д.
= 75,4; и т. д.
38
Вычисленные точки эмпирической линии регрессии у!х наносим на график (рис. 6) и соединяем линией. Полученная эмпирическая линия позволяет заключить, что связь между изучаемыми признаками положительная, так как при увеличении аргумента функция возрастает и близка к прямолинейной. Следовательно, в данном случае для определения степени силы связи можно применить коэффициент корреляции (§ 2.05).
Рис. 7. Формы корреляционных связей (см. также схемы криволинейных связей па рис. 8) с — прямолинейная отрицательная связь; б — прямолинейная положительная связь; в, г, О —отсутствие связи между х и у; е— кольцевая связь; х — аргумент; у — функцияРис. 7. Формы корреляционных связей (см. также схемы криволинейных связей па рис. 8) с — прямолинейная отрицательная связь; б — прямолинейная положительная связь; в, г, О —отсутствие связи между х и у; е— кольцевая связь; х — аргумент; у — функция
Рис. 7. Формы корреляционных связей (см. также схемы криволинейных связей па рис. 8) с — прямолинейная отрицательная связь; б — прямолинейная положительная связь; в, г, О —отсутствие связи между х и у; е— кольцевая связь; х — аргумент; у — функция
Рис. 7. Формы корреляционных связей (см. также схемы криволинейных связей па рис. 8) с — прямолинейная отрицательная связь; б — прямолинейная положительная связь; в, г, О —отсутствие связи между х и у; е— кольцевая связь; х — аргумент; у — функция
При обработке невзвешенных малочисленных рядов, как указывалось в начале главы, корреляционная решетка не составляется. однако график зависимости у от х по непосредственным данным вычерчивается для того, чтобы можно было судить о форме данной взаимосвязи, руководствуясь рис. 7. Вычерчивание такого графика перед вычислением показателя корреляции часто позволяет легко найти правильный метод обработки материала. Многие корреляционные связи, не слишком отклоняющиеся от прямолинейных, могут быть удовлетворительно характеризованы коэффициентом корреляции, который вычисляется проще, чем корреляционное отношение. Допустимая степень отклонения корреляционной связи от прямолинейной в таких случаях определяется при помощи критериев криволинейности (§ 2.07).
02. Показатель корреляции рангов по Снирмэну
Сила корреляционной связи между двумя признаками при помощи рассматриваемого показателя измеряется в основном для небольших невзвешенных рядов, которые представляют собой качественные оценки признаков.
Численность рядов в принципе может быть любой, однако ранжирование выборки большого объема становится затруднительным. Достаточную точность вычисления обеспечивает формула
(2.01)(2.01)6^-Вх + В^
(2.01)
(2.01)
Р — 1 ЛЦ№ — 1)
где р — показатель корреляции рангов; N — число пар вариант корреляционных рядов; Вх — поправка на объединение рангов
р ряду x по формуле (2.03); Ви — поправка па объединение рангов в РЯДУ У п0 формуле (2.03); S62 — сумма квадратов попарных разностей рангов.
Если в рядах хну отсутствуют объединенные ранги, показатель корреляции рангов рассчитывается по формуле
(2.02)(2.02).626^
(2.02)
(2.02)
ДГ (ДГ-2 _ 1) <
где обозначения те же, что и в формуле (2.01). В биометрических исследованиях в подавляющем большинстве случаев применяют формулу (2.02).
Таблица 2.02
К вычислению показателя корреляции рангов между оценками двух экспертов
X
У
Ранг, х
Ранг, у
Разность рангов, 6
62
52
64
10
8
2
4
53
66
8,5
6
2,5
6,25
63
57
5
13
8
64
72
62
1
10
9
81
56
61
6
И
5
25
34
63
12
9
3
9
33
71
13
2
и
121
44
70
11
3,5
7,5
'56,25
53
65
8,5
7
1,5
2,25
64
70
3,5
3,5
0
0
64
72
3,5
1
2,5
6,25
54
68
7
5
2
4
67
60
2
12
10
100
—
—
—
—
Сумма . . .
479,00
Один из возможных случаев применения показателя корреляции рангов показан на следующем примере. Требуется объективно подобрать из числа опытных специалистов группу экспертов для оценки сортов декоративных растений. Для этого всем этим специалистам предлагается оценить 13 сортов одной цветочной культуры (вообще желательно для этой цели брать большую выборку: 20—30 сортов или других образцов). Оценка ведется по декоративно-хозяйственным признакам растений и выражается в сумме баллов. Затем между оценками всех специалистов находят попарно показатель корреляции рангов и отбирают в качестве экспертов тех лиц, оценки которых в наибольшей степени совпадают. При этом требуется вычислить показатели корреляции, число которых равно —-, где W — число кандидатов на
должность эксперта. Для примера вычислим показатель корре-
ляции рангов между оценками только двух экспертов — х и ^ (столбцы 1 и 2, табл. 2.02).
Ранжируем данные рядов х и у, от большего к меньшему, присваивая вариантам порядковые номера. Варианта 72 ряда $ получит ранг 1, варианта 67 — ранг 2, варианты 64 и 64 должны были бы получить ранги 3 и 4, но так как они имеют равное
-»к3+4
значение, то берется средний ранг для обеих вариант: —— — = 3,5.
Остальные ранги рядов жиг/ приведены в столбцах 3,4 табл. 2.02.
Получаем разности рангов без учета их знаков (столбец 5).
Возводим разности в квадрат и суммируем, получаем
S62 = 479 (столбец 6).
Вычисляем поправки по формуле:
^(^S2^,(2.03)
где Вх или Ву — поправки па объединение рангов в ряду х или у, п — число рангов в каждой группе объединенных рангов;
п3 — п„
— знак суммирования всех значении —^— > вычисленных для отдельных групп. Число групп объединенных рангов в ряду х — 2 группы. В каждой из групп по два ранга: 8,5 и 8,5; 3,5 и 3,5, отсюда по формуле (2.03)
(2з_2)+ (23-2) _ .
~12* L
В ряду у одна группа объединенных рангов с двумя рангами в неьЗ 3,5 и 3,5, отсюда по формуле (2.03)
Подставляем полученные значения в формулу (2.01):
Р = 1Р = 1= -0,32.= -0,32.6 (479+ 1 +0,5)
Р = 1
Р = 1
= -0,32.
= -0,32.
13 (13^ — 1)
Вычисляя по тем же данным, но без поправок на объединенные ранги по формуле (2.02), получим:
6 • 47913(132 — 1)6 • 47913(132 — 1)= - 0,32.= - 0,32.
6 • 47913(132 — 1)
6 • 47913(132 — 1)
= - 0,32.
= - 0,32.
Таким образом, для оценки силы связи в данном случае можно было бы пользоваться и формулой (2.02).
Оценка достоверности показателя корреляции рангов производятся по формуле
(2.04)
где / — критерий достоверности Стьюдента; число степеней свободы для его оценки по табл. ЗП определяется по выражению
v = N - 2,
р — показатель корреляции рангов; N — объем ряда ж.
Достоверность показателя корреляции рангов для приведенного примера по формуле (2.04):
* = ".32/1^2 = Ы2-
По табл. ЗП при W'x — 0,05 и v = 13 — 2 — 11, t — 1,796; следо
вательно, полученный показатель корреляции рангов недостоверен, и кандидаты на должность эксперта х и у оба не подходят или не подходит один из них, а кто именно, должны указать остальные показатели корреляции рангов между оценками других экспертов, рассмотренные совокупно.
Достоверность показателя корреляции рангов можно определить также ио табл. 7П. При N = 13 вычисленное значение должно быть равно или больше табличного, которое равно 0,48; следовательно, подтверждается сделанный выше вывод о недостоверности показателя корреляции. Его критические значения при объеме совокупности N можно также рассчитать по формулам: для 5%-ного уровня значимости
(2.05)(2.05)_1,96/. _ 0,16 \
(2.05)
(2.05)
Р “ V^-l \ N — 1 /
для 1%-ного уровня значимости
Последние формулы дают более строгую оценку. Если вычисленное значение р будет меньше, чем полученное по формуле (2.05) на 5 %-ном уровне значимости, то он недостоверен. Достоверным показатель корреляции рангов считается лишь тогда, когда он больше критического значения, полученного по формуле (2.06) па 1%-ном уровне значимости.
03. Коэффициент корреляции рангов по Кендэлу
Сила корреляционной связи между двумя невзвешенными ря дами может быть определена посредством вычисления коэффициента корреляции рангов, который рекомендуется вычислять для рядов не менее чем из 10 вариант. Численность ряда в большую сторону теоретически может быть любой, однако ранжирование рядов с большим числом вариант при ручном счете становится затруднительным, поэтому обычно применяют коэффициент Кендэла к небольшим выборкам. Вычисление производится по формуле:
т = Б . - , (2.07)
где т — коэффициент корреляции рангов по Кендэлу; Б — сумма рангов, пример ее вычисления приводится в табл. 2.03; N — объем выборки; Вх, Вд — поправки на объединение рангов по формуле (2.08).
Коэффициент корреляции рангов является более строгой оцеп кой связи, чем показатель корреляции рангов, так как по абсолютному значению |р|)>|т| для одних и тех же данных. На примере, приведенном в § 2.02, вычислим коэффициент корреляции рангов по формуле (2.07).
Рекомендуется расположить все значения ряда .г. начиная с меньшего к большему; сопряженные значения у ранжируем вместе с х, т. е. передвигаем одновременно, они также займут соответствующее им положение.
Всем значениям обоих рядов от большего к меньшему присваиваем порядковые номера (ранги) так, как это описано в § 2.02. пункт 1. В примере предыдущего параграфа ряды уже ранжированы (столбцы 3,4, табл. 2.02), остается лишь расположить ряды по порядку возрастания рангов ряда х (табл. 2.03).
Ранги оцепим слева направо, парами сопряженных рангов: в каждой паре один ранг из ряда х и другой, соответствующий ему,
Таблиц а 2.03
Ранги (ж и у) и их оценка для вычисления коэффициента корреляции Кендэла
Ранги
1210 121210 123,53,51 3,53,53,51 3,55613 115613 1178,5 8,5 10 11 1278,5 8,5 10 11 1256783,5 956783,5 9139139
12
10 12
12
10 12
3,53,5
1 3,5
3,53,5
1 3,5
56
13 11
56
13 11
78,5 8,5 10 11 12
78,5 8,5 10 11 12
56783,5 9
56783,5 9
13
9
13
9
Оцейга рангов
БольшеМеньшеБольшеМеньше-L2 -1 -1-2 -2 -1-L2 -1 -1-2 -2 -10 2 = -^-30- 1 2 - - 450 2 = -^-30- 1 2 - - 45
Больше
Меньше
Больше
Меньше
-L2 -1 -1
-2 -2 -1
-L2 -1 -1
-2 -2 -1
0 2 = -^-30
- 1 2 - - 45
0 2 = -^-30
- 1 2 - - 45
Сумма оценок: Б = +30 -|- (—15) 15
из ряда у. Каждая пара рангов сравнивается со всеми стоящими справа от нее. При сравнении могут возникнуть три случая: а) ранг у левой из сравниваемых двух пар меньше соответствующего ранга у из правой пары, в этом случае записываем +1; б) ранг у из левой пары больше соответствующего ему ранга из правой пары, в этом случае записываем —1; в) ранги сравниваемых пар совпадают в одноименном ряду, в этом случае записываем 0. Начинаем с нары рангов 1—10, сравнивая ее со всеми 12 парами, стоящими справа. В паре 2—12 ранг у — 10 левой пары меньше ранга у -- 12, записываем -| 1; в следующей паре: 3,5—1 левый ранг у -- 10 больше правого ранга у — 1, записываем —1 и т. д. Если ранги совпадают, например при сравнении восьмой пары с девятой (8,5—6 и 8,5—7) или четвертой пары с одиннадцатой (3,5—3,5 и 11—3,5), записываем 0. Затем подсчитываются суммы положительных единиц и отрицательных единиц, что даст значение Б. Указанный алгоритм поясняет принцип построения коэффициента и пригоден для программирования и вычисления на ЭВМ.
При ручном счете рекомендуется поступать следующим образом. Для оценки любой пары рангов, начиная с первой, подсчитываем, сколько рангов у из находящихся справа от нее имеют значения большие, чем значение ранга у, находящееся в оцениваемой паре, и записываем это число с плюсом. Затем подсчитываем справа же число пар, значение ранга у в которых меньше значения у из оцениваемой пары, и записываем это число рангов со знаком минус.
Перед тем как оценить каждую пару, следует выявить совпадающие ранги (в одноименном ряду) и не принимать в расчет те пары рангов, в которых они встречаются. Первая пара, 1 — 10, имеет ранг у — 10, больше которого справа в ряду у имеется 3 ранга: 12, 13. 11. Записываем Д-З. Меньше 10 справа насчитывается 9 рангов. Записываем под оцениваемой парой —9. Совпадающих рангов пет. Оцененную пару 1—10 исключаем из дальнейших подсчетов. Во второй паре, 2 — 12. ранг у =- 12, больше которого справа имеется 1 ранг и меньше его 10 рангов, записываем под ним соответственно -| 1 и —10. Совпадающих рангов нет.
Оцененную пару и далее каждый раз исключаем из расчетов. В третьей ларе, 3,5—1. в ряду х имеется ранг 3,5, совпадающий по значению с рангом х — 3,5 в четвертой паре, поэтому четвертую пару исключаем из цикла оценки третьей пары. Получаем: число рангов, больших единицы (справа равно -|-9) и меньших единицы, равно 0. Также при сравнении четвертой пары 3,5—3,5 с другими исключаем одиннадцатую пару: И—3,5, так как в ней ранг у — — 3,5 совпадает с таковым из четвертой пары и т. д.
Суммируем положительные и отрицательные суммы оценок:
Б д 30 + (-45) - -15.
97974 Зайцев Г. Н.
97
97
Находим поправки на объединение рангов в обоих рядах по формуле
ВДВ^ = ^±11.,(2.08)
где Вх — поправка на объединение рангов в ряду х; Ву — поправка на объединение рангов в ряду у; п — число объединенных ран гов в каждой группе.
В ряду х объединено по два ранга в двух группах — 3,5: 3,5 и 8,5; 8,5; отсюда по формуле (2.08)
в^ = 2 (2 — 1) + 2 (2 — 1) = 2
В ряду у объединены два ранга в одной группе — 3,5; 3,5; отсюд;
в --1
Подставляем в формулу (2.07) найденные значения Б, В, и В и;
13(13-1) 2] |-13(13 — 1)
Значимость коэффициента корреляции Кендэла оцениваем по формуле
/
2 (2ДГ + 5)'
9N (N — 1)
где / — критерий достоверности Стьюдента; т — коэффициент корреляции Кендэла; 7V — объем выборки; тх — ошибка коэффициента корреляции (табл. 8П). Коэффициент корреляции рангов является значимым, если t равно или превышает 3 или табличное значение (табл. ЗП), при числе степеней свободы v = TV — 2.
В нашем примере по формуле (2.09)
1 / 2(2 • 13 Д-5)’‘
V 9-13(13 — 1)
Вычисленное значение 0,933 значительно меньше табличного 2,20 (табл. ЗП) при числе степеней свободы 13—2 — 11 и доверительном уровне 95%, следовательно, коэффициент корреляции рангов, равный —0,196, является недостоверным, что подтверждает вывод, сделанный в § 2.02 о несовместимости или непригодности специалистов х и у в качестве экспертов.
Если при вычислении коэффициента Кепдэла в рядах х и у объединения рангов не производится (в том случае, когда не имеется совпадающих вариант в любом из этих рядов), то формула (2.07) обращается в более простую, которая большей частью и применяется:
(2.10)(2.10)2Б т~ ^(^ —1) .
(2.10)
(2.10)
где обозначения те же, что и к формуле (2.07). Процесс образования суммы рангов Б см. выше в этом же параграфе. Значения N(N — 1) и-щ^—^у вычислены в табл. 8П, для N — от 2 до 31. Достоверность коэффициента, полученного по формуле (2.10), оценивается по формуле (2.09). Ошибка коэффициента корреляции рангов для объемов выборок от 8 до 31 также вычислена в табл. 8П.
04. Коэффициент корреляции для малых выборок
Коэффициент корреляции Бравэ-Пирсона вычисляется в тех случаях, когда требуется выразить количественно силу связи между двумя сопряженными признаками, если известно, что зависимость одного из признаков от другого близка к прямолинейной. Если форма связи неизвестна, ее следует предварительно установить по графику (§ 2.01). При взвешенных рядах х (аргумент) и у (функция) применяют метод из § 2.05, а при певзвешепных рядах вычисляется коэффициент корреляции по формуле:
2 г • 2 у
(2.11)
где г — коэффициент корреляции Бравэ-Пирсона; х — варианты ряда аргумента; у — варианты ряда функции; N — объем выборки число пар вариант или объем одного из рядов х или у).
Вычислим силу связи между высотой растений и урожайностью у сои (табл. 2.04).
Вычисления производятся в следующем порядке:
Возводим в квадрат значения х и у (столбцы 3 и 4).
Перемножаем по строкам значения х на у (столбец 5).
Суммируем величины столбцов 1, 2. 3, 4, 5, получаем:
Нх = 839, Ну 262, Нхг = 55869, Sy2 = 5544, Нху = 16696.
Возводим в квадрат суммы столбцов 1 и 2:
(2х)2 = 8392 = 703921, (НуУ = 2622 = 68644.
Перемножаем итог столбца х ла итог столбца у:
Их -Ну = 839- 262219818.
Таблица 2.04
Вычисление коэффициента корреляции для малых выборок
Высота растений (х), см
Урожай (у), ч/га
X2
У=
ху
62
19
3844
361
1178
63
20
3969
400
1260
73
12
5329
144
876
82
17
6724
289
1394
66
16
4356
256
1056
44
18
1936
324
792
43
26
1849
676
1118
25
2916
625
1350
63
19
3969
361
1197
74
25
5476
625
1850
74
27
5476
729
1998
64
23
4096
529
1472
77
15
5929
226
1155
839
262
55869
554 4
16696
Подставляем полученные значения в формулу (2.11):
10696 -10696 -219818132198181370392113703921135544554468644 \— 13 /68644 \— 13 /0,316.0,316.
10696 -
10696 -
219818
13
219818
13
703921
13
703921
13
5544
5544
68644 \
— 13 /
68644 \
— 13 /
0,316.
0,316.
Достоверность коэффициента корреляции оценивается путем преобразования его при помощи табл. 26Г1, из которой берем z —- = 0,33 для г — 0,32.
Ошибка вычисляется по формуле
(2.12)(2.12)1 mz = — •,
(2.12)
(2.12)
^1V — 3 ’
где mz — ошибка преобразованного коэффициента корреляции; N — объем выборки.
Для рассматриваемого примера
mz — Г- ■ - — 0 316.
2К13 - з ’
Откуда критерий достоверности Стьюдента по формуле (1.08):
г 0,33< по
t = = 1,03.
mz 0,32’
Вычисленное значение критерия достоверности меньше табличного (табл. ЗП), которое на доверительном уровне 0,95 равно 2,2. Чис-
ло степеней свободы при оценке преобразованного коэффициента корреляции принимается равным: v — N — 2. В данном случае коэффициент корреляции оказался недостоверным, что могло произойти по двум причинам: из-за малого объема выборки или ввиду отсутствия исследуемой связи в генеральной совокупности данного объекта. В табл. 1311 приведены минимальные значения коэффициента корреляции, существенные при данном числе вариант. По этой таблице для суждения о достоверности г = 0,316 ^ ~ 0.32 требуется не менее 38 парных вариант, поэтому следует повторить вычисление г на большей выборке, после чего при недостоверном значении коэффициента корреляции можно делать вывод об отсутствии достоверной прямолинейной связи между изучаемыми признаками *.
§ 2.05. Коэффициент корреляции для больших выборок
Сила связи между признаками при взвешенных (§ 1.01) рядах данных определяется путем вычисления коэффициента корреляции с построением корреляционной решетки. Перед вычислением любого показателя связи рекомендуется предварительно построить график данной взаимосвязи для того, чтобы можно было обоснованно выбрать подходящий показатель силы связи в зависимости от степени криволинейности эмпирической линии регрессии. Если эмпирическая линия регрессии значительно отклоняется от прямой линии, следует применить соответствующий показатель кри
волинейной связи (§ 2.01).
вычисляется применениявычисляется применения(2.13)(2.13)рядов х и у;рядов х и у;Коэффициент корреляции для больших групп различными способами, здесь рекомендуется для формула
вычисляется применения
вычисляется применения
(2.13)
(2.13)
рядов х и у;
рядов х и у;
N
где N — объем выборки; fxy — совместные частоты
ах. ау ■— отклонения вариант рядов х и у от условных средних: Лж и Л,,; /х — частоты ряда х; fy — частоты ряда у; ох — сигма ряда х; о,, — сигма ряда у.
Отклонения вариант в рядах равны:
х —ах - —, а их —ах - —, а иУ -^У -^
х —
ах - —, а и
х —
ах - —, а и
У -^
У -^
Дополнение коэффициента корреляции до единицы, т. е. значение выражения 1 — | г |, называется коэффициентом алиенации и позволяет судить о степени независимости изучаемых факторов. В рассмотренном примере коэффициент алиенации равен: 1 — | 0,32 | — 0,68.
где х, у — варианты рядов х и у; А х, Ау — центральные варианты (условные средние) рядов х и г/; сх, су — классовые интервалы в рядах х и у. Сигмы обоих рядов вычисляются по формуле
где ож, оу — сигмы рядов а: и у; ах, ан — условные отклонения рядов х и у; fx, fy — частоты рядов х и у, N — объем выборки. Вычислим коэффициент корреляции для проверки предположения о существовании зависимости веса 1000 зерен от продолжительности вегетационного периода у сортов ячменя (табл. 2.05). Действия производятся в следующем порядке:
Массивы данных по обоим признакам разбиваются на классы (§ 1.01) и разносятся варианты совместно обоих рядов по клеткам корреляционной таблицы (§ 2.01). Число классов в рядах х и у может быть различным. Аргумент (ж) располагается в горизонтальном ряду таблицы слева направо. Значения функции (г/) возрастают снизу вверх.
Вычисляется эмпирическая линия регрессии (§ 2.01) для выяснения степени криволинейности данной связи. Если эмпирическая линия регрессии близка к прямой линии и не является двускатной (см. рис. 7), можно вычислять коэффициент корреляции, в противном случае вычисляется показатель корреляции для криволинейных связей (§ 2.06—2.12).
В корреляционной таблице произвольно выбирается условный центр, обычно это близкая к центру клетка, содержащая наибольшую частоту (клетка с частотой 20). В ряду х против нее будет находиться условная средняя Ах -- 75, а в ряду у, Ау - 40.
Вычислим условные отклонения ах:
G0 — 75 о 65 — 75 о
70 — 75,75 — 75 л 80 — 75. .
F= — 1;=— 0;е=-- + 1 5а51
и т. д., записывая значения ах в горизонтальной строке.
Таким же образом, от условной средней A у — 40 вычисляются ау, которые записываются в вертикальной графе табл. 2.05.
Условные отклонения перемножаем на соответствующие им частоты: аж/ж= —3-2 ——6; —2-29 — —58; —1-34= —34 и т. д.; aujy = +3-14 = 42; -l 2-38 = 76 и т. д.
Квадраты условных отклонений перемножаем на соответствующие им частоты: axfx — (—3)2-2 — 18; (—2)2-29 — 116; (-1)2.34 = 34 и т. д.
Так же для ряда у:
/,^ ^ ЗМ4--126; 22-38 ^152; 12-7171; 02-58 -0;
' (_ 1)2.2626; (-2)2.6 - 24; (—З)2-1 = 9.
Т а б л и ц а 2.05
К вычислению коэффициента корреляции между вегетационным периодом и весом 1000 зерен ячменя
1
Вегетационный период (границы класса и его середина), дни (х)
“У
к
Vv
2 , "V 'У
Вес 1000 зерен (у), г
57,5-62,4
62.5 —67,4
67,5-72,4
72,5-77,4
77,5-82,4
82,5-87,4
87.5 - 92,5
границы класса
середина класса
60
65
70
75 = Аж
80
85
90
55-61
58
—6 .
1
—6
2
0
3
21
7
6
1
+3
14
42
126
49—54,9
52
-20 а
-16
8
0
10
22
11
8
2
12
2
+2
38
76
152
43-48,9
46
-14
7
-10
10
0
17
33
33
6
3
3
1
+ 1
71
71
71
37—42,9
40 - Ау
0
1
0
8
0
9
0
20
0
18
0
1
0
1
0
58
0
0
31—36,9
34
3
1
8
4
5
5
0
10
- 5 а
-2
1
—1
26
-26
26
25—30,9
28
12
3
0
3
—2
6
- 12
24
19—24,9
22
6
1
-3
1
- 3
9
«X
-3
—2
—1
0
4-1
4 2
1 +3
—
—
—
2 - 148
2 = 408
2
29
34
63
74
8
4
—
—
N - 214
—
---
—6
—58
-34
0
74
16
1 13
2 = 4
_
—
°х/х
18
116
34
0
74
32
36
2 = 310
—
1ху^х^у
3
-14
-27
0
71
18
15 |266
1 1
Находим произведения условных отклонений между собой и на имеющуюся совместную для них частоту. Начнем перемножать эти числа по столбцам слева направо; первый столбец: ®х®yfху ~ (—3)-0-1 = 0; (—3)*1 •(—1) — 3; второй столбец: (—2)-3-1 = —6; (—2)-2-5 = —20; (—2)• 1 -7 --—14 и т. д., записывая полученные произведения в правом верхнем углу соответствующих клеток таблицы.
Суммируем совместные частоты по столбцам и записываем в горизонтальной строке снизу таблицы: 3, —14, —27,0,71, 18, 15.
Получаем суммы по строкам (ряд х) и по столбцам (ряд у):
5/Л.= Д^214; SaJ.T = 4;
Saxfx = 310; v ^^ _ 66; 2/у _ у - 214;
2 й;//„ - 148; 2 d„jy = 408.
Для проверки вычисление этих сумм следует повторить.
И. Находим сигму ряда х и сигму ряда у по формуле (2.14):
/~/1482*
I / 310 - - -угг1408 —
* “ V -^- - 1.203. =„ - V - 1,195.
Подставляя найденные выше суммы и величины сигм в формулу (2.13). получаем
■- 477—Г"оГ?Гл ■ 4 о- ^ 0,2055.
214 • 1,203-1,19э ’
1 — Г21 — Г2Ошибку коэффициента корреляции вычисляют по двум формулам, в зависимости от численности совокупности. Для небольших групп данных при Л” < 100 применяют преобразование через z и ошибку коэффициента корреляции находят по формуле (2.12), а для больших групп при Л’ )> 100 ошибку можно определить по формуле
1 — Г2
1 — Г2
(2.15)
где тг — ошибка коэффициента корреляции; г — коэффициент корреляции; N — объем выборки (N > 100).
Для рассмотренного примера по формуле (2.15)
1 —0,20552
тг - /ш = 0’065"
Достоверность найденного коэффициента корреляции определяется по критерию Стьюдента (1,08):
t =t =гшггшг0,20550,0650,20550,065- 3,16.- 3,16.
t =
t =
г
шг
г
шг
0,20550,065
0,20550,065
- 3,16.
- 3,16.
Число степеней свободы при определении значимости коэффициента корреляции равно v = Лг — 2 = 214—2 -- 212. По табл. 311, при P’Y = 0,95 t = 2,0. Вычисленное выше значение, равное 3,16, больше1 табличного; следовательно, между продолжительностью вегетационного периода и весом 1000 семян, судя по выборке из 214 сортов ячменя, имеется положительная, небольшая, но достоверная зависимость: чем продолжительнее вегетационный период, тем больше вес 1000 зерен. Коэффициент корреляции можно оценить также по табл. 13П (см. конец § 2.04).
§ 2.06. Совместное вычисление коэффициента корреляции
и прямого корреляционного отношения .между взвешенными рядами
Данный метод может быть применен главным образом тогда, когда, при наличии большой выборки данных, требуется количественно определить не только силу связи между изучаемыми признаками, ио и степень ее криволинейности. Такие случаи могут встретиться, если по эмпирической линии регрессии нельзя определенно судить, насколько изучаемая связь отклоняется от прямолинейной (например, см. рис 6), или если требуется помимо количественного выражения силы связи, получить также и представление о тенденции (знаке) данной зависимости. Квадрат коэффициента корреляции, который вычисляется и оценивается здесь, иногда называют коэффициентом детерминации. Рассматриваемый метод включает также и вычисление точек эмпирической линии регрессии ylx, которыми можно воспользоваться для построения графика изучаемой взаимосвязи.
Вычисление квадратов коэффициента корреляции Бравэ-Пир- сопа и прямого корреляционного отношения по совмещенному алгоритму ведется по формулам:
где г — коэффициент корреляции Бравэ — Пирсона; ах — условные отклонения вариант ряда х от начала ряда; / — частоты корреляционной решетки; ау — условные отклонения вариант ряда у от начала ряда; пх — суммы частот по столбцам корреляционной решетки; пи — суммы частот по строкам корреляционной решетки; N _ объем выборки; т]»/х — прямое корреляционное отношение.
Последовательность вычислений по формулам (2.16) и (2.17) следующая.
Составляем корреляционную решетку таким образом, чтобы варианты ряда аргумента (х) располагались в верхней строке решетки слева направо, а варианты ряда функции (у) располагались бы в вертикальном столбце снизу вверх (табл. 2.06).
Таблица 2.06
Полный анализ корреляционной зависимости веса семян (у) от продолжительности вегетационного периода (z) у ячменя
У
X
^у
ау
60
65
70
75
80
85
90
58
1
2
3
7
1
14
6
52
—
5
8
10
И
2
2
38
5
46
—
7
10
17
33
3
1
71
4
40
1
8
9
20
18
1
1
58
3
34
1
4
5
10
5
1
—
26
2
28
.—
3
3
- -
—
—
6
1
22
—
1
.-.
—
—
•
1
0
«X
2
29
34
63
74
8
4
N = 214
790
^f<iy
5
94
1-29
219
293
33
17
790
3222
^jayY »х
12,50
304,69
489,44
761,28
1160,12
136,12
72,25
2936,40
ах
0
1
2
3
4
5
6
646
2260
^1«у
2,50
3,24
3,79
3,48
3,96
4,12
4,25
—
—
у lx
37,00
41,44
44,74
42,88
45,76
46,72
47,50
—
—
Суммируем частоты по столбцам (nJ и по строкам (п^).
Записываем условные отклонения ах и а и от начала рядов х и у в виде натурального ряда чисел, начиная с 0, соответственно направлению возрастания вариант в обоих рядах.
Получаем по столбцам суммы произведений частот на соответствующие им условные отклонения а,у первая сумма 5 — — 1-3 +1-2; последняя сумма 17 — 2-5 -| 1-4 -J-1-3. В итоге: 5/а?/ = 790.
Значения 5,fay возводим в квадрат и делим каждое из них '(S/a,.)-
на соответствующие им суммы частот — , получаем 12,50;
304,69; 489,44 и т. д., в итоге этой строки:
у = 2936,40. пх’
Для получения точек эмпирической линии регрессии отдельные значения Hfau — 5,94, 129 и т. д.— надо разделить на
соответствующие им пх— 2,29, 34 и т. д., получим—^-: 2,50;
3,24; 3,79 и т. д. Затем каждое из полученных значений умножается на величину классового интервала с — 6 и к каждому произведению прибавляется минимальная варианта ряда у (в табл. 2.00 равна 22): 2,50-6 22 - 37,00; 3,24-6- 22 41,44; 3,79-6 -}- + 22 — 44,74 и т. д. Полученные значения у!х представляют собой точки эмпирической линии регрессии.
Перемножаем все значения п на соответствующие условные отклонения ах и складываем произведения: 2-0 +- 29-1 + 34-2 + 63-3 + ... + 4-6 = 646 = 2 пхах.
Получаем сумму Ипхах = 2260, перемножая значения пх на квадраты условных отклонений: 2-02 +29-12 + 34-22-| 63-32..., и т. д.
Подобно действиям в пунктах 7 и 8, получаем суммы: Sn?za,z = 790 = 1-0 + 6-1 + 26-2... и т. д.; "Zn^ay = 3222 = -- 1-02 -J- 6-12 + 26-22 + 58-32 и т. д. '
Получаем сумму S (ах2/а,,) — 2448 = 0-5 -{-1-94 — 2-129 +3-219 +4-293 + 5-33 + 6-17.
= 0,0422;= 0,0422;И. Подставляем найденные суммы в формулы (2.16) и (2.17):
= 0,0422;
= 0,0422;
646 - 790 \г"214/646 - 790 \г"214/
646 - 790 \г
"214/
646 - 790 \г
"214/
/ „„6462 \ /79Q2 \
^2260 — 214 Д3222— 214 j
г = + 0,205;
= 0,0656;= 0,0656;790-790-7902 .2936,40 —
= 0,0656;
= 0,0656;
790-
790-
3222— 214
Л^/.т — 0,256.
Оценку найденных показателей производим по критерию Фишера (табл. 9П).
Достоверность коэффициента детерминации определяется по формуле
(2Л8>
где F — критерий Фишера; г — коэффициент корреляции; N — объем выборки.
По формуле (2.18)
„ _ 0,0422(214 - 2) _ q
—1 — 0,0422’
Числа степеней свободы (табл. 9П) при оценке коэффициента детерминации принимаются: v (1) = 1, a v (2) = N — 2 = 214—2=
— 212. Отекла значение критерия Фишера по табл. 9П при Р^ — — 95% рав^о 3,89. Вычисленное по формуле (2.18) значение критерия больше табличного, поэтому делаем вывод о существовании достоверной прямолинейной зависимости веса 1000 зерен от продолжительности вегетационного периода у ячменя.
Достоверность квадрата корреляционного отношения определяется по формуле
F -^л^-^)
где F — критерий Фишера; т)у,ж — прямое корреляционное отношение; N — объём выборки; кх — число классов в ряду х.
По формуле (2.19)
0,0656(214-7)
(1 — 0,0656) (7-1)’ •
Числа степеней свободы при определении достоверности ц^/х по табл. 9П принимаются равными числу классов ряда х без единицы:
v (1) = кх - 1 - 7-1 = 6,
и объему выборки минус число классов ряда х;
v (2) = 7V — кх = 214 - 7 = 207.
Отсюда при Р^ — 95% находим F' табличное, равное 2,14. Вычисленное по формуле (2.19) значение критерия составляет 2,42, т. е. больше табличного, поэтому делаем вывод о достоверности также и криволинейной зависимости веса 1000 зерен от продолжительности вегетационного периода у ячменя.
07. Критерии криволинейности
В биологических исследованиях нередко возникает вопрос, к какому типу отнести изучаемую связь: к криволинейной или к прямолинейной? Оценка степени криволинейности корреляционной зависимости производится при помощи критериев криволинейности, из которых здесь рассмотрены пять в порядке возрастания трудоемкости их вычисления.
^-^>0,1,(2.20)
где pyx — прямое корреляционное отношение; г — коэффициент корреляции.
Связь считается криволинейной, если разность квадратов цУх и г больше 0,1. Для рассмотренного в предыдущем параграфе 108
примера:
0.0656—0,0422 = 0,02 <0,1.
поэтому связь между продолжительностью вегетационного периода ивесом 1000 зерен практически можно считать прямолинейной. Кроме того, прямолинейная связь сравнительно слаба и вычисление корреляционного отношения лишь немного повысило ее оценку.
7V(^/v- г2) >11,37,(2.21)
где Л7 — объем выборки; цух — прямое корреляционное отношение; г — коэффициент корреляции; 11.37 — критерий криволинейности Блэкмана.
Исходя из данных предыдущего примера (а), по формуле Блэкмана
214 (0,0656-0,0422) = 5,01.
Полученная разница (5,01) меньше 11,37, поэтому считаем, что рассматриваемая связь может считаться близкой к прямолинейной.
(l-Py/x)^-^’
где F — критерий Фишера; цух — прямое корреляционное отношение; г — коэффициент корреляции Бравэ-Пирсона; N — объем выборки; кх — число классов в ряду х.
Для рассматриваемого примера об ячмене по формуле (2.22)
р _ (0,0656 —0,0422) (214 —7) _ . „, (1 —0,0656) (7 —2)
Числа степеней свободы при определении значимости F равны числу классов ряда х без двух:
v (1) = кх - 2 - 7-25,
и объему выборки минус число классов ряда х:
v (2) - N - кх -= 214-7 - 207.
По табл. 9П при Pt = 95% на пересечении строк: v (1) — 5 и v (2) — 207 находим F* — 2,26. Величина критерия, вычисленная но формуле (2.22), меньше табличной: 1,04 < 2,26, поэтому делаем вывод о несущественном отличии рассматриваемой связи от прямолинейной.
Оценка степени криволинейности связи при помощи критерия Стьюдента производится по формуле
где t — критерий Стьюдента; т)9/х — прямое корреляционное отношение; г — коэффициент корреляции Бравэ-Пирсона; N — объем выборки.
Для примера, рассматриваемого в данном параграфе, по формуле (2.23)
t = 0,5 1/ г= 1,15.
*0,0656 - 0,0422 - 2 + 0,0656 + 0,0422
Вычисленное значение меньше трех и меньше табличного (табл. ЗП) при Pj = 95%, которое равно 1,972; поэтому делаем вывод, что рассматриваемая связь несущественно отклоняется от прямолинейной.
Оценка степени криволинейности по критерию В. И. Романовского:
^— fc — 2 П^~г2~'
1/2 (ТУ-4)'
V Vk — ^VN—k — ^
где N — объем выборки; к — число групп, на которое разбивался ряд при вычислении корреляционного отношения; ц„/а. — прямое корреляционное отношение; г — коэффициент корреляции.
Для рассматриваемого примера, по критерию Романовского также подтверждается уже сделанный вывод:
214 — 7 — 20,2562 — 0.2052
= 0,05 < 3.
1/2(214-4)’
V (7 — 2)(214 —7 — 4)
Из пяти рассмотренных критериев криволинейности первые два просты по вычислению, по менее точны, чем три последних. Заметим, что для решения вопроса о степени криволинейности связи во многих случаях можно удовлетвориться визуальным анализом графика связи по эмпирическим данным.
§ 2.08. Прямое корреляционное отношение для невзвешенных рядов
Корреляционные отношения дисперсий, прямое и обратное, служат для оценки силы связи между двумя признаками, когда последние могут находиться не только в прямолинейной, но и в криволинейной зависимости между собой. При более детальном исследовании вместо корреляционных отношений лучше применять методы дисперсионного анализа (глава 4), с которыми они тесно связаны.
Схема вычисления корреляционных отношений (§ 2.06, 2.08— 2.11) приводится в основном по алгоритму Н. А. Плохинского (1970), как наиболее распространенному в настоящее время. Существуют другие, более строго теоретически обоснованные схемы расчета корреляционных отношений (см., например, Урбах, 1964, и др.), которые, однако, более трудоемки по технике вычислений, так как требуют выполнения однофакторного дисперсионного анализа, при помощи которого также по этим схемам, косвенным образом, оценивается значимость полученных показателей связи. Между тем сравнительно просто вычисляемый показатель криволинейной связи для невзвешенных рядов, имеющий способ для непосредственной оценки его значимости и сравнимый с коэффициентом корреляции, в биологических исследованиях необходим, что и позволяет пока использовать приводимые ниже схемы расчета корреляционных отношений.
Под прямым корреляционным отношением понимается такой показатель, который измеряет силу криволинейной или прямолинейной зависимости признака у (функция) от признака х (аргумент); его расчет производится по формуле .
Г(у/х - МуУ
Чу/х-у ’ (2124) где ця/х — прямое корреляционное отношение; у!х—значения (точки) эмпирической линии регрессии; М у — средняя арифметическая ряда у; у — варианты ряда; п — число вариант в частной группе.
Вычисление прямого корреляционного отношения покажем на примере анализа взаимосвязи между числом вегетативных и фертильных побегов у костра безостого (табл. 2.07). Цель анализа: выяснить направление взаимосвязи между побегами, т. е. какая группа побегов больше влияет на численность другой. Предположим, что число вегетативных побегов обусловливает число фертильных, поэтому примем число первых за аргумент (а:), а число вторых за функцию (у) и соответственно вычислим прямое корреляционное отношение.
Точки эмпирической линии регрессии у!х по невзвешенному ряду получаем путем усреднения по группам. В данном случае эти группы образовались естественно: по три растения каждого сорта (п = 3); в других случаях группы составляют искусственно, не менее двух вариант в каждой. Суммы: 164 + 184 + 185 = = 533, 180 + 183 + 205 = 568 и т. д. (столбец 4) делим на число вариант в группе (здесь оно везде равно трем) и получаем точки эмпирической линии регрессии ylx\ 177,6; 189,3; 110,0 и т. д. (столбец 5).
Вычисляем среднюю арифметическую ряда у:
Ми = ^ = ^-= 162,65.
Т а б л и ц а 2.07
К вычислению прямого корреляционного отношения
Форма костра безостого
Число побегов
Суммы у (по 3 растения)
у/х
у/х — Му
(у/х — Му):
вегетативных, ос
фертильных, у
1
132
164
2
164
184
76
184
185
180
533
177,6
14,75
217,5625
3
136
96
257
183
205
123
568
189,3
26,45
699,6025
4
78 143 270
92
115
114
330
110,0
-52,85
2793,1225
5
146
121
206
250
200
150
564
188,0
25,15
632,5225
6
197
227
53
142
183
80
475
158,3
—4,55
20,7025
7
92
161
147
124
160
175
364
121,3
—41,55
1726,4025
8
102
106
170
209
220
152
604
201,3
38,45
1478,4025
9
107
155
20
179
178
126
509
169,6
6,75
45,5625
27
36
146
178
450
150,0
-12,85
165,1225
N - 27
3609
4397
4397
-0,25
7779,0025
Вычисляем квадраты отклонений точек эмпирической линии регрессии от средней арифметической (столбцы 6 и 7): 2 (y/z - МУУ = 7779,0025.
Сумму квадратов отклонений вариант получаем возведением в квадрат разницы каждой варианты у со средней арифметической и одновременным суммированием квадратов на счетах или счетной машине. Квадраты чисел можно также получить по таблицам. 2 (.у - М„У = 41087.
По формуле (2.24)
. /" 3-7779,0025л _
" /,1087°’i0"
Ошибку квадрата корреляционного отношения, в том числе и обратного, вычислим по формуле
(2.25)(2.25)my = (1 - П2) ^ ,
(2.25)
(2.25)
где тт? — ошибка корреляционного отношения; т) — корреляционное отношение; vn v2 — числа степеней свободы, vT = к —1; v2 = N — к; к — число групп (классов), на которое разделен ряд; N — объем выборки.
V1 = 9-1 --= 8; v2 = 27-918;
шГ|2-(1 -0,752)А- ^ ^/у
Достоверность квадрата корреляционного отношения оценивают по формуле.
(2.26)(2.26)F -- 2L^t?' //? 2
(2.26)
(2.26)
где F — вычисленное значение критерия Фишера; F' — его табличное значение; ц — корреляционное отношение; mxi — ошибка квадрата корреляционного отношения
0,75-2„ ал
10,19 *1
По табл. 9П при Рх — 0,95 и v (1) = Vj — 8; v (2) — v2 — 18, F' = 2,51; следовательно, па данном доверительном уровне число вегетативных побегов у костра безостого достоверно влияет на число фертильных побегов.
Достоверность корреляционных отношений дисперсий, прямого и обратного удобно оценивать, особенно при отсутствии табл. 911 и при счете на ЭВМ, по критерию Романовского:
(у2 — 2) ц-
(2-27)(2-27)(1 — Гр) V1
(2-27)
(2-27)
1 Г2 (vi -г v2 — 2)
У V, (v2 - - 4)
где Rt — критерий Романовского; vT — к — 1; v2 = N — к; к — число групп, на которое был разделен ряд, при вычислении корреляционного отношения; N — объем выборки; ц — корреляционное отношение.
Как видим из формулы, число степеней свободы v2 должно быть не меньше пяти. При величине критерия Романовского больше или равной трем корреляционное отношение будет достоверным. Уровень достоверности при таком значении критерия примерно Ра = 0,99. Для менее точных выводов можно принимать за его критическое значение 2,5. Вычислим критерий Романовского для
прямого корреляционного отношения: vx = 9—1 — 8; v2 = 27— — 9 = 18;
(18 — 2)0,753
Rt =Rt =- 2,40.- 2,40.(1 — 0,753)8 ~ 1
Rt =
Rt =
- 2,40.
- 2,40.
1 Г 2 (8 + 18 ■— 2) V 8 (18 — 4)
Критерий здесь меньше трех, следовательно, на уровне достоверности больше 0,95 данное корреляционное отношение недостоверно. Для более полного представления о направлении этой связи, о том, какой признак действительно является в ней аргументом, требуется вычислить обратное корреляционное отношение, что и сделано в следующем параграфе.
§ 2.09. Обратное корреляционное отношение для невзвешенных рядов
В тех случаях, когда после вычисления прямого корреляционного отношения остается неуверенность в том, что аргумент в парной взаимосвязи был выбран верно, необходимо вычислите обратное корреляционное отношение, при помощи которого можно оценить обратную связь между признаками, т. е. силу влияния у на х. Схема расчета остается точно такой же, однако все вычисления проводятся с вариантами из ряда х:
/ zzS lily — MV
= V- .(2.28)
где Цх/у — обратное корреляционное отношение; xly — значения (точки) эмпирической линии регрессии х!у; Мх — средняя арифметическая вариант; п — число вариант в частной группе.
Получаем точки эмпирической линии регрессии xly. Для этого суммируем по каждой форме костра варианты х, которые приведены в табл. 2.07 (столбец 2), и записываем их в первый столбец табл. 2.08: 480, 308, 478 и т. д.
Каждую групповую сумму делим на число ее составляющих, т. е. на п = 3, и получаем групповые средние, или точки эмпирической линии регрессии xly: 160,0; 102,6; 159,3 и т. д.
Средняя арифметическая ряда аргумента равна:
Мх = ^ = ^ - 133,67.
Сумма квадратов отклонений значений эмпирической линии регрессии xly от средней арифметической равна (столбцы 3,4, табл. 2.08):
2 Wt - Мху = 22772, 1641.
Таблица 2.08
К вычислению обратного корреляционного отношения для невзвешенных рядов
Групповые суммы ряда х
х/у
х/у — Мх
(х/у - МХУ
480
160,0
26,33
693,2689
308
102,6
- 31,07
965,3449
478
159,3
25,63
656,8969
537
179,0
45,33
2054,8089
630
210,0
76,33
5826,2689
306
102,0
- 31,67
1002,9889
355
118,3 "
— 15,37
236,2369
432
144,0
10,33
106,7089
83
27,7
—105,97
11229,6409
3609
—
— 0,13
22772,1641
Сумма квадратов отклонений вариант от средней арифметической (получена на счетной машине):
2 (ж - М^ = 110720.
Обратное корреляционное отношение по формуле (2.28):
/
3-22772,1641п
110720—0^8.
Оценка достоверности по критерию Романовского (2.27):
(18-2)0,78'2
R. = t1-°’782)- 8 ■ 1 = 3 22 > 3;
2 (8 + 18 — 2)’/
8 (18 — 4)
и по критерию Фишера (2.25), (2.26):
V1 = 9-1 = 8; v2 = 27-9 = 18;
m^ = (1 — 0,782)-^ = 0,17;
F = ^ = 3,50; F' = 2,51 (при Р^ = 0,95) (табл. 911).
Следовательно, обратное корреляционное отношение более достоверно и по величине оказалось больше, чем прямое корреляционное отношение, поэтому делаем вывод о том, что за ряд аргумента следует принять не число вегетативных побегов, а число фертильных, т. е. число фертильных побегов более влияет на число вегетативных, чем наоборот — число вегетативных на число фертильных.
При пользовании методами из § 2.08 и 2.09 следует иметь и виду при сравнении результатов, что на величину корреляционного отношения влияет способ разбивки рядов на группы (число групп и число вариант, составляющих группы).
§ 2.10. Прямое корреляционное отношение для взвешенных рядов
Прямое корреляционное отношение по данному методу вычисляется в тех случаях, когда исходные данные сгруппированы во взвешенные ряды. Перед началом работы по вычислению отношения требуется установить, что является аргументом (z) и функцией (у) в изучаемой зависимости. Прямое корреляционное отношение для взвешенных рядов вычисляется по формуле:
фу/х —фу/х —/1' (?//»- Л/у)2/у/1' (?//»- Л/у)2/у(2.29(2.29
фу/х —
фу/х —
/1' (?//»- Л/у)2/у
/1' (?//»- Л/у)2/у
(2.29
(2.29
где т]у ж — прямое корреляционное отношение;
М, — средняя арифметическая ряда у.
Остальные обозначения по их смыслу и расположению соответствуют таковым в табл. 2.01, по данным которой оценим зависимость веса 1000 семян от периода созревания у ячменя. Вычисления производятся в следующем порядке.
Составляем корреляционную решетку и рассчитываем эмпирическую линию регрессии у?х, точки которой уже вычислены в табл. 2.01.
Определяем среднюю арифметическую ряда у. Выполнив действия, приведенные в столбце 3 табл. 2.09, нолучаем:
л/у = W 14)15 г-
Т а б л и ц а 2.09
К вычислению прямого корреляционного отношения для взвешенных рядов
У
ф
У/у
у/х
fx
<у - MyWy
(^ - м/!х
58
14
812
37,0
2
2685,5
102,25
52
38
1976
41,4
29
2341,7
219,31
46
71
3266
44,8
34
243,00
14,365
40
58
2320
42,9
63
998,93
98,438
34
26
884
45,8
74
2678,5
201,47
28
6
168
46,8
8
1564,9
56,180
22
1
22
47,5
4
490,62
44,892
У
214
9448
211
11004
736,91
Сумма квадратов отклонений, умноженных на частоты, ряда у равна: 2 (у — МуУ}у = 11004 (столбец 6).
Сумма квадратов отклонений, умноженных на частоты, дЛя эмпирической линии регрессии равна:
2(^-^2/.т= 736,91.
Обе последние суммы и слагаемые для них получены на ЭВМ, округление па которой ведется непрерывно в процессе счета до пяти значащих цифр.
По формуле (2.29):
1736,91 _
^"^ - у Н004 — 0,26.
Ошибка квадрата корреляционного отношения (2.25): = (1 — О.Зб2)^ = 0,027;
v1 = 7-l; v2 — 214 — 7.
Оценка достоверности по критерию Фишера (2.26): F = та 2’50; Р 2’14 <табл- 9П>-
Критерий достоверности Романовского (2.27):
(207 — 2)0,262
RtRt= 2,51.= 2,51.(1 —0,262) 6 ~
Rt
Rt
= 2,51.
= 2,51.
/2 (6 + 207 — 2)
6 (207 — 4)
Оба критерия позволяют заключить, что продолжительность вегетационного периода у ячменя лишь на 95 %-ном доверительном уровне достоверно влияет на вес 1000 семян, при более строгой оценке эта связь является недостоверной.
Обратное корреляционное отношение
для взвешенных рядов
(2.30)(2.30)Обратное корреляционное отношение для больших классифицированных выборок вычисляется в тех же случаях, в которых оно применяется для невзвешенных рядов (§ 2.09). Используя пример, рассмотренный в § 2.10, рассчитаем обратное корреляционное отношение, количественно выражающее зависимость продолжительности вегетационного периода от веса 1000 семян у ячменя (табл. 2.01) по формуле
(2.30)
(2.30)
у X^x — M^j^
где x\xiy — обратное корреляционное отношение; ж/у — точки эм. лирической линии регрессии; Мх — средняя арифметическая ряда] ж; /х, /у — частоты рядов.
Порядок вычислений тот же, что и в § 2.10, но с другим рядо^ (ж).
Получаем значения эмпирической линии регрессии (столбец 4, табл. 2.10).
Таблица 2.10
К вычислению обратного корреляционного отношения для взвешенных рядов
X
х?х
х/М
(х — МХУ1Х
Wy - Mxy-iy
60
2
120
76,8
14
455,66
40,746
65
29
1885
75,4
38
2954,8
3,5582
70
34
2380
76,3
71
882,27
103,26
75
63
4725
74,6
58
0,55667
14,154
80
74
5920
73.3
26
1781,1
83,678
85
8
680
70,0
6
785,03
155,69 Г:
90
4
360
65,0
1
888,76
101,89
S
214
16070
—
214
7748,3
502,97
Средняя арифметическая ряда ж:
Л/ж= ^^ = 75,09 (столбцы 1, 2, 3, табл. 2.10).
Суммы квадратов отклонений вариант ряда х (столбец 61 и значений эмпирической линии регрессии (столбец 7), помножен вых на соответствующие частоты, равны: S (ж — М ^fx =■ = 7748,3; S ^х!у - Мх)2 /у = 502,97.
По формуле (2.30):
/
502,97л лг
774^3°’25-
Ошибка отношения и критерий Фишера (2.25), (2.26):
иг,, = (1 - 0,252)^ = 0,027; vx = 6; v2 = 207;
F = ^ = 2,30 > F = 2,14 (табл. 911).
Критерий Романовского (2.27):
(207 — 2)0,25=
2,17<3.2,17<3.(1 — 0,252)6 ~ 1
2,17<3.
2,17<3.
/2 (6 + 207 — 2)
6 (207 - 4)
оба критерия позволяют заключить, что обратная зависимость— продолжительность вегетационного периода от веса 1000 семян — У ячменя является еще более слабой, чем прямая, поэтому считаем, что аргумент в § 2.10 был взят верно и что вес семян у ячменя больше зависит от продолжительности их созревания, чем наоборот.
Полихорический коэффициент сопряженности
Чупрова
При измерении силы корреляционной связи между двумя признаками, каждый из которых варьирует по качественным показателям, вычисляется полихорический коэффициент сопряженности, который был разработан А. А. Чупровым. Число классов варьирования обоих или одного из коррелирующих признаков при этом должно быть больше двух. Если число классов варьирования по два в каждом ряду, рекомендуется вычислять тетрахори- ческий четырехпольный вариант этого же коэффициента (§ 2.13). Коэффициент сопряженности можно вычислять и тогда, когда оба ряда имеют многоклассовое распределение со взвешенными вариантами (по примеру корреляционной решетки в табл. 2.01), причем варианты в рядах могут быть и неранжированными.
Полихорический коэффициент сопряженности вычисляется по формуле
Т-= J~l
где Т — полихорический коэффициент; J — сумма частных, вычисленная в табл. 2.11; кх — число классов в ряду ж; ку — число классов в ряду у
Вычисления ведутся в следующем порядке:
Значения всех вариант разносим по клеткам корреляционной решетки (табл. 2.11).
Суммируем частоты но строкам таблицы, получая пу, и по столбцам, получая пх. Сумма пх должна равняться сумме пу и является объемом выборки: N = 214.
Частоты всех клеток таблицы возводим в квадрат и произведения записываем рядом в скобках.
Квадраты частот делим на сумму пу данной строки, в которой расположены частоты, например: квадраты всех частот первой строки делим на 28, получаем: 4 : 28 = 0,14; 144 : 28 = 5,14; 196 : 28 = 7,0.
Квадраты всех частот второй строки делим на 148: 729: 148 = 4,92 и т. д.
Результаты деления записываем в тех же клетках.
Таблица 2.11
Вычисление суммы частных J для получения полихорического коэффициента сопряженности между вегетационным периодом (х) в днях и весом (у) 1000 зерен в г у сортов ячменя
Вес (у) 1000 зерен, г
Скороспелые, до 73 дней
Среднеспелые, 74 — 84 дня
Позднеспелые, более 85 дней
ПУ
Крупнозерные,
2(4)
12 (144)
14 (196)
28
более 50,6 г
0,14
5,14
7,0
Среднезерные,
27 (729)
74 (5476)
47 (2209)
148
от 38,0 до 50,6
4,92
37,0
14,92
Мелкозерные,
9 (81)
25 (625)
4 (16)
менее 37,9
2,13
16,45
0,42
38
"х
38
111
65
214 =- А’
/ \
2 —
7,19
58,59
22,34
кх --- 3
\ «у /
ку 3
2 № : «„)
«х
0,19
0,53
0,34
/ = 1,01
Суммируем результаты деления по всем столбцам таблицы, получаем I f0,14 + 4,92 + 2,13 = 7,19 и т. д.
Суммы частных от деления по столбцам делим на суммы частот по этим же столбцам:
58,5911158,59111- 0,53 и т. д.- 0,53 и т. д.£21122 „ У» „ 0 19;
58,59
111
58,59
111
- 0,53 и т. д.
- 0,53 и т. д.
п38’’
Суммируем результаты последнего деления по строке, получаем / = 0,19 + 0,53 + 0,34 =^ 1,06.
Применяем формулу (2.31):
Т - -2’°_6-10,03.
1<(3-1)(3-1)’
Достоверность коэффициента сопряженности оцениваем по критерию хи-квадрат, величина которого вычисляется по формуле
X2 - (У - 1),(2.32)
где х2 — критерий хи-квадрат; N — объем выборки; J — сумма, полученная в итоге табл. (2.11).
Число степеней свободы равно:
v = кк» - 1) (*У - 1) - (3-1) (3-1) = 4.
В рассматриваемом примере по формуле (2.32)
X2 = 214 (1,06—1,00) = 12,84,
qIo выше значения хи-квадрат первого уровня достоверности, которое по табл. 1011, при v = 4, равно 9,488.
Следовательно, на вес 1000 зерен у ячменя в небольшой степени, но достоверно влияет продолжительность их созревания.
j 2.13. Тетрахорический коэффициент сопряженности
Силу связи двух признаков, каждый из которых варьирует альтернативно, можно определить при помощи коэффициента сопряженности Л. А. Чупрова (§ 2.12), формула которого для четырехпольной таблицы данных следующая:
Т\а4 — be I — 0,5 N- ^
4 К(а + 6) (с + d) (а + с)(Ь 4- rf) ’
где Т4 тетрахорический коэффициент сопряженности; а — клетка табл. 2.12, в которую заносятся особи или предметы, обладающие обоими признаками; b — клетка, в которую заносятся особи, обладающие признаками х и без признака у; с — клетка для особей без признака х, но с признаком у; d — клетка для особей без обоих признаков; N — объем выборки.
Под х, как и во всех подобных случаях, здесь подразумевается аргумент, или причина, изучаемого явления, а под у — функция, или следствие, условно или фактически. Ряд х располагается горизонтально, а ряд у вертикально. Выражение | ad — bc\ означает, что разница в прямых скобках в любом случае получает знак плюс.
Буквы а — d обозначают также численности частот в этих же клетках.
Рассмотрим последовательность вычислений на примере измерения силы связи между наличием остей и иммунитетом к бурой ржавчине у сортов пшеницы (табл. 2.12).
Располагая классы варьирования, как показано в табл. 2.12, разносим варианты по клеткам а — d согласно их назначению, указанному в объяснении к формуле (2.33).
Подставляя значения полученных частот в формулу (2.33), получим:
т 1166-1073- 1297-341 - 0,5-25750 15
4 ” v(166 -ь 1297) (34 -ь 1078) (166 4- 34) (1297 4- 1078) ~ +'
Значимость полученного коэффициента оцениваем по формуле
(2.34)
Таблица 2.12
Четырехпольная корреляционная решетка данных к вычислению тетрахо. рического коэффициента сопряженности
X
У
ости имеются
ости отсутствуют
X
Сорта, иммунные к бурой ржавчине
а = 166
с — 34
а + с = 200
Сорта, неиммунные к бурой ржавчине
Ъ = 1297
a = 1078
Ъ + a = 2375
2
а + Ъ = 1463
с+ d = 1112
N = 2575 "
где х2 ~ критерий хи-квадрат, используемый здесь для оценки силы сопряженности наблюдаемых факторов; N — объем выборки; Т4 — тетрахорический коэффициент сопряженности.
В данном примере
X2 = 2575-0,152 = 59,5.
При оценке значимости коэффициента сопряженности число степеней свободы всегда равно v = 1. По табл. 10П, при доверительном уровне Рг = 0,95, %2 = 3,841; при Р'^ = 0,99, х2 — 6,635 и при Р3 = 0,999, х2 ~ 10,827. В данном случае вычисленное значение хи-квадрат, равное 59,5, значительно больше всех трех критических значений; следовательно, можно утверждать, что имеется положительная зависимость иммунитета сортов пшеницы от наличия остей у них. Сила этой связи измеряется тетрахорическим коэффициентом сопряженности связи: Т4 = +0,15.
Направление связи можно определить, вычислив ожидаемую частоту в клетке а. Она равна:
, (° + с) (° + Ь) 200-1463 ,. q с. ’ N2575"
так как фактическая частота (166) больше ожидаемой (113,6), связь положительная. Когда фактическая частота а меньше ожидаемой а', то связь между признаками отрицательная.
При многозначных вариантах, как это имеет место в рассмотренном примере, формулой (2.33) иногда удобнее пользоваться в логарифмированном виде: Т4 = ехр0,5 {21п(|йй — be | — 0,5 7V) — [In (а + b) + In (с + d) + In (а + с) + In (6 + d)]}, где обозначения те же, что и к формуле 2.33.
14. Бисериальный коэффициент корреляции
Применяется тогда, когда один ряд варьирует по числу клас- сОв больше двух, а второй ряд имеет альтернативное (двухклассо- гое) бисериальное размещение вариант. В биологии нередки подобные случаи, когда один признак варьирует количественно, а .другой, связанный с ним признак изменяется только качественно: до принципу «да» или «нет». Коэффициент корреляции по формуде (2.35) можно вычислять для любых взвешенных рядов и при любой численности выборки, в том числе при N <_ 100 (см. начало § 2.15)
<’ь —<’ь —2AVv- —7Г^2AVv- —7Г^(2.35)(2.35)
<’ь —
<’ь —
2AVv- —7Г^
2AVv- —7Г^
(2.35)
(2.35)
1^ ~
где гь — бисериальный коэффициент корреляции; / — частоты; а, — условные отклонения ряда х; ау — условные отклонения ряда у; N — объем выборки.
Вычисления сумм к формуле (2.35) приведены в табл. 2.13.
Таблиц а 2.13
К вычислению бисериального коэффициента корреляции
У
Даты зацветания (х) от 1 марта, дни
'у
"и
V'v
57
85
ИЗ
141
169
197
225
Открытый участок
77
172
131
57
13
7
2
459
0
0
0
Типовой участок
71
167
140
63
и
6
1
459
1
459
"459
к
148
339
271
120
24
13
3
918
459
459
а х
-3
- -1
0
-1
-г 2
13
0
—
!хах
-444
-078
-271
0
24
26
9
- 1393
+59
-1334
—
1x0-х
1332
1356
271
0
24
52
27
3062
—
—
Порядок вычислений следующий:
Составляется корреляционная решетка, в которой ряд х представляет собой даты зацветания в днях от 1 марта, а у — ряд с альтернативным распределением вариант.
Суммируем частоты по столбцам и строкам, итоги которых должны совпадать и образуют объем выборки: N — 918.
Образуем условные отклонения ау, они всегда будут 0 и 1. Отклонения ах образуются путем поочередного вычитания из всех вариант ряда х числа А = 141, т. е. центральной варианты и деления разностей на классовый интервал, который в данном случае равен: с = 28.
Перемножив условные отклонения ах на соответствующие им суммы частот/х, получим: —3-148 — —444; -2-339 = —678-1-271 = -271 и т. д. '
Перемножим квадраты условных отклонений ах на те ще частоты: —32-148 — 1332; —22-339 = 1356 и т. д. Те же самые действия произведем с частотами и условными отклонениями /у, а^.
Суммируем: ^fxax = —1334; 5/хПх = 3062; 2/уИу = 459, 2/у^ - 459. ' ’
Получаем сумму: 5/ахпу = 71 (—3)-1 + 167 (—2)-1 4- >140 (-1) - 1 - 63 - 0-1 !- И - 1-1 + 6-2-1 |- 1 • 3-1 - —661, путем перемножения каждой частоты из строки «теневой участок» на соответствующие условные отклонения ах. Частоты из строки «открытый участок» не множим на отклонения, так как все произведения будут равны 0, ибо в ней ау — 0.
По формуле (2.35):
— 661— 661(-1334). 459918(-1334). 459918V V00"918 /V59- 918 )V V00"918 /V59- 918 )0,012.0,012.
— 661
— 661
(-1334). 459918
(-1334). 459918
V V00"918 /V59- 918 )
V V00"918 /V59- 918 )
0,012.
0,012.
Ошибка бисериального коэффициента корреляции, ввиду _ 1 -
того что N >100, определяется по формуле (2.15): т> — ^-^ ■: -
1 — 0,012^'
г j —,— — 0,0аЗ. Оценка достоверности г,, производится по кри
терию Стьюдента (1.08):
_ °,012 _ — 0,033 ~_ °,012 _ — 0,033 ~0,36.0,36.
_ °,012 _ — 0,033 ~
_ °,012 _ — 0,033 ~
0,36.
0,36.
Величины ошибки и критерия Стьюдента совпадают с таковыми, вычисленными по формуле (2.12), с преобразованием через z. По табл. ЗП, при v =-- N — 2 = 918—2 = 916 и /^ — 95%, t -~- 1,96. Поскольку вычисленное значение t меньше табличного, делаем вывод об отсутствии корреляционной связи между числами видов, зацветающих одновременно па теневом и открытом участках. Следовательно, динамика зацветания видов на этих участках различна, па нее больше влияют местные микроусловия, чем общий ход изменения метеофакторов.
§ 2.15. Бисериальный коэффициент корреляции ио таблице Келли-Вуда
Этот коэффициент вычисляется в тех же случаях, что и предыдущий (§ 2.14), но по технике вычислений он проще благодаря наличию специальных таблиц. При N< 100, вместо метода из § 2.15 для вычисления бисериального коэффициента, лучше пользоваться методом из § 2.14, ввиду довольно сложной поправки,
которая вводится в метод, рассматриваемый в § 2.15, при объеме выборки меньше 100. Бисериальиый коэффициент корреляции с помощью таблицы находится по формуле
I М- _ М* | _L pq
Гь "
где гь — бисериальиый коэффициент корреляции; М" — взвешенная средняя арифметическая ряда отрицательных частот; М* — средняя арифметическая ряда положительных частот; р — доля ряда положительных частот; q — доля ряда отрицательных частот; Ge — среднее квадратическое отклонение суммарного ряда частот (ряда 2/ в табл. 2.14); 3 — ордината в месте границы классов положительных и отрицательных частот; х — абсцисса этой же точки в долях сигмы.
3, х в соответствии с р находим по таблице Келли-Вуда (табл. ЦП). Прямые скобки в формуле (2.36) означают, что знак разности средних арифметических не принимается во внимание, т. е. бисериальиый коэффициент всегда положительная величина.
Вычисление бисериального коэффициента корреляции ведем в следующем порядке.
Т а б л и н а 2.14
К вычислению бисериального коэффициента корреляции с использованием таблицы Келли-Вуда
Повреждаемость растений (х), баллы
Условия освещенности растений (у)
Xi
Xix
ISfx
в тени (L)
на открытом месте (/_)
3
1
1
3
9
4
—
4
16
61
а
—
7
7
35
175
6
2
21
23
138
828
7
5
10
21
147
1029
8
2
3
,)
40
320
9
—
1
1
9
81
9
53
62
388
2506
М+ -- 7,00
NT = 6,13
—
—
—
Находим величины р и q. Поскольку следует выполнить условие р Д q, для определения q из сумм рядов /+и/_ выбираем меньшую, т.е. S/+ = 9, отсюда одна доля равна:
q = ^- ^^ = 0,1452, а другая:
р = 1 - q = 1 - 0,1452 = 0,8548.
Определяем средние арифметические рядов /+ и /_ по формуле (1.12):
...6'2 -I- 7-5 Л- 8-2 п ,
М* =-—:= 7,00 баллов;
З-В-]-4-4 + 5-7 — 6-21 — 7-16 л-8-3 4-9-1
М —::!= 6,13 балла.
аЗ’
Таким образом, повреждаемость растений в тени больше, чем на открытом месте.
Вычисляем сигму суммарного ряда частот по формуле (1.38):
Г 388'2
1 / 2506 — -ргг
52 = У —= 1,129 балла.
По табл. 1111 для р = 0,85 находим величины 3 = 0,2332 и ж = 1,0364.
По формуле (2.36) бисериальпый коэффициент корреляции
г» =г» =0,420.0,420.| 6,13 — 7,00|-0,8548-0,1452 1,129-0,2332
г» =
г» =
0,420.
0,420.
В рассматриваемом случае число наблюдений равно 62 (меньше 100), поэтому к полученному значению коэффициента вычисляется поправка (которая не определяется при /V Д 100) по формуле
г r J 1 Л1 Г О I РЯ / I Рх \ / Л I Я1 \ I л г. 2 II
(2.37)
где гЬс — исправленный бисериальпый коэффицент корреляции с учетом числа наблюдений; гь — коэффициент корреляции до введения поправки; N — объем выборки; остальные обозначения те же, что и к формуле (2.36). Для рассматриваемого примера
л /л Гл . 1 Гл л- I 0,85э*0,145 гьс = °,12 |1 , "б2[0,2аН2-0,23322
0,855-1,0364\/.0,145-1,03(>4\
0,2332 Д1 +0,2332 ]
+ 0,5-0,422]} =0,4612.
Ошибку бисериального коэффициента корреляции находим по формуле
". - -^М .(2.38)
где обозначения те же, что и к формуле (2.37). В данном примере
тг =тг =/0,8548-0,14520,2332/0,8548-0,14520,2332- 0,4612- 0,4612/62/62= 0,1675.= 0,1675.
тг =
тг =
/0,8548-0,14520,2332
/0,8548-0,14520,2332
- 0,4612
- 0,4612
/62
/62
= 0,1675.
= 0,1675.
тгтг-М+4N-М+4NОшибку бисериального коэффициента корреляции можно определить также по таблице Сопера (табл. 12П) по формуле
тг
тг
-М+4
N
-М+4
N
(2.39)
где тТ — ошибка бисериального коэффициента корреляции; Xg, ^з — величины, находимые по табл. 12П в зависимости от величины q; rb — величина бисериального коэффициента корреляции; /V — объем выборки.
Отсюда ошибка по Соперу равна:
тгтг-0,167,-0,167,/2,3453 — 3,0923 - 0,4612 + 0,4614 62
тг
тг
-0,167,
-0,167,
т.о. по величине ошибка практически совпадает с вычисленной по формуле (2.38).
Если доля q окажется меньше 0,05 (.q < 0,05), то ошибку гь вычисляют по формуле
= /т{# - [-г+(* " <’)(* + тг)/ + г!1 • (2-40)
где обозначения те же, что и к формуле (2.37).
Оценка достоверности коэффициента корреляции по критерию Стьюдента:
, гъс 0,4619 те
1 " тг ~ 0,167 '
При] числе степеней свободы: v — N — 2 = 62 — 2 — 60 и при 95%-ном уровне достоверности по табл. ЗП, / — 2,000. Вычисленное значение больше табличного; следовательно, между степенью затенения растений и степенью их повреждаемости болезнями имеется небольшая, но достоверная связь: г,, = = 0,461 + 0,167, т.е. чем больше затенение, тем больше повреждаемость растений.
§ 2.16. Множественный и частные коэффициенты корреляции для трех рядов
Множественный и частные коэффициенты корреляции вычис ляют тогда, когда число коррелирующих признаков больше двух Силу совокупной взаимосвязи трех признаков одновременно моя но измерить при помощи множественного коэффициента корреляции по формулам:
Н,„Х2 = Jj^i2JliZ22£Zi2L,(2.41)
или
(2.42
или
Лу.„ _ ]Л - (1 - 4) (1 - /их\(2.43;
где Пу.Х1 — множественный коэффициент корреляции, точка после у означает, что изучается совместное влияние аргументов .г, z на функцию у; туг, тух, тХг — полные (обычные) коэффициеп ты корреляции попарно между признаками х, у, z; v rU2,2 rux,yrx, - частные коэффициенты корреляции попарно при исключении влия пия третьего признака, индекс которого ставится слева от буквы / Частные коэффициенты корреляции вычисляются по формулам.
(2-44)(2.45)(2.46)(2-44)(2.45)(2.46),Г&х ryzrxz
(2-44)
(2.45)
(2.46)
(2-44)
(2.45)
(2.46)
" ~ /d-^d-r^)
^d-^d-r^)
^d - r^ (1 - г»,,)
где обозначения те же, что и к формулам (2.41)—(2.43).
Полные коэффициенты корреляции вычисляются по формуле (2.13), если ряды взвешенные, или по формуле (2.11), если ряды невзвешенные.
Вычисление множественного и частных коэффициентов корреляции производится в следующем порядке:
Вычисляем полные коэффициенты корреляции между признаками сои, для чего произведем действия, указанные в табл. 2.15. Подставляя суммы столбцов этой таблицы в формулу (2.11),
получим:получим:Syz —Syz —NNихих2г2 •2г2 •N ЦЛ" N2868-839185412 ^N ЦЛ" N2868-839185412 ^8392 \/2868255869 - -jj-Д634906 — -^у-839-26016609 - —jg—8392260-\55869 — -то- 5458 — -ту-13 А1-> /8392 \/2868255869 - -jj-Д634906 — -^у-839-26016609 - —jg—8392260-\55869 — -то- 5458 — -ту-13 А1-> /- 0,163;- 0,163;-0,257;-0,257;~ /V~ /V57737 -57737 -Si/Szр2868-260"13Si/Szр2868-260"1328682286821313= 0,502;= 0,502;j а б л и на 2.15
получим:
получим:
Syz —
Syz —
N
N
их
их
2г2 •
2г2 •
N ЦЛ" N
2868-839
185412 ^
N ЦЛ" N
2868-839
185412 ^
8392 \/28682
55869 - -jj-Д634906 — -^у-
839-260
16609 - —jg—
8392260-\
55869 — -то- 5458 — -ту-
13 А1-> /
8392 \/28682
55869 - -jj-Д634906 — -^у-
839-260
16609 - —jg—
8392260-\
55869 — -то- 5458 — -ту-
13 А1-> /
- 0,163;
- 0,163;
-0,257;
-0,257;
~ /V
~ /V
57737 -
57737 -
Si/Sz
р
2868-260
"13
Si/Sz
р
2868-260
"13
28682
28682
13
13
= 0,502;
= 0,502;
Высота растений (х). см
Вес 1000 зерен (У), г
Урожайность (г), Ч/га
X2
У2
Z2
ху
хг
У2
62
217
19
3844
47089
361
13454
1178
4123
63
212
20
3969
44944
400
13356
1260
4240
73
218
12
5329
47524
144
15914
876
2616
82
242
17
6724
58564
289
19844
1394
4114
66
199
16
4356
39601
256
13134
1056
3184
44
200
17
1936
40000
289
8800
748
3400
43
235
25
1849
55225
625
10105
1075
5875
54
235
25
2916
55225
625
12690
1350
5875
63
225
19
3969
50625
361
14175
1197
4275
74
234
25
5476
54756
625
17316
1850
5850
74
223
27
5476
49729
729
16502
1998
6021
64
218
23
4096
47524
529
13952
1472
5014
77
210
15
5929
44100
225
16170
1155
3150
839
2868
260
55869
634906
5458
185412
16609
57737
цучисление полных (обычных) коэффициентов корреляции .между тремя признаками
^!l'2t
Ошибки по формуле (2.12) и значения критерия достоверности с преобразованием через г этих коэффициентов следующие:
Г„~ 0,163,
= —-1- 0,316,
‘|/ 13 - - 3
г,,.. = 0,502,
mz = 0,316,G=^gl = 117
0,olo ’’
rxz = - 0,257,
тг — 0,316,0,83.
40,316
Все три полных коэффициента корреляции оказались недостоверными (процедуру оценки см. § 2.04 пункт 6), однако это не означает, что связь между рассматриваемыми признаками отсутствует. Например, связь между у и z, т.е. весом 1000 семян и урожайностью, хотя и недостоверна, но сильнее, чем прочие связи. Может возникнуть вопрос, не мешает ли полнее выявить связь между у и z влияние х, т.е. высоты растений. Чтобы проверить эту гипотезу, необходимо исключить из связи между у и z влияние х. Для этого вычисляем частные коэффициенты корреляции, исключая поочередно влияние каждого фактора из трех по формулам (2.44), (2.45), (2.46):
0,163 - 0,502.(- 0,257) п
= —-■ -= 0,350;
* V /(1 - 0,5022) [1 — (— 0,257)2]’’
0,502 —0,163-(—0,257) п
Tr„z = —- - ~ . ..... .v 4 . =0,5/1;■
/(1 —0,1632)[1 -(--0,257)2]
— 0,257 — 0,163.0,502п
,,rTZ = ■ -/ '-■■ — — 0,404.
/(1 — 0,1632) (1 _ 0,5022)
Ошибки частных коэффициентов корреляции при N < 100 вычисляются по формуле (2.12) и по формуле (2.15) при числе наблюдений больше 100.
По формуле (2.12):
zryv = 0,350; т. = 0,316; /=-^- = 1,15;
Z77 Z 0,31Ь’’
xr„z = 0,571;mz = 0,316; / = -£^- = 2,05;
r _ -0,404; тг = 0,316; t. = -^- = 1,36.
При оценке достоверности частного коэффициента корреляции по табл. ЗП число степеней свободы принимается: v = N — —2—п, где N — объем выборки, п — число факторов, действие которых устраняется, в данном случае п = 1, следовательно: v= 13 — 2 — 1 = 10.
Таким образом, поочередное исключение влияния Отдельных факторов повышает силу связи между двумя остальными, хотя эта связь и осталась недоказанной (по-видимому, из-за недостаточного объема выборки), кроме связи между у и z, которая действительно стала достоверной, когда мы устранили влияние высоты растений (л) на связь между весом 1000 семян (у) и урожайностью (z). Следовательно, частные коэффициенты корреляции имеют важное самостоятельное значение как метод исследования множественных корреляций.
Множественный коэффициент корреляции, отражающий силу взаимосвязи трех факторов совокупно, определим по формуле (2.41): '
п 1/0,163* I- 0,502* - 2-0,163-0,502-( —0,257) n
Ки-^ "У 1 - (- 0,257)* 0,58а.
Для проверки вычислений определим его также через частные коэффициенты корреляции по формуле (2.42):
|Л1 — (1 — 0,163) (1 — 0,57Г2) -= 0,586,
и по формуле (2.43):
И„.хг ^1 - (1 - 0,5022) (1 - 0,3502) - 0,586.
Ошибку множественного коэффициента корреляции при IV <( 100 можно получить по формуле (2.12):
1 mz ——,. /13-31 mz ——,. /13-30 316- t — 0,672■ - 9 I90 316- t — 0,672■ - 9 I9
1 mz ——,. /13-3
1 mz ——,. /13-3
0 316- t — 0,672■ - 9 I9
0 316- t — 0,672■ - 9 I9
Величина критерия не достигает минимума достоверности (Z = = 2,2 при числе степеней свободы v = 11 по табл. 311) поэтому совокупную взаимосвязь рассматриваемых трех факторов считаем недоказанной при данном числе наблюдений.
Без применения таблиц достоверность коэффициента множественной корреляции оценивается но критерию Романовского;
(-V-5) №"
Глава 3
РЕГРЕССИЯ
После того как при помощи методов из главы 2 установлено наличие корреляционной связи между двумя изучаемыми явлениями или признаками, можно попытаться установить закономерность количественного изменения одного из признаков (функция) при изменении другого (аргумент). Эту закономерность можно далее использовать для прогноза изучаемого явления или выяснения его критических точек. С этой целью изучаемую связь выражают аналитически, в виде соответствующего уравнения регрессии, и графически, с вычислением точек вычерчиваемой теоретической кривой но найденному уравнению. В этой главе даются методы такого аналитического и графического выражения некоторых типов корреляционных зависимостей.
§ 3.00. Таблица для выбора метода интерполяции эмпирических данных
1(0). Функция находится в зависимости от одного аргумента (парная связь) 2
— Функция связана с двумя аргументами.
Уравнение множественной регрессии — §3.02.
2(1). Зависимость прямолинейная (в сомнительных случаях см. § 2.01 и § 2.07)
Уравнение прямой линии — § 3.01.
— Зависимость криволинейная.
По рис. 8 подобрать подходящую форму кривой, схемы расчетов кривых приводятся в § 3.03—3.07.
01. Уравнение прямой липни
Эмпирические линии регрессии, построенные по методу из § 2.01, отражают изучаемую корреляционную связь с присущими ей случайными отклонениями и не дают возможности аналитического прогноза данного явления. Чтобы получить уравнение, по которому можно сделать такой прогноз, требуется интерполиро-
Рис. 8. Некоторые формы криволинейных зависимостей, встречающихся в биологииа - парабола второй степени; б — парабола третьей степени; в — кривая оптимума; г — степенная функция; Э — логистическая кривая; е — обратная логистическая кривая; х — аргумент; у — функция; а,, «0, —р, +Р — коэффициенты уравнения логистической кривойРис. 8. Некоторые формы криволинейных зависимостей, встречающихся в биологииа - парабола второй степени; б — парабола третьей степени; в — кривая оптимума; г — степенная функция; Э — логистическая кривая; е — обратная логистическая кривая; х — аргумент; у — функция; а,, «0, —р, +Р — коэффициенты уравнения логистической кривой
Рис. 8. Некоторые формы криволинейных зависимостей, встречающихся в биологии
а - парабола второй степени; б — парабола третьей степени; в — кривая оптимума; г — степенная функция; Э — логистическая кривая; е — обратная логистическая кривая; х — аргумент; у — функция; а,, «0, —р, +Р — коэффициенты уравнения логистической кривой
Рис. 8. Некоторые формы криволинейных зависимостей, встречающихся в биологии
а - парабола второй степени; б — парабола третьей степени; в — кривая оптимума; г — степенная функция; Э — логистическая кривая; е — обратная логистическая кривая; х — аргумент; у — функция; а,, «0, —р, +Р — коэффициенты уравнения логистической кривой
вать данную эмпирическую линию регрессии подходящей теоретической линией регрессии, которая даст возможность аналитической интерпретации связи. Простейшей теоретической линией регрессии, подходящей для приблизительного прогноза явления в некоторых случаях, является прямая линия, или парабола первой степени. Уравнение прямой линии наиболее простое для расчета, поэтому путем различных преобразований данных часто стремятся свести криволинейные зависимости к прямолинейным. Однако нередко корреляционные связи в биологии имеют такую форму криволинейности, что уравнение прямой к ним применить не удается. В таких случаях, изучив форму эмпирической линии регрессии (§ 2.01), следует попытаться подобрать к пей подходящую теоретическую кривую по рис. 8, который, однако, далеко не исчерпывает всех форм криволинейных зависимостей, встречающихся в биологии, на нем представлены лишь наиболее распространенные из них.
На примере зависимости веса 1000 семян от продолжительности вегетационного периода у ячменя ниже излагается ход вычисления уравнения прямой линии, которое в общей форме имеет вид:
у' = а0 -г а^, (3.01) где у’ — теоретические значения функции или зависимой переменной; х — аргумент, или независимая переменная; а0, ах —
Т а б л и ц а 3.01
К вычислению уравнения прямой липин
Продолжительность вегетационного периода (х)
Вес 1000 семян ячменя (У), г
X2
ух
У*
У' — У
(у' — и
90
47,50
8100
4275,00
48,3399
0,84
0,7056
85
46,75
7225
3973,75
46,8004
0,05
0,0025
80
45,75
6400
3660,00
45,2609
-0,49
0,2401
75
42,85
5625
3213,75
43,7214
0,87
0,7569
70
44,76
4900
3133,20
42,1819
—2,58
6,6564
65
41,44
4225
2693,60
40,6424
-0,80
0,6400
60
37,00
3600
2220,00
39,1029z
2,10
4,4100
525
306,05
40075
23169,30
306,0498
0,01
13,4115
коэффициенты уравнения, имеющие различное значение в зависимости от специфики изучаемого явления; у — (в табл. 3.01) — эмпирические значения зависимой переменной.
Для того чтобы можно было пользоваться уравнением (3.01) в применении к вышеназванной конкретной связи, необходимо определить присущие ей величины коэффициентов «0 и av Определение коэффициентов уравнений теоретических линий регрессии производится различными способами, самый точный из них — метод наименьших квадратов, посредством которого вычислим коэффициенты уравнения (3.01).
В качестве исходных данных для нахождения коэффициентов уравнения прямой линии служат значения эмпирической линии регрессии (способ ее вычисления см. в § 2.01), если функция и аргумент представлены взвешенными рядами. Если же выборки у и х представлены невзвешенными рядами, то для расчета коэффициентов уравнения регрессии берутся непосредственно варианты этих рядов, без вычисления эмпирической линии регрессии.
Требующиеся здесь значения эмпирической линии регрессии yjx уже подсчитаны в табл. 2.01. '
В столбцах 1 и 2 табл. 3.01 приведены значения ряда х и у'х из табл. 2.01. В столбцах 3 и 4 производятся действия, суть которых ясна из заголовков столбцов.
Суммы, полученные при суммировании чисел столбцов 1—4, подставляем в систему двух нормальных уравнений:
(3.02)(3.02)(1) а0 V л п^о; = 2у,
(3.02)
(3.02)
(2) «02л; - а-^х2 = ^ху,
||Олучаем:
7ni) 325^ = 306,05;
525 п0 : 40075 ot = 231(19,3.
\. Находим значения а0 и я, из уравнений следующим образом. Делим число при о0 во втором уравнении па число при «0 в первом ^равнении: 525 : 7 = 75; умножаем все члены первого уравнения па 75; вычитаем из второго уравнения первое:
525ло -■ 40075«i — 23169,3,
" 525«<, + 39375а! - - 22953,75 700а> - 215,55.
откуда av = 0,3079. Подставляя найденное значение Oj в первое уравнение, находим:
306,05- 525-0,3079- п п >еп
По " ?— „и,О_ОУ.
Уравнение (3.01) получает следующие коэффициенты:
у = 20,6289 -г 0,3079т или округленно: у = 20,03 - 0,31т.1
В столбце 5 вычислены теоретические значения веса 1000 семян у' при различной продолжительности вегетационного периода х.
0. В столбце 6 приводится разница между теоретическими и фактическими значениями веса 1000 семян.
Ошибка уравнения регрессии определяется по формуле
т-ух зу /1 — г2,(3.03)
где ти ж — ошибка теоретических значений функции; <т?/ — среднее квадратическое отклонение ряда у; г — коэффициент корреляции между х и у.
Вместо коэффициента корреляции в формулу (3.03) можно подставить также корреляционное отношение, измеряющее силу связи между теми же признаками (оно вычислено для этих рядов в § 2.10): цул. = 0,26. Среднее квадратическое отклонение — <j,; = = 7,187. Отсюда ио формуле (3.03):
ти.х = 7,187 • V1 - 0,262 = 6,94.
Таким образом, вес 1000 семян в г (у) у ячменя можно приблизительно определить, зная продолжительность их созревания в днях (т), но формуле
у = 20,63 -- 0,31т, с ошибкой + 6,94 г (рис. 9).
По другому способу ошибка уравнения регрессии вычисляется по формуле
”... - /т? -<3-04)
Рис. 9. Зависимость веса 1000 семян (у) от продолжительности вегетационного периода (г) у сортов ячменя 1 — эмпирическая линия регрессии у/х; 2— прямолинейная регрессия связи;
где ту.х — ошибка уравнения регрессии; у — эмпирические зп чения функции; у' — теоретические значения функции; N — чп ло точек эмпирической линии регрессии, по которым вычисл лось уравнение регрессии; п — число коэффициентов уравиенв включая свободный член.
В рассматриваемом примере (табл. 3.01)
/" 13,4115„
™ух = у ""7^2 = 1,6 г'
Точки пересечения с осями ординат и абсцисс равны соо ветственпо:
?/ = а0;^ = - ^.,(3.0;
где обозначения те же, что и к формуле (3.01), т.е. у = 20,6,
хq 2| —“bbyU.
§ 3.02. Уравнение множественной регрессии
Аналитическим выражением многофакторных связей являются уравнения множественной регрессии. В рассматриваемом здесь примере (высота растений, вес 1000 семян и урожайность сои) связь между этими факторами оказалась в общем слабой. Более или менее целесообразным в данном случае было бы искать лишь параметры уравнения, выражающего зависимость веса семян от двух других факторов:
у = а0 + ат ж -г агг,(3.06)
где у — функция, зависимая переменная, вес 1000семян; а0, av а2 —- коэффициенты уравнения;
х — высота растений в слс. ।
z - урожайность сои в ц/га ) независимые переменные.
Для получения коэффициентов уравнения множественной регрессии требуется решить систему трех нормальных уравнений:
2?/ = a0N ->- д,2а: j- n22z;
Хух — a0 -H a^a:2 -|- а^гх;
2yz = a02z + Я12жз + а^т?.'
Необходимые для решения уравнений суммы вычислены в табл. 2.15:
Ху = 2868;Хух - 185412;Хуг 57737;Х^ --= 5458;
Хх - 839;Хх1 -= 55869;Xzz -= 16609;2z = 260.
Подставляя эти суммы в систему уравнений (3.07), получим:
2868 = 13а0 + 839а! Н- 260а2
185412 = 839а0 Н 55869^ + 16609а2
57737 = 26Оао 4- 16609а.! 4 5458а2.
Решим систему, состоящую из первого и второго уравнений, для чего разделим первое уравнение на 13, а второе на 839 и вычтем из второго первое:
220,9916 = до + 66,589л! + 19,7962о2
220,6154 — йо'+ 64,5385ai 4- 20а2
“ 0,3762 - = 2,0515а! - 0,2038а2^
Чтобы получить второе уравнение с двумя неизвестными, решим систему, состоящую из первого и третьего уравнений, для чего разделим первое уравнение на 13, а третье на 260 и вычтем из третьего первое
222,0654 -= а0 + 63,8808/7! 4- 20,9923а3
~ 220,6154 = аа + 64,5385ai + 20а3
1,4500 = 0 — 0,6577а! + 0,9923а2.
Теперь решим систему двух получившихся уравнений с двумя неизвестными:
0,3762 = 2,0515а! - 0,2038а2
1,4500 = - 0,6577а! + 0,9923а3,
для чего разделим первое из них на 2,0515, а второе на 0,6577 и, сложив полученные уравнения, пайдем а2:
0,183378 = aL — 0,099342а2
+ 2,20465 = —ai + 1,50874а2
2,388028 = 1,409398аа а2 = 1,694367.
Подставляя значение а2 в первое уравнение из системы Двух уравнений (пункт 4) с двумя неизвестными, определим аг:
0,3762 = 2,0515a! - 0,2038-1,6944;
Подставляя в первое уравнение пашей начальной систем^ значения ах и «2, найдем а»:
2868 = 13«0 -|- 839-0,3517 + 260-1,6944;
«о =«о =164,030.164,030.2868 — 295,0763 - - 440,5440
«о =
«о =
164,030.
164,030.
13
Уравнение регрессии:
уХ2 = 164,030 4- 0,3517л: + 1,69436?.
Проверка: подставляя в первое уравнение начальной системы значения а0, + и a^ получаем:
2868 = 13-164,030 + 839-0,3517 + 260-1,69436 =
= 2132,3900 + 295,0763 + 440,53362867,9999.
Очевидно, что коэффициенты а0, аг, а2 определены правильно.
Ошибка уравнения множественной регрессии определяется по формуле
м(М8)
где my,.xz — ошибка теоретических значений функции у, ау, ах, az — отклонения вариант рядов у, х, г от их средних арифметических; аА1 аг — коэффициенты уравнения множественной регрессии; N — объем ряда; п — число коэффициентов уравнения, включая свободный член. Суммы отклонений ау, ах, а2 вычисляются по формулам:
^ - 2у2 - NM^
^Layax — 2-ух — NMyMx,(3.09)
2ауах = 2у? — NMVMZ.
Пользуясь данными табл. (2.15), определяем средние арифметические рядов ж, у, ? по формуле (1.06):
Мх - -^- - 64,5384; Му = ^ = 220,615;
Мх = ^- = 20,0;2?/2 = 634906;
2ух 185412;Syz - 57737.
Подставляем найденные величины в формулы (3.09):
2ау = 634906 - 13-220,6152 - 2183,2831;
2ауах = 185412 - 13-220,615-64,538 - 316,1915;
5йУа2 =- 57737 - 13-220,615-20,0377,100;
после чего определили все величины, необходимые для вычисления ошибки уравнения множественной регрессии по формуле (3.08):
2183,2831 -(0,3517.316,1915 ж 1,6944-377,1), ..
m„.,v2 = у 113 _3: =+11,971.
Таким образом, по уравнению yxz = 164,030 + 0,3517ж + л- l,6944z, можно рассчитать вес 1000 семян, зная высоту растений и урожайность сои с ошибкой: my.xz = + 11,97 г.
§ 3.03. Парабола второго порядка
Подбор соответствующей теоретической криволинейной функции к данной эмпирической зависимости пока не формализован и осуществляется главным образом на основании соответствующего опыта исследователя, методом нроб’и ошибок. Наибольшую помощь при подборе кривых оказывает сборник их графиков (Семендяев, 1933). На рис. 8 изображены криволинейные функции, наиболее часто встречающиеся в биологии.
Выравнивание (интерполяция) криволинейных эмпирических линий регрессии параболой второго порядка в биологии применяется особенно часто. Уравнение параболы второго порядка в общей форме:
(3.10)(3.10)у' = п0 + агх {- а2ж2,
(3.10)
(3.10)
где у'— функция, или зависимая переменная; ж — аргумент или независимая переменная, а0, аы й2 — коэффициенты уравнения.
Вычисление конкретных значений коэффициентов уравнения (3.10) и является содержанием работы по интерполяции данной эмпирической зависимости параболой второго порядка. Попробуем посредством параболы отобразить зависимость между высотой растения и урожаем семян с одного растения у кориандра. Первичные данные были обработаны с построением корреляционной решетки (которая здесь не приводится) и вычислением эмпирической линии регрессии (по способу, приведенному в § 2.01), значения которой и приняты в качестве исходных данных для вычисления коэффициентов параболы (табл. 3.02).
Применяя метод наименьших квадратов для нахождения коэффициентов уравнения (3.10), требуется решить систему нормальных уравнений:
a^N + а^х + а2Хж2 = "Sy, ■
(З.И)(З.И)а0Хж 0- а^3 + а2Хж® = Xух,я0Хж2 + а^х3 я2Хж4 — Хуж2,
(З.И)
(З.И)
где а0, Я], а2 — искомые коэффициенты уравнения (3.10); N — число точек эмпирической линии регрессии; Хж, Хж2, Хж3, Хж4, Ху, Хуж, Хуж2 — суммы, полученные в результате вычислений, выполненных в табл. (3.02).
Вычисление сумм для определения коэффициентов уравнения парабол, второго порядка методом наименьших квадратов
Высота растений кориандра (х), см
X2
X3
X4
Вес семян с одного растения (у), г
ху
ух2
У'
112
12544
1404928
157351936
24,0
2688,0
301056,0
22,97
95
9025
857375
81450625
17,6
1672,0
158840,0
18,69
78
6084
474552
37015056
13,2
1029.6
80308,8
15,14
61
3721
226981
13845841
14,4
878,4
53582,4
12,34
44
1936
85184
3748096
11,2
492,8
21683,2
10,29
27
729
19683
531441
8,0
" 216,0
5832,0
8,97
417
34039
3068703
293942995
88,4
6976,8
621302,4
88,40
Подставляя найденные суммы в уравнения (3.11), получаем: 6а0 + 417^ г 34039а2 = 88,4 417а0 + 34039а! + 3068703а2= 6976,8 34О39ао + 3068703а! + 293942995а, = 621302,4.
Решая эту систему уравнений относительно а0, а1 и а2 по при меру того, как это сделано в § 3.02, находим: а0 = 8,41; aj = — — 0,013937; а2 = 0,0012852. Уравнение (3.10) в конкретном вы ражении имеет вид:
V = 8,41 - О,О13937ж + 0,0012852ж2, где у' — теоретические значения веса семян с одного растения в а; х — высота растений у кориандра в см.
В табл. 3.02 в последней колонке вычислены теоретические значения функции. Подобно тому как это сделано в табл. 3.01, вычислим попарно разности (у — у'), возведем все разности в квадрат и получим их сумму:
2 (у - у')2 = 12,0255.
Применив к уравнению параболы формулу (3.04), определим его ошибку:
ч 12,0255 п ^у*хq з — 2,0 а.
Точки пересечения параболы с осью ординат и осью абсцисс соответственно равны:
— «1— Апоаг
а - "о; х =^ (з.
По формуле (3.12) подкоренное выражение (дискриминант) для данных ио рассматриваемому примеру равно:— 0,043, поэтому точек пересечения с осью абсцисс у этой параболы не существует.Абсцисса точки максимума (пли минимума) параболы равна(ЗЛЗ)или для нашего примера_- 0 013937г/?2-0,00121552 3 а’Обозначения коэффициентов в формулах (3.12) и (3.13) те же, что и в формуле (3.10). Как видно из рис. 10, совпадение эмпирической линии регрессии с теоретической по параболе второго порядка не совсем полное. В следующем параграфеПо формуле (3.12) подкоренное выражение (дискриминант) для данных ио рассматриваемому примеру равно:— 0,043, поэтому точек пересечения с осью абсцисс у этой параболы не существует.Абсцисса точки максимума (пли минимума) параболы равна(ЗЛЗ)или для нашего примера_- 0 013937г/?2-0,00121552 3 а’Обозначения коэффициентов в формулах (3.12) и (3.13) те же, что и в формуле (3.10). Как видно из рис. 10, совпадение эмпирической линии регрессии с теоретической по параболе второго порядка не совсем полное. В следующем параграфеРис. 10. Связь между высотой растений (ж) и урожаем семян кориандра с растения (i/)Рис. 10. Связь между высотой растений (ж) и урожаем семян кориандра с растения (i/)1 — эмпирическая линия регрессии; 2 — парабола второго порядка; з - парабола третьего порядка1 — эмпирическая линия регрессии; 2 — парабола второго порядка; з - парабола третьего порядкапоказано, каким образом в подобных случаяхпоказано, каким образом в подобных случаяхможно улучшить интерполяцию, повышаяможно улучшить интерполяцию, повышаяпорядок параболы.порядок параболы.
По формуле (3.12) подкоренное выражение (дискриминант) для данных ио рассматриваемому примеру равно:— 0,043, поэтому точек пересечения с осью абсцисс у этой параболы не существует.
Абсцисса точки максимума (пли минимума) параболы равна
(ЗЛЗ)
или для нашего примера
_- 0 013937г/?
2-0,00121552 3 а’
Обозначения коэффициентов в формулах (3.12) и (3.13) те же, что и в формуле (3.10). Как видно из рис. 10, совпадение эмпирической линии регрессии с теоретической по параболе второго порядка не совсем полное. В следующем параграфе
По формуле (3.12) подкоренное выражение (дискриминант) для данных ио рассматриваемому примеру равно:— 0,043, поэтому точек пересечения с осью абсцисс у этой параболы не существует.
Абсцисса точки максимума (пли минимума) параболы равна
(ЗЛЗ)
или для нашего примера
_- 0 013937г/?
2-0,00121552 3 а’
Обозначения коэффициентов в формулах (3.12) и (3.13) те же, что и в формуле (3.10). Как видно из рис. 10, совпадение эмпирической линии регрессии с теоретической по параболе второго порядка не совсем полное. В следующем параграфе
Рис. 10. Связь между высотой растений (ж) и урожаем семян кориандра с растения (i/)
Рис. 10. Связь между высотой растений (ж) и урожаем семян кориандра с растения (i/)
1 — эмпирическая линия регрессии; 2 — парабола второго порядка; з - парабола третьего порядка
1 — эмпирическая линия регрессии; 2 — парабола второго порядка; з - парабола третьего порядка
показано, каким образом в подобных случаях
показано, каким образом в подобных случаях
можно улучшить интерполяцию, повышая
можно улучшить интерполяцию, повышая
порядок параболы.
порядок параболы.
§ 3.04. Парабола третьего порядка
Если при выравнивании (интерполяции) криволинейной зависимости оказалось, что парабола второго порядка неудовлетворительно совпадает с эмпирической линией регрессии, то можно попытаться улучшить это совпадение, применяя уравнение параболы третьего порядка:
г/ = а0 + п1ж -|- a.^ -|- а3ж3, (3.14) где у' — функция или зависимая переменная; а0 — а3 — коэффициенты уравнения; ж — аргумент, или независимая переменная.
Для определения коэффициентов а0 — а3 уравнения (3.14) можно применить метод наименьших квадратов, однако вычисления при этом становятся слишком громоздкими, поэтому для нахождения коэффициентов уравнения параболы третьего порядка рекомендуется применять метод П. Л. Чебышева. Рассмотрим вычисление коэффициентов уравнения по методу Чебышева на примере из предыдущего параграфа. Особенность этой схемы расчета состоит в том, что варианты ряда аргумента должны
быть расположены через равные интервалы, т. е. с одинаковым шагом.
Эмпирическая линия регрессии в данном случае состоит из шести точек. В табл. 14П приведены числа Чебышева, при помощи которых можно вычислить коэффициенты уравнений параболы первого (прямая линия), второго и третьего порядка. Из столбца с заголовком 6 (число точек эмпирической линии регрессии) табл. 14П выписываем числа Чебышева (/ц /2, /3) и их суммы в табл. 3.03.
Таблица 3.03
Вычисление коэффициентов параболы третьего порядка по методу Чебышева
Высота растений (X), СМ
27
44
61
78
95
112
суммы
Вес семян с одного растения (У), г
8,0
11,2
14,4
13,2
17,5
24,0
By = 88,4
/1
-5
-3
-1
4-1
+3
45
5/2 = 70
72
+5
—1
-4
-4
-1
4 5
2/|=84
Уз
-5
+ 7
+4
-4
-7
4-5
S/| = 180
УЛ
-40,0
-33,6
-14,4
4-13,2
52,8
120,0
Еул = 98,0
УЛ
40,0
—11,2
-57,6
-52,8
-17,6
120,0
У1з
—40,0
78,4
57,6
-52,8
-123,2
120,0
2y/3 = 40,0
«/71
-7,0
-4,2
-1,4
1,4
4,2
7,0
—
1,238
-0,2476
-0,9904
—0,9904
-0,2476
1,238
—
—1,111
1,55554
0,8888
-0,8888
-1,5554
1,111
—.
7,86
11,8408
13,23
14,25
17,13
24,082
—
1 У — Уг|
0,15
0,64
1,17
1,05
0,47
0,10
—
(у - уТ
0,0225
0,4096
1,3689
1,1025
0,2209
0,0100
S =- 3,1344
Множим значения у поочередно на соответствующие им Л, 7г и 73; получаем в шестой строке сверху: 8,0-(—5) = —40,0; 11,2-(—3) = — 33,6 и т. д. Произведения yjv yf2, yfs суммируем по строкам.
Находим условные значения коэффициентов уравнения:
-2;/
й° -"
14,733; 0’
-2№
20,8 " 84
- 0,2476;
' - 2y/1
12/1
— J®£. = i 40
70’ ’
- Syi3 a‘" ^
_ 40,0 ' 180
0,2222.
Перемножаем условные коэффициенты а^, а2, а^ на соответствующие числа fv f2, /3 и результаты записываем в строках 9, 10, 11 (сверху):
1,4-(—5) = —7,0; 1,4-(—3) — —4,2 и т. д.
Вычисляем теоретические величины функции, для чего суммируем по вертикали (в строках 9, 10, 11) следующие числа:
1J = «о -I- «171 г «2/2 -Н «з7з, например
у' = 14,733 - 7,0 н 1,238 - 1,111 = 7,86;
у' ^= 14,733 - 4,2 - 0,2476 4- 1,5554 = 11,8408 и т. д.
Для определения величин истинных коэффициентов уравнения выпишем четыре любые равноотстоящие (или рядом стоящие) величины у' и ж и образуем систему уравнений следующего вида:
11,84 = а04-44 аг4-1936 я24-85184а3,
13,23 — а0+61 ай+3721 а24-226981а3,
14,25 = а04-78 ах4-6084 а24-474552а3,
17,13 = а04~95 «!4~9025 а24*857375а3.
Числа при а2 и а3 представляют собой соответственно квадраты и кубы рядом стоящих величин ж : 44, 61, 78, 95.
Вычитая предыдущее значение у’ из последующего, образуем первый столбец табл. 3.04: 13,23 — 11,84 = 1,39 и т. д. Во втором столбце записаны разности величин аргумента при коэффициенте af. 61 - 44 = 17; 78 - 61 = 17; 95 - 78 = 17.
В столбце 3 — разности чисел: последующее минус предыдущее при коэффициенте а2, то же самое записано в столбце 4 для чисел при а3 (см. систему четырех уравнений выше). В столбце 5 разности чисел из столбца 1, в 6 — разности чисел столбца 3, в 7 — разности чисел столбца 4, в 8 — разности чисел столбца 5, в 9 — разности чисел столбца 7. Во всех случаях в табл. 3.04 вычитается вышестоящее число из нижестоящего.
Истинные коэффициенты уравнения находим, решая следующие выражения:
«3 = 4^ = S = °’000075^
0,014505,0,014505,ZVV — a3A"z3 — 0,37 — 0,00007575 • 105794
0,014505,
0,014505,
аг —Д"^~578
Д'у' — я2Д'я2 — язД'ж3
0,972959,0,972959,1,39 + 0,014505 • 1785 — 0,00007575 • 141797 ’17
0,972959,
0,972959,
ап = у' — ахх — а2ж2 — а3ж3 — 11,84 — 0,972959 • 44 44- 0,014505 • 1936 - 0,00007575 • 85184 = - 9,3412.
Уравнение (3.14) в результате получает следующую конкретную форму:
у' = -9,34 + 0,973ж — 0,0145ж2 + 0,000076ж3.
Теоретические значения функции, их разности с фактическими значениями (у — у') и квадраты последних (табл. 3.03; необходимы для вычисления ошибки прогноза ио данному урав нению, по формуле (3.04):
Линия 3 на рис. 10 соответствует уравнению параболы третьего порядка и ближе отражает эмпирическую зависимость (линия 7). чем парабола второго порядка (линия 2). Ошибка теоретического уравнения регрессии также уменьшилась: с 2,0 (§ 3.03) до 1,25.
Методика вычисления по способу II. Л. Чебышева коэффициентов уравнений парабол, которые заданы рядами с неодинаковым шагом ио аргументу, приводится в книге 13. И. Хотимского (1959).
Точка пересечения параболы третьего порядка с осью ординат равна у = «0, абсцисса ее точки максимума:
точка перегиба параболы:
z = —,(3.16)
Заз
где обозначения те же, что и к формуле (3.14).
В рассматриваемом примере парабола не пересекается с осью абсцисс, так как при подстановке значений коэффициентов в формулу (3.15) в подкоренном выражении получается отрицательное число. Абсцисса точки перегиба:
— 0,0145 йг ,
~3 • 0,000076 " 65,4 СМ‘
Т а б л и ц а 3.04
Таблица приращений для вычисления коэффициентов уравнения кубической параболы по методу II. Л. Чебышева
Д'У
Л'х
Д'Х=
Д'х3
AV
Д"х2
Д"х3
А "'у'
А"'х3
1,39
17
1785
141797
-0,37
578
105794
2,23
29438
1,02
17
2363
247591
1,86
578
135232
2,88
17
2941
382823
$ 3.05. Кривая оптимума
Зависимость изменений интенсивности физиологических функций или морфологических особенностей организма от количественного изменения какого-либо экологического фактора, например тепла, нередко можно выразить кривой, уравнение которой
УУап -|- avr -j- а^х- ' ’ап -|- avr -j- а^х- ' ’(3-17)(3-17)
У
У
ап -|- avr -j- а^х- ' ’
ап -|- avr -j- а^х- ' ’
(3-17)
(3-17)
где у' — теоретическое значение функции; х — аргумент; я0, av «2 — коэффициенты уравнения.
Конкретные значения коэффициентов можпо находить способом наименьших квадратов, однако для той ь е цели можпо применить менее точный, по более простой метод средних. Посредством метода средних ниже интерполирована зависимость прироста в зм1 грибницы плесневого гриба Coniophora cerebella от температуры. Измерения длины грибницы производились через каждые двое суток. Вычисления, приведенные в табл. 3.05, выполняются в следующем порядке:
Величины х делим па соответствующие им у (столбец 3).
/ X \
Выбираем пару значений хх (из столбца 1), I —J (из столбца 3) в качестве избранной точки, в данном случае ж1 = 15; ^у) = 0,9375, и поочередно вычтем число 15 из всех чисел столбца 1 и число 0,9375 из всех чисел столбца 3.
Числа столбца 5 поделим на соответствующие им числа столбца 4.
Для нахождения коэффициентов ах и а2 применяются уравнения:
у+ «2^;
(3.18)
at = «! + хуа2,
где5 ~сумма вариант верхней части ряда в столбце 6, в данном случае равна 0,23484;
22"F"— сумма нижней, оставшейся части того же ряда из столбца 6, в данном случае опа равна 1,05854; ^ = 4 — число вариант, суммированных в верхнейчасти столбца 6; н2 — 4 — число вариант, суммированных в нижней части столбца 6; 21ж= 60 — сумма соответствующих вариант верхней части ряда
ж из столбца 1; 22ж=150— сумма соответствующих вариант нижней части ряда из столбца 1; ах — условное значение коэффициента а^ av а2 — коэффициенты уравнения (3.17). Заметим, что ряды в столбцах 1 и 6 могут быть разделены на любые две части, но лучше, если они' будут приблизительно равными; xY = 15 — абсцисса избранной точки.
Подставляя найденные суммы в уравнения (3.18), получаем:
0,23484 = 4 щ + 60 «2; 1,05854 = 4 щ -|- 150 а2.
Решая эти уравнения с учетом того, что щ = а^ 4- 15 а2, получаем: у2 = 0,0091522; «2= — 0,0785725, ^= 0,21585.
Рис. И. Зависимость прироста грибницы (у) от температуры среды (х) 1 — эмпирические данные;
2 — теоретическая кривая оптимума
Величину коэффициента а0 можно определить при помощи уравнения
2 —" = ^й» ++ й2^2>(3.19)
где 2 "7 — сумма величин столбца 3; N — объем выборки; а0, «и «2 — коэффициенты уравнения (3.17); 2 ж — сумма величин столбца 1; Еж2 — сумма квадратов величин столбца 1, в данном случае 2 ж'2 = 7125 (столбец 10).
Подставим суммы из табл. 3.05 в уравнение (3.19): 35,5132 = = 9а0 + (-0,21585).225 + 0,009152*7125; отсюда: а0 = 2,096806.
Итак, зависимость прироста грибницы от температуры окружающей среды может быть интерполирована уравнением:
= 2,096806 — 0,21Жх + 0,009152x2 *
Для вычисления ошибки данного уравнения, по нему вычислены теоретические значения функции у (столбец 7), их разности с эмпирическими данными (столбцы 2 и 8), квадраты этих разностей (столбец 9). Подставим сумму столбца 9 в формулу (3.04):
/ 3,0515„ „.
ти.х — у "9I23- = °»'1 -М-Щ
Таблица 3.05
К вычислению уравнения кривой оптимума по методу средних
Температура (х), СС
Прирост (у), мм
х/м
ха
(х ^15)
( — - 0,9375) v У
ха
V
У'—У
(у' — уУ
Х2
5
5
1
-10
0,0625
—0,00625
4,01
0,99
0,9801
25
10
И
0,9091
— 5
—0,0284
0,00568
11,72
^0,72
0,5184
100
z, = 15
16
(^1-0.9375
0
0
0
16,34
f0,34
0,1156
225
20
15
1,3333
5
0,3958
0,07916
13,88
-4,12
1,2544
400
25
10
2,5000
10
1,5625
0,15625
10,33
10,33
0,1089
625
2^ - 60
—
—
—
—
21-^2-= 0,23484
—
—
—
—
30
8
3,7500
15
2,8125
0,18750
7,78
'0,22
0,0484
900
35
6.
5,8333
20
4,8958
0,24479
6,08
40,08
0,0064
1225
40
5
8,0000
25
7,0625
0,28250
4,93
<0,07
0,0049
1600
45
4
11,2500
30
10,3125
0,34375
4,12
40,12
0,0144
2025
24г - 150
—
—
—
22-^ -- 1,05854
—
—
—
2z 225
—
2 — = 35,5132 У
—
—
—
—
3,0515
2х2 -= 7125
что и составляет ошибку прогноза прироста грибницы по уравнению кривой оптимума (рис. И). Абсцисса точки максимума кривой оптимума:
^=У^'(3-20)
где обозначения те же, что и в формуле (3.17). Для рассмотренного примера абсцисса точки максимума кривой оптимума:
== 14
И Щ,00952’
Если кривая, пайдеппая методом средних, не дает удовлетворительного совпадения с эмпирическими данными, следует попытаться улучшить качество интерполяции путем повторения вычислений с другой парой избранных точек.
06. Степенная функция
Для выравнивания зависимости площади листа растения от его длины обычно хорошо подходит степенная функция, уравнение которой
У' = «0^,(3.21)
где у' — функция или зависимая переменная; л0, |3 — параметры уравнения; ж — аргумент или независимая переменная.
Рассмотрим процесс вычисления уравнения степенной функции на примере интерполяции зависимости площади листа от его длины у огурца.
Вычисления, приведенные в табл. 3.06, выполняются в следующем порядке.
Табл и ц а 3.06
К вычислению параметров уравнения степенной функции
Длина листа (х), см
Площадь листа (у), см4
1g X
1g У
(1g xy
1g у 1g X
у—у' = 6
62
8
67,65
0,9031
1,8303
0,8156
1,6529
69,92
2,27
5,1529
10
110,60
1,0000
2,0438
1,0000
2,0438
109,32
1,28
. 1,6384
12
153,40
1,0792
2,1858
1,1647
2,3589
157,51
4,11
16,8921
14
224,10
1,1461
2,3504
1,3135
2,6938
214,49
9,61
92,3521
16
297,50
1,2041
2,4735
1,4498
2,9783
280,22
17,28
298,5984
18
369,15
1,2553
2,5672
1,5758
3,2226
354,89
14,26
203,3476
20
460,40
1,3010
2,6132
1,6926
3,3998
438,13
27,73
768,9529
22
514,50
1,3424
2,7114
1,8020
3,6398
530,40
15,90
252,8100
2
2147,30
9,2312
18,7756
10,8140
21,9899
—
5 б2
1639.7444
рис. 12. Зависимость площади листа (у) от длины листа (х) у огурца у — эмпирическая линия регрессии;
г — теоретическая кривая степенной функции
Величины ж и у логарифмируем, их логарифмы записаны в столбцах 3 и 4.
Логарифмы вариант ж (столбец 3) возводим в квадрат (столбец 5).
Перемножаем логарифмы ж и у (столбцы 3, 4, 6).
Суммируем числа в столбцах 2—6.
Для нахождения параметров уравнения (3.21) решаем систему двух уравнений:
(3.22)(3.22)A4ga0 321g ж = 2 Igy,
(3.22)
(3.22)
]g п0 21g ж 4- 32 (1g ж)2 = 2 (1g ж 1g у),
где N — число точек интерполируемого эмпирического ряда; п0, р — искомые параметры уравнения, прочие обозначения — суммы из табл. 3.06, подставляя которые в нормальные уравнения (3.22), получим:
lg a0 4- 9,2312 р = 18,7756,
9,2312 lg a0 + 10,8140 p = 21,9899,
откуда: p = 2,0031; a0 = 1,0854; lg a0 = 0,0356 и у* = 1,0854 ж2’0031, или в логарифмической форме:
1g у' = 0,0356 4- 2,0031 1g ж.
В столбцах 7—9 табл. 3.06 приведены теоретические значения площади листа, их разности с фактическими значениями и квадраты разностей, что необходимо для вычисления ошибки полученного уравнения по формуле (3.04):
-. / 1639,7444„
ту.х - у —§-2-2— = 16,аЗ см-.
Как видно из рис. 12, фактические данные удовлетворительно совпадают с теоретической линией регрессии.
§ 3.07. Логистическая кривая
Многие явления роста, увеличения численности популяций, изменений физиологического состояния организмов под действием неблагоприятных факторов и другие могут быть удовлетворительно моделированы логистической кривой, уравнение которой
у' =61 ■ ж- + «о.(3.23)
l + 10Y-3'x т’
где ?/' — функция, или зависимая переменная; а0 — нижняя асимптота, предел, с которого начинается рост функции; ах — расстояние между верхней (ах Ч «о) и нижней (а0) асимптотами; Р, 7 — параметры уравнения, определяющие наклон и изгиб логистической кривой.
Рассмотрим процесс вычисления значений асимптот и параметров уравнения (3.23) на примере интерполяции динамики накопления сухого вещества в растущих плодах томата.
В табл. 3.07 приведены следующие данные (по столбцам):
Пятидневки вегетационного периода.
Квадраты порядковых номеров пятидневок.
Прирост сухого вещества в плодах в граммах.
Расстояние между' асимптотами — «х (величина которого делится на у в столбце 4) определяется по графику (см. рис. 8) эмпирических данных, так же как и величина нижней асимптоты — а0; в данном случае принимаем ах = 80,3; а0 = 0 (рис. 13). Проверку правильности графического определения верхней асимптоты можно сделать по формуле
(3.24)(3.24)2у1УгУз — Уз 0/1 + Уз)
(3.24)
(3.24)
«1—2
ЩУз — Уз
где ах — величина расстояния между асимптотами; ух, у2, у3 — три эмпирических значения функции, взятые через одинаковые интервалы аргумента, в нашем случае — три верхних числа столбца 3 табл. 3.07, подставив которые в формулу (3.24), получим:
2.80,237-80,289 ■ 80,311 — 80,2892(80,237 + 80,311)
80,237-80,311 —80,2892
= 80,292 или округленно: ах — 80,3.
Из всех чисел столбца 4 вычитается едипица.
Логарифмы (в искусственной форме) чисел столбца 5.
Перевод логарифмов столбца 6 в естественную форму для удобства арифметических операций с ними.
Таблица 3.07
К вычислению параметров логистической кривой
X
X8
У
Q1
и
У
z
xz
У'
W — у)г
17
289
80,311
80,223
0,0077
16
256
80,289
1,00014
0,00014
4,1461
-3,8539
— 61,6624
80,132
0,0246
15
225
80,237
1,00080
0,0008
4,9031
-3,0969
— 46,4535
79,948
0,0835
14
196
77,650
1,0341
0,0341
2,5328
-1,4672
— 20,5408
79,536
3,5570
13
169
71,515
1,1228
0,1228
1,0892
-0,9108
— 11,8404
78,695
51,5524
12
144
67,801
1,1843
0,1843
1,2655
- 0,7345
- 8,8140
76,938
83,4848
И
121
63,761
1,2594
0,2594
1,4140
—0,5860
— 6,4460
73,420
93,2963
10
100
58,660
1,3689
0,3689
1.5680
—0,4320
— 4,3200
66,872
67,4369
9
81
49,033
1,6377
0,6377
1,8046
—0,1954
— 1,7586
56,130
50,3674
8
64
41,733
1,9241
0,9241
1,9657
—0,0343
— 0,2744
41,758
0,0006
7
49
29,898
2,6858
1,6858
0,2268
0,2268
1,5876
26,957
8,6495
6
36
26,496
3,0306
2,0306
0,3076
0,3076
1,8456
15,318
124,9477
5
25
11,158
7,1966
6,1966
0,7921
0,7921
3,9605
7,954
10,9032
16
5,281
15,2054
14,2054
1,1523
1,1523
4,6092
3,917
1,8605
3
9
3,07
26,1478
25,1478
1,4005
1,4005
4,2015
1,875
1,4304
2
4
1,203
66,7498
65,7498
1,8179
1,8179
3,6358
0,886
0,1005
1
1
0,312
257,3718
256,3718
2,4089
2,4089
2,4089
0,416
0,0108
136
1496
—
—
—
—
—3,2049
-139,8610
--
2 -= 497,7138
СП
Рис. 13. Прирост сухого вещества плодов томата (у) в течение [вегетационного периода (г)
1 — эмпирическая линия регрессии 2 — логистическая кривая
Произведения чисел 1 и 7 столбцов. После получения сумм
2, 7 и 8 столбцов решаем систему уравнений:
(3.25)(3.25)NT + Р2ж = Sz, 1
(3.25)
(3.25)
X S ж 4" 3 2 х2 = 2 xz, J
подставив в них числа из табл. (3.07):
16 у + 136 р = - 3,2049,
136 у 4- 1496 р = — 139,8610,
откуда: у = 2,614^1, Р = — 0,3312.
Уравнение (3.23) приобретает для рассматриваемого случая следующую конкретную форму:
,80,30
У ^ | ^q2,6148—0,3312л:>
Теоретические значения функции вычисляются по уравнению (3.23), в логарифмированном виде:
или z = у 4- рж, где’г = Ig f ^, ^ — 1^ , а прочие обозначения те же, что и к уравнению (3.23).
Вычисление у' начинается с нахождения значения выражения у 4- рж, которое представляет собой логарифм в естественной форме, далее переводим этот логарифм в искусственную форму и находим по нему число, к которому прибавляем единицу. На полученное выражение делим я^ что и дает значение у'.
Например: у' для ж =17, по уравнению
1g (^-- 1)-= 2,6148-0,3312ж;
2,6148 - 0,3312.17 = -3,0156 = 4,9844,
что соответствует числу 0,00096, к которому прибавляем 1 и делим:
80,31,0009680,31,00096= 80,223 = /.= 80,223 = /.
80,31,00096
80,31,00096
= 80,223 = /.
= 80,223 = /.
Квадраты разностей теоретических и эмпирических величин функции, сумма которых необходима для вычисления ошибки уравнения по формуле (3.04):
/497,7138,
ту.х = у 17_3 = 5,96 г.
На рис. 13 изображены эмпирическая и теоретическая линии регрессии прироста сухого вещества в плодах томата.
Точка пересечения логистической кривой с осью ординат:
у = —~г «о!(3.26)
координаты точки перегиба кривой:
= —г! У =+ ао>(3.27)
р
где обозначения те же, что и к формуле (3.23).
Для рассматриваемого примера точка пересечения кривой с осью ординат:
80,3। п Л л о
у!LQ - ОД У
“1 | Ю2>в148’
координаты точки перегиба кривой:
2,6148-80,3 , п
^ = -ТтЬз1У = 7’89; У- — + 0 = 40 15.
Глава 4
СРАВНЕНИЕ ВЫБОРОК И ИХ ПАРАМЕТРОВ
§ 4.00. Таблица для выбора методов сравнения выборок н статистических параметров
1(0) Сравнить параметры рядов:
средние арифметические и дисперсии § 4.01
коэффициенты вариации и показатели точности опыта § 4.03 доли из больших выборок § 4.04 доли по методу Фишера § 4.05 коэффициенты корреляции § 4.06
— Сравнить непосредственноряды2
2(1). Данныене сгруппированы во взвешенныерядыилитаблицы 3
— Данныесгруппированы вовзвешенныеряды(табл.4.09,
4.10, 4.11) или таблицы (табл. 4.12, 4.15, 4.16, 4.18, 4.20. 4.23) 4
3(2). Сравнить ряды с попарно связанными вариантами:
по критерию Стьюдента § 4.02
по критерию знаков § 4.12
по критерию Вилкоксола §4.13
— Сравнить ряды с несвязанными попарно вариантами: по критерию лямбда § 4.07 по тесту медианы § 4.08
по критерию Вилкоксола § 4.09
по критерию вап-дер-Вардопа § 4.10
ио серийному критерию § 4.11,
4(2). Сравнить между собой взвешенные ряды по критерию хи-квадрат:
эмпирический с теоретическим § 4.14 два эмпирических ряда § 4.15, § 4.16 несколько рядов между собой § 4.19.
— Анализировать и сравнить данные, расположенные в виде таблиц 5
5(4). Анализировать четырехпольную таблицу данных (критерий хи-квадрат § 4.18) или сравнить фактические результаты расщепления потомства с теоретическим соотношением (критерий хи-квадрат, § 4.17).
— Обрабатывать опытные данные с целью установить достоверность влияния на них одного или двух факторов и различий между градациями опыта, в зависимости от числа факторов и численности данных:
двухфакторный анализ таблицы 2 X 2 § 4.20 однофакторпый анализ § 4.21 двухфакторный — без повторностей § 4.22 двухфакторпый анализ большой группы данных § 4.23.
01. Сравнение средних арифметических и дисперсий
Установление статистической достоверности различий между результатами опытов является наиболее распространенной, типичной задачей в экспериментальной биологии и агрономии. Если требуется количественно сравнить два взвешенных или невзвешенных ряда дат по нижеописываемому критерию Стьюдента, то необходимо знать: 1) их средние арифметические (§ 1.03— 1.06); 2) дисперсии или средние квадратические отклонения (§ 1.10—1.16); или ошибки средних арифметических (§ 1.03); 3) объемы сравниваемых выборок, 4) тип распределения вариант, который должен быть хотя бы приблизительно нормальным.
Сравнивать совокупности можно по их средним арифметическим и по их вариабельности. Рекомендуется это делать одновременно. Методы сравнения больших и малых выборок различаются между собой.
Малые выборки (У ^ 20)
Если хотя бы одна из сравниваемых выборок мала, то поступаем следующим образом. Сначала проверяем гипотезу о том, что дисперсии обоих рядов равны. В зависимости от того, достоверным или недостоверным является различие дисперсий, последующее сравнение средних арифметических малых выборок производят двумя различными способами. Рассмотрим два примера сравнения средних арифметических малых выборок с равными и неравными дисперсиями.
Пример 1. Сравнивали средние арифметические диаметров цветков у двух сортов поповника. У одного сорта средний диаметр цветка был: Мх = 5 см, дисперсия а^ — 2,5, объем выборки Nt — 10; у другого сорта: М^ 7 см, Од = 2,4, N2 =14. Сравнение' дисперсий производится следующим образом:
Е(4-01)
В качестве числителя в этом отношении всегда берется большая дисперсия. Находим для каждой дисперсии число степеней сво-
боды, которое равно объему выборки без единицы, т. е.:
v (1) ~ У, - 1 -- 10-1 = 9, v (2) = АС - 1 = 14-1 = 13.
По табл. 9П при Рх — 95% па пересечении столбца 8 (вместо 9, которого нет в таблице) и строки 13, F' (95%)= 2,77, что больше F -■- 1,04; следовательно, по колеблемости диаметра цветка два данных сорта достоверно не различаются. В случае несущественно различающихся или равных дисперсий средние арифметические сравниваются по формуле
/2
| q = (^ - м2) 1/,(4.02)
где t — критерий Стьюдента; М М2 — сравниваемые средние арифметические; oj, о2 — дисперсии сравниваемых выборок; N1, N2 — их объемы.
Подставляя в формулу (4.02) числовые значения, получим:
В I И — 7) - |/ ^*° tV - 2,96.
'14 : 10
Знак критерия не принимается во внимание.
По табл. ЗП при числе степеней свободы: х = Ny | W2 — — 2 = 22 и Ру = 0,95, ( = 2,074, что меньше вычисленного значения 1Ц; следовательно, данные два сорта поповника достоверно различаются между собой пр диаметру цветка.
Пример 2. В § 4.07 приведены данные по длине колоса у двух сортов пшеницы. Сравним их при помощи критерия Стьюдента. У сорта А: Му — 9,2; о^ = 0,7; щ = 0,8; т( = 0,3; Nt = 10; у сорта Б: М2 = 7,9; о2 — ОД; °2 = 0,4, ^2 — 0,1; У2 = 0.
0 7
Сравним дисперсии: F = -у = ^q- = 7.
Му _ М2Му _ М2По табл. 911, при доверительном уровно Ру = 95% и числах степеней свободы v (1) = Ny — 1 = 10—1 = 9; v (2) = У2 — 1 = = 9—1 = 8, находим: F' (95) = 3,39. Следовательно, имеется существенное различие во варьированию длины колоса у данных сортов. При различных по величине дисперсиях разница средних арифметических оценивается по формуле
Му _ М2
Му _ М2
(4.03)
с числом степеней свободы:
v - (Л\ + N, - 2) /4v - (Л\ + N, - 2) /4(4.04)(4.04)
v - (Л\ + N, - 2) /4
v - (Л\ + N, - 2) /4
(4.04)
(4.04)
Подставляя имеющиеся данные в эти формулы, где обозначения те же, что и к (4.02). получим:
9,2 —7,9Гб> + 0,129,2 —7,9Гб> + 0,12= 4,11,= 4,11,
9,2 —7,9Гб> + 0,12
9,2 —7,9Гб> + 0,12
= 4,11,
= 4,11,
v = (10 + 9-2)v = (10 + 9-2)1212
v = (10 + 9-2)
v = (10 + 9-2)
1
2
1
2
+г4Я =10’9-
(1,1 "!" 0,7 /
Число степеней свободы округляем до целого числа v = 11. Ио табл. ЗП, при доверительном уровне Р4 = 95'%: t = 2,201, что меньше вычисленного критерия: 2,201 < 4,11; следовательно, между данными сортами пшеницы имеется достоверная разница в средней длине их колосьев.
Большие выборки (Дд+20; Л72+>20)
Когда обе сравниваемые выборки существенно велики, а их объемы незначительно различаются или равны, сравнение средних производится по той же формуле (4.03):
Р|
У^г III2,
с числом степеней свободы: v — Nt + N^ — 2;
где /и,, m2 — ошибки сравниваемых средних арифметических; остальные обозначения те же, что и в формуле (4.02).
Рассмотрим пример вычисления критерия Стьюдента в этом случае. Сравним феподаты распускания почек у группы одних и тех же 57 видов деревьев и кустарников за одни и те же годы в Москве и Ленинграде. Статистики обоих массивов наблюдений оказались следующими, соответственно: Mt -- 57,9; а4 = 19,1; Nt — 57; М2 = 65,8; о2 =- 22,0; N2 — 57, где М4 и М2 — даты распускания почек в днях от 1 марта (табл. 24П).
Подставляя эти числа в формулу (4.03), получим:
57,9—65,8 _ _2 047 v = 57+ 57-2 = 112.
119,1222,02
V 57 + 57
По табл. ЗП, при ближайшем меньшем числе степеней свободы 100, па 95%-ном доверительном уровне: t — 1,982. Следовательно, деревья и кустарники в Москве распускают почки примерно па неделю раньше, чем в Ленинграде.
02. Сравнение невзвешенных рядов с попарно связанными вариантами
Выборки с попарно связанными вариантами можно сравнивать также по методам из предыдущего параграфа. Однако ошибка разности средних в этом случае будет больше из-за того, что це учитывается попарная связь вариант и, следовательно, вычисленная величина критерия Стьюдента будет занижена. Но, с другой стороны, по приводимому ниже методу число степеней свободы борется в два раза меньше, чем по методам из § 4.01, и реально существующее различие может быть не обнаружено из-за большой табличной величины критерия. Поэтому в сомнительных случаях следует вычислить коэффициент корреляции или иной показатель связи между сравниваемыми попарными рядами. Если корреляция между ними окажется существенной, то лучше применить метод из § 4.02, а если связи не окажется — то методы из § 4.01.
Таблиц а 4.01■
Сравнение дат зацветания 12 видов за два года
Дата зацветания от 1 марта, дни
6 (2-1)
б2
Дата зацветания от 1 марта, дни
6 (2-1)
62
1949 г.
1958 г.
1949 г.
1958 г.
112
136
24
576
127
137
10
100
120
149
29
841
133
142
9
81
127
136
9
81
61
81
20
400
102
117
15
225
99
117
18
324
149
158
9
81
81
97
13
169
133
117
—16
256
128
142
14
196
1375
1529
154
3330
В табл. 4.01 приведены фенодаты начала цветения одной и той же группы из 12 видов деревьев и кустарников (в днях), от 1 марта (табл. 24П), за два года — 1949 и 1958. Заметно, что в 1958 г. зацветание у большинства видов наступило позднее, чем в 1949 г. Требуется оцепить достоверность такого предположения. Рекомендуется следующая последовательность вычислений:
Показатель корреляции рангов Спирмена оказался достоверным и равным р —■ 0,745. Следовательно, целесообразно применить парный критерий Стьюдента, а не методы из § 4.01.
Находим средние арифметические столбцов 1 и 2, они соответственно равны: М, — 114,58; М^ = 127,42.
В столбце 3 записаны попарные разности чисел из столбцов 1 и 2.
В столбце 4 вычислены квадраты чисел из столбца 3.
Суммируем числа столбцов 3 и 4:
S6 - 154; S62 - 3330.
Делаем проверку вычислений по равенству \М1-Мг\ = ^-,
114,58-127,42^ 12,8 = 12,8.
Вычисления сделаны верно.
Находим величину критерия ио формуле
V N — 1
154
~ / 12-3330 -(154)-
V И
При число степеней свободы: v — N — 1 = 12—1 — 11, на 95%-ном уровне достоверности по табл. ЗП, t = 2.201. Вычисленное его значение больше табличного, поэтому делаем вывод о достоверности различий в сроках начала цветения данной группы видов в 1949 и 1958 гг.
Если бы для проверки высказанного предположения мы воспользовались формулой (4.02), которую здесь следовало бы применить ввиду несущественного различия дисперсий сравниваемых рядов (Е = 1,21), то оказалось бы, что различия между годами в фенодатах пет: / — 1.28 против табличного /(0,95) = 2,07. Отсюда видно, что неправильно выбранный метод сравнения средних может привести к неточности и даже к ошибочному, противоположному заключению при оценке гипотезы.
§ 4.03. Сравнение вариабельности двух выборок по коэффициентам вариации и показателям точности опыта
В сельском хозяйстве важным показателем сорта является стабильность его урожаев. Так. более целесообразно культивировать сорт со средней, по постоянной урожайностью, по сравнению с высокопродуктивным сортом, урожаи которого, однако, сильно колеблются по годам. Выровиенность сорта по тем или иным признакам имеет большое значение для механизации работ по возделыванию растений и уборке урожая, а также для промышленной обработки сырья из них. Во всех подобных случаях возникает необходимость сравнить две выборки по степени их варьирования в относительных числах. Это можно сделать по формуле
(4.06)
где /, У2 — коэффициенты вариации сравниваемых рядов; mv mVt — ошибки сравниваемых коэффициентов вариации; N / объем меньшей из сравниваемых выборок.
Если левая часть неравенства (4.06) будет больше правой части, то различие коэффициентов вариации считается достоверным. При пользовании формулой (4.06) объем меньшей из выборок должен быть не меньше пяти.
Сравним два сорта нута (табл. 4.02) с целью установить, имеет ли сорт 2 преимущество перед сортом 1 в отношении ста- бильпости урожая.
Таблица 4.02
Урожай двух сортов нута (в ц/га)
Гол
Урожай сорта 1
Урожай сорта 2
Год
Урожай сорта 1
Урожай сорта 2
1956
28,0
25,7
1962
16,6
17,0
1957
21,3
12,2
1963
18,0
16,0
1958
30,0
15,0
1964
22,1
19,2
1959
15,0
18,0
1965
22,0
20,0
1960
22,0
16,7
1961
18,1
17,1
W = 10
213,1
176,9
Сигмы и средние арифметические для этих двух сортов соответственно имеют значения:
о, = 4,77, М^ = 21,31 ± 1,51;
о2 - 3,56, М2 = 17,69 ± 1,13,
откуда коэффициенты вариации и их ошибки по формулам (1.43) и (1.45) равны!
^ = 22,40%; У2 = 20,11 %;
mVi = 5,25 %;mv = 4,67 %.
Подставляя найденные величины в формулу (4.06):
/5,25-2 4-4,672 << Ю — 4 ’
получим: 0,3 < 4. Поскольку левая часть неравенства меньше правой, различие двух сравниваемых сортов нута ио варьированию их урожаев считаем несущественным.
Сравнение показателей точности опыта производится примерно в тех же случаях, что и сравнение коэффициентов вариации, поэтому оно может заменить последнее, или служить контролем к нему. В дисперсионном анализе (конец главы 4), при обработке данных полевых опытов, где принято использовать показатель
точности опыта для оценки качества проведения экспериментальных работ, сравнение показателей точности опыта с этой целью может иметь свое самостоятельное применение.
Два сорта нута (табл. 4.02), по формулам (1.47), (1.49), имеют
, ледующис показатели точности опыта и их ошибки:
Рх 7,08; Рг - 6,36; тРх -- 1,66; тР„ 1,48.
Цо аналогии с неравенством (4.06) показатели точности опыта сравниваются по формуле
где Рр Рг — показатели точности опыта сравниваемых выборок; nip,, трг — ошибки этих показателей; N — объем меньшей из сравниваемых выборок.
По формуле (4.07)
следовательно, два сравниваемых сорта нута достоверно не различаются по величине показателей точности опыта, и, таким образом, подтверждается тот же вывод, сделанный при сравнении коэффициентов вариации.
04. Сравнение долей из больших выборок
Метод применяется в том случае, когда выборки, проценты или доли из которых сравниваются, достаточно велики по объему и принадлежат к различным совокупностям. Приближенным критерием достаточной величины выборки в данном случае может служить неравенство: pN ^ 500. т. е. произведение процента (р) особей, обладающих изучаемым признаком в выборке, на объем этой выборки должно быть 500 или больше.
Сравнение долей производится по формуле
д' = 100 - //;
щ, Ра— сравниваемые доли особей с наблюдаемым признаком in процентах); Д^. N2 — объемы сравниваемых выборок: р' — среднее значение долей в процентах; д' — дополнение к р', выражающее среднюю долю особей, по обладающих изучаемым признаком в процентах; t — критерий Стьюдента, для трех стапдарт-
ных уровней достоверности он равен 1,96; 2,58; 3,29. Следователь, но. при сравнении долей из больших выборок прибегать к табл. 3]] нет необходимости.
Рассмотрим пример. Изучали особенности заражения фомозом корнеплодов моркови. При естественном заражении фомозом из N, = 1098 корнеплодов заболело 82, или р4 =- 7%, при искусственном заражении заболело 639 корнеплодов из W2 =- 1008, т. е, р2 — 63%. Подставляя эти данные в формулу (4.08), получим:
Р'Р'1098 • 7-г 1008 • 63 _1098 + 1008— /о1098 • 7-г 1008 • 63 _1098 + 1008— /од' = 100 — 34 = 66 %;д' = 100 — 34 = 66 %;
Р'
Р'
1098 • 7-г 1008 • 63 _
1098 + 1008— /о
1098 • 7-г 1008 • 63 _
1098 + 1008— /о
д' = 100 — 34 = 66 %;
д' = 100 — 34 = 66 %;
t1 ■- - 7-63 - 27.2,
11
1098 + 1008
что больше любого из трех стандартных уровней критерия, приведенных выше. Следовательно, доля больных корнеплодов в том варианте опыта, где они заражались искусственно, существенно и достоверно отличается от доли больных корнеплодов в варианте с естественным их заражением.
Сравнение долей из двух различных совокупностей можно производить также по критерию хи-квадрат, из § 4.18, расположив данные в виде четырехпольной таблицы, причем доли не требуется переводить в проценты, взяв вместо них непосредственно первичные данные.
05. Сравнение долей по методу Фишера
При помощи этого метода можно сравнивать доли как из больших, так и малых выборок, причем с одной и топ же точностью для тех и других, что обеспечивается предварительным преобразованием долей в радианы (угловая мера) по формуле <р = — 2arcsin]/p (табл. 1511). Сравнение проводится затем посредством критерия Фишера по формуле
^ = (V1-T2)2~^L_, (4.09)
где F — критерий Фишера; (р(, ср2 — числа, полученные в результате преобразования долей по табл. 15П; Nt. N„ — объемы сравниваемых выборок.
Рассмотрим применение метода Фишера па примере из предыдущего параграфа. Сравниваемые доли равны: р, = 7% — 0.07, р2 — 63% — 0,63; объемы выборок: Nt —- 1098, N., — 1008. По табл. 15П находим, что р\ и рг соответствуют: <р( — 0,536, <р2 = = 1,834. Подставляя эти числа в формулу (4.09), получим:
F „ (0,536 - 1,834^ ~ 886.
При пользовании данным методом первое число степеней свободы всегда равно единице: v (1) — 1, a v (2) — N\ -j- N4 — 2 = 1098 + 1008 — 2 - 2104.
По табл. 911 на уровне 95 % находим F* ---3,84. Вычисленное число F — 886 значительно больше табличного, поэтому заключаем, что сравниваемые совокупности вполне достоверно различаются по доле больных растений.
Оценку достоверности различия долей в рассматриваемом методе можно сделать также и посредством критерия Стьюдента (/) по формуле
t - (Ф1 - Ф2) У УД^ ^ 1,96 (2,58),
где обозначения те же, что и к формуле (4.09). В случаях, требующих особой точности, желательно ввести поправку на непрерывность к сравниваемым долям. Рассмотрим па том же примере применение критерия Стьюдента для оценки достоверности различия долей с введением поправки на непрерывность к последним. Ло данным § 4.04, объемы сравниваемых выборок: М\ = 1008 и N2 - 1098 корнеплодов, число больных корнеплодов в них: тц — 639, пг — 82, откуда доли равны:
a = S = 0-M343. ТИТ = 0,074682.
При введении поправки на непрерывность по следующим формулам pt должно быть больше рг;
Pi = Pi -- 0,63343 -^- 0,63293;
р; = Р2 + ^- = 0,074682 + ^ = 0,075137.
После преобразования исправленных величин долей в радианы (табл. 15П) оцениваем значимость их разницы по критерию Стьюдента:
1 = (1,841 - 0,555)= 29,5.
Полученная величина критерия больше обоих его критических значений: 1,96 па 95 %-ном доверительном уровне и 2,58 па 99 %-пом доверительном уровне, поэтому считаем, что сравниваемые совокупности существенно различаются по доле больных растений в них.
06. Сравнение коэффициентов корреляции
Когда вычислены коэффициенты корреляции по некоторым однородным данным, может возникнуть вопрос о достоверности различия между ними. Если между коэффициентами корреляции нет достоверной разницы, то при качественно одинаковых объек-
тпх сравнения можно заключить, что обе выборки по данному признаку оз носятся к одной генеральной совокупности. При изучении двух популяций гелепиума осеннего в одной из них коэффициент корреляции между числом стеблей и числом цветков на кусте был равен г, - 0,67; в другой та же связь выражалась г, ■ 0,61. Численности выборок были: N. -- 69 кустов, N» -— 45 кустов. Относятся ли обе популяции по этому признаку к одной совокупности, или, иначе говоря, одинаков ли коэффициент корреляции между числом стеблей и числом цветков у обеих популяций?
Для ответа на этот вопрос требуется выполнить следующие действия.
По табл. 2611 переводим г, и г., в величины zf — 0,8107 и z., - 0.7089.'
Оцениваем разницу между zt и z2 критерием Стьюдента:
/ - J^lL^ _ 10,7089-0,8107 1 =
•./ АД -■■ .V,- 6-,/ 69 -р 45 — (>’’
г (Ал - 3) (АД - 3)V (69 — 3) (45 — 3)
Число степеней свободы при оценке разницы коэффициентов корреляции принимается равным:
v - Ад - N\ - 4 --- 69 -| 45 - 4 - НО.
По табл. ЗП, па уровне значимости 0.05, t' — 1,98, что больше вычисленного значения, равного 0,516; следовательно, между двумя изучаемыми популяциями гелепиума осеннего нет достоверного различия и их можно относить к одной совокупности при изучении указанных взаимосвязей.
§ 4.07. Сравнение двух эмпирических невзвешенных рядов но критерию лямбда
Критерии различия, при помощи которых могут быть сравнены статистические совокупности, разделяются па две грунт,!: параметрические (§ 4.01—4.06) и непараметрические (§ 4.07—4.19). К первой группе относятся критерии, для применения которых необходимо вычислить среднюю арифметическую, сигму, или ошибки параметров. Непараметрические критерии не требуют для своего применения вычисления названных показателей, что упрощает процесс сравнения совокупностей. Критерий лямбда относится к пепарамет рическпм критериям сравнения и, в отличие от многих из них, не требует специальных таблиц для оценки достоверности различия. Критерий лямбда вычисляется по формуле
л2 = б[П1Х у ' L у ,(4.11)
' Л- • I/
где
X — критерий различия лямбда; 6ИИХ — максимальная из попарных разностей чисел, приведенных в столбцах 6 и 7 табл. 4.03; Ух, У,, — объемы сравниваемых рядов.
Если Ух — У,,, то X вычисляется но более простой формуле (4.12). '
Если вычисленное значение X2 превышает число 1.84 (при 5 %-пом уровне значимости) или число 2,65 (при 1%-иом уровне значимости), то различие между сравниваемыми совокупностями достоверно.,
Сравним два сорта пшеницы по длине стержня их колоса. Было измерено Ух — 10 колосьев сорта А в ели 9,0; 9,0; 9,0; 10,5; 9,7; 10,4; 9,3; 7,9; 8,4; 8,5 и N„ -- 9 колосьев сорта Б — 8,5; 7,5; 8,0; 8,0; 8,2; 7,4; 8,2; 7,9; 7,7. Действия по вычислению критерия различия лямбда производим в следующем порядке по столбцам табл. 4.03.
Т а б л н ц а 4.03
Вычисление максимальной разности накопленных частот для применения критерия X
1.x
X/ : Л' 1/ У
161
7,4
0
1
0
1
0,000
0,111
0,111
7,5
0
1
0
2
0,000
0,222
0,222
7,7
0
1
0
3
0,000
0.333
0,333
7,9*
1 *
0
1
3
0,100
0,333
0,233
7,9
0
1
1
4
0,100
0,444
0,314
8,0
0
1
1
5
0,100
0,556
0,456
8,0
0
1
1
6
0,100
0.667
0,367
8,2
0
1
1
7
0,100
0,778
0.678
8,2*
0
1
1
8
0,100
0,889
0,789
8,1
1
0
2
8
0,200
0,889
0,68!)
8,5
1
0
3
8
0,300
0,889
0,689
8,5
0
1
3
9
0,300
1,000
0,700
9,0
1
0
4
9
0,400
1,000
0,600
9,0
1
0
о
9
0,500
1,000
0,500
9,0
1
(1
6
9
0,600
1,000
0,400
9,3
1
0
7
9
0,700
1,000
0,300
9,7
1
0
8
9
0,800
1,000
0,200
10,4
1
0
9
9
0,900
1,000
0,100
10,5
1
0
10
9
1,000
1 ,000
0.000
Лж -- 10
-
—
Отмечаем единицей частоты, относящиеся к ряду у, и нулем — частоты ряда х. Числа в стобцах 2, 3 но должны попарно совпадать.
Составляем накопленные частоты ряда х, т. е. складываем частоты нарастающим итогом. Сумма накопленных частот в конце столбца 4 должна равняться объему выборки Nx и итогу столбца 2.
Составляем накопленные частоты ряда у. Сумма накопленных частот в конце столбца 5 должна равняться объему выборки Ny и итогу столбца 3.
Числа столбца 4 поочередно делим на объем ряда х, т. е. на 10, и записываем в столбце 6.
Числа столбца 5 делим па объем ряда у, т. е. на 9, и записываем в столбце 7.
Вычисляем без учета знака попарные разности чисел столбцов 6 и 7, выбираем максимальную разность, в данном случае она равна 6щаХ — 0,789.
По формуле (4.11) получаем:
V - 0.7892 • ^^ = 2,95.
Вычисленная величина больше вышеприведенных обоих критических значений: 2,95 > 2,65 ^> 1,84, поэтому делаем вывод о том, что два сравниваемых сорта пшеницы достоверно различаются по длине стержня колоса.
При Nx — Nу расчет критерия лямбда проводится по более простой формуле
(4.12)(4.12)»2 "max
(4.12)
(4.12)
2Л- ’
где л2 — квадрат критерия лямбда; 6тах — максимальная разность накопленных частот из столбцов 4 и 5 табл. 4.03; N — объем одного из сравниваемых рядов.
Таким образом, при одинаковом объеме сравниваемых рядов отпадает необходимость в столбцах 6 и 7.
Пример. Если удалить из ряда х число 7,9* (столбец 1) и его частоту 1* (столбец 2), то столбцы 4 и 5 табл. 4.03 будут выгля
Максимальная разность между этими числами при попарном сравнении остается на том же месте, против значения 8,2*. и рав- 166
на: 8* — 0* — 8. Отсюда по формуле (4.12): X2 -^—у — 3,55, что больше критического значения 2,65; следовательно, сохраняется сделанный выше вывод о достоверности различия сравниваемых рядов.
§ 4.08. Сравнение выборок при помощи критерия медианы
В тех случаях, когда неизвестен тип распределения сравниваемых совокупностей или же известно, что оно не является нормальным или близким к нему, рекомендуется применение пепараметри- ческого критерия медианы. Это целесообразно делать потому, что на положение медианы ряда, в отличие от средней арифметической, величина крайних вариант, даже резко отклоняющихся, влияет мало.
В качестве примера сравним два сорта земляники по среднему весу плода, по 10 растениям сорта ж и по 14 растениям сорта у; 1) составим общий для двух сортов ранжированный вариационный ряд из данных по среднему весу плода в граммах на каждом растении: уА, у8. у8, ж8, r/9, у9, а:9, .rlO, rrl0, у10. ?/Ю, i/12, а:12. а:12. ИЗ, г/13, у!3, Н4, i/14, И5, г/16, у16, И7, у!8; 2) определим порядковый номер медианной варианты, который равен 0.5 (ТУ - -|- 1), где N — объем выборки; 0.5 (24 -j- 1) -• 12,5, т. е. в данном примере медиана находится между 12 и 13 членами объединенного ряда (при четном числе вариант за медиану принимается середина промежутка между двумя центральными вариантами): 3) распределим ряд чисел, приведенных в пункте 1 но клеткам табл. 2.04. Для итого подсчитываем: а) число вариант ж, превышающих медиану по своей величине; Ь) число вариант у, превышающих медиану. Затем находим число вариант ж и у, которые
Табл и ц а 4.04
К расчету критерия медианы (медиана — 12,5, N 24)
Класс
S
Выше медианы
а = 4
b = 6
4 Г. - 10
Ниже медианы
с -■ 8
d = 6
8 |- 6 -- 14
12
12
24
располагаются ниже медианы: с - - 8, d 6. Подсчитываем суммы, указанные в таблице. 4) дальнейшая обработка данных зависит от величины частот a. b. с, d н от объема выборки. Если хотя бы одна из частот будет меньше 5 или равна пулю, или объем выборки будет меньше 30. то вычисление ведется по формуле Фишера (4.23). приведенной в § 4.18. Если же не окажется частот меньше 5 и будет N > 30, то данные можно обработать
при помощи обычного критерия хи-квадрат для четырехпольной таблицы (§4.18). который несколько проще по расчетам, чем формула Фишера. В нашем примере N < 30 и одна из частот — а -4. поэтому применяем формулу (4.23), вычисляя через десятичные логарифмы, как это показано в § 4.18:
„10! 14! 12! 12!, „ т „„„
~ "24Г4ГбГ8ГбГ ’^PW = 1,367;
Ptx^ -- 0,23. Вероятность того, что распределение частот в табл. 4.04 случайно, превышает оба критических значения: 0,01 и 0.05, поэтому пулевую гипотезу считаем справедливой и, следовательно, два сравниваемых сорта земляники по весу плодов достоверно не различаются.
При отсутствии таблиц логарифмов факториалов можно применить формулу (4.24) Стирлинга для приближенного вычисления факториалов. Заменив в формуле Фишера (4.23) все факториалы через логарифмы формулы Стирлинга, получим формулу (4.13):
In — (а г b + 0,5) In (а 4- 5) -|- (с + d 4- 0,5) In (с -j- d) 4- '
4 (а 4 - с 4~ 0,5) In (а 4" с) Ь (^ + 4- 0,5) In ф 4) —
— (а 4 ■ 0,5) In а — (5 4- 0,5) In b — (с 4- 0,5) In с —|
— (с? 4- 0,5) In d — (Л7 4- 0,5) In N — In ^л.
(4.13)
Подставив в (4.13) те же, что и выше, числовые значения, получим:
In Р№ = (4 4- 6 4- 0,5) In (4 4- 6) 4- (8 -4 6 -|- 0,5) In (8 4- 6) 4
(4 4- 8 4- 0,5) In (4 + 8) 4- (6 4- 6 4- 0,5) In (6 4- 6) -
— (4 — 0,5) In 4 — (6 4- 0,5) In 6 — (8 0,5) In 8 —
- (6 4- 0,5) In 6 - (24 4- 0,5)ln 24 - 0,9189 = - 1,390;
Pw = 0,249,
что подтверждает вывод, сделанный выше. Формула (4.13) удобна для программирования па ЭВМ «Проминь-М», при помощи которой выполнены приведенные расчеты. Следует отметить, что вычисление через формулу Стирлинга (4.24) дает приближенные результаты, поэтому в сомнительных случаях необходимо проверить выводы, пользуясь формулой Фишера (4.23), логарифмируя ее с помощью таблиц логарифмов факториалов. Однако при воз растапни чисел точность вычисления их факториалов и результатов ио формуле (4.13) также, увеличивается.
§ 4.09. Сравнение двух певзвешенных рядов но критерию Вилкоксона
Сравнение совокупностей по их основной тенденции наиболее просто может быть произведено при помощи пепараметрического критерия Вилкоксона, вычисление которого для сравнения по длине колоса двух сортов пшеницы — ж и у. приводится в табл. 4.0Г). где по столбцам производятся следующие действия.
Т а б л и ц а 4.05
К вычислению критерия Вилкоксона
Ранжированные исходные данные по длине колоса у двух сортов, см
Ряды после исключения совпадающих вариант
Ранг
X
У
X
У
ряда х
1 ряда у
7,4
7,4
1
7,5
—
7,5
2
7,7
—.
7,7
3
7,9*
7,9*
—
8,0
4,5
8,0
—
8,0
4,5
8,0
—
8,2
6,5
8,2
—
8,2
6,5
8,2
8,4
—
8
—
8,4
—
9,0
--
10
—
8,5*
8,5*
9,0
10
—
9,0
—
9,0
10
—
9,0
—
9,3
12
—
9,0
—
9,7
—
13
--
9,3
—
10,4
14
9,7
—
10,5
—
15
10,4
—
пх — 92
Пу = 28
10,5
—
—
—
^-8
V — 7
и 2. Совместное ранжирование обоих рядов ж и у в возрастающем порядке сверху вниз (можно и снизу вверх). Варианты обоих рядов объединены в один ряд по возрастанию величины вариант, по варианты записаны в разных столбцах, во избежание путаницы.
и 4 При ранжировании в столбцах 1,2 оказалось, что ва- рианты 7,9 и 8,5 совпадают в обоих рядах. В таких случаях совпадающие пары вариант исключаются из дальнейших расчетов, что и сделано в столбцах 3,4.
и 6. Объединенному ряду вариант (столбцы 3,4) присваиваем порядковые номера — ранги. Процедура присваивания рангов описана в § 2.02, пункт 1. В данном случае в столбце 3 имеются три равные варианты: 9,0; 9,0; 9,0, их средний порядковый помер, пли ранг, равен: 2±2|±11 10. В столбце 4 варианты 8,0 и 8,0 получают средний ранг (4.5) каждая.
Суммы столбцов 5 и 6: пх 92 и п„ - 28; число членов в ря- tax* N 8- Ny - 7; N Nx -|- N„ 15. Полученные воли-
чины проверим по равенству
«л- ; «у92 + 28«л- ; «у92 + 28Л'(АГ-Г D
«л- ; «у
92 + 28
«л- ; «у
92 + 28
2’
120 - 120.120 - 120.15(15 + 1) .
120 - 120.
120 - 120.
2’
Равенство для приведенных величин соблюдается; следовательно, расчеты выполнены правильно.
Обращаясь к табл. 16П, находим, что для Nх — 8 и N„ --- 7 сумма рангов равна 38 при уровне значимости W\ 0,05. Для сравнения с таблицей берется всегда меньшая из вычисленных сумм рангов, т. е. в данном случае иу = 28. Поскольку вычисленное значение п н меньше табличного: п = 38, делаем вывод о достоверности различия между двумя сортами пшеницы по длине колоса. Если вычисленное значение п будет больше табличного, то сравниваемые ряды достоверно не различаются. При Nх )> J> 10 пли N „ > 10, когда нельзя воспользоваться табл. 1611, для оценки различия рядов можно применить критерий, вычисляемый по формуле
У^¥у(1У+1) *
где t — критерий достоверности различия, его граничные значения при уровнях значимости: W' = 0,05 и W', — 0,01 соответственно 1,13 и 1.49. Если вычисленное значение критерия превышает эти величины, то различие между рядами достоверно. Nx — число членов того из сравниваемых рядов, который имеет меньшую сумму рангов; N — общее число вариант в обоих сравниваемых рядах; пх — меньшая из двух сумм рангов; Nи — число членов того из сравниваемых рядов, который имеет большую сумму рангов.
Для рассмотренного в данном параграфе примера по формуле (4.14) получим:
t 1(15+ 1+^2L2L /7 • 8 (15 -- 1)
Поскольку вычисленное значение критерия превышает вышеназванные его критические значения, делаем заключение о достоверности различия между двумя сравниваемыми сортами пшеницы по длине колоса.
Сравнение двух невзвешенных рядов по критерию ван-дер-Вардена
При помощи пепараметрического критерия ван-дер-Вардена можно с большей точностью, чем по методу из § 4.09, сравнивать певзвешенпые вариационные ряды ио их центральной тенденции. По технике вычислений этот критерий, однако, несколько слож-
нее, чем критерий Вилкоксона (§ 4.09), и требует применения двух специальных таблиц. Критерий ван-дер-Вардепа вычисляется по формуле
(4.15)
где Xw — критерий достоверности различия ван-дер-Вардепа; ф — функция, обратная интегралу вероятности, ее значения по величине выражения в следующих за лей скобках берутся по табл. 1711; х, — порядковые номера ранжированных членов того из сравниваемых рядов, который содержит меньше вариант; N — общая численность вариант обоих сравниваемых рядов; 5 — знак суммирования.
Рассмотрим технику вычисления критерия ваи-дер-Вардепа на примере из § 4.09. В табл. 4.06 по столбцам производятся следующие действия.
и 2. Из столбцов 3 и 4 табл. 4.05 переписываем упорядоченные ряды х и у, из которых исключены совпадающие по величине варианты (§ 4.09, пункт 3,4).
и 4. Нумерация порядковыми номерами вариант из столбцов 1, 2.
Таблица 4.06
К вычислению критерия ваи дер Вардена
Длина колоса у двух сортов пшеницы, см
Порядковые номера вариант
Значения выражения:
хг
Значения из табл. 17П:
Т _
хг
N
1-1
X
У
X
1 У
X
У
X
У
7,4
1
0,062
—1,54
—
7,5
2
0,125
—
-1,15
—
7,7
3
—
0,188
—
-0,89
—
8,0
4
0,250
—
-0,67
—
8,0
5
0,312
--
—0,49
—
8,2
6
0,375
--
- 0,32
—
8,2
7
0,438
-
-0.16
8,4
—
8
—
0,500
-
0,00
—
9,0
—
9
—
0,562
—
0,16
—
9,0
—
10
—
0,625
—
0,32
-
9,0
—
11
—
0,688
—
0,49
-
9,3
—
12
—
0,750
—
0,67
—
9,7
—
13
—
0,812
0,89
-
10,4
—
1!
—
0,875
-
1,15
10,5
—
15
—
0,938
—
1,54
Nx - 8
Ny - 7
—
—
5,22
-5,22
5 и 6. Вычисление значений выражения ^-^--для рядов я и у из столбцов 3, 4. Каждый порядковый номер делим на N -L 4 1 = 15 + 1 = 16; например, для ряда у:
. = 0,062;0,125 и т. д.
1э 4 1’15 4 1’
д^-р Суммируем числад^-р Суммируем числа5, 6 значения функции VF5, 6 значения функции VFобоих столбцов,обоих столбцов,7 и 8. Пользуясь табл. 17П, находим по числам столбцов,
д^-р Суммируем числа
д^-р Суммируем числа
5, 6 значения функции VF
5, 6 значения функции VF
обоих столбцов,
обоих столбцов,
их суммы должны совпасть (не принимая во внимание знак), что
используется для проверки вычислений.
Полученная сумма 5,22 является вычисленной величиной критерия вап-дер-Вардепа.
По табл. 18П для N = 15 и N х — N,, = 1, по 5% уровню значимости находим, что табличное значение критерия вап-дер- Вардепа равно 3,24. Знак критерия во внимание не принимается. Вычисленное значение критерия равно 5,22; следовательно, меж
ду сравниваемыми по длине колоса сортами пшеницы имеется достоверное различие.
Сравнение двух невзвешенных рядов по серийному критерию
Серийный критерий, в отличие от критериев, рассмотренных в § 4.0!), 4.10, позволяет обнаружить различие между двумя совокупностями не только но основной тенденции, по и по другим их свойствам. Вычислим серийный критерий для примера из § 4.09.
Из табл. 4.05, столбцов 3,4, переписываем упорядоченные ряды х и у с исключенными вариантами, совпадающими по величине в обоих рядах. Получим следующие ряды:
рядоченном ряду. Серий (групп) оказалось две, одна из них начинается с 8,4 и кончается 10,5 (ряд z), другая — от 7,4 до 8,2 (ряд у). По табл. 19П, при Nx = 8 и №„ — 7, находим, что критическое число серий в данном случае должно быть 4. Фактическое число серий равно 2. Гипотеза о различии между рядами отвергается, если фактическое число серий будет больше табличного, и различие считается достоверным, если фактическое число серий будет мень-
ше табличного значения без двух. В данном случае фактическое число серий рлвио 2, т. е. меньше табличного, равного 4, во не меньше табличного значения без двух: 4—2 = 2; поэтому вопрос о различии двух сортов пшеницы по длине колоса, решаемый с помощью серийного критерия, остается открытым.
Если число вариант в одном из сравниваемых рядов больше 20, вследствие чего нельзя будет пользоваться табл. 1911, для оценки достоверности различия между рядами по числу серий можно применить критерий, вычисляемый по формуле
„ г
—jV- °,5
1/ 2,VvV„ VZ^N,, - TV) ’ (4■16) г Л'Ц-V — 1)
где t — критерий достоверности различия; ЛД, Л7,, — число вариант в сравниваемых рядах; ns — число серий в обобщенном упорядоченном ряду х у, N = Nx ■ Nu.
Граничные значения критерия при 5-и1%-ном уровнях значимости равны соответственно 1,96 и 2,58. Различие между рядами считается достоверным, если вычисленное значение критерия будет больше 2,58, и недостоверным, если оно будет меньше 1,96. Для того же примера, рассмотренного в данном параграфе, критерий достоверности различия равен по формуле (4.16):
, Л 2 • 8 • 7 (2 • 8 • 7 — 15)’
V 15^(15 — 1)
Поскольку вычисленное значение критерия больше 2,58, подтверждается сделанный выше вывод о достоверности различия двух сортов пшеницы по длине колоса.
§ 4.12. Сравнение двух невзвешенных рядов с попарно сопряженными вариантами по критерию знаков
Критерий знаков для сравнения выборок с попарно сопряженными вариантами является самым простым по технике вычислений. Однако он имеет тот недостаток, что им учитывается не величина различия попарно связанных вариант, а только лишь знак различия. Поэтому критерий знаков рекомендуется применять только тогда, когда величина этих различий не имеет значения, или для быстрых предварительных оценок, которые в сомнительных случаях могут быть проверены более точными методами (§ 4.02 или § 4.13)..
Схема расчета критерия знаков представлена в табл. 4.07, где по столбцам приведены следующие данные,
Таблица 4.07
К сравнению выборок при помощи критерия знаков
Средняя длина меж-
Знаки 6Знаки 6Помер меж- Д°Узлиа У сортов доузлия клевера
Знаки 6
Знаки 6
АБ
12345678123456781,03,09,015,014,79,56,73,01,03,09,015,014,79,56,73,00,51,74,25,08,69,48,66,10,51,74,25,08,69,48,66,10,51,34,810,06,10,1-1,9-3,10,51,34,810,06,10,1-1,9-3,1+ +■Ь 44++ +■Ь 44+
1
2
3
4
5
6
7
8
1
2
3
4
5
6
7
8
1,0
3,0
9,0
15,0
14,7
9,5
6,7
3,0
1,0
3,0
9,0
15,0
14,7
9,5
6,7
3,0
0,5
1,7
4,2
5,0
8,6
9,4
8,6
6,1
0,5
1,7
4,2
5,0
8,6
9,4
8,6
6,1
0,5
1,3
4,8
10,0
6,1
0,1
-1,9
-3,1
0,5
1,3
4,8
10,0
6,1
0,1
-1,9
-3,1
+ +
■Ь 4
4+
+ +
■Ь 4
4+
Выписаны номера междоузлий растений клевера (снизу вверх по стеблю).
и 3. Длина междоузлий в см у двух сортов — А и Б.
Из чисел столбца 2 вычитаются соответственно числа столбца 3. Если числа совпадут, то это пара исключается и^ обоих рядов и соответственно уменьшается N.
Записываются знаки чисел из столбца 4.
Подсчитывается число того из знаков, который представлен в меньшем количестве, в данном случае — число отрицательных знаков, которых в столбце 5 насчитывается п- = 2. По табл. 20П находим, что при объеме выборки N = 8 и уровне значимости 5 % число знаков должно быть равно 1. Вычисленное число знаков меньшей группы п~ равно 2; следовательно, два сравниваемых сорта по длине междоузлий не различаются. Если бы вычисленное п было меньше табличного, то рассматриваемые сорта могли бы различаться друг от друга по длине междоузлий.
§ 4.13. Сравнение двух невзвешенных рядов с попарно сопряженными вариантами по критерию Вилкоксона
В § 4.09 приводилась методика расчета критерия Вилкоксона для любых выборок. В данном же параграфе рассматривается критерий для применения лишь к попарно сопряженным вариантам. Парный критерий Вилкоксона, в отличие от критерия знаков (§ 4.12), помогает с большей точностью сравнить выборки с попарно сопряженными вариантами, так как учитывает не только знаки разностей вариант, по и величину этих разностей. Оценка значимости парного критерия Вилкоксона производится по табл. 21П, а при объеме выборок N > 25 — с помощью критерия t.
Рассмотрим схему вычисления критерия Вилкоксона для примера из табл. 4.07. В табл. 4.08 производятся следующие действия по столбцам.
Таблица 4.08
К вычислению парного критерия Вилкоксона
Междоузлия снизу вверхjМеждоузлия снизу вверхjДлина междоузлий (в сы) у сортовДлина междоузлий (в сы) у сортовРазность6 ---- х - уРазность6 ---- х - уРанги бРанги бСумма рангов разностей со знаком минусСумма рангов разностей со знаком минус12345678123456781,00,50.53,01,71,39,04,24,815,05,010,014,78,66,19,59,40,16,78,6-1,93,06,1—3,1У= 8——1,00,50.53,01,71,39,04,24,815,05,010,014,78,66,19,59,40,16,78,6-1,93,06,1—3,1У= 8——23687142368714
Междоузлия снизу вверхj
Междоузлия снизу вверхj
Длина междоузлий (в сы) у сортов
Длина междоузлий (в сы) у сортов
Разность6 ---- х - у
Разность6 ---- х - у
Ранги б
Ранги б
Сумма рангов разностей со знаком минус
Сумма рангов разностей со знаком минус
1
2
3
4
5
6
7
8
1
2
3
4
5
6
7
8
1,0
0,5
0.5
3,0
1,7
1,3
9,0
4,2
4,8
15,0
5,0
10,0
14,7
8,6
6,1
9,5
9,4
0,1
6,7
8,6
-1,9
3,0
6,1
—3,1
У= 8
—
—
1,0
0,5
0.5
3,0
1,7
1,3
9,0
4,2
4,8
15,0
5,0
10,0
14,7
8,6
6,1
9,5
9,4
0,1
6,7
8,6
-1,9
3,0
6,1
—3,1
У= 8
—
—
2
3
6
8
7
1
4
2
3
6
8
7
1
4
1—4. Точно повторяются все действия, указанные в § 4.12.
Ранжируем числа столбца 4, без учета знаков, наименьшее число — 0,1 получает ранг 1, а наибольшее — 10,0 получает ранг 8. При совпадающих числах поступаем так, как сказано в § 2.02 (пункт 1), т. е. присваиваем им обоим их средний ранг.
Числа в столбце 4 имеют знаки плюс и минус, отбираем ту группу чисел с одинаковым знаком, в которой содержится меньше чисел, чем в другой группе. Таковой в данном примере является группа со знаком минус, для которой выписываем в столбец 6 ее ранги из столбца 5 и суммируем их. Сумма рангов мепыпей группы — пт = 4 -И 5 = 9. Различие между сравниваемыми рядами считается недостоверным, если вычисленная сумма рангов будет больше табличной, и различие считается достоверным, если вычисленная сумма рангов будет меньше табличной. По табл. 21П, при объеме выборки — N = 8- и 5%-ном уровне значимости, сумма рангов равна 4. Поскольку вычисленная сумма рангов — пт = 9 больше табличной, делаем вывод об отсутствии достоверного различия между сравниваемыми рядами.
Если объем сравниваемых рядов N > 25, то оценка достоверности различия делается по критерию Z, так как табл. 21П пользоваться будет нельзя. Критерий t в применении к оценке суммы рангов парного критерия Вилкоксона вычисляется по формуле
(4-17)(4-17)^(^+ 1) 4“ пт
(4-17)
(4-17)
T^N (У-Ь 1)(2У + 1)
Г24
где t — критерий различия, граничные значения которого 1,96 и 2,58 па уровнях значимости соответственно 1^ = 0,05 и IV2 = = 0,01; Л' — число пар вариант в сравниваемых рядах; нт — сумма рангов меньшей группы разностей с одинаковым знаком. Для примера, рассмотренного в данном параграфе,
/ - 1 - 1,26.
у 8(8-| 1) (2 -8 + 1)
Поскольку вычисленное значение критерия 1,26 меньше граничного значения 1,96, делаем вывод об отсутствии различия между сравниваемыми рядами. Ряды считаются достоверно различающимися, если вычисленное значение критерия будет больше 2,58. Если величина критерия заключается между граничными значениями, вопрос о достоверности различия рядов остается нерешенным.
Сравнение теоретического
и эмпирического взвешенных рядов по критерию хи-квадрат
Для оценки меры совпадения теоретической кривой распределения с фактическими данными в основном используется критерий хи-квадрат. Этот критерий может применяться лишь при наличии не менее пяти частот в каждом классе. Если в каком-либо классе вариационного ряда содержится частот менее пяти, то этот класс вместе с частотами следует объединить с соседним классом.
Общая формула вычисления этого критерия:
где X2 — критерий хи-квадрат; / — фактические частоты или численности; /' — ожидаемые или теоретические частоты или численности.
В качестве примера найдем меру соответствия фактическим частотам-теоретической кривой биномиального распределения, вычисленной в § 1.34, табл. 1.20, столбцы 2 и 7.
В табл. 4.09 по столбцам приводятся следующие данные.
Классы распределения проб корнеплодов по поражаемо- сти фомозом.
Всего проб одинакового размера было взято 112, по 9 корнеплодов в каждой.
Теоретические частоты кривой биномиального распределения вычислены ранее (табл. 1.20, столбец 7). Ввиду того что по условиям применения критерия хи-квадрйт требуется, чтобы частота в каждой клетке была не меньше пяти, объединяем в столб-
Т а блиц а 4.09
К сравнению эмпирических и теоретических частот биномиального распределения критерием хи-квадрат
Число иора- ял-нвых корнеплодов в пробе, х
Число проб фактическое, /
Число проб теоретическое, ('
/ - Г
(/ - гу
и-ГУ г
0
0
0
-.
1
111
1}
7 И1
3 } 12
- 1
1
0,083
.3
4 J
8 1
4
18
17
1
1
0,059
27
24
а
9
0,375
6
14
24
- 10
100
4,167
7
18
19
■ 1
1
0,053
8
20 ]
11 )
} 24
16
8
64
4,000
9
4 J
Г) )
2
112
112
—
—
X2 =8,737
цах 2 и 3 классы 1,2 и 3 в один, с частотами 11 и 12, а также 8 и 9 в другой, с частотами 24 и 16 (по столбцам 2 и 3). Дальше, следовательно, ведем расчеты уже с шестью классами распределения.
Разность эмпирических и теоретических частот.
Квадраты разностей частот.
Критерий хи-квадрат по строкам, в итоге столбца 6 получаем искомую величину %2 = 8,737.
Для оценки полученной величины хи-квадрат необходимо знать число степеней свободы, которое зависит от того, какой тип теоретического распределения сравнивается с данным фактическим распределением. При нормальном распределении число степеней свободы v = к — 3, при биномиальном и пуассоновском /^ v = к — 2, при распределении Шарлье v = к — 4, где к — число классов взвешенного ряда; v — число степеней свободы.
В табл. 4.09 с эмпирическим сравнивается биномиальное распределение, в котором после укрупнения крайних вариант стало 6 классов; следовательно: v = 6 — 2 — 4 степени свободы. По табл. 1011 для уровня значимости WL— 0,05 и v = 4 находим табличное значение хи-квадрат, равное 9,488. Поскольку вычисленное значение, равное 8,737, меньше табличного, делаем вывод, что теоретическое распределение частот несущественно отличается от эмпирического (см. рис. 3.) Поэтому рассматриваемые эмпирические данные в первом приближении могут быть моделированы биномиальным законом распределения, не исключая возможности более близкого соответствия частот другого типа распределения,
так как по уровню значимости 0,01 табличное значение хи-квад, рат равно 13,277. Достоверность хи-квадрат можно, особенно ири отсутствии таблиц, оценить по правилу Романовского:
7? — у
/2v
где v — число степеней свободы; %2 — вычисленное значение хн- квадрат. Различие считается достоверным, если левая часть неравенства будет равна или больше трех. Для рассматриваемого примера —'^-.^ *- — 1,67 <^ 3; следовательно, биномиальное распределение подходит к эмпирическим данным.
Сравнение двух эмпирических взвешенных рядов одинакового объема по критерию хи- вадрат
Сравнение двух выборок одинакового объема критерием хи- квадрат следует производить при численности выборки не менее N > 30, а частоты в классах обоих рядов должны быть не меньше 5. Критерий хи-квадрат при сравнении выборок одинаковой численности вычисляется по формуле
X’= 2лЧт^.<419)
'х
где %2 — критерий хи-квадрат;/ж, /у — частоты сравниваемых рядов х и у.
Сравним по срокам зацветания две равночисленные популяции растений. В табл. 4.10 по столбцам приведены следующие данные.'
. Сроки наблюдений через 5 дней.
и 3. Число зацветших растений в популяции х по пятидневкам и то же самое в популяции у.
Т а б л и ц а 4.10
Сравнение критерием хи-квадрат двух равночисленных выборок
Дата наблюдения
Число зацветших растений в х популяции, /х
Число зацветших растений в у популяции, /у
1х ^у
‘х ' *у
fx — t
1.V1
85
96
-11
181
0,668
6.VI
156
169
-13
325
0,520
И.VI
132
134
— 2
266
0,015
16.V1
81
58
23
139
3,806
21. VI
31
28
59
0,153
S
485
485
0
970
5,162
Попарные разности чисел столбцов 2 и 3.
Попарные суммы чисел столбцов 2 и 3.
Квадраты чисел столбца 4, деленные на числа столбца 5 по тем же строкам. Сумма чисел столбца 6 дает результат по формуле (4.19). Число степеней свободы в подобных случаях равно: v = = к — 1 — 5 — 1 — 4, т. е. число классов без одного. По табл. 10 П при v — 4 и на уровне значимости 0,05 табличное значение хи-квадрат равно 9,488, а вычисленная его величина, составляющая 5,162, меньше табличной; следовательно, две сравниваемые популяции но срокам зацветания существенно не различаются.
§ 4.16. Сравнение двух эмпирических взвешенных рядов разного объема по критерию хи-квадрат
X2X2При сравнении двух эмпирических распределений критерием хи-квадрат применяется несколько иная схема его расчета, так как неизвестен тип этих распределений. При разном объеме рядов эмпирических распределений для вычисления хи-квадрат как критерия различия между ними употребляется формула
X2
X2
(4.20)
где %2 — критерий различия хи-квадрат; jx, fy — частоты рядов .г и у; Nx, Ny — объемы сравниваемых рядов х и у.
Табл и ц а 4.11
К сравнению критерием хи-квадрат двух эмпирических взвешенных рядов разного объема
Число плеток
Число семяпочек (частоты) у сортов
/ 'V
’х' у
^х у у х
^х^у W
(f N _f V \2 чх у ух'
/ 4-/
X 1 ’у
1
336
252
125328
136836
11508
132434064
225228,00
2
148
102
55204
55386
182
33124
132,50
3
31
12
11563
6516
5047
25472209
592376,95
и
24 1
51
10444
3801
(>643
44129449
1260841,40
а 4
В J
3 28
1 J
27
—
—
—
2
^=543
Ny -- 373
—
—
—
У -= 20785
78.85
Пример вычисления хи-квадрат но формуле (4.20) приводится в табл. 4.11, где по столбцам представлены следующие данные.
Число археспориальных клеток, которое колебалось от одной до шести в семяпочках растений томата.
иЗ. Число семяпочек с тем или иным числом археспориалы1Мх клеток в них у сорта томата ж и соответственно у сорта у. По. скольку по условиям применения критерия хи-квадрат отдельные частоты не должны быть меньше пяти, объединяем классы 4, 5 и (; в один четвертый, в результате чего объединяются частоты 24 р -| 3 i 1 - 28 в столбце 2 и частоты 5 |- 2 - 7 в столбце 3. Суд. ма частот в этих столбцах Nx -- 543, Ny - 373.
Перемножаем на Ny -- 373 поочередно все четыре числа столбца 2.
Перемножаем на Nx - - 543 поочередно все четыре числа столбца 3.
Находим попарные разности чисел столбцов 4 и 5.
Возводим в квадрат числа столбца 6.
Числа столбца 7 делим па сумму частот в данной строке и выписываем результаты в столбце 8, например:
33124148 -I- 10233124148 -I- 102132,50.132,50.
33124
148 -I- 102
33124
148 -I- 102
132,50.
132,50.
Сумму столбца 8, равную 2078578,85, делим па произведение объемов сравниваемых совокупностей но формуле (4.20):
%2 -%2 -2078578,85373 • 5432078578,85373 • 543= 10,26.= 10,26.
%2 -
%2 -
2078578,85
373 • 543
2078578,85
373 • 543
= 10,26.
= 10,26.
Число степеней свободы при сравнении двух эмпирических распределений равно: v — к — 1, где v — число степеней свободы, к — число классов распределения, в данном случае v = 4 - - 1-3.
По табл. 10П при W\ 0,05 и И^ - 0,01 табличное значение хи-квадрат соответственно: 7,815; 11,345. Вычисленное значение хи-квадрат больше первого уровня значимости, но меньше второго, поэтому различие двух сортов томата но распределению археспо- риальпых клеток нельзя считать достоверным. Если бы вычисленное значение хи-квадрат было больше также и 11,345 (по второму уровню значимости), то тогда можно было бы с большей определенностью считать достоверно различающимися два сравниваемых ряда.
Применение критерия хи-квадрат при изучении расщепления гибридов
В генетических и других биологических исследованиях часто необходимо оценить соответствие распределения особей некоторому численному соотношению. Например, требуется установить, произошло ли расщепление потомства гибрида по тому или иному признаку в соответствии с законами Г. Менделя, в других случаях надо оцепить достоверность влияния какого-либо фактора па появление мутантов в последующих генерациях.
Для оценки совпадения ожидаемых и фактических численностей особей с определенными признаками в подобных случаях можно применить критерий хи-квадрат, формула которого (4.18) приводится в § 4.14.
Рассмотрим применение хи-квадрата для оценки фактического соотношения численностей потомства но наблюдаемому признаку. 3 потомстве изучаемого растения оказалось /х — 250 мужских юобейи/у --- 206 женских, общая численность потомства N -- . 456. Требуется проверить, соответствуют ли эти численности сеоретически ожидаемому соотношению 1:1. Вычисления ведутся в следующем порядке.
Определим теоретическую численность для большей фак- сической численности, т. е. долю мужских особей, которая равна:
fx-^N; = 1456 ^ 228.
Теоретическая доля меньшей численности:
/и - 4 -v 4456 228-
По формуле (4.18) определяем хи-квадрат каждой численности и его сумму:
2(250-228)2(206-228)2 п
Число степеней свободы в подобных случаях (при к — 2, г. е. двух классах или группах распределения) равно: v — к — — 1 -2 — 1 — 1. По табл. 1011 при v = 1 и для 0,05 уровня значимости находим табличное хи-квадрат, равное 3,841, что больше фактического (0,192); следовательно, в потомстве изучаемого растения нет существенного отклонения соотношения мужских и /венских особей от теоретического соотношения 1:1.
В подобных случаях можно применить также и более простую формулу:
где х2 — критерий различия хи-квадрат; /х — фактическая численность большей группы; /у — фактическая численность меньшей группы; d — ожидаемое теоретическое соотношение численностей: d = -у-, т. е. отношение большей теоретической численности — fx к меньшей теоретической численности — /у.
Исследователь далее предположил, что полученные им фактические численности мужских и женских цветков в потомстве ближе соответствуют теоретическому соотношению 5 : 4 (мужские цветки ; женские цветки), откуда d — ^- — 1,25.
Но формуле (4.21) получим:
X2X2- 0,099.- 0,099.(250- 1,25 • 206)21,25(250+ 206)
X2
X2
- 0,099.
- 0,099.
Проверим этот результат по формуле (4.18). Доля мужских цветков: -|"456 — 253,33.
Доля женских цветков: -^--456202,67;
%2 =+ (206-^202,б?)20 044 + 0,055 = 0 0gg
Результаты совпали. Таким образом, в потомстве изучаемого растения имеется большая тенденция к соотношению 5 : 4 мужских и женских цветков, чем 1:1, так как в первом случае хи-квадрат меньше, чем во втором: 0,099 < 0,192..
Критерий хи-квадрат можно применять во многих случаях проверки соответствия соотношения фактических численностей ожидаемым. Часто используется метод хи-квадрат в психологических тестах. Например, исследовали вопрос о соотношении числа четных и почетных цифр в сотне наугад названных цифр (от 0 до 9) у пяти лиц. Соотношения числа четных цифр к числу нечетных у них оказались следующими: 41 : 59; 61 : 39; 50 : 50; 52 : 48; 52 : 48. В той же последовательности эти лица чаще называли следующие цифры: 1, 0, 5 и 8, 4, 0 и 1. Реже, чем остальные, назывались цифры: 8, 1, 1 и 4, 0, 7 и 8. По формуле (4.21), где в дан,50.
ном случае принимаем а = -^ = 1, в том же порядке получены значения хи-квадрата: 3,24; 4,84; 0; 0,16; 0,16. Для уровня значимости 0,05, при v — 1 в табл. 1011, хи-квадрат равен 3,841. Сравнивая полученные значения с табличным, видим, что второй субъект (%2 — 4,84) отдавал предпочтение четным числам (61 число из 100). У остальных лиц отклонения от теоретического соотношения были несущественными.
По тому же принципу, как это сделано выше при отношении численностей 1:1, оценивается по хи-квадрату соотношение фактических и теоретических численностей при любых других заданных теоретических соотношениях: 9 : 3 : 3 : 1 или 12 : 3 :1 и т. д. При этом сначала вычисляются дроби для теоретических численностей, например, знаменатель дроби: 9 + 3 + 3 + 1 = 16, а дроби для умножения па объем выборки будут следующими: 9^/16; 3 7V716; 3 Л716; 1 У/16, далее расчеты ведутся но формуле (4.18).
Применение критерия хи-квадрат
в случае четырехпольной таблицы вариант
Под четырехпольной таблицей вариант понимается таблица 2x2 — 4 классов распределения по типу табл. 4.12. Большинство корреляционных зависимостей с миогоклассовым распределением в рядах может быть сведено к четырехпольным таблицам за счет укрупнения классов. Вычисление показателей связи при корреляционной решетке 2x2 упрощается, однако применять классы распределения 2x2 рекомендуется лишь тогда, когда не представляет интереса форма изучаемой зависимости.
Таблица 4.12
Зависимость величины тела бабочек от жизненной формы растений, на которых они обитают
Величина тела бабочек
Жизненная форма растений
древесные
травянистые
В
Крупные Мелкие
а 84
с -— 24
b - = 53
d : . 46
а + b - 137
с Р d = 70
2
а -| • с — 108
Ъ ; d -- 99
TV - 207
Снижение числа классов и других группировок в обрабатыва- мых рядах, как правило, ведет к уменьшению достоверности вы- одов и потере иногда ценных подробностей. Поэтому без особой еобходимости не следует группировать данные в четырехпольную чаблицу, если можно составить взвешенный ряд.
Применение хи-квадрата для оценки достоверности коэффициента сопряженности признаков в таблице 2x2 уже обсуждалось в § 2.13. Здесь без вычисления коэффициента сопряженности будут рассмотрены различные случаи применения хи-квадрата к таблице 2x2, встречающиеся в биологических исследованиях. Бели при изучении корреляционной связи между признаками важно выяснить только степень ее достоверности, то последнюю можно определить по критерию хи-квадрат с поправкой Йейтса:
(4.22)(4.22)2 _(| ad — Ъс \ — 0,5N)e N
(4.22)
(4.22)
^ " (а -р 6) (с + d) (а -|- с) (b + d) ’
где | ad — be | означает, что выражение, заключенное в прямые скобки, принимается всегда со знаком плюс независимо от того, какой знак получается при вычитании внутри скобок; a, b, с, d — частоты в соответствующих ячейках табл. 4.12; N — объем выборки; %2 — критерий хи-квадрат.
Число степеней свободы в таблицах 2x2 равно единице, поэтому для оценки величины хи-квадрат требуется только одна верхняя строка из табл. 10 П.
Применив критерий хи-квадрат к данным табл. 4.12, получим
2(184 - 46 — 53.24 — 0,5 - 207)2.207
%(84 + 53) (24 + 46) (84 + 24) (53 + 46) "
При v —- 1 и на любом стандартном уровне значимости (табл, 10П) вычисленный критерий хи-квадрат достоверен, поэтому можно утверждать, что более крупные бабочки чаще обитают на более крупных растениях. В тех случаях, когда хотя бы в одной из ячеек комбинационной таблицы частота меньше чем 5 или N < 30, необходимо применить для оценки достоверности различия выборок формулу Фишера:
р _ (а + 6)1 (с 4-d)l (s-4 с)! (5 - d)!
S b! cl d! N\’
где P^ — вероятность того, что в двух сравниваемых выборках из одной генеральной совокупности получится одинаковое распределение частот в четырехпольной таблице; a, b, с, d — частоты, соответствующие ячейкам табл. 4.13, IV — объем выборки (^ — а 4- b + с + dy ! — знак факториала. Факториал нуля равен единице: 0! = 1.
Проверим гипотезу о случайности появления мутантов по данным табл. 4.13, применяя формулу (4.23):
р _ (0 + 176)! (5 + 173)! (0 4- 5)! (176 -г 173)!
354! 0! 176! 5! 173!'
После сокращения 5! и 176! получаем
„_ 178! 349!
1 <х2) — 354! 173! 1
По таблицам (например: Митропольский, 1952, табл. 24) находим логарифмы факториалов этих чисел и складываем логарифмы с учетом знака:
1g 178! = 324,7948459
1g 349!737,5479062
-1g 354! = 750,2806020
—Igl73! = 313,5673527
lgP(x«) = - 1,505226;
Рт = 0,031223.
Оценка этой вероятности производится по двум граничным значениям. Если она будет меньше 0,01, то нулевая гипотеза отвергается и считается достоверным различие между сравниваемыми выборками. Если 7^x2) будет больше 0,05, то нулевая гипотеза принимается и считается, что сравниваемые выборки не различаются.
В пашем случае вычисленная величина 0,031 меньше, чем 0,05, но больше чем 0,01, поэтому различие между выборками из табл. 4.13
Таблица 4.13
Частоты появления мутантов у ячменя
Вариант опыта
Число мутантов
Число обычных растений
Сумма
Контроль
Семена подвергали специальной обработ-
а = 0
Ь 176
176
не
с - 5
а = т
178
Сумма
5
349
.¥=354
достоверно лишь на 5%-ном уровне значимости, а при более точном подходе следует считать, что вопрос о различии выборок остается открытым.
В биологических исследованиях может встретиться необходимость сравнить выборки с частотами больше 1000, когда нельзя применить некоторые таблицы логарифмов факториалов. В таких случаях для вычисления факториала можно воспользоваться формулой Стирлинга:
и! -— V2nnnne-n или
и! ._ ,pi+o,5e-» у 2л,(4.24)
где и! — искомый факториал числа п (т. е. произведение чисел вида: 1, 2, З....н); е = 2,7183 — основание натуральных логарифмов; л — 3,1416.
Чем больше и, тем точнее результаты, получаемые по формуле (4.24).
Оцепим достоверность появления многоузлых многолистных мутантов ячменя в последующих поколениях после специальной обработки семян и при выращивании на агрофопе с бором (табл. 4.14).
Применяя формулу (4.23), получим:
„297! 1050! 1281! 66!
да — 1347! 297[0!984! 66! "
Сокращая 66! и 297! и заменяя факториал каждого числа выражением по формуле (4.24), то же самое получим в следующем виде:
_ 10501050 е'1050 (2л)0'510500'5 12811281 е-12'1 (2 л)05 12810-5
— 13/j71347 е-1347 (2я)0,513470,5984»84 е-9Ы (2л)0'5 9840’5 1 '
Сделав сокращения, логарифмируем это выражение:
10501g 1050 = 3172,2488-13471g 1347 = - 4215,2582
-10501g е =-456,00451347 Ige= 584,9886
0,51g 1050 = 1,5106-0,51g 1347 =-1,5647
12811g 1281 = 3980,7704-9841g 984= - 2945,1072
—1281 Ige =-556,3255984Ige=427,3414
0,51g 1281 = 1,5538-0,51g984=-1,4965
lgPOT- - 7,3430
Р(Хг) = 45.10Л
Поскольку вычисленное значение вероятности значительно меньше 0,01, делаем вывод о достоверном различии выборок; следовательно, специальная обработка совместно с добавкой бора к почве влияет на появление мутантов у ячменя.
В заключение отметим, что формулы (4.22), (4.23) вполне могут заменить методы сравнения долей, описанных в § 4.04, 4.05,
Табл и ц а 4.14
Влияние условий выращивания па появление мутантов у ячменя
Вариант выращивания
Число нормальных растений
Число мутантов
Сумма
Контроль
а - 297
6=0
297
Па агрофопе с бором
с - - 984
d = 66
1050
Сумма
1281
66
N = 1347
Сравнение нескольких совокупностей одновременно но критерию хи-квадрат
Сравнение двух и более выборок одновременно применяется для проверки степени их однородности или принадлежности к одной или разным генеральным совокупностям. Например, перед получением средней арифметической урожая по делянкам стандартного сорта важно определить, можно ли объединять такие данные для приведения к среднему стандарту. При объединении массивов фенологических наблюдений также важно установить степень их однородности. Вместо того чтобы сравнивать такие выборки попарно, можно сравнить их все одновременно. Условием применения критерия хи-квадрат является, как и прежде, достаточная величина частот: не меньше пяти в каждой клетке таблицы. В табл. 4.15 приведено вычисление хи-квадрата при определении 186
однородности трех выборок. Порядок действий при этом следующий.
Возводим в квадрат эмпирическую частоту в каждой клетке таблицы и результат записываем в той же клетке ниже эмпирической частоты, в скобках.
Находим теоретические частоты в каждой клетке таблицы. Для этого перемножаем итоги строки и столбца, в которых находится данная эмпирическая частота, и делим произведение на N = 1434.
Например:
~ 279-467 Q, _ 279-482
1434 ’~ 1434 ’
п, 279-485491-467
94--143Г;и т.д.
1'зоретические частоты записываем в тех же клетках, ниже чисел, в скобках.
Величина критерия хи-квадрат определяется по формуле
(4.25)(4.25)Х2 = 2р-Л7,
(4.25)
(4.25)
е %2 — критерий хи-квадрат; / — эмпирические частоты всех авниваемых выборок; /' — теоретические частоты; N — объем ех сравниваемых выборок: N — Nx + Ny + Wz; Nx, Ny, Nz — ъемы трех сравниваемых рядов в табл. (4.15).
По формуле (4.25):
1322 : 132 = 132,00
982 : 91 = 105,54
852 : 94 = 70,80
862 : 94 = 98,04 1662 : 100 - 172,22 1562 : 105 - 147,49 1692 : 180 - 172,05 1202 : 127 = 125,01
1342 : 133 = 135,01
ОО2 : 65 55,38 812 : 67 = 97,92 582 : 67 = 50,21 172 : 24 = 12,04 28! : 24 = 32,67 282 : 25 = 31,36
2у = 1443,80
X2 = 1443,80 - 1434,00 - 9,80.
Число степеней свободы в подобных случаях равно числу сравниваемых выборок 6c3j единицы, помноженному на число классов без единицы:
v — (3—1)(5 — 1) — 8.
На уровне значимости 0,05 табличная величина хи-квадрата равна 15,507 (табл. 1011), а вычисленное фактическое значение состав-
Таблица 4.15
Сравнение нескольких выборок разного объема критерием хи-квадрат
Дата наблюдения
Число цветущих растений в географических пунктах
Сумма
к
30. VII
98 (9604)
91
85 (7225)
94
96 (9216)
94
279
10.VITI
166 (27556)
160
156 (24336)
165
169 (28561)
166
491
20.VIH
126 (15876)
127
132 (17424)
132
134 (17956)
133
392
30.VIU
60 (3600)
65
81 ((>561)
67
58 (3364)
67
199
20. IX
17 (289)
24
28 (784)
24
28 (784)
25
73
Сумма|
А^ = 467
Ny - 482
Nz = 485
N =- 1434
ляет 9,80, т. е. меньше табличного, поэтому делаем вывод об отсутствии различия между сравниваемыми тремя рядами из табл. 4.15; следовательно, три географических пункта — ж, у, z — не различаются по срокам зацветания в них изучаемого вида растения.
* * *
Результаты полевых опытов, например данные по урожайности, никогда в точности не соответствуют степени влияния па них какого-либо организованного в опыте фактора: качества или количества удобрения, сортовых, экологических и других различий. Происходит это потому, что на результаты опыта всегда влияют не только эти, по и другие неучтенные факторы. Задача отделения доли влияния на результаты опыта этих неучтенных факторов от доли влияния интересующих исследователя факторов была решена Р. А. Фишером путем дисперсионного анализа, разработанного впервые для математической обработки данных полевых опытов. В дальнейшем дисперсионный анализ стали успешно применять также во многих других областях науки и практической деятельности. В результате дисперсионного анализа могут быть получены следующие данные: степень достоверности действия на объект каждого из учтенных факторов в отдельности и в их сочетаниях, доля влияния на объект каждого фактора в отдельности, в их сочетаниях и доля влияния неучтенных, случайных факторов, ошибка опыта, ошибка разности вариантов и повторностей опыта, показатель точности опыта.
Как показывает практика, основную трудность для начинающих представляет составление комбинационной таблицы, определение, назначение, разграничение и размещение в таблице градаций факторов и повторностей, т. е. сама организация схемы дисперсионного анализа. Поэтому для уяснения принципов дисперсионного анализа целесообразно ознакомиться сначала с простейшей схемой двухфакторного дисперсионного анализа, в которой тем не менее участвуют все обычные его элементы и где порядок расчетов прослеживается более четко, из-за меньшего количества вычислений.
Двухфакторный дисперсионный анализ
При включении в дисперсионный анализ двух и большего числа изучаемых факторов следует иметь в виду, что они должны быть независимыми друг от друга, т. е. между ними должна отсутствовать корреляционная связь. Ниже приводятся расчеты по дисперсионному анализу данных, сведенных в четырехпольную табл. 4.16. При этом на урожайность двух сортов томата учтено влияние двух факторов: особенности года выращивания (фактор 1) и особенности сортов (фактор 2). Поэтому проводимый здесь дисперсионный анализ является двухфакторным. Каждый из этих двух факторов имеет две градации (что является их минимальным числом), вследствие чего таблица данных называется четырехпольной или таблицей 2x2. По каждому сочетанию факторов имеются три наблюдения (минимальное число — два наблюдения), т. е. по каждому сорту за каждый отдельный год имеются три повторения; поэтому излагаемый здесь дисперсионный анализ более полно можно называть двухфакторным, с тремя повторностями, для комбинационной таблицы 2 х 2. Излагаемая в § 4.20 схема расчета может быть также применена для двухфакторного дисперсионного анализа и с большим числом градаций факторов и повторностей.
Порядок действий по каждому виду дисперсионного анализа определяется его основной задачей — разложить суммарное или общее варьирование изучаемого объекта на доли, которые в нем составляют: варьирование, вызываемое действием отдельных факторов, варьирование, вызываемое прямым взаимодействием факторов между собой, и остаточное варьирование объекта, зависящее от неучитываемых факторов. Измеряя колебания вариант данной выборки суммой квадратов отклонений от средних арифметических по каждому фактору, задачу двухфакторного дисперсионного анализа можно представить в виде равенства, слагаемые которого требуется найти: •
© _ 01 + 02 -|- 03 + 04 © 5, (4.26)
Дисперсионный анализ влияния года выращивания (фактор 1) и особенностей сортов томата (фактор 2) на их урожайность (комбинационная таблица 2x2)
Сорт
Урожай в
s2
S2X2
м2
1964 г.
1965 г.
1
2
3
2
2
2
3
14
34
196
2,33
7
7
II
3
3
2
8
3
4 о
9
17
51
289
2,83
15
16
2л: -- 31
—
2£2485
—
24
39
46
—
2z2 = 85
—
—
.S’2
225
256
2£2^ 481
—
—
2,50
2,67
—
—
—
где 6 — общее, суммарное варьирование; 0Г — варьирование, вызываемое фактором 1; 02 — варьирование, вызываемое фактором 2; 03— варьирование, возникающее только вследствие взаимодей ствия факторов 1 и 2; 04-- варьирование повторностей; 05 — остаточное варьирование за счет факторов, не учтенных при наблюдениях.
Общая сумма квадратов отклонений находится по формуле
0 = 2^.2,(4.27)
где 0 — общая сумма квадратов отклонений; Sx2 — сумма квадратов всех вариант приведенных в табл. 4.10.
В этой же таблице обозначены: 8г — суммы вариант по столбцам; 52 — суммы вариант по строкам, М^ — средние арифметические по столбцам (годам); Л/2 — средние арифметические по строкам (сортам)
54 - 855,4 - 5,4 -- - 39 4" 40 - 34 -(- 51 - 22 4 З2
.. 22 -|- З2 --ЗЧ22 ■ 22 + 22 -;- З2 -| З2 -|- 42 4 2?.
Возведем в квадрат сумму всех вариант:
(Sz)2 - 312 - 961.
Для контроля следует повторить вычисление общей суммы вариант по равенству
^SY = SS2 - Sz = 15 -| 16 - 14 + 17 = 31,
а также проверить равенство:
2ж2 = S^2 = S^2.
N — объем выборки, здесь он равен 12.
По формуле (4.27)
0 = 85-^ = 4,917.
Вычисление остальных сумм квадратов, участвующих в равенстве (4.26), производится ио одной, в принципе общей формуле
0г = [SS2 - ^] : 7г,(4.28)
где ©г — сумма квадратов отклонений для какого-либо фактора; SS2 — сумма квадратов сумм по градациям того фактора, для которого вычисляется 6 г; п — число этих сумм, оно равно числу градаций рассматриваемого фактора; 7г — число слагаемых (вариант), составляющих каждую сумму; (2.г)2 — квадрат суммы всех вариант.
В любом случае кп - - jV, что можно использовать для проверки действий по правильному выбору сумм и числа их составляющих вариант.
Применяя конкретно формулу (4.28), вычислим сумму квадратов отклонений для фактора 1 (годы выращивания):
01 =:
где 0Х — сумма квадратов отклонений по фактору 1; 2Si — сумма квадратов сумм по градациям фактора 1, она равна 152 + 162 = = 225 Ч- 256 — 481; (Sz)2 — квадрат суммы всех вариант, он равен 312 = 961; пх — число сумм (градаций) фактора 1, оно равно двум (число лет выращивания); к^ — число слагаемых (вариант) в каждой отдельной сумме, оно равно шести.
Проверка: n^A^ -- 2-6 = 12.
Сумма квадратов отклонений по первому фактору равна:
©! = (481 - ^) : 6 = 0,083.
Сумма квадратов отклонений по второму фактору также вычисляется по формуле (4.28) следующим образом:
02 = [ 251 - ^1 : /г2, L”2 J
где 02 — сумма квадратов отклонений фактора 2 (сорта); 252 — сумма квадратов сумм по градациям фактора 2, она равна: 142 4+ 172 - 196 -|- 289 - 485; ^хУ - 312 - 961; н2 - число сумм по фактору 2, оно равно здесь числу сортов, т. е. 2; кг — число вариант, слагающих каждую из сумм S2; оно равно 6.
Проверка: пгк2 = N — 2-6 — 12.
Сумма квадратов отклонений по фактору 2:
02(485 - ‘^) : 6 - 0,750.
Сумму квадратов отклонений для определения доли варьирования, вызываемой эффектом взаимодействия факторов 1 и 2, вычисляем по формуле:
(4.29)(4.29)03 = (и, - ^] : к3 - 0, - 02,
(4.29)
(4.29)
где 03 — сумма квадратов отклонений по эффекту совместного действия факторов 1 и 2; SS3 — сумма квадратов сумм по отдельным клеткам комбинационной таблицы, в нашем случае она равна 72 4- 72 : 82 Ч- 92 — 243; (2.r)2 — 312 — 961; п3 — число сумм по отдельным клеткам таблицы, п3 - 4 (число «полей» четырехпольной таблицы); к3 — число слагаемых в каждой из сумм S3, оно равно трем (число повторностей); 0Р 02 — суммы квадратов факторов 1 и 2. По формуле (4.29):
/Q4 2 \
03 = (243 - ^): 3 - 0,083 - 0,750 = 0,084.
Сумму квадратов отклонений по повторностям определим по формуле (4.28) в следующем конкретном ее виде:
04 = [Х51 - ^]: к..
где 04 — сумма квадратов отклонений по повторностям; SSj — сумма квадратов сумм по повторностям, их всего три суммы.
Суммы 54 по трем повторностям подсчитываются следующим образом. При каждом сорте в табл. 4.16 имеются три строки данных, соответствующие повторностям 1, 2 и 3 сверху вниз. Сумма 54 по первой повторности будет равна: 2 -| 2 (по I сорту) -- (3 — + 3) (по II сорту), Т. О. Sx - (2 ; 2) ; (3 -| 3) -- К); по второй повторности:^ (3 I 2) ) (3 -| 4) 12; по третьей повторности: S4 -- (2 -)- 3) Ч- (2 4- 2) — 9. Таким образом: XS4 - 102 4- 122 -Н
- 92 = 325; (Sz)2 — 312 — 961; я, — число сумм по повторно- ■ гям, оно равно трем; к4 — число слагаемых в каждой сумме, оно ; авно четырем. Проверка: п4к4 — N — 3-4 — 12.
В результате получим
04 = [325 -^]: 4 — 1,167.
Сумму квадратов сумм отклонений по остаточному варьированию обычно определяют из равенства (4.26) следующим образом:
0 s = 0 — @i — 02 — ©з — ®4,
т. е.: 0 5 = 4,917 - 0,083 - 0,750 - 0,084 - 1,167 - 2,833.
Следует заметить, что в величину остаточной вариабельности @ s входит, кроме разнообразных случайных отклонений, также и вариабельность за счет взаимодействий факторов второго и выше порядков, которая обычно не вычисляется ввиду ее незначительности.
Для каждой из вычисленных сумм квадратов отклонений необходимо определить число степеней свободы.
Для 0 оно равно общему числу вариант без единицы: v — N — - 1 - 12 - 1 - 11.
Для 04 число степеней свободы равно числу градаций фактора : без единицы: vx = и, — 1 — 2—1 — 1.
Для 02 число степеней свободы равно числу градаций фактора 2 без единицы: v2 — и2 — 1 — 2—1 - 1.
Для 0 з число степеней свободы равно произведению чисел сте- ьепей свободы по обоим факторам: v3 — v4v2 — 1-1 -- 1.
Для 04 число степеней свободы равно числу повторностей без диницы: v4 - п4 — 1—3 — 1 —- 2.
Для 0 5 число степеней свободы равно: v5 -= v — Vj — v2 — -v3 — v4 = 11—1—1 — 1—2 — 6.
Дальнейшие вычисления удобнее вести по табл. 4.17, для :, 2 и 3 столбцов которой данные уже получены. Дисперсии (столбец 4) вычисляютсяделением величин столбца 2 на соответствующие числа степеней свободы из столбца 3, например. 4,917 : 11 — = 0,447 , 0,083 : 1 - 0,083 и т. д.
В столбце 5 вычисляем отношения каждой из дисперсий к остаточной или наоборот. Если остаточная дисперсия меньше сравниваемой с пей, то опа берется в знаменателе, т. е. в качестве делителя, а если остаточная дисперсия больше сравниваемой с ней, то остаточная дисперсия, наоборот, берется в качестве делимого, а сравниваемая с ней в качестве делителя.
Оценку полученных дисперсий производим по табл. 9П. В строке v (1) отыскиваем число степеней свободы, соответствующее большей из сравниваемых дисперсий, а в столбце v (2) находим число степеней свободы меньшей из двух сравниваемых дисперсий. На пересечении v (1) и v (2) в табл. 9П находится искомое значе-
Таблица 4.17
Результаты дисперсионного анализа по данным табл. 4.16
Варьирование данныхСумма квадратов отклоненийСтепень свободыОбщее0 = 4,917V — 11По фактору 10! - 0,083Vi = 1По фактору 202 - 0,750Vo — 1За счет взаимодействия факторов 1 и 203 = 0,084v3 - 1По повторностямв4- 1,167V4- 2Остаточное0Л = 2,833Vs — 6Варьирование данныхСумма квадратов отклоненийСтепень свободыОбщее0 = 4,917V — 11По фактору 10! - 0,083Vi = 1По фактору 202 - 0,750Vo — 1За счет взаимодействия факторов 1 и 203 = 0,084v3 - 1По повторностямв4- 1,167V4- 2Остаточное0Л = 2,833Vs — 6Дисперсия, a2Критерий ФишераДоля влияш^ на объ. ект, %FF' (Щ'=0,95)0,4471,063,091000,0835,67234,01,690,7501,595,9915,250,0845,62234,01,710,5841,245,1423,730,4721,00—57,62Дисперсия, a2Критерий ФишераДоля влияш^ на объ. ект, %FF' (Щ'=0,95)0,4471,063,091000,0835,67234,01,690,7501,595,9915,250,0845,62234,01,710,5841,245,1423,730,4721,00—57,62
Варьирование данных
Сумма квадратов отклонений
Степень свободы
Общее
0 = 4,917
V — 11
По фактору 1
0! - 0,083
Vi = 1
По фактору 2
02 - 0,750
Vo — 1
За счет взаимодействия факторов 1 и 2
03 = 0,084
v3 - 1
По повторностям
в4- 1,167
V4- 2
Остаточное
0Л = 2,833
Vs — 6
Варьирование данных
Сумма квадратов отклонений
Степень свободы
Общее
0 = 4,917
V — 11
По фактору 1
0! - 0,083
Vi = 1
По фактору 2
02 - 0,750
Vo — 1
За счет взаимодействия факторов 1 и 2
03 = 0,084
v3 - 1
По повторностям
в4- 1,167
V4- 2
Остаточное
0Л = 2,833
Vs — 6
Дисперсия, a2
Критерий Фишера
Доля влияш^ на объ. ект, %
F
F' (Щ'=0,95)
0,447
1,06
3,09
100
0,083
5,67
234,0
1,69
0,750
1,59
5,99
15,25
0,084
5,62
234,0
1,71
0,584
1,24
5,14
23,73
0,472
1,00
—
57,62
Дисперсия, a2
Критерий Фишера
Доля влияш^ на объ. ект, %
F
F' (Щ'=0,95)
0,447
1,06
3,09
100
0,083
5,67
234,0
1,69
0,750
1,59
5,99
15,25
0,084
5,62
234,0
1,71
0,584
1,24
5,14
23,73
0,472
1,00
—
57,62
" 0,472
вис г . Например, по фактору 1 отношение дисперсии равно (у^.{ = — 5,67. Для большей дисперсии число степеней свободы равно: v5 — 6 = v (1), для меньшей: vx = 1 = v (2). На пересечении v(l) - = 6 и v (2) = 1 находим F' — 234,0. По фактору 2, при v (1) = = 1, v (2) = 6, F' — 5,99. Если фактическое значение критерия Фишера F больше табличного F', то действие данного фактора считается существенным. Если фактическое значение критерия меньше табличного, то действие изучаемого фактора на опытный объект считается недоказанным. В табл. 4.17 все фактические числа критерия (столбец 5) меньше табличных (столбец 6); поэтому делаем вывод о недостоверности влияния фактора 1, фактора 2, а также их взаимодействия на урожайность томата при заданных конкретных условиях. Дальнейший анализ данного опыта не имеет смысла, однако рассмотрим методику вычислений всех остальных показателей, которые могут быть полезны в других случаях.
В столбце 7 вычислены процентные доли влияния изучаемых факторов на объект опыта, для чего на основании равенства (4.26), по числам из столбца 2, определены проценты отдельных сумм квадратов отклонений от общей: 0 — 4,917. Например:
0,0830,750.г
_100 = 1,69°О; ^-^-100 = 15,2о%, в т. д.
Доля остаточного варьирования довольно велика — 57,62% , что косвенно подтверждает сделанный выше вывод об отсутствии достоверного влияния факторов 1 и 2 на объект.
Ошибка средней арифметической всего опыта в результате дисперсионного анализа определяется по формуле
(4.30)
где пгм — ошибка опыта; Зост — остаточная дисперсия, которая здесь равна 0,472 (табл. 4.17, столбец 4); N — объем выборки.
Для данных табл. 4.16 ошибка средней арифметической всего опыта:
1 /0,472 л
тд? - |/ -^- =- 0,198.
Ошибка частных средних арифметических по любым вари. птам опыта также вычисляется по формуле (4.30), но в качестве * исленности группы берется та, по которой определялась средняя арифметическая:
/ ,2
1 / иост
тм ’
где тм — ошибка частной средней арифметической; п — числен: ость группы, по которой вычислена средняя арифметическая; /Ст — остаточная дисперсия. Например, определим ошибку сред- । их арифметических по сортам I и II:
тм V т=°’280-
• ’шибка средних арифметических урожая по годам также равна (,280, но это совпадение случайное, ввиду того что совпали численности групи данных, по которым определяются те и другие средние арифметические: по шесть чисел в каждой группе.
Ошибка разности любых средних арифметических из таблицы дисперсионного анализа находится по формуле
/«8 — l/"-^ или ,га8 V 2,(^31)
где т& — ошибка разности средних арифметических; Зост — остаточная дисперсия; п — численность меньшей из сравниваемых частных групп (здесь численность сравниваемых групп одинакова). Для примера, рассматриваемого в этом параграфе, ошибка разности средних арифметических урожая и по сортам, и по годам одинакова (численность групп совпадает):
ша =/^=-- 0,396.
Для оценки достоверности различия между частными средними арифметическими существуют разные критерии; наиболее простой из них критерий Стьюдента:
Z=^i-Z^i,(4.32)
где t — критерий Стьюдента, сравниваемый с табличным его значением по табл. ЗП при числе степеней свободы для остаточной дисперсии; Mt, М, — сравниваемые средние арифметические; т§ — ошибка разности средних арифметических, вычисляемая по формуле (4.31).
Сравним средние арифметические по урожайности двух сортов I и II (табл. 4.16):
2,83 — 2,832^;з
По табл. ЗП, при v — 6 и Рг -- 95%, / -- 2,447. Поскольку вычисленное значение критерия—1,263 меньше табличного, считается, что различие по урожайности между сортами I и II недо- казано.
Сравним урожаи по годам (табл. 4.16):
2,67 — 2,50 л /оо
' =0,396°’429-
Сравнение этой величины с табличной также показывает отсутствие достоверного различия урожая по годам.
Для оценки качества опыта в целом во многих случаях можно руководствоваться показателем точности опыта, который вычисляется по формуле (1.47):
Р 100,
где Р — показатель точности опыта; тм — ошибка средней арифметической всего опыта, вычисляется по формуле (4.30), в нашем примере равна 0,198; М — средняя арифметическая всего опыта, вычисляется ио формуле (1.06):
М - g = 2,58.
Отсюда показатель точности опыта:
Р ^Х$'100 7’67%-
Как известно из § 1.22, точность опыта считается неудовлетворительной, если Р > 5%.
Коэффициент вариации опытных данных вычисляется по формуле
Г =-- gg-100,(4.33)
где V — коэффициент вариации; з2 — общая дисперсия (первое число в столбце 4, табл. 4.16), опа равна: ^- -- ‘g17 = 0,447;
М — средняя арифметическая опытных данных. По формуле (4.33):
v Ko.w-ioo
v =—2758—= 26%-
Коэффициент вариации данных довольно высокий. Для получения более достоверных результатов в рассматриваемом примере следует провести опыт с большим числом повторностей. Необходимо иметь в виду, что в двухфакторных опытах с многолетними растениями, растущими на одном месте, когда года являются фактором, может возникнуть корреляция между градациями факторов опыта и почвенными условиями, поэтому последние необходимо выделять в качестве третьего фактора.
Однофакторный дисперсионный анализ небольшой группы данных
Наиболее распространенным случаем при математической обработке данных полевого опыта является однофакторный дисперсионный анализ, когда изучается действие па объект опыта одного фактора (в различном числе его градаций).
Однофакторпый дисперсионный анализ невозможно выполнить для опыта, проведенного без повторностей. Минимум повторностей — две, но это их число редко дает достоверные результаты, поэтому в полевых опытах обычно делают не меньше трех-четырех повторностей. Рассмотрим порядок проведения однофакторного дисперсионного анализа. В табл. 4.18 приведены данные полевого опыта, в котором семена овса высевали на делянки с добавкой различных микроэлементов в трех повторностях. Фактором, изучаемым здесь, является различие по содержанию микроэлементов в почве. Объектом наблюдения было среднее число колосков, за- ложившихся на главном генеративном побеге в результате влияния этого фактора. Число градаций действующего фактора — четыре (контроль и три градации опыта). Вычисления проводятся в следующем порядке:
В столбцах 2—4 табл. 4.18 приводятся опытные данные и гут же в скобках их квадраты. Например, 19,6 и 19,62 — (384,16).
Суммируем данные по строкам и запишем суммы St в столбце 5: 19,6 -|- 12,6 -Ь 10,8 - 43,0 и т. д.
Суммируем данные по столбцам и получаем суммы S2: 19,6 + + 19,7 + 25,2 Н- 28,0 = 92,5 и т. д. Суммы сумм по строкам и столбцам должны совпадать и дают Sz — 253,5, т. е. сумму всех дат.
Аналогично этому суммируем квадраты всех дат (числа в скобках) по строкам (iiZ2) и по столбцам (S2z2), суммы сумм которых также должны совпадать и дают Xz2 — 6221,69, т. е. сумму квадратов всех вариант.
Таблица 4.18
Вычисление сумм квадратов для однофакторного дисперсионного анализа
Условия выращивания (градации фактора)
Повторность
S,
S^2
I
И
III
Контроль
19,6 (384,16)
12,6 (158,76)
10,8 (116,64)
43,0
659,56
1849,0
14,33
1 доза
19,7 '(388,09)
9,3 (86,49)
10,2 (104,04)
39,2
578,62
1536,64
13,07
о
дозы
25,2 (635,04)
23,5 (552,25)
28,2 (795,24)
76,9
1982,53
5913,61
25,63
3 дозы
28,0 |30,7
(784,00) 1 (942,49)
35,7 (1274,49)
94,4
3000,98
8911,36
31,47
s.
92,5
76,1
84,9
St =■
- 253,5
-
18210,61 SS^
12т2
2191.29
1739,99
2290,41
£^2 .-
- 6221.69
—
—
8556,25
5791,21
7208,01
21555,47 - 25=
—
—
,v2
23,13
19,03
21,23
—
-
П р и м с ч а п и с. М ■ 21.13,
Возводим в квадрат все отдельные суммы Sx и S2 и затем получаем суммы их квадратов: S5f = 18210,61 и 2>S2 — 21555,47.
Вычисляем средние арифметические ио градациям фактора (столбец 8) и по повторностям (внизу столбцов 2, 3, 4). Средние по повторностям получаем делением каждой из сумм S2 па 4 (число слагаемых этой суммы), а средние по вариантам опыта — делением сумм St па 3 (число слагаемых каждой из сумм Sy). Например, средняя первой повторности равна 92,5 : 4 = 23,13 (столбец 2), средняя по градации фактора «контроль» равна 43,0 : 3 — 14,33.
Общая средняя арифметическая всех дат опыта равна:
= М -21,13.
Л12’
Задачей одпофакторного дисперсионного анализа является расчленение общего или суммарного варьирования объекта опыта па составные части по равенству:
О = О11-О2 + 03,(4.34)
•де О — сумма квадратов] отклонений по общему варьированию санных; 0Х — сумма квадратов отклонений но градациям фактора опыта; 02 — сумма квадратов отклонений по повторностям опыта; 03 — сумма квадратов отклонений по остаточному варьированию данных опыта.
Общую сумму квадратов отклонений опытных данных находим по формуле (4.27):
О - 2z2 - ^ = 6221,69 - ^’-866,50.
Сумму квадратов отклонений по градациям условий опыта (факториальную) определяем по формуле (4.28):
0! = te - ^1: Кч = f 18210,61 -: 3 - 715,02,
где 251 — сумма квадратов сумм ио градациям опыта (см. итог столбца 7, табл. 4.18); 2z— сумма всех вариант опыта (столбец 5); пА— число сумм 5ц оно равно числу градаций фактора опыта, т. е. четырем; кг — число слагаемых в каждой из сумм 5ц оно равно трем. Должно выдерживаться равенство: п^ = N, т. е. 4-3 = 12.
Сумму квадратов отклонений по повторностям опыта вычисляем также по формуле (4.28):
О 115,( . _ 1М1: кг _ (21555,47 - - ^М : 4 - 33,68,
где 02 — сумма квадратов отклонений по повторностям опыта; 252 — сумма квадратов сумм по повторностям (см. низ столбца 5); 2z — сумма всех вариант; ,г2 — число сумм, соответствующее числу повторностей, оно равно трем; к2 — число слагаемых в каждой сумме 52, оно равно четырем.
Сумма квадратов отклонений по остаточной вариации определяется из равенства (4.34) : 03 — 0 — 0! — 02 = 866,50 — - 715,02 - 33,68117,80.
Таким образом, все составляющие уравнения (4.34) теперь известны.
Дальнейшие вычисления удобнее вести в табличной форме (табл. 4.19). Числа степеней свободы, приведенные в столбце 3, определяются следующим образом.
Число степеней свободы по общей сумме квадратов отклонений равно числу всех вариант без единицы: v — N — 1 — 12 — 1 — = И, по градациям опыта (факториальной сумме квадратов) равно числу градаций опыта без единицы: vt — nx — 1 — 4—1 = = 3. Число степеней свободы для суммы квадратов отклонений по повторностям равно числу повторностей без единицы: v2 — я2 — 1 — — 3 — 1 - 2; число степеней свободы остаточной суммы квадратов отклонений равно: v3 = v — vt — v2 — И — 3 — 2 — 6.
Дисперсионный анализ данных табл. 4.18
Варьирование данных
Сумма квадратов откло* нений
Степень свободы
Дисперсия
2 е.
Критерий
Фишера
Доля " ВЛИЯНИЯ фактора на объект опыта, %
F
при Pt' = = 0,95 F'
Общее
866,50 = 0
11 = V
78,77
100,0
По градациям опыта (факториальное)
715,02 - е,
3 = V1
238,34
12,14
4,76
82,52
По повторностям
33,68 = - 02
2- v2
16,84
1,16
19,33
3,89
Остаточное
117,80 = 0з
6 = v3
19,63
-
—
13,59
И. Дисперсии в столбце 4 — это частные от деления сумм квадратов отклонений на соответствующие им числа степеней свободы, например:
2 _ 866,50 yg уу, 11’’2 _ 866,50 yg уу, 11’’715,02
2 _ 866,50 yg уу, 11’’
2 _ 866,50 yg уу, 11’’
5^ - —^— ^-- 238,34 и т. д.
Полученные дисперсии сравниваются с остаточной дисперсией, которая равна: Зост = 19,63. При этом большая дисперсия всегда делится на меньшую (столбец 5):
бб2 ОСТ2 ОСТ238,34 _19,63 ~238,34 _19,63 ~кака% ст _ 19,63.16^4 - 2% ст _ 19,63.16^4 - 2
б
б
2 ОСТ
2 ОСТ
238,34 _
19,63 ~
238,34 _
19,63 ~
ка
ка
% ст _ 19,63.
16^4 - 2
% ст _ 19,63.
16^4 - 2
Вычисленные значения критерия Фишера сравниваем с табличными (по табл. 9П), которые па Рг = 0,95 уровне достоверности приведены в столбце 6 табл. 4.19. О пользовании табл. 911 см. § 4.20, пункт 10. Сравнение вычисленных величии критерия с табличными показывает, что содержание микроэлементов в почве достоверно влияет на число заложившихся колосков у овса, так как Fx ~>ЕХ1 т. е. 12,14 > 4,76.
Сделанный в пункте 12 вывод подтверждается вычислением процентных долей влияния всех факторов (столбец 7), при этом за 100% принимается общая сумма квадратов (866,50). Изучаемый фактор — различие в содержании микроэлементов в почве — оказывает наибольшее действие на варьирование объекта опыта (82,52%).
Ошибка общей средней арифметической определяется по формуле (4.30):
,/19,63.„о
тм у -^- - 1,28.
Таким образом, общая средняя арифметическая равна: М - 21,13 + 1,28.
Ошибка частных средних арифметических определяется по формуле (4.30) с той разницей, что здесь вместо N — общей численности вариант — подставляется га — численность группы, для которой вычислена частная средняя арифметическая; в частности, ошибка средних по повторностям равна:
т. е. средние арифметические (табл. 4.18) равны: 23,13 + 2,21; 19,03 + 2,21; 21,23 + 2,21.’
Ошибка средних арифметических по градациям фактора (по условиям выращивания) равна:'
19,63„
тм = у —~ = 2,56.
Отсюда средние арифметические по градациям условий выращивания (табл. 4.18) равны: 14,33 -I- 2,56; 13,07 -I- 2,56; 25,63 _(- 2,56;
31,47 + 2,56.''
Ошибки разностей средних арифметических, при помощи которых оценивается достоверность различия последних, вычисляются по формуле (4.31). Ошибка разности средних арифметических по градациям фактора:
т8 = /2-2,56 — 3,62.
Ошибка разности средних арифметических по повторностям:
т8 = /2-2,21 =.3,13.
Величину различий средних арифметических при помощи ошибок разностей оценим по критерию Стьюдента (4.32). Сравним средние арифметические по градациям фактора, т. е. по условиям выращивания, с контролем:
,14,33 — 13,07 n or
==0’35’
,25,63 — 14,33
3^2
,31,47 — 14,33, -о
=3^2 =
Полученные значения критерия сравниваются с табличным, которое при числе степеней свободы v = 6 (для остаточной дисперсии), на доверительном уровне Pi = 0,95 равно /' = 2,447 (табл. ЗП). Существенно отличаются от контроля средние по второй
и третьей градациям опыта, условия которых, следовательно, достоверно влияют на заложение колосков у овса.
Таким же образом, по формуле (4.32), можно оценить различие средних и по повторностям, при помощи ошибки их разностей, равной mg — 3,13, и также при v --- 6. Сравнение средних по повторностям полезно для проверки их гомогенности, однородности.
Ошибки общей средней арифметической, по градациям фактора и по повторностям, можно использовать для вычисления трех соответствующих показателей точности опыта по формуле (1.47). Показатель точности опыта для общей средней арифметической равен (см. выше, пункт 5 и 14).
р = ^-100 = 6,06 о/6.
Показатель точности опыта для частных средних арифметических по градациям фактора вычислим только для наименьшей средней арифметической (см. выше, пункт 15):
р = ^-100 = 19,59%.
Показатель точности опыта для частных средних по повторностям также вычислим для наименьшей средней (см. выше, пункт 15):
Наибольшее значение для оценки качества опыта в данном случае имеет показатель точности опыта, вычисленный для градаций фактора. Поскольку в рассматриваемом примере оценка критерием Фишера показала достоверность влияния условий выращивания на заложение колосков, величину показателя точности опыта Р = -- 19,59 ^> 5% можпо рассматривать как указание па желательное увеличение повторностей опыта и улучшение выровненности агрофона делянок.
Двухфакторный дисперсионный анализ небольшой группы данных без повторностей
Нередки случаи, когда в ходе эксперимента фиксировались только однократные наблюдения по каждой совместной градации двух сопряженных факторов. Вследствие этого опыт, в котором изучалось совместное действие двух факторов на объект, не будет иметь повторностей, что иногда служит препятствием для математической обработки данных, без которой последние теряют свою научную ценность. В подобных случаях для математической обработки данных может оказаться полезной предлагаемая ниже схема двухфакторного дисперсионного анализа без повторностей. Опа принципиально не отличается от такой схемы однофакторного
дисперсионного анализа, в которой из общей суммы квадратов особо выделяется варьирование, вызванное различием данных но повторностям (§ 4.21). Разница между этими двумя схемами заключается в том, что в схеме, приводимой в § 4.22, градации повторности принимаются за градации второго фактора. Рассматриваемый в этом параграфе метод рекомендуется применять тогда, когда данные уже получены и повторять эксперимент нецелесообразно или невозможно. В прочих случаях лучше планировать двухфакторный эксперимент таким образом, чтобы данные имели не менее 3—4 повторностей и их можно было бы обработать методами двухфакторного дисперсионного анализа с повторностями из § 4.20 или § 4.23, что существенно повысит надежность получаемых выводов. От двухфакторпого анализа с повторностями метод из § 4.22 отличается тем, что посредством него невозможно выявить ту долю варьирования данных, которая возникает из-за взаимодействия обоих факторов, ибо она объединяется с остаточной дисперсией, что обязательно следует учитывать при толковании результатов анализа.
Т а б л и ц а 4.20
Влияние предшествующей культуры (фактор 2) и сортовой специфики (фактор 1) пшеницы на ее урожай
Сорт пшеницы
Предшественник
Si
S1
кукуруза
яровая пшеница
бобы кормовые
сахарная свекла
1. Лютесцепс 758
19,4
19,8
11,1
10,8
61,1
3733,21
15,27
2. Мильтурум 553
17,6
19,7
9,4
9,1
55,8
3113,64
13,95
3. Харьковская 46
10,9
11,8
9,9
10,2
42,8
1831,84
10,70
4. S2
47,9
51,3
30,4
30,1
159,7
8678,69
6. мй
2294,41
15,97
2631,6У
17,10
924,16
10,13
906,01
10,03
67эб,27
М = 13,31
Для примера проведем дисперсионный анализ без повторностей, выявляющий достоверность влияния предшествующей культуры на урожай последующей, по данным Госсортосети (табл. 4.20). Одним из факторов, влияющих па урожай пшеницы, является сортовая специфика последней а другим фактором — вид предшествующей культуры. Ввиду того что каждая совместная градация опыта содержит только одну оценку урожайности, данный дисперсионный анализ является двухфакторным без повторностей; проводится он в следующем порядке.
Как уже говорилось выше, все вычисления по двухфактор- пому анализу без повторностей можно проводить по схеме из § 4.21. Целью дисперсионного анализа без повторностей также является разложение общей дисперсии па составляющие ее части:
6 = ©! + 62 + 031 .
где 0 — сумма квадратов отклонений цо общему варьированию; 0! — сумма квадратов отклонений по градациям первого фактора; 02 — сумма квадратов отклонений по градациям второго фактора; 03 — сумма квадратов отклонений остаточной дисперсии,
Составим комбинационную табл. 4.20 и выполним указанные в пей действия. Сумма всех вариант —За: = 159,7. В столбце 6 приведены суммы вариант по строкам (*S\), а в строке 4 — суммы вариант по столбцам (Sa). В столбце 7 (5^) и строке 5 (-S-.^) эти суммы возведены в квадрат и квадраты суммированы. В столбце 8 (М^ и в строке 6 (Л72) вычислены средние арифметические по градациям факторов, например по предшественнику —- кукурузе:
Л/219.4 Л 17,6 + 10,915 97
Средний урожай сорта Лютесцепс 758 равен:
м 19,4+19,8+11,1 + 10,8 = ^ 2?
Общая средняя арифметическая урожая в опыте:
м — — — 159,7 — 13 31
При многозначных вариантах сумму квадратов отклонений по общему варьированию данных целесообразно вычислять через разности всех вариант с условным числом А (в данном случае примем А = 10), затем возвести разности в квадрат и суммировать их.
Таблица 4.21
Вычисление суммы квадратов данных из таблицы 4.20 (объяснения см. в тексте) А = 10
Номер
1
2
3
4
5
1
9,4
9,8
1,1
0,8
21,1
2
7,6
9,7
-0,6
-0,9
15,8
3
0,9
1,8
-0,1
0,2
2,8
4
17,9
21,3
0,4
0,1
39,7
5
88,36
96,04
1,21
0,64
186,25
6
57,76
94,09
0,36
0,81
153,02
7
0,81
3,24
0,01
0,04
4,10
8
146,93
193,37
1,58
1,49
343,37
В табл. 4.21 в первых трех строках (1—3) первых четырех столбцов (1—4) приведены разности х — 10. В строке 4 и столбце 5 приведены суммы разностей по строкам и столбцам (для контроля
вычислений). В строках 5—7 (столбцов 1—4) приведены квадраты соответствующих разностей, в строке 8 и столбце 5 — суммы квадратов разностей по строкам и столб щм (для контроля):
2 (х - А) = 39,7;2 (х - А)2 = 343,37;[2 (я - А)]2 =
- 39,72 - 1576,09.
Сумма квадратов отклонений по общей вариабельности данных равна:
0 - 2 (z - А)2 - l2j£^A)p 343,37 _ 39£ _ 212,03.
Остальные вычисления можно делать руководствуясь схемой из § 4.21, в которой для вычисления сумм квадратов отклонений применяется общая формула (4.28). Сумму квадратов отклонений по фактору 1 находим по данным из табл. 4.20: 25^ — - 8678,69; (2ж)2 - 159,72 - 25504,09; пх -- 3; кх 4; nvkx = N\ 3-4 = 12; отсюда (§4.21, пункт 7):
0, = (8678,69 - 1^1) : 4 - 44,33.
Сумма квадратов отклонений по фактору 2 по данным из табл. 4.20 определится из выражения (§ 4.21, пункт 8):
02 - Г2^ - ^1: кг = (6756,27 -: 3 - 126,75.
Сумма квадратов отклонений остаточной дисперсии определится из равенства:
03 = 0 - 0Х - 02 = 212,03-44,33-126,75 = 40,95.
Дальнейшие вычисления удобнее вести в форме табл. 4.22, где приводятся следующие данные. Суммы квадратов отклонений по источникам варьирования из столбца 2 делят па соответствующие числа степеней свободы из столбца 3, результаты деления (дисперсии) записаны в столбце 4. Числа степеней свободы определяются по тому же правилу, что и в методе из § 4.21, пункт 10.
Дисперсии в столбце 4 для получения критерия Фишера сравнивают с остаточной дисперсией, которая равна 6,82. При этом всегда большая дисперсия делится на меньшую. В данном случае все дисперсии больше остаточной, поэтому последняя является делителем:
19,27 q оо."6^82 = 2,83,19,27 q оо."6^82 = 2,83,22,16 „6,82 —22,16 „6,82 —42,256,8242,256,82= 6,19.= 6,19.
19,27 q оо."6^82 = 2,83,
19,27 q оо."6^82 = 2,83,
22,16 „
6,82 —
22,16 „
6,82 —
42,25
6,82
42,25
6,82
= 6,19.
= 6,19.
Полученные величины критерия (столбец 5) сравнивают с табличными величинами (табл. 9П). При v (1) — 3 и v (2) = 6, F' — 4,76. При v (1) = 2, v (2) ~ 6, F' -- 5,14. Поскольку 3,25 меньше, чем 5,14, делаем вывод о том, что разница в сорте (фактор!)
Результаты двухфакторного дисперсионного анализа без повторностей цо данным табл. 4.20
Вариабельность данных
Сумма квадратов отклонений
Степень свободы V
Дне- Персия о2
Критерий Фишера
Доля ВЛИЯНИЯ фактора на * объект опыта % ’
F
при Pv ' ■ = 0,65 F'
Общая
212,03
11
19,27
2,83
—
100
По градациям первого фактора
44,33
2
22,16
3,25
5,14
21
По градациям второго фактора
126,75
3
42,25
6,19
4,76
60
Остаточная
40,95
6
6,82
—
—
19
у пшеницы в данных условиях не вызывает существенного влияния на урожай. Так как 6,19 больше, чем 4,76, делаем вывод о том, что различие в видах предшественников (фактор 2) существенно влияет на урожай. Как указывалось в начале § 4.22, по данному методу невозможно выделить из остаточной дисперсии ту долю варьирования, которая вызвана взаимодействием обоих факторов. Различие в предшественниках, по-видимому, больше влияет па урожай пшеницы, чем разница в сортах у последней. В столбце 7 приведены доли влияния на урожай различных факторов варьирования данных в процентах от общего их варьирования.
Двухфакторный дисперсионный анализ большой группы данных
В § 4.20 была изложена методика двухфакторного анализа с повторностями и в § 4.22 — методика дисперсионного анализа без повторностей, в обоих случаях для небольшого числа дат. Принципы обработки двухфакторным анализом больших выборок остаются теми же, однако техника вычислений при этом несколько изменяется. При обработке данных методом из § 4.23 важно правильно составить исходную комбинационную таблицу. Для этого желательно при планировании эксперимента предусматривать последующее применение дисперсионного анализа, который дает возможность получить достоверные выводы, оцененные объективными критериями. В рассматриваемом ниже примере исследуется влияние на высоту стеблей у гелениума двух факторов: числа соцветий на одном растении (фактор 1) и диаметра соцветий (фактор 2), табл. 4.23.
В двухфакторном дисперсионном анализе необходимо соблюдать условие о независимости между собой обоих факторов, действующих на рассматриваемый объект. С этой целью были вычислены показатели корреляции рангов по Спирмэну между высотой
Таблица 4.23
Комбинационная таблица двухфакторного дисперсионного анализа данных по влиянию на высоту растений числа соцветий (фактор 1) и диаметра соцветии (фактор 2) у гелениума
Номер
Высота растений, еле
а
1. Градации по числу соцветий
Накопленные частоты
72-158
159-245
246-333
класс
У
2. Града
ции по диаметру соцв
етий
Qi
-- 70
02 — 15
4,0—4,9
5,0—6,0
4,0-4,9
5,0-6,0
4,0—1,9
5,0-6,0
1
111-128
120
-1-2
2
10
3
15
15
15
2
93-110
102
+ 1
5
14
6
8
3
40
<)i)
—
3
75-92
84
0
9
14
4
17
10
59
—
—
4
57—74
66
-1
4
7
2
—
—
3
16
26
—
5
39-56
48
-2
10
—
—
—
—
10
10
10
6
jx
18
45
14
35
8
20
140
9з
- 36
94 = Ю
7
^fxya
-1
-13
< 8
-1 28
+3
-!-7
L31
—
—
8
1
169
04
784
9
49
—
—
—
9
№5хуаУ
0,055
3,756
4,571
22,400
1,125
2,450
34,357
—
—
lx
растений (ж), числом соцветий на них (у) и диаметром соцветий (z) Каждый из этих рядов представлял собой 15 средних арифметических (по числу сортов гелепиума).
Отсутствует корреляционная связь между высотой растений и диаметром соцветий: рж_- = 0,21, а также между числом соцветий и их диаметром: руг = 0,07. Имеется корреляционная связь только между числом соцветий и высотой стеблей: рхи = 0,56, однако последняя является не фактором, а объектом опыта.
Число данных по градациям должно быть равным, или же их отношение должно быть одинаковым. В табл. 4.23 суммы частот /ж в столбцах 4 и 5,6 и 7,8 и 9 находятся в одном отношении:
9359 г 20 9 г
18 " "14"8 ” 2’а‘
По фактору 1 установлены три градации по числу соцветий: 72—158, 159—245 и 246—333. В пределах каждой из этих групп растений выделяются две одинаковые градации второго фактора, по диаметру соцветий: 4,0—4,9 и 5,0—6,0 лип. Далее выполнены следующие действия.
По высоте растений примем пять классов, убывающих по величине сверху вниз (столбец 1), и вычислим их середины у (столбец 2).
В столбце 3 записаны отклонения от условной средней — Ау = 84 см, по формуле
где с — классовый интервал, равный здесь 18 см.
Согласно установленным градациям факторов 1,2 и классам высоты растений, разносим данные измерений по ячейкам корреляционной решетки (строки 1—5, столбцы 4—9). В итоговой строчке 6 и столбце 10 частоты решетки суммированы, обе суммы должны совпасть и дать общее число измерений:
^ - 140 = 2Д. - 2/„.
В строке 7 записываем суммы произведений частот /жу из всех ячеек решетки на отклонения ау из столбца 3. Например: 5-(+ 1) + 9.0 + 4Д- 1) = + 1; 14- (+ 1) + 14-0 + 7-(- 1) + 10-(— 2) = —13 и т. д.
Квадраты чисел из строки 7 записываем в строке 8. Например: (+ I)2 - 1; (- 13)2 = 169 и т.д.
В строке 9 приведены частные от деления чисел из строки 8 на соответствующие им частоты из строки 6. Например, 1 : 18 = = 0,055; 169 : 45 — 3,756 и т. д. Сумма этих частных равна 34,357.
В столбцах 11 и 12 приведены два ряда накопленных частот от исходных частот из столбца 10. Методика их получения и проверки изложена в § 1.13. Полусуммы дг—q4 необходимы для
получения сумм Sj и S2, которые равны:
21 = 91 ~ 9з = 70—36 = 34, 22 = 91 + 9з + 2 (92 + q^ = = 70 + 36 + 2 (15 + 10) = 156.
S/v«2 = S2 = 15 (+ 2)2 + 40 (+ I)2 + 59 (О)2 + 16 ( - I)2 +Ю (— 9Д2 — 4 SR Спргтппятппт.лп UKiuwAnoiTWa лпмаим плпттлS/v«2 = S2 = 15 (+ 2)2 + 40 (+ I)2 + 59 (О)2 + 16 ( - I)2 +Ю (— 9Д2 — 4 SR Спргтппятппт.лп UKiuwAnoiTWa лпмаим плпттлПроверка вычисления S2 производится подстановкой ее в равенство
S/v«2 = S2 = 15 (+ 2)2 + 40 (+ I)2 + 59 (О)2 + 16 ( - I)2 +
Ю (— 9Д2 — 4 SR Спргтппятппт.лп UKiuwAnoiTWa лпмаим плпттл
S/v«2 = S2 = 15 (+ 2)2 + 40 (+ I)2 + 59 (О)2 + 16 ( - I)2 +
Ю (— 9Д2 — 4 SR Спргтппятппт.лп UKiuwAnoiTWa лпмаим плпттл
+ 10 (—2)2 = 156. Следовательно, вычисления сделаны верно.
Для проверки вычисления St можно воспользоваться тем фактом, что сумма чисел строки 7 также должна быть равна Sn т. е. в данном случае: -г 34.
Задача двухфакторного дисперсионного анализа, как и в предыдущих параграфах, заключается в разложепии общей суммы квадратов отклонений на ее составляющие по равенствам:
(4.35)(4.35)О = 0Х + 02; 0. = О, + 02 + 0Р.„
(4.35)
(4.35)
где 0 — общая сумма квадратов отклонений; 0Х — сумма квадратов отклонений факториальной дисперсии; 02 — сумма квадратов отклонений остаточной дисперсии; 0Х — сумма квадратов отклонений дисперсии первого фактора; 02 — сумма квадратов отклонений дисперсии второго фактора; 0Х.2— сумма квадратов отклонений дисперсии, вызванной взаимодействием первого и второго факторов.'
Общую сумму квадратов отклонений (0) находим по формуле.
0-22-^-,(4.36)
где'5ц S2 — суммы, вычисление которых приведено выше в пункте 7; N — объем выборки.
Подставляя данные, получим по формуле (4.36):
0 = 156,000 - ^ = 14 7,74 3. ’140’
Заметим для дальнейших расчетов, что
Сумма квадратов отклонений факториальной дисперсии определится по формуле
0Ж = 20Ж = 2С^/ху^уУ2 ^1С^/ху^уУ2 ^1/V ’/V ’(4.37)(4.37)
0Ж = 2
0Ж = 2
С^/ху^уУ2 ^1
С^/ху^уУ2 ^1
/V ’
/V ’
(4.37)
(4.37)
где первый член правой части уравнения представляет собой сумму чисел строки 9 (табл. 4.23) и равен: 34,357, а второй член вычислен в предыдущем пункте и равен 8,257. Итак: 0Ж = 34,357— - 8,257 = 26,100.
Сумма квадратов отклонений остаточной дисперсии определится из равенства:
(4.38)(4.38)02 = х2 —x-i^^i
(4.38)
(4.38)
где 22 — сумма, найденная по способу накопленных частот (см. пункт 7 выше), а второй член правой части уравнения представляет собой сумму чисел строки 9 из табл. 4.23. Отсюда: 0. — - 156,000 - 34,357 - 121,643. *
Сумму квадратов факториальной дисперсии0X необходимо расчленить па составляющие согласно равенству (4.35). Для этого определяем сумму квадратов отклонений по факторам 1 и 2 отдельно по формуле (4.37). В табл. 4.24 выполнены требуемые для этого
Табл и ц а 4.24
Вычисление сумм квадратов отклонений дисперсий отдельных факторов (к табл. 4.23)
Номер
Градация факторов 1 и 2
/х
^*хи,1и
(~Ду"1?г
(Ef а )2 v ху у}
fx
1
72- 158
63
1. Число соцветий + 1-13- 12
( 12)2—144
2,286
2
159 245
49
8+28—— 36 + 3+7- +10
362- 1296
26,449
3
246 333
28
102 = 100
3,571
4
Сумма
140
■| 34
32,306
5
4,0-4,9
40
2. Диаметр соцветп
-1-:-8--3-= —12
(+12)2—144
3,600
Г>
5,0-6,0
100
- 13 | 28+7 +22
(+22)2--484
4,840
7
Сумма
140
+ 34
8,440
действия, где числа в столбце 2 взяты из строки 6 табл. 4.23, т. е. 18 + 45 — 63; 14 + 35 = 49; 8 + 20 = 28, а числа в столбце 3 — из строки 7 табл. 4.23.
По формуле (4.37):
0! = 32,306 - 8,257 - 24,049;
02 - 8,440 - 8,257 = 0,183,
22
где 32,306 и 8,440 итоги строк 4 и 7 табл. 4.24, а 8,257 = ^- (см.
пункт 8).■
Сумму квадратов отклонений дисперсии, вызванной совместным действием факторов 1 и 2 (©^г), найдем из равенства (4.35):
©1-2 = Ох - ©1 - ©226,100 - 24,049 - 0,183 = 1,868.
Результаты двухфакторного дисперсионного анализа (фактор 1 — число соцветий; фактор 2 — диаметр соцветий на тех же особях гелеттиума)
Варьирование данных
Сумма кпад- ратов отклонений G^
Степень свободы
vi
Дисперсия
1V .
г
Критерий Фишера из табл. 9П
S с О .
£ S3
К О - « § - s s «■&=!
сс Е
1 т § г S О
о с II
1 F^so h § 8 = II
Общее
0 =147,743
140-1=139
1,063
—
—
100
Факториальное
13 том числе
0Х = 26,100
3.2-1=5
5,222
5,75
2,21
17,67
по фактору 1
0! = 24,049
3-1=2
12,025
13,24
3,00
16,29
по фактору 2
02 = 0,183
2-1=1
0,183
4,96
254,3
0,12
За счет взаимодействия факторов 1 и 2
0Г2= 1,868
2-1=2
0,934
1,03
3,00
1,26
Остаточное
02= 121,643
140-3-2-134
0,908
—
—
82,33
Дальнейшие вычисления лучше производить в форме табл. 4.25.
Степени свободы в столбце 3 этой таблицы определяются следующим образом. По 0 : v = N — 1, число степеней свободы равно объему выборки без единицы.
По ©х : vx = кг-к2 — 1, т. е. произведению числа градаций первого фактора (к^ на число градаций второго фактора (к^ без единицы.
По ©х : Vj = кг — 1, т. е. числу градаций первого фактора без единицы.
По 02 : v2 = к2 — 1, числу градаций второго фактора без единицы.
По ©1-2 : V^.2 — ViV2.
По 02 : v2 = N — кх-к2, т. е. объему выборки минус произведение числа градаций первого и второго факторов.
В столбце 4 табл. 4.25 вычислены дисперсии, т. е. частные от деления чисел столбца 2 на соответствующие им числа из столбца 3.
Сравнение дисперсий с остаточной, которая равна: з2 — 0,908, производится делением на нее всех сравниваемых дисперсий в столбце 4, за исключением дисперсии по 02 = 0,183, которая оказалась меньше, чем остаточная, и поэтому послужила делителем при сравнении. Результаты этого сравнения приведены в столбце 5. Табличные значения критерия Фишера в столбец 6 выписаны из табл. 9П, способ пользования которой указан в § 4.20, пункт 10.
Сравнивая фактические и табличные значения критерия Фишера, делаем вывод о том, что на высоту растений у гелениума осен-
него оказывает достоверное влияние число соцветий (13,83 )> 3,00) и отсутствует влияние диаметра соцветий (4,96 <^ 254,3).
Большее влияние на высоту растений оказывают другие неучтенные факторы, которые составляют в виде остаточной суммы квадратов 82,33% от суммарного действия всех факторов. Очевидно, число соцветий, несмотря на достоверность влияния, не является основным фактором из тех, от которых зависит высота растений. Однако в данном случае и не ставилось задачей выделение такого фактора. Структура взаимосвязей в комплексе признаков некоторого биологического объекта может быть установлена методами корреляционного анализа (глава 2) путем попарного вычисления коэффициента корреляции или другого показателя связи между признаками. Наиболее важные из этих корреляционных взаимосвязей могут быть уточнены методами дисперсионного анализа.
Таким образом, во многих биологических исследованиях, где выясняется взаимосвязь комплекса признаков, желательно сочетать методы корреляционного и дисперсионного анализа.
ПРИЛОЖЕНИЕ
Таблицы Щ — 26П
Таблица 1П
Число классов в зависимости от объема выборки § 1.01
Объем выборки — N
Число классов — к
Объем выборки — N
Число классов — к
40-60
60-100
6-8
7—10
100-200
200-500 н более
9-12
12-17
Таблица 2П
Значения критериев Од- и 01 на уровнях значимости 0,01 (верхнее число) и 0,05 (нижнее число)
§ 1.02
; n
°N (1)
. N
°N (1)
N
SN (I)
4
0,991 0,955
13
0,520
0,410
22
0,414
0,320
5
0,916
0,807
14
0,502 0,395
23
0,407
0,314
6
0,805
0,689
15
0,486
0,381
24
0,400 0,309
7
0,740 0,610
16
0,472
0,369
25
0,394
0,304
8
0,683
0,554
17
0,460
0,359
26
0,389
0,299
9
0,635
0,512
18
0,449
0,349
27
0,383
0,295
10
0,597
0,477
19
0,439 0,341
28
0,378
0,291
И
0,566
0,450
20
0,430 0,334
29
0,374
0,287
12
0,541 0,428
21
0,421
0,327
30
0,369
0,283
Примечание. Если значения ON или О,, вычисленные по формулам (1.01) и (1.05), превышают табличные значения, то варианта отбрасывается.
Таблица ЗП
Значения критерия Стьюдента — t
§ 1.03
Число степеней свободы, V
Доверительные уровни
Число степеней свободы, v
Доверительные уровни
Р- 95% или 0,95
Р ■ ; 99% пап 0,99
Р-99,9% или 0,999
Р = 95% пли 0,95
Р - 99% или 0,99
Р = 99.9% ИЛИ 0,999
1
12,706
63,657
22
2,074
2,819
3,792
2
4,303
9,925
31,598
23
2,069
2,807
3,767
3
3,182
5,841
12,941
24
2,064
2,797
3,745
■ 4
2,776
4,604
8,610
25
2,060
2,787
3,725
2,571
4,032
6,859
26
2,056
2,779
3,707
6
2,447
3,707
5,959
27
2,052
2,771
3,690
7
2,365
3,499
5,405
28
2,048
2,763
3,674
8
2,306
3,355
5,041
29
2,045
2,756
3,659
9
2,262
3,250
4,781
30
2,042
2,750
3,646
10
2,228
3,169
4,587
35
2,030
2,724
3,591
11
2,201
3,106
4,437
40
2,021 '
2,704
3,551
12
2,179
3,055
4,318
45
2,014
2,690
3,520
13
2,160
3,012
4,221
50
2,008
2,678
3,496
14
2,145
2,977
4,140
55
2,004
2,669
3,476
15
2,131
2,947
4,073
60
2,000
2,660
3,460
16
2,120
2,921
4,015
70
1,994
2,648
3,435
17
2,110
2,898
3,965
80
1,989
2,638
3,416
18
2,101
2,878
3,922
90
1,986
2,631
3,402
19
2,093
2,861
3,883
100
1,982 .
2,625
3,390
20
2,086
2,845
3,850
120
1,980
2,617
3,373 '
21
2,080
2,831
3,819
>120
1,960 ,
2,5758
3,2905
Таблица 4П
Значения коэффициента h для приближенного определения среднего квадратического отклонения § 1.18
Объем выборки N
h
Объем выборки А
h
2
1,1
9
3,0
3
1,1
15
3,5
4
2,1
15-30
4,0
5
2,3
30-200
5,0
6
2,5
200-1000
6,0
7
2,7
>1000
7,0
Таблица 5П - 4 - 4-0,39894
Значения функции ф («) _ (2л) е * , или ф (#) = е»5Р § 1.29
t
1
2
3
4
5
()
7
8
9
0,0
39894
39892
39886
39876
39862
39844
39822
39797
39767
39733
0,1
39695
39654
39608
39559
39505
39448
39387
39322
39253
39181
0,2
39104
39024
38940
38853
38762
38667
38568
38466
38361
38251
0,3
38139
38023
37903
37780
37654
37524
37391
37255
37115
36973
0,4
36827
36678
36526
36371
36213
36053
35889
35723
35553
35381
0,5
35207
35029
34849
34667
34482
34294
34105
33912
33718
33521
0.6
33322
33121
32918
32713
32506
32297
32086
31874
31659,
31443
0,7
31225
31006
30785
30563
30339
30114
29887
29659
29430
29200
0,8
28969
28737
28504
28269
28034
27798
27562
27324
27086
26848
0,9
26609
26369
26129
25888
25647
25406
25164
24923
24681
24439
1,0
24197
23955
23713
23471
23230
22988
22747
22506
22265
22025
1,1
21785
21546
21307
21069
20831
20594
20357
20121
19886
19652
1,2
19419
19186
18954
18724
18494
18265
18037
17810
17585
17360
1,3
17137
16915
16694
16474
16256
16038
15822
15608
15395
15183
1,4
14973
14764
14556
14350
14146
13943
13742
13542
13344
13147
1,5
12952
12758
12566
12376
12188
12001
11816
11632
11450
11270
1,6
11092
10915
10741
10567
10396
10226
10059
09893
09728
09566
1,7
09405
09246
09089
08938
08780
08628
08478
08329
08183
08038
1,8
07895
07754
07614
07477
07341
07206
07074
06943
06814
06687
1,9
06562
06438
06316
06195
06077
05959
05844
05730
05618
ОэаО8
2,0
05399
05292
05186
05082
04980
04879
04780
04682
04586
04491
2,1
04398
04307
04217
04128
04041
03955
03871
03788
03706
03626
2,2
03547
03470
0.3394
03319
03246
03174
03103
03034
02965
02898
2,3
02833
02768
02705
02643
02582
02522
02463
02406
02349
02294
2,4
02239
02186
02134
02083
02033
01984
01936
01888
01842
01797
2,5
01753
01709
01667
01625
01585
01545
01506
01468
01431
01394
2,6
01358
01323
01289
01256
01223
01191
01160
01130
01100
01071
2,7
01042
01014
00987
00961
00935
00909
00885
00861
00837
00814
2,8
00792
00770
00748
00727
00707
00687
00668
00649
00631
00613
2,9
00595
00578
00562
00545
00530
00514
00499
00485
00470
00457
3,0
00443
00430
00417
00405
00393
00381
00370
00358
00348
00337
3,1
00327
00317
00307
00298
00288
00279
00271
00262
00254
00246
3,2
00238
00231
00224
00216
00210
00203
00196
00190
00184
00178
3,3
00172
00167
00161
00156
00151
00146
00141
00136
00132
00127
3,4
00123
00119
00115
00111
00107
00104
00100
00097
00094
00090
3,5
00087
00084
00081
00079
00076
00073
00071
00068
00066
00063
3,6
00061
00059
00057
00055
00053
00051
00049
00047
00046
00044
3,7
00042
00041
00039
00038
00037
00035
00034
00033
00031
00030
3,8
00029
00028
00027
00026
00025
00024
00023
00022
00021
00021
3,9
00020
00019
00018
00018
00017
00016
00016
00015
00014
00014
4,0
00013
00009
00006
00004
00002
00002
00001
00001
оооио
00000
Т а б л и ц а 6П
Арифметический треугольник § 1.34
Численность
Коэффициенты
проб
долей частных
1
1
групп при р=0,5
0,25
0,125
л = 2
—
—
—
—
—
—
—
—
—
1
2
1
—
—
—
—
—
—
—
—
—
п = 3
—
1
—
3
—
3
—
1
—
—
—
—
—
—
—
—
0,0625
п = 4
—
—
—
—
—
—
—
1
—
4
—
6
—
4
—
1
—
—
—
—
—
—
0,03125
п = 5
—
—
—
—
—
—
1
—
5
—
10
—
10
—
5
—
1
—
—
—
—
—
—
0,015625
Л — 6
—
—
—
—
—
1
—
6
15
—
20
—
15
—
6
—
1
—
—
—
—
0,0078125
л = 7
—
—
—
—
1
—
7
—
21
—
35
—
35
—
21
—
7
—
1
—
—
—
0,00390625
л = 8
—
—
—
1
—
8
—
28
—
56
—.
70
—
56
—
28
—
8
—
1
—
—
0,001953125
л — 9
—
—
1
—
9
—
36
—
84
—
126
—
126
—
84
—
36
—
9
—
1
—
0,0009765625
л — 10
—
1
—
10
—
45
—
120
—
210
—
252
—
210
—
120
—
45
—
10
—
1
Примечание. Табл. 6П можно легко продолжить до любого п, складывая два рядом стоящих числа строки и записывая сумму в нижеследующей строке, в промежутке между ее слагаемыми,
Минимальные значения показателя корреляции ран гов при данном числе вариант
§ 2.02.
Число вариант N
Значение р на двух уровнях значимости *
Число вариант Д’
Значение р на двух уровнях значимости *
W,' = 0,05
W/ 0,01
W/ = 0,05,
W,' = 0,01
Л
0,80
—
13
0,48
0,64
5
0,80
0,90
14
0,46
0,62
6
0,77
0,89
15
0,44
0,60
7
0,68
0,86
16
0,43
0,58
8
0,60
0,81
17
0,41
0,56
9
0,58
0,77
18
0,40
0,55
10
0,55 .
0,73
19
0,39
0,53
11
0,53
0,70
20
0,38
0,52
12
0,50
0,67
И р и м е ч а н и е. р недостоверно, если оно меньше табличного.
Таблица 8П
2
Значение выражений N (2V — 1); у^у — 1) 11 ои,ибка коэффициента корреляции рангов Кендэла
§ 2.03
N
N (N - - I)
2
тт
N
Л' (М - 1)
2
тт
лчм— 1)
N (.V-1)
2
2
1
—
17
272
0,00735
0,1786
3
6
0,3333
—
18
306
0,00654
0,1726
4
12
0,1667
—
19
342
0,00585
0,1671
5
20
0,1000
—
20
380
0,00526
0,1622
6
30
0,0667
—
21
420
0,00476
0,1577
7
42
0,0476
—
22
462
0,00433
0,1535
8
56
0,0357
0,2886
23
506
0,00395
0,1496
9
72
0,0278
0,2665
24
552
0,00362
0,1460
10
90
0,0222
0.2483
25
600
0,00333
0,1426
И
110
0,0182
0,2337
26
650
0,00308
0,1396
12
132
0,0152
0,2214
27
702
0,00285
0,1367
13
156
0,0128
0,2099
28
756
0,00264
0,1338
14
182
0,0110
0,2007
29
812
0,00246
0,1312
15
210
0,0095
0,1922
30
870
0,00230
0,1289
16
240
0,0083
0,1847
31
930
0,00215
0,1265
Значения критерия F* при Pi = 95% § 2.06
V (1)
V (2)
1
2
3
4
5
с>
8
12
16
24
50
00
1
161,4
199,5
215,7
224,6
230,2
234,0
238,9
243,9
246,5
249,0
251,8
254,3
2
18,51
19,00
19,16
19,25
19,30
19,33
19,37
19,41
19,43
19,45
19,47
19,о()
3
10,13
9,55
9,28
9,12
9,01
8,94
8,84
8,74
8,69
8,64
8,53
4
7,71
6,94
0,59
6,39
6,26
6,16
6,04
5,91
5,84
5,77
5,70
5,63
5
6,61
5,79
5,41
5,19
5,05
4,95
4,82
4,68
4,60
4,53
4,44
4,36
6
5,99
5,14
4,76
4,53
4,39
4,28
4,15
4,00
3,92
3,84
3,75
3,67
7
5,59
4.74
4,35
4,12
3,97
3,87
3,73
3,57
3,49
3,41
3,32
3,2.3
8
5,32
4,46
4,07
3,84
3,69
3,58
3,44
3,28
3,20
3,12
3,03
2,93
9
5,12
4,26
3,86
3,63
3,48
3,37
3,23
3,07
2,98
2,90
2,80
2,71
10
4,96
4,10
3,71
3,48
3,33
3,22
3,07
2,91
2,82
2,74
2,64
2 ,о4
11
4,84
3,98
3,59
3,36
3,20
3.09
2,95
2,79
2,70
2,61
2,50
2,40
12
4,75
3,88
3,49
3,26
3,11
3.00
2,85
2,69
2,60
2,50
2,40
2,30
13
4,67
3,80
3,41
3.18
3,02
2.92
2,77
-2,60
2,51
2,42
2,32
2,21
14
4,60
3,74
3,34
3.11
2,96
2,85
2,70
2,53
2,44
2,35
2,24
2,13
15
4,54
3,68
3,29
3,06
2,90
2,79
2,64
2,48
2,39
2,29
2,18
2,07
16
4,49
3,63
3,24
3,01
2,85
2,74
2,59
2,42
2,33
2,24
2,13
2,01
17
4,45
3,59
3,20
2,96
2,81
2,70
2,55
2,38
2,29
2,19
2,08
1,96
18
4,41
3,55
3,16
2,9.3
2,77
2,66
2,51
2,34
2,25
2,15
2,04
1,92
19
4,38
3,52
3,13
2,90
2,74
2.63
2,48
2,31
2,21
2,11
2,00
1,88
20
4,35
3,49
3,10
2,87
2,71
2,60
2,45
2,28
2,18
2,08
1,96
1,84
21
4,32
3,47
3,07
2.84
2,68
2,57
2,42
2,25
2,15
2,05
1,93
1,81
22
4,30
3,44
3,05
2,82
2,66
2,55
2,40
2,23
2,13
2,03
1,91
1,78
23
4,28
3,42
3,03
2,80
2,64
2,53
2,38
2,20
2,11
2,00
1,88
1,76
24
4,26
3,40
3,01
2,78
2,62
2,51
2,36
2,18
2,09
1,98
1,86
1,73
25
4,24
3,38
2,99
2,76
2,60
2,49
2,34
2,16
2,07
1,96
1,84
1,71
26
4,22
3,37
2,98
2,74
2,59
2,47
2,32
2,15
2,05
1,95
1,82
1,69
27
4,21
3,35
2,90
2,73
2,57
2,46
2,30
2,13
2,03
1,93
1,80
1,67
28
4,20
3,34
2,95
2,71
2,56
2,44
2,29
2,12
2,02
1,91
1,78
1,6а
29
4,18
3,33
2,93
2.70
2,54
2,43
2,28
2,10
2,00
1,90
1,77
1,61
30
4,17
3,32
2,92
2,69
2,53
2,42
2,27
2,09
1,99
1,89
1,76
1,62
35
4,12
3,20
2,87
2,64
2,48
2,37
2,22
2,04
1,94
1,83
1,70
1,57
40
4,08
3,23
2,84
2,01
2,45
2,34
2,18
2,00
1,90
1,79
1,66
1,51
45
4,0(1
3,21
2,81
2.58
2,42
2,31
2,15
1,97
1,87
1,76
1,63
1,48
50
4,03
3,18
2,79
2,50
2,4 О'
2,29
2.13
1 ,95
1,85
1,74
1,60
1,44
60
4,00
3,15
2,76
2,52
2,37
2,25
2,10
1,92
1,81
1,70
1 ,а6
1,39
70
3,98
3,13
2,74
2,50
9 3."'
2,23
2,07
1,89
1,79
1,77
1,67
1,53
1,35
80
3,96
3,11
о 72
9 Л 9
2,33
2.21
2,06
1,88
1,65
1,51
1,32
90
3,95
3,10
2,71
2,47
2,32
2 2(>
2.04
1,86
1,76
1,64
1,49
1,30
100
3,91
3,09
2,70
2.46
2,30
2,19
2.03
1 ,85
1,75
1,63
1,48
1,28
125
3,92
3,07
2,68
2.4^
2,29
2.17
2,01
1,83
1,72
1,60
1,45
1,25
150
3,90
3,06
2,66
2.43
2,27
2,16
2,0(1
1 ,82
1 ,71
1 ,69
1,59
1,44
1,22
200
3,89
3,04
2,65
2,42
2,26
2,14
1 .98
1 ,80
1,57
1,42
1,19
300
3,87
3,03
2,64
2,41
2,25
2,13
1 ,97
1,79
1,68
1 .5а
1 .39
1,1а
400
3,86
3,02
2,63
2,40
2,24
2.12
1 .96
1 ,78
1,67
1,54
1 ,38
1,13
500
3,86
3,01
2,02
2,39
2 9.9
2.11
1,96
1,77
1,66
1,54
1,38
1,11
1000
3,85
3,00
2,61
2,38
2,22
2 10
1 ,95
1.76
1 ,65
1,64
1,53
1,36
1 ,08
ОО
3,84
2,99
2,60
2,37
2,21
2,09
1,94
1,75
1,52
1,35
1,00
Продолжение табл. 9П
Значения критерия F' при Р2 — 99 %
v (2)
V (1)
1
2
3
4
5
6
8
12
16
24
50
ОС
1
4052
4999
5403
5625
5764
5859
5981
6106
6169
6234
6302
6366
2
98,49
99,00
99,17
99,25
99,30
99,33
99,36
99,42
99,44
99,46
99,48
99,50
3
34,12
30,81
29,46
28,71
28,24
27,91
27,49
27,05
26,83
26,60
26,35
26,12
4
21,20
18,00
16,69
15,98
15,52
15,21
14,80
14,37
14,15
13,93
13,69
13,46
5
16,26
13,27
12,06
11,39
10,97
10,67
10,29
9,89
9,68
9,47
9,24
9,02
6
13,74
10,92
9,78
9,15
8,75
8,47
8,10
7,72
7,52
7,31
7,09
6,88
7
12,25
9,55
8,45
7,85
7,46
7,19
6,84
6,47
6,27
6,07
5,85
5,65
8
11,26
8,65
7,59
7,01
6,63
6,37
6,03
5,67
5,48
5,28
5,06
4,86
9
10,56
8,02
6,99
6,42
6,06
5,80
5,47
5,11
4,92
4,73
4,51
4,31
10
10,04
7,56
6,55
5,99
5,64
5,39
5,06
4,71
4,52
4,33
4,12
3,91
И
9,65
7,20
6,22
5,67
5,32
5,07
4,74
4,40
4,21
4,02
3,80
3,60
12
9,33
6,93
5,95
5,41
5,06
4,82
4,50
4,16
3,98
3,78
3,56
3,36
13
9,07
6,70
5,74
5,20
4,86
4,62
4,30
3,96
3,78
3,59
3,37
3,16
14
8,86
6,51
5,56
5,03
4,69
4,46
4,14
3,80
3,62
3,43
3,21
3,00
15
8,68
6,36
5,42
4,89
4,56
4,32
4,00
3,67
3,48
3,29
3,07
2,87
16
8,53
6,23
5,29
4,77
4,44
4,20
3,89
3,55
3,37
3,18
2,96
2,75
17
8,40
6,11
5,18
4,67
4,34
4,10
3,79
3,45
3,27
3,08
2,86
2,65
18
8,28
6,01
5,09
4,58
4,25
4,01
3,71
3,37
3,20
3,00
2,79
2,57
19
8,18
5,93
5,01
4,50
4,17
3,94
3,63
3,30
3,12
2,92
2,70
2,49
20
8,10
5,85
4,94
4,43
4,10
3,87
3,56
3,23
3,05
2,86
2,63
2,42
21
8,02
5,78
4,87
4,37
4,04
3,81
3,51
3,17
2,99
2,80
2,58
2,36
22
7,94
5,72
4,82
4,31
3,99
3,76
3,45
3,12
2,94
2,75
2,53
2,31
23
7,88
5,66
4,76
4,26
3,94
3,71
3,41
3,07
2,89
2,70
2,48
2,26
24
7,82
5,61
4,72
4,22
3,90
3,67
3,36
3,03
2,85
2,66
2,44
2,21
25
7,77
5,57
4,68
4,18
3,86
3,63
3,32
2,99
2,81
2,62
2,40
2,17
26
7,72
5,53
4,64
4,14
3,82
3,59
3,29
2,96
2,78
2,58
2,36
2,13
27
7,68
5,49
4,60
4,11
3,78
3,56
3,26
2,93
2,74
2,55
2,33
2,10
28
7,64
5,45
4,57
4,07
3,75
3,53
3,23
2,90
2,71
2,52
2,30
2,06
29
7,60
5,42
4,54
4,04
3,73
3,50
3,20
2,87
2,68
2,49
2,27
2,03
30
7,56
5,39
4,51
4,02
3,70
3,47
3,17
2,84
2,66
2,47
2,24
2,01
35
7,42
5,27
4,40
3,91
3,59
3,37
3,07
2,74
2,56
2,37
2,13
1,90
40
7,31
5,18
4,31
3,83
3,51
3,29
2,99
2,66
2,48
2,29
2,05
1,80
45
7,23
5,11
4,25
3,77
3,45
3,23
2,94
2,61
2,43
2,23
1,99
1,75
50
7,17
5,06
4,20
3,72
3,41
3,19
2,89
2,56
2,38
2,18
1,94
1,68
60
7,08
4,98
4,13
3,65
3,34
3,12
2,82
2,50
2,32
2,12
1,87
1,60
70
7,01
4,92
4,07
3,60
3,29
3,07
2,78
2,45
2,28
2,07
1,82
1,53
80
6,96
4,88
4,04
3,56
3,26
3,04
2,74
2,42
2,24
2,03
1,78
1,49
90
6,92
4,85
4,01
3,53
3,23
3,01
2,72
2,39
2,21
2,00
1,75
1,45
100
6,90
4,82
3,98
3,51
3,21
2,99
2,69
2,37
2,19
1,98
1,73
1,43
125
6,84
4,78
3,94
3,47
3,17
2,95
2,66
2,33
2,15
1,94
1,69
1,37
150
6,81
4,75
3,91
3,45
3,14
2,92
2,63
2,31
2,13
1,92
1,66
1,33
200
6,76
4,71
3,88
3,41
3,11
2,89
2,60
2,28
2,09
1,88
1,62
1,28
300
6,72
4,68
3,85
3,38
3,08
2,86
2,57
2,24
2,06
1,85
1,59
1.22
400
6,70
4,66
3,83
3,37
3,06
2,85
2,56
2,23
2,04
1,84
1,57
1,19
500
6,69
4,65
3,82
3,36
3,05
2,84
2,55
2,22
2,03
1,83
1,56
1,16
1000
6,66
4,63
3,80
3,34
3,04
2,82
2,53
2,20
2,01
1,81
1,54
1.11
ОО
6,64
4,60
3,78
3,32
3,02
2,80
2,51
2,18
1,99
1,79
1,52
1.00
Окончание табл. 9П
Значения критерия F' при Р$ — 99,9 %
4(2)
V (1)
1
2
3
4
5
6
8
12
2'.
ОО
1
405284
500000
540379
562500
576405
585937
598144
610667
623497
636619
2
998,5
999,0
999,2
999,2
999,3
999,3
999,4
999,4
999,5
999,5
3
167,5
148,5
141,1
137,1
134,6
132,8
130,6
128,3
125,9
123,5
4
74,14
61,25
56,18
53,44
51,71
50,53
49,00
47,41
45,77
44,05
5
47,04
36,61
33,20
31,09
29,75
28,84
27,64
26,42
25,14
23,78
6
35,51
27,00
23,70
21,90
20,81
20,03
19,03
17,99
16,89
15,75
7
29,22
21,69
18,77
17,19
16,21
15,52
14,63
13,71
12,73
11,69
8
25,42
18,49
15,83
14,39
13,49
12,86
12,04
11,19
10,30
9,34
9
22,86
16,39
13,90
12,56
11,71
11,13
10,37
9,57
8,72
7,81
10
21,04
14,91
12,55
11,28
10,48
9,92
9,20
8,45
7,64
6,76
И
19,69
13,81
11,56
10,35
9,58
9,05
8,35
7,63
6,85
6,00
12
18,64
12,97
10,80
9,63
8,89
8,38
7,71
7,00,
6,25
5,42
13
17,81
12,31
10,21
9,07
8,35
7,86
7,21.
6,52
5,78
4,97
14
17,14
11,78
9,73
8,62
7,92
7,43
6,80
6,13
5,41
4,60
15
16,59
11,34
9,34
8,25
7,57
7,09
6,47
5,81
5,10
4,31
16
16,12
10,97
9,00
7,94
7,27
6,81
6,19
5,55
4,85
4,06
17
15,72
10,66
8,73
7,68
7,02
6,56
5,96
5,32
4,63
3,85
18
15,38
10,39
8,49
7,46
6,81
6,35
5,76
5,13
4,45
3,67
19
15,08
10,16
8,28
7,26
6,61
6,18
5,59
4,97
4,29
3,52
20
14,82
9,95
8,10
7,10
6,46
6,02
5,44-
4,82
4,15
3,38
21
14,59
9,77
7,94
6,95
6,32
5,88
5,31
4,70
4,03
3,26
22
14,38
9,61
7,80
6,81
6,19
5,76
5,19
4,58
3,92
3,15
23
14,19
9,47
7,67
6,69
6,08
5,65
5,09
4,48
3,82
3,05
24
14,03
9,34
7,55
6,59
5,98
5,55
4,99
4,39
3,74
2,97
25
13,88
9,22
7,45
6,49
5,88
5,46
4,91
4,31
3,66
2,89
26
13,74
9,12
7,36
6,41
5,80
5,38
4,83
4,24
3,59
2,82
27
13,61
9,02
7,27
6,33
5,73
5,31
4,76
4,17
3,52
2,75
28
13,50
8,93
7,19
6,25
5,66
5,24
4,69
4,11
3,46
2,70
29
13,39
§,85
7,12
6,19
5,59
5,18
4,64
4,05
3,41
2,64
30
13,29
8,77
7,05
6,12
5,53
5,12
4,58
4,00
3,36
2,59
40
12,61
8,25
6,60
5,70
5,13
4,73
4,21
3,64
3,01
2,23
60
11,97
7,76
6,17
5,31
4,76
4,37
3,87
3,31
2,69
1,90
120
11,38
7,31
5,79
4,95
4,42
4,04
3,55
3,02
2,40
1,56
ОО
10,83
6,91
5,42
4,62
4,10
3,74
3,27
2,74
2,13
1,00
Таблица ЮП
Значения критерия X2 § 2.12
Число степеней свободы, v
Уровни значимости
Wi' = 0,05
ИУ = 0,01
W, = 0,001
1
3,841
6,635
10,827
2
5,991
9,210
13,815
3
7,815
11,345
16,268
4
9,488
13,277
18,465
5
11,070
15,086
20,517
6
12,592
16,812
22,457
7
14,067
18,475
24,322
8
15,507
20,090
26,125
9
16,919
21,666
27,877
10
18,307
23,209
29,588
И
19,675
24,725
31,264
12 '
21,026
26,217
32,909
13
22,362
27,688
34,528
14
23,685
29,141
36,123
15
24,996
30,578
37,697
16
26,296
32,000
39,252
17
27,587
33,409
40,790
18
28,869
34,805
42,312
19
30,144
36,191
43,820
20
31,410
37,566
45,315
21
32,671
38,932
46,797
22
33,924
40,289
48,268
23
35,172
41,638
49,728
24
36,415
42,980
51,179
25
37,652
44,314
52,620
26
38,885
45,642
54,052
27
40,113
46,963
55,476
28
41,337
48,278
56,893
29
42,557
49,588
58,302
30
43,773
50,892
59,703
Таблица 11П
Таблица Келли-Вуда (сокращенно)
§ 2.15
Q
PQ
Vpa
3
X
р
.50
.2500
.5000
.3989
.0000
.50
.49
.2499
.4999
.3988
.0251
.51
.48
.2496
.4996
.3984
.0502
.52
.47
.2491
.4991
.3978
.0753
.53
.46
.2484
.4984
.3969
.1004
.54
.45
.2475
.4975
.3958
.1257
.од
.44
.2464
.4964
.3944
.1510
.56
.43
.2451
.4951
.3928
.1764
.57
.42
.2436
.4936
.3909
.2019
.58
.41
.2419
.4918
.3887
.2275
.59
.40
.2400
.4899
.3863
.2533
.60
.39
.2379
.4877
.3837
.2793
.61
.38
.2356
.4854
.3808
.3055
.62
.37
.2331
.4828
.3776
.3318
.63
.36
.2304
.4800
.3741
.3585
.64
.35
.2275
.4770
.3704
.3853
.65
.34
.2244
.4737
.3664
.4125
.66
.33
.2211
.4702
.3621
.4399
.67
.32
.2176
.4665
.3576
.4677
.68
.31
.2139
.4625
.3529
.4958
.69
.30
.2100
.4583
.3477
.5244
.70
.29
.2059
.4538
.3423
.5534
.71
.28
.2016
.4490
.3366
.5828
.72
.27
.1971
.4440
.3306
.6128
.73
.26
.1924
.4386
.3244
.6133
.74
.25
.1875
.4330
.3178
.6745
.75
.24
.1824
.4271
.3109
• .7063
.76
.23
.1771
.4208
.3036
.7388
.77
.22
.1716
.4142
.2961
.7722
.78
.21
.1659
.4073
.2882
.8064
.79
.20
.1600
.4000
.2800
.8416
.80
.19
.1539
.3923
.2714
.8779
.81
.18
.1476
.3842
.2624
.9154
.82
.17
.1411
.3756
.2530
.9542
.83
.16
.1344
.3666
.2433
.9945
.84
.15
.1275
.3571
.2332
1.0364
.85
.14
.1201
.3470
.2226
1.0803
.86
.13
.1131
.3363
.2115
1 .1264
.87
.12
.1056
.3250
.2000
1 .1750
.88
.11
.0979
.3129
.1880
1 .2265
.89
.10
.0900
.3000
.1755
1 .2816
.90
.09
.0819
.2862
.1624
1.3408
.91
.08
.0736
.2713
.1487
1.4051
.92
.07
.0651
.2551
.1343
1.4758
.93
.06
.0564
.2375
.1191
1 .5548
.94
.05
.0475
.2179
.1031
1 .6448
.95
.04
.0384
.1960
.0862
1.7507
.96
.03
.0291
.1706
.0680
1 .8808
.97
.02
.0196
.1400
.0484
2 .0537
.98
.01
.0099
.0995
.0266
2 .3263
.99
Примечание. Перед точкой в числах таблицы стоит пуль целых, т. е. точка означает 0.
Таблица Сопера для вычисления ошибки бисериального коэффициента корреляции § 2.15
Q
А
^■3
А
>3
.50
1.5708
2 .5000
.22
1.9574
2.7933
.49
1.5711
2.5003
.21
1.9974
2.8240
.48
1.5722
2.5011
.20
2.0414
2.8578
.47
1.5741
2.5024
.19
2.0898
2.8951
.46
1.5766
2.5043
.18
2.1437
2.9364
.45
1.5799
2 .5068
.17
2 .2035
2.9825
.44
1 .5839
2.5098
.16
2.2703
3.0341
.43
1 .5886
2.5134
.15
2.3453
3.0923
.42
1 .5943
2.5177
•14
2 .4303
3.1582
.41
1.6007
2 .5225
.13
2.5272
3.2337
.40
1.6079
2 .5279
.12
2.6389
3.3208
.39
1.6161
2.5341
.11
2.7687
3.4224
.38
1.6251
2.5409
.10
2.9221
3.5427
.37
1.6351
2.5484
.09
3.1057
3.6873
.36
1.6461
2 .5568
.08
3.3299
3.8648
.35
1.6582
2 .5659
.07
3.6110
4 .0879
.34
1 .6714
2 .5759
.06
3.9748
4 .3777
.33
1.6858
2.5868
.05
4.4652
4.7723
.32
1.7015
2.5986
.04
5.1715
5.3410
.31
1.7186
2.6115
.03
6.2859
6.2485
.30
1 .7371
2 .6256
.02
8 .3600
7 .9572
.29
1 .7573
2.6409
.01
13.9393
12.6086
.28
1.7791
2.6575
—
—
.27
1.8028
2.6755
—
—
.26
1.8286
2.6952
—
—
—
.25
1.8567
2.7166
—
—
—
.24
1.8874
2.7399
—
—
—
.23
1.9208
2.7654
—
II р и м е ч
а и и е. Перед точкой в столбце q стоит 0,
Объем выборки, достаточный для достоверности коэффициента корреляции на трех доверительных уровнях
§ 2.04
N
N
N
Г
сц
S
J1 £
£
Г
JI а?
J
£
Г
J £
8
JI £
01
38 407
66 503
108 903
31
40
68
109
61
и
16
25
02
9603
16 628
27 228
32
38
63
102
62
10
16
24
03
4269
7392
12 103
33
36
60
96
63
10
15
23
04
2403
4159
6809
34
34
56
90
64
10
15
22
05
1539
2263
4359
35
32
53
85
65
9
14
21
06
1069
1850
3028
36
30
50
80
66
9
14
20
07
787
1360
2225
37
28
47
75
67
9
13
20
08
604
1042
1704
38
27
44
71
68
9
13
19
09
477
824
1347
39
26
42
67
69
8
12
18
10
383
661
1081
40
24
40
64
70
8
12
18
И
317
548
896
41
23
38
60
71
8
И
17
12
267
462
754
42
22
36
57
72
8
11
16
13
228
392
640
43
21
34
55
73
7
И
16
14
196
337
550
44
20
33
52
74
7
10
15
15
171
295
481
45
19
31
49
75
7
10
15
16
151
259
422
46
19
30
47
76
7
10
14
17
133
228
373
47
18
29
45
77
7
9
14
18
119
204
332
48
17
27
43
78
7
9
13
19
107
183
297
49
16
26
41
79
6
9
13
20
97
165
270
50
16
25
39
80
6
9
12
21
87
149
242
51
15
24
37
81
6
8
12
22
80
136
211
52
15
23
36
82
6
8
11
23
73
124
202
53
14
22
34
83
6
8
11
24
68
114
185
54
14
21
33
81
6
7
10
25
62
105
170
55
13
20
32
85
5
7
10
26
57
97
157
56
13
20
30
86
5
7
10
27
53
90
145
57
12
19
29
87
5
7
9
28
49
83
135
58
12
18
28
88
7
9
29
46
78
125
59
И
18
27
89
5
6
8
30
43
73
117
60
И
17
26
90
5
6
8
II р и м е ч а н'и'е. Коэффициент корреляции приведен в виде первых двух знаков после запятой.
О
++ 1 1
Ю ^ О 1-^ го
-м I - to i^ to to
о
to О co ^
о
+-+I11 СП соСО ел
Cl
со
+ м м +
СП ^ 4>* 45* СП
со о
00
со to о to со
м
со 45*
+ 111 t-
СП О СО 45* СО О СП
+ М ++ 1
++++I111
*JCnCO^^CoCn<J
со
++М м м- -О^СОСпСлСОь^-О
to
М 1 1 +++ I
-J СП -J СО со «-J СП -J
—-г++ мм
^'COtOb^O^tOCOOs
CO
-I—~ 1 М М “Ы- tO--JOO'-i>*tO)-s*CO«-OtO ос *J О -J 00
со о
ММН—1—h 1
►^-qi-^CD'OCOi-^-^lh*
45* СОСО 45*
со о
+ ++++ Mill
^О-^СПСО^^СОСП^СО
<5
со to
++ МММ Н—h S5tO)-^C045*OsCO^tOCl
со СП со о
+1111++++|
Ц^^СОСО^Ь^СОСО**^ ^0*Cji^bOtO^O<45*tO
Таблица 14П Числа Чебышева § 3.04
Таблица 1411 (продолжение)
И
12
13
15
16
-5
— 15
-30
И
+ 55
33
—Г)
' 22
-11
-13
+ 13
-143
-7
-91
91
- 15
-■ 35
—455
-6
16
—9
— 25
+ 3
—5
! 11
0
—11
-1-7
-И
—6
-952
— 13
-13
+ 21
-91
—3
—1
— 22
—7
-1
+ 21
—4
-!-2
J-6
-9
— 2
-66
+ 19
+35
-И
+ 9
-| 143
—2
—6
-1 23
—,)
-17
■I 25
- 3
—5
1 8
— 7
- -2
1 98
—4
—8
+58
-9
- 1
267
— 1
—9
14
—3
—29
: 19
2
- 10
-.1-7
—5
—5
+ 95
-3
-29
| 61
—7
—9
+ 301
О
—10
0
1
—35
: 7
7
-13
— 4
3
■ -7
—67
2
— 44
I 49
—5
15
-J-265
- 1
-9
14
1 1
35
-7
0
--И
0
■ 1
8
-24
1
53
+ 27
-3
19
---179
2
-6
- 23
■ 3
■ 29
19
— 13
-4
' 1
- 8
а/.
0
-56
0
1
—21
-63
—3
-1
—22
-.)
-17
•'-2
— 10
-7
-з
— 7
—67
+ 1
-53
—27
-1-1
-21
-63
— 6
—6
■ 7
-1
—21
: 3
• -5
-8
5
—5
—95
+ 2
—49
+ 3
—19
— 179
—5
+ 1'>
+30
19
I 25
—3
+ 4
—6
: 7
-98
■ 3
-29
-61
■ 1 5
—15
—265
•ио
858
4290
111
: ob
' 33
+ 5
-71
0
+ 9
9
-66
-1 4
-8
-58
1 7
-9
-301
572
12012
5148
+ 6
: 22
+ 11
+ 11
— 7
+ 11
-1-19
■ -35
-09
1
—267
182
2002
572
-13
-13
-1-143
-6
-1-52
+ 13
+ 11
+ 9
-143
910
728
97240
— 7
+91
+ 91
4-13
-21
+ 91
280
37128
39780
— 15
--455
1360
5712
10076
Таблица 14П (продолжение)Таблица 14П (продолжение)
Таблица 14П (продолжение)
Таблица 14П (продолжение)
м Таблица 14П (продолжение)
ОО
23
21
25
2«
27
-и -10
-9 -8 -7
—6
-5 —4
-3
— 1
0
+ 1 — 2
+ 3 —4
—5
-гб + 7
+ 8 + 9 -НО +11
4 77 -1-56 + 37 -20 -L5 -8 -19 -28 —35 -40 -43 -44 -43 -40 -35 -28 -19 —8 4-5 +20 -1 37 4 56 + 77
-77 -35 -3 4-20
; 35 + 43 + 45 4'42 г 35
25 + 13
0
-13 -25 —35 -42 -45 -43 -35 -20 -I-3 4+5
-I 77
-23
-21
-19
-17 - 15 -13
И
-9
—7
-5
-3
—1
+1
+ 3
— 5
+ 7
-1 9
+ 11
+ 13
-! 15
-4-17
+ 19
■421
423
4-253 ! 187
-1 127 473
4 25 -17
-53
-83
—107 — 125 -137 -143 -143
-137
-125
—107
-83
-53
—17
-1-25
-73
-1 127 + 187 + 253
- 1771 —847 —133 +391
745 -i-949
:-1023 +987 -1-861 —665 4-419 -М43 -143 —419 -665 - 861 —987 —1023 —949 —745 —391 -133 -j-847 + 1771
—12 —И —10 —9 —8 —7 —6 —5
—3 -2
—1
0 4-1 +2 д-З +4 +5 +6 + 7 -48 -49 + 10 -4-11 -112
+92 тб9 +48 -429 +12
-3 —16 —27 —36 —43 —48 -51 —52
-51
—48 —43 —36 —27 —16 --3 + 12 4-29
4-48 -469 +92
—506 —253 —55 +93 4-196
-259 - 287 —285 -г-258 4 211 +149 + 77
0 —77 -149 —211 - 258 -285 —287 -259 —196 -■93 -455 +253 +506
-25 -23 -21 -19 -17 -15 -13 —И —9
7 —5 - 3
- 1 + 1 +3 + 5 + 7 + 9 + 11 + 13 — 15 -417 4 19 -421 +23 4-25
4-50 (38
-1 27 -47 — 8
0 — 7 -13 -18 -22 —25 -27 -28 -28 —27 -25 -22 —18 -13 —7
0 +8 -4-17 4 27 +38 +50
— 1150 598
-161
4-171 + 408
-; 560 +637
649 — 606
4 518 + 395 + 247 + 84 -84
-247
-395
- -518 -606 -649
-637
-560 -408
—171 4-161
4-598 + 1150
-13 —12 - И -10 - 9 -8 —7 —6
—5 —4
—3 -2
-1
0 + 1 -2 + 3 + 4 +5 + 6 + 7 -48 +9 + 10 + 11 + 12 + 13
-4325 | 250
4-181 + 118 4-61
-10 - 35
— 74 — 107
-134 — 155 —170
-179 -182
—179 -170 — 155 —134
—107 —74
-35 + 10
+ 61 + 118 +181 4-250
+325
-130 -70
-22 + 15 +42 +60 + 70 + 73
-70
62 4 50 +35 + 18
0
-18
-35 —50
-62 -70
-73 -70
-60 -42
-15
+22 +70
+ 130
1012
35420
32890
4600
394680
17760600
1300
53820
1480050
5850
16380
7803900
1638
712530
101790
qh ^ thтн тн О О l-t т- тн £1 О l^ тиUkOClOli-'HkQCidM-iiH
CluOCOuDCOOClkOOOCOkQClCM'<i-kQ«<!-i-«nLr5xrCMClkQCOcOUDdOCOkQ СОиОСМСМ^мСОСОхГХ-ХРХрСОСОСМикОиОчнСМСОСОхГХрхР'СРСОСОиСМ
I I I I т-г+ + ~Ц—Ы +-r+-r I I I I I I I I II N-;-
СО см
S +
05 О1 00 -1-
со
S
со ю
8
kOLQ CQClCOkQLQCOClCQkQkQCQdCOkQiQCOClCQ 1C ^тит^^мютим^^ФГ'Г'ООсОсосОЬ'Г' cOLOocjr-iopiob-
+++- 1 -т+т 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 i 1 -H-++
С1
«О кО см ю
о ю ю 00
иОзС-кОСОиОГ-ЮСО-т-ч
CQCMCMCMCMCM^,'i-'i"<i-<T-idr'-iQCQi-4T-4CQkQt’»d’<!-',’i'ni-ii-’CMCMCMCMCM
1 II 1 1 1 1 1 II 1 1 1 1 1 1 ++ f-++H++H-+-1--|
s' Cl о
О CO CllQvHCMCOClLQCOOcOOl CiCOr-COlQdCOCMuLTCi co
О ООсОГ~СОьОсООЗСМСОсОч-i-cOCOCMClCOlOCOt^-COO
CO Dj PI ТЧ P5 X LQ t* lO О О C? Pl т- О - CM CT VP to 1 О Ю xp CT CM CM CM
1 1 1 1 -;--+ + + ^-r + - 4 H- I I 1 I 1 1 1 1 1 l-H
о
н-
ю о
L
см
со
Я
ФQCт-СО О 1-0
т- th CC CO M 1- X PT О LQ CO h-H CO h- > h- Ф lQ О COPl О О
+ + + + 1 И 1 1 1 1 I I 1 i i 1 11 1 1 1 - + +4-
Cl co -+
СО Ю
"Г" г
00 ю
th thcoo e io о 'M th o pip: о юс г- co c i-'тч
1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 "l"l—г-|-~ -c~—tH-t+ 1
co xr 1.0
-T++
§
5^0 bCQ-«'OObOO’<|<n*0|Wi’iOOOOt*OOM'Wb о
О lI CO CM C COQк nQ Q CO CO C Ф Q
тНтнОООГ'С0С1чОС0НЮР?тнтнр:1Т>с)00:^^с0Ь-ООО
1 1 1 - ++-Г-Н-1 H -i+ + 1 1 1 1 1 1I 1 । 1 -1
о
?м со
о § со см
о
COco
О CM СО co СООГ'СМОООт-т-ОСОСМ^'О.СС CO COо
CMi-viOOiON'CMM'CDOOO)k*vit*viv*0)OO<Ox!,O1M,C‘1iOOOv<*hN
++^-; -+ 1 1 1 1 1 1 1 1 1 1 1 1 II 1 I 1 +-! +++-
о см о СО
dt-LOCO^dOkQeOnvкСОЮ b-
CMdOJNN v-vn-nr-Qb-lDCO v« HCQiOb*0)i-t-nr-np|C'lNCM
1 1 1 N II I 1 1 1 1 1 1 -^+-H --I-I- 1 1 -1!-!
5j "1.
о о
со
Cl CO CM uQcOCMOOClOcOCMCOxP XCOPlCOOdOCPlCOQ CM CO Cl чнСОСОТХнСОт-ХХРГООЮ'О COOOPIMXt-PTthXCOcOt- CCXxXCMPTXXXXCTPJPJxOt-PIPICOXXXXCOPJXt-'M'CO
1 1 1 —H--M -1 +++-H 1 1 1 1 1 1 i H-++
см со
9
м
th\T).Q Ot-OOICOC V-OQO 1- i-fdb-kOCOi-.COCMCOXP'LQCOCOCOb-COCOCOuOXPCOTMCOiHCOLQb-d + ■}1 1 1 1 1 1 1 1 1 1 1 1 1 1 i i ттт~г1~
XCOPJr-CО CM CO
THCO h-Ф i.O OP: Mth Q THM CTO LC О I'-OC О TT
1 1 1 1 1 1 1 1 1 1 1 1 1 1 ++-I H-Ht-—H++++
см
LO Ю LQ r-iO LO LC OTO Q >O О >O bO Q th ф LT LO LO r- LQlOLQ сср)тна:р-ь-тос1т«а1осОтн01о:’НсооО'г-смоь'ТГ'С1т-Р1со ЮСОтнО’НСЧГОСОРОМСМтНтнРТРТтнтнСММРСРССОМг-От-.'Т!-':
1 1 1 —h+H——г "1" 1 1 1 L II II ■} + +
s О
OJ
я
S th b- LQ LQ CO LQ nO P) C CO LO LQ PT O) PT LQ Ю CO ЮЮ X X th xCcOXPJb-OPlCOMLOiOCCDCOCiOLOMPTPlCOPIXcOOx ++++-H- I I I I I I I I I I I I I I I -|■ + ++-+-r
OP о о ю о
[мкЛРТт-ОГчТ|СОтн_ x CO UQ Г-Q th PQ iO
СМСМСМСМ1-т-н^мт-н<ч-,0^г-1{^е^^тгчСОЮГ^О1т-нтг<т-ня-н11СМСЧСМСМ
1 1 1 1 1 1 1 1 1 1 1 1 1 1 O-H-+-H H F++++ 1 b
со о
Таблица 15ПЗначения ф = 2arcsin Vp в радианах § 4.05Таблица 15ПЗначения ф = 2arcsin Vp в радианах § 4.05
Таблица 15П
Значения ф = 2arcsin Vp в радианах § 4.05
Таблица 15П
Значения ф = 2arcsin Vp в радианах § 4.05
Таблица 1511 (продолжение)
р. %
0
1
2
3
4
5
6
7
8
9
38
1,328
1,330
1,333
1,335
1,337
1.339
1,341
1,343
1.345
1,347
39
1,349
1,351
1,353
1,355
1,357
1,359
1,361
1,363
1,365
1,367
40
1,369
1,371
1,374
1,376
1,378
1,380
1,382
1,384
1.386
1,388
41
1,390
1,392
1,394
1,396
1,398
1.400
1,402
1 ,404
1,406
1,408
42
1,410
1,412
1,414
1,416
1,418
1,420
1,422
1,424
1,426
1.428
43
1,430
1,432
1,434
1,436
1,438
1,440
1,442
1,444
1,446
1,448
44
1,451
1,453
1.455
1,457
1,459
1,461
1,463
1,465
1,467
1,469
45
1,471
1,473
1,475
1,477
1.479
1,481
1,483
1,485
1,487
1,489
46
1,491
1,493
1 ,495
1.497
1,499
1,501
1,503
1.505
1,507
1,509
47
1,511
1,513
1,515
1.517
1.519
1.521
1,523
1,525
1.527
1,529
48
1,531
1,533
1,535
1,537
1,539
1,341
1,543
1.545
1,547
1,549
49
1,551
1,553
1,555
1,557
1,559
1 ,561
1,563
1 ,565
1,567
1,569
50
1,571
1,573
1 ,575
1 ,577
1,579
1,581
1,583
1,585
1,587
1.589
51
1,591
1,593
1,595
1,597
1,599
1.601
1,603
1,605
1,607
1,609
52
1,611
1,613
1,615
1,617
1,619
1,621
1,623
1,625
1,627
1,629
53
1,631
1,633
1,635
1,637
1,639
1,641
1,643
1,645
1,647
1,649
54
1,651
1,653
1,655
1,657
1,659
1,661
1,663
1 ,665
1.667
1,669
55
1 ,671
1,673
1,675
1,677
1,679
1,681
1,683
1,685
1,687
1,689
56
1,691
1,693
1,695
1,697
1,699
1,701
1,703
1,705
1,707
1.709
57
1,711
1,713
1,715
1 ,717
1,719
1,721
1,723
1,725
1,727
1,729
58
1,731
1,734
1,736
1,738
1,740
1,742
1,744
1,746
1,748
1,750
59
1,752
1,754
1,756
1,758
1,760
1,762
1,764
1.766
1,768
1,770
60
1,772
1,774
1,776
1.778
1,780
1,782
1,784
1,786
1,789
1,791
61
1,793
1,795
1,797
1,799
1,801
1,803
1,805
1,807
1,809
1,811
62
1,813
1,815
1,817
1,819
1,821
1,823
1,826
1,828
1,830
1,832
63
1,834
1,836
1,838
1,840
1,842
1,844
1,846
1,848
1,850
1,853
64
1,855
1,857
1,859
1,861
1,863
1,865
1,867
1,869
1.871
1,873
65
1,875
1,878
1,880
1,882
1,884
1,886
1,888
1,890
1,892
1,894
66
1,897
1,899
1,901
1,903
1,905
1,907
1,909
1,911
1,913
1.916
67
1,918
1,920
1,922
1,924
1,926
1,928
1,930
1,933
1 .935
1,937
68
1,939
1,941
1,943
1,946
1,948
1,950
1,952
1.954
1,956
1,958
69
1,961
1,963
1,965
1,967
1.969
1,971
1,974
1,976
1,978
1,980
70
1,982
1,984
1,987
1,989
1,991
1,993
1,995
1,998
2,000
2,002
71
2,004
2,006
2,009
2,011
2,013
2,015
2,018
2,020
2,022
2,024
72
2,026
2,029
2,031
2,033
2,035
2,038
2,040
2,042
2,044
2,047
73
2,049
2,051
2,053
2,056
2,058
2,060
2,062
2,065
2.067
2,069
74
2,071
2,074
2,076
2,078
2,081
2.083
2,085
2,087
2.090
2,092
75
2,094
2,097
2,099
2,101
2,104
2,1 06
2,108
2,111
2,113
2,115
76
2,118
2,120
2,122
2,125
2,127
2,129
2,132
2,134
2,136
2,139
77
2,141
2,144
2,146
2,148
2,151
2,153
2,156
2,158
2,160
2,163
78
2,165
2,168
2,170
2,172
2,175
2,177
2,180
2,182
2,185
2,187
79
2,190
2,192
2,194
2,197
2,199
2,202
2,204
2,207
2^209
2,212
80
2,214
2,217
2,219
2,222
2,224
2,227
2,229
2,231
2,234
2,237
81
2,240
2,242
2,245
2,247
2,250
2,252
2,255
2,258
2,260
2,263
82
2,265
2,268
2,271
2,273
2,276
2,278
2,281
2,284
2,286
2,289
83
2,292
2,294
2,297
2,300
2,302
2,305
2,308
2,310
2,313
2,316
84
2,319
2,321
2,324
2,327
2,330
2,332
2,335
2,338
2,341
2,343
85
2,346
2,349
2,352
2,355
2,357
2,360
2,363
2,366
2,369
2,372
86
2,375
2,377
2,380
2,383
2,386
2,389
2,392
2,395
2,398
2,401
р. %
0
1
2
а
4
5
6
7
8
9
87
2 404
2,407
2,410
2,413
2,416
2,419
2,422
2,425
2,428
2,431
88
2'434
2 i 437
2,440
2,443
2,447
2,450
2,453
2,456
2,459
2,462
89
2 465
2’469
2,472
2,475
2,478
2,482
2,485
2,488
2,491
2,495
90
2/198
2/01
2,505
2,508
2,512
2/15
2/18
2,522
2 525
2/29
91
2/32
2/36
2,539
2,543
2,546
2/50
2,554
2,557
2.561
2/64
92
2/68
2,572
2,575
2,579
2,583
2,587
2,591
2,594
2,598
2,602
93
2/06
2,610
2,614
2,618
2,622
2,626
2,630
2,634
2,638
2,642
94
2'647
2,651
2,655
2,659
2,664
2,668
2,673
2,677
2,681
2,686
95
2,691
2,695
2,700
2,705
2,709
2,714
2,719
2,724
2,729
2,734
96
2 '739
2/44
2,749
2/54
2,760
2,765
2,771
2,776
2/82
2/88
97
2/93
2,799
2,805
2,811
2,818
2,824
2,830
2,837
2,844
2,851
98
2'858
2,865
2,872
2,880
2,888
2,896
2/04
2,913
2/22
2,931
99,0
2'941
2/42
2/43
2/44
2,945
2/46
2,948
2/49
2/50
2/51
99,1
2'952
2,953
2,954
2,955
2,956
2,957
2/58
2,959
2,960
2,961
99,2
2/63
2/64
2,965
2/66
2/67
2,968
2,969
2/71
2,972
2,973
99,3
2/74
2,975
2,976
2,978
2/79
2,980
2,981
2/83
2,984
2,985
99,4
2/87
2/88
2/89
2,990
2,992
2,993
2,995
2,996
2,997
2,999
99,5
3/00
3,002
3,003
3,004
3,006
3/07
3,009
3,010
3,012
3/13
99,6
3/15
3/17
3,018
3,020
3,022
3,023
3,025
3,027
3,028
3,030
99,7
3/32
3,034
3,036
3,038
3,040
3,041
3,044
3.046
3,048
3,050
99,8
3/52
3,054
3,057
3,059
3,062
3,064
3,067
3,069
3,072
3,075
99,9
3/78
3/82
3/85
3/89
3,093
3,097
3,101
3,107
3,113
3,122
100
3,142
—
Таблица 16П
Граничные значения критерия Вилкоксона § 4.09
.V и
4
5
G
7
8
9
10
4
10
11
12 10
13 10
14 11
15 И
15 12
5
17 15
18 16
20 17
21 17
22 18
23 19
6
—
——
26 23
27 24
29 25
31 26
32 27
7
—
——
36 32
38 34
40 35
42 37
8
—
——
—
49 43
51 45
53 47
9
—
——
——
——
63 56
65 58
10
——
-
——
——
——
78 71
Примечание. Нулевая гипотеза принимается при и больше левого числа (при w' — 0,05) и отвергается при п меньше правого числа в той же колонке (при W ,= 0,01).
Таблица 17Й
ЗначенияТ | ^^| — функции, обратной к интегралу вероятностей
\2V -Ь 1 /
§ 4.10
Хг
N+1
0
1
2
3
4
5
6
7
8
9
0,00
— ОО
-3,99
-2,88
-2,75
-2,65
-2,58
-2,51
-2,46
- 2,41
-2,37
0,01
—2,33
—2,29
-2,26
—2,23
-2,20
-2,17
—2,14
— 2,12
-2/0
- 2,07
0,02
—2,05
-2,03
-2,01
-2,00
-1,98
—1,96
—1,94
-1,93
—1,91
—1,90
о’оз
—1,88
-1,87
-1,85
-1,84
-1,83
-1,81
-1,80
—1,79
—1,77
-1,76
0,04
—1,75
— 1,74
-1,73
—1,72
—1,71
-1,70
-1,68
— 1,67
-1,66
-1,65
0,05
-1,64
-1,64
— 1,63
-1,62
— 1,61
-1,60
-1,59
-1,58
-1,57
-1,56
0,06
-1,55
-1,55
-1,54
-1,53
-1,52
-1,51
-1,51
- 1.50
— 1,49
-1,48
0,07
—1,48
-1,47
1,46
-1,45
-1,45
—1,44
-1,43
- 1,43
—1,42
-1,41
0,08
—1,41
— 1,40
-1,39
-1,39
-1,38
-1,37
-1,37
-1,36
-1,35
—1,35
0,09
—1,34
-1,33
-1,33
-1,32
-1,32
-1,31
-1,30
-1,30
-1,29
-1,29
0,10
-1,28
—1,28
-1,27
-1,26
-1,26
-1,25
—1,25
—1,24
-1,24
-1,23
0,11
-1,23
—1,22
-1,22
-1,21
-1,21
-1,20
-1,20
-1,19
-1/9
-1/8
0,12
—1,18
—1/7
—1,17
—1,16
-1/6
—1,15
-1,15
-1,14
-1,14
-1/3
0,13
-1,13
-1,12
-1,12
—1,11
-1,11
-1,10
-1,10
—1,09
— 1,09
—1,09
0,14
-1,08
-1,08
—1,07
-1,07
-1,06
-1,06
-1,05
-1,05
— 1,05
-1,04
0,15
—1,04
-1,03
-1,03
-1,02
-1,02
-1,02
-1,01
-1,01
-1,00
—1,00
0/6
- 0,99
-0,99
—0,99
-0,98
-0,98
-0,97
-0,97
-0,97
-0,96
-0,96
0'17
-0,95
—0,95
-0,95
-0,94
-0,94
-0,93
-0,93
-0,93
-0,92
-0,92
0,18
- 0,92
—0.91
-0,91
-0,90
-0,90
-0,90
-0,89
-0,89
-0,89
-0,88
0,19
-0,88
—0,87
-0,87
-0,87
-0,86
-0,86
-0,86
—0,85
-0,85
-0,85
0,20
-0,84
-0,84
-0,83
-0,83
-0,83
-0,82
-0,82
-0,82
-0,81
-0,81
0,21
—0,81
-0,80
-0,80
-0,80
-0,79
-0,79
-0,79
-0,78
-0,78
—0,78
0,22
—0,77
-0,77
-0,77
-0,76
-0,76
-0,76
-0,75
-0,75
-0,75
-0,74
О; 23
-0,74
-0,74
-0,73
-0,73
-0,73
-0,72
-0,72
—0,72
-0,71
-0,71
0/4
-0,71
-0,70
-0,70
-0,70
-0,69
-0,69
-0,69
-0,68
-0,68
-0,68
0,25
—0,67
—0,67
-0,67
-0,67
—0,66
-0,66
-0,66
-0,65
—0,65
—0,65
0,26
-0,64
-0,64
-0,64
-0,63
-0,63
-0,63
-0,63
-0,62
-0,62
-0,62
0/7
—0,61
-0,61
-0,61
-0,60
-0,60
-0,60
-0,59
-0,59
—0,59
—0,59
0/8
—0,58
-0,58
-0,58
—0,57
-0,57
-0,57
-0,57
-0,56
—0,56
—0,56
0/9
—0,55
—0/5
—0,55
-0,54
-0,54
—0,54
-0,54
-0,53
—0,53
-0,53
о’зо
—0,52
-0,52
-0,52
-0,52
-0,51
-0,51
-0,51
-0,50
—0,50
-0,50
0/1
—0/0
—0/9
-0,49
-0,49
-0,48
-0,48
-0,48
-0,48
—0,47
—0,47
0,32
-0,47
-0,46
—0,46
- 0,46
-0,46
-0,45
-0,45
-0,45
-0,45
—0,44
0,33
-0,44
—0,44
-0,43
-0,43
-0,43
—0,43
-0,42
-0,42
-0,42
-0,42
0/4
-0,41
-0,41
-0,41
-0,40
-0,40
-0,40
-0,40
-0,39
-0,39
—0,39
0,35
-0,39
-0,38
-0,38
-0,38
—0,37
—0,37
-0,37
-0,37
—0,36
-0,36
0,36
-0,36
-0,36
-0,35
-0,35
-0,35
-0,35
-0,34
-0,34
-0,34
—0,33
0,37
-0,33
-0,33
-0,33
—0,32
-0,32
-0,32
-0,32
—0,31
-0,31
—0,31
0/8
-0,31
-0,30
-0/0
-0,30
-0,30
-0,29
-0,29
-0,29
-0,28
—0,28
0,39
-0/8
-0,28
-0,27
—0,27
-0,27
-0,27
—0,26
-0,26
—0,26
-0,26
0,40
-0,25
-0,25
-0,25
-0,25
—0,24
-0,24
-0,24
-0,24
-0,23
—0,23
0,41
-0,23
-0,23
-0,22
-0,22
—0,22
-0,21
-0,21
-0,21
-0,21
—0,20
0,42
—0,20
-0,20
-0,20
-0,19
-0,19
-0,19
-0,19
-0,18
-0,18
—0,18
0,43
—0,18
-0,17
-0,17
-0,17
—0,17
-0,16
-0,16
-0,16
-0,16
—0,15
0,44
—0,15
-0/5
-0,15
-0,14
-0,14
-0,14
-0,14
-0,13
-0,13
—0,13
0/5
-0,13
—0,12
-0,12
-0,12
—0,12
-0,11
-0,11
-0,11
-0,11
—0/0
0/6
—0,10
—0,10
-0/0
-0,09
-0,09
-0,09
-0,09
-0,08
-0,08
—0,08
0,47
-0,08
-0,07
—0,07
—0,07
-0,07
-0,06
-0,06
-0,06
-0,06
—0,05
Л -Н 1
0
1
2
3
1
5
G
7
8
9
0,48
-0,05
-0,05
-0,05
-0,04
—0,04
-0,04
-0,04
-0,03
-0,03
-0,03
0,49
-0,03
-0,02
—0,02
0,02
-0,02
-0,01
—0,01
-0,01
-0,01
-0,00
0,50
0,00
0,00
0,01
0,01
0,01
0,01
0,02
0,02
0,02
0,02
0,51
0,03
0,03
0,03
0,03
0,04
0,04
0,04
0,04
0,05
0,05
0,52
0,05
0,05
0,06
0,06
0,06
0,06
0,07
0,07
0,07
0,07
0,53
0,08
0,08
0,08
0,08
0,09
0,09
0,09
0,09
0.10
0,10
0,54
0,10
0,10
0,11
0,11
0,11
0,11
0,12
0,12
0,12
0,12
0,55
0,13
0,13
0,13
0,13
0,14
0,14
0,14
0,14
0,15
0,15
0,56
0,15
0,15
0,16
0,16
0,16
0,16
0,17
0,17
0,17
0,17
0,57
0,18
0,18
0,18
0,18
0,19
0,19
0,19
0,19
0,20
0,20
0,58
0,20
0,20
0,21
0,21
0,21
0,21
0,22
0,22
0,22
0,23
0,59
0,23
0,23
0,23
0,24
0,24
0,24
0,24
0,25
0,25
0,25
0,60
0,25
0,26
0,26
0,26
0,26
0,27
0,27
0,27
0,27
0,28
0,61
0,28
0,28
0,28
0,29
0,29
0,29
0,30
0,30
0,30
0,30
0,62
0,31
0,31
0,31
0,31
0,32
0,32
0,32
0,32
0,33
0,33
0,63
0,33
0,33
0,34
0,34
0,34
0,35
0,35
0,35
0,35
0,36
0,64
0,36
0,36
0,36
0,37
0,37
0,37
0,37
0,38
0,38
0,38
0,65
0,39
0,39
0,39
0,39
0,40
0,40
0,40
0,40
0,41
0,41
0,66
0,41
0,42
0,42
0,42
0,42
0,43
0,43
0,43
0,43
0,44
0,67
0,44
0,44
0,45
0,45
0,45
0,45
0,46
0,46
0,46
0,46
0,68
0,47
0,47
0,47
0,48
0,48
0,48
0,48
0,49
0,49
0,49
0,69
0,50
0,50
0,50
0,50
0,51
0,51
0,51
0,52
0,52
0,52
0,70
0,52
0,53
0,53
0,53
0,54
0,54
0,54
0,54
0,55
0,55
0,71
0,55
0,56
0,56
0,56
0,57
0,57
0,57
0,57
0,58
0,58
0,72
0,58
0,59
0,59
0,59
0,59
0,60
0,60
0,60
0,61
0,61
0,73
0,61
0,62
0,62
0,62
0,63
0,63
0,63
0,63
0,64
0,64
0,74
0,64
0,65
0,65
0,65
0,66
0,66
0,66
0,67
0,67
0,67
0,75
0,67
0,68
0,68
0,68
0,69
0,69
0,69
0,70
0,70
0,70
0,76
0,71
■ 0,71
0,71
0,72
0,72
0,72
0,73
0,73
0,73
0,74
0,77
0,74
0,74
0,75
0,75
0,75
0,76
0,76
0,76
0,77
0,77
0,78
0,77
0,78
0,78
0,78
0,79
0,79
0,79
0,80
0’80
0,80
0,79
0,81
0,81
0,81
0,82
0,82
0,82
0,83
0,83
0,83
0,84
0,80
0,84
0,85
0,85
0,85
0,86
0,86
0,86
0,87
0,87
0,87
0,81
0,88
0,88
0,89
0,89
0,89
0,90
0,90
0,90
0,91
0,91
0,82
0,92
0,92
0,92
0,93
0,93
0,93
0,94
0,94
0,95
0,95
0,83
0,95
0,96
0,96
0,97
0,97
0,97
0,98
0,98
0’99
0,99
0,84
0,99
1,00
1,00
1,01
1,01
1,02
1,02
1,02
1,03
1,03
0,85
1,04
1,04
1,05
1,05
1,05
1,06
1,06
1,07
1,07
1,08
0,86
1,08
1,09
1,09
1,09
1,10
1,10
1,11
1,11
1,12
1,12
0,87
1,13
1,13
1,14
1,14
1,15
1,15
1,16
1,16
1,17
1,17
0,88
1,18
1,18
1,19
1,19
1,20
1,20
1,21
1,21
1,22
1,22
0,89
1,23
1,23
1,24
1,24
1,25
1,25
1,26
1,26
1,27
1,27
0,90
1,28
1,29
1,29
1,30
1,30
1,31
1,32
1,32
1,33
1,33
0,91
1,34
1,35
1,35
1,36
1,37
1,37
1,38
L39
1,39
1,40
0,92
1,41
1,41
1,42
1,43
1,43
1,44
1,45
1,45
1,46
1,47
0,93
1,48
1,48
1,49
1,50
1,51
1,51
1,52
1,53
1,54
1,55
0,94
1,55
1,56
1,57
1,58
1,59
1,60
1,61
1,62
1,63
1,64
0,95
1,64
1,65
1,66
1,67
1,68
1,70
1,71
1,72
1,73
1,74
0,96
1,75
1,76
1,77
1,79
1,80
1,81
1,83
1,84
1,85
1,87
0,97
1,88
1,90
1,91
1,93
1,94
1,96
1,98
2,00
2,01
2,03
0,98
2,05
2,07
2,10
2,12
2,14
2,17
2,20
2,23
2,26
2,29
0,99
2,33
2,37
2,41
2,46
2,51
2,58
2,65
2,75
2,88
3,09
S' 5 ^ XD
ГО Ь
критерия ван-дер-Вардена
Е—I «7г
и
1 “ и = й
%1 = гЛ1
го^^ООООГ-Г-Г-Г-Г-Г'Г'Г-Г-Г-ССОСООСССС
%5 - ’.и
SS58SMSS^S^?^gSSS^SSS?
ЮLT LT L-D Ф Ф Ф СО Ф Ф
а
% =
1 3
%) ■ - гА1
ст:о о
T-<C0'<rLCCO00CDO^C\JC0’<r^t^0CCX'O’^CNC0Nji10
CD СО CDCDCOCOCOt'-t'-t'-t'-r-b’b’b’t'-OOOOOOOCOCOC
%5 =- ‘Л1
24 О Ю
•M-ID LO LO LO lO LQLT LT 1ОФ Ф Ф ФФ ФФ
ч а-.
%Т ^-СИ
^S5SD5S§^SSSSSSSgq^S5K
СФСО:ОСФ>СОСОСФЬ-‘Г-.Г-Г''-Г'-Ь-‘Г-Г--Ь-‘00 00 00 00 00 00
%<; =- 1л\
г^осого^смсо^иойог^осоо^о^оз^с^^й
O ЮЮ ЮЮ Ф Ф to to Ф Ф Ф
-<
u к
%, - ' гЛ1
^SSSTiPiSSSS^K^SSSS
888888ОС CC co CO XT *<r ^ xr XT xf 1D I-T 1D LO LO id CD
%Q = ‘/И
^^^C^OOC^COiOCCr^COOOCM^-^iDCD
8 8 8 8CMiMCM-MODCCCOCOCOCOCOCOx^x^xrx^x^xr*^
56
%( =гм
2 5 Ю to OO C c‘] to to r^ О to 21 CT to to ® Ф C 8 8 8 8 CO CO co CO CO XT X^ xr X^ x? -e ID ID LT 1D 1D ID ID Ф
%5 = = 'Л1
889$so;§s^53®5ssqss2gs$
8 ScMCMCMCMCMCMCOCOCOCOCOCOCOCOxj'xrxrxrxfis^vji
й =
1 = н
%1 = гЛ1
3§g^SSS^3ECSSS513$SS3
8 8 8 8COcOCOCOCO,xrx?,*<,x7XTxr,iDD>LOiDUODkO^
%5 = '/И
3SS^SgD^3S2f23'3§SSRS3g
8 ЗсМСМСМСМСМСМСОСОСОСОСОСОСОСОхГ^^^хухух!*
а:
Т а б л и ц а 2011
Граничные значения числа знаков (менее часто встречающихся) при дв\, уровнях значимости
§ 4.12
N
5%
1%
N
5%
1%
N
5%
1%
N
0%
111.
8
1
0
31
10
7
54
20
17
77
30
26
9
2
0
32
10
8
55
20
17
78
30
27
10
2
0
33
и
8
56
21
17
79
31
27
11
2
0
34
11
9
57
21
18
80
31
28
12
3
1
35
12
9
58
22
18
81
32
28
13
3
1
36
12
9
59
22
19
82
32
28
14
3
1
37
13
10
60
22
19
83
33
29
15
4
2
38
13
10
61
23
20
84
33
29
16
4
2
39
13
И
62
23
20
85
33
30
17
5
2
40
14
11
63
24
20
86
34
30
18
5
3
41
14
11
64
24
21
87
34
31
19
5
3
42
15
12
65
25
21
88
35
31
20
6
3
43
15
12
66
25
22
89
35
31
21
6
4
44
16
13
67
26
22
90
36
32
22
6
45
16
13
68
26
22
91
36
32
23
7
4
46
16
13
69
26
23
92
37
33
24
7
5
47
17
14
70
27
23
93
37
33
25
8
5
48
17
14
71
27
24
94
38
34
26
8
6
49
18
15
72
28
24
95
38
34
27
8
6
50
18
15
73
28
25
96
38
34
28
9
6
51
19
15
74
29
25
97
39
35
29
9
7
52
19
16
75
29
25
98
39
35
30
10
7
53
19
16
76
29
26
99
40
36
—
—
—
-—
—
—
—
100
40
36
Таблица 21П
Граничные значения критерия Вилкоксона для рядов с попарно связанным; вариантами
§ 4.13
.V
W, = 5%
w2 = 1%
/V
Wi = 5%
Wi= 1%
Wt 5%
w. = i%
6
0
13
17
10
20
52
38
7
2
14
21
13
21
59
43
8
4
0
15
25
16
22
66
49
9
6
2
16
30
20
23
73
55
10
8
3
17
35
23
24
81
61
11
И
5
18
40
28
25
89
68
12
14
7
19
46
32
Примечая и е. Нулевая гипотеза принимается, если вычисленная сумма рангов (пр) будет больше табличной при Wt = 5%, и отвергается, если сумма рангов будет меньше табличной при W$—i%.
Таблица 22Г1
Показательная функция е"х (нуль целых опущен)
§ 1.29
X
0
1
2
3
45
б
73
9
0,00
1,
9990
9980
9970
9960
9950
9940
9930
9920
9910
0,0
1,
9900
9802
9704
9608
9512
9418
9324
9231
9139
1
9048
8958
8869
8781
8694
8607
8521
8437
8353
8270
2
8187
8106
8025
7945
7866
7788
7711
7634
7558
7483
3
7408
7334
7261
7189
7118
7047
6977
6907
6839
6771
4
6703
6637
6570
6505
6440
6376
6313
6250
6188
6126
0,5
6065
6005
5945
5886
5827
5769
5712
5655
5599
5543
6
5488
5434
5379
5326
5273
5220
5169
5117
5066
5016
7
4966
4916
4868
4819
4771
4724
4677
4630
4584
4538
8
4493
4449
4404
4360
4317
4274
4232
4190
4148
4107
9
4066
4025
3985
3946
3906
3867
3829
3791
3753
3716
1,
3679
3329
3012
2725
2466
2231
2019
1827
1653
1496
2,
1353
1225
1108
1003
0907
0821
0743
0672
0608
0550
3,
0498
0450
0408
0369
0334
0302
0273
0247
0224
0202
4,
0183
0166
0150
0136
0123
0111
0100
0091
0082
0074
5,
0067
0061
0055
0050
0045
0041
0037
0034
0030
0027
6,
0025
0022
0020
0018
0017
0015
0014
0012
ООП
0010
7,
0009
0008
0007
0007
0006
0006
0005
0005
0004
0004
8,
0003
0003
0003
0002
0002
0002
0002
0002
0002
0001
9,
0001
0001
0001
0001
0001
0001
0001
0001
0001
0000
Таблица 23П
Минимальное число наблюдений в зависимости от варьирования данных при доверительном уровне Pi = 95% и показателе точности 5%
§ 1.37
Коэффициент вариации (V), %
0
1
2
3
4
5
6
7
8
9
0
5
5
5
5
5
5
6
8
10
12
10
15
19
22
26
30
35
39
44
50
55
20
61
68
74
81
89
96
104
112
121
129
30
138
148
157
167
178
188
199
210
222
234
40
246
258
271
284
298
311
325
340
354
369
50
384
400
416
432
448
465
482
499
517
535
60
553
572
591
610
630
649
670
690
711
732
Табл и ц а 2411
Перевод календарных дат в непрерывный ряд § 1.05
Месяц
III
IV
V
VI
VII
VIII
IX
X
XI
XII
I
II
1
32
62
93
123
154
185
215
246
276
307
338
2
33
63
94
124
155
186
216
247
277
308
339
3
34
64
95
125
156
187
217
248
278
309
340
4
35
65
96
126
157
188
218
249
279
310
341
5
36
66
97
127
158
189
219
250
280
311
342
6
37
67
98
128
159
190
220
251
281
312
343
7
38
68
99
129
160
191
221
252
282
313
344
8
39
69
100
130
161
192
222
253
283
■ 314
345
9
40
70
101
131
162
193
223
254
284
315
346
10
41
71
102
132
163
194
224
255
285
316
347
И
42
72
103
133
164
195
225
256
286
317
348
12
43
73
104
134
165
196
226
257
287
318
349
13
44
74
105
135
166
197
227
258
288
319
350
14
45
75
106
136
167
198
228
259
289
320
351
15
46
76
107
137
168
199
229
260
290
321
352
16
47
77
108
138
169
200
230
261
291
322
353
17
48
78
109
139
170
201
231
262
292
323
354
18
49
79
НО
140
171
202
232
263
293
324
355
19
50
80
111 '
141
172
203
233
264
294
325
356
20
51
81
112
142
173
204
234
265
295
326
357.
21
52
82
113
143
174
205
235
266
296
327
358
22
53
83
114
144
175
206
236
267
297
328
359
23
54
84
115
145
176
207
237
268
298
329
360
24
55
85
116
146
177
208
238
269
299
330
361
25
56
86
117
147
178
209
239
270
300
331
362
26
57
87
118
148
179
210
240
271
301
332
363.
27
58
88
119
149
180
211
241
272
302
333
364
28
59
89
120
150
181
212
242
273
303
334
365
29
60
90
121
151
182
213
243
274
304
335
(366)
30
61
91
122
152
183
214
244
275
305
336
—
31
—
92
—
153
184
—
245
—
306
■ 337
—
Таблица 25П
Значения критерия Стьюдента для односторонней оценки гипотез
§ 1.42
Число степеней свободы, V
Доверительные уровни
Число степеней свободы, V
Доверительные уровни
95%
99%
99,9%
95%
99%
99,9%
1
6,31
31,82
318,31
18
1,73
2,55
3,61
2
2,92
6,97
22,33
19
1,73
2,54
3,58
3
2,35
4,54
10,21
20
1,73
2,53
3,55
4
2,13
3,75
7,17
21
1,72
2,52
3,53
5
2,01
3,37
5,89
22
1,72
2,51
3,51
6
1,94
3,14
5,21
23
1,71
2,50
3,49
7
1,89
3,00
4,79
24
1,71
2,49
3,47
8
1,86
2,90
4,50
25
1,71
2,49
3,45
9
1,83
2,82
4,30
26
1,71
2,48
3,44
10
1,81
2,76
4,14
27
1,70
2,47
3,42
11
1,80
2 72
4,03
28
1,70
2,47
3,41
12
1,78
2,68
3,93
29
1,70
2,46
3,40
13
1,77
2,65
3,85
30
1,70
2,46
3,39
14
1,76
2,62
3,79
40
1,68
2,42
3,31
15
1,75
2,60
3,7,3
60
1,67
2,39
3.;23
16
1,75
2,58
3,69
120
1,66
2,36
3,17
17
1,74
2,57
3,65
ОО
1,64 ,
2,33
3,09
Таблица 2611
1 +г
Функция % = 0,5 in ।v
Г
0
1
2
3
4
5
с
7
8
9
0 0
0 0000
0,0100
0,0200
0,0300
0,0400
0,0501
0,0601
0,0701
0,0802
0,0902
1
0 1003
0’1105
0,1206
0,1308
0,1409
0,1511
0,1614
0,1717
0,1820
0,1923
2
0 2027
0,2132
0,2237
0,2342
0,2448
0,2554
0,2661
0,2769
0,2877
0,2986
з
0 3095
0,3206
0,3317
0,3428
0,3541
0,3654
0,3769
0,3884
0,4001
0,4118
4
0 4236
0 4356
0,4477
0,4399
0,4722
0,4847
0,4973
0,5101
0,5230
0,5361
5
0 5493
0 5627
0,5763
0,5901
0,6042
0,6184
0,6328
0,6475
0,6625
0,6777
0
0 6931
0^7089
0,7250
0,7414
0,7582
0,7753
0,7928
0,8107
0,8291
0,8480
7
0 8673
0,8872
0’9076
0,9287
0,9505
0,9730
0,9962
1,0203
1,0454
1,0714
1 0986
1'1270
1^1568
1,1881
1,2212
1,2562
1,2933
1,3331
1,3758
1,4219
9
1 '4722
1,5275
1,5890
1,6584
1,7380
1,8318
1,9459
2,0923
2,2976
2,6467
Примечание. Обратное преобразование делается с помощью таблиц гипсрПо.иг e2z -1
ческого тангенса (г — (/iz) или по формуле т — ^ ^ .
ФОРМУЛЫ
ГЛАВА 1. ПАРАМЕТРЫ ВЫБОРКИ
1.01. Величина классового интервала
1.08. Критерий Стьюдента
с _ Sjy-
к — 1
биометрический показатель ошибка данного показателя
1.02. Величина классового интервала
(zN— Xi)lg2(я — Zi) In 2
IgA 'In A
1.03. Величина классового интервала
.09. Сумма отклонений от средней арифметической
S (ж — Л/) = 0
Ошибка средней арифметической при известном объеме генеральной совокупности
xN — «1
Ka-i
1.04. Критерий принадлежности максимальной варианты к совокупности
mM = = V N0-N
мV А (Ao - 1
1.11. Ошибка средней арифметической
А _ XN~ Z,V-1
м ■ ' И А(А-1)
1.05. Критерий принадлежности минимальной варианты к совокупности
1.12. Средняя арифметическая взвешенного ряда
91 = —-2 ~
ZN1 — $!
м - N
1.13. Средняя арифметическая спо-
1.06. Средняя арифметическая не- взвешепного ряда
М = —
собом сумм
1.07. Ошибка средней арифметической
1.14. Общая средняя арифметическая по частным средним
М- 2N
1.15.
Средняя гармоническая невзве- шеппого ряда
/V
Н = ^Г
X
1.25.
Средняя арифметическая не взвешенного ряда
Л/ - -
N
1.26.
1.16.
Средняя квадратическая не- взвешеиного ряда
1.17.
Средняя квадратическая взвешенного ряда
s
1.27.
1.18.
Средняя кубическая невзвешен- цого ряда
3 / 2х3
Q=]/—
1.28.
1.19.
Средняя кубическая взвешенного ряда
Q
1.29.
1.20.
Средняя геометрическая невзвешенного ряда
G у/ 11х
1.30.
1.21. Проверка вычисления G
1.22.
xn=xxGn 1
Средняя геометрическая взвешенного ряда
G =
xt„1-xt”...xt’k23/;
1.31.
1.32.
1.23.
Среднее квадратическое отклонение невзвешенного ряда
1 / ^х_му_
V N—i
1.24.
Среднее квадратическое отклонение невзвешеппого ряда от условной средней
2 (x — Ay —
[2 Vc- .4)p
N
.V —1
Среднее квадратическое отклонение невзвешеппого ряда
s = +
N
N — 1
Среднее квадратическое отклонение невзвешеппого ряда
5 = -
2х-, \ N
NЛГ— 1
Среднее квадратическое отклонение взвешенного ряда способом сумм
<Н г <7з I 2 (</2 + чУ —
(7i — 7з)2N
TV—1
Средняя шейного
л/ = /1 4
арифметическая взве- ряда способом сумм
с Ун — ?з)
N
Ошибка среднего квадратического отклонения
т„ = —г —
° р 2N з
т„ = —т== °/2(ДГ— 1)
m
Р4-Н|
4p.3,V
1.33. Проверка вычисления среднего квадратического отклонения
xN ж Л1 -|- Зз
хх «М — Зз
Проверка вычисления ошибки средней арифметической
т=
-— = 0,70711
"гл1
Среднее квадратическое отклонение взвешенного ряда
/ ~ 7577
I / -/«- ■ ,v
з — ■ • су
' Л — 1
Средняя арифметическая взвешенного ряда
c£fa
М = АА
Среднее квадратическое откло-нение взвешенного ряда
Приближенное среднее квадратическое отклонение по способу серий
2 (xN - хО
Приближенное среднее квадратическое отклонение по размаху варьирования
Zy — Х\
Объединение дисперсий о2_ 2(7- 1)з?
2N. — к
1.43.
Коэффициент вариации
(5
V = -\T '10°
1.44.
100/нЛ/ у Лг
1 - м
Ошибка коэффициента вариации
„... 1 / 0,50,0001V3
L',G- "lv- V^N
Показатель точности опыта
Р =У- ■ 100 м
г
Р .= —г^ у.\'
Ошибка показателя точности опыта
Wp = + P
Р - у 2N 4 \ 100 /
Мода
„. / Ь-h \
-Vo • Х„ С/з )
Медиана
Ошибка медианы б in — 1,25331 —т= » Vn
Центральные моменты
[I, = та — «j
Цз я ms • { таi (2/п“ — Зт2)
Pj — тх + nix |3т[ (2m, — та^) - - 4тз] 1.56. рз — Н1з — mi (Зц> + т^)
1.57.
Ин = та4 - тх [4р3 I- тх (6р2 -}- т^)]
Поправки Шеппарда ~с3
4 ЬО Т. -к.
Ью3
1 .ОУ. О,з —- с?з
4
с' к 1с'\
1.60. bv--b\ —
2 7 “ 120 /
с-
1.61. р-2 — Рз
12
ci /7с3 '
1.62. ffj = pi-
120
Коэффициент асимметрии
„ М — Мо
КА8 =5
KAS=^-=^-
Показатель асимметрии
Л8 = гз
Ошибка показателя асимметрии
^ = ]ЛуТз
Эксцесс
Е =- 3, Е — г, - 3
Ошибка показателя эксцесса
24 тЕ у N 5
Частоты нормального распределения
н з "|^2л 1.72.
Nc 0,39894
Ai = g ^о.Ы2 1.73.
/и = N exp {In с -|- In 0,39894 —
— In з--0,5^}
Доли при альтернативном разделении выборки
9- уу
1.76.
Р 4-9 = 1
1.77.
Р=~^" -100% 1.78.
Q = уу ЮО % 1.79.
Р4"9100%
Ошибка доли
Среднее квадратическое отклонение альтернативной выборки
3 = Vpq
Коэффициент вариации альтернативной выборки
Б = 2з%
Бином Ньютона
Среднее квадратическое отклонение биномиального распределения
з = V пРЧ
Средняя арифметическая биномиального распределения
М = пр
Частоты распределения Пуассона
Достаточный объем выборки при известной Wo
,1
N = ! А V 1
\ «з у + Nn
Критерий Стьюдента
-. Л /V — 1
f - 2z |/ NLri _ ^^ > 3
Достаточный объем выборки при неизвестной АпДостаточный объем выборки при неизвестной Апвенству П. JI. Чебышевавенству П. JI. ЧебышеваМ -М -’пм|^1 — Р'’пм|^1 — Р'С истинное значениеС истинное значение/ IV VN-Vf) : Nnxm-°A'o31V4^max = 10,891'2/ IV VN-Vf) : Nnxm-°A'o31V4^max = 10,891'2Достаточная выборка для достоверности доли при Р/ = = 0,95 из — 0,5Достаточная выборка для достоверности доли при Р/ = = 0,95 из — 0,51N--1,042ДЧ-^1N--1,042ДЧ-^Выборка с присутствием минимум одной варианты, обладающей изучаемым признаком1g (1 - Р',-з)Л= lg"d-p)Выборка с присутствием минимум одной варианты, обладающей изучаемым признаком1g (1 - Р',-з)Л= lg"d-p)Доверительный интервал средней арифметической М —■— hnM <_ истинное значение < “С М -}- lm-мДоверительный интервал средней арифметической М —■— hnM <_ истинное значение < “С М -}- lm-мДоверительный интервал средней арифметической по нераДоверительный интервал средней арифметической по нераГЛАВА 2. КОРРЕЛЯЦИЯ. Показатель корреляции рангов по Спирмзпу6 (262 4- В$ В,)ГЛАВА 2. КОРРЕЛЯЦИЯ. Показатель корреляции рангов по Спирмзпу6 (262 4- В$ В,); м д; м дтмУГ^Р'тмУГ^Р'Доверительные односторонние интервалыистинное значение ^М 4' tm^ 1.96. Л7 — tmM < истинное значение 1.97. Классовый интервал взвешенного рядаДоверительные односторонние интервалыистинное значение ^М 4' tm^ 1.96. Л7 — tmM < истинное значение 1.97. Классовый интервал взвешенного рядас — 0,6зс — 0,6зЗнаменатель геометрической прогрессииЗнаменатель геометрической прогрессииlg <Z =lg <Z =1g и — 1g aк-I1g и — 1g aк-IПроцентильПроцентильНомер процентильной варианты. NP°i = 100Номер процентильной варианты. NP°i = 100. Критерий достоверности р. Критерий достоверности рt = оt = ор ^ЛЦА—1)
Достаточный объем выборки при неизвестной Ап
Достаточный объем выборки при неизвестной Ап
венству П. JI. Чебышева
венству П. JI. Чебышева
М -
М -
’пм
|^1 — Р'
’пм
|^1 — Р'
С истинное значение
С истинное значение
/ IV V
N-Vf) : Nnxm-°A'o31V4
^max = 10,891'2
/ IV V
N-Vf) : Nnxm-°A'o31V4
^max = 10,891'2
Достаточная выборка для достоверности доли при Р/ = = 0,95 из — 0,5
Достаточная выборка для достоверности доли при Р/ = = 0,95 из — 0,5
1
N--
1,042ДЧ-^
1
N--
1,042ДЧ-^
Выборка с присутствием минимум одной варианты, обладающей изучаемым признаком
1g (1 - Р',-з)
Л= lg"d-p)
Выборка с присутствием минимум одной варианты, обладающей изучаемым признаком
1g (1 - Р',-з)
Л= lg"d-p)
Доверительный интервал средней арифметической М —
■— hnM <_ истинное значение < “С М -}- lm-м
Доверительный интервал средней арифметической М —
■— hnM <_ истинное значение < “С М -}- lm-м
Доверительный интервал средней арифметической по нера
Доверительный интервал средней арифметической по нера
ГЛАВА 2. КОРРЕЛЯЦИЯ
. Показатель корреляции рангов по Спирмзпу
6 (262 4- В$ В,)
ГЛАВА 2. КОРРЕЛЯЦИЯ
. Показатель корреляции рангов по Спирмзпу
6 (262 4- В$ В,)
; м д
; м д
тмУГ^Р'
тмУГ^Р'
Доверительные односторонние интервалы
истинное значение ^М 4' tm^ 1.96. Л7 — tmM < истинное значение 1.97. Классовый интервал взвешенного ряда
Доверительные односторонние интервалы
истинное значение ^М 4' tm^ 1.96. Л7 — tmM < истинное значение 1.97. Классовый интервал взвешенного ряда
с — 0,6з
с — 0,6з
Знаменатель геометрической прогрессии
Знаменатель геометрической прогрессии
lg <Z =
lg <Z =
1g и — 1g aк-I
1g и — 1g aк-I
Процентиль
Процентиль
Номер процентильной варианты
. NP°
i = 100
Номер процентильной варианты
. NP°
i = 100
. Критерий достоверности р
. Критерий достоверности р
t = о
t = о
Я (Я„) = 2X* у'Я (Я„) = 2X* у'п3 — ип3 — и2.03. Поправки па объединение рангов
Я (Я„) = 2
X* у'
Я (Я„) = 2
X* у'
п3 — и
п3 — и
2.05. Критерий достоверности р па0,05 уровне значимости
1,96/0,16 \
" /^Т V ~ N - 1 )
2.06. Критерий достоверности р на0,01 уровне значимости
2,58/0,69 \
2.07. Коэффициент корреляции рангов по Кепдэлу2.07. Коэффициент корреляции рангов по КепдэлуОшибка коэффициента корреляции
2.07. Коэффициент корреляции рангов по Кепдэлу
2.07. Коэффициент корреляции рангов по Кепдэлу
1 — г2
№r VN
^(^—1)2^(^—1)2г и i| по совмещенному алгоритму
^(^—1)
2
^(^—1)
2
2.08. Поправки па объединение рангов
W =
Sn (л. + 1)
2
2.09. Критерий достоверности т
т
2 ^ZN ~р 5) V 9N (IV —1)
^xyVv^xyVv2aVx2a/2aVx2a/NN
^xyVv
^xyVv
2aVx2a/
2aVx2a/
N
N
Коэффициент корреляции рангов по Кепдэлу
2Б
" ^(^--l)
Коэффициент корреляции для певзвешенных рядов
Ошибка преобразования z
1
т — —7 — - г
1 у к —г
Коэффициент корреляции для взвешенных рядов
Оценка достоверности г по критерию Фишера
„r4N-2)
F "1 — r2
Оценка достоверности р по критерию Фишера
г_ ^^-кх)
Критерии криволинейности
П^-г2>0,1
2,21,
Л' (^ х-Н >11,37
^U-rW-^(1-тйдЖ-2)
N5xQyN5xQy
N5xQy
N5xQy
1=0,5 X
2,14.
s.
Sa^j
N
N
sysy2.^‘’Уу^N2.^‘’Уу^N
sy
sy
2.^‘’Уу^
N
2.^‘’Уу^
N
Корреляционное отношение пе- взвешенных рядов
ХкУ-МуУ
Ошибка корреляционного отношения
V1
= (1 — ц2) ^
Оценка достоверности ц по критерию Фишера
2.35. Бисериальпый коэффициент корреляции тъ =
v -2/^^/®!/
L)axay
ЛГ /у/ 2Vf 2 (^/ау)2\
Критерий Романовского для оценки достоверности ц
(Уг — 2) Ц8
R (1 ~ П2) " V1 > 3
' -2(У1 + у2 — 2)
г vi (v-j — 4)
Обратное корреляционное отношение для певзвешенных рядов
га2(х/у —Л/ж)2 V Т.ух-М^
Корреляционное отношение для взвешенных рядов
= 1/ хущ — МуЧМх
ч,х И ъум-м^у
Бисериальпый коэффициент корреляции по таблице Келли-Вуда
|-V_-A/JPV
Гъ з23
Поправка к бисериальному коэффициенту корреляции
гГ;с = гьр+ р) Р'25^^-
“к ЗА 1 ЗА °’ MJ
Ошибка бисериальпого коэффициента корреляции
Vn
Ошибка гу по таблице Сопера
2.31.2.31.
2.31.
2.31.
2.30. Обратное корреляционное отношение для взвешенных рядов
^х/у^х/у1 /2 ухУу — MaYfy К ^yx-MxYU
^х/у
^х/у
Полихорический коэффициент сопряженности Чупрова
/(** —1) Уку — ^
Оценка Т по хи-квадрат
X2 = N У^ - 1)
Тетрахорический коэффициент сопряженности
\ ad — 6с 1 — 0,57V
Ti -^ ,— ■■1—■
V (« + Ь) (с + d) (а 4- с) (6 + d)
Оценка Г» по хи-квадрат
X2 = NT»
Множественный коэффициент корреляции
Ry xz ■Ry xz ■*» 4- г» —12г г г yx'’yz ух yz XZ1 — г2 ' XZ*» 4- г» —12г г г yx'’yz ух yz XZ1 — г2 ' XZ
Ry xz ■
Ry xz ■
*» 4- г» —12г г г yx'’yz ух yz XZ
1 — г2 ' XZ
*» 4- г» —12г г г yx'’yz ух yz XZ
1 — г2 ' XZ
2.42.
Ry-xz "
= V^^(1 ryx) U Xryz)
2.43.
2.46.
2.44.
2.45.
**У «
гхг ' r ху rzy
= V 1 — (1 — г^ (1 - ф
Частные коэффициенты корреляции
yrx^V4 -^)(1-г2у)
г ух
хТШ
ИХ ' гуг
И (1 - О (1 - г2„)
— г.
2.47. Оценка значимости множест - венного коэффициента корреляции по критерию Романовского:
kN ~ ">) № ,2 (1 — №} 1
ГЛАВА 3. РЕГРЕССИЯ
3.01. Уравнение прямой линии
?/ -- "о - «i1
3.02. Нормальные уравнения для нахождения коэффициентов к(3.01)
anN 4- a\Sx -- Sy
fl0Sz 1 - aiSz2 - - Szy
3.03. Ошибка уравнения регрессии
3.04. Ошибка уравнения регрессии
У-х У N — n
3.05. Точки пересечения прямой с осями координат
«э
У = «о; z ^= — —
3.06. Уравнение множественной регрессии
V = а0 + «IV н а22
3.07. Нормальные уравнения для нахождения коэффициентов к (3.06)
Sy = a0N -[- «iSz -|- o^St
Syz -- «о -J- «iSz2 aaSzz
Syz — <ioSz4- aiSzz 4- a2Sz2
3.08. Ошибка уравнения (3.06)
S«2 — |aiS (ayaa) 4- a2S (a^H N — n
. Суммы отклонений к (3.08) Se2 = Sy2 - NM2
S«yax -= Syz — NMyMx ^-<1уаг — Syz — NMyMz
Парабола второго порядка у’ = a0 4- ахх — агт-
Нормальные уравнения к (3.10) aoN 4- ajSz 4~ «aSz2 — Sy а Дх 4" a>Sz2 -]- «zSz3 — Syz aoSz2 4- aiSz3 -}- a2Sz* = Syz2
Точки пересечения параболы второго порядка с осями координат'
— а + ^— 4ао«2
Абсцисса точки максимума параболы второго порядка
Парабола третьего порядка у' = яо -L а,х -'- a>r- ■; flsz3
ЗЛ5. Точка пересечения параболы третьего порядка с осью ординат: ?/ = я0
Абсцисса точки максимума параболы третьего порядка:
— а> — V" а2 — 3«з«| X —"о' —'
ОПз
Точка перегиба параболЕл третьего порядка:
«2
X — — й баз
Кривая оптимума X
V =:;г
Яо — alZ Т а2К"
ЗЛ8. Уравнения для вычисления коэффициентов в (3.17)
„ Уд-..,
.1 = HiO 4- Я221Г
Хд1
£-2—■ «га. + azStx
aY — я, -|- г^яз
ЗЛ9.
X
-^- — Na^ -\- ai^x -j- aiSz2
3.20. Абсцисса точки максимума кривой оптимума:
Степенная функция V = ЯоЗ^
Нормальные уравнения к (3.21) Ar 1g яо -г ,ЗХ 1g z = 2 1g у 1g я»2 1g z ;-^2(lgz)2 = ■ - 2(]gz-lgy)
Логистическая кривая
31
Верхняя асимптота к (3.23) 2у1У’УЗ — У2 (У! - Уз)
«1 -
1/11/3 — у;
Нормальные уравнения к (3.23) АГт Л 32z = 2z
YXz -|- P2z3 -- 2zz
/ ai\
Z — T -2 Bz; Z . 1g ,- 1
' и°\y — an /
Точка пересечения логистической кривой с осью ординат:
Координаты точки перегиба логистической кривой:
Т“1 ,
z — — р ; у2 "Т ао
4.01. Сравнение дисперсий
-4
D2
4,02. Сравнение средних при (^ =
t -- (Л/1 — М£) X
г:
/Nv\-N-,
ГN1
4.03. Сравнение средних при з, 4=
_Л/1 - Мг
/ С2S2
Г л', 1 л^2
4.04. Число степеней свободы к (4.03)
v = (М + N-i — 2) х
/ 11 \
Х / 2'52б2\
\-2-2/
\°2С1/
ГЛАВА 4. СРАВНЕНИЕ ВЫБОРОК И ИХ ПАРАМЕТРОВ
. Попарный критерий Стьюдента 26
N- 1
. Сравнение коэффициентов вариации
V>4t:-m^^ N 4
. Сравнение показателей точности опыта
Оценка достоверности критерия Вилкоксона
Arx(-V-H)--2«x
'/ NxNyUV-A 1)
Критерий ван дер Вардена
Xw = 2ф ()
Оценка достоверности серийного критерия
4.08. Сравнение долей из больших выборок4.08. Сравнение долей из больших выборок
4.08. Сравнение долей из больших выборок
4.08. Сравнение долей из больших выборок
V №ЦУ — 1)
Оценка достоверности парного критерия Вилкоксона
N (X +1)
4" " "т
/
' ”N(N М) (2ЛГ |- 1)
24
4.19.4.19.
4.19.
4.19.
. Сравнение долей но методу Фишера
N\N»
F №1 - ^)'- -дгТЖ
Сравнение коэффициентов корреляции
t =
Na-VN-z-R
V (Л4-3)(ЛТ2 - - 3)
Критерий лямбда
Х2 —"
ЛNy
Критерий лямбда для равночисленных выборок
„ ^шах
Х" 2.V
Формула Фишера в натуральных логарифмах
In Р^ — (« i 54-0,5) In (а-~й) ~- + (с -г d 4- 0,5) In (с + d) +
+ (a + с 0,5) In (л 4- c) -1- (6 -!- <Z + + 0,5) In (6 — d) — (a -j- — 0,5) In a — (60,5) 1 ) h
— (c -i- 0,5) Inc - (rf-L-0,5)lnc/ — — (TV 4- 0,5) In /V — In /2п
Критерий хи-квадрат
.2 _ 2ziZl2 х2-у. „ /'’/2v ^
Сравнение эмпирических взвешенных рядов одинакового объема по хп-квадрату
/х Т /у
Сравнение эмпирических взвешенных рядов разного объема по хи-квадрату
2 ^Х‘^У/у^х)2
Анализ расщепления признака в потомстве
2 _ Цх ^1уУ
^ d Ух fy)
-Хп-квадрат для четырехпольной таблицы
^(| ad — be | — O.bN^-N
(а • 6) (с -]- d) (a ■( c) (b — d)
Формула Фишера
оЬ)! (с -Ьrf)! (а с)! (b + d)!
1a\b\c\d\N\
Формула Стирлинга nt = п^0'5^” /^
Сравнение нескольких выборок по хи-квадрату
Двухфакторный дисперсионный анализ
в — 01 4™ @2 + ©3 4“ 61 + вз
Сумма квадратов общей дисперсии
е 2^2 N
Сумма квадратов для частных дисперсий
[(St)2 1
0г = 252 — -—- : к
Сумма квадратов для дисперсии, вызываемой взаимодействием факторов
Г(2т)21
0з—25——: А"з — 0]02
L 3 «з J
Ошибка опыта
— 1 / ОСТ
Ошибка разности средних по градациям факторов
/^s2
т8 = 1/ —521 ; т8 тм /2
Критерий достоверности различия средних
М, — Ма t = — ть
Коэффициент вариации в дисперсионном анализе
Однофакторный дисперсионный анализ
0 = 0] -]- 02 + Оз
Факториальная дисперсия двух факторного дисперсионного анализа
0Х = 0] -)- 02 — 01-2
Сумма квадратов общей дисперсии
Сумма квадратов факториальной дисперсии
' fx "
Сумма квадратов остаточной дисперсии
Z/X
ЛИТЕРАТУРА
Бейли И. 1964. Статистические методы в биологии. М., «Мир».
Боярский Л. Я. 1961. Математика для экономистов. М., Физматгиз.
Доерфель К. 1969. Статистика в аналитической химии. М., «Мир».
Дружинин Н. К. 1959. Математико-статистические методы анализа экспериментальных данных в товароведении. М., Гос. изд-во торг, лит-ры. .Леонтьев И. Л. 1966. Техника статистических вычислений. М., Гослесбум- ■ из дат.
Меркурьева Е. К. 1963. Основы биометрии. М., Изд-во МГУ.
Налимов В. В. 1960. Применение математической статистики при анализе вещества. М., Физматгиз.
Перегудов В. И. 1948. Статистические методы обработки данных полевого опыта. М., Сельхозгиз.
Плохинскии Н.А. 1970. Биометрия. М., Изд-во МГУ.
Плохинскии Н. А. 1967. Алгоритмы биометрии. М., Изд-во МГУ.
Поморский Ю. Л. 1929. Вариационная статистика. Л., ч. I.
Поморский Ю. Л. 1939. Новейшие методы вариационной статистики. Л. Рокицкий П. Ф. 1967. Биологическая статистика. Минск, «Высшая школа». Романовский В. И. 1947. Применение математической статистики в опытном деле. М., Гостехиздат.
Сапегин А. А. 1929. Вариационная статистика. Изд. 4. М., ГИЗ.
Семендяев К. А. 1933. Эмпирические формулы. М.—Л., Изд-во Гос. техн, теор. лит-ры.
Сепетлиев Д. 1968. Статистические методы в научных медицинских исследованиях. М., «Медицина».
Снедекор Д. У. 1961. Статистические методы в применении к исследовапинм в сельском хозяйстве и биологии. М., Сельхозиздат.
Терентьев П. В. 1959. Метод корреляционных плеяд.— Вести. ЛГУ, 9, 2.
Терентьев П. В. 1963. Оныт применения анализа вариансы к качественному богатству фауны наземных позвоночных СССР.— Вести. ЛГУ, 21.
Уишарт Д., Сандерс Г. 1958. Основы методики полевого опыта. М., ИЛ.
Урбах В. Ю. 1963. Математическая статистика для биологов и медиков. М., «Наука».
Урбах В. Ю. 1964. Биометрические методы. М., «Наука».
Хикс Ч. 1967. Основные принципы планирования эксперимента. М., «Мир».
Хотимский В. И. 1959. Выравнивание статистических рядов по методу наименьших квадратов (способ Чебышева). М., Госстатиздат.
Юл Д. Э., Кендэл М. Д. 1960. Теория статистики. М., Госстатиздат.
Таблицы
Келли Т. Л. 1966. Статистические таблицы. Изд. ВЦ АН СССР. М.
Митропольский А. К. 1952—1954. Статистическое исчисление, вып. 1—4.
Изд. ВЗЛТИ. Л.,
О'Рурк. 1962. Таблицы умножения. М., Госстатиздат.
Сегал Б. И., Семендяев К. А. 1962. Пятизначные математические таблицы. М., Физматгиз.
Таблицы Барлоу. 1965. Под ред. и доп. проф. Л. С. Хренова. М., «Мир».
Янко Я. 1961. Математико-статистические таблицы. М., Госстатиздат.
О Г Л А В Л Е Н И Ё
Введение 5
Глава 1. Вычисление средней арифметической и ее ошибки, коэффициента вариации и других показателей, характеризующих вариационный ряд
. Таблица для выбора метода обработки отдельного вариационного ряда 7
.Составление вариационных рядов 9
.Оценка сильно отклоняющихся вариант 14
. Средняя арифметическая невзвешенного ряда. Уровни значимости 15
.Средняя арифметическая взвешенного ряда 18
.Средняя арифметическая взвешенногоряда иоспособу сумм 20
.Общая средняя арифметическая почастнымсредним . .21
.Средняя гармоническая 22
.Средняя квадратическая и средняякубическая 23
Средняя геометрическая 25
Среднее квадратическое отклонение иевзвешенного ряда через отклонения от средней арифметической 27
Среднее квадратическое отклонение иевзвешенного ряда по отклонениям от условной средней 29
Среднее квадратическое отклонение иевзвешенного ряда через среднюю арифметическую 31
Среднее квадратическое отклонение взвешенного ряда ио способу сумм 31
Среднее квадратическое отклонение взвешенного ряда по ■ способу отклонений от условной средней 34
Среднее квадратическое отклонение взвешенного ряда по способу распределения дат 36
Среднее квадратическое отклонение взвешенного ряда по способу произведений 37
Приближенное среднее квадратическое отклонение по способу случайных серий 38.
Приближенное среднее квадратическое отклонение по размаху варьирования данных 40
Приближенное среднее квадратическое отклонение по коэффициенту вариации 40
Объединение выборок по их дисперсиям 41
Коэффициент вариации 41
Показатель точности опыта 4.3
Мода 44
Медиана 44
Моменты распределения 45
Поправки Шеппарда к начальными центральным моментам ,49
Асимметрия 50
Эксцесс 52
Теоретические частоты нормальнойкроной 5,3
Средняя арифметическая при альтернативном разделении совокупности' 55
Среднее квадратическое отклонение при альтернативном разделении совокупности 57
Коэффициент вариации при альтернативном разделении совокупности 58
Показатель точности опыта при альтернативном разделении вариант совокупности 58
Теоретические частоты биномиального распределения
и его параметры 59
Теоретические частоты распределения Пауссоиа 63
Объем выборки, достаточный для достоверностисредней
арифметической при известной численности генеральной совокупности. Методы отбора вариант выборки . . . .65
Объем выборки, достаточный для достоверности средней арифметической при неизвестной численности генеральной совокупности 67
Достаточный объем выборки для достоверности доли при известной численности генеральной совокупности 68
Достаточный объем выборки для достоверности доли при неизвестной численности генеральной совокупности . ..69
Вычисление11 параметров певзвешепногоряда 70
Вычислениепараметров взвешенного ряда 72
Доверительные интервалы статистическихпараметров . .75
Построениешкал балльной оценки 77
Глава 2. Корреляция
Таблица для выбора метода вычисления показателя корреляции 89
Корреляционная решетка и эмпирическая линия регрессии 89
Показатель корреляции рангов по Сиирмэпу 92
03.Коэффициенткорреляциирангов по Кендалу 96
04.Коэффициенткорреляциидлямалых выборок 99
05.Коэффициенткорреляциидлябольших выборок . . . .101
06. Совместное вычисление коэффициента корреляции и прямого корреляционного отношения между взвешенными рядами 105
07. Критерии криволинейности 108
08. Прямое корреляционное отношение для невзвешеипых рядов 110
09. Обратное корреляционное отношение для невзвешенных рядов 114
10. Прямое корреляционное отношение для взвешенных рядов 116
11. Обратное корреляционное отношение для взвешенных рядов 117
12.Полихоричсский коэффициент сопряженности Чупрова .119
13.Тетрахорическнй коэффициент сопряженности 121
14.Бисериальиый коэффициент корреляции 123
15. Бисериальиый коэффициент корреляции по таблице Келли-Вуда 124
16. Множественный и частные коэффициенты корреляции для трех рядов 128
Глава 3. Регрессия
00. Таблица для выбора метода интерполяции эмпирических данных 132
01.Уравнение прямой линии 132
02.Уравнение множественнойрегрессии 136
03.Парабола второго порядка 139
04.Парабола третьего порядка 141
05.Кривая оптимума 145
06.Степенная функция 148
07.Логистическая кривая 150
Глава 4. Сравнение выборок и их параметров
00. Таблица для выбора методов сравнения выборок и статистических параметров 154
01. Сравнение средних арифметических и дисперсий I. Малые выборки (IV < 20)155
Большие выборки (Л\ > 20, Кг > 20) 157
02. Сравнение певзиешенных рядов с попарно связанными вариантами 158
03. Сравнение вариабельности двух выборок по коэффициентам вариации и показателям точности опыта 159
04.Сравнениедолей пз больших выборок 161
05.Сравнениедолей по методу Фишера 162
06.Сравнениекоэффициентов корреляции 163
07. Сравнение двух эмпирических невзвешеипых рядов по кри- торию лямбда 164
08.Сравнениевыборок при помощи критерия медианы . . .167
09. Сравнение двух невзвешеипых рядов по критерию Вплкок- сопа 169
Сравнение двух невзвешеипых рядов по критерию ван-дер- Вардепа 170
Сравнение двух невзвешеипых рядов по серийному критерию 172
Сравнение двух невзвешеипых рядов с попарно сопряженными вариантами по критерию знаков 173
Сравнение двух невзвешеипых рядов с попарно сопряженными вариантами ио критерию Вилкоксона 174
Сравнение теоретического и эмпирического взвешенных рядов по критерию хи-квадрат 176
Сравнение двух эмпирических взвешенных рядов одинакового объема но критерию хи-квадрат 178
Сравнение двух эмпирических взвешенных рядов разного объема по критерию хи-квадрат
Применение критерия xu-квадрат при изучении расщепления гибридов
Применение критерия хи-квадрат в случае четырехпольной таблицы вариант
Сравнение нескольких совокупностей одновременно по критерию хи-квадрат
Двухфакторный дисперсионный анализ• . . .
Одпофакторный дисперсионный анализ небольшой группы данных
Двухфакторнып дисперсионный анализ небольшой группы данных без повторностей
Двухфакторпый дисперсионный анализ большой группы данных
Приложение
Таблицы 1П- 26П
1П. Число классов в зависимости от объема выборки 2П. Значения критериев Ду и 1\ на уровнях значимости 0,01 (верхнее число) и 0,05 (нижнее число)
ЗП. Значения критерия Стьюдента I
4П.5П.4П.5П.Значения коэффициента h для приближенного определения сред
4П.
5П.
4П.
5П.
нею квадратического отклонения
Значения функцииЗначения функции6П. Арифметический треугольник
Значения функции
Значения функции
7П. Минимальные значения показателя корреляции рангов при данном числе вариант 2
8П. Значения выражений /V (Л'— 1); y"^y7^"i р 11 ошибка коэффициента корреляции рангов Кендэла
9П. Значения критерия F при Pv - 95%, Pi— 99%, Р3--99,9%
10П. Значения критерия %2
11П. Таблица Келли-Вуда (сокращенно)
12П. Таблица Сопера для вычисления ошибки бисернального коэффициента корреляции 13П. Объем выборки, достаточный для достоверности коэффициента корреляции на трех доверительных уровнях 1411. Числа Чебышева
15П. Значения <р — 2 arcsin V р в радианах
16П. Граничные значения критерия Вилкоксопа / ,ri \
1711. Значенияфункции, обратной к интегралу вероятностей
18П. Граничные значения критерия ван-дер-Вардена
19П. Граничные значения числа серий. .
20П. Граничные значения числа знаков (менее часто встречающихся) при двух уровнях значимости
21П. Граничные значения критерия Вилкоксона для рядов е попарно связанными вариантами
1791801831861891972022062132132132142142152162171791801831861891972022062132132132142142152162172172182212222232242252302322172182212222232242252302322332352352362362332352352362362ВП. Показательная функция е~ж
179
180
183
186
189
197
202
206
213
213
213
214
214
215
216
217
179
180
183
186
189
197
202
206
213
213
213
214
214
215
216
217
217
218
221
222
223
224
225
230
232
217
218
221
222
223
224
225
230
232
233
235
235
236
236
233
235
235
236
236
2311. MnWRальвое число наблюдений в зависимости от варьирования данных при доверительном уровне Рх = 95% и показателе
точности 5% 237
24П. Перевод календарных дат в непрерывный ряд 238
2511. Значения критерия Стьюдента для односторонней оценки гипотез 239
1 |- г
2611. Функция з — (1.5 1 1 j _i- 239
Формулы 240
Литература 251
Геннадий Николаевич Зайцее
Методика биометрических расчетов
Утверждено к печати Глазным ботаническим садом Академии наук СССР
Редактор Г. В. Красильникова. Художник А. И. Панченко
Художественный редактор 7'. II. Поленова. Технический редактор Е. II. Еитяноза
Сдано в набор 18/XII-1972 г. Подписано к печати 27/III-1973 г. Формат GOxOOVh
Бумага № 2. Усл. печ. л. 16. Уч.-изд. л. 15.8, Тираж 2100 экз. Т-02788. Тип. зак. 1539
Цена 1 р. 6 у.
Издательство «Наука», 103717 ГСП, Москва К-62, Подсосенский пер., 21
2-я типография издательства «Наука»,121099. Москва Г-99, Шубипский пер., 10
1. Заполняем корреляционную решетку по образцу табл. 2.14. В столбец /+ заносим особи, обладающие первым изучаемым признаком (растут в тени), а в столбец /_ заносим особи со вторым альтернативным признаком (растут на открытом месте).
N-1
где N — объем выборки; R — коэффициент множественной корреляции.
Если левая часть формулы (2.47) будет больше или равна трем, то коэффициент считается значимым. Для рассмотренного только что примера
(13- 5) 0.5862
-./ТО" ’ •
К 13-7
Следовательно, подтверждается сделанный уже вывод о не
достоверности коэффициента.