Множественные сравнения. Критерий Стьюдента с поправкой Бонферрони

Размещено на http://allbest.ru

Множественные сравнения. Критерий Стьюдента с поправкой Бонферрони

Введение

Множественные сравнения возникают, когда необходимо на одной и той же выборке параллельно проверить ряд статистических гипотез.

Например, критерий Стьюдента может быть использован для проверки гипотезы о различии средних только для двух групп. Если план исследования большего числа групп, совершенно недопустимо просто сравнивать их попарно. Для корректного решения этой задачи можно воспользоваться, например, дисперсионным анализом. Однако дисперсионный анализ позволяет проверить лишь гипотезу о равенстве всех сравниваемых средних. Но, если гипотеза не подтверждается, нельзя узнать, какая именно группа отличалась от других. Это позволяют сделать методы множественного сравнения, которые в свою очередь также бывают параметрические и непараметрические. Эти методы дают возможность провести множественные сравнения так, чтобы вероятность хотя бы одного неверного заключения оставалась на первоначальном выбранном уровне значимости, например, 5%.

Среди параметрических критериев:

· критерий Стьюдента для множественных сравнений

· критерий Ньюмана-Кейлса

· критерий Тьюки

· критерий Шеффе

· критерий Даннета

Среди непараметрических:

· критерий Краскела-Уоллиса

· медианный критерий

Надо сказать, что основные параметрические критерии для множественного сравнения независимых групп могут после некоторых модификаций применяться для установления различий и в повторных измерениях, если дисперсионный анализ установил наличие таких различий.

1.Критерий Стьюдента для множественных сравнений

Буквой m обозначим число сравниваемых групп.

Критерий Стьюдента для множественного сравнений основан на использовании- неравенства Бонферрони : если к-раз применить критерий с уровнем значимости альфа, то вероятность хотя бы в одном случае найти различие там, где его нет, не превышает произведения к на альфа.

Из неравенства Бонферонни следует, что если мы хотим обеспечить вероятность ошибки альфа', то в каждом из сравнений мы должны принять уровень значимости альфа'/k - это и есть поправка Бонферрони (к - число сравнений). Понятно, что такое уменьшение в несколько раз значимости делает тест достаточно "жестким" с ростом числа сравнений, установить различия становится достаточно трудно.

Чтобы несколько смягчить данный тест, пользуются обобщенной оценкой внутригрупповой дисперсии, число степеней свободы при этом возрастает, что в свою очередь приводит к уменьшению критического значения для проверки теста.

Число степеней свободы при таком подходе для критерия Стьюдента при таком подходе равно f = m*(n - 1), где n - объем групп, а для групп разного объема число степеней свободы будет равно суммарной численности всех групп N минус количество групп m (что в случае m>2 превышает обычное число степеней свободы для критерия Стьюдента, равное суммарной численности двух непосредственно сравниваемых групп минус 2).

Этот метод работает, если число сравнений невелико, обычно не больше 8. При большем числе сравнений критерий Ньюмана-Кеулса и Тьюки дают более точную оценку вероятности альфа'.

2.Критерий Ньюмана-Кейлса

Расположите значения для каждого больного по возрастанию, каждому значению присвойте ранг.Для каждого из методов лечения подсчитайте сумму присвоенных ему рангов.Вычислите значение X2.

Если число методов лечения и число больных присутствует в табл., определите критическое значение X2 по этой таблице. Если число методов лечения и число больных достаточно велико (отсутствует в таблице), воспользуйтесь критическим значением X2 с числом степеней свободы V = к -1.Если рассчитанное значение X2 превышает критическое -- различия статистически значимы.Теперь применим критерий Фридмана для анализа уже знакомого исследования.

Имеем три измерения (к = 3) у четырех больных (п = 4). Средний ранг для каждого наблюдения 1 + 2 + 3/3 = 2. Средняя сумма рангов для каждого измерения равна 4x2=8. Сумма квадратов отклонений для трех наблюдений:

Ј=(12-8)2 + (5-8)2 + (7 -8)2 =(42)+(-3)2 +(-1)2 = 26,

г] = -----5= 12 26 =6,5. пк(к + 1) 4x3x4

Эта величина совпадает с критическим значением X2 при п = 4 и к = 3. Соответствующий точный уровень значимости составляет 0,042. Таким образом, различия между измерениями статистически значимы (Р < 0,05).

Множественное сравнение после применения критерия Фридмана

Как всегда, за выявлением различий между несколькими методами лечения должно последовать выяснение, в чем состоят эти различия, то есть попарное сравнение методов лечения. Поскольку число больных, подвергшихся каждому методу лечения, одинаково, для этой цели легко приспособить критерий Ньюмена-- Кейлса. Если считать один из методов лечения «контролем», то остальные можно сравнить с ним при помощи критерия Даннета. Если речь идет о повторных наблюдениях в ходе лечения, таким контролем естественно считать значения, полученные перед началом лечения. Итак, для попарного сравнения методов лечения (или моментов наблюдения) применяется критерий Ньюмена--Кейлса:

где КА и Кв -- суммы рангов для двух сравниваемых методов лечения, / -- интервал сравнения, а я -- число больных. Найденное значение q сравнивается с критическим для бесконечного числа степеней свободы. Если найденное значение больше критического, различие методов лечения (моментов наблюдения) статистически значимо.

Для сравнения с контрольной группой применяется критерий Даннета:

статистический бонферрони стьюдент

где / -- число всех групп, включая контрольную, Ккон -- сумма рангов в контрольной группе. Остальные величины определяются, как в формуле для q. Значение q' сравнивается с критическим идля бесконечного числа степеней свободы.

3.Критерий Тьюки

Критерий Тьюки используется для проверки нулевой гипотезы H0:мB=мA против альтернативной гипотезы H0:мB?мA, где индексы A и B обозначают любые две сравниваемые группы. При наличии m групп всего возможно выполнить m(m?1)/2 попарных сравнений.

Первый шаг заключается в упорядочивании всех имеющихся групповых средних значений по возрастанию (от 1 до m). Далее выполняют попарные сравнения этих средних так, что сначала сравнивают наибольшее среднее с наименьшим, т.е. m-ое с 1-ым, затем m-ое со 2-ым, 3-м, и т.д. вплоть до (m?1)-го. Затем предпоследнее среднее, (m?1)-ое, тем же образом сравнивают с 1-ым, 2-ым, и т.д. до (m?2)-го. Эти сравнения продолжаются до тех пор, пока не будут перебраны все пары.

Указанные сравнения выполняются при помощи критерия Тьюки, который представляет собой модифицированныйкритерий Стьюдента:

q=xЇB?xЇASE

Отличие от критерия Стьюдента заключается в том, как рассчитывается стандартная ошибка SE:

SE=MSw

где MSw - рассчитываемая в ходе дисперсионного анализа внутригрупповая дисперсия.

Приведенная формула для критерия Тьюки верна для случаев, когда все сравниваемые группы содержат одинаковое число наблюдений, n. Если сравниваемые группы неодинаковы по размеру, стандартная ошибка будет рассчитываться следующим образом:

SE=MSw2(1nA+1nB)

Благодаря тому обстоятельству, что в приведенные выше формулы стандартной ошибки входит внутригрупповая дисперсия MSw, обеспечивается контроль над групповой вероятностью ошибки первого рода. Именно это делает критерий Тьюки подходящим критерием для выполнения большого числа попарных сравнений групповых средних.

Проверяемые нулевые гипотезы принимают или отвергают либо путем сравнения получаемых значений критерия qс определенным критическим значением для выбранного уровня значимости, либо рассчитывая соответствующие Р-значения (подробнее см. примеры для критерия Стьюдента).

4.Реализация в R

В R множественные сравнения групповых средних при помощи теста Тьюки можно выполнить несколькими способами. В этом сообщении мы рассмотрим функцию TukeyHSD(), входящую в базовую версию R.

В качестве примера используем данные по содержанию стронция (мг/мл) в пяти водоемах США (пример заимствован из книги Zar 1999):

waterbodies <- data.frame(Water = rep(c("Grayson", "Beaver",

"Angler", "Appletree",

"Rock"), each = 6),

Sr = c(28.2, 33.2, 36.4, 34.6, 29.1, 31.0,

39.6, 40.8, 37.9, 37.1, 43.6, 42.4,

46.3, 42.1, 43.5, 48.8, 43.7, 40.1,

41.0, 44.1, 46.4, 40.2, 38.6, 36.3,

56.3, 54.1, 59.4, 62.7, 60.0, 57.3)

)

На рисунке ниже эти данные представлены графически:

Необходимо выяснить, 1) есть ли существенные различия между этими водоёмами по содержанию стронция в целом и, если есть, 2) какие именно водоемы отличаются друг от друга. Для ответа на первый вопрос выполним дисперсионный анализ при помощи функции aov():

M <- aov(Sr ~ Water, data = waterbodies)

summary(M)

Df Sum Sq Mean Sq F value Pr(>F)

Water 4 2193.4 548.4 56.16 3.95e-12 ***

Residuals 25 244.1 9.8

---

Signif. codes: 0 `***' 0.001 `**' 0.01 `*' 0.05 `.' 0.1 ` ' 1

Как видно из полученных результатов, обследованные водоемы статистически значимо различаются по содержанию стронция. Для того чтобы выяснить, где именно лежат различия, достаточно подать объект M на функциюTukeyHSD():

TukeyHSD(M)

Tukey multiple comparisons of means

95% family-wise confidence level

Fit: aov(formula = Sr ~ Water, data = waterbodies)

$Water

diff lwr upr p adj

Appletree-Angler -2.9833333 -8.281979 2.315312 0.4791100

Beaver-Angler -3.8500000 -9.148645 1.448645 0.2376217

Grayson-Angler -12.0000000 -17.298645 -6.701355 0.0000053

Rock-Angler 14.2166667 8.918021 19.515312 0.0000003

Beaver-Appletree -0.8666667 -6.165312 4.431979 0.9884803

Grayson-Appletree -9.0166667 -14.315312 -3.718021 0.0003339

Rock-Appletree 17.2000000 11.901355 22.498645 0.0000000

Grayson-Beaver -8.1500000 -13.448645 -2.851355 0.0011293

Rock-Beaver 18.0666667 12.768021 23.365312 0.0000000

Rock-Grayson 26.2166667 20.918021 31.515312 0.0000000

В первом столбце полученной таблицы перечислены пары сравниваемых водоемов. Во втором столбце содержатся разности между соответствующими групповыми средними. Третий и четвертый столбцы содержат значения нижнего (lwr) и верхнего (upr) 95%-ных доверительных пределов для соответствующих разностей.

Наконец, в пятом столбце представлены Р-значения для каждой из сравниваемых пар водоемов. Хорошо видно, что существенной разницы в парах "Appletree-Angler", "Beaver-Angler" и "Beaver-Appletree" нет (Р > 0.05), тогда как во всех остальных случаях разница статистически значима. В целом полученные результаты хорошо согласуются визуальной оценкой различий, которую можно сделать, глядя на приведенную выше диаграмму размахов.Результаты попарных сравнений групповых средних можно легко изобразить на графике:

par(mar = c(4.5, 8, 4.5, 4.5))

plot(TukeyHSD(M), las = 1)

На представленном рисунке приведены разности между групповыми средними (Differences in mean levels of Water) и их доверительные интервалы, рассчитанные с учетом контроля над групповой вероятностью ошибки (95% family-wise confidence level). В трех случаях доверительные интервалы включают 0, что указывает на отсутствие различий между соответствующими группами (сравните с Р-значениями выше).Хотя теория того не требует, критерий Тьюки и другие подобные ему методы рекомендуется применять после того, как дисперсионный анализ установил наличие существенной разницы между группами в целом . В связи с этим критерий Тьюки относится к методам апостериорного анализа .Критерий Тьюки имеет те же условия применимости, что и собственно дисперсионный анализ, т.е. нормальность распределения данных и (особенно важно!) однородность групповых дисперсий . Устойчивость к отклонению от этих условий, равно как и статистическая мощность критерия Тьюки, возрастают при одинаковом числе наблюдений во всех сравниваемых группах

5.Критерий Шеффе

Метод множественных сравнений Шеффе - это модификация t-критерия Cтьюдента. Это параметрический тест, который выявляет наличие статистически значимых различий между средними для нормально распределенных связных групп на основе дисперсионного анализа. Объемы выборок могут различаться. Нулевая гипотеза предполагает, что выборки бьются на две группы с равными средними. Метод Шеффе использует линейные комбинации средних по выборкам, в то время как метод Тьюки-Крамера рассматривает только попарные сравнения.

Имеется выборок , объемом каждая, где

Дополнительное предположение

Распределения выборок нормальны, выборки связные.

Нулевая гипотеза

Критерий Шеффе проверяет нулевую гипотезу

,

где , - среднее арифметическое значение в группе с номером .

Описание критерия

Алгоритм проверки критерия состоит из следующих шагов

Упорядочить выборки по возрастанию средних значений

Задать

Т.е. нулевая гипотеза состоит в том, что среднее арифметическое по первым пяти выборкам равно среднему арифметическому последующих трех.

Тогда следует выбрать следующие значения :

и

Статистика критерия Шеффе

Вводим статистику

где - внутригрупповая дисперсия,

Статистика Шеффе имеет распределение Фишера с и степенями свободы.

Критическая область

Для критерия Шеффе критическая область при уровне значимости - это область

где - квантиль Фишера

Примечание

Это односторонний критерий. Он предполагает, что всего 2 различных значения средних. Если это неверно, рекомендуется воспользоваться, например, методом LSD.

Если использовать только попарное сравнение, то в методе Тьюки-Крамера результат несколько точнее, но в общем случае предпочтительнее метод Шеффе, т.к. он дает более широкий доверительный интервал.

Критерий Шеффе является грубым критерием и особенно пригоден в тех случаях, когда имеется подозрение о неравенстве дисперсий выборок между собой.

6.Критерий Даннета

Статистическая достоверность увеличения количества колоний ревертантов оценивается методом множественных сравнений с контрольной группой Даннета. Для статистической оценки результатов высчитываются критерии Даннета по формуле:

__________________

_ _ /2

q' = X - X / \/S (1 / N - 1 / N ),

а к к а

где:

_ _

X и X - сравниваемые средние значения в контроле и опыте

а к соответственно;

2 S - внутренняя групповая дисперсия;

N и N - численность контрольной и опытной групп.

к а Средние значения для всех групп упорядочиваются по абсолютной величине их отличия от контрольной группы, сравнения начинают с группы, наиболее отличной от контрольной. Если различия с очередной группой не найдены, вычисления прекращают. Внутреннюю групповую дисперсию вычисляют по следующей формуле:

2 2

S = SUM S n / n,

где:

2

SUM S n - сумма квадратов стандартных отклонений в сравниваемых

группах;

n - число групп.

Вычисленное значение критерия Даннета q' сравнивается с критическим табличным значением. Критическое значение зависит от уровня значимости (для биологических экспериментов его значение равно 0,05), числа степеней свободы ипсилон и интервала сравнения I, который равен числу групп сравнения, включая контрольную (в данном случае I постоянно и равно 6). Число степеней свободы ипсилон равно разности суммы численностей всех групп и числа групп, в нашем случае оно равно: 6 x 3 - 6 = 12. Таким образом, в данном эксперименте критическое табличное значение критерия Даннета q = 2,90. Если вычисленное значение критерия Даннета q' больше критического (>= 2,90), то различия между группами являются статистически достоверными.

7.Критерий Крускала-Уоллиса

H-критерий Крускала-Уоллиса является обобщением U-критерия Манна-Уитни на случай k несвязанных выборок (k>2) и предназначен для оценки различий одновременно между тремя, четырьмя и т.д. выборками по уровню какого-либо признака.

Нулевая гипотеза H₀={между выборками существует лишь случайные различия по уровню исследуемого признака}.

Рассмотрим пример. Одинаковы ли воздействия педагогического эксперимента на младших и старших школьников, а также на учителей по показателям психологической защищённости после эксперимента.

Показатель защищённости (номер)	1	2	3	4	5	6	7	8	9
Младшие подростки	2.8	2.8	2.9	3.1	2.9	2.5	2.7	2.8	2.7
Старшие подростки	3.8	3.1	4.0	3.2	3.8	2.5	3.8	2.9	2.8
Учителя	3.7	3.7	2.8	3.9	3.9	3.6	2.6	3.7	2.7

Проранжируем значения признака для всех групп, как для одной выборки, в порядке возрастания.

Далее найдём суммы рангов для каждой группы отдельно (т.е. произведём суммирование рангов по строкам).

Показатель защищённости (номер)	1	2	3	4	5	6	7	8	9	Сумма рангов
Младшие подростки	2.8	2.8	2.9	3.1	2.9	2.5	2.7	2.8	2.7	-
Ранг (мл.подростков)	9	9	13	15.5	13	1.5	5	9	5	80
Старшие подростки	3.8	3.1	4.0	3.2	3.8	2.5	3.8	2.9	2.8	-
Ранг (ст. подростки)	23	15.5	27	17	23	1.5	23	13	9	152
Учителя	3.7	3.7	2.8	3.9	3.9	3.6	2.6	3.7	2.7	-
Ранг (учителя)	20	20	9	25.5	25.5	18	3	20	5	146

Найдём эмпирическое значение критерия по следующей формуле:

,

где N - общее количество испытуемых (N=27), T_j - сумма рангов в j-ой строке, n_j - число испытуемых в j-ой группе.



В рассматриваемом примере количество испытуемых во всех группах одинаково и равно 9. На практике можно использовать и выборки разных объёмов.

По таблице находим критическое значение критерия по уровню значимости и степени свободы k. При этом степень свободы рассчитывается как разность количества групп и единицы. Поэтому в нашем случае k=3-1=2. Примем, что Тогда:

Если критическое значение критерия превосходит его эмпирическое значение, то на выбранном уровне значимости следует принять нулевую гипотезу, утверждающую о несущественности различий воздействия на разные группы. В противном случае нулевая гипотеза отвергается.

В нашем случае: и нулевая гипотеза на уровне значимости 0.01 принимается. Т.е. воздействие можно считать практически одинаковым во всех группах.

Схема применения критерия Крускала-Уоллиса выглядит следующим образом

Медианный критерий -- непараметрический статистический критерий, относится к классу ранговых критериев сдвига. То есть проверяет гипотезу о том, что распределения двух выборок имеют одинаковую форму и отличаются только сдвигом на константу.

Пусть и - случайные выборки с плотностями и соответственно.

Нулевая гипотеза

.

Альтернатива

.

То есть плотности идентичны за исключением сдвига.

Статистика критерия:

§ Строится общий вариационный ряд объединённой выборки . - ранги элементов первой выборки в общем вариационном ряду.

§ Форма 1

Находится медиана упорядоченной объединенной выборки и подсчитывается число наблюдений выборки , превосходящих медиану (если нечетно и медиана принадлежит выборке , то это число увеличивается на ). Тогда статистика критерия может быть записана так:

При распределение статистики удовлетворительно описывается нормальным со средним и дисперсией

, если и

, если

Если

,

то с достоверностью гипотеза сдвига отклоняется.

§ `'Форма 2''

Пусть и - количество элементов выборки , соответственно больших и меньших медианы объединенной выборки, а и - аналогичные числа для выборки . Тогда статистикой критерия сдвига является величина

,

Имеющая, при отсутствии сдвига, распределение хи-квадрат с 1 степенью свободы

1. Медианный критерий асимптотически оптимален, когда плотность принадлежит симметрично-экспоненциальному типу.

2. 'Форма 2' критерия применима только при и

3. Эффективность медианного критерия по сравнению с критерием Стьюдента в случае нормального распределения равна

Поправка Бонферрони -- один из методов контроля групповой вероятности ошибки (первого рода), который утверждает, что для достижения уровня достаточно, чтобы отвергались гипотезы , для которых , где -- количество гипотез.

Пусть -- семейство гипотез, а -- соответствующие им достигаемые уровни значимости. Обозначим за неизвестное подмножество истинных нулевых гипотез мощности .

Групповая вероятности ошибки, или FWER, -- это вероятность отклонения как минимум одной гипотезы из , т.е. получения как минимум одной ошибки первого рода. Метод поправки Бонферрони утверждает, что отклонение всех позволяет получить .

Альтернативная постановка

Можно также перейти к модифицированным уровням значимости .

Существуют процедуры (например, метод Холма), которые равномерно превосходят по мощности процедуру, основанную на поправке Бонферрони, и не делают никаких дополнительных предположений.

Таким образом, использование поправки Бонферрони нецелесообразно.

Пример

для проверки используем одновыоборчный критерий Стьюдента.

Без поправок:

	Верных	Неверных	Всего
Принятых	142	0	142
Отвергнутых	8	50	58
Всего	150	50	200

С поправкой Бонферрони:

	Верных	Неверных	Всего
Принятых	150	27	177
Отвергнутых	0	23	23
Всего	150	50	200

Заключение

статистический критерий стьюдента

Предыдущее сообщение представляло собой небольшое введение в проблему множественных проверок статистических гипотез. Вкратце, проблема заключается в том, что при одновременной проверке большого числа гипотез на том же наборе данных вероятность сделать неверное заключение в отношении хотя бы одной из этих гипотез значительно превышает изначально принятый уровень значимости (обычно б=0.05).

Для устранения этого эффекта существует большой арсенал методов, различающихся по своей мощности применимости в разных ситуациях. В этом сообщении рассмотрен один из наиболее известных таких методов - поправка Бонферрони. Кроме того, описан метод Холма, который представляет собой модификацию подхода, предложенного Бонферрони.

Список литературы

1. Мерков А.М., Поляков Л.Е. Санитарная статистика

2. http://r-analytics.blogspot.com/2013/10/blog-post_13.html#.U3OkV3DD6tM

3. http://m-kat.ru/ebook.php?file=glans.djvu&page=14

4.http://www.google.kz/url?sa=t&rct=j&q=&esrc=s&source=web&cd=1&cad=rja&uact=8&ved=0CCgQFjAA&url=http%3A%2F%2Fwww.kurskmed.com%2Fuvr_docmed%2Fuploads%2F414f8b0.pdf&ei=9qhzU72qAcPnygOBxYLYDA&usg=AFQjCNFCDjkBMvRnmFAwk3fjJrFnKCcC_A

5.Корыжкин И.С. ,Суворова А.Л. Дисперсионный анализ

Размещено на Allbest.ru

...