Устойчивые меры центральной тенденции: взвешивание как возможная альтернатива усечению данных при анализе времен ответов

Обсуждение

Как и ожидалось, среднее арифметическое оказалось менее стабильной мерой центральной тенденции, чем большинство других мер, как в случае отсутствия выбросов, так и в случае их наличия. С увеличением количества выбросов поведение этой меры центральной тенденции ухудшается. Логичным образом, для медианы наблюдалась обратная картина. В случае наличия большого количества выбросов (в данном случае - 10%) медиана оказывалась одной из наиболее стабильных мер. Однако в случае отсутствия выбросов или их небольшого и изменяющегося количества медиана была менее устойчива, чем многие другие меры центральной тенденции.

В целом в случае отсутствия выбросов наиболее стабильными мерами центральной тенденции для анализируемого смещенного распределения оказываются гармоническое среднее, геометрическое среднее и предложенная в данной работе оценка, взвешенная по расстояниям. Однако существенная особенность гармонического среднего и геометрического среднего состоит в том, что поведение этих мер резко ухудшается в условиях наличия в распределении выбросов. В случае, если имеющееся распределение включает выбросы, гармоническое среднее, геометрическое среднее и арифметическое среднее формируют тройку наименее стабильных мер, чувствительных к колебаниям в исходных данных. При этом взвешенная по расстоянию оценка продолжает оставаться одной из трех наиболее стабильных мер в каждом из условий с наличием выбросов в распределении данных.

Арифметическое среднее, подсчитанное после удаления данных, лежащих за пределами двух стандартных отклонений, в целом оказывается более стабильной мерой, чем простое арифметическое среднее. Однако ни в одном из моделируемых условий эту меру нельзя было считать предпочтительной. Этот результат в целом можно назвать предсказуемым в силу специфики алгоритма подсчета данной меры центральной тенденции. Действительно, речь идет о предварительном удалении данных, лежащих за пределами двух стандартных отклонений от арифметического среднего, рассчитанного для исходного распределения. А поскольку, как уже подчеркивалось выше, само это исходное среднее значение может быть существенно смещенным, такая процедура усечения данных не может быть названа эффективной. Следует отметить, однако, что этот алгоритм удаления выбросов по-прежнему остается одним из наиболее популярных в исследованиях скорости переработки информации. В этом контексте демонстрируемые результаты могут служить еще одним напоминанием для исследователей о том, что в арсенале современных статистических методов существуют доступные и гораздо более эффективные способы анализа местоположения распределения в условиях наличия выбросов, чем привычная процедура удаления данных, лежащих за пределами двух стандартных отклонений.

В целом полученные результаты подтверждают, что 20% усеченное среднее действительно может рассматриваться в качестве одной из наиболее предпочтительных мер центральной тенденции. Эта мера оказалась слабо подверженной колебаниям во всех случаях, когда распределение данных включало выбросы. Кроме этого, усеченное среднее оказалось одной из мер, наиболее устойчивых к появлению выбросов и изменению их количества.

Винсоризованное среднее также было одной из наиболее предпочтительных мер в двух моделируемых условиях из четырех, а также в условии переменного количества выбросов. Однако следует отметить, что в основе подсчета этой меры лежит, по существу, тот же алгоритм, что и для усеченного среднего. Как и в случае 20% усеченного среднего, для каждого хвоста распределения удалялось 20% данных, однако после этого выполнялась дополнительная процедура - на место удаленных значений подставлялись, соответственно, максимальные и минимальные величины из оставшихся данных. В целом, поскольку во всех рассмотренных случаях винсоризованное среднее оказалось менее устойчивой мерой, чем усеченное среднее, можно говорить о том, что полученные нами результаты не демонстрируют необходимости и целесообразности процедуры винсоризации при расчете меры центральной тенденции.

Наконец, достаточно неожиданными могут быть названы результаты, касающиеся поведения одношаговой М-оценки и модифицированной одношаговой М-оценки. Эти меры центральной тенденции, как и некоторые другие меры семейства М-оценок, в современной литературе часто рекомендуются в качестве статистик, устойчивых к появлению выбросов и смещенности распределения. Действительно, модифицированная одношаговая М-оценка оказалась мерой, наименее изменяющейся при переходе от одного моделируемого условия к другому. Однако внутри каждого из условий с фиксированным количеством выбросов ни одна из рассматриваемых М-оценок не входила в число наиболее стабильных мер. Более того, рассматриваемые М-оценки не входили в число наиболее стабильных мер и в том случае, когда эксплицитно моделировались данные, в которых количество выбросов заранее неизвестно.

В этом контексте представляется необходимым вернуться к обсуждению двух возможных источников нестабильности меры центральной тенденции, о которых говорилось выше. В современной литературе стабильность меры центральной тенденции чаще всего оценивается как ее устойчивость к появлению выбросов в конкретном наборе данных. Выше говорилось о том, что существуют различные подходы к оценке робастности мер центральной тенденции. В данной работе в качестве такого показателя рассматривалась стабильность меры при переходе от одного моделируемого условия к другому, при этом количество выбросов было фиксированным внутри каждого условия. Полученные результаты подтверждают, что такие меры, как медиана или одношаговая М-оценка, действительно являются наиболее устойчивыми к появлению выбросов и изменению их количества.

Однако из результатов очевидна и существующая проблема - наряду с невысокой изменчивостью этих мер при переходе от одного условия к другому внутри каждого условия они оказываются чувствительными к колебаниям в конкретном наборе данных, хотя моделируемые данные происходят из одного и того же распределения. Результаты, полученные в условии с переменным количеством выбросов, наглядно иллюстрируют, что в случае одновременного учета двух возможных источников нестабильности мер центральной тенденции ни медиана, ни рассматриваемые М-оценки не могут быть рекомендованы в качестве наиболее стабильных показателей. Эта особенность данных мер центральной тенденции делает проблематичным их применение для анализа локализации распределения эмпирических данных, особенно если набор имеющихся значений невелик.

Обобщая полученные результаты, можно говорить о том, что в рассматриваемых условиях наиболее предпочтительным оказалось поведение двух мер центральной тенденции - 20% усеченного среднего и оценки, взвешенной по расстояниям. Однако необходимо еще раз подчеркнуть, что в рамках данной работы ставилась цель симуляции данных, правдоподобно имитирующих времена ответов, которые могут быть получены в реальной элементарной скоростной задаче. Поведение мер центральной тенденции, безусловно, будет изменяться при изменении смещения распределения исходных данных, а также при увеличении количества выбросов и изменении диапазона их возможных значений. Иными словами, корректный выбор меры центральной тенденции в каждом случае должен основываться на предварительном сравнительном анализе поведения различных мер в тех конкретных условиях, которые наилучшим образом описывают имеющиеся эмпирические данные.

Заключение и выводы

В данной работе рассматривалась проблема оценивания центральной тенденции в условиях смещенности распределения эмпирических данных и наличия в нем выбросов. Основное внимание было сфокусировано на проблеме получения индивидуального показателя скорости переработки информации в элементарной когнитивной задаче, то есть в условиях, когда для каждого испытуемого имеется относительно небольшой набор значений, распределение которых смещено и может содержать выбросы.

Результаты, представленные в данной работе, позволяют говорить о том, что в качестве наиболее предпочтительных могут рассматриваться две меры центральной тенденции: 20% усеченное среднее и предложенная в данной работе оценка, взвешенная по расстояниям. Результаты, касающиеся усеченного среднего, в целом являются предсказуемыми - в современной литературе по статистике эта мера часто рекомендуется в качестве наиболее предпочтительной в условиях отсутствия нормальности распределения данных и возможного наличия в них выбросов.

Однако следует подчеркнуть, что в расчете этой меры центральной тенденции, например в случае 20% усечения, участвует только 60% полученных эмпирических значений. Эта особенность данной меры центральной тенденции, безусловно, должна четко осознаваться использующим ее исследователем. И речь идет не только о том, что, как справедливо отмечал Р.Вилкокс, использование усеченных данных в целом противоречит интуиции и здравому смыслу [Wilcox, 2001]. Действительно, трудно принять, что удаление существенного количества информации может помочь получить более точные оценки, чем в случае использования всех имеющихся данных. Однако существует и более глубокая проблема, а именно вопрос о том, имеет ли исследователь право полностью исключать из анализа те или иные эмпирически зафиксированные значения.

Учебники по статистике, демонстрируя эффект влияния выбросов на меры центральной тенденции, традиционно используют подчеркнуто наглядные примеры - как тот пример из значений 2, 3, 4, 4, 5, 5, 6, 6, 6, 80, который был использован нами в первой части данной работы. Однако можно ли считать выбросом значения, которые далеко не так очевидно отстоят от основного массива данных?

Например, какие значения являются выбросами в ряду данных 260, 291, 303, 343, 403, 468, 494, 536, 548, 821 (приведены времена ответов реального испытуемого, в мс)? При этом вопрос состоит не только в точности идентификации выбросов, но и в правомерности их полного игнорирования при расчете показателя, характеризующего локализацию распределения имеющихся значений. Действительно ли полученное очень большое значение времени ответа является исключительно следствием внешних факторов или наличие больших времен тоже до некоторой степени отражает особенности протекания когнитивного процесса, интересующего исследователя?

На наш взгляд, основное преимущество мер центральной тенденции, основанных на взвешивании, состоит именно в отсутствии необходимости однозначного рассмотрения части значений в качестве выбросов, подлежащих удалению. Так, предложенная в данной статье оценка, взвешенная по расстояниям, позволяет работать с полным набором данных, взвешивая каждое значение в соответствии с его удаленностью относительно основного массива. Проведенная серия компьютерных симуляций позволяет говорить о том, что поведение этой меры центральной тенденции вполне сопоставимо с поведением 20% усеченного среднего. При этом логично, что для моделируемых положительно смещенных распределений оценка, основанная на взвешивании, в каждом условии оказывалась несколько более высокой, чем усеченное среднее, поскольку в случае взвешивания более редкие большие значения в правом хвосте распределения не игнорировались, как при усечении, а все же учитывались при расчете показателя, характеризующего местоположение распределения.

Наконец, в заключение представляется необходимым еще раз подчеркнуть, что проблема выбора меры центральной тенденции не является специфичной для анализа данных, получаемых в скоростных когнитивных задачах. Действительно, анализ времен ответов является той областью, где проблема оценивания местоположения распределения данных встает с неизбежной остротой. В данной работе было показано, насколько может различаться поведение мер центральной тенденции в зависимости от конкретных экспериментальных условий, и как предпочтение той или иной меры может сказываться на общих результатах и выводах эмпирического исследования. Нет ни одной причины, почему описанная проблема может относиться только к данным времен ответов и не касаться других случаев, когда исследователь имеет дело с усреднением данных, полученных в эмпирическом исследовании. Иными словами, вне зависимости от того, подсчитывает ли исследователь некоторый балл на основании результатов заполнения опросника, обобщает ли данные наблюдения или количественно выраженные клинические данные, «простой» подсчет среднего - эта та операция, которая заслуживает специального внимания и предварительного анализа имеющихся эмпирических данных.

Завершая данную работу, представляется возможным кратко сформулировать следующие выводы.

1. Во многих случаях данные, с которыми работает исследователь, не являются нормально или даже симметрично распределенными, а количество имеющихся значений ограничено. В таких условиях арифметическое среднее не может рассматриваться в качестве надежной меры центральной тенденции в силу отсутствия устойчивости к смещенности распределения и наличию выбросов.

2. Подход, наиболее часто рекомендуемый в современной статистике для анализа локализации распределения эмпирических данных, основывается на предварительном усечении тех значений, которые расположены в хвостах распределений, и последующем усреднении оставшихся значений. Хотя существует множество алгоритмов идентификации значений, подлежащих удалению, устойчивая мера центральной тенденции может быть получена уже путем простого усечения фиксированного одинакового процента значений из каждого хвоста распределения данных. Вопрос о количестве значений, подлежащих усечению, должен решаться с учетом особенностей конкретного исследования, но в большинстве случаев усечение порядка 20% данных из каждого хвоста распределения можно считать оптимальным.

3. В качестве альтернативы усечению данных может рассматриваться подход, основанный на взвешивании. В рамках этого подхода в расчете меры центральной тенденции участвуют все полученные значения, однако их относительный вес зависит от их удаленности от основного массива данных. Из двух взвешенных оценок центральной тенденции, предложенных в данной работе, по крайней мере одна оценка оказывается предпочтительной по сравнению с большинством других мер и вполне сопоставимой с 20% усеченным средним. При этом несомненное преимущество подхода, основанного на взвешивании, состоит в отсутствии необходимости удаления части имеющихся значений, что особенно актуально для реальных эмпирических данных, когда практически невозможно с уверенностью отнести то или иное значение к категории выбросов.

взвешивание выброс скорость информация

Литература

1. Barnett V., Lewis T. Outliers in statistical data. 3rd ed. New York: Wiley, 1994.

2. Dodonov Y.S. Response time and intelligence: problems of data weighting and averaging // Poster presented on the Eleventh Annual Conference of International Society for Intelligence Research. Alexandria, USA, 2010.

3. Dodonova Y.A., Dodonov Y.S. Speed of emotional information processing and emotional intelligence // International Journal of Psychology (in press).

4. Heathcote A., Popiel S.J., Mewhort D.J. Analysis of response time distributions: An example using the Stroop task // Psychological Bulletin. 1991. Vol. 109. P. 340-347.

5. Hockley W.E. Retrieval processes in continuous recognition // Journal of Experimental Psychology: Learning, Memory, & Cognition. 1982. Vol. 8. P. 497-512.

6. Hockley W.E. Analysis of response time distributions in the study of cognitive processes // Journal of Experimental Psychology: Learning, Memory, & Cognition. 1984. Vol. 10. P. 598-615.

7. Hohle R.H. Inferred components of reaction times as a function of foreperiod duration // Journal of Experimental Psychology. 1965. Vol. 69. P. 382-386.

8. Huber P.J. Robust statistics. New York: Wiley, 1981.

9. Jensen A. The g factor. London: Praeger, 1998.

10. Keselman H.J., Othman A.R., Wilcox R.R., Fradette K. The new and Improved two-sample t test // American Psychological Society. 2004. Vol. 15. P. 47-51.

11. Keselman H.J., Algina J., Lix L. M., Wilcox R.R., Deering K. A generally robust approach for testing hypotheses and setting confidence intervals for effect sizes // Psychological Methods. 2008. Vol. 13. P. 110-129.

12. Lovie P. Identifying outliers // A.D.Lovie (еd.). New developments in statistics for psychology and the social sciences. British Psychological Society: London, 1986. P. 44-69.

13. Luce R.D. Response times: Their role in inferring elementary organization. New York: Oxford University Press, 1996.

14. Othman A.R., Keselman H.J., Padmanabhan A.R., Wilcox R.R., Fradette K. Comparing measures of the `typical' score across treatment groups // British Journal of Mathematical and Statistical Psychology. 2004. Vol. 57. P. 215-234.

15. Ratcliff R. A theory of memory retrieval // Psychological Review. 1978. Vol. 85. P. 59-108.

16. Ratcliff R. Group reaction time distributions and an analysis of distribution statistics // Psychological Bulletin. 1979. Vol. 86. P. 446-461.

17. Ratcliff R. Methods for dealing with reaction time outliers // Psychological Bulletin. 1993. Vol. 114. P. 510-532.

18. Ratcliff R., McKoon G. The diffusion decision model: Theory and data for two-choice decision tasks // Neural Computation. 2008. Vol. 20. P. 873-922.

19. Ratcliff R., Murdock B.B., Jr. Retrieval processes in recognition memory // Psychological Review. 1976. Vol. 83. P. 190-214.

20. Rocke D.M., Downs G.W., Rocke A.J. Are robust estimators really necessary? // Technometrics. 1982. Vol. 24. P. 95-101.

21. Rosenberg, M.S. The file-drawer problem revisited: A general weighted method for calculating fail-safe numbers in meta-analysis // Evolution. 2005. Vol. 59. P. 464-468.

22. Rousseeuw P.J., Croux C. Alternatives to the median absolute deviation // Journal of the American Statistical Association. 1993. Vol. 88. P. 1273-1283.

23. Sheppard L.D., Vernon P.A. Intelligence and speed of information-processing: A review of 50 years of research // Personality and Individual Differences. 2008. Vol. 44(3). P. 535-551.

24. Ulrich R., Miller J. Effects of outlier exclusion on reaction time analysis // Journal of Experimental Psychology: General. 1994. Vol. 123. P. 34-80.

25. Wilcox R.R. Fundamentals of modern statistical methods. New York: Springer, 2001.

26. Wilcox R.R. Applying contemporary statistical techniques. San Diego, CA: Academic Press, 2003.

27. Wilcox R.R. Introduction to robust estimation and hypothesis testing. 2nd ed. San Diego, CA: Academic Press, 2005.

28. Wilcox R.R., Keselman H.J. Modern robust data analysis methods: Measures of central tendency // Psychological Methods. 2005. Vol. 8. P. 254-274.

Приложение

Алгоритмы расчета мер центральной тенденции в программной среде R

# Арифметическое среднее:

mean(x)

# Гармоническое среднее: hM

hM = function(x,n) {y = x[!is.na(x)]; n = length(x); n/sum(1/x)}

# Геометрическое среднее: gM

gM = function(x) {y = x[!is.na(x)]; exp(mean(log(y)))}

# Медиана:

median(x)

# Среднее в двух стандартных отклонениях: m2sd

m2sd = function(x) {y = x[!is.na(x)]; a1 = mean(y) + 2*sd(y)

a2 = mean(y) - 2*sd(y); z = y[y > a2 & y < a1]; mean(z)}

# 20% усеченное среднее:

mean(x,trim = 0,2)

# Винсоризованное среднее: wins

wins = function(x,tr) {y = sort(x); n = length(x); ibot = floor(tr*n) + 1; itop = length(x) - ibot + 1

xbot = y[ibot]; xtop = y[itop]; y = ifelse(y <= xbot, xbot, y); y = ifelse(y >= xtop, xtop, y); mean(y)}

# Одношаговая М оценка

ose = function(x) {y = x[!is.na(x)]; m = median(y); z = abs(y - m); md = median(z)/0.6745

a1 = m - 1.28*md; a2 = m + 1.28*md; d = y[y > a1 & y < a2]

i1 = length(y[y < a1]); i2 = length(y[y > a2]); (1.28*md*(i2 - i1) + sum(d))/length(d)}

# Модифицированная одношаговая М оценка

mose = function(x) {y = x[!is.na(x)]; m = median(y); z = abs(y - m); md = median(z)/0.6745

a1 = m - 2.24*md; a2 = m + 2.24*md; d = y[y >a1 & y < a2]; mean(d)}

# Скалярно-взвешенная оценка

spwe = function(x) {y = x[!is.na(x)]; a = pi/2*(y - min(y))/(max(y) - min(y)); b = a

p = outer(b, a, function(b, a) abs(cos(b - a))); c = y; q = outer(c, y, function(c, y) (c + y)/2)

m1 = p - diag(diag(p)); m2 = q - diag(diag(q)); sum(m1*m2)/sum(m1)}

# Оценка, взвешенная по расстоянию

dwe = function(x) {y = x[!is.na(x)]; a = y; b = y; p = outer(b, a, function(b, a) abs((b - a)))

n = colSums(p)/length(y); w = 1/n; sum(y*w)/sum(w)}

Пример алгоритма компьютерной симуляции данных

Условие с двумя выбросами, текстовое описание параметров генерации:

Mu = 400; Sigma = 20; Nu =100

N = 30; out = 2

y = 1:50000; a1=y; a2 = y; a3 = y; a4 = y; a5 = y; a6 = y; a7 = y; a8 = y; a9 = y; a10 = y; a11 = y

for(i in 1:50000){t = rnorm(N-out, Mu, Sigma) + Nu*rexp(N-out)

p = runif(out, 0, 2000)

x = c(t,p)

a1[i] = mean(x); a2[i] = median(x); a3[i] = hM(x); a4[i] = gM(x); a5[i] = m2sd(x); a6[i] = ose(x)

a7[i] = mose(x); a8[i] = dwe(x); a9[i] = spwe(x); a10[i] = mean(x,trim = 0.2); a11[i] = wins(x,0.2)}

mean(a1); mean(a2); mean(a3); mean(a4); mean(a5); mean(a6)

mean(a7); mean(a8); mean(a9); mean(a10); mean(a11)

sd(a1); sd(a2); sd(a3); sd(a4); sd(a5); sd(a6); sd(a7); sd(a8); sd(a9); sd(a10); sd(a11)

Размещено на Allbest.ru