<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE article PUBLIC "-//NLM//DTD JATS (Z39.96) Journal Publishing DTD v1.3 20210610//EN" "JATS-journalpublishing1-3.dtd">
<article article-type="research-article" dtd-version="1.3" xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xml:lang="ru"><front><journal-meta><journal-id journal-id-type="publisher-id">zldm</journal-id><journal-title-group><journal-title xml:lang="ru">Заводская лаборатория. Диагностика материалов</journal-title><trans-title-group xml:lang="en"><trans-title>Industrial laboratory. Diagnostics of materials</trans-title></trans-title-group></journal-title-group><issn pub-type="ppub">1028-6861</issn><issn pub-type="epub">2588-0187</issn><publisher><publisher-name>ООО «Издательство «ТЕСТ-ЗЛ»</publisher-name></publisher></journal-meta><article-meta><article-id pub-id-type="doi">10.26896/1028-6861-2018-84-3-68-72</article-id><article-id custom-type="elpub" pub-id-type="custom">zldm-696</article-id><article-categories><subj-group subj-group-type="heading"><subject>Research Article</subject></subj-group><subj-group subj-group-type="section-heading" xml:lang="ru"><subject>МАТЕМАТИЧЕСКИЕ МЕТОДЫ ИССЛЕДОВАНИЯ</subject></subj-group><subj-group subj-group-type="section-heading" xml:lang="en"><subject>MATHEMATICAL METHODS OF INVESTIGATION</subject></subj-group></article-categories><title-group><article-title>ОШИБКИ ПРИ ИСПОЛЬЗОВАНИИ КОЭФФИЦИЕНТОВ КОРРЕЛЯЦИИ И ДЕТЕРМИНАЦИИ</article-title><trans-title-group xml:lang="en"><trans-title>ERRORS IN THE USE OF CORRELATION AND DETERMINATION COEFFICIENTS</trans-title></trans-title-group></title-group><contrib-group><contrib contrib-type="author" corresp="yes"><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Орлов</surname><given-names>А. И.</given-names></name><name name-style="western" xml:lang="en"><surname>Orlov</surname><given-names>A. I.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Москва.</p></bio><bio xml:lang="en"><p>Moscow.</p></bio><email xlink:type="simple">prof-orlov@mail.ru</email><xref ref-type="aff" rid="aff-1"/></contrib></contrib-group><aff-alternatives id="aff-1"><aff xml:lang="ru"><institution>Институт высоких статистических технологий и эконометрики Московского государственного технического университета им. Н. Э. Баумана.</institution><country>Россия</country></aff><aff xml:lang="en"><institution>Institute of high statistical technologies and econometrics, N. E. Bauman Moscow State Technical University.</institution><country>Russian Federation</country></aff></aff-alternatives><pub-date pub-type="collection"><year>2018</year></pub-date><pub-date pub-type="epub"><day>05</day><month>04</month><year>2018</year></pub-date><volume>84</volume><issue>3</issue><fpage>68</fpage><lpage>72</lpage><permissions><copyright-statement>Copyright &amp;#x00A9; Орлов А.И., 2018</copyright-statement><copyright-year>2018</copyright-year><copyright-holder xml:lang="ru">Орлов А.И.</copyright-holder><copyright-holder xml:lang="en">Orlov A.I.</copyright-holder><license xml:lang="ru" license-type="creative-commons-attribution" xlink:href="https://creativecommons.org/licenses/by/4.0/" xlink:type="simple"><license-p>Данная работа распространяется под лицензией Creative Commons Attribution 4.0.</license-p></license><license xml:lang="en" license-type="creative-commons-attribution" xlink:href="https://creativecommons.org/licenses/by/4.0/" xlink:type="simple"><license-p>This work is licensed under a Creative Commons Attribution 4.0 License.</license-p></license></permissions><self-uri xlink:href="https://www.zldm.ru/jour/article/view/696">https://www.zldm.ru/jour/article/view/696</self-uri><abstract><p>Коэффициенты корреляции и детерминации широко используют при статистическом анализе данных. При этом достаточно часто допускают те или иные ошибки. Некоторые из них рассмотрены в данной статье. Ограничимся случаем двух переменных. Наиболее часто используют линейный парный коэффициент корреляции Пирсона и непараметрические ранговые коэффициенты Спирмена и Кендалла. Согласно теории измерений коэффициент корреляции Пирсона можно применять к переменным, измеренным в шкале интервалов (и в шкалах с более узкой группой допустимых преобразований, например, в шкале отношений). Его нельзя применять при анализе порядковых данных. Непараметрические ранговые коэффициенты Спирмена и Кендалла предназначены для оценки связи порядковых переменных. Их можно использовать и в шкалах с более узкой группой допустимых преобразований, например, в шкалах интервалов или отношений. Критическое значение при проверке значимости отличия коэффициента корреляции от нуля зависит от объема выборки и приближается к нулю при его росте. Поэтому использование «шкалы Чеддока» некорректно. При применении пассивного эксперимента коэффициенты корреляции можно обоснованно использовать лишь для прогнозирования, но не для управления. Для получения предназначенных для управления вероятностно-статистических моделей необходим активный эксперимент. Как показал С. Н. Бернштейн, влияние выбросов на коэффициент корреляции Пирсона весьма велико. Эффект «вздувания» коэффициента корреляции состоит в том, что при увеличении числа проанализированных наборов предикторов заметно растет максимальный из соответствующих коэффициентов корреляции — показателей качества приближения. Распространенная ошибка состоит в использовании коэффициента детерминации для оценки качества восстановления зависимости методом наименьших квадратов.</p></abstract><trans-abstract xml:lang="en"><p>Coefficients of correlation and determination are widely used in statistical analysis of data. Some of the errors attributed to their use are considered in this article. We confine ourselves to the case of two variables. The linear Pearson correlation coefficient and nonparametric rank coefficients of Spearman and Kendall are used most commonly. According to the theory of measurements, the Pearson correlation coefficient can be applied to variables measured in the interval scale (and in scales with a narrower group of permissible transformations, for example, in the ratio scale) but it cannot be used in analysis of ordinal data. Spearman and Kendall’s nonparametric rank coefficients are designed to evaluate the relationship of ordinal variables. They can also be used in scales with a narrower group of permissible transformations, for example, in the scales of intervals or ratios. The critical value in testing the significance of the difference in the correlation coefficient from zero depends on the sample size and approaches zero as the sample size grows. Therefore, the use of the «Cheddock scale» is incorrect. When using a passive experiment, the correlation coefficients can be reasonably used only for forecasting, but not for control. To obtain the statistical models valid for control, an active experiment is required. S. N. Bernshtein has shown that the effect of outliers on the Pearson correlation coefficient is very large. The effect of «inflation» of the correlation coefficient is that with increasing number of analyzed sets of predictors, the maximum of the corresponding correlation coefficients, the quality of approximation, increases noticeably. A common mistake is to use the determination coefficient to estimate the quality of the least-squares recovery.</p></trans-abstract><kwd-group xml:lang="ru"><kwd>математическая статистика</kwd><kwd>коэффициент корреляции Пирсона</kwd><kwd>непараметрические ранговые коэффициенты корреляции</kwd><kwd>выбросы</kwd><kwd>коэффициент детерминации</kwd><kwd>распространенные ошибочные выводы</kwd></kwd-group><kwd-group xml:lang="en"><kwd>mathematical statistics</kwd><kwd>Pearson correlation coefficient</kwd><kwd>nonparametric rank correlation coefficients</kwd><kwd>outliers</kwd><kwd>determination coefficient</kwd><kwd>common erroneous conclusions</kwd></kwd-group></article-meta></front><back><ref-list><title>References</title><ref id="cit1"><label>1</label><citation-alternatives><mixed-citation xml:lang="ru">Орлов А. И. Прикладная статистика. — М.: Экзамен, 2006. — 671 с.</mixed-citation><mixed-citation xml:lang="en">Orlov A. I. Applied statistics. — Moscow: Ekzamen, 2006. — 671 p. [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit2"><label>2</label><citation-alternatives><mixed-citation xml:lang="ru">Орлов А. И. Устойчивость в социально-экономических моделях. — М.: Наука, 1979. — 296 с.</mixed-citation><mixed-citation xml:lang="en">Orlov A. I. Stability in socio-economic models. — Moscow: Nauka, 1979. — 296 p. [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit3"><label>3</label><citation-alternatives><mixed-citation xml:lang="ru">Налимов В. В. Теория эксперимента. — М.: Наука, 1971. — 208 с.</mixed-citation><mixed-citation xml:lang="en">Nalimov V. V. Theory of experiment. — Moscow: Nauka, 1971. — 208 p. [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit4"><label>4</label><citation-alternatives><mixed-citation xml:lang="ru">Ермаков С. М., Бродский В. З., Жиглявский А. А. и др. Математическая теория планирования эксперимента. — М.: Физматлит, 1983. — 392 с.</mixed-citation><mixed-citation xml:lang="en">Ermakov S. M., Brodskii V. Z., Zhiglyavskii A. A., et al. Mathematical theory of design of experiments. — Moscow: Fizmatlit, 1983. — 392 p. [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit5"><label>5</label><citation-alternatives><mixed-citation xml:lang="ru">Бернштейн С. Н. Об одном элементарном свойстве коэффициента корреляции / Зап. Харьк. матем. тов. 1932. № 5. С. 65 – 66; Бернштейн С. Н. Собрание сочинений. Т. IV. Теория вероятностей. Математическая статистика. — М.: Наука, 1964. С. 233 – 234.</mixed-citation><mixed-citation xml:lang="en">Bernshtein S. N. On an elementary property of the correlation coefficient / Zap. Khar’k. Matem. Tov. 1932. N 5. P. 65 – 66 [in Russian]; Bernshtein S. N. Collected works. Vol. IV. Probability theory. Mathematical statistics. — Moscow: Nauka, 1964. P. 233 – 234 [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit6"><label>6</label><citation-alternatives><mixed-citation xml:lang="ru">Колмогоров А. Н. К вопросу о пригодности найденных статистическим путем формул прогноза / Журн. геофиз. 1933. Т. 3. С. 78 – 82; Колмогоров А. Н. Теория вероятностей и математическая статистика. — М.: Наука, 1986. С. 161 – 167.</mixed-citation><mixed-citation xml:lang="en">Kolmogorov A. N. To the question of the suitability of the predicted formulas found statisticall / Zh. Geofiz. 1933. Vol. 3. P. 78 – 82; Kolmogorov A. N. Theory of Probability and Mathematical Statistics. — Moscow: Nauka, 1986. P. 161 – 167 [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit7"><label>7</label><citation-alternatives><mixed-citation xml:lang="ru">Орлов А. И. Методы поиска наиболее информативных множеств признаков в регрессионном анализе / Заводская лаборатория. Диагностика материалов. 1995. Т. 61. № 1. С. 56 – 58.</mixed-citation><mixed-citation xml:lang="en">Orlov A. I. Methods for finding the most informative sets of characteristics in regression analysis / Zavod. Lab. Diagn. Mater. 1995. Vol. 61. N 1. P. 56 – 58 [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit8"><label>8</label><citation-alternatives><mixed-citation xml:lang="ru">Орлов А. И. Проблема множественных проверок статистических гипотез / Заводская лаборатория. Диагностика материалов. 1996. Т. 62. № 5. С. 51 – 54.</mixed-citation><mixed-citation xml:lang="en">Orlov A. I. The problem of multiple tests of statistical hypotheses / Zavod. Lab. Diagn. Mater. 1996. Vol. 62. N 5. P. 51 – 54.</mixed-citation></citation-alternatives></ref><ref id="cit9"><label>9</label><citation-alternatives><mixed-citation xml:lang="ru">Сердобольский В. И., Орлов А. И. Статистический анализ при большом числе параметров / Программно-алгоритмическое обеспечение прикладного многомерного статистического анализа. Тезисы докладов III Всесоюзной школы-семинара. — М.: ЦЭМИ АН СССР, 1987. С. 151 – 160.</mixed-citation><mixed-citation xml:lang="en">Serdobol’skii V. I., Orlov A. I. Statistical analysis with a large number of parameters / Software and algorithmic support of applied multidimensional statistical analysis. Abstracts of the III All-Union School-Seminar. — Moscow: TsЙMI AN SSSR, 1987. P. 151 – 160.</mixed-citation></citation-alternatives></ref><ref id="cit10"><label>10</label><citation-alternatives><mixed-citation xml:lang="ru">Орлов А. И. Организационно-экономическое моделирование: учебник. В 3-х ч. Ч. 1. Нечисловая статистика. — М.: Изд-во МГТУ им. Н. Э. Баумана, 2009. — 542 с.</mixed-citation><mixed-citation xml:lang="en">Orlov A. I. Organizational-economic modeling: textbook. In 3 parts. Part 1. Non-numeric statistics. — Moscow: Izd. MGTU im. N. Й. Baumana, 2009. — 542 p. [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit11"><label>11</label><citation-alternatives><mixed-citation xml:lang="ru">Орлов А. И. Статистический контроль по двум альтернативным признакам и метод проверки их независимости по совокупности малых выборок / Заводская лаборатория. Диагностика материалов. 2000. Т. 66. № 1. С. 58 – 62.</mixed-citation><mixed-citation xml:lang="en">Orlov A. I. Statistical control of two alternative variables and a method for verifying their independence from a set of small samples / Zavod. Lab. Diagn. Mater. 2000. Vol. 66. N 1. P. 58 – 62 [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit12"><label>12</label><citation-alternatives><mixed-citation xml:lang="ru">Лойко В. И., Луценко Е. В., Орлов А. И. Современные подходы в наукометрии: монография. — Краснодар: КубГАУ, 2017. — 532 с. https://elibrary.ru/item.asp?id=29306423.</mixed-citation><mixed-citation xml:lang="en">Loiko V. I., Lutsenko E. V., Orlov A. I. Modern approaches in scientometrics: monograph. — Krasnodar: KubGAU, 2017. — 532 p. https://elibrary.ru/item.asp?id=29306423 [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit13"><label>13</label><citation-alternatives><mixed-citation xml:lang="ru">Орлов А. И. Статистические пакеты — инструменты исследователя / Заводская лаборатория. Диагностика материалов. 2008. Т. 74. № 5. С. 76 – 78.</mixed-citation><mixed-citation xml:lang="en">Orlov A. I. Statistical packages — researcher tools / Zavod. Lab. Diagn. Mater. 2008. Vol. 74. N 5. P. 76 – 78 [in Russian].</mixed-citation></citation-alternatives></ref></ref-list><fn-group><fn fn-type="conflict"><p>The authors declare that there are no conflicts of interest present.</p></fn></fn-group></back></article>
