<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE article PUBLIC "-//NLM//DTD JATS (Z39.96) Journal Publishing DTD v1.3 20210610//EN" "JATS-journalpublishing1-3.dtd">
<article article-type="research-article" dtd-version="1.3" xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xml:lang="ru"><front><journal-meta><journal-id journal-id-type="publisher-id">zldm</journal-id><journal-title-group><journal-title xml:lang="ru">Заводская лаборатория. Диагностика материалов</journal-title><trans-title-group xml:lang="en"><trans-title>Industrial laboratory. Diagnostics of materials</trans-title></trans-title-group></journal-title-group><issn pub-type="ppub">1028-6861</issn><issn pub-type="epub">2588-0187</issn><publisher><publisher-name>ООО «Издательство «ТЕСТ-ЗЛ»</publisher-name></publisher></journal-meta><article-meta><article-id pub-id-type="doi">10.26896/1028-6861-2018-84-5-63-73</article-id><article-id custom-type="elpub" pub-id-type="custom">zldm-738</article-id><article-categories><subj-group subj-group-type="heading"><subject>Research Article</subject></subj-group><subj-group subj-group-type="section-heading" xml:lang="ru"><subject>МАТЕМАТИЧЕСКИЕ МЕТОДЫ ИССЛЕДОВАНИЯ</subject></subj-group><subj-group subj-group-type="section-heading" xml:lang="en"><subject>MATHEMATICAL METHODS OF INVESTIGATION</subject></subj-group></article-categories><title-group><article-title>МНОГООБРАЗИЕ МОДЕЛЕЙ РЕГРЕССИОННОГО АНАЛИЗА (обобщающая статья)</article-title><trans-title-group xml:lang="en"><trans-title>DIVERSITY OF THE MODELS FOR REGRESSION ANALYSIS (generalizing article)</trans-title></trans-title-group></title-group><contrib-group><contrib contrib-type="author" corresp="yes"><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Орлов</surname><given-names>А. И.</given-names></name><name name-style="western" xml:lang="en"><surname>Orlov</surname><given-names>A. I.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Александр Иванович Орлов</p></bio><bio xml:lang="en"><p>Alexandr I. Orlov</p></bio><email xlink:type="simple">prof-orlov@mail.ru</email><xref ref-type="aff" rid="aff-1"/></contrib></contrib-group><aff-alternatives id="aff-1"><aff xml:lang="ru"><institution>Институт высоких статистических технологий и эконометрики Московского государственного технического университета им. Н.Э. Баумана</institution><country>Россия</country></aff><aff xml:lang="en"><institution>Institute of high statistical technologies and econometrics of Bauman Moscow State Technical University; Moscow Institute of Physics and Technology</institution><country>Russian Federation</country></aff></aff-alternatives><pub-date pub-type="collection"><year>2018</year></pub-date><pub-date pub-type="epub"><day>07</day><month>06</month><year>2018</year></pub-date><volume>84</volume><issue>5</issue><fpage>63</fpage><lpage>73</lpage><permissions><copyright-statement>Copyright &amp;#x00A9; Орлов А.И., 2018</copyright-statement><copyright-year>2018</copyright-year><copyright-holder xml:lang="ru">Орлов А.И.</copyright-holder><copyright-holder xml:lang="en">Orlov A.I.</copyright-holder><license xml:lang="ru" license-type="creative-commons-attribution" xlink:href="https://creativecommons.org/licenses/by/4.0/" xlink:type="simple"><license-p>Данная работа распространяется под лицензией Creative Commons Attribution 4.0.</license-p></license><license xml:lang="en" license-type="creative-commons-attribution" xlink:href="https://creativecommons.org/licenses/by/4.0/" xlink:type="simple"><license-p>This work is licensed under a Creative Commons Attribution 4.0 License.</license-p></license></permissions><self-uri xlink:href="https://www.zldm.ru/jour/article/view/738">https://www.zldm.ru/jour/article/view/738</self-uri><abstract><p>Научные результаты работ необходимо упорядочивать. Важное значение имеют единообразное понимание терминов, знание фактов и тенденций развития. Статья посвящена обсуждению этих вопросов на примере «модели регрессионного анализа (восстановления зависимостей)» в целях формирования единой методологической базы для обсуждения различных частных вопросов в этой области. Рассмотрены четыре метода восстановления зависимости. Выделены модели метода наименьших квадратов с детерминированной независимой переменной. Согласно новой парадигме прикладной статистики следует считать распределение отклонений (погрешностей, невязок) произвольным, с одним ограничением — для получения предельных распределений оценок параметров и зависимости целесообразно предположить выполнение условий центральной предельной теоремы. Другой основной тип вероятностно-статистических моделей метода наименьших квадратов основан на выборке случайных векторов. Зависимость является непараметрической и распределение двумерного вектора — произвольным. Об оценке дисперсии независимой переменной можно говорить только в модели на основе выборки случайных векторов, о коэффициенте детерминации как критерии качества модели — только в случае выборки случайных векторов. Исследованы вопросы сглаживания временных рядов. Рассмотрены методы восстановления зависимостей в пространствах общей природы. Показано, что предельное распределение естественной оценки размерности модели является геометрическим, а построение информативного подмножества признаков наталкивается на эффект «вздувания коэффициентов корреляции». Обсуждаются различные подходы к регрессионному анализу интервальных данных, констатируется уход в прошлое подхода так называемого конфлюэнтного анализа. Многообразие моделей регрессионного анализа приводит к выводу, что не существует единой «стандартной модели». Критический разбор устоявшихся взглядов необходим для квалифицированного развития и применения математических методов исследования, в частности, для перехода на современную парадигму прикладной статистики.</p></abstract><trans-abstract xml:lang="en"><p>Streamlining the results of scientific research entails the necessity of the uniform understanding of terminology, accumulation of facts and insight of the development trend. We consider those issues on the example of «regression analysis model (recovery of the dependencies)» to form a unified methodological base for discussing various particular issues in this field. Four methods are considered. The models of the method of least squares with deterministic independent variable are singled out. According to the new paradigm of applied statistics, the distribution of deviations (errors, discrepancies) should be considered arbitrary, with one restriction, to obtain the limiting distributions of the estimates of parameters and dependencies, it is expedient to assume the fulfillment of conditions of the central limit theorem. The second basic type of probabilistic-statistical models of the method of least squares is based on a sample of random vectors. The dependence is nonparametric and distribution of the two-dimensional vector is arbitrary. Estimate of the variance of the independent variable can be considered only in a model based on a sample of random vectors, as well as the coefficient of determination as a criterion for the quality of the model. The issues of smoothing time series are discussed. Methods of reconstructing dependencies in spaces of general nature are considered. It is shown that the limiting distribution of the natural estimate of the dimensionality of the model is geometric, and construction of the informative subset of features comes across the effect of «inflation of the correlation coefficients». Different approaches to the regression analysis of interval data are discussed: the approach of confluent analysis becomes a thing of the past. An analysis of the variety of models of regression analysis leads to the conclusion that there is no single «standard model». Critical analysis of the hardened beliefs is necessary for competent development and application of mathematical methods of research, in particular, for transition to a modern paradigm of applied statistics.</p></trans-abstract><kwd-group xml:lang="ru"><kwd>математическая статистика</kwd><kwd>новая парадигма прикладной статистики</kwd><kwd>регрессионный анализ</kwd><kwd>метод наименьших квадратов</kwd><kwd>непараметрическая статистика</kwd><kwd>нечисловая статистика</kwd><kwd>оценка размерности модели</kwd><kwd>статистика интервальных данных</kwd></kwd-group><kwd-group xml:lang="en"><kwd>mathematical statistics</kwd><kwd>new paradigm of applied statistics</kwd><kwd>regression analysis</kwd><kwd>least-squares methods</kwd><kwd>nonparametric statistics</kwd><kwd>non-numerical statistics</kwd><kwd>estimation of the dimensionality of the model</kwd><kwd>statistics of interval data</kwd></kwd-group></article-meta></front><back><ref-list><title>References</title><ref id="cit1"><label>1</label><citation-alternatives><mixed-citation xml:lang="ru">Орлов А. И. Первый Всемирный конгресс Общества математической статистики и теории вероятностей им. Бернулли / Заводская лаборатория. 1987. Т. 53. № 3. С. 90 – 91.</mixed-citation><mixed-citation xml:lang="en">Orlov A. I. The First World Congress of the Bernoulli Society for Mathematical Statistics and Probability Theory / Zavod. Lab. 1987. Vol. 53. N 3. P. 90 – 91 [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit2"><label>2</label><citation-alternatives><mixed-citation xml:lang="ru">Орлов А. И. Прикладная статистика. — М.: Экзамен, 2006. — 671 с.</mixed-citation><mixed-citation xml:lang="en">Orlov A. I. Applied statistics. — Moscow: Ékzamen, 2006. — 671 p. [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit3"><label>3</label><citation-alternatives><mixed-citation xml:lang="ru">Тырсин А. Н., Максимов К. Е. Оценивание линейных регрессионных уравнений с помощью метода наименьших модулей / Заводская лаборатория. Диагностика материалов. 2012. Т. 78. № 7. С. 65 – 71.</mixed-citation><mixed-citation xml:lang="en">Tyrsin A. N., Maksimov K. E. Estimation of the linear regression equations using the least-modules method / Zavod. Lab. Diagn. Mater. 2012. Vol. 78. N 7. P. 65 – 71 [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit4"><label>4</label><citation-alternatives><mixed-citation xml:lang="ru">Орлов А. И. Часто ли распределение результатов наблюдений является нормальным? / Заводская лаборатория. 1991. Т. 57. № 7. С. 64 – 66.</mixed-citation><mixed-citation xml:lang="en">Orlov A. I. How often the distribution of the results of observations is normal? / Zavod. Lab. 1991. Vol. 57. N 7. P. 64 – 66 [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit5"><label>5</label><citation-alternatives><mixed-citation xml:lang="ru">Орлов А. И. Новая парадигма прикладной статистики / Заводская лаборатория. Диагностика материалов. 2012. Т. 78. № 1. Ч. I. С. 87 – 93.</mixed-citation><mixed-citation xml:lang="en">Orlov A. I. The new paradigm of Applied Statistics / Zavod. Lab. Diagn. Mater. 2012. Vol. 78. N 1. Part I. P. 87 – 93 [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit6"><label>6</label><citation-alternatives><mixed-citation xml:lang="ru">Гнеденко Б. В. Курс теории вероятностей. Изд. 8-е, испр. и доп. — М.: Едиториал УРСС, 2005. — 448 с.</mixed-citation><mixed-citation xml:lang="en">Gnedenko B. V. Course of the of Probability Theory. — Moscow: Editorial URSS, 2005. — 448 p. [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit7"><label>7</label><citation-alternatives><mixed-citation xml:lang="ru">Орлов А. И. Структура непараметрической статистики (обобщающая статья) / Заводская лаборатория. Диагностика материалов. 2015. Т. 81. № 7. С. 62 – 72.</mixed-citation><mixed-citation xml:lang="en">Orlov A. I. Structure of nonparametric statistics (generalizing paper) / Zavod. Lab. Diagn. Mater. 2015. Vol. 81. N 7. P. 62 – 72 [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit8"><label>8</label><citation-alternatives><mixed-citation xml:lang="ru">Королюк В. С., Портенко Н. И., Скороход А. В., Турбин А. Ф. Справочник по теории вероятностей и математической статистике. — М.: Наука, 1985. — 640 с.</mixed-citation><mixed-citation xml:lang="en">Korolyuk V. S., Portenko N. I., Skorokhod A. V., Turbin A. F. Handbook on Probability Theory and Mathematical Statistics. — Moscow: Nauka, 1985. — 640 p. [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit9"><label>9</label><citation-alternatives><mixed-citation xml:lang="ru">Копаев Б. В. В методе наименьших квадратов надо заменить абсолютные отклонения относительными / Заводская лаборатория. Диагностика материалов. 2012. Т. 78. № 7. С. 76 – 76.</mixed-citation><mixed-citation xml:lang="en">Kopaev B. V. In the method of least squares, it is necessary to replace the absolute deviations with relative / Zavod. Lab. Diagn. Mater. 2012. Vol. 78. N 7. P. 76 – 76 [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit10"><label>10</label><citation-alternatives><mixed-citation xml:lang="ru">Орлов А. И. Асимптотика оценок плотности распределения вероятностей / Политематический сетевой электронный научный журнал Кубанского государственного аграрного университета. 2017. № 131. С. 845 – 873.</mixed-citation><mixed-citation xml:lang="en">Orlov A. I. Asymptotics of estimates of the probability distribution density / Politem. Set. Élektr. Nauch. Zh. Kuban. Gos. Agrar. Univ. 2017. N 131. P. 845 – 873 [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit11"><label>11</label><citation-alternatives><mixed-citation xml:lang="ru">Орлов А. И. Непараметрический метод наименьших квадратов с периодической составляющей / Заводская лаборатория. Диагностика материалов. 2014. Т. 80. № 1. С. 65 – 75.</mixed-citation><mixed-citation xml:lang="en">Orlov A. I. Nonparametric method of least squares with periodic component / Zavod. Lab. Diagn. Mater. 2014. Vol. 80. N 1. P. 65 – 75 [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit12"><label>12</label><citation-alternatives><mixed-citation xml:lang="ru">Орлов А. И. Организационно-экономическое моделирование: учебник. В 3-х ч. Ч. 1. Нечисловая статистика. — М.: Изд-во МГТУ им. Н. Э. Баумана, 2009. — 542 с.</mixed-citation><mixed-citation xml:lang="en">Orlov A. I. Organizational-economic modeling: Textbook. Part 1. Nonnumeric statistics. — Moscow: Izd. MGTU im. N. Й. Baumana, 2009. — 542 p. [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit13"><label>13</label><citation-alternatives><mixed-citation xml:lang="ru">Себер Дж. Линейный регрессионный анализ. — М.: Мир, 1980. — 456 с.</mixed-citation><mixed-citation xml:lang="en">Seber G. A. F. Linear regression analysis. — New York – London – Sydney – Toronto: Jonn Wiley and Sons, 1977. — 456 p.</mixed-citation></citation-alternatives></ref><ref id="cit14"><label>14</label><citation-alternatives><mixed-citation xml:lang="ru">Орлов А. И. Асимптотика некоторых оценок размерности модели в регрессии / Прикладная статистика. Ученые записки по статистике. Т. 45. — М.: Наука, 1983. С. 260 – 265.</mixed-citation><mixed-citation xml:lang="en">Orlov A. I. Asymptotics of some estimates of the dimensionality of the model in regression / Applied statistics. Scientific notes on statistics. Vol. 45. — Moscow: Nauka, 1983. P. 260 – 265 [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit15"><label>15</label><citation-alternatives><mixed-citation xml:lang="ru">Орлов А. И. Об оценивании регрессионного полинома / Заводская лаборатория. 1994. Т. 60. № 5. С. 43 – 47.</mixed-citation><mixed-citation xml:lang="en">Orlov A. I. Regression polynomial estimation / Zavod. Lab. 1994. Vol. 60. N 5. P. 43 – 47 [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit16"><label>16</label><citation-alternatives><mixed-citation xml:lang="ru">Орлов А. И. Методы поиска наиболее информативных множеств признаков в регрессионном анализе / Заводская лаборатория. Диагностика материалов. 1995. Т. 61. № 1. С. 56 – 58.</mixed-citation><mixed-citation xml:lang="en">Orlov A. I. Methods for finding the most informative sets of characteristics in regression analysis / Zavod. Lab. Diagn. Mater. 1995. Vol. 61. N 1. P. 56 – 58 [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit17"><label>17</label><citation-alternatives><mixed-citation xml:lang="ru">Колмогоров А. Н. К вопросу о пригодности найденных статистическим путем формул прогноза / Журнал геофизики. 1933. Т. 3. С. 78 – 82.</mixed-citation><mixed-citation xml:lang="en">Kolmogorov A. N. To the question of the suitability of the predicted formulas found statistically / Zh. Geofiz. 1933. Vol. 3. P. 78 – 82 [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit18"><label>18</label><citation-alternatives><mixed-citation xml:lang="ru">Орлов А. И. Проблема множественных проверок статистических гипотез / Заводская лаборатория. Диагностика материалов. 1996. Т. 62. № 5. С. 51 – 54.</mixed-citation><mixed-citation xml:lang="en">Orlov A. I. The problem of multiple tests of statistical hypotheses / Zavod. Lab. Diagn. Mater. 1996. Vol. 62. N 5. P. 51 – 54 [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit19"><label>19</label><citation-alternatives><mixed-citation xml:lang="ru">Орлов А. И. Статистика интервальных данных (обобщающая статья) / Заводская лаборатория. Диагностика материалов. 2015. Т. 81. № 3. С. 61 – 69.</mixed-citation><mixed-citation xml:lang="en">Orlov A. I. Statistics of interval data (generalizing article) / Zavod. Lab. Diagn. Mater. 2015. Vol. 81. N 3. P. 61 – 69 [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit20"><label>20</label><citation-alternatives><mixed-citation xml:lang="ru">Гуськова Е. А., Орлов А. И. Интервальная линейная парная регрессия (обобщающая статья) / Заводская лаборатория. Диагностика материалов. 2005. Т. 71. № 3. С. 57 – 63.</mixed-citation><mixed-citation xml:lang="en">Gus’kova E. A., Orlov A. I. Interval linear pair regression (generalizing article) / Zavod. Lab. Diagn. Mater. 2005. Vol. 71. N 3. P. 57 – 63 [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit21"><label>21</label><citation-alternatives><mixed-citation xml:lang="ru">Орлов А. И. Теория принятия решений. — М.: Экзамен, 2006. — 576 с.</mixed-citation><mixed-citation xml:lang="en">Orlov A. I. Decision theory. — Moscow: Ékzamen, 2006. — 576 p. [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit22"><label>22</label><citation-alternatives><mixed-citation xml:lang="ru">Орлов А. И., Луценко Е. В. Системная нечеткая интервальная математика. — Краснодар: КубГАУ, 2014. — 600 с.</mixed-citation><mixed-citation xml:lang="en">Orlov A. I., Lutsenko E. V. System fuzzy interval mathematics. — Krasnodar: KubGAU, 2014. — 600 p. [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit23"><label>23</label><citation-alternatives><mixed-citation xml:lang="ru">Вощинин А. П. Метод анализа данных с интервальными ошибками в задачах проверки гипотез и оценивания параметров неявных линейно параметризованных функций / Заводская лаборатория. Диагностика материалов. 2000. Т. 66. № 3. С. 51 – 64.</mixed-citation><mixed-citation xml:lang="en">Voshchinin A. P. Method of data analysis with interval errors in problems of hypothesis testing and estimation of parameters of implicit linearly parametrized functions / Zavod. Lab. Diagn. Mater. 2000. Vol. 66. N 3. P. 51 – 64 [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit24"><label>24</label><citation-alternatives><mixed-citation xml:lang="ru">Вощинин А. П. Интервальный анализ данных: развитие и перспективы / Заводская лаборатория. Диагностика материалов. 2002. Т. 68. № 1. С. 118 – 125.</mixed-citation><mixed-citation xml:lang="en">Voshchinin A. P. Interval analysis of data: development and prospects / Zavod. Lab. Diagn. Mater. 2002. Vol. 68. N 1. P. 118 – 125 [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit25"><label>25</label><citation-alternatives><mixed-citation xml:lang="ru">Вощинин А. П., Скибицкий Н. В. Интервальный подход к выражению неопределенности измерений и калибровке цифровых измерительных систем / Заводская лаборатория. Диагностика материалов. 2007. Т. 73. № 11. С. 68 – 71.</mixed-citation><mixed-citation xml:lang="en">Voshchinin A. P., Skibitskii N. V. Interval approach to the expression of measurement uncertainty and calibration of digital measuring systems / Zavod. Lab. Diagn. Mater. 2007. Vol. 73. N 11. P. 68 – 71 [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit26"><label>26</label><citation-alternatives><mixed-citation xml:lang="ru">Скибицкий Н. В., Севальнев Н. В. Интервальные модели в задачах оптимального управления с дифференциальными связями / Заводская лаборатория. Диагностика материалов. 2015. Т. 81. № 11. С. 73 – 80.</mixed-citation><mixed-citation xml:lang="en">Skibitskii N. V., Seval’nev N. V. Interval models in optimal control problems with differential constraints / Zavod. Lab. Diagn. Mater. 2015. Vol. 81. N 11. P. 73 – 80 [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit27"><label>27</label><citation-alternatives><mixed-citation xml:lang="ru">Скибицкий Н. В. Применение статистического подхода к построению прямых и обратных характеристик объектов / Заводская лаборатория. Диагностика материалов. 2016. Т. 82. № 11. С. 67 – 75.</mixed-citation><mixed-citation xml:lang="en">Skibitskii N. V. The application of the statistical approach to the construction of forward and backward characteristics of objects / Zavod. Lab. Diagn. Mater. 2016. Vol. 82. N 11. P. 67 – 75 [in Russian].</mixed-citation></citation-alternatives></ref><ref id="cit28"><label>28</label><citation-alternatives><mixed-citation xml:lang="ru">Скибицкий Н. В. Построение прямых и обратных статических характеристик объектов по интервальным данным / Заводская лаборатория. Диагностика материалов. 2017. Т. 83. № 1. Ч. 1. С. 87 – 93.</mixed-citation><mixed-citation xml:lang="en">Skibitskii N. V. Constructing forward and reverse static characteristics of objects by interval data / Zavod. Lab. Diagn. Mater. 2017. Vol. 83. N 1. Part 1. P. 87 – 93 [in Russian].</mixed-citation></citation-alternatives></ref></ref-list><fn-group><fn fn-type="conflict"><p>The authors declare that there are no conflicts of interest present.</p></fn></fn-group></back></article>
