Статистика - линейная регрессия

После того, как степень взаимосвязи между переменными была установлена с помощью анализа взаимосвязей, естественно углубиться в природу взаимосвязи. Регрессионный анализ помогает определить причинно-следственную связь между переменными. Можно предсказать значение других переменных (называемых зависимыми переменными), если значения независимых переменных можно предсказать, используя графический или алгебраический метод.

Графический метод

Он включает в себя построение диаграммы рассеяния с независимой переменной по оси X и зависимой переменной по оси Y. После этого проводится линия таким образом, что она проходит через большую часть распределения, а оставшиеся точки распределяются почти равномерно по обе стороны от линии.

Линия регрессии известна как линия наилучшего соответствия, которая суммирует общее движение данных. Он показывает лучшие средние значения одной переменной, соответствующие средним значениям другой. Линия регрессии основана на критерии, согласно которому это прямая линия, которая минимизирует сумму квадратов отклонений между прогнозируемыми и наблюдаемыми значениями зависимой переменной.

Алгебраический метод

Алгебраический метод строит два уравнения регрессии X на Y и Y на X.

Уравнение регрессии Y на X

$ {Y = a + bX} $

Где -

$ {Y} $ = Зависимая переменная
$ {X} $ = независимая переменная
$ {a} $ = Постоянно показывает точку пересечения по оси Y
$ {b} $ = Постоянно показывает наклон линии

Значения a и b получаются с помощью следующих нормальных уравнений:

$ {\ sum Y = Na + b \ sum X \\ [7pt] \ sum XY = a \ sum X + b \ sum X ^ 2} $

Где -

$ {N} $ = Количество наблюдений

Уравнение регрессии X на Y

$ {X = a + bY} $

Где -

$ {X} $ = Зависимая переменная
$ {Y} $ = независимая переменная
$ {a} $ = Постоянно показывает точку пересечения по оси Y
$ {b} $ = Постоянно показывает наклон линии

Значения a и b получаются с помощью следующих нормальных уравнений:

$ {\ sum X = Na + b \ sum Y \\ [7pt] \ sum XY = a \ sum Y + b \ sum Y ^ 2} $

Где -

$ {N} $ = Количество наблюдений

пример

Problem Statement:

Исследователь обнаружил, что существует взаимосвязь между тенденциями веса отца и сына. Теперь он заинтересован в разработке уравнения регрессии для двух переменных из заданных данных:

Вес отца (в кг)	69	63	66	64	67	64	70	66	68	67	65	71
Вес сына (в кг)	70	65	68	65	69	66	68	65	71	67	64	72

Разработать

Уравнение регрессии Y на X.
Уравнение регрессии по Y.

Solution:

$ {X} $	$ {X ^ 2} $	$ {Y} $	$ {Y ^ 2} $	$ {XY} $
69	4761	70	4900	4830
63	3969	65	4225	4095
66	4356	68	4624	4488
64	4096	65	4225	4160
67	4489	69	4761	4623
64	4096	66	4356	4224
70	4900	68	4624	4760
66	4356	65	4225	4290
68	4624	71	5041	4828
67	4489	67	4489	4489
65	4225	64	4096	4160
71	5041	72	5184	5112
$ {\ sum X = 800} $	$ {\ sum X ^ 2 = 53,402} $	$ {\ sum Y = 810} $	$ {\ sum Y ^ 2 = 54 750} $	$ {\ sum XY = 54 059} $

Уравнение регрессии Y на X

Y = a + bX

Где, a и b получаются нормальными уравнениями

$ {\ sum Y = Na + b \ sum X \\ [7pt] \ sum XY = a \ sum X + b \ sum X ^ 2 \\ [7pt] где \ \ sum Y = 810, \ sum X = 800 , \ sum X ^ 2 = 53,402 \\ [7pt], \ sum XY = 54, 049, N = 12} $

$ {\ Rightarrow} $ 810 = 12a + 800b ... (i)

$ {\ Rightarrow} $ 54049 = 800a + 53402 b ... (ii)

Умножая уравнение (i) на 800 и уравнение (ii) на 12, получаем:

96000 a + 640000 b = 648000 ... (iii)

96000 a + 640824 b = 648588 ... (iv)

Вычитая уравнение (iv) из (iii)

-824 б = -588

$ {\ Rightarrow} $ b = -.0713

Подставляя значение b в ур. (я)

810 = 12a + 800 (-0,713)

810 = 12a + 570,4

12а = 239,6

$ {\ Rightarrow} $ a = 19,96

Следовательно, уравнение Y на X можно записать как

$ {Y = 19,96–0,713X} $

Уравнение регрессии X на Y

X = a + bY

Где, a и b получаются нормальными уравнениями

$ {\ sum X = Na + b \ sum Y \\ [7pt] \ sum XY = a \ sum Y + b \ sum Y ^ 2 \\ [7pt] где \ \ sum Y = 810, \ sum Y ^ 2 = 54,750 \\ [7pt], \ sum XY = 54, 049, N = 12} $

$ {\ Rightarrow} $ 800 = 12a + 810a + 810b ... (V)

$ {\ Rightarrow} $ 54 049 = 810a + 54, 750 ... (vi)

Умножая eq (v) на 810 и eq (vi) на 12, мы получаем

9720 a + 656100 b = 648000 ... (vii)

9720 a + 65700 b = 648588 ... (viii)

Вычитая уравнение viii из уравнения vii

900b = -588

$ {\ Rightarrow} $ b = 0,653

Подставляя значение b в уравнение (v)

800 = 12a + 810 (0,653)

12a = 271,07

$ {\ Rightarrow} $ a = 22,58