Статистика - линейная регрессия

После того, как степень взаимосвязи между переменными была установлена ​​с помощью анализа взаимосвязей, естественно углубиться в природу взаимосвязи. Регрессионный анализ помогает определить причинно-следственную связь между переменными. Можно предсказать значение других переменных (называемых зависимыми переменными), если значения независимых переменных можно предсказать, используя графический или алгебраический метод.

Графический метод

Он включает в себя построение диаграммы рассеяния с независимой переменной по оси X и зависимой переменной по оси Y. После этого проводится линия таким образом, что она проходит через большую часть распределения, а оставшиеся точки распределяются почти равномерно по обе стороны от линии.

Линия регрессии известна как линия наилучшего соответствия, которая суммирует общее движение данных. Он показывает лучшие средние значения одной переменной, соответствующие средним значениям другой. Линия регрессии основана на критерии, согласно которому это прямая линия, которая минимизирует сумму квадратов отклонений между прогнозируемыми и наблюдаемыми значениями зависимой переменной.

Алгебраический метод

Алгебраический метод строит два уравнения регрессии X на Y и Y на X.

Уравнение регрессии Y на X

$ {Y = a + bX} $

Где -

  • $ {Y} $ = Зависимая переменная

  • $ {X} $ = независимая переменная

  • $ {a} $ = Постоянно показывает точку пересечения по оси Y

  • $ {b} $ = Постоянно показывает наклон линии

Значения a и b получаются с помощью следующих нормальных уравнений:

$ {\ sum Y = Na + b \ sum X \\ [7pt] \ sum XY = a \ sum X + b \ sum X ^ 2} $

Где -

  • $ {N} $ = Количество наблюдений

Уравнение регрессии X на Y

$ {X = a + bY} $

Где -

  • $ {X} $ = Зависимая переменная

  • $ {Y} $ = независимая переменная

  • $ {a} $ = Постоянно показывает точку пересечения по оси Y

  • $ {b} $ = Постоянно показывает наклон линии

Значения a и b получаются с помощью следующих нормальных уравнений:

$ {\ sum X = Na + b \ sum Y \\ [7pt] \ sum XY = a \ sum Y + b \ sum Y ^ 2} $

Где -

  • $ {N} $ = Количество наблюдений

пример

Problem Statement:

Исследователь обнаружил, что существует взаимосвязь между тенденциями веса отца и сына. Теперь он заинтересован в разработке уравнения регрессии для двух переменных из заданных данных:

Вес отца (в кг) 69 63 66 64 67 64 70 66 68 67 65 71
Вес сына (в кг) 70 65 68 65 69 66 68 65 71 67 64 72

Разработать

  1. Уравнение регрессии Y на X.

  2. Уравнение регрессии по Y.

Solution:

$ {X} $ $ {X ^ 2} $ $ {Y} $ $ {Y ^ 2} $ $ {XY} $
69 4761 70 4900 4830
63 3969 65 4225 4095
66 4356 68 4624 4488
64 4096 65 4225 4160
67 4489 69 4761 4623
64 4096 66 4356 4224
70 4900 68 4624 4760
66 4356 65 4225 4290
68 4624 71 5041 4828
67 4489 67 4489 4489
65 4225 64 4096 4160
71 5041 72 5184 5112
$ {\ sum X = 800} $ $ {\ sum X ^ 2 = 53,402} $ $ {\ sum Y = 810} $ $ {\ sum Y ^ 2 = 54 750} $ $ {\ sum XY = 54 059} $

Уравнение регрессии Y на X

Y = a + bX

Где, a и b получаются нормальными уравнениями

$ {\ sum Y = Na + b \ sum X \\ [7pt] \ sum XY = a \ sum X + b \ sum X ^ 2 \\ [7pt] где \ \ sum Y = 810, \ sum X = 800 , \ sum X ^ 2 = 53,402 \\ [7pt], \ sum XY = 54, 049, N = 12} $

$ {\ Rightarrow} $ 810 = 12a + 800b ... (i)

$ {\ Rightarrow} $ 54049 = 800a + 53402 b ... (ii)

Умножая уравнение (i) на 800 и уравнение (ii) на 12, получаем:

96000 a + 640000 b = 648000 ... (iii)

96000 a + 640824 b = 648588 ... (iv)

Вычитая уравнение (iv) из (iii)

-824 б = -588

$ {\ Rightarrow} $ b = -.0713

Подставляя значение b в ур. (я)

810 = 12a + 800 (-0,713)

810 = 12a + 570,4

12а = 239,6

$ {\ Rightarrow} $ a = 19,96

Следовательно, уравнение Y на X можно записать как

$ {Y = 19,96–0,713X} $

Уравнение регрессии X на Y

X = a + bY

Где, a и b получаются нормальными уравнениями

$ {\ sum X = Na + b \ sum Y \\ [7pt] \ sum XY = a \ sum Y + b \ sum Y ^ 2 \\ [7pt] где \ \ sum Y = 810, \ sum Y ^ 2 = 54,750 \\ [7pt], \ sum XY = 54, 049, N = 12} $

$ {\ Rightarrow} $ 800 = 12a + 810a + 810b ... (V)

$ {\ Rightarrow} $ 54 049 = 810a + 54, 750 ... (vi)

Умножая eq (v) на 810 и eq (vi) на 12, мы получаем

9720 a + 656100 b = 648000 ... (vii)

9720 a + 65700 b = 648588 ... (viii)

Вычитая уравнение viii из уравнения vii

900b = -588

$ {\ Rightarrow} $ b = 0,653

Подставляя значение b в уравнение (v)

800 = 12a + 810 (0,653)

12a = 271,07

$ {\ Rightarrow} $ a = 22,58

Следовательно, уравнение регрессии X и Y равно

$ {X = 22,58 + 0,653Y} $