Thống kê - Hồi quy tuyến tính

Một khi mức độ của mối quan hệ giữa các biến đã được thiết lập bằng cách sử dụng phân tích quan hệ đồng, thì điều tự nhiên là đi sâu vào bản chất của mối quan hệ. Phân tích hồi quy giúp xác định mối quan hệ nguyên nhân và kết quả giữa các biến. Có thể dự đoán giá trị của các biến khác (gọi là biến phụ thuộc) nếu giá trị của các biến độc lập có thể được dự đoán bằng phương pháp đồ thị hoặc phương pháp đại số.

Phương pháp đồ họa

Nó liên quan đến việc vẽ một biểu đồ phân tán với biến độc lập trên trục X và biến phụ thuộc trên trục Y. Sau đó, một đường thẳng được vẽ theo cách mà nó đi qua hầu hết các điểm phân bố, với các điểm còn lại được phân bổ gần như đồng đều ở hai bên của đường thẳng.

Đường hồi quy được gọi là đường phù hợp nhất tóm tắt chuyển động chung của dữ liệu. Nó hiển thị các giá trị trung bình tốt nhất của một biến tương ứng với các giá trị trung bình của biến kia. Đường hồi quy dựa trên tiêu chí là đường thẳng giảm thiểu tổng bình phương độ lệch giữa giá trị dự đoán và giá trị quan sát của biến phụ thuộc.

Phương pháp đại số

Phương pháp đại số phát triển hai phương trình hồi quy của X trên Y và Y trên X.

Phương trình hồi quy của Y trên X

$ {Y = a + bX} $

Ở đâu -

  • $ {Y} $ = Biến phụ thuộc

  • $ {X} $ = Biến độc lập

  • $ {a} $ = Không đổi hiển thị chặn Y

  • $ {b} $ = Hằng số hiển thị độ dốc của đường

Giá trị của a và b nhận được bằng các phương trình thông thường sau:

$ {\ sum Y = Na + b \ sum X \\ [7pt] \ sum XY = a \ sum X + b \ sum X ^ 2} $

Ở đâu -

  • $ {N} $ = Số lượng quan sát

Phương trình hồi quy của X trên Y

$ {X = a + bY} $

Ở đâu -

  • $ {X} $ = Biến phụ thuộc

  • $ {Y} $ = Biến độc lập

  • $ {a} $ = Không đổi hiển thị chặn Y

  • $ {b} $ = Hằng số hiển thị độ dốc của đường

Giá trị của a và b nhận được bằng các phương trình thông thường sau:

$ {\ sum X = Na + b \ sum Y \\ [7pt] \ sum XY = a \ sum Y + b \ sum Y ^ 2} $

Ở đâu -

  • $ {N} $ = Số lượng quan sát

Thí dụ

Problem Statement:

Một nhà nghiên cứu đã phát hiện ra rằng có một mối quan hệ đồng giữa xu hướng cân nặng của cha và con trai. Bây giờ anh ấy quan tâm đến việc phát triển phương trình hồi quy trên hai biến từ dữ liệu đã cho:

Cân nặng của bố (tính bằng Kg) 69 63 66 64 67 64 70 66 68 67 65 71
Trọng lượng Son (tính bằng Kg) 70 65 68 65 69 66 68 65 71 67 64 72

Phát triển, xây dựng

  1. Phương trình hồi quy của Y trên X.

  2. Phương trình hồi quy của trên Y.

Solution:

$ {X} $ $ {X ^ 2} $ $ {Y} $ $ {Y ^ 2} $ $ {XY} $
69 4761 70 4900 4830
63 3969 65 4225 4095
66 4356 68 4624 4488
64 4096 65 4225 4160
67 4489 69 4761 4623
64 4096 66 4356 4224
70 4900 68 4624 4760
66 4356 65 4225 4290
68 4624 71 5041 4828
67 4489 67 4489 4489
65 4225 64 4096 4160
71 5041 72 5184 5112
$ {\ sum X = 800} $ $ {\ sum X ^ 2 = 53,402} $ $ {\ sum Y = 810} $ $ {\ sum Y ^ 2 = 54,750} $ $ {\ sum XY = 54,059} $

Phương trình hồi quy của Y trên X

Y = a + bX

Trong đó, a và b nhận được bằng các phương trình thông thường

$ {\ sum Y = Na + b \ sum X \\ [7pt] \ sum XY = a \ sum X + b \ sum X ^ 2 \\ [7pt] Trong đó \ \ sum Y = 810, \ sum X = 800 , \ sum X ^ 2 = 53,402 \\ [7pt], \ sum XY = 54, 049, N = 12} $

$ {\ Rightarrow} $ 810 = 12a + 800b ... (i)

$ {\ Rightarrow} $ 54049 = 800a + 53402 b ... (ii)

Nhân phương trình (i) với 800 và phương trình (ii) với 12, ta được:

96000 a + 640000 b = 648000 ... (iii)

96000 a + 640824 b = 648588 ... (iv)

Trừ phương trình (iv) khỏi (iii)

-824 b = -588

$ {\ Rightarrow} $ b = -.0713

Thay giá trị của b trong eq. (Tôi)

810 = 12a + 800 (-0,713)

810 = 12a + 570,4

12a = 239,6

$ {\ Rightarrow} $ a = 19,96

Do đó, phương trình Y trên X có thể được viết dưới dạng

$ {Y = 19,96 - 0,713X} $

Phương trình hồi quy của X trên Y

X = a + bY

Trong đó, a và b nhận được bằng các phương trình thông thường

$ {\ sum X = Na + b \ sum Y \\ [7pt] \ sum XY = a \ sum Y + b \ sum Y ^ 2 \\ [7pt] Trong đó \ \ sum Y = 810, \ sum Y ^ 2 = 54,750 \\ [7pt], \ sum XY = 54, 049, N = 12} $

$ {\ Rightarrow} $ 800 = 12a + 810a + 810b ... (V)

$ {\ Rightarrow} $ 54.049 = 810a + 54, 750 ... (vi)

Nhân eq (v) với 810 và eq (vi) với 12, chúng ta nhận được

9720 a + 656100 b = 648000 ... (vii)

9720 a + 65700 b = 648588 ... (viii)

Trừ eq viii cho eq vii

900b = -588

$ {\ Rightarrow} $ b = 0,653

Thay giá trị của b trong phương trình (v)

800 = 12a + 810 (0,653)

12a = 271,07

$ {\ Rightarrow} $ a = 22,58

Do đó phương trình hồi quy của X và Y là

$ {X = 22,58 + 0,653Y} $