ชี้แจงกลไก ANOVA
เว็บไซต์นี้อธิบายอัตราส่วน ANOVA และ F ดังนี้:
"ANOVA แบ่งความแปรปรวนระหว่างค่าทั้งหมดเป็นองค์ประกอบเดียวที่เกิดจากความแปรปรวนระหว่างวิธีการกลุ่ม (เนื่องจากการบำบัด) และอีกองค์ประกอบหนึ่งที่เกิดจากความแปรปรวนภายในกลุ่ม (เรียกอีกอย่างว่าการแปรผันที่เหลือ) ... - สี่เหลี่ยมมีความสัมพันธ์กับองศาอิสระจำนวนหนึ่ง ... และค่าเฉลี่ยกำลังสอง (MS) คำนวณโดยการหารผลรวมของกำลังสองด้วยจำนวนองศาอิสระที่เหมาะสม ... อัตราส่วน F คืออัตราส่วนของ ค่ากำลังสองเฉลี่ย ... "
คำถามของฉันคือ:
ANOVA จะรู้ได้อย่างไรว่าจะแบ่งความแปรปรวนออกเป็น 2 องค์ประกอบที่แตกต่างกัน (เนื่องจากการรักษาและเนื่องจากการเปลี่ยนแปลงโดยธรรมชาติ)
หมายถึงกำลังสองหมายถึงอะไร (อัตราส่วน F คืออัตราส่วนของค่ากำลังสองเฉลี่ยสองค่า) พวกเขาหมายถึงสี่เหลี่ยมเนื่องจากการรักษาและเนื่องจากการเปลี่ยนแปลงโดยธรรมชาติหรือไม่?
ขอบคุณล่วงหน้า.
คำตอบ
พิจารณาข้อมูลต่อไปนี้ที่จำลองใน R ตามแบบจำลองสำหรับการวิเคราะห์ความแปรปรวนหนึ่งปัจจัยที่มีสามระดับของปัจจัยและการจำลองแบบสิบรายการในแต่ละระดับ แต่ละระดับมีความแปรปรวน$\sigma^2 = 3^2 = 9.$
set.seed(2020)
x1 = rnorm(10, 20, 3)
x2 = rnorm(10, 21, 3)
x3 = rnorm(10, 22, 4)
x = c(x1,x2,x3)
gp = as.factor(rep(1:3, each=10))
นี่คือสตริปชาร์ตใน R แสดงข้อสังเกตสิบประการในแต่ละกลุ่ม
stripchart(x ~ gp, pch="|", ylim=c(.5,3.5))
ตาราง ANOVA แสดงไว้ด้านล่าง:
anova(lm(x~gp))
Analysis of Variance Table
Response: x
Df Sum Sq Mean Sq F value Pr(>F)
gp 2 140.48 70.240 4.463 0.02115 *
Residuals 27 424.93 15.738
---
Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
MSA = $15.7382$คือค่าเฉลี่ยของความแปรปรวนภายในแต่ละกลุ่มทั้งสามกลุ่ม นี่เป็นวิธีหนึ่งในการประมาณ$\sigma^2.$[ไม่เป็นไรว่ามันไม่ใช่การประมาณที่ดีนัก ด้วยการสังเกตการณ์เพียง 30 ครั้งเราไม่สามารถคาดหวังการประมาณที่ใกล้เคียงได้จริงๆ]
mean(c(var(x1),var(x2),var(x3)))
[1] 15.7382
ถ้าทั้งสามกลุ่มมีค่าเฉลี่ยเท่ากัน $\mu$ (สมมติฐานของสมมติฐานว่าง) จากนั้นทั้งสามกลุ่มหมายถึง $(\bar X_1,\bar X_2, \bar X_3)$ แต่ละตัวจะมีการแจกแจงแบบปกติพร้อมค่าเฉลี่ยหรือไม่ $\mu$ และความแปรปรวน $\sigma^2/10.$ ดังนั้นถ้า $H_0$ เป็นความจริงเรายังสามารถประมาณได้ $\sigma^2$ เป็น $10$ คูณความแปรปรวนของ 'ตัวอย่าง' ของสาม $\bar X_i$s:
10*var(c(mean(x1),mean(x2),mean(x3)))
[1] 70.23971
ดังนั้น MS (Group) = $70.2397.$ [เพราะ $H_0$เป็นเท็จค่าประมาณนี้ใหญ่เกินไป ทั้งสามวิธียังแสดงความแตกต่างระหว่างกลุ่มต่างๆ]
ดังนั้นวิธีที่ ANOVA "รู้" ว่าจะได้รับความแปรปรวนทั้งสองได้อย่างไรนั้นเป็นเพราะกระบวนการทั้งสองที่เราเพิ่งเห็น
ถ้า $H_0$ เป็นความจริงการประมาณการความแปรปรวนทั้งสองมีแนวโน้มที่จะเท่ากันดังนั้น F-ratio จะมีแนวโน้มที่จะเป็นประมาณ $1.$ F-Ratio สูงกว่า $1,$ ยิ่งหลักฐานต่อต้าน $H_0.$ ในกรณีของเรา $F = 4.463 > 1.$ คำนึงถึงตัวเศษและตัวหารองศาอิสระ $4.463$ ถูกตัดสินว่ามีขนาดใหญ่กว่า "อย่างมีนัยสำคัญ" $1.$
ค่าความแปรปรวนโดยประมาณในตัวเศษของ $F$ เกี่ยวข้องกับทั้งสองอย่าง $\sigma^2$ และความแตกต่างของค่าเฉลี่ยประชากรกลุ่ม $\mu_.$ การประมาณค่าความแปรปรวนในตัวส่วนเกี่ยวข้องเท่านั้น $\sigma^2.$
นี่คือพล็อตของฟังก์ชันความหนาแน่นของการกระจาย $\mathsf{F}(2, 27).$ พื้นที่ (เล็ก ๆ ) ใต้เส้นโค้งความหนาแน่นทางด้านขวาของเส้นประแนวตั้งคือค่า P $0.02115.$
curve(df(x, 2, 27), 0, 10, lwd=2, ylab="PDF", xlab="F",
main="Density of F(2,27)")
abline(v = 4.463, col="red", lwd=2, lty="dotted")
abline(h=0, col="green2"); abline(v=0, col="green2")