Teknik Regresi

Regresi adalah teknik statistik yang membantu dalam mengkualifikasi hubungan antara variabel ekonomi yang saling terkait. Langkah pertama melibatkan estimasi koefisien variabel independen dan kemudian mengukur keandalan koefisien estimasi. Untuk itu diperlukan rumusan hipotesis, dan berdasarkan hipotesis tersebut, kita dapat membuat suatu fungsi.

Jika seorang manajer ingin menentukan hubungan antara pengeluaran iklan perusahaan dan pendapatan penjualannya, dia akan menjalani pengujian hipotesis. Dengan asumsi bahwa pengeluaran iklan yang lebih tinggi menyebabkan penjualan yang lebih tinggi untuk suatu perusahaan. Manajer mengumpulkan data tentang pengeluaran iklan dan pendapatan penjualan dalam periode waktu tertentu. Hipotesis ini dapat diterjemahkan ke dalam fungsi matematika, yang mengarah ke -

Y = A + Bx

Dimana Y adalah penjualan, x adalah pengeluaran iklan, A dan B konstan.

Setelah menerjemahkan hipotesis ke dalam fungsi, dasar untuk menemukan hubungan antara variabel dependen dan variabel independen. Nilai variabel dependen adalah yang paling penting bagi peneliti dan tergantung pada nilai variabel lain. Variabel independen digunakan untuk menjelaskan variasi variabel dependen. Ini dapat diklasifikasikan menjadi dua jenis -

• Simple regression - Satu variabel independen

• Multiple regression - Beberapa variabel independen

Regresi Sederhana

Berikut adalah langkah-langkah untuk membangun analisis regresi -

• Tentukan model regresi
• Dapatkan data tentang variabel
• Perkirakan hubungan kuantitatif
• Uji signifikansi statistik dari hasil
• Penggunaan hasil dalam pengambilan keputusan

Rumus untuk regresi sederhana adalah -

Y = a + bX + u

Y= variabel terikat

X= variabel bebas

a= mencegat

b= kemiringan

u= faktor acak

Data cross sectional memberikan informasi tentang sekelompok entitas pada waktu tertentu, sedangkan data deret waktu memberikan informasi tentang satu entitas dari waktu ke waktu. Ketika kita mengestimasi persamaan regresi, ini melibatkan proses untuk menemukan hubungan linier terbaik antara variabel dependen dan variabel independen.

Metode Kuadrat Terkecil Biasa (OLS)

Metode kuadrat terkecil biasa dirancang agar sesuai dengan garis melalui titik-titik yang tersebar sedemikian rupa sehingga jumlah deviasi kuadrat dari titik-titik dari garis tersebut diminimalkan. Ini adalah metode statistik. Biasanya paket perangkat lunak melakukan estimasi OLS.

Y = a + bX

Koefisien Determinasi (R ² )

Koefisien determinasi merupakan ukuran yang menunjukkan persentase variasi variabel dependen yang disebabkan oleh variasi variabel independen tersebut. R ² adalah ukuran goodness of fit model. Berikut adalah metodenya -

Jumlah Total Kotak (TSS)

Jumlah deviasi kuadrat dari nilai sampel Y dari mean Y.

TSS = SUM ( Y_i − Y)²

Y_i = variabel dependen

Y = rata-rata variabel dependen

i = jumlah observasi

Regression Sum of Squares (RSS)

Jumlah deviasi kuadrat dari nilai taksiran Y dari rata-rata Y.

RSS = SUM ( Ỷ_i − uY)²

Ỷ_i = taksiran nilai Y

Y = rata-rata variabel dependen

i = jumlah variasi

Error Sum of Squares (ESS)

Jumlah deviasi kuadrat dari nilai sampel Y dari nilai estimasi Y.

ESS = SUM ( Y_i − Ỷ_i)²

Ỷ_i = taksiran nilai Y

Y_i = variabel dependen

i = jumlah observasi

R ² mengukur proporsi total penyimpangan Y dari mean yang dijelaskan oleh model regresi. Semakin dekat R ² adalah untuk persatuan, besar kekuatan penjelas dari persamaan regresi. R ² mendekati 0 menunjukkan bahwa persamaan regresi akan memiliki sedikit kekuatan penjelas.

Untuk mengevaluasi koefisien regresi, sampel dari populasi digunakan daripada seluruh populasi. Penting untuk membuat asumsi tentang populasi berdasarkan sampel dan untuk membuat penilaian tentang seberapa baik asumsi tersebut.

Mengevaluasi Koefisien Regresi

Setiap sampel dari populasi menghasilkan intersepnya sendiri. Untuk menghitung perbedaan statistik, metode berikut dapat digunakan -

Two tailed test −

Hipotesis Nol: H ₀ : b = 0

Hipotesis Alternatif: H _a : b ≠ 0

One tailed test −

Hipotesis Nol: H ₀ : b> 0 (atau b <0)

Hipotesis Alternatif: H _a : b <0 (or b> 0)

Statistic Test −

b = koefisien perkiraan

E (b) = b = 0 (Hipotesis nol)

SE _b = Kesalahan standar dari koefisien

.

Nilai dari ttergantung pada derajat kebebasan, satu atau dua tes gagal, dan tingkat signifikansi. Untuk menentukan nilai kritist, t-table bisa digunakan. Kemudian dilakukan perbandingan nilai t dengan nilai kritis. Hipotesis nol perlu ditolak jika nilai absolut dari uji statistik lebih besar atau sama dengan nilai t kritis. Jangan menolak hipotesis nol, I nilai absolut dari uji statistik kurang dari nilai t kritis.

Analisis Regresi Berganda

Tidak seperti regresi sederhana dalam analisis regresi berganda, koefisien menunjukkan perubahan variabel dependen dengan asumsi nilai variabel lain konstan.

Uji signifikansi statistik disebut F-test. Uji-F berguna karena mengukur signifikansi statistik dari seluruh persamaan regresi, bukan hanya untuk individu. Di sini, dalam hipotesis nol, tidak ada hubungan antara variabel dependen dan variabel independen dari populasi.

Rumusnya adalah - H ₀ : b1 = b2 = b3 =…. = bk = 0

Tidak ada hubungan antara variabel dependen dan k variabel independen untuk populasi.

F-test static −

$$F \: =\: \frac{ \left ( \frac{R^2}{K} \right )}{\frac{(1-R^2)}{(n-k-1)}}$$

Nilai kritis Ftergantung pada derajat kebebasan pembilang dan penyebut dan tingkat signifikansi. F-tabel dapat digunakan untuk menentukan nilai F kritis. Dibandingkan dengan nilai F dengan nilai kritis (F *) -

Jika F> F *, kita perlu menolak hipotesis nol.

Jika F <F *, jangan menolak hipotesis nol karena tidak ada hubungan yang signifikan antara variabel dependen dan semua variabel independen.