085865141296

cs@scundip.org

Analisis regresi merupakan suatu metode untuk menganalisis hubungan antara variabel prediktor dan variabel respon. Untuk mengkaji hubungan antara suatu variabel respon dengan lebih dari satu prediktor disebut analisis regresi linier berganda (Walpole, 1995).

Secara umum model regresi linier berganda yaitu:

1

Besarnya parameter dari regresi linier berganda dapat dihitung dengan rumus:

2

Multikolinieritas

Multikolinieritas merupakan hubungan linier antara sesama variabel prediktor X yang berakibat pada ragam yang tinggi dan estimasi parameter yang tidak stabil. Timbulnya multikolinieritas disebabkan oleh metode dalam pengumpulan data yang dipakai tidak sesuai, kendala pada populasi yang digunakan sebagai sampel, spesifikasi model yang salah, dan model yang berlebihan maksudnya jumlah variabel prediktor melebihi jumlah data.

Multikolinieritas dapat dideteksi melalui Variance Inflation Factor (VIF). VIF dapat dihitung menggunakan:

3
Menurut O’Brien dalam Alauddin dan Nghiem (2010) jika nilai VIF 10, maka tidak terdapat multikolinieritas. Sebaliknya jika nilai VIF > 10 maka mengandung multikolinieritas.

Salah satu metode untuk mengatasi multikolinieritas yaitu menggunakan regresi ridge. Pendugaan parameter pada regresi ridge dapat menggunakan metode Ordinary Least Square (OLS). Metode pendugaan parameter lain yang dapat digunakan yaitu menggunakan metode Bayesian. Metode pendugaan Parameter dengan Bayesian menggunakan metode Markov Chain Monte Carlo (MCMC) dengan metode Gibbs Sampling.

Regresi ridge merupakan metode pengukuran yang efisien untuk model regresi linear. Estimasi Ridge untuk koefisien regresi dapat diperoleh dengan menyelesaikan suatu bentuk dari persamaan normal regresi. Data yang digunakan pada regresi ridge yaitu berupa data hasil standarisasi. Pendugaan parameter regresi ridge dapat diperoleh dengan menggunakanrumus:

4

Besarnya tetapan bias c mencerminkan besarnyabias dalamkoefisien penduga ridge dancyang bernilai nol merupakan implementasi dari metode kuadrat terkecil.

Hasil parameter pada regresi ridge dikembalikan kedalam bentuk regresi awal untuk mendapatkan parameter baru yang bebas dari multikolinieritas dengan menggunakan rumus

5

Studi Kasus

Sebagai contoh, studi kasus tingkat kemiskinan di Kabupaten/Kota di Jawa Timur pada tahun 2010. Faktor-faktor yang mempengaruhi Persentase tingkat kemiskinan antara lain:

Persentase angka partisipasi angkatan kerja Kabupaten/ Kota di Jawa Timur tahun 2010 (X1)

Persentase tingkat pengangguran terbuka di tiap Kabupaten/ Kota di Jawa Timur tahun 2010 (X2)

Persentase pekerja di sektor informal Kabupaten/ Kota di Jawa Timur tahun 2010 (X3)

Persentase rata-rata lama sekolah di tiap Kabupaten/ Kota di Jawa Timur tahun 2010 (X4)

Persentase rumah tangga yang menggunakan air bersih di tiap Kabupaten/Kota di Jawa Timur (X5)

Persentase angka melek huruf Kabupaten/ Kota di Jawa Timur tahun 2010(X6).

 

Tahapan analisis :

  • menduga parameter Regresi linierè menggunakan metode OLS
  • melakukan pengujian multikolinieritasè hasil uji menunjukkan adanya multikolinieritas
  • menguji distribusi data dan menentukan fungsi likelihood data
  • menstandarisasi data
  • membentuk distribusi posterior berdasarkan distribusi prior dan fungsi likelihood
  • mengestimasi parameter dari Bayesian Ridge Regression
  • uji signifikansiparameter

Tabel 1. Hasil Pendugaan Parameter dengan Bayesian Ridge Regression

0

Berdasarkan hasil yang diperoleh pada Tabel 1, dapat dilihat bahwa pada selang 2,5% sampai 97,5% tidak terdapat nilai 0, sehingga dapat dikatakan bahwa semua parameter yang didapatkan sudah signifikan terhadap Persentase tingkat kemiskinan. Selain itu setiap variabel juga sudah konvergen, hal ini dilihat dari nilai MC error yang kecil

Tabel 2. Perbandingan Nilai VIF menggunakan Metode Bayesian dan OLS

7

Setelah itu dilakukan perbandingan nilai MSE hasil penanganan multikolinieritas dengan metode Bayesian dan OLS sebagai berikut:

Tabel 3. Perbandingan nilai MSE menggunakan metode Bayesian dan OLS

8

Berdasarkan Tabel 2. dan Tabel 3. didapatkan hasil dari nilai VIF dan nilai MSE metode Bayesian yang lebih kecil dibandingkan dengan hasil dari metode OLS. Sehingga dapat dikatakan bahwa metode Bayesian lebih baik dalam menduga parameter pada regresi ridge dibandingkan dengan metode OLS.

 

KESIMPULAN

Berdasarkan hasil analisis menggunakan Bayesian ridge regression dapat disimpulkan bahwa  semua variabel prediktor berpengaruh signifikan terhadap persentase tingkat kemiskinan. Metode Bayesian merupakan metode yang baik dalam pendugaan parameter pada regresi ridge. Hal ini dapat dilihat pada nilai MSE hasil dari Bayesian ridge regression yang lebih kecil dibandingkan dengan nilai MSE regresi ridge hasil dari OLS. Oleh karena itu dapat disimpulkan bahwa metode Bayesian dapat digunakan sebagai metode alternatif lain dalam menduga parameter pada regresi ridge dalam menangani multikolinieritas.

Sumber : Abidin, Frischa P.2015. “Penanganan Multikolinieritas Dengan Bayesian Ridge Regression Pada Kasus Kemiskinan Kabupaten/Kota Di Jawa Timur”. Universitas Brawijaya. Vol 3, No 1.http://statistik.studentjournal.ub.ac.id/index.php/statistik/article/view/218/236