Analisis Regresi

By: Zulkarnain

Pengertian Merupakan alat yang dapat memberikan penjelasan hubungan antara dua jenis variabel yaitu hubungan antara variabel dependen atau variabel kriteria (Variabel outcome) dengan variabel independen atau variabel prediktor Digunakan untuk memprediksi peranan variabel bebas terhadap variabel terikat Dapat dilakukan untuk mengetahui linieritas variabel terikat dengan varibel bebasnya Analisis regresi linear sederhana terdiri dari satu variabel dependen dan satu variabel independen.

Analisis Regresi Sederhana

Analisis regresi sederhana hanya melibatkan satu variabel independen X model liniernya adalah Y = o + 1X+ e y = adalah nilai subjek dalam variabel terikat yang diprediksikan o = Koefisien konstan (intercept) = angka arah koefisien regresi 1 = koefisien pada variabel bebas yang mempunyai nilai tertentu. e = error

Koefisien regresi
Koefisien regresi dapat dibedakan menjadi 2 macam Intersep, definisi secara matematis adalah suatu titik perpotongan antara suatu garis dengan sumbu Y pada diagram/sumbu kartesius saat nilai X = 0. Sedangkan definisi secara statistika adalah nilai rata-rata pada variabel Y apabila nilai pada variabel X bernilai 0. Dengan kata lain, apabila X tidak memberikan kontribusi, maka secara rata-rata, variabel Y akan bernilai sebesar intersep.
slope merupakan ukuran kemiringan dari suatu garis. Slope adalah koefisien regresi untuk variabel X (variabel bebas). Dalam konsep statistika, slope merupakan suatu nilai yang menunjukkan seberapa besar kontribusi (sumbangan) yang diberikan suatu variabel X terhadap variabel Y. Nilai slope dapat pula diartikan sebagai rata-rata pertambahan (atau pengurangan) yang terjadi pada variabel Y untuk setiap peningkatan satu satuan variabel X.

 Contoh model regresi: Y = 9.4 + 0.7*X + e

Angka 9.4 merupakan intersep, 0.7 merupakan slope, sedangkan e merupakan error Pengertian error di dalam konsep statistika berbeda dengan pengertian error yang selama ini dipakai di dalam kehidupan sehari-hari. Di dalam konsep regresi linier, error adalah semua hal yang mungkin mempengaruhi variabel terikat Y, yang tidak diamati oleh peneliti. e = 1 r2

 Klik

Using SPSS

Continue

Output

Output

Interpretasi
1. KORELASI Berdasarkan hasil analisis seperti yang ditampilkan Tabel Model Summary diketahui bahwa korelasi antara kepuasan kerja dan kinerja pegawai didapat nilai r hitung sebesar 0,772. Nilai korelasi ini tergolong kuat (> 0,600) dan memiliki nilai positif sehingga dapat dikatakan pola hubungan antara kepuasan kerja dan kinerja adalah searah Koefisien determinasinya (r2) menunjukkan nilai sebesar 0,597 atau sebesar 59,70% (dibulatkan 60%) dari hasil (r2 x 100%). Artinya variasi perubahan kinerja dapat dijelaskan oleh kepuasan kerja sebesar 60% dan sisanya 40% dipengaruhi faktor lain selain kepuasan kerja.

Continue
2. REGRESI Dari Tabel Coefficients diperoleh persamaan : Y = 20.268 + 1,035 Xe Konstanta sebesar 20.268 menyatakan bahwa jika variabel kepuasan kerja bernilai nol, maka kinerja pegawai adalah sebesar 20.268 satuan 3. Uji Hipotesis Dari hasil perhitungan didapat kesimpulan bahwa kepuasan kerja (X) memiliki hubungan yang siginifikan dengan kinerja. Hasil uji t (Tabel Coefficients) diperoleh nilai t hitung sebesar 7.194.

Uji F
Uji F digunakan untuk uji ketepatan model, apakah nilai prediksi mampu menggambarkan kondisi sesungguhnya: Ho: Diterima jika F hitung F tabel Ha: Diterima jika F hitung > F tabel
R 2 /(k 1) F 1 R 2 /(n k )

Karena F hitung (51,751) p< 0.01. maka maka persamaan regresi dinyatakan Baik (good of fit).

Regresi Berganda
Kalau satu variabel dependen Y perlu dijelaskan oleh lebih dari satu variabel independen X, maka kita perlu membuat model yang sesuai dengan tujuan studi. Model tersebut adalah regresi linier ganda Sebuah metode untuk mengetahui variabel independen (variabel bebas) mana yang paling berpengaruh signifikan terhadap variabel dependen dengan analisis regresi ganda juga dapat diperoleh suatu penjelasan tentang peranan atau kontribusi relatif setiap variabel X terhadap variabel Y.

Continue

Continue
Ada beberapa cara untuk mendapatkan model regresi berganda yaitu Enter, stepwise, forward dan backward. Metode enter adalah memasukkan semua prediktor ke dalam a nalisis sekaligus. Perhatikan hasil analisis melalui SPSS. S emua prediktor dimasukkan secara simultan.

Output

output

Metode STEPWISE

Salah satu model terbaik dalam multiple regression adalah stepwise regression. Stepwise regression sangat menarik dan sudah umum digunakan dalam praktik karena merupakan kombinasi dari forward-selection dan backwardelimination. Model regresi berganda dengan metode stepwise dapat diketahui variabel yang signifikan pengaruhnya terhadap variabel dependen. Variabel yang tidak signifikan pengaruhnya terhadap variabel dependen secara otomatis akan dikeluarkan dari model, sehingga hanya variabel bebas yang memiliki pengaruh signifikan yang akan digunakan.

Kelebihan Metode Stepwise

Menurut Diekhoff (1992) metode ini mempunyai kelebihan dibandingkan metode yang lain.
Lebih ekonomis karena pada metode ini hanya variabel peramal (prediktor) yang signifikan saja yang dimasukan dalam regresi Dapat mengatasi masalah multicollinearity yang muncul akibat korelasi yang kuat antara variabel-variabel prediktor. Korelasi ini dapat menyebabkan analisis menjadi kurang tepat

Using spss

output

Continue
Metode stepwise adalah memasukkan prediktor secara bertahap berdasarkan nilai F yang signifkan (sig F di bawah 0.05). Proses memasukkan dikombinasikan dengan mengeliminasi pr ediktor yang tidak signifikan (sig F di atas 0.05).

Continue..
Backward Elimination Membuat model dengan memasukkan semua variabel kemudian dikeluarkan satu persatu dengan melakukan pengujian terhadap parameter parameternya dengan menggunakan partial F test. Nilai partial F-test (FL) terkecil dibandingkan dengan F0 table: Jika FL < F0, maka Variabel yang bersangkutan dikeluarkan dari model dan dilanjutkan dengan pembuatan model baru tanpa variable tersebut Jika FL>F0, maka proses dihentikan dan persamaan terakhir tersebut yang digunakan/dipilih. Variabel yang tidak menyumbang ke model regresi secara signifikan akan dikeluarkan

Backward Elimination
Perhatikan keluaran analisis SPSS, ada 2 tahap. Tahap per tama, semua prediktor masuk, lalu agreebleness . Yang ter sisa di dalam regresi adalah 4 variable.

output

Continue..
Forward Selection Dapat berarti memasukkan variabel bebas yang memiliki korelasi yang paling erat dengan variabel dependen (variabel yang paling potensial untuk memiliki hubungan linier dengan Y) Kemudian secara bertahap memasukkan variabel bebas yang potensial berikutnya dan nanti akan terhenti sampai tidak ada lagi variabel bebas yang potensial.

Regresi variabel Dummy

melibatkan variabel kualitatif dalam penelitian (sebagai variabel independen) Data Kualitatif harus berbentuk data kategorik Belum bisa dibuat regresi secara langsung Variabel Dummy. Variabel dummy disebut juga variabel indikator, biner, kategorik, kualitatif, boneka, atau variabel dikotomi. Variabel Dummy pada prinsipnya merupakan perbandingan karakteristik. misalnya apakah jenis kelamin dapat memprediksi ketahanan kerja seseorang

Perbedaan dengan Regresi Biasa

Regresi biasa hanya membahas analisis terhadap variabelvariabel kuantitatif saja. Y = a+bX+ Regresi variabel dummy membahas analisis terhadap variabel kuantitatif dan juga variabel kualitatif saja. Y = a+bDi+

ANALISIS REGRESI TERHADAP SATU VARIABEL DUMMY DENGAN DUA KRITERIA

Model regresi dengan satu variabel kualitatif tanpa mengikutsertakan variabel kuantitatif lainnya adalah serupa dengan analisis ragam (Anova model) Persamaan regresi variabel dummy dua kategori: Y = a + bDi + Y = Nilai yang diramalkan

a = Konstansta b = Koefisien regresi untuk D1 D1 = Variabel Dummy dengan dua kategori = Nilai Residu

SISTEM PENGKODEAN DUMMY

Pengkodean data kategorikal memerlukan pengkategorian e ksklusif. Artinya satu subjek/sampel adalah masuk dalam satu katego ri, tidak boleh dua kategori. tidak boleh masuk ke dalam kategori PNS dan wiraswasta meskipun kedua profesi tersebut dijalani. Aturan ini berlaku variabel dummy.

Regresi variabel Dummy

Seorang peneliti tertarik untuk memprediksi laba 2 macam perusahaan (swasta asing dan swasta nasional) Bila ditinjau dari besarnya biaya iklan yang dikeluarkan oleh perusahaan untuk membuat iklan mengenai produknya. (Untuk perusahaan swasta asing, laba yang diamati adalah laba yang diperoleh dari hasil penjualan produknya di wila yah Indonesia saja)
iklan = biaya iklan (juta rupiah) laba = laba perusahaan (juta rupiah) tipe = jenis perusahaan (1= asing; 0 = nasional)

 Kasus semacam ini dapat diselesaikan dengan metode regresi menggunakan variabel dummy. Hanya saja yang perlu diperhatikan adalah teknik menyusun variabel dummy dalam analisis regresinya. Dari contoh kasus di atas, variabel respon (Y) adalah Laba perusahaan, variabel bebas (X) adalah biaya iklan, sedangkan variabel dummy-nya adalah tipe perusahaan, yaitu swasta asing dan swasta nasonal. Kita sebut terdapat 2 tipe/kategori perusahaan. Untuk menyusun variabel dummy-nya, maka kita perlu menentukan terlebih dahulu banyaknya variabel dummy yang digunakan. Banyaknya variabel dummy yang digunakan adalah sebanyak kategori dikurangi satu. Rumus: banyaknya var dummy = banyaknya kategori 1. Dalam kasus kita di atas, maka banyaknya variabel dummy adalah = 2-1 = 1 buah. Misalkan jika perusahaan swasta asing dilambangkan dengan angka 1, sedangkan swasta nasional 0,

 Kolom tipe merupakan variabel dummy. Perhatikan bahwa pengamatan ke-1 didapat dari perusahaan swasta asing, sedangkan pengamatan yang ke-2 didapat dari swasta nasional. Nah, dari sini sudah dapat melakukan analisis regresi menggunakan variabel dummy berdasarkan model regresi: Laba = b0 + b1*Iklan + b2*tipe + error.

Persamaan regresi yang didapat:

Laba = 1.33326 + 0.43086*iklan + 2.6617*tipe Bahwa koefisien b2 = 2.66170 signifikan secara statistika pada taraf nyata 1% Maka dapat disimpulkan bahwa laba perusahaan swasta asing yang melakukan pembiayaan iklan untuk produknya berbeda secara nyata dengan perusahaan swasta nasional yang juga melakukan pembiayaan untuk membuat iklan, yaitu ratarata sebesar 2.66617 juta rupiah. Misal, bila perusahaan swasta asing dan nasional samasama mengeluarkan biaya iklan sebesar 1 juta rupiah, maka prediksi laba mereka adalah: Perusahaan swasta asing: Laba = 1.33326 + 0.43086*1 + 2.6617*1 = 4.42582 juta rupiah. Perusahaan swasta nasional: Laba = 1.33326 + 0.43086*1 + 2.6617*0 = 1.76412 juta rupiah. Selisih laba mereka: 4.42582 1.76412 = 2.6617 juta rupiah.

Menyusun variabel dummy

Tekan menu ANALYZE REGRESSION LINIER. Pada menu yang ditampilkan masukkan variabel puas (Y) pada DEPENDENT, trus tahan (X1) pada kolom INDEPENDENT. Klik OK.

 Untuk memprediksi kepuasan kerja (Y) berdasarkan . jabatan (X2). Variabel jabatan telah di dummy dengan ko de kategori 1 untuk manajer dan 0 untuk pelaksana menu ANALYZE REGRESSION LINIER. Pada menu yang ditampilkan masukkan variabel puas (Y) pada DEPENDENT, trus jabatan (X2) pada kolom INDEPENDENT Klik OK.

Output

Interpretasi
Dari hasil Anova menunjukkan bahwa nilai F = 40.668; p<0.01. Persamaan regresi adalah Y = B0 + B1 (Jabatan) Y = 4.500 + 3.300 (Jabatan) Pertanyaan: berapa tingkat kepuasan pelaksana? Perhatikan pengkodean, pelaksana = 0 & manager = 1 Kepuasan pelaksana: 4.500 + 3.300 (0) = 4.500 Kepuasan manager: 4.500 + 3.300 (1) =

 Untuk memprediksi kepuasan kerja (Y) berdasarkan bidangkerja (X3). Variabel.bidang kerja yaitu suplai dan produksi menu ANALYZE REGRESSION LINIER. Pada menu yang ditampilkan masukkan variabel puas (Y) pada DEPENDENT, trus ja batan (X2) pada kolom INDEPENDENT Klik OK.

Output

interpretasi
Terlihat pada tabel ANOVA bahwa bidang kerja tidak mampu memprediksi kepuasan (F=.816; p>0.05). Prediksi kepuasan dapat kita ketahui melalui persamaan regresi Y = B0 + B1 (SUPLAI) + B2 (PRODUKSI) Y = 6.750 1.417 (SUPLAI) 0.583 (PRODUKSI) ingat MARKETING tidak kita masukkan karena menjadi kategori yang dijadikan

 Jika kita ditanya berapa KEPUASAN bidang SUPLAI ? Y = 6.750 1.417 (1) 0.583 (0) =4.75 Berapa KEPUASAN bidang MARKETING ? Y = 6.750 1.417 (o) 0.583 (0) =6.75

Bukalah SPSS Tekan menu ANALYZE REGRESSION LINIER. Pada menu yang ditampilkan masukkan variabel PUAS (Y) pada DEPENDENT, trus tahan (X1), Jabatan (X2), dan 2 kategori bidang kerja (X3 ), yaitu SUPLAI dan PRODUKSI pada INDEPENDENT(S) lalu klik OK.

Output

Interpretasi
Dari hasil Anova menunjukkan bahwa nilai F = 13.361; p<0.01. ini menunjukkan bahwa semua variabel prediktor memprediksi kepuasan secara signifikan B Persamaan regresi adalah
Y = B0 + B1(tahan) + B2 (Jabatan) + B3 (suplai) + B3(produksi)
Y = 5.002 0.011(tahan) + 3.281 (Jabatan) - 1.405 (suplai) 0. 561 (produksi)

Pertanyaan: berapa tingkat kepuasan pelaksana pada bagian suplai jika nilai ketahanan = 2? Perhatikan pengkodean, pelaksana = 0 & suplai = 1