Analisis Regresi Majemuk

(Multiple Linear Regression)

 Analisis Regresi Linier Majemuk

Salah satu Teknik Multivariat yang digunakan untuk mengestimasi hubungan

antara satu variabel dependen dengan satu himpunan variabel independen.

Persamaan/Model
regresi

Analisis korelasi Analisis regresi

majemuk

Menganalisis keberadaan hubungan Menganalisis seberapa besar

antara dua variabel dan seberapa pengaruh suatu variabel independen
kuat hubungan tersebut terhadap variabel dependen.
Contoh Analisis Regresi:
Model umum/dasar Analisis Regresi Majemuk

𝑌 = 𝛽0 + 𝛽1 𝑋1 + 𝛽2 𝑋2 + ⋯ + 𝛽𝑖 𝑋𝑖
dengan:
𝑌 : Prediksi nilai variabel dependen
𝛽0 : Konstanta (intercept)
𝛽𝑖 : Bobot (koefisien )regresi untuk variabel independen ke-i
𝑋𝑖 : Variabel independen ke-i
 Grafik Hubungan Variabel
 Grafik untuk 1 variabel dependen dan 2 variabel independen
Tahapan Pemodelan Analisis Regresi Linier
Majemuk
Analisis regresi majemuk dapat
digunakan untuk:
 Menghasilkan Prediksi nilai dari suatu variabel dependen
berdasarkan nilai-nilai variabel independen.

 Memberikan Penjelasan mengenai tingkat dan

karakteristik hubungan antara variabel dependen
dengan variabel-variabel independen.
 Hubungan /relationship

Statistical relationship Functional relationship

Variabel dependen diasumsikan sebagai Prediksi terhadap nilai variabel dependen

variabel random. Hasil output masih bersifat pasti atau tidak diharapkan memiliki
mengandung error. error sama sekali
Hal-hal yang perlu diperhatikan sebelum
melakukan perhitungan-perhitungan dalam
analisis regresi:
a. Ukuran sampel
b. Variabel Dummy
c. Efek Kurvilinier
d. Efek Moderator
Ukuran Sampel
Ukuran sampel minimal dalam analisis
regresi adalah 20 observasi.
Perbandingan antara jumlah subjek
sampel dan variabel independen 5 :1
(artinya untuk setiap satu variabel
independen minimum terdapat lima buah
subjek sampel).
Variabel Dummy
Umumnya dalam analisis regresi variabel
dependen dan independen metrik (kuantitatif)
Untuk analisis regresi majemuk variabel
independen dapat berupa nonmetric (kualitatif)
namu digunakan kategori suatu kode tertentu.
Variabel dummy ini akan berperan sebagai
intercept pada model.
Efek Kurvilinier
 Analisis regresi majemuk juga dapat mengakomodasi sifat data yang tidak
linier (curvilinear).
 Data ditransformasi dengan fungsi logaritma atau akar kuadrat.
 Efek kurvilinier ini dapat dimodelkan dengan persamaan berikut:
𝑌 = 𝛽0 + 𝛽1 𝑋1 + 𝛽2 𝑋12
dengan:
𝑌 : Prediksi nilai variabel dependen
𝛽0 : Konstanta (intercept)
𝛽1 𝑋1 : efek linier 𝑋1
𝛽2 𝑋12 : efek kurvilinier 𝑋1
Efek moderator
 Efek moderator atau efek interaksi, yaitu suatu kondisi yang
terjadi ketika suatu variabel mempengaruhi bentuk hubungan
antara variabel independen lainnya dengan variabel
dependen.
 Sebagai contoh,
Tingkat penghasilan ditemukan sebagai variabel moderator
terhadap hubungan antara ukuran keluarga dan jumlah
penggunaan kartu kredit. Akibatnya, ukuran keluarga yang
besar belum menjamin tingginya penggunaan kartu kredit.

Model analisis regresi majemuk dengan efek moderator sebagai

berikut:
𝑌 = 𝛽0 + 𝛽1 𝑋1 + 𝛽2 𝑋2 + 𝛽3 𝑋1 𝑋2
𝛽3 𝑋1 𝑋2 : efek moderator dari 𝑋2 pada 𝑋1
Asumsi-asumsi pada analisis regresi
linier majemuk:

1. Linieritas
2. Variansi residu yang
konstan
(homoscedasticity)
3. Independensi residu
4. Residu yang berdistribusi
normal
 Linieritas

Linieritas dapat dilihat dari plot

residu.
Apabila plot residu mengikuti
suatu garis lurus untuk setiap
pertambahan nilai variabel
independen dan dependen,
maka model dinyatakan
memenuhi asumsi linieritas.
Hubungan antar variabelnya
bersifat linear
Variansi Residu yang
konstan(Homoscedasticity)
 Asumsi ini diperlukan dengan harapan bahwa variansi
nilai variabel dependen yang dijelaskan melalui model
tidak terkonsentrasi pada nilai variabel independen
yang terbatas.
 Cara pengujian variansi dilakukan dengan mebuat plot
antara residu terhadap nilai variabel dependen (Scatter
plot yang terbentuk acak)
 Independensi residu
 Nilai variabel dependen yang diprediksi harus
independen satu dengan lainnya.
 Tidak ada kaitan antara suatu hasil prediksi nilai variabel
dependen dengan prediksi berikutnya.
 Cara mendeteksi dengan membuat plot antara residu
dengan variabel independen terurut yang mungkin
(misalnya plot antara residu dengan variabel
waktu).Apabila residu bersifat independen, maka plot
terlihat acak(random).
Residu yang Berdistribusi Normal

Sifat kenormalan harus dimiliki oleh

variabel dependen maupun independen
Pengujian dilakukan dengan melihat
histogram residu, atau melalui plot q-q
normal.
 Estimasi Model Regresi

Metode estimasi yang digunakan adalah metode

pendekatan kuadrat terkecil (least square approach).
Tujuan metode ini adalah meminimumkan jumlah kuadrat
error yang terjadi.

Langkah-langkah estimasi model:

Seleksi variabel
Pengujian signifikansi model
Seleksi Variabel
Pengujian Signifikansi Model
Beberapa uji yang digunakan:
 Multipel R
 R square (𝑅2 )
 Adjusted 𝑅2
 Standar error of estimate (SEE)
 Standar error of the coefficient
 Partial t value of variables in the equation
 Partial correlation variables not in the equation
 Partial t values of variables not in the equation
 Interpretasi Hasil Analisis Regresi
 Interpretasi dilakukan dengan menganalisis koefisien regresi yang terbentuk dari model
regresi. Koefisien regresi dalam hal ini merupakan bobot yang dimiliki oleh setiap variabel
independen dalam persamaan regresi. Akan tetapi, koefisien regresi yang besar pada
suatu variabel tidak mengindikasikan bahwa variabel yang bersangkutan menjadi lebih
penting.
 Untuk membandingkan tingkat kepentingan tersebut, peneliti harus menggunakan
koefisien beta. Beta merupakan koefisien regresi yang sudah distandarisasikan. Hal ini
berarti setiap koefisien tidak lagi mengandung satuan pengukuran variabel
independennya, melainkan sudah memiliki satuan pengukuran yang seragam. Oleh
karena itu, koefisien ini dapat digunakan sebagai bahan perbandingan.
 Satu hal yang harus diperhatikan dari model regresi yang diperoleh adalah keberadaan
multikolinearitas (multicolinearity), yaitu adanya hubungan antarvariabel independen.
Multikolinearitas dapat mempengaruhi kemampuan model dalam menjelaskan dan
mengestimasi variabel dependen. Adanya multikolinearitas dapat diketahui dengan
melihat paramater Variance Inflation Factor (VIF) dan tolerance. Parameter ini
menunjukkan korelasi antarvariabel independen dalam model regresi. Multikolinearitas ini
dapat diatasi dengan menghilangkan variabel-variabel yang diduga saling berkorelasi
tinggi. Multikolinearitas tidak menjadi masalah yang krusial jika model regresi digunakan
untuk keperluan prediksi saja, tidak untuk interpretasi.
Validasi Hasil Analisis
Validasi model regresi dapat dilakukan dengan dua cara berikut:

1.Menerapkan model ini ke dalam sampel lainnya.

Sampel lainnya di sini dapat diperoleh dari sampel baru atau sampel
yang diambil sebagai bagian dari sampel terdahulu.
Jika data-data baru sukar untuk diperoleh, peneliti dapat menggunakan data awal
dengan membagi dua data tersebut secara random.
Dengan demikian, sebelum analisis regresi dilakukan akan terdapat dua set data.
Set data pertama digunakan untuk membangun model,
sedangkan set data kedua digunakan untuk menguji validitas model.

2.Membandingkan beberapa model regresi.

Cara ini dilakukan dengan membandingkan suatu model regresi terhadap
model-model regresi lainnya dengan jumlah variabel independen dan atau
ukuran sampel yang berbeda. Perbandingan dilakukan berdasarkan nilai adjusted 𝑅2 .