Analisis Multivariat#8 - Analisis Regresi Linier

usman@dsn.dinus.ac.
id
Tahapan Analisis Regresi
 Terdiri dari 4 Tahap:

– Tahap 1: Menetapkan model regresi dan
ANALISIS MULTIVARIAT interpretasi model
– Tahap 2: Memeriksa pemenuhan asumsi klasik
– Tahap 3: Menilai GoF model regresi
Lektion Acht (#8):
– Tahap 4: Menguji parameter model individual
Lineare Regressionsanalyse
(Analisis Regresi Linier)
© usman@dsn.dinus.ac.id 081.5665.8285  © usman@dsn.dinus.ac.id 081.5665.8285 
Contoh Kasus  Teknik analisis yang digunakan:

– Kasus untuk menganalisis pengaruh 2 variabel
 Telah dilakukan survei terhadap 34 rumah (n= 34)
independen (luas dan usia) terhadap 1 buah
yang akan dijual untuk mengetahui pengaruh luas
variabel dependen (harga).
tanah (m2) dan usia bangunan (bulan) terhadap
harga rumah (juta rupiah). – Baik variabel independen dan variabel dependen
semuanya diukur dalam skala metrik (scale).
 Hasil survei:
– Ukuran sampel: 34 (sampel besar).
file: harga rumah.sav – Kesimpulan teknik analisis yang digunakan:
Analisis regresi linier berganda
harga: 1360 (Rp. 1.365.000.000)
luas: 850 (850 m2)  Penyelesaian:
usia: 6 (6 bulan /1/2 tahun)
1
usman@dsn.dinus.ac.id
1. Model dalam bentuk bagan:
2. Model umum dan penjelasannya:

𝑌 = 𝛽0 + 𝛽1 𝑋1 + 𝛽2 𝑋2 + ⋯ + 𝛽𝑛 𝑋𝑛 + 𝜀
Tahap 1: 3. Model hasil estimasi dan interpretasinya:
Menetapkan model regresi dan interpretasi 𝑌෠ = 𝑏0 + 𝑏1 𝑋1 + 𝑏2 𝑋2 + ⋯ + 𝑏𝑛 𝑋𝑛
model 4. Penjelasan variabel independen mana yang
mempunyai pengaruh terbesar terhadap variabel
dependen.
5. Nilai prediksi Y bilamana nilai-nilai untuk masing-
masing variabel independen X diketahui.
 Ada 3 distribusi utama untuk pengujian dalam

analisis regresi: Tingkat
 PENGANTAR INFERENSIAL
Kepercayaan
1. Normal (Z) → univariat
SUPLEMEN
/2 /2
–Distribusi probabilitas -z0 0 z0
untuk pengujian 2. Student (t) → bivariat

–Uji Hipotesis
-t 0 t
3. Fisher (F) → multivariat
2
 Rumusan H0: tidak ada hubungan/tidak perbedaan/tidak  Penarikan kesimpulan uji hipotesis: H0 ditolak jika
ada pengaruh
– p-value < 
 Redaksi H0:
– Zhitung, thitung, Fhitung jatuh di daerah kritis (daerah yang
“data berdistribusi normal” = “tidak ada perbedaan antara diarsir)
distribusi data dan distribusi normal”.
 H0 ditolak, identik dengan kata “signifikan”.
 Hipotesis utama dalam analisis regresi:
H0 : X tidak berpengaruh terhadap Y
 Mekanisme pengujian hipotesis:
– P-value vs 
– Statistik distribusi hasil perhitungan (Zhitung, thitung, Fhitung) vs P-value: 
titik kritis (Z, t , F)
Catatan:
– Ilmu sosial:  = 0,05 (5%)  Tingkat kepercayaan = 95% Zhitung -2,36 -1.64 0
– Di SPSS: p-value =Sig. Ztabel

– Z sering disebut Ztabel, t sering disebut ttabel
Asumsi klasik yang diperiksa:

1. Linieritas
2. Normalitas: residual harus berdistribusi
normal
3. Homoskedastisitas: varians residual harus
Tahap 2:
konstan
Memeriksa Pemenuhan Asumsi (Klasik)
Regresi Linier 4. Tidak ada autokorelasi: tidak ada korelasi
antar residual.
5. Tidak ada multikolinieritas: antara variabel
independen tidak saling berkorelasi.
3
Langkah uji MWD:

Uji Asumsi Klasik [1]: Mendeteksi Linieritas
1) Buat 2 model regresi:
 Bahwa model harus mengarah pada hubungan linier • Model asli → diperoleh Ypred1
 Cara Mendeteksi Linieritas (pilih): • Model di mana seluruh variabel telah
ditransformasi dalam bentuk Ln →diperoleh
a) Menggunakan plot relasi antara residual
Ypred2.
terstandarisir (Zresid) dengan prediksi
2) Tentukan Z1= Ln Ypred1 - Ypred2
terstandarisir (Zpred).
– Jika plot tidak membentuk pola tertentu (acak) 3) Regresikan seluruh variabel bebas dan Z1
maka model terindikasi linier. terhadap Y. Jika Z1 sigifikan maka tidak linier.
– Ini sekaligus mengindikasikan kesamaan varians 4) Tentukan Z2 = (antilog YPred2-YPred1)
Catatan: cara ini tidak disarankan 5) Regresikan variabel bebas dan Z2 terhadap Y, jika
b) Menggunakan uji MWD (McKinnon White Z2 sigifikan maka linier.
Davidson)
 Diketahui data:  Persamaan regresi (hasil estimasi):
 PRED & RESID

SUPLEMEN
–PRED: predicted (𝒀෡)

n = 30 𝑌෠ = 4,837 + 2,283 X
–RESID: residual (e)
 Koefisien Regresi X Y ෡ (pred)
𝒀 ෡ (resid)
𝒆 = 𝒀−𝒀
1 4 12 4,837 + 2,283 (4) = 13,97 12 – 13,97 = ‒1,97
Terstandarisasi 2 6 21 4,837 + 2,283 (6) = 18,54 21 – 18,54 = 2,46
3 7 20 4,837 + 2,283 (7) = 20,82 20 - 20,82 = ‒0,82
4 2 11 4,837 + 2,283 (2) = 9,40 11 – 9,40 = 1,60
4
 PRED & ZPRED; RESID & ZRESID

RES_ = RESID = e – ZPRED: Standardized Pred
PRE_ = PRED = 𝑌෠
– ZRESID: Standardized Resid
Data Asli (unstandardized) Data Terstandarisasi (standardized)

X 𝑍𝑋
5 𝑋𝑖 − 𝑋ത (5 – 3)/1,826 = 1,10
4 𝑍𝑋 = (4 – 3)/1,826 = 0,55
1 𝑆 (1 – 3)/1,826 = -1,10
2 (2 – 3)/1,826 = -0,55
𝑋ത = 3
𝑆 = 1,826
Undstandardized Standardized
 Koefisien Regresi Terstandarisasi (Standardized

Coefficient)
 Koefisien regresi terstandarisir diperoleh ketika semua
variabel dinyatakan dalam skor terstandarisir (Z).
xi − x
z xi = → skor terstandarisir
SX
ZPRED ZRESID
ˆz Y = 1 z1 +  2 z 2 → model regresi terstandarisir
PRED RESID dengan 2 variabel independen
S 1 r1Y − r2 Y r12
1 = b1 =
SY 1 − r122 koefisien regresi
terstandarisir
S 2 r2 Y − r1Y r12
 2 = b2 =
SY 1 − r122
5
Uji Asumsi Klasik [2]: Mendeteksi

Normalitas Residual
 Bahwa residual harus berdistribusi normal
 Cara Mendeteksi Normalitas Residual (pilih):
a) Menggunakan grafik:
– Histogram dari residual terstandarisir
Normal: jika hsitogram yang dihasillkan membentuk pola
distribusi normal.
– Normal P-P Plot, yaitu: plot antara distribusi probabilitas
(kumulatif) residual terstandarisir dengan distribusi
probabilitas normal (distribusi probabilitas
harapan/expected jika residual terstandarisir
berdistribusi normal).
Normal: jika plot jatuh di sekitar garis diagonal utama
Catatan: cara ini tidak disarankan
b) Menggunakan uji nonparametrik One Sample Uji Asumsi Klasik [3]: Mendeteksi
Kolmogorov-Smirnov Heteroskedastisitas
H0: data residual berdistribusi normal
c) Menggunakan pengujian normalitas terhadap  Bahwa residual harus bersifat homoskedastik
Skewness dan Kurtosis dari distribusi data residual (varians konstan), dengan kata lain harus bebas
H0: data residual berdistribusi normal (tidak ada heteroskedastik.
skewness dan kurtosis).  Cara Mendeteksi Heteroskedastisitas (pilih):
Koefisien Skewness a) Uji Park:
𝑍𝑠𝑘𝑒𝑤𝑛𝑒𝑠𝑠 =
𝑆𝐸
– Buat model regresi:
Koefisien Kurtosis Variabel dependen: Ln dari kuadrat residual
𝑍𝑘𝑢𝑟𝑡𝑜𝑠𝑖𝑠 = Variabel independen: Ln dari variabel asli
𝑆𝐸
– Heteroskedastik: jika ada parameter model
SPSS menyediakan fitur untuk menghitung besarnya koefisien skewness (slope) yang signifikan
dan koefisien kurtosis beserta masing-masing standard errornya (SE)nya.
Gunakan perintah: Descriptive atau Frequencies.
6
2) Hapus c (4 hingga 10) buah observasi ditengah2

b) Uji Korelasi Rank Spearman: data, sehingga observasi tersisa tinggal n – c.
– Buat korelasi spearman antara harga absolut 3) Bagi observasi yang tersisa menjadi 2 grup yang
residual dengan masing-masing variabel sama banyaknya: grup atas (varians kecil) dan
independen. grup bawah (varians besar).
– Heteroskedastik: jika koefisien korelasi yang 4) Jalankan analisis regresi untuk masing-masing
dihasilkan signifikan grup observasi, sehingga untuk masing-masing
c) Uji Breusch-Pagan-Godfrey (BPG) grup diperoleh Mean Square Residual (Sum
Square Residual/df), yaitu: MSR1 dan MSR2.
d) Uji White’s General Heteroscedasticity
5) Hitung statistik F = MSR2/MSR1.
e) Uji Goldfeld-Quandt: 6) Bandingkan statistik F hitung dengan F tabel
1) Urutkan data secara ascending menurut variabel (dengan numerator dan denumerator = df)
independen X yang dicurigai berkontribusi 7) Jika uji F ini signifikan, maka terindikasi
heterokedastik (gunakan uji park/glejser untuk heterokedastik.
identifikasi variabel yang dicurigai).

f) Uji Glejser Autokorelasi
– Buat model regresi:  Bahwa antar residual tidak boleh saling berkorelasi
Variabel dependen: absolut residual (tidak ada korelasi serial).
Variabel independen: asli  Diujikan untuk data time series, dan tidak perlu
– Heteroskedastik: jika ada parameter model untuk data cross-sectional.
(slope) yang signifikan  Cara Mendeteksi autokorelasi:
– Gunakan uji Durbin-Watson (DW)
– Nilai DW : 0 ‒ 4
– H0 : tidak ada autokorelasi
– Kriteria pengujian:
7
Tabel DW,  = 5%
dL dan dU ditentukan melalui tabel DW berdasarkan: ukuran

sampel n, banyaknya variabel independen k, dan taraf signifikan .
Contoh: untuk  = 5%, k = 2, n = 10 → dL = 0,697, dan dU = 1,641;
4 – dU = 4 – 1,641 = 2,359; 4 – dL = 4 – 0,697 = 3,303

Multikolinieritas
 Multikolinieritas: korelasi yang tinggi antar variabel
independen.
 Bahwa model tidak boleh terjadi multikolinieritas.
 Cara Mendeteksi multikolinieritas (pilih):
a) Koefisien Tolerance (Tol)
Tol = 1 – R2 Tahap 3:
R2: koefisien determinasi ketika variabel ybs. dijadikan variabel Menilai Goodness of Fit (GoF) Model
dependen dan diregres dengan variabel-variabel independen sisanya.
Variabel dengan Tol > 0,1 → tidak terjadi multikolinieritas Regresi
b) Variance Inflating Factor (VIF)
VIF = 1/Tol
Variabel dengan VIF < 10 → tidak terjadi multikolinieritas
SPSS menyediakan fitur untuk menghitung besarnya Tol dan VIF untuk
setiap variabel independen.
8
Menilai Goodness of Fit 1. Koefisien Determinasi (R2)

 Koefisien determinasi (R2) adalah ukuran yang
Ada 2 aspek yang dibicarakan: menjelaskan seberapa baik model regresi yang
1. Menilai koefisien determinasi (R2)
dihasilkan dalam menjelaskan data.
 Model dengan R2 yang kecil berarti kemampuan
2. Menguji goodness of fit model regresi menjelaskannya buruk, artinya jika model tersebut
digunakan untuk membuat prediksi, maka prediksi yang
dihasilkan akan banyak yang tidak sesuai (meleset)
 Nilai R2 : 0 ‒ 1
– R2 = 0 : model sama sekali tidak bisa menjelaskan data
– R2 = 1 : model regresi secara sempurna dapat menjelaskan
data
– R2 = 0,87 → 87% variabilitas Y dapat dijelaskan oleh seluruh
variabel independen X.
2. Uji Goodness of Fit Model Regresi

 3 cara menghitung R2:
n
 Hipotesis:
Sum Square Regression (SSR)  ( yˆ i − y)2
R =
2
= i =1
n
H0 : 1 = 2 = ... = n = 0 ( Artimya: X1, X2, ... Xn secara bersama-
(y
Total Sum Square (TSS) sama tidak berpengaruh terhadap variabel dependen Y;
i − y)2
i =1 model regresi tidak dapat diterima)
m
H1 : Sekurang-kurangnya ada satu  yang tidak sama dengan 0
R 2 = rY2Yˆ R 2 =   p  rpY (Artinya: X1, X2, ... Xn secara bersama-sama berpengaruh
p =1
terhadap variabel dependen Y; model regresi dapat
diterima)
 Model yang mempunyai jumlah variabel independen yang  Uji Hipotesis menggunakan uji Fisher F
banyak, maka nilai R2 cenderung besar.
 Adjusted-R2 adalah koefisien determinasi yang sudah dikoreksi
dengan banyaknya variabel independen.
9
Uji PARAMETER MODEL (Uji t)
 Banyak pasangan hipotesis yang diuji adalah sebanyak

variabel independennya. Model dengan 3 variabel
independen (X) → ada 3 pasang hipotesis
 Contoh hipotesis untuk model dengan 2 variabel
independen:
Tahap 4: H01 : 1 = 0 ( Artinya: X1 tdak berpengaruh terhadap Y)
Menguji Parameter Model Individual H11 :1 > 0 (Artinya: X1 berpengaruh positif terhadapY)
H02 : 2 = 0 ( Artinya: X, tdak berpengaruh terhadap Y)

H12 :2 < 0 (Artinya: X2 berpengaruh negatif terhadapY)
 Uji Hipotesis menggunakan uji Student’s t

10

Analisis Multivariat#8 - Analisis Regresi Linier

Diunggah oleh

Informasi Dokumen

Judul Asli

Hak Cipta

Format Tersedia

Bagikan dokumen Ini

Bagikan atau Tanam Dokumen

Opsi Berbagi

Apakah menurut Anda dokumen ini bermanfaat?

Apakah konten ini tidak pantas?

Hak Cipta:

Format Tersedia

Analisis Multivariat#8 - Analisis Regresi Linier

Diunggah oleh

Hak Cipta:

Format Tersedia

usman@dsn.dinus.ac.

Tahapan Analisis Regresi

 Terdiri dari 4 Tahap:

© usman@dsn.dinus.ac.id 081.5665.8285  © usman@dsn.dinus.ac.id 081.5665.8285 

Contoh Kasus  Teknik analisis yang digunakan:

© usman@dsn.dinus.ac.id 081.5665.8285  © usman@dsn.dinus.ac.id 081.5665.8285 

1. Model dalam bentuk bagan:

2. Model umum dan penjelasannya:

 Ada 3 distribusi utama untuk pengujian dalam

–Distribusi probabilitas -z0 0 z0

untuk pengujian 2. Student (t) → bivariat

3. Fisher (F) → multivariat

© usman@dsn.dinus.ac.id 081.5665.8285  © usman@dsn.dinus.ac.id 081.5665.8285 

– Di SPSS: p-value =Sig. Ztabel

Asumsi klasik yang diperiksa:

Langkah uji MWD:

 Diketahui data:  Persamaan regresi (hasil estimasi):

 PRED & RESID

–PRED: predicted (𝒀෡)

© usman@dsn.dinus.ac.id 081.5665.8285  © usman@dsn.dinus.ac.id 081.5665.8285 

 PRED & ZPRED; RESID & ZRESID

Data Asli (unstandardized) Data Terstandarisasi (standardized)

© usman@dsn.dinus.ac.id 081.5665.8285  © usman@dsn.dinus.ac.id 081.5665.8285 

 Koefisien Regresi Terstandarisasi (Standardized

Uji Asumsi Klasik [2]: Mendeteksi

2) Hapus c (4 hingga 10) buah observasi ditengah2

© usman@dsn.dinus.ac.id 081.5665.8285  © usman@dsn.dinus.ac.id 081.5665.8285 

Uji Asumsi Klasik [4]: Mendeteksi

© usman@dsn.dinus.ac.id 081.5665.8285  © usman@dsn.dinus.ac.id 081.5665.8285 

dL dan dU ditentukan melalui tabel DW berdasarkan: ukuran

Uji Asumsi Klasik [5]: Mendeteksi

Menilai Goodness of Fit 1. Koefisien Determinasi (R2)

© usman@dsn.dinus.ac.id 081.5665.8285  © usman@dsn.dinus.ac.id 081.5665.8285 

2. Uji Goodness of Fit Model Regresi

© usman@dsn.dinus.ac.id 081.5665.8285  © usman@dsn.dinus.ac.id 081.5665.8285 

Uji PARAMETER MODEL (Uji t)

 Banyak pasangan hipotesis yang diuji adalah sebanyak

H02 : 2 = 0 ( Artinya: X, tdak berpengaruh terhadap Y)

 Uji Hipotesis menggunakan uji Student’s t

Anda mungkin juga menyukai