MODUL PERKULIAHAN

Statistika
Multivariat
Analisis Error dalam Regresi Linear
Sederhana

Fakultas Program Studi Tatap Muka Kode MK Disusun Oleh

05
Ekonomi dan Bisnis Akuntansi … Dr. Drs. Rachmat Hidayat, M. Pd.

Abstract Kompetensi
Materi Analisis Regresi Sederhana Mahasiswa diharapkan mampu
mencakup: memahami pengertian,
1. Pengertian Analisis Regresi konsekwensi, pendeteksian, serta
Sederhana.
pemecahan kasus: otokorelasi,
2. Model Regresi Sederhana.
3. Uji Signifikansi pada Analisis heteroskedastisitas, dan normalitas.
Regresi Sederhana.
4. Kasus yang Diselesaikan
dengan Analisis Regresi
Sederhana.
5. Interpretasi Analisis Regresi
Sederhana.
‘20 Statistika Multivariat Biro Akademik dan Pembelajaran
2 Dr. Drs. Rachmat Hidayat, M.P http://www.widyatama.ac.id
Pendahuluan
Pembahasan tentang analisis error (resudual) dalam regresi linear sederhana (Simple
Regression Analysis) difokuskan pada menguji sebagian atau seluruh asumsi yang mendasari
regresi linear sederhana. Pengujian error atau residual regresi ini sering disebut uji asumsi
klasik. Uji asumsi klasik yang akan dikaji adalah otokorelasi, heteroskedastisitas, dan
normalitas error.

Pada modul kali ini kita akan membahas apa yang dimaksud dengan: otokorelasi,
heteroskedastisitas, dan normalitas dan apa konsekwensi yang harus diterima jika kasus
otokorelasi, heteroskedastisitas, dan normalitas error terjadi dalam model yang kita ajukan.
Selain itu, kita juga akan mendiskusikan pengertian, konsekwensi, pendeteksian, serta
pemecahan kasus: otokorelasi, heteroskedastisitas, dan normalitas.

Uji OtoKorelasi
Otokorelasi (Autocorrlation) adalah suatu korelasi antara nilai variabel pada periode t
dengan periode sebelumnya. Misalnya pada variabel bebas x data ke-i berkorelasi dengan
data ke (i-1) atau (i-2). Apabila terjadi otokorelasi, maka ada problem otokorelasi. Otokorelasi
sering terjadi pada data time series (runtut waktu) sedang pada data cross section jarang
terjadi. Model regresi yang baik adalah model yang bebas dari otokorelasi. Model regresi
klasik mengasumsikan bahwa otokorelasi tidak terjadi, secara statistik artinya kovariansi
antara error ke-i dengan error ke-j sama dengan nol.

Uji autokorelasi bertujuan untuk menguji apakah dalam model regresi linear ada korelasi
antara error periode t dengan periode sebelumnya, misalnya periode (t – 1), t-2, dan
seterusnya. Salah satu cara memeriksa otokorelasi adalah dengan metode Durbin-Watson.
Statistik uji yang digunakan adalah uji d (Durbuin-Watson)
𝑛
(𝑒𝑖 − 𝑒𝑖−1 )2
𝑑=∑
∑𝑛1 𝑒𝑖2
2

Hasil perhitungan Durbin-Watson (DW) kemudian dibandingkan dengan nilai DW kritis

sebagaimana dapat dilihaqt dalam tabel DW.

Konsekwensi Otokorelasi
Dengan adanya otokorelasi maka variansi akan membesar. Dampak dari membesarnya
variansi adalah: (1) pengujian parameter (β) regresi dengan statistik uji t menjadi tidak valid,
(2) selang kepercayaan (perkiraan selang) untukparameter regresi cenderung melebar.

‘20 Statistika Multivariat Biro Akademik dan Pembelajaran

3 Dr. Drs. Rachmat Hidayat, M.P http://www.widyatama.ac.id
Dengan melebarnya selang kepercayaan, maka hasil dugaan yangdiperoleh menjadi tidak
dapat dipercaya.

Deteksi Otokorelasi
Deteksi otokorelasi dapat dengan metode grafik atau secara format, yaitu metode statistik
berikut: (1) Metode Durbin Watson (DW), (2) Metode Breusch-Godfrey, (3) LM test (uji
Lagrane), (4) Uji statistics Q: Box-Pierce dan Ljung Box dan, (4) Run Test.

Cara Mengatasi Kasus Otokorelasi dalam Model

Cara mengatasi kasus otokeralsi adalah dengan menggunakan metode kuadrat terkecil
umum (Generalized Least Square – GLS) namun caraini tetap menyulitkan karena hasilnya
sulit diketahui. Cara lain adalah menggunakan metode beda pertama/selisih beda (The
Difference Method)

Prosedur Pengujian Otokorelasi dengan Pemanfaatan Teknologi: SPSS

Buka file data: Lihat tampilan SPSS di bawah.
Analyze -> Regresion ->Linear
Analysis -> Regresion -> Linear
Tamplian seperti:

Masukkan Y pada “Dependent” X1 dan X2 masukkan pada “Independent.” pada kotak

“Method” pilih Enter.
Klik “Statistics” maka akan tampak tampilan Windows Linear Regresion Statisitics.

‘20 Statistika Multivariat Biro Akademik dan Pembelajaran

4 Dr. Drs. Rachmat Hidayat, M.P http://www.widyatama.ac.id
Kemudian aktifkan “Durbin-Watson” dan “Collinearity Diagnostics” dan klik “Continu”
maka kembali ke dialog box peretama yaitu Linear Regresion Statistics dan klik OK maka
hasilnya adalah:

Model Summaryb
Adjusted R Std. Error of Durbin-
Model R R Square Square the Estimate Watson
1 .850a .723 .680 1.81853 1.580
a. Predictors: (Constant), X2, X1
a. Dependent Variable: Y

1. Menentukan Hipotesis
H0: ρ = 0 (tidak ada autokorelasi)
H1: ρ ≠ 0 (ada autokorelasi)
2. Menentukan nilai α dengan nilai d tabel dL (n=16, k =2) = 0,98, dU (n=16, k=1) = 1,54
Hasil d > dU maka tidak ada otokorelasi
K = banyak variabel indenden = 2.
d = 1.580 berada dalam interval du dan 4 – du
dU < d < 4 – dU berarti tidak ada auto korelasi
3. Kriteria penolkan H0:
Jika d < dL, tolak H0
Jika d > dU, H0 diterima
Jika dL < d < dU, hasil pengujian tidak dapat disimpulkan

‘20 Statistika Multivariat Biro Akademik dan Pembelajaran

5 Dr. Drs. Rachmat Hidayat, M.P http://www.widyatama.ac.id
Pengambilan keputusan dalam uji Durbin-Watson
1. Menentukan Hipotesis
a. H0: tidak ada autokorelasi
b. H1: ada autokorelasi
2. Menentukan nilai α dengan d tabel (n-k) terdiri atas dl dan du. K adalah banyaknya
variabel independen
3. Menentukan kriteria pengujian:
a. Tidak terjadi otokorelasi jika (4- dL) < dw < dL
b. Terjadi otokorelasi positif jika d > (4 – dL), koefisien korelasinya lebih besar
dari nol.
c. Terjadi otokorelasi negatif jika d < dL, koefisien korelasinya lebih kecil dari nol.
d. Jika d terletak diantara (4 – dU) dan (4 – dL), hasilnya tidak dapat disimpulkan.
Jika terjadi kasus tidak dapat dibuat suatu kesimpulan tentang ada tidaknya
autokorelasi maka digunakan uji rasio Von Neumann sebagai berikut.

𝑛
2
(𝑒𝑖 − 𝑒𝑖−1 )2
𝛿 =∑
(𝑛 − 1)
𝑖=2

𝑛
2
(𝑒𝑖 − 𝑒̅ )2
𝑆 =∑
𝑛
𝑖=1

𝛿2
=⋯
𝑆2
Daerah distribusi normalnya:
𝛿2 2𝑛
𝑅𝑎𝑡𝑎 − 𝑅𝑎𝑡𝑎 = 𝐸 [𝑆 2 ] = 𝑛−1 = ⋯

𝛿2 4𝑛2 (𝑛 − 2)
𝑆𝑖𝑚𝑝𝑎𝑛𝑔𝑎𝑛 𝐵𝑎𝑘𝑢 = √𝑉𝑎𝑟 [ 2 ] = √ =⋯
𝑆 (𝑛 + 1)(𝑛 − 1)3

Daerah batas tidak ada autokorelasi adalah:

𝑅𝑎𝑡𝑎 − 𝑅𝑎𝑡𝑎 ± 2 𝑥 𝑆𝑖𝑝𝑎𝑛𝑔𝑎𝑛 𝑏𝑎𝑘𝑦
Atau
... sampai ….

Heteroskedastisitas

‘20 Statistika Multivariat Biro Akademik dan Pembelajaran

6 Dr. Drs. Rachmat Hidayat, M.P http://www.widyatama.ac.id
Heteroskedastisitas
Heteroskedastisitas adalah variansi variabel eror dari model regresi yang diajukan nilainya
tidak konstan. Lawan dari heteroskedastisitas adalah homoskedastisitas. Homoskedastisitas
berarti variansi dari error bersifat tetap (konstan) atau disebut juga identik. Uji
heteroskedastisitas bertujuan menguji apakah dalam model regresi linear terjadi
ketidaksamaan variansi dari error satu pengamatan ke pengamatan lain. Jika tidak terjadi
heteroskedatisitas maka variansi dari error satu pengamatan ke pengamatan lain nilainya
sama yang disebut homoskedastisitas. Hetroskedastisitas sering ditemui dalam analis data
cros section

Konsekwensi Heteroskedastisitas
Sama halnya dengan konsekwensi dari otokorelasi, dengan terjadinya heteroskedastisitas
maka variansi akan membesar. Dampak dari membesarnya variansi adalah: (1) pengujian
parameter (β) regresi dengan statistik uji t menjadi tidak valid, (2) selang kepercayaan
(perkiraan selang) untukparameter regresi cenderung melebar. Dengan melebarnya selang
kepercayaan, maka hasil dugaan yangdiperoleh menjadi tidak dapat dipercaya.

Deteksi Heteroskedastisitas
Cara mendeteksi heteroskedastisitas dapat secara informal atau formal. Secara informal
deteksi heteroskedastisitas adalah dengan metode grafik. Dalam literatur ekonemetrik banyak
ditunjukkan grafik yang menunjukkan terjadi heteroskedastisitas. Grafik yang dimaksudkan
adalah grafik yang mengaitkan Y dan X, untuk regresi linear sederhana, sedangkan untuk
regresi berganda, grafik yang mengaitkan e2 dengan Y atau e2 dengan x.

Adapun pada metode informal, pendeteksian heteroskedastisitas dilakukan dengan

pengujian secara statistika. Statistik uji yang digunakan adalah: (1) Metode Park, (2) Metode
Glejser, (3) Metode korelasi Spearman, (4) Metode GoldFEld-Quand, (5) Metode
BreuschPagan, (6) Metode White, (7) uji korelasi Rank-Spearman.

Cara Mengatasi Heteroskedastisitas dalam Model

Secara umum penyembuhan heteroskedastisitas adalah dengan melakukan transformasi
variabel, baik variabel x, variabel y, maupun keduanya. Beberapa transformasi yang
1 1 1
digunakan adalah logartima (Ln atau Log). √ , 𝑦 , 𝑥 , , Box Cox , dan lain-lain
√𝑥

Metode Glejser

‘20 Statistika Multivariat Biro Akademik dan Pembelajaran

7 Dr. Drs. Rachmat Hidayat, M.P http://www.widyatama.ac.id
Uji heteroskedastisitas dengan metode Glejser dilakan dengan cara meregresikan x terhadap
nilai absolut (mutlak) error. Jika x berpengaruh terhadap absolut Error, maka terjadi masalah
heteroskedastisitas.
Jadi Langkah-langkah menguji heteroskedastisitas dengan metode Glejser adalah: (1)
regresikan x terhadap y, (2) hitung Error, (3) absolutkan error (nilai mutlak error), (4)
regresikan x terhadap nilai mutlak error. (5) simpulkan, jika x berpengaruh terhadap y, maka
terjadi heteros kedastisitas.

Pemanfaatan Teknologi: Menguji Heteroskedastisitas dengan SPSS

Input data seperti pada gambar berikut.

1. Regresikan X terhadap Y
Analyze -> Regression -> Linear kemudian pilih Save dan beri ceklist Unstandardized
dalam Tab Resudual.

‘20 Statistika Multivariat Biro Akademik dan Pembelajaran

8 Dr. Drs. Rachmat Hidayat, M.P http://www.widyatama.ac.id
Perhatikan bahwa dalam data sekarang muncul variabel RES_1. Ini adalah residual (error)
2. Absolutkan error dengan cara: Klik Transform kemudian isikan seperti gamabr
berikut. Dalam Target Variabel Ditulis Absolut_e (boleh dengan cara lain. Dalam
Numeric Expression Tulis ABS(Res_1), ini adalah nilai mitlak dari error. Sekarang
kembali kepada data. Dalam data akan muncul variabel Abslolut_e.

3. Regresikan X terhadap Absolut_e kemudian kli OK

‘20 Statistika Multivariat Biro Akademik dan Pembelajaran

9 Dr. Drs. Rachmat Hidayat, M.P http://www.widyatama.ac.id
Hasil Analilsis SPSS

Coefficientsa
Standardized
Unstandardized Coefficients Coefficients
Model B Std. Error Beta t Sig.
1 (Constant) -7.765 4.197 -1.850 .087
X .602 .249 .556 2.414 .031
a. Dependent Variable: Absolut_e

Dari tabel Coefficients di atas tampak bahwa Sig. Variabel X = 0.031 lebih kecil daripada 0.05.
Ini berarti variabel X berpengaruh terhadap Absolut error. Oleh karena itu dapat disimpulkan
bahwa uji Glejser mengindikasikan adanya heteroskedastisitas dalam model

Normalitas Error
Normalitas Error
Tujuan menguji normalitas error adalah untuk mengetahui apakah error dalam model regresi
bersistribusi normal. Seperti diketahui bahawa uji t dan uji F mengasumsikan nilai error
bersditribusi normal. Jika asumsi ini tidak terpenuhi maka hasil uji statisdtik menjadi tidak valid
khususnya untuk ukuran sampel kecil. Kita perlu memperhatikan bahwa asumsi error
berdistribusi normal ini terutama untuk sampel yang berukuran kecil. Oleh karena itu kita dapat
mengabaikan uji normalitas error jika sampelnya besar.
Konsekwensi Error Tidak Normal

‘20 Statistika Multivariat Biro Akademik dan Pembelajaran

10 Dr. Drs. Rachmat Hidayat, M.P http://www.widyatama.ac.id
Konsekwensi dari tidak error yang tidak normal adalah nilai prediksi yang diperoleh akanbias
dan tidak konsisten.

Deteksi Normalitas
Terdapat dua cara mendeteksi normalitas error yaitu dengan analisis grafik dan uji statistik.
Analisis grafik merupakan cara termudah namun sering menyesatkan terutama untuk sampel
yang kecil. Analisis grafik merupakan uji tidak formal sedangkan uji statisitik merupakan uji
formal. Uji normalitas error bertujuan untuk menguji apakah dalam model regresi linear, error
atau residual berdistribusi normal. Pengujian sacara statisitk untuk uji normalitas error yang
dibahas adalah uji Jarque Bera (JB) dan uji Komogorov-Smirnov.

Uji Jarque-Bera (JB).

Uji JB adalah untuk ujin ormalitas sampel besar. Perhitungan JB memanfaatkan koefisien
Skewness (S) dan koefisien Kurtosis (K).
𝑆 2 (𝐾 − 3)2
𝐽𝐵 = 𝑚 [ + ]
6 24
n adalah banyaknya sampel. Nilai JB statistik mengikuti distribusi Ch-Squre dengan degree
of freedon (d f) = 2
Pengambilan keputusan dalam uji Normalitas Error
1. Menentukan Hipotesis
H0: error berdistribusi normal
H1: error tidak berdistribusi normal
2. Kriteria pengujian:
Ho ditolak jika JB > Chi-Squares. Deggre of freedom Chi-Suare, d f = 2

Pemanfaatan Teknologi: Prosedur Anlysis Normalitas Error dengan

SPSS
Buka file data …
Analyze -> Regresion ->Linear
Ilustrasi: Data ….
Pemanfaatan Teknologi: SPSS:
Analysis -> Regresion -> Linear
Tamplian seperti gambar berikut.

‘20 Statistika Multivariat Biro Akademik dan Pembelajaran

11 Dr. Drs. Rachmat Hidayat, M.P http://www.widyatama.ac.id
 Masukkan Y pada “Dependent” X1 dan X2 masukkan pada “Independent” pada
kotak “Metho pilih Enter.
Klik “Save maka akan tampak windows Linear Regresion: save. Beri centang
Unstandardized dalam residual. Perhatikan tampilan berikut

Klikk Continu kemudian klik OK.

Perhatikan bahwa sekarang dalam data view akan ada variabel baru dengan nama RES_1.
Variabel RES_1 merupakan error dari persamaan regresi yang kita buat. Selanjutnya kita
akan menghitung JB. Karena JB memerlukan nilai Kurtos dan Skewness, maka kita perlu
menghitung K dan S terlebuh dulu.

Dari windows data View,

Klik Analysis Descriptive Statistics ->
Akan muncul window Descriptive

‘20 Statistika Multivariat Biro Akademik dan Pembelajaran

12 Dr. Drs. Rachmat Hidayat, M.P http://www.widyatama.ac.id
Klik Option maka akan muncul window Descriptive Option. Centang “Kurtosis” dan
“Skewness.”

Hasil analisis:

Statistics
Unstandardized Residual
N Valid 16
Missing 0
Skewness -.691
Std. Error of .564
Skewness
Kurtosis -.075
Std. Error of Kurtosis 1.091

Perhitungan JB dengan Excel

‘20 Statistika Multivariat Biro Akademik dan Pembelajaran

13 Dr. Drs. Rachmat Hidayat, M.P http://www.widyatama.ac.id
Pengambilan Keputusan dalam Uji Normalitas Error
1. Menentukan Hipotesis
H0: error berdistribusi normal
H1: error tidak berdistribusi normal
2. Kriteria pengujian:
Ho ditolak jika JB > Chi-Squares. Deggre of freedom Chi-Suare, d f = 2
Untuk α = 5%, nilai Chi-Square dengan df dua adalah 5,99.
Karena JB = 7, 57401 > Chi-Square, maka Ho ditolak. Dengan kata lain error tidak
berdistribusi normal.

Pengujian Normalitas Error: Uji Kolmogorov-Smirnov

Langkah-langkah:
Buka kembali data … yang sudah memuat Variabel error (RES_1)
Klik Analysis -> Non Parametric Tests -> Legacy Dialogs -> 1-Sample K-S…
Tampilan windows One-Sample Kolmogorov-Smirnov Test: masukkan variabel
Unstandardized Resudual pada “Trest variable List” dan beri centang tab “Normal” pada Test
Distribution

Klik OK
Hasil Analisis:

‘20 Statistika Multivariat Biro Akademik dan Pembelajaran

14 Dr. Drs. Rachmat Hidayat, M.P http://www.widyatama.ac.id
 One-Sample Kolmogorov-Smirnov Test
Unstandardiz
ed Residual
N 16
a,b
Normal Parameters Mean .0000000
Std. 1.69296356
Deviation
Most Extreme Absolute .123
Differences Positive .093
Negative -.123
Test Statistic .123
Asymp. Sig. (2-tailed) .200c,d
a. Test distribution is Normal.
b. Calculated from data.
c. Lilliefors Significance Correction.
d. This is a lower bound of the true significance.

Pengambilan Keputusan dalam Uji Normalitas Error dengam Menggunakan uji

Kolmogorov-Smirnov
1. Menentukan Hipotesis
H0: error berdistribusi normal
H1: error tidak berdistribusi normal
2. Kriteria pengujian:
Ho ditolak jika Asymp. Sig. (2-tailed) > α

Pada One-Sample Kolmogorov-Smirnov Test di atas, tamapak bahwa nilai Asymp. Sig. (2-
tailed), yaitu sebesar 0.200. Ini berarti Sig. (2-tailed) lebih besar dari 0,05 (α = 5%) sehingga
H0 ditolak. Artinya, residual persamaan regresi tidak berdistribusi normal

Cara Mengatasi Kasus Error Tidak Normal dalam Model

Cara mengatasi kasus error dalam model adalah: (1) menambah jumlah data, (2) melakukan
1 1 1
transformasi data menajdi Ln atau log √ , 𝑦 , 𝑥 , , Box Cox , dan lain-lain.
√𝑥

Daftar Pustaka

Black, K. (2019). Business Statistics: For Contemporary Decision Making. Tenth Edition.
Hoboken: Wiley

‘20 Statistika Multivariat Biro Akademik dan Pembelajaran

15 Dr. Drs. Rachmat Hidayat, M.P http://www.widyatama.ac.id
Ghozali, I., Ratmono, D. (2018). Analisis Multivariat dan Ekonometrika. Teori, Konsep, dan
Aplikasi dengan Eviews 10. Semarang: Badan Penerbit Universitas Diponegoro.
McClave J.T., Benson, P.G., Sincich, T. (2011). Statistics for Business and Economics
Eleventh Edition. Pearson Education Inc.
Setiawan., Kusrini, D. E. (2010). Ekonometrika. Yogyakarta: ANDI OFFSET
Suharjo, B. (2008). Analisis Regresi Terapan dengan SPSS. Yogyakarta: GRAHA ILMU.
Suliyanto (2011). Ekonometrika Terapan: Teori & Aplikasi dengan SPSS. Yogyakarta: Andi
Supranto, J. (1984). Ekonometrik Buku Dua. Jakarta: Lembaga Penerbit Fakultas Ekonomi
Universitas Indonesia.
Widaryono, A. (2013). Ekonometrika Pengantar dan Aplikasinya Disertai Panduan Eviews.
Edisi Keempat. Yogyakarta: UPP STIM YKPN.
Wijaya, T. (2012). Praktis dan Simpel cepat menguasai SPSS 20 untuk olah dan Interpretasi
Data. Yogyakarta: Cahaya Atma Pustaka

‘20 Statistika Multivariat Biro Akademik dan Pembelajaran

16 Dr. Drs. Rachmat Hidayat, M.P http://www.widyatama.ac.id