001 - Paparan - Materi Analisis Regresi Linier Sederhana Dan Berganda - Konsep Utama-1

ANALISIS REGRESI LINIER

(SEJARAH)
• Istilah “regresi” pertama kali dikemukakan oleh Sir Francis

Galton (1822-1911), seorang antropolog dan ahli meteorologi
terkenal dari Inggris. Dalam makalahnya yang berjudul :
“Regression towards mediocrity in hereditary stature”, yang

dimuat dalam Journal of the Anthropological Institute, volume
15, hal. 246-263, tahun 1885.
“Meskipun ada kecenderungan bagi orang tua yang tinggi

mempunyai anak-anak yang tinggi, dan bagi orang tua yang
pendek mempunyai anak yang pendek, distribusi tinggi dari suatu
populasi tidak berubah secara menyolok (besar) dari generasi ke
generasi”.
(SEKILAS)
• Analisis regresi merupakan studi ketergantungan satu atau lebih

variabel bebas terhadap variabel tidak bebas. Dengan maksud
untuk meramalkan nilai variabel tidak bebas
• Contoh :
1. Analisis Regresi antara tinggi orang tua terhadap tinggi anaknya
2. Analisis Regresi antara berat ibu hamil dengan berat bayi lahir
3. Analisis regresi antara biaya periklanan terhadap volume
penjualan perusahaan.
4. Analisis Regresi antara motivasi dengan kinerja perawat
5. Analisis Regresi antara jam kerja dengan upah kerja
• .
(SEKILAS)
• Dalam mengkaji hubungan antara beberapa variabel

menggunakan analisis regresi, terlebih dahulu peneliti
menentukan satu variabel yang disebut dengan variabel tidak
bebas dan satu atau lebih variabel bebas.
• Jika ingin dikaji hubungan atau pengaruh satu variabel bebas

terhadap variabel tidak bebas, maka model regresi yang
digunakan adalah model regresi linier sederhana. Kemudian Jika
ingin dikaji hubungan atau pengaruh dua atau lebih variabel
bebas terhadap variabel tidak bebas, maka model regresi yang
digunakan adalah model regresi linier berganda (multiple linear
regression model).
(SEKILAS)
• Kemudian untuk mendapatkan model regresi linier

sederhana maupun model regresi linier berganda dapat
diperoleh dengan melakukan estimasi terhadap parameter-
parameternya menggunakan metode tertentu.
• Adapun metode yang dapat digunakan untuk mengestimasi

parameter model regresi linier sederhana maupun model
regresi linier berganda adalah dengan metode kuadrat
terkecil (ordinary least square/OLS) dan metode
kemungkinan maksimum (maximum likelihood
estimation/MLE)
(PERBEDAAN DENGAN KORELASI)
• Korelasi hanya • Regresi menunjukkan

menunjukkan sekedar hubungan pengaruh.
hubungan.
• Dalam korelasi variabel • Dalam regresi terdapat istilah

tidak ada istilah tergantung tergantung dan variabel bebas.
dan variabel bebas.
(PENGERTIAN X DAN Y)
Y X
• Varaibel tergantung • Varaibel bebas (Independent
(Dependent Variable) Variable)
• Variabel yang dijelaskan • Variabel yang menjelaskan
(Explained Variable) (Explanatory Variable)
• Variabel yang diramalkan • Variabel peramal (Predictor)
(Predictand) • Variabel yang meregresi
• Variabel yang diregresi (Regressor)
(Regressand) • Variabel perangsang atau
• Variabel Tanggapan kendali (Stimulus or control
(Response) variable)
(Persamaan Regresi Linier Sederhana)
Y = a + bX + 
n( XY )  ( X )( Y )
Y = Nilai yang diramalkan b
a = Konstansta n(  X 2 )  (  X ) 2
b = Koefesien regresi
 Y  b( X )
X = Variabel bebas
 = Nilai Residu a
n
(Asumsi Analisis Regresi Linier Sederhana)
• Model regresinya adalah linier dalam

parameter.
• Nilai rata-rata dari error adalah nol.
• Error berdistribusi normal.
(Contoh Analisis Regresi Linier Sederhana)
Seorang manajer rumah sakit akan

meneliti apakah terdapat pengaruh
motivasi terhadap kinerja perawat di
Rumah Sakit R. Syamsudin, SH, untuk
kepentingan penelitian tersebut diambil 8
perawat.
1. Judul
Pengaruh motivasi terhadap kinerja perawat.
2. Pertanyaan Penelitian
• Apakah terdapat Pengaruh motivasi terhadap
kinerja perawat ?
3. Hipotesis
• Terdapat Pengaruh motivasi terhadap kinerja
perawat.
Rumusan Hipotesis :
Ho : Tidak terdapat pengaruh motivasi terhadap kinerja

perawat.
Ha : Terdapat pengaruh motivasi terhadap kinerja

perawat.
Kriteria Uji :
• Ho ditolak Jika
t hitung ≥ tabel atau p-value < 0.05
5. Sampel
8 Perawat
6. Data Yang dikumpulkan
Kinerja (Y) 64 61 84 70 88 92 72 77
Motivasi (X) 20 16 34 23 27 32 18 22
1. Menguji Signifikansi Variabel Bebas Terhadap

Variabel Tak Bebas
2. Menentukan Model Persamaan Regresi
3. Menguji Signifikansi Model Persamaan Regresi
4. Menginterpretasikan Model Persamaan Regresi
5. Menentukan dan Menginterpretasikan Korelasi (Kuat dan
Arah)
6. Menentukan dan Menginterpretasikan Koefisien Determinasi
Y X XY X2 Y2
64 20 1280 400 4096
61 16 976 256 3721
84 34 2856 1156 7056
70 23 1610 529 4900
88 27 2376 729 7744
92 32 2944 1024 8464
72 18 1296 324 5184
77 22 1694 484 5929
608 192 15032 4902 47094
n( XY )  ( X )( Y )
b
n( X 2 )  ( X ) 2
8(15032)  (192)(609)
b  1,497
8(4902)  (192) 2
a
 Y  b( X )
n
(608)  1,497(192)
a  40,082
8
Y= 40,082 + 1,497X+e
• Berapa besarnya kinerja jika motivasi sebesar 20?

40,082 + (1,497*20)= 70,022
40,082 + (1,497*16)=64,034
• Berapa besarnya kinerja jika motivasi si sebesar 34?
40,082 + (1,497*34)= 90,98
40,082 + (1,497*23)= 74,513
• Berapa besarnya kinerja jika motivasi i sebesar 27?
40,082 + (1,497*27)=80,501
40,082 + (1,497*32)= 87,986
Dan seterusnya…………………….!!!
No Y X XY X2 Y2 Ypred (Y-Ypred)2 (Y-Yrata)2
1 64 20 1280 400 4096 70.022 36.264 144
2 61 16 976 256 3721 64.034 9.205 225
3 84 34 2856 1156 7056 90.98 48.720 64
4 70 23 1610 529 4900 74.513 20.367 36
5 88 27 2376 729 7744 80.501 56.235 144
6 92 32 2944 1024 8464 87.986 16.112 256
7 72 18 1296 324 5184 67.028 24.721 16
8 77 22 1694 484 5929 73.016 15.872 1
Jlh 608 192 15032 4902 47094 608.08 227.497 886

• Konstanta sebesar 4662,491; artinya jika PER (X1) dan ROI (X2) nilainya adalah 0,
maka harga saham (Y’) nilainya adalah Rp.4662,491.
• Koefisien regresi variabel PER (X1) sebesar -74,482; artinya jika variabel
independen lain nilainya tetap dan PER mengalami kenaikan 1%, maka harga
saham (Y’) akan mengalami penurunan sebesar Rp.74,482. Koefisien bernilai
negatif artinya terjadi hubungan negatif antara PER dengan harga saham, semakin
naik PER maka semakin turun harga saham.
• Koefisien regresi variabel ROI (X2) sebesar 692,107; artinya jika variabel
independen lain nilainya tetap dan ROI mengalami kenaikan 1%, maka harga
saham (Y’) akan mengalami peningkatan sebesar Rp.692,107. Koefisien bernilai
positif artinya terjadi hubungan positif antara ROI dengan harga saham, semakin
naik ROI maka semakin meningkat harga saham.
Nilai harga saham yang diprediksi (Y’) dapat dilihat pada tabel Casewise
Diagnostics (kolom Predicted Value). Sedangkan Residual (unstandardized
residual) adalah selisih antara harga saham dengan Predicted Value, dan Std.
Residual (standardized residual) adalah nilai residual yang telah terstandarisasi
(nilai semakin mendekati 0 maka model regresi semakin baik dalam melakukan
prediksi, sebaliknya semakin menjauhi 0 atau lebih dari 1 atau -1 maka semakin
tidak baik model regresi dalam melakukan prediksi).
Koefesien determinasi:
R  1
2  (Y  ˆ
Y ) 2
R  1
2 (227,497)
 0,743
 (Y  Y ) 2
(886)
Koefesien Determinasi Disesuaikan (adjusted)
P (1  R 2
) 1(1  0,743)
Radj  R2  Radj  0,743   0,70
N  P 1 8 11
(Perbedaan R-Square dengan Adjusted R-Square)
Koefisien determinasi : Seberapa besar kemampuan semua variabel bebas dalam

menjelaskan varians dari variabel terikatnya.
Secara sederhana koefisien determinasi dihitung dengan
mengkuadratkan Koefisien Korelasi (R).
Nilai R Square adalah antara 0 sampai dengan 1.
R Square (R Kuadrat) : Nilainya akan selalu meningkat dengan adanya penambahan variabel
bebas dalam suatu model. Hal ini akan menimbulkan bias, karena jika
ingin memperoleh model dengan R tinggi, seorang penelitian dapat
dengan sembarangan menambahkan variabel bebas dan nilai R akan
meningkat, tidak tergantung apakah variabel bebas tambahan itu
berhubungan dengan variabel terikat atau tidak.
Adjusted R Square : Interpretasinya sama dengan R Square, akan tetapi

nilai Adjusted R Square dapat naik atau turun dengan adanya
penambahan variabel baru, tergantung dari korelasi antara variabel
bebas tambahan tersebut dengan variabel terikatnya.
Nilai Adjusted R Square dapat bernilai negatif, sehingga jika nilainya

negatif, maka nilai tersebut dianggap 0, atau variabel bebas sama
sekali tidak mampu menjelaskan varians dari variabel terikatnya.
(Analisis Regresi Linier Berganda)
• Bentuk umum model regresi linier berganda

dengan p variabel bebas adalah
(Estimasi Parameter Regresi Linier Berganda)
• Estimasi parameter ini bertujuan untuk mendapatkan model

regresi linier berganda yang akan digunakan dalam analisis
• Metode yang digunakan untuk mengestimasi parameter

model regresi linier berganda adalah metode kuadrat terkecil
atau sering juga disebut dengan metode ordinary least
square (OLS)
• Metode OLS ini bertujuan meminimumkan jumlah kuadrat

error.
• Penaksir OLS merupakan penaksir yang tidak bias, linier dan

terbaik (best linear unbiased estimator/BLUE)
(Pengujian Parameter Model Regresi Linier Berganda)
1. Pengujian Parameter Secara Serentak (Simultan)

• Membuat hipotesis
• Menentukan tingkat signifikansi (α)
• Menentukan statistik uji
• Menentukan daerah kritik (penolakan H0)
• Menarik kesimpulan
2. Pengujian Parameter Secara Individu (Parsial)
• Membuat hipotesis
• Menentukan tingkat signifikansi (α)
• Menentukan statistik uji
• Menentukan daerah kritik (penolakan H0)
• Menarik kesimpulan
(Asumsi Analisis Regresi Linier Berganda)
• Model regresinya adalah linier dalam parameter.
• Nilai rata-rata dari error adalah nol.
• Variansi dari error adalah konstan (homoskedastik).
• Tidak terjadi autokorelasi pada error.
• Tidak terjadi multikolinieritas pada variabel bebas.
• Error berdistribusi normal.

(Pelanggaran Asumsi Analisis Regresi Linier Berganda)
Multikolinieritas
• Multikolinieritas adalah terjadinya hubungan

linier antara variabel bebas dalam suatu
model regresi linier berganda.
• Hubungan linier antara variabel bebas dapat
terjadi dalam bentuk hubungan linier yang
sempurna (perfect) dan hubungan linier yang
kurang sempurna (imperfect).
Multikolinieritas
Adapun dampak adanya multikolinieritas dalam model regresi linier
berganda adalah
1. Penaksir OLS masih bersifat BLUE, tetapi mempunyai variansi dan

kovariansi yang yang besar sehingga sulit mendapatkan taksiran
(estimasi) yang tepat.
2. Akibat penaksir OLS mempunyai variansi dan kovariansi yang yang

besar, menyebabkan interval estimasi akan cenderung lebih lebar
dan nilai hitung statistik uji t akan kecil, sehingga membuat
variabel bebas secara statistik tidak signifikan mempengaruhi
variabel tidak bebas.
3. Walaupun secara individu variabel bebas tidak berpengaruh

terhadap variabel tidak bebas melalui uji t, tetapi nilai koefisien
determinasi (R2) masih bisa relatif tinggi.
Multikolinieritas
• Selanjutnya untuk mendeteksi adanya multikolinieritas dalam

model regresi linier berganda dapat digunakan nilai variance
inflation factor (VIF) dan tolerance (TOL)
• Dengan ketentuan jika nilai VIF melebihi angka 10, maka

terjadi multikolinieritas dalam model regresi.
• Kemudian jika nilai TOL sama dengan 1, maka tidak terjadi

multikolinieritas dalam model regresi.
Heteroskedastis
1. Heteroskedastisitas adalah variansi dari error model regresi tidak

konstan atau variansi antar error yang satu dengan error yang lain
berbeda
1. Dampak adanya heteroskedastisitas dalam model regresi :
• Walaupun estimator OLS masih linier dan tidak bias, tetapi tidak lagi
mempunyai variansi yang minimum dan menyebabkan perhitungan
standard error metode OLS tidak bisa dipercaya kebenarannya.
• Selain itu interval estimasi maupun pengujian hipotesis yang
didasarkan pada distribusi t maupun F tidak bisa lagi dipercaya untuk
evaluasi hasil regresi.
• Akibat dari dampak heteroskedastisitas tersebut menyebabkan

estimator OLS tidak menghasilkan estimator yang BLUE dan hanya
menghasilkan estimator OLS yang linear unbiased estimator (LUE).
Heteroskedastis
• Cara yang dapat digunakan untuk mendeteksi adanya

heteroskedastisitas dalam model regresi adalah dengan
Metode Glejser, Metode Park dan Scatter Plot
Autokorelasi
• Autokorelasi adalah terjadinya korelasi antara satu variabel

error dengan variabel error yang lain. Autokorelasi seringkali
terjadi pada data time series dan dapat juga terjadi pada data
cross section tetapi jarang
Autokorelasi
Dampak dari adanya autokorelasi dalam model regresi adalah sama
dengan dampak dari heteroskedastisitas :
• Walaupun estimator OLS masih linier dan tidak bias, tetapi tidak lagi
mempunyai variansi yang minimum dan menyebabkan perhitungan
standard error metode OLS tidak bisa dipercaya kebenarannya.
• Selain itu interval estimasi maupun pengujian hipotesis yang

didasarkan pada distribusi t maupun F tidak bisa lagi dipercaya
untuk evaluasi hasil regresi.
• Akibat dari dampak adanya autokorelasi dalam model regresi

menyebabkan estimator OLS tidak menghasilkan estimator yang
BLUE dan hanya menghasilkan estimator OLS yang LUE
Autokorelasi
• untuk mendeteksi adanya autokorelasi dalam model regresi
linier
• berganda dapat digunakan metode Durbin-Watson. Durbin-
Watson telah berhasil
• mengembangkan suatu metode yang digunakan untuk
mendeteksi adanya masalah
• autokorelasi dalam model regresi linier berganda
• Kemudian Durbin-Watson berhasil menurunkan nilai kritis
batas bawah (dL) dan batas atas
• (dU) sehingga jika nilai d hitung dari persamaan (6.1) terletak
di luar nilai kritis ini, maka ada
• atau tidaknya autokorelasi baik positif atau negatif dapat
diketahui.
Autokorelasi
• Deteksi autokorelasi pada model regresi linier berganda

dengan metode Durbin-Watson adalah

001 - Paparan - Materi Analisis Regresi Linier Sederhana Dan Berganda - Konsep Utama-1

Diunggah oleh

Informasi Dokumen

Judul Asli

Hak Cipta

Format Tersedia

Bagikan dokumen Ini

Bagikan atau Tanam Dokumen

Opsi Berbagi

Apakah menurut Anda dokumen ini bermanfaat?

Apakah konten ini tidak pantas?

Hak Cipta:

Format Tersedia

001 - Paparan - Materi Analisis Regresi Linier Sederhana Dan Berganda - Konsep Utama-1

Diunggah oleh

Hak Cipta:

Format Tersedia

ANALISIS REGRESI LINIER

ANALISIS REGRESI LINIER

• Istilah “regresi” pertama kali dikemukakan oleh Sir Francis

“Regression towards mediocrity in hereditary stature”, yang

“Meskipun ada kecenderungan bagi orang tua yang tinggi

• Analisis regresi merupakan studi ketergantungan satu atau lebih

• Dalam mengkaji hubungan antara beberapa variabel

• Jika ingin dikaji hubungan atau pengaruh satu variabel bebas

• Kemudian untuk mendapatkan model regresi linier

• Adapun metode yang dapat digunakan untuk mengestimasi

• Korelasi hanya • Regresi menunjukkan

• Dalam korelasi variabel • Dalam regresi terdapat istilah

• Model regresinya adalah linier dalam

Seorang manajer rumah sakit akan

Ho : Tidak terdapat pengaruh motivasi terhadap kinerja

Ha : Terdapat pengaruh motivasi terhadap kinerja

6. Data Yang dikumpulkan

1. Menguji Signifikansi Variabel Bebas Terhadap

• Berapa besarnya kinerja jika motivasi sebesar 20?

No Y X XY X2 Y2 Ypred (Y-Ypred)2 (Y-Yrata)2

1 64 20 1280 400 4096 70.022 36.264 144

2 61 16 976 256 3721 64.034 9.205 225

3 84 34 2856 1156 7056 90.98 48.720 64

4 70 23 1610 529 4900 74.513 20.367 36

5 88 27 2376 729 7744 80.501 56.235 144

6 92 32 2944 1024 8464 87.986 16.112 256

7 72 18 1296 324 5184 67.028 24.721 16

8 77 22 1694 484 5929 73.016 15.872 1

Jlh 608 192 15032 4902 47094 608.08 227.497 886

Koefesien Determinasi Disesuaikan (adjusted)

Koefisien determinasi : Seberapa besar kemampuan semua variabel bebas dalam

Adjusted R Square : Interpretasinya sama dengan R Square, akan tetapi

Nilai Adjusted R Square dapat bernilai negatif, sehingga jika nilainya

• Bentuk umum model regresi linier berganda

• Estimasi parameter ini bertujuan untuk mendapatkan model

• Metode yang digunakan untuk mengestimasi parameter

• Metode OLS ini bertujuan meminimumkan jumlah kuadrat

• Penaksir OLS merupakan penaksir yang tidak bias, linier dan

1. Pengujian Parameter Secara Serentak (Simultan)

• Model regresinya adalah linier dalam parameter.

• Nilai rata-rata dari error adalah nol.

• Variansi dari error adalah konstan (homoskedastik).

• Tidak terjadi autokorelasi pada error.

• Tidak terjadi multikolinieritas pada variabel bebas.

• Error berdistribusi normal.

• Multikolinieritas adalah terjadinya hubungan

1. Penaksir OLS masih bersifat BLUE, tetapi mempunyai variansi dan

2. Akibat penaksir OLS mempunyai variansi dan kovariansi yang yang

3. Walaupun secara individu variabel bebas tidak berpengaruh

• Selanjutnya untuk mendeteksi adanya multikolinieritas dalam

• Dengan ketentuan jika nilai VIF melebihi angka 10, maka

• Kemudian jika nilai TOL sama dengan 1, maka tidak terjadi

1. Heteroskedastisitas adalah variansi dari error model regresi tidak

1. Dampak adanya heteroskedastisitas dalam model regresi :

• Akibat dari dampak heteroskedastisitas tersebut menyebabkan

• Cara yang dapat digunakan untuk mendeteksi adanya

• Autokorelasi adalah terjadinya korelasi antara satu variabel

• Selain itu interval estimasi maupun pengujian hipotesis yang

• Akibat dari dampak adanya autokorelasi dalam model regresi

• Deteksi autokorelasi pada model regresi linier berganda

Anda mungkin juga menyukai