KORELASI & REGRESI

Hazan Azhari Zainuddin, M.Si

ANALISIS
KORELASI
 PENGANTAR
KORELASI
• Melihat hubungan antara dua variabel secara
kuantitatif

X Hubungan Y
Contoh: Tingkat Pendidikan Tingkat Pendapatan

• Koefisien korelasi sering dinotasikan dengan r dan nilainya berkisar antara -1 dan 1
• Nilai r yang mendekati 1 atau -1 menunjukkan semakin erat hubungan linier antara kedua
peubah tersebut. Nilai r yang mendekati nol menggambarkan hubungan kedua peubah tidak
linier.
• Tanda (+) / (-) menggambarkan arah hubungan
(+) searah;
(-) berlawanan arah 3
PENGANTAR
Gambaran Korelasi

4
Kriteria Guilford (1956)

5
Formula Korelasi (Pearson)

• Korelasi bernilai minimal -1 maksimal 1

• Semakin mendekati -1 atau 1 maka korelasinya semakin
kuat. Sedangkan semakin mendekati 0 maka korelasinya
semakin lemah.

6
ILUSTRASI

Nama Berat Badan Tekanan Darah

Ali 45 130
Amir 44 110
Baiti 42 100
Cepi 57 155
Didi 55 130
Udin 50 130
Riya 45 120
Santi 58 178
Syifa 61 180
Zainal 60 160
7
Uji Hipotesis rxy n2
t0 
1  rxy 2
 
• Hipotesis Pengujian:
H0 : ( tidak ada korelasi)
H1 : ( ada korelasi)

tolak H0 jika p-value < 0.05

8
 Jenis Korelasi

Skala Korelasi
Interval/Rasi
o Pearson
Ordinal Spearman
Nominal Koefisien Kontingensi

9
Jenis Korelasi

10
ANALISIS
REGRESI
PENGANTAR
Regresi Linier Sederhana
• Mengkaji pengaruh satu variabel prediktor (X)
terhadap suatu variabel respon (Y)
• Membuat suatu model yang dapat memprediksikan
nilai Y berdasarkan nilai X

X Pengaruh Y
Prediktor Respon

Misalkan :
X = income
Y = expenditure
12
PENGANTAR

Mempengaruhi = X Dipengaruhi = Y

Variabel Independen Variabel Dependen

Variabel Bebas Variabel Terikat

Variabel Prediktor Variabel Respon

13
 PENGANTAR
Model Regresi Linier sederhana

  𝑌
^ =𝛽0+ 𝛽1 X
 
Y
 
eror =
Variabel Independen
 : intercept : nilai Y ketika X=0
: Slope : koefisien pengaruh

X
14
Estimasi Parameter
• Metode estimasi menggunakan metode Ordinary
Least Square.
• Metode OLS merupakan metode yang
meminimumkan jumlah kuadrat dari error
𝑛
 
∑ 𝑥𝑖 𝑦𝑖 − 𝑛 𝑥 𝑦
´ ´
𝑖=1
𝛽 1= 𝑛
2 2
∑ 𝑥𝑖 − 𝑛 ´
𝑥
𝑖=1

 
𝛽 0= ´
𝑦 − 𝛽1 ´
𝑥

15
 Interpretasi Parameter

Misalkan :
  𝑌
^ =0.5 + 2 X
X = tinggi badan
Y = berat badan
Interpretasi :
kenaikan tinggi badan sebesar 1 cm akan
mengakibatkan kenaikan berat badan sebesar 2 kg
Atau
Jika tb naik maka bb akan naik
(karena koefisien X positif)
16
Uji Hipotesis
 •
Uji t : dalam analisis regresi, uji t digunakan untuk
menguji keofisien . Tujuannya adalah untuk melihat
apakah variabel prediktor X berpengaruh nyata terhadap
variabel respon Y
 
• Hipotesis Pengujian:
H0 : ( variabel X tidak berpengaruh signifikan terhadap Y)
H1 : ( variabel X berpengaruh signifikan terhadap Y)

• Kriteria pengujian Hipotesis:

Tolak Ho jika p-value<0.05 ( berpengaruh)

17
Uji Asumsi
Regresi Linier Sederhana memiliki beberapa
asumsi klasik yang harus dipenuhi diantaranya adalah :

• Uji Normalitas
• Uji Autokorelasi
• Uji Heteroskedastisitas

Mengapa uji asumsi harus dipenuhi?

karena ketika asumsi tidak terpenuhi maka:
• Estimasi parameter menjadi berbias
• Memberikan hasil pengujian hipotesis yang tidak tepat

18
Uji Asumsi
Uji Normalitas
Asumsi yang pertama yang dipenuhi adalah eror dari
model harus menyebar normal. pengujiannya bisa
dilakukan dengan beberapa cara :
a. Visualisasi normal probability plot.
sebaran eror harus cenderung berada pada garis
diagonal
b. Uji formal :
H0 : eror menyebar normal (p-value>0.05)
H1 : eror tidak menyebar normal (p-value<0.05)

19
Uji Asumsi
Uji Autokeralasi
Pada asumsi ini, diharapkan eror antar pengamatan
tidak saling berhubungan satu sama lain atau tidak
memiliki autokorelasi
Uji formal :

20
Uji Asumsi
Uji Heteroskedastisitas
Pada asumsi ini, eror diharapkan menyebar secara
homogen
Visualisasi :
Homogen apabila Plot antar residual dan prediksi tidak
membentuk pola tertentu

21
PENGANTAR
Regresi Linier Berganda
• Mengkaji pengaruh beberapa variabel prediktor (misalnya
X1,X2, dan X3) terhadap suatu variabel respon (Y)
• Membuat suatu model yang dapat memprediksikan nilai Y
berdasarkan nilai-nilai X (misalnya X1,X2,dan X3)

X1
X2 Y
X3
Prediktor Respon
22
PENGANTAR
Model Regresi Linier Berganda

23
Estimasi Parameter
• Metode estimasi menggunakan metode Ordinary
Least Square.
• Metode OLS merupakan metode yang
meminimumkan jumlah kuadrat dari error

 
𝑇 −1 𝑇
𝜷=( 𝑿 𝑿 ) 𝑿 𝒀

24
 Estimasi Parameter
 

  𝑇 −1 𝑇
𝜷 =( 𝑿 𝑿) 𝑿 𝒀
  𝛽0

[]
  1 𝑥 11 𝑥 2𝑛 𝑥 3 𝑛   𝑦1
𝜷=
𝛽1
𝛽2
𝛽3
𝑿= 1
1 [ .
𝑥 1𝑛
. .
𝑥 2𝑛 𝑥 3 𝑛 ] []
𝒀= .
𝑦𝑛

Catatan:
Interpretasi masing-masing koefisiennya sama dengan
interpretasi koefisien pada regresi linier sederhana
25
Uji Hipotesis

Uji hipotesis pada regresi linier

berganda terbagi dua:
• Uji Simultan
• Uji Parsial

26
Uji Hipotesis: Simultan
• Uji Simultan digunakan untuk menguji secara
keseluruhan variabel prediktor X apakah secara
bersama-sama (simultan) berpengaruh nyata terhadap
variabel respon Y. Uji parsial menggunakan uji F

• Hipotesis Pengujian:
H0 : tidak ada satupun variabel X yang berpengaruh
H1 : semua variabel X berpengaruh secara bersama-sama terhadap variabel Y

• Kriteria pengujian Hipotesis:

Tolak Ho jika p-value<0.05 ( berpengaruh)
27
Uji Hipotesis: Parsial
 •
Uji Parsial digunakan untuk menguji masing-
masing keofisien X (misalnya . Tujuannya adalah
untuk melihat apakah masing-masing variabel
prediktor X berpengaruh nyata terhadap variabel
respon Y. Uji parsial menggunakan uji t
 •
Hipotesis Pengujian:
H0 : ( variabel Xk tidak berpengaruh signifikan terhadap Y)
H1 : ( variabel Xk berpengaruh signifikan terhadap Y)

• Kriteria pengujian Hipotesis:

Tolak Ho jika p-value<0.05 ( berpengaruh)
28
 Uji Asumsi
Regresi Linier Berganda memiliki beberapa
asumsi klasik yang harus dipenuhi diantaranya adalah :

• Uji Normalitas
• Uji Autokorelasi
• Uji Heteroskedastisitas
• Uji Multikolinieritas
 
Asumsi Multikolinieritas
Asumsi ini mengisyaratkan bahwa antara variabel prediktor
misalnya X1 dan X2 tidak boleh memiliki korelasi yang tinggi
karena dapat mengganggu estimasi parameter dan pengujian
hipotesis.
Kriteria : jika VIF(variance inflation factor ) 10 maka terdapat
multikolinieritas
29
 KEBAIKAN MODEL :R-SQUARE

Y   𝑌
Variabel Independen   𝑌
^

  ´
𝑌

30
 R-SQUARE
SSE=
  ∑ SQUARE ERROR
SSE=
  ∑ SQUARE REGRESSION
Y  
  𝑌 2
SSE= ∑ ( 𝑌𝑖− ^
𝑌 𝑖 )  
𝑌
^ 𝑖 
  2
SSR= ∑ ( ^
𝑌 𝑖− ´
𝑌   )  
´
𝑌  

SST = SSE + SSR

 

  2 𝑆𝑆𝑅
𝑅 =
𝑆𝑆𝑇
31
R-SQUARE ADJUSTED

 
𝑛 −1
2
[ 2
𝑅 . 𝐴𝐷𝐽 =1− ( 1− 𝑅 ) (
𝑛 − 𝑝 −1 )]

32
Terima
Kasih