ANALISIS REGRESI

DAN KORELASI
Oleh
Suryo Guritno
 MASALAH k PEUBAH (k  2)

APA BILA PENGUKURAN/PENGAMATAN TERHADAP OBJEK

YANG MENJADI PERHATIAN ADA DUA ATAU LEBIH
(SETIAP HASIL ADALAH PASANGAN DUA ATAU LEBIH),
MAKA DUA HAL YANG MENARIK UNTUK DIPERHATIKAN
ADALAH :

1. BAGAIMANA ERATNYA HUBUNGAN

2. BAGAIMANA BENTUK HUBUNGAN

• SALAH SATU UKURAN KEERATAN HUBUNGAN YANG
BANYAK DIGUNAKAN ADALAH
KOEFISIEN KORELASI PEARSON
n

 X
i 1
i  X  Yi  Y 
r
n n

 X  X .  Y  Y
2 2
i i
i 1 i 1

-1 -0,25 0,25 1

-0,75 0 0,75

1  r  1
ERAT ERAT
negatif positif
AWAS !! • jika r = 0 artinya tidak ada hubungan linear antara X dan Y
• keeratan hubungan yang ditunjukkan adalah keeratan
hubungan linear
- Ho  ρ  0 versus H1  A.   0
B.  > 0
C.  < 0

-  = … ???, pilih 5 % atau 10 % atau …

- daerah kritis/kriteria uji :

tentukan statistik uji
untuk uji koefisien korelasi (= ) digunakan koef.
korelasi sampel (= r)
 1
 n2 2
karena r 2 
~ t n 2 , maka
1 r 

A. Ho ditolak jika t   t α atau t  tα

;(n  2) ;(n  2)
2 2

B. Ho ditolak jika t  t α;(n  2)

C. Ho ditolak jika t   t α;(n  2)

- Perhitungan :
- Kesimpulan :
•0 => r ~ ??
1 1 r
z  ln  acrtgh r
2 1 r
 1 1 ρ 1 
z ~ N  ln , 
 2 1 ρ n  3 

=> uji hipotesis untuk  :

- H o  ρ  ρ o versus H1  A.   o
B.  > o
C.  < o
-  = … ???, pilih harga  0 %
- Kriteria uji :

A. Ho ditolak jika z  z o n  3  zα
2

Ho diterima jika z  z o n  3  zα
2

B. Ho ditolak jika  z  zo  n  3  zα
Ho diterima jika  z  z o  n  3  z α

C. Ho ditolak jika  z  z o  n  3  - z α

Ho diterima jika  z  z o  n  3  - z α
=> interval konfidensi untuk  :

dari
1 1 r 1 1 1 ρ 1 1 r 1
ln  zα.  ln  ln  zα.
2 1 r 2 n  3 2 1 ρ 2 1 r 2 n 3

menjadi
 zα   zα 
   
tgh  z  2
  ρ  tgh  z 
2

 n 3   n 3 
   
dengan
1 1 r ea  ea
z  ln dan tgh (a )  a
2 1 r e  e a
Patient Method I Method II
Number
1 132 130

2 138 134

3 144 132

4 146 140

5 148 150

6 152 144

7 158 150

8 130 122

9 162 160

19 168 150

11 172 160

12 174 178

13 180 168

14 180 174

15 188 186

16 194 172

17 194 182

18 200 178

19 200 196

20 204 188

21 210 180

22 210 196

23 216 210

24 220 190

25 220 202
• BENTUK PERSAMAAN HUBUNGAN ANTARA SUATU
VARIABEL (DEPENDEN VARIABEL) DENGAN PALING
SEDIKIT SATU VARIABEL (INDEPENDEN VARIABEL)
ADALAH PERSAMAAN REGRESI

• UNTUK MEMPERKIRAKAN BENTUK TEPAT SUATU

PERSAMAAN REGRESI TERLEBIH DAHULU DILAKUKAN
LANGKAH-LANGKAH BERIKUT :
CONTOH

(1.6, 5.5) , (1.0, 6.7) , (1.1, 5.5), (1.2, 5.7) , (1.3, 5.2)
(1.7, 4.5), (2.9, 3.8) , (2.9, 3.8) , (4.2, 3.6), (5.4, 3.5)
 Ŷ  21.27  6.86X  .58X 2
Ŷ  e 3.0754.5013X

Ŷ  26.52  2.39X  79.52 X Ŷ  7.88  1.16X

 Y  f(x)  ε , ε ~ (0, σ 2 )
X,Y

(X1 , Y1 ), (X 2 , Y2 ), ... , (X n , Yn )

Scatter Plot

Kecenderungan garis lurus

f(x)  α  βx atau β o  β1x

Inferensi ???
• dengan metode kuadrat terkecil

b/β̂/β̂1 
n  X Y    X   Y 
i i i i

n X   X 
2 2
1 i

b
a/α̂/β̂ o  Y  β̂ X,
β̂1
1 1
X
n
X i dan Y 
n
Y
i

sy
b  r. , s y  std.dev y
sx
s x  std.dev x
 a ~ α,
σ 2y x  Xi
2

 X  X
2
n i

σ 2y x
b ~ β,
 X  X
2
n i

jika σ 2 tidak diketahui, σ 2y x diduga dengan s 2y x 

 y i  y
2

yx n2


n 1 2
n2

s y  b 2s 2x 
Inferensi untuk  atau  atau  Y  Xx  berdasarkan
a atau b atau ŷ  a  bx
 untuk inferensi

 Y X x  , perhatikan bahwa , , dan koefisien

determinasi (=2) harus signifikan

 2
diduga dengan r 2
1
  y  ŷ 
i i
2
n2
  y  ŷ 
i i
2
n 1
• inferensi untuk parameter  :
 Ho  α  αo versus H1  A. α  α o
B. α  α o
C. α  α o
 daerah kritis/kriteria uji :
α̂ - α o
untuk menguji α digunakan α̂ karena ~ t n  2 , maka
s α̂

A. Ho ditolak jika t  t α atau t  t α

;(n  2) ;(n  2)
2 2

B. Ho ditolak jika t  t α ; (n  2)
C. Ho ditolak jika t   t α ; (n  2)
• inferensi untuk parameter  :
 Ho  β  βo versus H1  A. β  β o
B. β  β o
C. β  β o
 daerah kritis/kriteria uji :
β̂ - β o
untuk menguji β digunakan β̂ karena ~ t n  2 , maka
sβ̂

A. Ho ditolak jika t  t α atau t  t α

;(n  2) ;(n  2)
2 2

B. Ho ditolak jika t  t α ; (n  2)
C. Ho ditolak jika t   t α ; (n  2)
• Masalah regresi linear ganda :
k
 Y β o  
i 1
βi Xi  ε , ε ~ (0, σ 2 )

ambil sampel acak sederhana berukuran n

 Yi , X i1 , X i2 ,..., X ik  , i  1,2,..., k

model regresi sampel adalah

i.i.d
Yi  β o β1X i1  β 2 X i2  ...  β k X ik  ε i , ε i ~ (0, σ 2 )

ditulis dalam notasi vektor dan matriks

~  X β ~
Y ε , ~ε ~ ~0 , σ 2 I
~
dengan :
 
~   Y1 Y2 ... Yn 
Y


ε   ε1 ε 2 ... ε n 
~

β   β1 β 2 ... β n 
~

1 X11 X12 ... X1k 

 
1 X 21 X 22 ... X 2k 
. . . . 
X 
. . . . 
 
. . . . 
1 X n1 X n2 ... X nk 

• masalah : β̂  ?? , dan jika σ 2 tak diketahui σ̂ 2  ??
~

• dengan MKT, yaitu cari β~ yang meminimumkan

n
S ε
i 1
1
2
 ε~ ~ε

β̂   X X  X Y
1
diperoleh  ~
~

Yang mempunyai sifat BLUE untuk β~

best linear unbiased estimator

• inferensi untuk β atau A β ??
~ ~
perlu ditambah dengan asumsi distribusi

• yang lazim digunakan adalah

ε ~ N(0, σ 2 ) atau ε~ ~ N n (0, σ 2 I)

• perlu dicatat bahwa model regresi

Y  X β  ~ε , ~ε ~ N n ( ~0 , σ 2 I)
~
dikenal pula sebagai model regresi klasik
QUALITATIVE VARIABLE DUMMY VARIABLE
1 for male
Sex (male, female) x1  
0 for female
1 for urban
Place of residence x1  
(urban, rurual, suburban) : 0 for rural and suburban
1 for rural
x2  
0 for urban and suburban
1 for current smoker
Smoking status [current smoker, x1  
ex-smoker (has not smoked for 5 0 otherwise
years or less0, ex-smoker (has 1 for ex - smoker ( 5 years)
not smoked for more than 5 x2  
years), never smoked] 0 otherwise
1 for ex - smoker ( 5 years)
x3  
0 otherwise
• penyimpangan-penyimpangan model regresi klasik
  ε
~
non skalar identitas

 X stokhastik

 X multikolinear

 Y dengan Y kualitatif, khususnya dikhotomous

~ i
• Jika Y dikhotomous

Y  β o  β1X  ε , ε ~ N(0, σ 2 ) ??
 Y  0 atau 1 ??
 Y diganti P(Y  ...) ??
 logistik model atau logit model

exp β o  β1X 
P(Y  1) 
1  exp β o  β1X 
untuk 1 (satu) peubah bebas
atau
 k



exp β o  β i X i 
i 1 
P(Y  1) 
 k



1  exp β o  β i X i 
i 1 
untuk k (k  2) peubah bebas