Anda di halaman 1dari 30

Korelasi dan Analisis Regresi

1

ANALISIS REGRESI

Dr. Vita Ratnasari, S.Si, M.Si Tugas.vitaratnasari@gmail.com

0817324424

BUKU ACUAN

2

1. Draper and Smith, “Analisis Regresi”, Pearson Prentice Hall, seventh edition (2011).

2.

Douglas A. Lind, William G. Marchal dan Samuel A. Wathen, “Statistical Techniques in Business & Economics,” McGraw-Hill, Twelfth edition (2005).

3. Robert D. Mason dan Douglas A. Lind, “ Teknik

Statistika untuk Bisnis dan Ekonomi,” Penerbit

Erlangga, Jilid I (1996) dan Jilid II (1999).

Korelasi dan Analisis Regresi

4/17/2017

BUKU ACUAN cont

3

4. Norean Sharpe, Richard D. De VeRobert D. Mason dan Delleman, “Business Statistics,” Penerbit Pearson, Second Edition (2012).

Korelasi dan Analisis Regresi

4/17/2017

Pengantar Analisis Regresi

4

Analisis regresi adalah salah satu alat yang paling sering digunakan untuk mengevaluasi pengaruh dari suatu variabel bebas (prediktor/independen) terhadap variabel tidak bebas (respon/dependen).



Analisis regresi dan korelasi membantu dalam melakukan proyeksi karakteristik hubungan antar variabel.

Korelasi dan Analisis Regresi

4/17/2017

KORELASI

5

Koefisien Korelasi adalah suatu ukuran (indikator) kekuatan hubungan linier antara dua variabel, misalkan variabel x dan y. Koefisien ini dapat menunjukkan dua macam hubungan, yaitu POSITIF dan NEGATIF.

n n ∑ ( x − x )( y − y ) x y −
n
n
(
x
x
)(
y
y
)
x
y
nxy
i
i
i
i
i = 1
r
=
i = 1
=
xy
n
n
n
n
2
2
2
2
2
2
(
x
x
)
(
y
y
)
x
nx
y
ny
i
i
i
i
i = 1
i
= 1
i = 1
i
= 1
dimana
−1 ≤ r xy ≤
1

Korelasi dan Analisis Regresi

4/17/2017

misal

6

Manajer pemasaran PT. JAYA ingin mengamati hubungan antara harga jual (X1) dengan volume penjualan (Y) produknya selama 10 minggu secara random. Selain itu ia juga ingin mengetahui hubungan antara biaya iklan (X2) terhadap volume penjualan (Y) pada minggu yang sama tersebut. Data tentang harga jual, biaya iklan dan volume penjualan adalah sebagai berikut :

Mgg

Mgg

1

2

3

4

5

6

7

8

9

10

Y

10

6

5

12

10

15

5

12

17

20

X1

1.3

2.0

1.7

1.5

1.6

1.2

1.6

1.4

1.0

1.1

X2

9

7

5

14

15

12

6

10

15

21

Korelasi dan Analisis Regresi

4/17/2017

Hubungan nilai koefisien korelasi dan bentuk hubungan linier (Positif dan Negatif) antara dua variabel

7

Secara grafik ilustrasi nilai koefisien korelasi dan hubungan antar variabel tersebut dapat digambarkan sebagai berikut :

22 22 20 20 18 18 16 16 14 14 12 12 10 10 8
22
22
20
20
18
18
16
16
14
14
12
12
10
10
8
8
6
6
4
4
2
2
2
4
6
8
10
12
14
16
18
20
22
24
0.8
1
1.2
1.4
1.6
1.8
2
2.2
X2
X1
(a).
–1 < r x1.y < 0
(b).
0 < r x2.y < 1
Y
Y

Korelasi dan Analisis Regresi

4/17/2017

Pengujian Hipotesis tentang Koefisien Korelasi

8

1. Hipotesis :

ρ = 0

H 0 :

H 1 : ρ0

r n − 2 2. Statistik Uji : t = 2 1 − r 3.
r n − 2
2. Statistik Uji :
t =
2
1 − r
3. Daerah penolakan :
Tolak H 0 jika
t
> t

α

2

;

df =− 2

n

Korelasi dan Analisis Regresi

4/17/2017

ANALISIS REGRESI

9

Analisis regresi adalah suatu analisis atau metode yang digu- nakan untuk menjelaskan hubungan (pengaruh) antara variabel bebas (prediktor/independen) dengan variabel tak bebas (respon/dependen).

Hubungan atau pengaruh antara kedua variabel diasumsikan terjadi secara “LINIER”.

y =+ββ x +ε

0

1

Regresi linier sederhana

y =ββ+ xx+β ++β x +ε

0

11

2

2

p

p

Regresi linier berganda

Korelasi dan Analisis Regresi

4/17/2017

10

Contoh permasalahan analisis regresi

1. Seorang manajer sebuah pabrik bermaksud untuk mengetahui hubungan antara bahan kimia yang dihasilkan (Y) dengan sejumlah variabel yang mempengaruhinya.

2. Seorang manajer penjualan di suatu toko ingin menyelidiki hubungan antara volume penjualan bulanan (Y) dengan jumlah langganan yang membeli secara kredit (X1), dan jumlah uang yang dikeluarkan untuk iklan (X2).

3. Seorang manajer personalia suatu perusahaan, ingin menguji dan mengukur karakteristik seseorang sehingga ia bisa mempekerjakan orang yang paling tepat untuk suatu pekerjaan.

4. Seorang analis saham ingin mengetahui hubungan antara tingkat bunga utama (X1), laba per lembar saham atau earning per share (X2), dan tingkat dividen (X3) terhadap harga saham perusahaan jasa listrik (Y).

Korelasi dan Analisis Regresi

4/17/2017

Analisis Regresi Linear Sederhana

11

Secara umum model regresi linier sederhana dapat dinyatakan sbb

y =+ββ x +ε

0

1

sederhana dapat dinyatakan sbb y =+ ββ x + ε 0 1 Persamaan regresi: y ˆ

Persamaan regresi:

yˆ =β ˆ +β ˆ x

0

1

atau

yˆ = b

0

+ bx

1

y

= nilai pengamatan dari variabel respon

x

= nilai pengamatan dari variabel prediktor

yˆ

= nilai ramalan atau prediksi dari variabel respon

ε

= nilai kesalahan ramalan

β

1

β

0

= slope atau koefisien kemiringan persamaan regresi

= intersep

Korelasi dan Analisis Regresi

4/17/2017

Estimasi Parameter

12

Estimasi parameter regresi linier dengan metode Ordinary Least Square (OLS).

Postulat Model Regresi Linear Sederhana

y

i

=+ββ

0

1

x

+

ε

ii

Distribusi y adalah

E

(

yx

)

=+

ββ

0

1

x

i

+

y ˆ

y ˆ

i

i

=

=

ˆ

ˆ

β β

0

+

1

b

0

+

1

x

bx

i

i

ε

i

;

i = 1, 2, , n

Korelasi dan Analisis Regresi

4/17/2017

Estimasi Parameter

13

y ˆ

i

= b

0

b 0 = estimasi

+ bx

1

i

β

0

= intersep (perpotongan sumbu Y pada saat x=0)

b 1 = estimasi

β

1

= slope atau koefisien kemiringan garis regresi

y ˆ

i

= nilai estimasi atau prediksi variabel dependen pengamatan ke-i

Korelasi dan Analisis Regresi

4/17/2017

Metode Ordinary Least Square (Kuadrat Terkecil)

14

adalah suatu metode yang diterapkan untuk mengestimasi parameter model regresi (parameter model regresi linier sederhana adalah b 0 dan b 1 ) dengan meminimumkan Sum Square Error (SSE), yang secara matematis dapat dituliskan sebagai berikut :

SSE

=

n

n

∑ ∑

2

ε

i

=

i

=

1

i

=

1

(

y

y ˆ )

ii

2

Korelasi dan Analisis Regresi

4/17/2017

OLS cont

15

Untuk model regresi linear sederhana:

SSE

== S

=

n

i = 1

n

i = 1

y

i

 

y

i

(

ˆ

ˆ

β β

0

+

1

x

i

−− ˆ

ˆ

β β

0

1

x

i

)

 

2

2

Estimasi untuk b 0 dan b 1 [

dengan meminimumkan SSE dengan cara melakukan diferensiasi terhadap b 0 dan b 1 ,

β

0

dan β

1

] diperoleh

Korelasi dan Analisis Regresi

4/17/2017

16

OLS cont

S

β

0

S

β

1

16 OLS cont ∂ S ∂ β 0 ∂ S ∂ β 1 = 0 dan

= 0

dan

= 0

Sehingga menghasilkan persamaan normal sbb :

n

ˆ

ˆ

β β

0

+

1

n n

i =

1

x

i

=

i =

1

y

ˆ

β

0

n

i = 1

x

i

+

ˆ

β

1

n

=

i

1

x

2

i

=

i

n

=

i

1

x y

i

i

Korelasi dan Analisis Regresi

4/17/2017

OLS cont

17

Berdasar persamaan normal di atas, diperoleh nilai estimasi parameter model regresi linier sederhana dengan metode OLS untuk b 0 dan b 1 , yaitu:

ˆ S

β

1

=

b

1

=

xy

S

xx

=

n

(

)(

)

 

x

i

xy

i

y

i

= 1

 

n

 

(

x

 

)

2

i

x

i

=

1

ˆ

β

0

=

b

0

=

y

b

1

x

=

n

=

i

1

x y

i

i

nx y

n

=

i

1

2

x

i

2

nx

Korelasi dan Analisis Regresi

4/17/2017

Asumsi Penerapan Metode OLS

18

1. Variabel dependen (Y) dan residual/error (e) adalah variabel random yang berdistribusi Normal, sedangkan variabel independen (x) adalah fixed variable. 2. Skala pengukuran data variabel Y minimal interval atau merupakan data kuantitatif. Sedangkan variabel x, biasanya merupakan data kuantitatif tetapi tidak menutup kemungkinan berupa data kualitatif variabel dummy

Korelasi dan Analisis Regresi

4/17/2017

Asumsi Penerapan Metode OLS cont

19

3. Estimasi metode OLS ini baik untuk sebaran data variabel Y dan variabel x yang tidak mengandung outlier (pencilan).

4. Residual harus memenuhi asumsi independen, identik dan berdistribusi Normal (IIDN).

5. Khusus untuk model regresi linier berganda (banyaknya x lebih dari satu), tidak diperkenankan adanya korelasi linier yang cukup tinggi (kolinieritas) antar variabel x

Korelasi dan Analisis Regresi

4/17/2017

TABEL ANOVA (k = 1)

20

Sumber

Derajat

 

Sum Square (SS)

 

Mean Square (MS)

Variasi

Bebas

     

n

 

Regresi

 

1

SSR =

(

y

i

2

−= )

y

b

2

1

S

xx

=

bS

1

xy

MSR = SSR / k

 

i

= 1

 

n

 

Error

n

– 2

SSE =

(

y

i

y

)

2

MSE

SSE = n k 1

   
 

i

= 1

   

Total

   

n

 

Terkoreksi

n

– 1

SST =

(

y

i

y

)

2

= S yy

 
 

i

= 1

Korelasi dan Analisis Regresi

4/17/2017

TABEL ANOVA

21

Sumber

Derajat

 

Sum Square (SS)

 

Mean Square (MS)

Variasi

Bebas

     

n

 

Regresi

k

SSR =

i = 1

(

 

2

−= )

y

b

2

S

 

bS

1

 

MSR = SSR / k

y

i

1

xx

=

xy

     

n

 

Error

n k -1

SSE =

(

y

i

y

)

2

MSE

SSE = n k 1

i = 1

 

Total

   

n

 

Terkoreksi

n – 1

SST =

(

y

i

y

)

2

= S yy

 

i = 1

Korelasi dan Analisis Regresi

4/17/2017

22

Penaksir untuk σ 2 adalah :

ˆ

σ

2

=

s

2

SSE

= n 2

Dimana : SSE = S yy - S xy dengan :

Sxy =

Syy =

n

i = 1

x

i

y

i

n

1

i =

n

1

i =

(

y

x

i

i

y

)

 

n

i

1

=

2

y

i

=

n

n

1

i =

y

2

i

Korelasi dan Analisis Regresi

2

n

i = 1

y

i

 

n

4/17/2017

23

Sxx =

n

=

i

1

(

2

xx −= )

i

sehingga

b

1

=

S

xy

S

xx

n

=

i

1

2

x

i

dan

 

n

i = 1

x

i

2

b

0

n

= y bx

1

Korelasi dan Analisis Regresi

4/17/2017

Inferensi Signifikansi Parameter Model

24

1a. Estimasi untuk interval

β

1

b

1

±

t

1

var(b ) =

1

α

2

;

dberror

MSE

S

xx

= n

2

var ( b ) 1
var
(
b
)
1

b. Pengujian Hipotesis untuk

Hipotesis:

H

H

0

1

:

:

β β

1

=

10

β β

1

10

β

1

Korelasi dan Analisis Regresi

4/17/2017

Inferensia …. (cont)

25

Statistik uji

Tolak HoInferensia …. (cont) 25 Statistik uji b − β 1 10 t = hit ˆ var

b − β 1 10 t = hit ˆ var ( β ) 1 >
b
β
1
10
t
=
hit
ˆ
var
(
β
)
1
> t
t hit
(1
−α
2;
n −
2)

2a. Estimasi untukvar ( β ) 1 > t t hit (1 −α 2; n − 2) β

β

0

b

0

±

var(

b

t var ( b ) α ; db . error =n− 2 0 2 n
t
var
(
b
)
α
;
db . error =n−
2
0
2
n
2
∑ x
i
i = 1
) =
MSE
0
 
nS
xx 

Korelasi dan Analisis Regresi

4/17/2017

Inferensia …. (cont)

26

Hipotesis

Statistik uji

Tolak Ho

Tolak Ho

Tolak Ho

H

H

: β β = 0 0 00 : β β ≠ 1 0 00 b
:
β β
=
0
0
00
:
β β
1
0
00
b
β
0
00
t
=
hit
ˆ
var
(
β
)
0
> t
t hit
(1
−α
2;
n −
2)

Korelasi dan Analisis Regresi

4/17/2017

Koefisien Determinasi

27

R

2 SS R

=

egresi

SST

otal

;

VIF =

R

1

2

adj

1 R

2

[ SSE n − ( k + 1) ] = − 1 [ SST n
[
SSE n
(
k
+
1)
]
= −
1
[
SST
n − 1
]
otal

Korelasi dan Analisis Regresi

4/17/2017

Contoh 1

28

Misal diketahui data biaya iklan dan jumlah unit yang terjual tiap bulan adalah sebagai berikut :

Iklan

Penjualan

 

0.9

 

91

0.8

 

92

0.8

 

82

 

1.3

120

 

1.0

93

0.7

 

90

 

1.1

105

0.6

 

75

0.9

 

91

 

1.0

110

Korelasi dan Analisis Regresi

4/17/2017

Scatterplot antara penjualan dan iklan

29

Scatterplot antara penjualan dan iklan 29 Korelasi dan Analisis Regresi 4/17/2017

Korelasi dan Analisis Regresi

4/17/2017

30

The regression equation is penjualan = 40,9 + 59,4 iklan

Predictor

Coef

SE Coef

T

P

Constant

40,867

9,186

4,45 0,002

iklan

59,377

9,877

6,01 0,000

S = 5,99955

R-Sq = 81,9%

R-Sq(adj) = 79,6%

Analysis of Variance

Source

DF

SS

MS

F

P

Regression

1

1300,9

1300,9

36,14

0,000

Residual Error

8

288,0

36,0

Total

9

1588,9