Henny Destina (M03-05)

RINGKASAN RUMUS ANALISIS REGRESI Analisis Regresi merupakan salah satu metode statistika yang banyak digunakan, terutama untuk menjelaskan hubungan fungsional (relatin ship) antara variable tak bebas (dependent, response variable) dan satu atau beberapa variable bebas (independent, predictor, explanatory variable) Variabel tak bebas Variabel bebas : x : y (tergantung pada x) 1 . . n Jumlah rerata

y x ( x ) ( y )
i
i i i

( x )
i

yi

xi

( xi ) ( y i )

( xi ) 2

Model regresi sederhana ;

Asumsi Model Regresi sederhana : 1. i merupakan variable acak dengan nilai tengah nol dan variansi

y = o + xi + i , dengan 1

i = ,2,3,.. n 1

E ( i ) = 0 dan V ( i ) =
2.

(yang

umumnya
2

tidak

diketahui

nilainya).

Dimana :

o dan 1

merupakan suatu variable acak berdistribusi normal dengan tengah (rata-rata

2

: koefisien regresi yang merupakan 2 parameer yang akan ditaksir harganya berdasarkan data sample. : Galat, yang bersifat acak, penyimpangan model dari keadaan sesungguhnya. Metode Kuadrat Terkecil (Last Square Method)

nilai

nol

dan

variansi

, ,(0, ) 3. i dan j tidak i , j ) = 0

2 ,

atau

berkorelasi untuk i j sehingga Cov (

Ada tidaknya otokorelasi dapat diteksi antara lain dengan Durbin Watson (DW) yang dapat dinyatakan dengan rumus :

Digunakan untuk menaksir harga parameter garis regresi

y = o + xi + i , dengan 1

i = ,2,3,.. n 1

d =

Sehingga

y i = b0

diperoleh model dugaannya, yaitu : + b1 x i , dengan bo dan b1 berturut-turut sebagai

(e e ) e
i i 1 2 i

harga taksiran ( dugaaan parameter

0 dan 1
y1 ,

KECOCOKAN MODEL Simpangan baku galat (standard Error of Estimate) dinotasikan dengan Se. digunakan untuk mengukur sebaran data atau penyimpangan harga y i disekitar rerata untuk harga x tertentu. Se =

Galat adalah selisih antara harga y1 dengan harga taksiran dan bisa bernilai positif atupun negative. Galat : JKG : b1 b1

i = ( y1 y i )

( )
i

( y

y) 2

: koefisien regresi :
i i

x y ( x y ) / n x ( x ) / n
i i 2 i 2 i

n 2

od el , dimana y = m

Makin kecil nilai standard error of estimate Se, maka sebaran data makin mendekati garis regresi atau model regresi makin baik. Simpangan untuk variable x

b1

S xy S xx

S =

( x

x )

dengan

( S xy = xi x ) ( y i y )
S xx = xi x ) 2 (
:

n 1
2

atau

S =

nx1 (x1 ) 2 n (n 1)
i

bo

y b1 x

Simpangan untuk variable y

Contoh bentuk table : No 1 . . n Jumlah rerata (yi) (xi) (xi) (yi) (xi)2

S =

( y

y)

n 1

Koefisien korelasi dan Koefisien regresi rxy = ryx

yi
yi

x ( x
i

) ( y i ) ( xi )

rxy =

xi

( xi ) ( y i )

( xi ) 2

(x x) ( y y) ( x x ) ( y y )
i i 2 i i

Koefisien Determinasi ;

R
Tabel juga dapat berbentuk : No (yi) (xi) ( x i x )( y i y ) i x ) 2 (x -1-

Digunakan untuk menilai kecocokan model dengan data sample.

( y = (y

y)

y)

JKR JKT

 JKT =

jumlah variansi total yang menyatakan jumlah penyimpangan yi disektar nilai reratanya y . JKR =

(y

y)

Henny Destina (M03-05)

2

disebut jumlah kuadrat toatal atau

Apabila Fhit>Ftabel = F(1,n-2) maka H 0 : sebaliknya. Ftabel diperoleh dari table distribusi f. Hipotesis : Ho :
1

1 = 0

ditolak, dan

menyatakan variable respon disekitar nilai reratanya y . JKG =

( y i
( y

y)

> 0 atau

H0 :

<0

, disebut jumlah kuadrat regresi yang

y i ) , disebut jumlah kuadrat galat yang

menyatakan galat dari variable total yang tidak dapat dijelaskan oleh variable x atau merupakam bagian yang sifatnya acak. JKT = JKR + JKG Nilai JKR adalah 0 JKR JKT dan karena itu nilai R2 adalah 0 R 2 1 R2 = 0, jika JKR = 0 atau JKG = JKT berarti berapapun nilai x i yang diberikan, nilai taksiran untuk yi, yaitu y i akan selalu sama dengan y . Dengan kata lain y tidak berpengaruh oleh xi.

H1 : 1 < 0: H1 : 1 > 0 t2(n-2) = F(1,n-2) ttabel = t(n-2;1- /2) apabila nilai harga mutlak thitung lebih besar daripada ttabel (ditulis t > ttabel, yang berarti ada pengaruh variable bebas x secara individu terhadap variable tak bebas y, dan juga sebaliknya. Selang kepercayaan 1 dan 0 Variansi b1 = v (b1 ) =

( x

e2
1

x)2

2 e

S xx

Simpangan baku : s (b1 ) = Dengan e diganti

e
S xx
Se
1

R2 = 1 jika jkg = 0 atau JKR = JKT. JKG =0, jika y i = y i

I yang berarti bahwa setiap titik darta hasil pengamatan tepat terletak pada garis regresi. Dan kecocokan data dengan model makin baik, dan sebaliknya jika R2 = 0, berarti kecocokan data dengan model makin tidak baik. R biasanya dinyatakan dalam angka presentase. Jika nilai R mendekati angka 1, maka kecocokan data dengan garis regresi akan menjadi baik, dan sebaliknya jika mendekati angka 0. TABEL ANOVA Digunakan untuk menilai keberartian (signifikansi atau pengaruh) variable bebas secara bersama sama atau simultan terhadap variable bebas. Bentuk umum Anova Regresi Sederhana : sumber Jumlah kuadrat Deraj at bebas regresi Galat
J R = K
2 2

dengan

Selang kepercayaan (confident interval) bagi

b1 t ( n 2, 1 / 2 ) S ( b1 )
atau

adalah :

b1 t ( n 2,1 / 2) S (b1 ) b1 +t ( n 2 ,1 / 1
Simpangan baku untuk bo :

S (bo ) = Se

x n (x x)
i 2 i

Selang kepercayaan (confident interval) bagi o adalah :

bo t ( n 2, 1 / 2 ) S ( b0 )
Atau

JG K

Total terkoreksi Faktor koreksi Total belum terkoreksi

JT K

Rataa n kuadr at 1 ( yi y )2 RKR = JKR/1 (n-1)RKG ( yi i ) 2 y 1 = JKG/ n-2 n-1 ) 2 (y y 1

bo t ( n 2, 1 / 2) S ( b0 ) 0 b0 +t ( n 2,1 / 2 ) S
Fhit= RKR/RK G Uji Hipotesis
1

dan

Bentuk uji hipotesis terhadap 1 dinyatakan sebagai berikut : Ho : 1 = 10 Hi : 1 10 10 bisa berharga nol atau bilangan tertentu. Jika 10 = 0, sehingga bentuk uji hipotesis : Ho : 1 = 0 Hi : 1 0 thitung =

n y2

b1 10 S (b1 )

atau thit =
t hitung =

b1 10 S / Sxx
b1 S/ Sxx

Derajat bebas (degree of freedom), yaitu bilangan yang menujukkan berapa banyak informasi yang bebas diantara n amatan y1, y2, y3,,yn yang dibutuhkan untuk mendapatkan jumlah kuadrat itu. Hipotesis dengan F hitung ;

karena

10 = 0, maka

SELANG KEPERCAYAAN bila

H 0 : 1 = 0

H 1 : 1 0, untuk i =1,2,3, k
-2-

1 = 0

berada diluar selang kepercayaan 1, berarti

hipotesis Ho ditolak, dan bila

1 = 0

berada di dalam selang

kepercayaan 1 , berarti hipotesis Ho diterima.

Henny Destina (M03-05)

Contoh : 2,869 < 1 < 4,912 dan 74,836 < o , 149,209 1 = 0 berada diluar interval, berarti Ho : berpengaruh. Selang kepercayaan untuk nilai ramalan tunggal yo untuk x = x0 adalah :
1

= 0 ditolak, artinya

y 0 t (n 2, 1 / 2) S ( y 0 y 0 ) atau y 0 t (n 2, 1 / 2) S ( y 0 y 0 ) < y 0 < y 0 + t ( n 2, 1 / 2 ) S ( y 0 y 0 )

ANALISIS REGRESI BERGANDA

Bentuk uji terhadap Ho : 0 = 00 H1 : 0 00

Bentuk Umum :

Dimana, 00 bisa berharga nol atau bilangan tertentu. Misalkna harga 0 = 0, sehingga bentuk uji hipotesis menjadi : Ho : 0 = 00 H1 : 0 = 0 H1 : 0 0

y i = o + 1 x1 + 2 x 2 + ... + k x k +

Model diatas merupakan model linier, berkaitan dengan variable bebas dan parameternya, yaitu apabila diamati secara visual melalui plot data, maka pencaran datanya cenderung meiliki trend/ pola linier. Disebut berganda karena variable bebas yang diamati ada dua atau lebih. Contoh table data hasil pengamatan :

hitung =

0 00
S ( bo )

atau t hitung = S

b0 00

x n( x x )
i 2 i

var terikat (y) y1 y2 : yn

variabel bebas x1 x11 x12 : x1n x2 x21 x22 : x2n x3 x31 x32 : x3n xk xk1 xk2 : xkn

Jika t > t tabel , mka hipotesis Ho ditolak. Selang kepercayaan = b1 Adjusted R Square

=1

JKG / ( n 2 ) dengan ( n 2) dan ( n 1) JKT / ( n 1)

Masing masing derajat kebebasan dari JKG dan JKT. Fungsinya sama dengan R2 dan dianjurkan untukdigunakan pada analisis regresi ganda yang memiliki lebih dari 2 variabel bebas. Selang Kepercayaan Variabel Respon

Jika pengamatan mengamsusikan bahwa variable bebas x menjelaskan variable terikat y secara linier , maka model regresi linier yang dapat digunakan itu adalah :

y = o + 1 x1 + 2 x 2 + ... + k x k +

( y)

Variansi :

( x x ) 2 Se 2 Se 2 V ( y0 ) = + 0 n ( xi x ) 2

Simpangan baku :

S ( y ) = Se

1 + n

( x0 x ) 2 2 ( xi x )

Dengan yi = variable terikat pengamatan ke-i , i = 1,2,3,4,,n ; n k + 1 n = banyaknya pengamatan / jumlah sampel. = variable variable bebas ke k untuk pengamatan ke i xki i = galat dari model, yang diamsusikan bersifat bebas berdistribusi normal dengan rataan 0 dan varians homogen 2 , atau ditulis dengan N(0, 2 ) Asumsi model yang diperlukan untuk pendugaan parameter dengan metode kuadrat terkecil adalah bahwa komponen galat bersifat bebas, antar pengamatan tidak berkorelasi, memiliki distribusi normal, dan memiliki ragam homogen (homoskedastistas). Selain itu xki merupakan nilai-nilai yang fix/ diketahui (ditetapkan terlebih dahulu).

Selang kepercayaan untuk E y x 0

adalah :

y t ( n 2, 1 / 2 ) S ( y ) atau

y t ( n 2,1 / 2) S ( y ) < E y x0 < y + t ( n 2,1 / 2) S ( y )

( y0

y0 )

menyatakan galat ramalan dari rata-ratanya yang

merupakan nilai dari suatu variable acak. Dengan demilian, nilai ramalan untuk suatu amatan individual x = x0 tetap diberikan oleh y = y 0 , tetapi dengan variansi yang lebih besar, yaitu :

1 V ( y 0 y o ) = Se 2 1 + + n

( x

( x0 x ) 2
i

x)2

simpangan

baku

( y0

y 0 ) adalah ;

S ( y 0 y 0 ) = Se

1 + 1 + n

( x0 x ) 2 2 ( x i x )
-3-