Pertemuan Ke 4
Ginanjar Suendro
Tujuan Pembelajaran
Pendahuluan
Analisis Regresi Linier Sederhana
Uji-uji Relasi dan Interval Prediksi
Analisis Korelasi Linier Sederhana
Regresi Linear
1. Pendahuluan
Regresi Linear
1. Pendahuluan
Regresi Linear
1. Pendahuluan
Regresi Linear
1. Pendahuluan
Regresi Linear
1. Pendahuluan
Regresi Linear
2. Analisis Regresi Linear
Regresi Linear
2. Analisis Regresi Linear
Asumsi yang digunakan dalam regresi linear adalah sebagai berikut:
a. E i 0
b. E i2 2
c. E i j cov(i , j ) 0
d. X i konstan
Untuk memperkirakan A dan B dipergunakan metode kuadrat kesalahan terkecil, dimana
Model sebenarnya : Y A BX
Model perkiraan : Y a bX e
a, b, dan e adalah penduga untuk A, B, dan
e Yi (a bX i ) .
2
Yi a bX i ei atau ei Yi (a bX i ) dan 2
i
i
Regresi Linear
2. Analisis Regresi Linear
penurunan parsial terhadap a dan b yang sederhana diperoleh
i i X i X iYi
Y X 2
a Y bX i i i i
2
da n
n X i2 X i
i i
n X i Yi X i Yi
b i i i
2
n X X i
i
2
i i
Regresi Linear
2. Analisis Regresi Linear
y
ŷ a bx
y
y (0)
(+)
y
y
(-)
(+)
y
(0) y
(-)
y
(+)
y
y (-)
(+) y
(-)
1
Bila s xy X i Yi X i Yi / n adalah penduga untuk xy dan
n i i i
1
2
sx
2
i i i
n i
X 2
X / n adalah penduga untuk 2 , m a ka
x
s xy x y i i
b i
s x2 x i
2
i
Regresi Linear
2. Analisis Regresi Linear
2
dim a n a xi y i X i Yi X i Yi / n dan
i
i xi i X i i X i / n
2 2
i i i
2
e2 1 X
varb b2 da n vara a2 e2
i
i
x 2
n i i
x 2
2
X
cova, b a ,b e2
xi
i
2
Regresi Linear
2. Analisis Regresi Linear
Contoh 1
Dari suatu praktikum fisika dasar diperoleh data yang menghubungkan variabel
bebas x dan variabel terikat y seperti ditunjukkan dalam tabel berikut.
Uji ke- x y
1 6 30
2 9 49
3 3 18
4 8 42
5 7 39
6 5 25
7 8 41
8 10 52
56 296
Regresi Linear
2. Analisis Regresi Linear
Jika berdasarkan kajian teoritis dan sifat dari fenomena yang menghubungkan x
dan y dapat diasumsikan mempunyai bentuk hubungan linier, maka persamaan
garis regresinya dapat ditentukan sebagai berikut.
Tabel perhitungan:
Uji ke- x y xy x2 y2
1 6 30 180 36 900
2 9 49 441 81 2401
3 3 18 54 9 324
4 8 42 336 64 1764
5 7 39 273 49 1521
6 5 25 125 25 625
7 8 41 328 64 1681
8 10 52 520 100 2704
56 296 2257 428 12920
x x 56
7 y y 296
37
n 8 n 8
Regresi Linear
2. Analisis Regresi Linear
Kolom y2 ditambahkan pada tabel meskipun belum digunakan untuk perhitungan
persamaan garis regresi. Nilai tersebut akan digunakan kemudian. Jadi dengan
menggunakan hasil pada tabel, nilai dari konstanta a dan b dapat ditentukan:
n xy x y 8(2257) (56)(296) 1480
b 5,1389
n x x
2 2
2 8(428) (56) 288
a y bx 37 (5,1389)(7) 1,0277
Jadi persamaan garis regresi linier yang menggambarkan hubungan antara
variabel x dan y dari data sampel pada percobaan/praktikum di atas adalah:
yˆ a bx 1,0277 5,1389x
Dengan menggunakan persamaan garis regresi yang diperoleh, maka dapat
diperkirakan hasil yang akan diperoleh (nilai y) untuk suatu nilai x tertentu.
Misalnya untuk x = 4 maka dapat diperkirakan bahwa y akan bernilai:
yˆ a bx 1,0277 5,1389 x =1,0277 + 5,1389(4) = 21,583
Regresi Linear
2. Analisis Regresi Linear
60
50 y = 5.1389x + 1.0278
40
30
y
20
10
0
0 2 4 6 8 10 12
e 2 i i
y b 2
x 2
y i b xi y i
S
2
e i i i
i i
2
S 2
2 1 X
S
2 e
da n S a S e
2
i
b 2 2
x n x i
i i
Regresi Linear
2. Analisis Regresi Linear
y y
x x
(a)x (b)x
Dengan menggunakan data dan tabel perhitungan pada contoh 1, maka standard
error estimasi dari garis regresi yang diperoleh adalah:
s y ,x
y 2 a y b xy
n2
(11,920) 1,0277(296) 5,1389(2,257)
1,698
82
Regresi Linear
3. Uji Koefisien dan Korelasi
Untuk melihat pengaruh X terhadap Y, maka dilakukan pengujian pada koefisien regresi
B. Bila X tidak mempengaruhi Y maka B = 0, bila ada pengaruh negatif B < 0, ada pengaruh
positif B > 0, dan bila ada pengaruh X terhadap Y maka B 0. Perumusan untuk pengujian
koefisien regresi B, adalah:
a. Ho : B = 0
b. H1 : B > 0 (ada pengaruh X terhadap Y positif)
H1 : B < 0 (ada pengaruh X terhadap Y negatif)
H1 : B 0 (ada pengaruh X terhadap Y)
c. Dengan diketahui, dari tabel distribusi-t maka dapat dihitung t untuk pengujian satu
arah dan t untuk pengujian dua arah.
2
b Bo sb
s y,x
tb
sb ; x 2
(x )
2
n
e. Simpulkan, tolak Ho atau terima Ho.
Regresi Linear
3. Uji Koefisien dan Korelasi
a t sa A a t sa
2 2
Regresi Linear
3. Uji Koefisien dan Korelasi
Dengan menggunakan data dan tabel perhitungan pada contoh 1 dan hasil
perhitungan standard error estimasi dari garis regresi yang diperoleh pada contoh 12,
maka uji kemiringan (slope) garis regresi dapat dilakukan sebagai berikut:
1. Hipotesis:
Ho : B = 0
H1 : B 0
2. α = 0.05
3. Digunakan distribusi t0,025 dengan df = n - 2 = 8 - 2 = 6
4. Batas-batas daerah penolakan uji dua ujung (two-tailed)
Dari tabel distribusi t batas kritis adalah = tcr = 2,447
5. Aturan keputusan:
Tolak H0 dan terima H1 jika perbedaan yang terstandard antara kemiringan
sample (b) dan kemiringan populasi yang dihipotesiskan (B Ho) kurang dari -
2,447 atau lebih dari 2,447. Jika sebaliknya terima H0
Regresi Linear
3. Uji Koefisien dan Korelasi
6. Rasio Uji
s y ,x 1,698 1,698
sb 0,283
x 56 6
2 2
x2
n
428
8
b BHo 5,1389 0
RUt ttest 18,159
sb 0,283
7. Pengambilan keputusan
Karena RUt = 18,159 bernilai jauh lebih besar daripada nilai batas tcr = 2,447,
maka H0: B = 0 ditolak. Hal ini bahwa hipotesis alternatif yang menyatakan
bahwa terdapat kemiringan pada garis regresi untuk populasi serta suatu
hubungan regresi yang berarti benar-benar ada antara variabel X dan Y.
Dalam relasi ( z adalah skor z yang akan menentukan tingkat kepercayaan dari
penerimaan estimasi interval yang dilakukan. Gambar 7 mengilustrasikan estimasi
interval untuk z = 2.
3sy ,x
y ŷ
3sy ,x
yˆ1 2sy ,x ŷ 1
x
x1
Gambar
Regresi 7 Interpretasi dan aplikasi estimasi interval untuk sampel besar
Linear
Untuk Sampel Kecil (n < 30)
a. Prediksi Kisaran Nilai Rata-rata y Jika Diketahui x
Estimasi interval untuk sampel kecil dengan situasi ini dapat diperoleh dengan
rumus berikut:
g
2
1 x x
yˆ t / 2 s y ,x
2
n x
x2
n
dimana:
ŷ = estimasi titik yang dihitung dengan persamaan regresi untuk nilai x tertentu
tα/2 = nilai t untuk α/2 ( =tingkat kepercayaan) dengan derajat kebebasan n-2
xg = nilai x yang ditentukan
n = jumlah observasi pasangan pada sampel
Regresi Linear
b. Prediksi Kisaran Nilai Spesifik y Jika Diketahui x
Estimasi interval untuk sampel kecil dengan situasi ini dapat diperoleh dengan
rumus berikut:
2
1 x x
yˆ t / 2 sy ,x 1
g
2
n x
x 2
n
Regresi Linear
Dengan menggunakan data dan tabel perhitungan pada contoh 1 dan persamaan
garis regresi yang dihasilkan serta nilai sy,x pada contoh 2 , dapat diprediksi
dengan tingkat kepercayaan 95 persen dan derajat kebebasan = n - 2 = 8 -2 = 6,
untuk x = 4,
g
2
1 x x
yˆ t / 2 sy ,x
2
n x
x2
n
1
21,583 2,447 1,698
4 7 2
8 428 56 8
2
Jadi dengan derajat kepercayaan 95 persen diperoleh: 19,038 < ŷ < 24,128
Regresi Linear
4. Analisis Sebelum
Korelasi
dilakukan analisa regresi, langkah yang biasa ditempuh adalah melakukan
analisa korelasi yang ditujukan untuk mengetahui erat tidaknya hubungan antar variabel.
Pada analisa regresi, untuk observasi Y diasumsikan bahwa X adalah tetap konstan dari
sampel ke sampel. Interpretasi koefisien korelasi untuk mengukur kuatnya hubungan antar
variabel tergantung pada asumsi yang digunakan untuk X dan Y. Bila X dan Y bervariasi
maka koefisien korelasi akan mengukur “covariability (kesamaan variasi)” antara X dan Y. Di
dalam analisa regresi, koefisien korelasi digunakan untuk mengukur “cocok/tepat (fitness)”
garis regresi sebagai pendekatan data observasi. Besarnya koefisien korelasi dinyatakan
sebagai
cov( X , Y ) xy
x y x y
Dalam prakteknya, tidak diketahui tetapi nilainya dapat diestimasi berdasar data sampel.
Bila r adalah penduga , dengan r dinyatakan sebagai
x y i i n X i Yi X i Yi
r i
i i i
x y
i
i
i
i
n X X i
2
2
n Yi Yi
2
2
i
Regresi Linear i i i i
4. Analisis Korelasi
Pengujian hipotesis tentang dilakukan dengan langkah-langkah sebagai berikut
a. Ho : = 0 (tidak ada hubungan antara X dan Y)
H1 : > 0 (ada hubungan positif)
H1 : < 0 (ada hubungan negatif)
H1 : 0 (ada hubungan)
Apabila = 0, maka variansi r diberikan oleh
1 r2
var(r ) r2
n2
Dimana r2 disebut sebagai koefisien determinasi untuk mengukur besarnya kontribusi X
terhadap variasi Y
b. Dengan diketahui, dari tabel distribusi-t maka dapat dihitung t ( n 2 ) untuk pengujian
r n2
tr dengan derajat kebebasan n
1 r2
d. Regresi Linear
Simpulkan, tolak Ho atau terima Ho.
4. Analisis Korelasi
Dengan menggunakan data dan tabel perhitungan pada contoh 1 dan persamaan
garis regresi yang dihasilkan dapat diperoleh koefisien determinasi dan koefisien
korelasi sebagai berikut. Dari persamaan regresi a = 1,0277 dan b = 5,1389.
Jumlah pasangan pengamatan n = 8. Maka:
a y b xy n y
2
r2
y n y
2 2
0,982
11920 8 37
2
r 0,982 0,991
Regresi Linear
4. Analisis Korelasi
br
sy
sx
dimana s y
1
n i
Yi Y
2
dan s x
1
n i
Xi X
2
.
Regresi Linear
4. Analisis Korelasi
Dalam statistika seringkali menduga nilai rata-rata Y pada nilai X tertentu. Telah
ditunjukkan bahwa Yˆ a bX adalah penduga E(Y|X). Misalkan Yˆo adalah nilai Yˆ pada X =
Xo, maka
E Yˆo E a bX o E a E b X o A BX o E Yo | X o
1 X o X 1 X o X
2 2
a bX o t / 2 se E Y | X a bX t s
i X i2
2 o o o / 2 e
n X n
1 X o X 1 X o X
2 2
a bX o t / 2 se Y a bX t s
i X i2
2 o o /2 e
n X n
Regresi Linear
5. Regresi Linear Non Linear
Tidak selamanya hubungan antara X dan Y dapat bersifat linear, akan tetapi bisa juga
non linear. Metode kesalahan kuadrat terkecil dapat pula digunakan untuk menentukan
parameter sebagai koefisien pada hubungan yang non linear. Bentuk-bentuk hubungan non
linear dapat didekati/ditransformasi sebagai hubungan linear, Tabel 11.1. adalah beberapa
bentuk transformasi dari non linear menjadi linear Yo Ao Bo X o .
Tabel 11.1. Hubungan Koefisien Non Linear Dengan Hasil Transformasi Linear
Persamaan Hasil Transformasi Yo Ao Bo X o
Persamaan Asal
Yo Ao Bo Xo
B Y A B 1
Y A
X X
Y Ae BX ln Y ln A B X
Regresi Linear
TERIMA KASIH