Regresi linier

Model populasi regresi linier menggambarkan hubungan antara variable X dan Y dalam
bentuk fungsi linier.
Perubahan variable Y diasumsikan karena adanya perubahan variable X
A,BENTUK UMUM REGRESI LINIER
Bentuk umum model regresi linier (populasi)

𝑌̂ = 𝛽0 + 𝛽1 𝑋
Dimana
𝛽0 dan 𝛽1 merupakan parameter
X adalah peubah bebas
Y adalah peubah terikat ,:
Y berdistribusi normal : 𝑌 ~ 𝑁(𝛽0 + 𝛽1 X , 𝜎 2 )

Bentuk umum model regresi linier (sampel)

𝑦̂ = 𝑏0 + 𝑏1 𝑥
Rumus untuk 𝑏0 dan 𝑏1 adalah
∑𝑛𝑖=1(𝑥𝑖 − 𝑥̅ )(𝑦𝑖 − 𝑦̅) 𝑆𝑥𝑦
𝑏1 = =
∑𝑛𝑖=1(𝑥𝑖 − 𝑥̅ )2 𝑆𝑥𝑥
Dan
𝑏0 = 𝑦̅ − 𝑏1 𝑥̅

Dimana
𝑏0 dan 𝑏1 merupakan statistik atau penduga parameter
X adalah peubah bebas (bukan peubah acak)
Y adalah peubah terikat (peubah acak)
Y berdistribusi normal : 𝑌 ~ 𝑁(𝑏0 + 𝑏1 X , 𝑠 2 )

Interpretasi dari 𝑏0 dan 𝑏1

𝑏0 adalah nilai dugaan bagi nilai rataan Y ketika X bernilai nol ( jika X=0 berada dalam selang
pengamatan)
𝑏1 Mengukur dugaan perubahan rataan nilai Y jika X berubah satu satuan

Contoh
Agen property ingin mengetahui hubungan antara harga rumah dan tipe rumah, khusus untuk
luas tanah 100 𝑚2 . Data sampel dari 6 rumah diambil sebagai berikut
Y = Harga rumah (juta) X = Tipe rumah (𝑚2 )
150 21
175 27
210 35
250 45
300 50
420 70

Catatan : tipe rumah 21, artinya luas bangunan rumah tersebut 21 𝑚2

Tentukanlah persamaan regresi linier dan interpretasikan

Jawab :

Hitung nilai 𝑥̅ : 𝑥̅ = 41.33333

Hitung nilai 𝑦̅ : 𝑦̅ = 250.8333

Y = Harga X = Tipe (𝑥𝑖 − 𝑥̅ ) (𝑥𝑖 − 𝑥̅ )2 (𝑦𝑖 − 𝑦̅) (𝑥𝑖 − 𝑥̅ )(𝑦𝑖 − 𝑦̅)

rumah (juta) rumah (m2)
150 21 -20.3333 413.4444 -100.833 2050.278
175 27 -14.3333 205.4444 -75.8333 1086.944
210 35 -6.33333 40.11111 -40.8333 258.6111
250 45 3.666667 13.44444 -0.83333 -3.05556
300 50 8.666667 75.11111 49.16667 426.1111
420 70 28.66667 821.7778 169.1667 4849.444
𝑦̅ =250.8333 𝑥̅ = 41.33333 1569.333 8668.333

Hitung nilai 𝑏1
∑𝑛𝑖=1(𝑥𝑖 − 𝑥̅ )(𝑦𝑖 − 𝑦̅) 8668.333
𝑏1 = = = 5.52
∑𝑛𝑖=1(𝑥𝑖 − 𝑥̅ )2 1569.333
Hitung nilai 𝑏𝑜
𝑏0 = 𝑦̅ − 𝑏1 𝑥̅ = 250.8333 − (5.52)(41.3333) = 22.67

Sehingga persamaan regresi linier :

𝑦̂ = 𝑏0 + 𝑏1 𝑥
𝑦̂ = 22.67 + 5.52 𝑥
Interpretasi dari 𝑏0 = 22.67 dan 𝑏1 = 5.52 ;
𝑏0 = 22.67 adalah nilai dugaan bagi nilai rataan harga jual rumah (Y) sama dengan 22.67 juta
ketika tipe rumah (X) bernilai nol 𝑚2 ( jika tipe rumah (X) bernilai 0 berada dalam selang
pengamatan)
𝑏1 = 5.52 menjelaskan bahwa setiap penambahan 1 𝑚2 tipe rumah, maka harga jual rumah akan
bertambah sebesar 5.52 juta rupiah.

B.KERAGAMAN
Total keragaman disebabkan oleh regresi dan galat :
Jumlah kuadrat Total = Jumlah kuadrat Regresi + Jumlah kuadrat Galat
JKT = JKR + JKG

Jumlah kuadrat Total = JKT = ∑𝑛𝑖=1 (𝑦𝑖 − 𝑦̅)2

Mengukur keragaman nilai 𝑦𝑖 disekitar nilai rataannya 𝑦̅

Jumlah kuadrat Regresi = JKR = ∑𝑛𝑖=1 (𝑦̂𝑖 − 𝑦̅)2

Menjelaskan keragaman karena adanya hubungan linier antara x dan y

Jumlah kuadrat Galat = JKG = ∑𝑛𝑖=1 (𝑦𝑖 − 𝑦̂𝑖 )2

Menjelaskan keragaman yang disebabkan oleh factor-faktor selain faktor hubungan
linier antara x dan y
TABEL SIDIK RAGAM
SUMBER DERAJAT JUMLAH KUADRAT
KERAGA BEBAS KUADRAT TENGAH
MAN (db) (JK) (KT)
𝑛
REGRESI 1 𝐽𝐾𝑅
𝐽𝐾𝑅 = ∑(𝑦̂𝑖 − 𝑦̅)2 𝐾𝑇𝑅 =
1
𝑖=1

𝑛
GALAT 𝑛−2 𝐽𝐾𝐺
𝐽𝐾𝐺 = ∑(𝑦𝑖 − 𝑦̂𝑖 )2 𝐾𝑇𝐺 =
𝑛−2
𝑖=1

𝑛
TOTAL 𝑛−1
𝐽𝐾𝑇 = ∑(𝑦𝑖 − 𝑦̅)2
𝑖=1

Penduga bagi ragam galat adalah

2
𝐽𝐾𝐺𝑎𝑙𝑎𝑡 ∑𝑛𝑖=1 (𝑦𝑖 − 𝑦̂𝑖 )2
𝜎̂ = 𝑠𝑒2 = 𝐾𝑇𝐺𝑎𝑙𝑎𝑡 = =
𝑛−2 𝑛−2
∑𝑛𝑖=1 (𝑦𝑖 − 𝑦̂𝑖 )2
𝑠𝑒2 =
𝑛−2

C. HIPOTESIS

Uji-t untuk koefisien 𝛽1

Langkah-1 : Hipotesis penelitian dan statistik
𝐻0 : 𝛽1 = 0 (tidak ada hubungan linier antara Y dan X)
𝐻1 : 𝛽1 ≠ 0 ( ada hubungan linier antara Y dan X)
Langkah-2 : Uji statistik

𝑏1 − 𝛽1
𝑡ℎ𝑖𝑡𝑢𝑛𝑔 =
𝑠𝑏1
Untuk 𝑡𝑡𝑎𝑏𝑒𝑙 :
𝛼
Taraf signifikan dengan Derajat bebas (db) = v = n – 2.
2

Dimana Ragam bagi 𝑏1 adalah

𝑠𝑒2
𝑠𝑏21 = 𝑛
∑𝑖=1 (𝑥𝑖 − 𝑥̅ )2
Langkah-3 : Daerah terima dan tolak 𝐻0
terima 𝐻0 : −𝑡𝑡𝑎𝑏𝑒𝑙 < 𝑡ℎ𝑖𝑡𝑢𝑛𝑔 < 𝑡𝑡𝑎𝑏𝑒𝑙
Tolak 𝐻0 : 𝑡ℎ𝑖𝑡𝑢𝑛𝑔 < −𝑡𝑡𝑎𝑏𝑒 𝑎𝑡𝑎𝑢 𝑡ℎ𝑖𝑡𝑢𝑛𝑔 > 𝑡𝑡𝑎𝑏𝑒𝑙
𝑙

Langkah-4 : Kesimpulan

Uji-t untuk koefisien 𝛽0

Langkah-1 : Hipotesis penelitian dan statistik
𝐻0 : 𝛽0 = 0 (Semua nilai Y dapat dijelaskan oleh X)
𝐻1 : 𝛽0 ≠ 0 ( ada nilai Y yang tidak dapat dijelaskan oleh X)
Langkah-2 : Uji statistik
𝑏0 − 𝛽0
𝑡ℎ𝑖𝑡𝑢𝑛𝑔 =
𝑠𝑏0
Dimana Ragam bagi 𝑏0
𝑠𝑒2 ∑𝑛𝑖=1 𝑥𝑖 2
𝑠𝑏20 =
𝑛 ∑𝑛𝑖=1 (𝑥𝑖 − 𝑥̅ )2

Untuk 𝑡𝑡𝑎𝑏𝑒𝑙
𝛼
Taraf signifikan dengan Derajat bebas (db) = v = 1.
2

Langkah-3 : Daerah terima dan tolak 𝐻0

terima 𝐻0 : −𝑡𝑡𝑎𝑏𝑒𝑙 < 𝑡ℎ𝑖𝑡𝑢𝑛𝑔 < 𝑡𝑡𝑎𝑏𝑒𝑙
Tolak 𝐻0 : 𝑡ℎ𝑖𝑡𝑢𝑛𝑔 < −𝑡𝑡𝑎𝑏𝑒𝑙 𝑎𝑡𝑎𝑢 𝑡ℎ𝑖𝑡𝑢𝑛𝑔 > 𝑡𝑡𝑎𝑏𝑒𝑙
Langkah-4 : Kesimpulan
Contoh :
Agen property ingin mengetahui hubungan antara harga rumah dan tipe rumah,
khusus untuk luas tanah 100 𝑚2 . Data sampel dari 6 rumah diambil sebagai
berikut
Y = Harga rumah X = Tipe rumah (𝑚2 )
(juta)
150 21
175 27
210 35
250 45
300 50
420 70

Catatan : tipe rumah 21, artinya luas bangunan rumah tersebut 21 𝑚2

Tentukanlah Uji hipotesis

a. uji hipotesis koefisien 𝛽0 (akan diujikan bahwa Semua nilai Y dapat
dijelaskan oleh X)
b. uji hipotesis koefisien 𝛽1 (akan diujikan bahwa tidak ada hubungan linier
antara Y dan X)

Jawab :
Tentukan persamaan regresi linier, seperti contoh sebelumnya :
𝑦̂ = 22.67 + 5.52 𝑥
Untuk 𝑥 = 21 maka nilai 𝑦̂ = 22.67 + 5.52(21) = 138,59
Untuk nilai x lainnya, nilai 𝑦̂ dapat dihitung dengan cara yang sama dan hasil nilai
𝑦̂ ditampilkan dalam table berikut:
Dari data diperoleh :
𝑥̅ = 41.33333
 𝑦 𝑥 𝑦̂ (𝑦𝑖 − 𝑦̂)2 𝑥𝑖 2 (𝑥𝑖 − 𝑥̅ )2
150 21 138.59 130.1881 441 413.4443
175 27 171.71 10.8241 729 205.4443
210 35 215.87 34.4569 1225 40.11107
250 45 271.07 443.9449 2025 13.44447
300 50 298.67 1.7689 2500 75.11117
420 70 409.07 119.4649 4900 821.778
Jumlah 740.6478 11820 1569.333

Hitung nilai 𝑠𝑒2 :

∑𝑛𝑖=1 (𝑦𝑖 − 𝑦̂𝑖 )2 740.6478
𝑠𝑒2 = = = 185.162
𝑛−2 6−2

A.Hipotesis pengujian 𝛽1
Langkah-1 : Hipotesis penelitian dan statistik
𝐻0 : 𝛽1 = 0 (tidak ada hubungan linier antara Y dan X)
𝐻1 : 𝛽1 ≠ 0 ( ada hubungan linier antara Y dan X)
Langkah-2 : Uji Statistik
Hitung 𝑠𝑏1 :
𝑠𝑒2 185.162
𝑠𝑏21 = 𝑛 = = 0.117988
∑𝑖=1 (𝑥𝑖 − 𝑥̅ )2 1569.333
𝑠𝑏1 = 0.343493
Hitung nilai 𝑡ℎ𝑖𝑡𝑢𝑛𝑔 :
𝑏1 − 𝛽1 5.52 − 0
𝑡ℎ𝑖𝑡𝑢𝑛𝑔 = = = 16.07018
𝑠𝑏1 0.343493
Hitung nilai 𝑡𝑡𝑎𝑏𝑒𝑙 :
𝛼
Taraf signifikan dengan Derajat bebas (db), v = 6 – 2 = 4.
2

Pilih 𝛼 = 0.01, dari table-t (uji dua pihak) diperoleh :

𝑡𝑡𝑎𝑏𝑒𝑙 = 4.604
Langkah-3 : Daerah terima dan tolak 𝐻0
(𝑡ℎ𝑖𝑡𝑢𝑛𝑔 = 16.07018) > (𝑡𝑡𝑎𝑏𝑒𝑙 = 4.604)
Sehingga ; Daerah Tolak 𝐻0 , artinya Daerah Terima 𝐻1
Langkah-4 : Kesimpulan
ada hubungan linier antara Y dan X
Atau
ada hubungan linier antara harga rumah dan tipe rumah

B. Hipotesis pengujian 𝛽0
Langkah-1 : Hipotesis penelitian dan statistik
𝐻0 : 𝛽0 = 0 (Semua nilai Y dapat dijelaskan oleh X)
𝐻1 : 𝛽0 ≠ 0 ( ada nilai Y yang tidak dapat dijelaskan oleh X)
Langkah-2 : Uji Statistik
Hitung 𝑠𝑏0 :
𝑠𝑒2 ∑𝑛𝑖=1 𝑥𝑖 2 (185.162)(11820)
𝑠𝑏20 = 𝑛 = = 232.4357
𝑛 ∑𝑖=1 (𝑥𝑖 − 𝑥̅ )2 6 (1569.333)
𝑠𝑏0 = 15.24584

Hitung nilai 𝑡ℎ𝑖𝑡𝑢𝑛𝑔 :

𝑏0 − 𝛽0 22.67 − 0
𝑡ℎ𝑖𝑡𝑢𝑛𝑔 = = = 1.486963
𝑠𝑏0 15.24584
Hitung nilai 𝑡𝑡𝑎𝑏𝑒𝑙
𝛼
Taraf signifikan dengan Derajat bebas (db), v = 1.
2

Pilih 𝛼 = 0.01, dari table-t (uji dua pihak) diperoleh

𝑡𝑡𝑎𝑏𝑒𝑙 = 63.657
Langkah-3 : Daerah terima dan tolak 𝐻0
(−𝑡𝑡𝑎𝑏𝑒𝑙 = −63.657) < (𝑡ℎ𝑖𝑡𝑢𝑛𝑔 = 1.486963) < (𝑡𝑡𝑎𝑏𝑒𝑙 = 63.657)
Sehingga ; Daerah Terima 𝐻0 , artinya Daerah Tolak 𝐻1
Langkah-4 : Kesimpulan
Semua nilai Y dapat dijelaskan oleh X
Atau
Semua nilai Harga rumah dapat dijelaskan oleh tipe rumah.

E.ANALISIS KORELASI
Analisis korelasi digunakan untuk mengukur kekuatan hubungan (hubungan linier)
antara dua peubah

Koefisien determinasi : 𝑅2
Mengukur proporsi keragaman atau variasi total disekitar nilai tengah yang dapat
dijelaskan oleh garis regresi ( mengukur jauh atau dekatnya titik pengamatan ke
garis regresi)
𝐽𝐾𝑅𝑒𝑔𝑟𝑒𝑠𝑖
𝑅2 =
𝐽𝐾𝑡𝑜𝑡𝑎𝑙
0 < 𝑅2 < 1
Koefisien korelasi populasi : 𝜌
Koefisien korelasi sampel : 𝑟 (koefisien korelasi pearson)

𝑠𝑥𝑦
𝑟=
𝑠𝑥 𝑠𝑦
Dimana :
∑𝑛𝑖=1(𝑥𝑖 − 𝑥̅ )(𝑦𝑖 − 𝑦̅)
𝑠𝑥𝑦 =
𝑛−1
 ∑𝑛𝑖=1(𝑥𝑖 − 𝑥̅ )2
𝑠𝑥 = √
𝑛−1

∑𝑛𝑖=1(𝑦𝑖 − 𝑦̅)2
𝑠𝑦 = √
𝑛−1

𝑟 2 = 1 , diinterpretasikan sebagai
Adanya hubungan linier yang tepat antara X dan Y
Atau
100% keragaman Y dijelaskan oleh keragaman X
Atau
Hubungan antara Y dan X dapat dijelaskan dengan model regresi linier antara Y
dan X sebesar 𝑟 2 𝑥100%

0 < 𝑟 2 < 1 , diinterpretasikan sebagai

Adanya hubungan linier yang lemah antara X dan Y
Atau
Sebagian keragaman Y dijelaskan oleh keragaman X
Atau
Hubungan antara Y dan X dapat dijelaskan dengan model regresi linier antara Y
dan X sebesar 𝑟 2 𝑥100%

𝑟 2 = 0 , diinterpretasikan sebagai
Tidak Ada hubungan linier yang tepat antara X dan Y
Atau
Tidak ada keragaman Y yang dapat dijelaskan oleh keragaman X
Atau
Hubungan antara Y dan X dapat dijelaskan dengan model regresi linier antara Y
dan X sebesar 𝑟 2 𝑥100%

Hipotesis untuk korelasi

Langkah-1 : Hipotesis penelitian dan statistik
𝐻𝑜 : 𝜌 = 0 ( tidak ada korelasi )
𝐻1 : 𝜌 ≠ 0 ( ada korelasi )
Langkah-2 : Uji Statistik

𝑛−2
𝑡ℎ𝑖𝑡𝑢𝑛𝑔 = 𝑟√ , 𝑑𝑏 = 𝑛 − 2
1 − 𝑟2

Untuk 𝑡𝑡𝑎𝑏𝑒𝑙
𝛼
Taraf signifikan dengan Derajat bebas (db) = v = 1.
2

Langkah-3 : Daerah terima dan tolak 𝐻0

Terima 𝐻𝑜 : −𝑡𝑡𝑎𝑏𝑒𝑙 < 𝑡ℎ𝑖𝑡𝑢𝑛𝑔 < 𝑡𝑡𝑎𝑏𝑒𝑙

Tolak 𝐻𝑜 : 𝑡𝐻𝑖𝑡𝑢𝑛𝑔 < −𝑡𝑡𝑎𝑏𝑒𝑙 atau 𝑡𝑡𝑎𝑏𝑒𝑙 < 𝑡𝐻𝑖𝑡𝑢𝑛𝑔

Langkah-4 : Kesimpulan
Contoh :
Agen property ingin mengetahui hubungan antara harga rumah dan tipe rumah, khusus untuk
luas tanah 100 𝑚2 . Data sampel dari 6 rumah diambil sebagai berikut
Y = Harga rumah (juta) X = Tipe rumah (𝑚2 )
150 21
175 27
210 35
250 45
 300 50
420 70

Catatan : tipe rumah 21, artinya luas bangunan rumah tersebut 21 𝑚2

Tentukanlah Korelasi dan hipotesis untuk korelasi.
Jawab :
Y = Harga X = Tipe (𝑥𝑖 − 𝑥̅ ) (𝑥𝑖 − 𝑥̅ )2 (𝑦𝑖 − 𝑦̅)2 (𝑥𝑖 − 𝑥̅ )(𝑦𝑖 − 𝑦̅)
rumah (juta) rumah (m2)

150 21 10167,294
-20.3333 413.4444 2050.278
175 27 -14.3333 205.4444 5750.689 1086.944
210 35 -6.33333 40.11111 1667.358 258.6111
250 45 3.666667 13.44444 0.694 -3.05556
300 50 8.666667 75.11111 2417.361 426.1111
420 70 28.66667 821.7778 28617.372 4849.444
𝑦̅ =250.8333 𝑥̅ = 41.33333 1569.333 48620.769 8668.333

∑𝑛𝑖=1(𝑥𝑖 − 𝑥̅ )(𝑦𝑖 − 𝑦̅) 8668,333

𝑠𝑥𝑦 = = = 1733,666
𝑛−1 6−1

∑𝑛𝑖=1(𝑥𝑖 − 𝑥̅ )2 1569.333
𝑠𝑥 = √ =√ = 17,72
𝑛−1 6−1

∑𝑛𝑖=1(𝑦𝑖 − 𝑦̅)2 48620.769

𝑠𝑦 = √ =√ = 98,61
𝑛−1 6−1

Maka
𝑠𝑥𝑦 𝑠𝑥𝑦 1733,666
𝑟= = = = 0,99
𝑠𝑥 𝑠𝑦 𝑠𝑥 𝑠𝑦 (17,72)(98,61)
0 < (𝑟 2 = 0,98) < 1 , diinterpretasikan sebagai
Adanya hubungan linier yang lemah antara Tipe rumah dan Harga rumah
Atau
Sebagian keragaman Harga rumah dijelaskan oleh keragaman Tipe rumah
Atau
Hubungan antara Harga rumah dan Tipe rumah dapat dijelaskan dengan model
regresi linier antara Harga rumah dan Tipe rumah sebesar 0,98 𝑥 100% = 98 %
Hipotesis untuk korelasi
Langkah-1 : Hipotesis penelitian dan statistik
𝐻𝑜 : 𝜌 = 0 ( tidak ada korelasi )
𝐻1 : 𝜌 ≠ 0 ( ada korelasi )
Langkah-2 : uji statistik

6−2
𝑡ℎ𝑖𝑡𝑢𝑛𝑔 = 0,99√ = 14,0007,
1 − 0,98

𝑑𝑏 = 6 − 2 = 4
UJi dua pihak, pilih 𝛼 = 0,01
𝑡𝑡𝑎𝑏𝑒𝑙 = 4,604
Langkah-3 : Daerah terima dan tolak 𝐻0
(𝑡𝑡𝑎𝑏𝑒𝑙 = 4,604) < (𝑡𝐻𝑖𝑡𝑢𝑛𝑔 = 14,0007)
Maka Tolak 𝐻𝑜 , Terima 𝐻1
Langkah-4 : Kesimpulan
ada korelasi