Regression

Models
Kunti Dhiwaniati S. 6007201014
Nur Candra Dana A. 6007201001
Rizky Haura N S6007201033
 Outline
1 Pengertian Model Regresi Linier

2 Estimasi Parameter Garis Lurus

3 Memastikan Regresi Linier Memiliki hasil Signifikan

4 Lack-Off-Fit Test

5 Koofisien Determinasi
Regrasi
Linier
 Pengertian

Metode statiska yang digunakan untuk membentuk model hubu-

ngan antara variable terikat (dependen; respon; Y) dengan satu
atau lebih variable bebas (independent; predictor; X)

Regrasi Linier
Sedehana
Regresi Linier
Regrasi Linier
Berganda
 Pengertian

Regresi Linier Sederhana

Regresi Linier Sederhana adalah regresi linier yang hanya memiliki 1

variable bebas X dengan variabel terikat adalah Y, memiliki persamaan :

Y=α+βX+ε
Y : variabel terikat (dependent variables)
X : variabel bebas (Indepenent variables) contohnya : x1, x2, . . . . .,xk
α : konstanta
β : Koefisien regresi
ε : error
 Pengertian

Regresi Linier Berganda

Regresi Linier Sederhana adalah regresi linier yang memiliki lebih dari
1 variable bebas X dengan variabel terikat adalah Y, persamaannya :

Y = α + β1 X1 + β2 X2 +....+ βi Xi + ε
Y : variabel terikat
X1 ,X2 : variabel bebas
α : konstanta
β1 , β 2 : Koefisien regresi
ε : error
Estimasi Parameter Model Regresi Linier
Parameter regresi diduga melalui teknik perhitungan yang disebut
Ordinary Least Square (OLS), dengan menggunakan OLS
kesalahan pendugaan dapat diperkecil asal memenuhi asumsi klasik
regresi linier.
Penerapan pengujian asumsi klasik regresi linier dilakukan terhadap
data residual, kecuali untuk uji asumsi multikolinieritas, namun ini
tidak perlu dilakukan jika menggunkan software statistika karena
software statistika secara otomatis melakukan uji asumsi klasik tanpa
terlebih dahulu meminta pengguna software memasukkan data
residual.
 Estimasi Parameter Model Regresi Linier
Asumsi klasik regresi linier
Error menyebar
normal dengan rata- Error tidak
rata nol dan suatu mengalami
ragam (variance) autokorelasi
1 3 5
tertentu

2 4 Tidak terjadi
Model Ragam dari error
dispesifikasikan multikolinieritas
bersifat homogen
dengan benar antar variabel
(homoskedastic)
bebas X
 Memastikan Regresi Linier Memiliki Hasil Signifikan

Uji Simultan Model Regresi

Pengujian untuk mengetahui model regresi yang didapatkan

benar-benar dapat diterima. Uji simultan bertujuan untuk
menguji apakah antara variabel-variabel bebas X dan
terikat Y, atau setidak-tidaknya antara salah satu variabel X
dengan variabel
terikat Y, benar-benar terdapat hubungan linier (linear relation)
 Memastikan Regresi Linier Memiliki Hasil Signifikan

Uji Simultan Model Regresi

Pengujian dengan hipotesa

H0 : β1= β2...= βk=0
H1 : Tidak semua βi=0
i = 1, 2, ..., k
k = banyaknya variabel bebas X
βi = parameter (koefisien) ke-i model regresi linier
 Memastikan Regresi Linier Memiliki Hasil Signifikan

Uji Simultan Model Regresi

Penjabaran secara hitungan untuk uji simultan ini dapat ditemui

pada tabel ANOVA (Analysis Of Variance). Di dalam tabel ANOVA
akan ditemui nilai statistik-F ( Fhitung ), dimana:
jika Fhitung < Ftabel ( db1 , db2 ) maka terima H0 , sedangkan
jika Fhitung > Ftabel ( db1 , db2 ) maka tolak H0 .
db1 dan db2 adalah parameter-parameter Ftabel
 Memastikan Regresi Linier Memiliki Hasil Signifikan

Uji Simultan Model Regresi

db1 = derajat bebas 1
= p -1
db2 = derajat bebas 2
=n-p
p = banyaknya parameter (koefisien) model regresi linier
= banyaknya variabel bebas + 1
n = banyaknya pengamatan
Apabila H0 ditolak, maka model regresi yang diperoleh dapat
digunakan
 Memastikan Regresi Linier Memiliki Hasil Signifikan

Uji Parsial

Uji parsial digunakan untuk menguji apakah sebuah variabel

bebas X benar-benar memberikan kontribusi terhadap
variabel terikat Y. Dalam pengujian ini ingin diketahui apakah
jika secara terpisah, suatu variabel X masih memberikan
kontribusi secara signifikan terhadap variable terikat Y
 Memastikan Regresi Linier Memiliki Hasil Signifikan

Uji Parsial
Hipotesis untuk uji ini adalah:
H0 : βj = 0
H1 : βj ≠ 0
dimana:
j = 0, 1, ..., k
k = banyaknya variabel bebas X
Uji parsial ini menggunakan uji-t, yaitu:
jika thitung ≤ ttabel (n-p), maka terima H0
jika thitung > ttabel (n-p), maka tolak H0
 Memastikan Regresi Linier Memiliki Hasil Signifikan

Uji Parsial

dimana
(n-p) = parameter ttabel
n = banyanya pengamatan
p = banyaknya parameter (koefisien) model regresi linier
Apabila H0 ditolak, maka variabel bebas X tersebut memiliki
kontribusi yang signifikan
terhadap variabel terikat Y.
 Lack-Off-Fit Test

Uji ini adalah uji formal untuk menentukan apakah sebuah fungsi
regresi cukup fit pada data atau apakah fungsi linier fit dengan baik
untuk data.  Uji ini mengasumsikan bahwa observasi Y adalah
independent, berdistribusi normal, dan mempunyai varians yang
sama s2. 

Pengulangan nilai pada variabel independen disebut replikasi

(replications), Hasil observasinya disebut replika (replicates). 
Selain lack of fit test bisa juga gunakan ramsey test untuk uji
linieritas (uji ramsey bisa dilihat pada buku basic
econometrics karangan Gujarati).  Hipotesis sebagai berikut:

H0 : E(Y) = b0 + b1X

H1 : E(Y) ≠ b0 + b1X
Statistik uji yang digunakan adalah uji F, formulanya sebagai berikut:
 Koofisien Determinasi (R2)

Koefisien determinasi adalah besarnya keragaman (informasi) di

dalam variabel Y yang dapat diberikan oleh model regresi yang
didapatkan. Nilai R2 berkisar antara 0 s.d. 1. Apabila nilai R2
dikalikan 100%, maka hal ini menunjukkan persentase keragaman
(informasi) di dalam variabel Y yang dapat diberikan oleh model
regresi yang didapatkan. Semakin besar nilai R2 semakin baik
model regresi yang diperoleh.
 Studi Kasus Regresi Linear Sederhana

Sumber : Ginting, F., Buulolo, E. and Siagian, E.R., 2019. IMPLEMENTASI ALGORITMA REGRESI LINEAR SEDERHANA DALAM MEMPREDIKSI BESARAN
PENDAPATAN DAERAH (STUDI KASUS: DINAS PENDAPATAN KAB. DELI SERDANG). KOMIK (Konferensi Nasional Teknologi Informasi dan Komputer), 3(1).
Studi Kasus Regresi Linear Sederhana
Langkah 1
Studi Kasus Regresi Linear Sederhana
Langkah 2
Studi Kasus Regresi Linear Sederhana
Langkah 3
Studi Kasus Regresi Linear Sederhana
The regression equation is
Jumlah Pendapatan = - 81073 + 51848 Bulan

Analysis of Variance

Source DF SS MS F P
Regression 1 3,39791E+11 3,39791E+11 358,34 0,000
Residual Error 8 7585840952 948230119
Lack of Fit 3 6547396344 2182465448 10,51 0,013
Pure Error 5 1038444608 207688922
Total 9 3,47377E+11

S = 30793,3 R-Sq = 97,8% R-Sq(adj) = 97,5%

Studi Kasus Regresi Linear Sederhana

R-Sq = 97,8% menunjukkan bahwa banyaknya bulan memiliki

kontribusi terhadap jumlah pendapatan sebesar 97,8%,
sedangkan sisanya dipengaruhi oleh factor lain.

P-value (0,000) yang artinya kurang dari alpha (0,05), maka

variabel x significant mempengaruhi y

Jumlah Pendapatan = - 81073 + 51848 Bulan

Artinya jumlah pendapatan akan naik sebesar 51848 satuan jika
bulan naik satu satuan.
Studi Kasus Regresi Linear Sederhana
Residual Plots for Jumlah Pendapatan
Normal Probability Plot Versus Fits
99 50000

90 25000

Residual
Percent
50 0

-25000
10
-50000
1
-80000 -40000 0 40000 80000 0 150000 300000 450000 600000
Residual Fitted Value

Histogram Versus Order

50000
4
25000
3
Frequency

Residual
0
2
-25000
1
-50000
0
-60000 -40000 -20000 0 20000 40000 1 2 3 4 5 6 7 8 9 10
Residual Observation Order
Studi Kasus Regresi Linear Sederhana
Normal Probability Plot
Menunjukkan titik-titik yang dihasilkan mengikuti bentuk linear dari
garis yang diberikan, sehingga residual berdistribusi linear

Versus Vit
Untuk uji independen plot yang dibentuk dari hasil gambar tidak
menghasilkan pola semakin melebar menjauh dari titik nol.
Sehingga residual data sudah independen

Versus Order
Hasil dari uji identic residual diperoleh gambar dengan titik-titik
yang menyebar sepanjang sumbu nol, sehingga residual data
telah
identik
 Studi Kasus Regresi Linear Berganda

Sumber : Yasa, I.K.O.A. and Arka, S., 2015. Pengaruh pertumbuhan ekonomi dan disparitas pendapatan antardaerah terhadap kesejahteraan masyarakat provinsi
bali. Jurnal Ekonomi Kuantitatif Terapan.
Studi Kasus Regresi Linear Berganda
Langkah 1
Studi Kasus Regresi Linear Berganda
Langkah 2
Studi Kasus Regresi Linear Berganda
Langkah 3
Studi Kasus Regresi Linear Berganda
The regression equation is
kesejahteraan masyarakat = 1,18 + 0,00189 pendapatan daerah
- 0,0127 Pertumbuhan ekonomi

Analysis of Variance

Source DF SS MS F P
Regression 2 0,0125887 0,0062944 137,74 0,000
Residual Error 9 0,0004113 0,0000457
Total 11 0,0130000
No evidence of lack of fit (P >= 0,1)

kesejahteraan masyarakat = 1,18 + 0,00189 pendapatan daerah

- 0,0127 Pertumbuhan ekonomi

S = 0,00676008 R-Sq = 96,8% R-Sq(adj) = 96,1%

Studi Kasus Regresi Linear Berganda
R-Sq = 96,8% menunjukkan bahwa pendapatan daerah dan
pertumbuhan ekonomi memiliki kontribusi terhadap kesejahteraan
masyarakat sebesar 96,8%, sedangkan sisanya dipengaruhi oleh
factor lain.

P-value (0,000) yang artinya kurang dari alpha (0,05), maka

variabel x significant mempengaruhi y

kesejahteraan masyarakat = 1,18 + 0,00189 pendapatan daerah

- 0,0127 Pertumbuhan ekonomi
Artinya kesejahteraan masyarakat akan naik sebesar 0,00189
satuan jika pendapatan naik satu satuan, kesejahteraan masyarakat
akan menurun jika pertumbuhan ekonomi menigkat.
Studi Kasus Regresi Linear Berganda
Residual Plots for kesejahteraan masyarakat
Normal Probability Plot Versus Fits
99 0,010

90 0,005

Residual
Percent

50 0,000

10 -0,005

1 -0,010
-0,01 0,00 0,01 0,250 0,275 0,300 0,325 0,350
Residual Fitted Value

Histogram Versus Order

3 0,010

0,005
Frequency

Residual
2
0,000
1
-0,005

0 -0,010
0 5 0 5 00 25 50 75 1 2 3 4 5 6 7 8 9 10 11 12
10 07 05 02 00 00 00 00
,0 ,0 ,0 ,0 0, 0, 0, 0, Observation Order
-0 -0 -0 -0
Residual
Studi Kasus Regresi Linear Berganda
Normal Probability Plot
Menunjukkan titik-titik yang dihasilkan mengikuti bentuk linear dari
garis yang diberikan, sehingga residual berdistribusi linear

Versus Vit
Untuk uji independen plot yang dibentuk dari hasil gambar tidak
menghasilkan pola semakin melebar menjauh dari titik nol.
Sehingga residual data sudah independen

Versus Order
Hasil dari uji identic residual diperoleh gambar dengan titik-titik
yang menyebar sepanjang sumbu nol, sehingga residual data
telah
identik
 Thank you
Insert the title of your subtitle Here