MAKALAH

“REGRESI LINEAR SEDERHANA”

Disusun Oleh :
KARINA (11754202174)

JURUSAN MATEMATIKA
FAKULTAS SAINS DAN TEKNOLOGI
UNIVERSITAS ISLAM NEGERI SULTAN SYARIF KASIM
PEKANBARU
2020

0
 BAB II
PEMBAHASAN

2.1 Pengertian Regresi Linear Sederhana

Istilah regresi pertama kali dalam konsep statistik digunakan oleh Sir
Francis Galton pada tahun 1886 di mana yang bersangkutan melakukan kajian
yang menunjukkan bahwa tinggi badan anak-anak yang dilahirkan dari para orang
tua yang tinggi cenderung bergerak (regress) ke arah ketinggian rata-rata populasi
secara keseluruhan. Galton memperkenalkan kata regresi (regression) sebagai
nama proses umum untuk memprediksi satu variabel, yaitu tinggi badan anak
dengan menggunakan variabel lain, yaitu tinggi badan orang tua.1
Sehingga dapat disimpulkan bahwa regresi linear sederhana (RLS)
merupakan alat statistik yang digunakan untuk mengetahui pengaruh antara satu
variabel bebas terhadap satu variabel terikat. Variabel bebas dapat pula disebut
dengan istilah prediktor atau variabel independen (x) dan variabel terikat sering
disebut dengan istilah kriterium atau variabel dependen (y).
Penerapan regresi linear sederhana dapat ditemukan secara luas di
berbagai bidang seperti bidang pertanian, ekonomi, medis dan pendidikan. Contoh
penggunaan regresi linear sederhana di berbagai bidang, antara lain:
1. Pengaruh jumlah pupuk terhadap produksi pertanian
2. Pengaruh daya beli masyarakat terhadap hasil penjualan saham
3. Pengaruh penghasil terhadap tingkat inflansi
4. Pengaruh citra perusahaan terhadap minat beli pelanggan
5. Pengaruh rokok terhadap kanker paru-paru
6. Pengaruh lamanya belajar terhadap nilai ujian
7. Pengaruh IQ terhadap IPK
8. Pengaruh berat badan terhadap tekanan darah

1
Jonathan Warsono, “Mengenal apa itu Analisis Regresi”,
http://www.jonathansarwono.info/regresi/regresi.htm (Diakses pada 19 April 2019, pukul 10.58)

1
 Secara umum, persamaan regresi linear sederhana dapat ditulis sebagai
berikut:

^y = β^ 0 + β^ 1 x. (1)

Pada persamaan (1), y merupakan variabel dependen, x merupakan

variabel independen, β 0 merupakan konstanta (Intercept), β 1 merupakan koefisien
(slope) dan e merupakan variabel pengganggu atau residual.
Persamaan regresi linear sederhana tersebut dapat juga dibuat dalam grafik
kartesius, sebagai berikut:

Gambar 1 Grafik Regresi Linear Sederhana

Pada gambar (1), ^y menyatakan persamaan regresi, ^y i menyatakan prediksi

y(ke-i=1, 2, 3, ...n observasi), yi merupakan variabel dependen (ke-i=1, 2, 3, ...n

observasi), xi merupakan variabel independen (ke-i=1, 2, 3, ...n observasi), ^β 0

merupakan konstanta (Intercept), ^β 1 merupakan koefisien (slope) dan e i

merupakan variabel pengganggu atau residual (ke-i=1, 2, 3, ...n observasi).

2.1.1 Prosedur Pembentukan Model Regresi Linear Sederhana

Ada beberapa prosedur pembentukan model RLS yaitu:
1. Input Data
Tahap ini dilakukan untuk pemilihan variabel, baik variabel independen
maupun variabel dependen terhadap permasalahan yang dipecahkan serta
menspesialisasikan hubungan fungsional antar variabel. Contoh: Seorang

2
mahasiswa ingin mengetahui pengaruh berat badan terhadap tinggi badan. Dari
contoh di atas dapat diketahui bahwa:
x: Berat badan (variabel dependen)
y: Tinggi badan (variabel independen)

2. Uji Kenormalan
Uji kenormalan pada regresi digunakan untuk menguji apakah nilai
residual yang dihasilkan dari regresi terdistribusi secara normal atau tidak.
Model regresi yang baik adalah yang memiliki nilai residual yang
terdistribusi secara normal. Langkah-langkah uji kenormalan:
Langkah 1: Hipotesis
Ho: Data berdistribusi normal
H1: Data tidak berditribusi normal
Langkah 2: Tingkat Signifikansi (α )
Langkah 3: Uji statistik
Langkah 4: Keputusan Terima Ho jika Asymp. Sim > α
Langkah 5: Kesimpulan.

3. Diagram sebar (scatter plot)

Diagram sebar (Scatter plot) digunakan untuk melihat pola hubungan
antara variabel x dangan variabel y.

Gambar 1.2 Contoh Scatter Plot

Dari gambar 1.2 di atas, bertujuan untuk membantu menunjukkan apakah

terdapat hubungan yang bermanfaat antara dua variabel dan membantu

3
menetapkan tipe persamaan yang menunjukkan hubungan antara kedua variabel
tersebut.

4. Menghitung korelasi model

Korelasi merupakan nilai yang menunjukkan adanya hubungan antara dua
variabel tetapi tidak menunjukkan sebab akibat antar variabel tersebut.
Untuk mempermudah perhitungan, maka estimasikan terlebih dahulu
interval dari paramater x dan y.
1. Estimasi interval dari parameter y (Syy)
n 2

n
S yy =∑ y − 2
i
(∑ )
i =1
yi
(2)
i=1 n
2. Estimasi interval dari parameter x (Sxx)
n 2

n
S xx =∑ x − 2
i
(∑ )
i =1
xi
(3)
i=1 n
3. Estimasi interval dari parameter x (Sxy)
n n

n
S xy =∑ x i yi −
(∑ )(∑ )
i=1
xi
i=1
yi
(4)
i=1 n
Maka koefisien korelasi antara x dan y adalah

n S xy
r =n ∑ xi y i−¿ ¿ ¿ =
i=1 √ S xx S yy

Tabel 1.1 Deskripsi hubungan antar variabel

Nilai r Deskripsi Hubungan
r =+1 Hubungan linear positif sempurna
r=−1 Hubungan linear negatif sempurna
+0 . 5<r <+1 Hubungan linear positif yang kuat
−0 .5< r <−1 Hubungan linear negatif yang kuat
0<r <+ 0 .5 Hubungan linear positif lemah
−0 .5< r <0 Hubungan linear negatif lemah

4
 r=0 Tidak ada hubungan linear

Berdasarkan tabel 1.1 maka dapat dilihat korelasi dalam scatter plot di
bawah ini:

Hubungan linear positif Hubungan linear positif sempurna Hubungan linear negatif kuat
kuat

Hubungan korelasi parabolic Hubungan korelasi parabolic Tidak ada hubungan antara x
dan y
Gambar 1.3 Korelasi

5. Metode Estimasi Parameter Regresi Linear Sederhana

Koefisien regresi
β 0 dan β 1 merupakan parameter dan nilainya tidak
diketahui, tetapi parameter tersebut dapat diestimimasi dari data sampel. Ada 2
metode estimasi yang biasa digunakan untuk mengestimasinya, yaitu:
a. Metode kuadrat Terkecil/Ordinary least square (OLS)
b. Metode Maksimum Likelihood (MML). 2
Dalam hal ini, metode yang akan digunakan adalah Metode kuadrat
Terkecil/Ordinary least square (OLS).

Metode kuadrat Terkeci atau Ordinary least square (OLS)

Jika mempunyai sampel berukuran n, yaitu
( x i , y i ) , i=1,2 , … ,n dari sebuah populasi, maka:
y i=β 0 + β 1 x i +e i (5)
2
M. Farhan Qudratullah, “Analisis Regresi Terapan”, Andi Yokyakarta: yokyakarta,
hal.21

5
 Dengan,
e i= y i− ^y
SSE merupakan jumlah kuadrat kesalahan kesalahan garis regresi,
sehingga:

n
SSE=∑ (e i)2 (6)
i=1

Untuk meminimumkan error, maka diferensialkan persamaan (5) secara

parsial terhadap ^β 0 dan β^ 1, kemudian menyamakannya dengan nol.

n
2
∂∑ (ei )
i=1
=0
∂ ^β 0

n
2
∂ ∑ ( y i−^y )
i=1
=0
∂ β^ 0

Substitusikan ^y pada persamaan (1),

n
2
∂ ∑ ( y i− β^ 0− ^β1 xi )
i=1
=0
∂ ^β 0

n
−2 ∑ ( y i− ^β0 − ^β 1 x i )=0
i=1

Kedua ruas dibagi (-2)

n

∑ ( y i− ^β 0− β^ 1 x i )=0
i=1

n n n

∑ yi −∑ ^β 0−∑ β^ 1 x i=0
i=1 i=1 i=1

n n

∑ yi −n ^β 0−∑ ^β 1 x i=0
i=1 i=1

Kedua ruas dibagi n,

6
 n n

∑ yi ∑ xi
i=1
− ^β 0− ^β 1 i=1 =0
n n

ý− β^ 0 − ^β1 x́=0

Sehingga diperoleh ^β 0:
^β 0= ý − ^β1 x́ (7)
Sedangkan ^β 1 dapat diproleh dengan menurunkan error terhadap ^β 1:
n
2
∂∑ (ei )
i=1 =0
∂ ^β 1

n
2
∂ ∑ ( y i−^y )
i=1
=0
∂ ^β1

Substitusikan ^y pada persamaan (1),

n
2
∂ ∑ ( y i− β^ 0− ^β1 xi )
i=1
=0
∂ ^β 1

n
2 ∑ ( y i− ^β0 − ^β1 x i) (−x i) =0
i=1

Kedua ruas dibagi 2,

∑ ( y i− ^β 0− β^ 1 x i ) (−x i ) =0
i=1

n n n
−∑ x i yi + β^ 0 ∑ x i+ β^ 1 ∑ x 2i =0
i=1 i=1 i=1

Subsitusikan ^β 0 pada persamaan (1.7) sehingga:

7
 n n n
−∑ x i yi + ( ý− ^β 1 x́ ) ∑ x́ i + ^β 1 ∑ x 2i =0
i=1 i=1 i=1

n n

n
− ∑ x i yi +
i=1
( ∑
i=1
n
yi
− ^β1 i =1
n
∑ xi
) n

∑ x i+ ^β1 ∑ x 2i =0
i=1 i=1
n

n n n
2
n ∑ y i ∑ xi ( ∑ xi ) n
i=1 i=1 i=1
−∑ x i yi +¿ − β^ 1 + β^ 1 ∑ x2i =0 ¿
i=1 n n i=1

Kedua ruas dikali dengan n,

n n n n 2 n
−n ∑ x i y i + ∑ x i ∑
i=1 i=1 i=1
y i− ^β 1
( )
∑ xi
i=1
+n ^β 1 ∑ x 2i =0
i=1

n n 2

Kedua ruas dibagi dengan n ∑ x −

( i=1
2
i (∑ ) )
i=1
xi ,

n n 2 n n n

(
^β 1 n ∑ x 2i −
i=1
(∑ ) )
i=1
xi =n ∑ x i y i−∑ x i ∑ y i
i=1 i=1 i=1

Sehingga diperoleh:

n n n
n ∑ xi y i−∑ x i ∑ y i
i=1 i=1 i=1 S xy
^β 1= = (8)
n n 2
S xx
n∑ x −
i=1
2
i (∑ )i=1
xi

6. Pengujian (Diagnostic Checking)

8
 β0
Dalam Diagnostic Checking akan dilakukan uji hipotesis terhadap

dan β1
, untuk apakah ada hubungan linear yang signifikan antara variabel
independen x dan variabel dependen y.
a. Pengujian Linearitas dan Signifikansi menggunakan t-tabel


Uji Linearitas (Intercept)

Langkah-langkah uji linaeritas yaitu sebagai berikut:

Langkah 1: Hipotesis

H 0 : β 0 =0
H 1 : β 0 ≠0
β0 <0
β0 >0

Langkah 2: Derajat Signifikansi

Langkah 3: Statistik Uji

t α/2,n−2
Mencari nilai t-tabel:

Tabel 1.2 Rumus t-hitung

H0 H1 Daerah
Test statistic
penolakan (s)
β 0 =0 β0
¿
β 1−β c
T=
≠ 0, 1 x2 T>t α /2 , n−2
β0 √ MSE
( +
n S xx )
< 0,
β0
>0
¿
SSE=S yy −β 1 S xy
SSE
MSE=
n−2

Langkah 4: Mengambil keputusan

9
Langkah 5: Kesimpulan


Uji Signifikansi (Slope)

Langkah-langkah uji signifikansi (slope) yaitu sebagai beerikut:

Langkah 1: Hipotesis
H 0 : β 1 =0
H 1 : β 1 ≠0
β1 < 0
β1 > 0

Langkah 2: Derajat Signifikansi

Langkah 3: Statistik Uji

t α/2,n−2
Mencari nilai t-tabel:

Tabel 1.3 Rumus t-hitung

H0 H1 Test Daerah
statistic penolakan (s)
β1 β1 ¿
β 1− β c T>t α , n−2
=0 ≠ 0, T=
β1
√ MSE /S xx
< 0,
β1
>0

10
 ¿
SSE=S yy −β 1 S xy ¿

SSE
MSE=
n−2

Langkah 4: Mengambil keputusan

Langkah 5: Kesimpulan

b.
Pengujian Menggunakan tabel ANOVA

Pengujian linearitas dan signifikansi persamaan regresi dapat ditentukan

berdasarkan tabel ANOVA.

Tabel 1.4 ANOVA

Sum of
Model Mean Square F Sig.
Squares f

Regression SSR MSR=SSR/1

1

Error SSE n-
F=MSR/MSE
2 p-value
MSE=SSE/(n-2)

Total SST n-

n
2
SSR=∑ ( ^y − ý )
i=1

n
2
SSE=∑ ( y i−^y )
i=1

n
2
SST =∑ ( y i− ý )
i=1

11

Uji Kesesuaian Model (Uji Linearitas)

Langkah-langkah uji linearitas yaitu sebagai berikut:

Langkah 1: Hipotesis
H 0 : β 1 =0
H 1 : β 1 ≠0
β1 < 0
β1 > 0

Langkah 2: Derajat Signifikansi

Langkah 3: Statistik Uji

Dengan melihat p-value pada tabel 1.4 ANOVA

Langkah 4: Mengambil keputusan

maka terima Ho
Jika p−value>α

Langkah 5: Kesimpulan.

2.1.2 Contoh Kasus Regresi Linear Sederhana Menggunakan Aplikasi

Minitab
Sebuah penelitian yang dilakukan oleh Mahasiswa Jurusan Matematika
Fakultas Sains dan Teknologi UIN Suska Riau untuk mengetahui pengaruh
lamanya mahasiswa mengerjakan tugas terhadap IPK Mahasiswa Matematika.
Berikut adalah data yang diambil dari 29 responden yang terdiri atas satu
variabel dependen (y) dan satu variabel independen (x):

Tabel 1.11 Data Mahasiswa Matematika

Lamanya Waktu Mengerjakan Tugas
n IPK (y)
(per minggu)
1 3.78 15
2 3.51 6
3 3.76 16
4 3.77 14
5 2.19 2
6 2.79 30
7 3.68 12
8 2.32 2

12
 9 3.01 6
...
29 3.85 6

Permasalahan di atas dapat diselesaikan dengan regresi linear sederhana

menggunakan aplikasi Minitab. Langkah-langkah analisis dapat dilakukan
sebagai berikut:
a. Input Data
y: Nilai IPK sebagai variabel dependen (x)
x: Lamanya waktu mengerjakan tugas sebagai variabel independen (y).
b. Uji Kenormalan
Langkah 1: Hipotesis
Ho: Data berdistribusi secara normal
H1: Data tidak berdistribusi normal
Langkah 2: Tingkat Signifikansi
α=5 %
Langkah 3: Uji Statistik
Klik menu Stat-Basic statistic-Normality test-pilih uji
kenormalan yang akan digunakan-klik OK, maka akan
muncul output sebagai berikut:

Gambar 1.4 Distribusi Normal

13
 Untuk data variabel x, nilai p-value (0.157) > α = (0.05)
maka terima H0.

Gambar 1.5 Distribusi Normal

Untuk data variabel y, nilai p-value (0.216) > α = (0.05)

maka terima H0.
Langkah 4: Kesimpulan
Dapat disimpulkan bahwa data variabel x maupun
variabel y tersebut berdistribusi normal.

c. Scatter plot
Cara sederhana untuk melihat pola hubungan antara variabel y dan x dengan
menggunakan diagram sebar (scetter diagram). Dengan menggunakan
Aplikasi Minitab, klik Grap-scatterplot-simple- lalu masukkan variabel x dan
variabel y - klik OK, maka akan muncul output sebagai berikut:

Gambar 1.6 Scatter Plot

14
 Dari diagram di atas, kita dapat melihat hubungan antara lamanya
waktu mengerjakan tugas (x) dengan nilai IPK (y) (korelasi). Akan tetapi,
data tersebut tidak membentuk garis linear, sehingga kita tidak dapat
menyimpulkan bahwa lamanya waktu mengerjakan tugas (x) berpangaruh
atau tidak terhadap nilai IPK (y).

d. Korelasi
Klik menu Stat-Basic statistic-correlation-klik OK. Maka akan muncul
output sebagai berikut:

Gambar 1.7 Korelasi

Nilai korelasi antara y dan x sebesar 0.016 artinya x dan y mempunyai

korelasi positif lemah.

e. Estimasi Parameter
Klik stat-klik regression-klik regression-fit regression model-klik ok. Maka
akan muncul output sebagai berikut:

Gambar 1.8 Model Regresi

Dari Gambar 1.8 di atas, maka dapat diketahui nilai estimasi parameter
β 0=2.806 dan β 0=0.0266 .

f. Pengujian (Diagnostic Checking)

Pengujian Linearitas dan Signifikansi menggunakan t-tabel

Uji linearitas (Intercept)

Langkah 1: Hipotesis

15
 H 0 : β 0 =0
H 1 : β 0 ≠0

Langkah 2: Derajat Signifikansi

α=5 %

Langkah 3: Statistik Uji

klik regression - klik regression - fit regression

Klik stat -
model - klik ok.

Gambar 1.9 Output analisis regresi sederhana

pada Minitab

Langkah 4: Mengambil keputusan

t hitung =19.32 t α /2,n−2=2 .0518

>

Sehingga tolak Ho.

Langkah 5: Kesimpulan

16
 Dapat disimpulkan bahwa garis regresi tidak melalui titik
pusat atau pangkal (konstanta signifikan dalam persamaan
regresi).


Uji Signifikansi (Slope)

Langkah 1: Hipotesis

H 0 : β 0=0
H 1 : β 0≠0

Langkah 2: Derajat Signifikansi

α=5 %

Langkah 3: Statistik Uji

Dari gambar 1.10, t hitung =2.58> t α /2, n−2=2 . 0518

Sehingga tolak Ho.

Langkah 4: Kesimpulan

Dapat disimpulkan koefisien signifikan dalam persamaan

regresi.


Uji Kesesuaian Model (Uji Linearitas)

Langkah 1: Hipotesis

H 0 : β 1 =0
H 1 : β 1 ≠0

Langkah 2: Derajat Signifikansi

α=5 %

17
 Langkah 3: Statistik Uji

Dengan melihat p-value pada tabel 1.10.

Langkah 4: Mengambil keputusan

maka tolak Ho
Jika p−value=0.016<α =0.05

Langkah 5: Kesimpulan.

Pada tingkat kepercayaan 95%, Ho ditolak. Dengan

demikian, lamanya waktu mengerjakan tugas secara

signifikan mempengaruhi nilai IPK.

KESIMPULAN
Dari uji hipotesis tersebut, dapat disimpulkan bahwa terdapat pengaruh
lamanya waktu mengerjakan tugas (x) terhadap nilai IPK (y). Di mana lamanya
waktu mengerjakan tugas berpengaruh positif terhadap nilai IPK mahasiswa
jurusan Matematika. Akan tetapi, lamanya waktu mengerjakan tugas (x) dengan
nilai IPK (y) hanya 19.7%.

DAFTAR PUSTAKA

Jonathan Warsono, “Mengenal apa itu Analisis Regresi”,

http://www.jonathansarwono.info/regresi/regresi.htm (Diakses pada 19 April
2019, pukul 10.58)

M. Farhan Qudratullah, “Analisis Regresi Terapan”, Andi Yogyakarta: Yogyakarta

R.K. Sembiring, Analisis Regresi, (Bandung: Penerbit ITB, 1995)

18