Statistika dan Probabilitas 1

REGRESI LINEAR 1
VARIABEL
STATISTIKA DAN PROBABILITAS

KNR, ISI, TNH

 Definisi Regresi (1)
2

¨ Regresi adalah suatu metode analisis statistik yang digunakan

untuk melihat pengaruh antara 2 atau lebih variabel à
variabel bebas (independent variable) dan variabel
bergantung (dependent variable).
¨ Jenis-jenis regresi:
§ Regresi SEDERHANA (linier sederhana dan non-linier
sederhana)
§ Regresi BERGANDA (linier berganda dan non-linier
berganda)

Statistika dan Probabilitas

 Definisi Regresi (2)
3

¨ Analisis regresi digunakan pada hampir semua

bidang kehidupan: ekonomi dan keuangan, teknik,
pertanian, industri dan ketenagakerjaan,
pemerintahan, ilmu lingkungan, dsb à untuk
mengetahui hubungan sistem (relation),
pendugaan (estimation), dan peramalan
(forecasting)
¨ Contoh : Volume penjualan vs tingkat pemasaran
¨ Harga material vs inflasi
¨ Harga material vs kualitas
Statistika dan Probabilitas
 Interpolasi dan Ekstrapolasi
4

¨ Model regresi dapat dimanfaatkan untuk

melakukan prediksi untuk variabel terikat.
¨ Memprediksi untuk nilai input didalam rentang
sampel à Interpolasi
¨ Memprediksi untuk nilai input diluar rentang sampel
à Ekstrapolasi

Statistika dan Probabilitas

 Scatter Diagram / Diagram Pencar
5

¨ Untuk mengetahui pola hubungan antara variable X

dan Y
¨ Scatter diagram adalah grafik yang menunjukkan
titik-titik perpaduan nilai observasi dari 2 variabel
(X & Y). Pada umumnya dalam grafik, variabel
independent (X) diletakkan pada garis horisontal,
sedangkan variabel dependent (Y) pada garis
vertikal.

Statistika dan Probabilitas

 Contoh Scatter Diagram
6

Mahasiswa A B C D E F G H
Nilai test masuk (X) 74 69 85 63 82 60 79 91
IP (Y) 2.6 2.2 3.4 2.3 3.1 2.1 3.2 3.1

IP

Nilai Masuk
Statistika dan Probabilitas
 Bentuk Umum Regresi Linear 1 Variabel
7

𝑌 = β! + β"𝑥 Dengan :
Y = Hasil / output
β! = intercept
β" = kemiringan
x = variable input

Regresi Linear 1
variable = Simple
Regression

Statistika dan Probabilitas

 Intercept
8

¨ Intersep (intercept), definisi secara metematis

adalah suatu titik perpotongan antara suatu garis
dengan sumbu Y pada diagram/sumbu kartesius
saat nilai X = 0.
¨ Sedangkan definisi secara statistika adalah nilai
rata-rata pada variabel Y apabila nilai pada
variabel X bernilai 0.

Statistika dan Probabilitas

 Slope / Kemiringan
9

¨ Secara matematis, slope merupakan ukuran kemiringan

dari suatu garis. Slope adalah koefisien regresi untuk
variabel X (variabel bebas).
¨ Dalam konsep statistika, slope merupakan suatu nilai
yang menunjukkan seberapa besar kontribusi
(sumbangan) yang diberikan suatu variabel X terhadap
variabel Y.
¨ Nilai slope dapat pula diartikan sebagai rata-rata
pertambahan (atau pengurangan) yang terjadi pada
variabel Y untuk setiap peningkatan satu satuan
variabel X.
Statistika dan Probabilitas
 Regresi Linear Sederhana
10

𝑌 = β! + β" 𝑥 + ϵ
¨ Y = Hasil / output
*Bisa juga ditulis µ#|% ,
yaitu rerata dari populasi
¨ β! = intercept
¨ β" = kemiringan
¨ x = variable input
¨ ϵ = error
ϵ adalah variable acak
dengan rerata = 0 dan
varians = σ&

Statistika dan Probabilitas

 Fitted Regression Line
11

¨ Persamaan diatas adalah untuk populasi, nilai error

(ϵ) tidak pernah diketahui secara pasti, maka
dibutuhkan persamaan garis duga (fitted regression
line) yang bisa menggambarkan garis regresi
populasi sebenarnya.
¨ Diasumsikan 𝑦! = 𝑏! + 𝑏" 𝑥
𝑦& = nilai prediksi
𝑏$ = estimasi untuk β!
𝑏! = estimasi untuk β!

Statistika dan Probabilitas

 Error
12

¨ Kesalahan atau residu adalah perbedaan antara nilai y

sesungguhnya dengan nilai y regresi
¨ 𝑒 = 𝑦% − 𝑦& « 𝑦% − (𝑏$ + 𝑏"𝑥")
¨ 𝑒 = 𝑦% −𝑏$ − 𝑏"𝑥"

Statistika dan Probabilitas

 Method of Least Square
13

¨ Untuk mendapatkan garis regresi yang baik,

maka kita akan meminimalkan residu atau
error dari nilai dugaan dengan nilai
sesungguhnya
¨ Minimalkan jumlah kuadrat residu error (SSE /
Sum of Squares Error)

Statistika dan Probabilitas

 Method of Least Square
14

Statistika dan Probabilitas

 Nilai Koefisien Regresi
15

Statistika dan Probabilitas

 Contoh Soal 1
16

Statistika dan Probabilitas

 Scatter Diagram
17

Statistika dan Probabilitas

 Nilai Estimasi
18

Statistika dan Probabilitas

 Contoh Soal 2
19

Tentukan persamaan regresinya!

Statistika dan Probabilitas

 Jawab
20

Statistika dan Probabilitas

 Jawab
21

# ""$,& '()* + ),)

𝑏" = = 0,839
# ",. ')*!

24
𝑦3 = = 3,4
7
28
𝑥̅ = =4
7

𝑏. = 3,4 − 0,839 (4) = 0,071

Maka persamaan regresi linier adalah à 𝑦8 = 𝑏. + 𝑏" 𝑥 = 0,071 + 0,839𝑥

Statistika dan Probabilitas

 Perbedaan yi dengan y regresi
22

i xi yi y regresi (𝒚𝒊 − 𝒚𝒓𝒆𝒈) 𝟐

0 1 0,5 0,91 0,169

1 2 2,5 1,75 0,562
2 3 2 2,59 0,347
3 4 4 3,43 0,327
4 5 3,5 4,27 0,590
5 6 6 5,11 0,797
6 7 5,5 5,95 0,199
Total 28 24 2,991

Statistika dan Probabilitas

 Scatter Diagram
23

Statistika dan Probabilitas

 Kesalahan Dalam Regresi Linear
24

¨ Untuk jumlah sampel yang besar, pengukuran

disperse (sebaran) titik-titik koordinat dari garis
duga regresi dapat dicari dengan :
# $$%
¨ 𝑠 = ; varians sampel
&'#
𝑆𝑆𝐸 = ∑ 𝑦" − 𝑏# − 𝑏" 𝑥" $

$$%
¨ 𝑠= ; Std. Deviasi sampel
&'#

¨ 𝑠 # dan s merupakan taksiran untuk σ# dan σ

Statistika dan Probabilitas

 Regresi
25

¨ Regresi mencoba untuk mengestimasi atau

memprediksikan nilai rata-rata suatu variabel yang
sudah diketahui nilainya, berdasarkan suatu variabel
lain yang juga sudah diketahui nilainya.
¨ Contoh : Kita ingin mengetahui apakah kita dapat
memprediksikan nilai rata-rata ujian statistik
berdasarkan nilai hasil ujian matematika
¨ Variabel terikat diasumsikan random atau stokastik,
sehingga mempunyai distribusi probabilitas.
¨ Variabel penjelas (variabel bebas) diasumsikan
mempunyai nilai yang tertentu (dalam sampel tertentu)
Statistika dan Probabilitas
 Korelasi (1)
26

¨ Analisis korelasi adalah mengukur suatu tingkat

atau kekuatan hubungan linear antara dua
variabel.
¨ Koefisien korelasi adalah mengukur kekuatan
hubungan linear.
¨ Dalam analisis korelasi, kita menggunakan dua
variabel yang simetris, sehingga tidak ada
perbedaan antara variabel terikat dengan
variabel penjelas.

Statistika dan Probabilitas

 Korelasi (2)
27

¨ Contoh : kita tertarik untuk menemukan korelasi

antara merokok dengan penyakit kanker,
berdasarkan penjelasan statistik dan matematika,
pada anak sekolah dan mahasiswa (dst)
¨ Korelasi antara nilai ujian matematika dan ujian
statistik (dalam contoh di atas) adalah sama
dengan korelasi antara ujian statistik dan ujian
matematika.
¨ Dua variabel tersebut diasumsikan random.

Statistika dan Probabilitas

 Notasi
28

¨ Dalam berbagai perhitungan, notasi berikut

dipergunakan untuk mempermudah penulisan rumus
/ formula perhitungan

Statistika dan Probabilitas

 Koefisien Determinasi
29

q Koefisien Determinasi (𝑅$ ) menunjukkan proporsi

variabilitas oleh model regresi
q Dalam regresi R2 ini dijadikan sebagai pengukuran
seberapa baik garis regresi mendekati nilai data
asli yang dibuat model.
q Jika R2 = 1 à model yang sesuai menerangkan
semua variabilitas dalam variabel Y
q Jika R2 = 0 à tidak ada hubungan antara regresor
(X) dengan variabel Y
q Jika R2 = 0,8 à sebesar 80% variasi dari variabel
Y (variabel tergantung / response) dapat
diterangkan dengan variabel X (variabel bebas /
explanatory); sedang sisanya 0,2 dipengaruhi oleh
variabel-variabel yang tidak diketahui
Statistika dan Probabilitas
 Koefisien Determinasi
30

¨ SSE = Sum of Square Error

𝑆𝑆𝐸 = $ 𝑦+ − 𝑏, − 𝑏+ 𝑥+ - = $ 𝑦+ − 𝑦)+ -

¨ SST = Total Corrected sum of squares

𝑆𝑆𝑇 = $ 𝑦+ − 𝑦++ -

q Koefisien Determinasi (𝑅 - ) menunjukkan proporsi

variabilitas oleh model regresi
../
q 𝑅- =1 − dengan 0 ≤ 𝑅 - ≤ 1
..0

Statistika dan Probabilitas

 Koefisien Korelasi (r)
31

¨ Angka yang menunjukkan tinggi / rendahnya derajat

hubungan antara dua variable atau lebih
¨ 0 à Dua variabel tidak memiliki hubungan
¨ 1 à Dua variable memiliki hubungan positif
¨ -1 à Dua variable memiliki hubungan negatif
:!! :!"
𝑟 = 𝑏" :""
= :!! :""
dengan -1≤ r ≤ 1

Statistika dan Probabilitas

 Korelasi Positif
32

Statistika dan Probabilitas

 Korelasi Negatif
33

Statistika dan Probabilitas

 Korelasi Tidak Berhubungan
34

Statistika dan Probabilitas

 Berbagai Contoh Scatter Diagram
35

Statistika dan Probabilitas

 Berbagai Contoh Scatter Diagram
36

Statistika dan Probabilitas

 Contoh
37

i xi yi xi yi y regresi (𝒚𝒊 − 𝒚𝒓𝒆𝒈) 𝟐 (𝒚𝒊 − 𝒚

+) 𝟐 xi2 yi2
0 1 0,5 0,5 0,91 0,169 8,576531 1 0,25
1 2 2,5 5 1,75 0,562 0,862245 4 6,25
2 3 2 6 2,59 0,347 2,040816 9 4
3 4 4 16 3,43 0,327 0,326531 16 16
4 5 3,5 17,5 4,27 0,590 0,005102 25 12,25
5 6 6 36 5,11 0,797 6,612245 36 36
6 7 5,5 38,5 5,95 0,199 4,290816 49 30,25
Total 28 24 120 2,991 22,714 140 105

2,991
𝑅$=1− = 0,868
22,714
%!"
𝑟= = 0,931
%!! %""

Statistika dan Probabilitas

 Contoh
38

i xi yi xi yi y regresi (𝒚𝒊 − 𝒚𝒓𝒆𝒈) 𝟐 (𝒚𝒊 − 𝒚

+) 𝟐 xi2 yi2
0 1 0,5 0,5 0,91 0,169 8,576531 1 0,25
1 2 2,5 5 1,75 0,562 0,862245 4 6,25
2 3 2 6 2,59 0,347 2,040816 9 4
3 4 4 16 3,43 0,327 0,326531 16 16
4 5 3,5 17,5 4,27 0,590 0,005102 25 12,25
5 6 6 36 5,11 0,797 6,612245 36 36
6 7 5,5 38,5 5,95 0,199 4,290816 49 30,25
Total 28 24 120 2,991 22,714 140 105

2,991
𝑅$=1− = 0,868
22,714
%!"
𝑟= = 0,931
%!! %""

Statistika dan Probabilitas

 Contoh
39

i xi yi xi yi y regresi (𝒚𝒊 − 𝒚𝒓𝒆𝒈) 𝟐 (𝒚𝒊 − 𝒚

+) 𝟐 xi2 yi2
0 1 0,5 0,5 0,91 0,169 8,576531 1 0,25
1 2 2,5 5 1,75 0,562 0,862245 4 6,25
2 3 2 6 2,59 0,347 2,040816 9 4
3 4 4 16 3,43 0,327 0,326531 16 16
4 5 3,5 17,5 4,27 0,590 0,005102 25 12,25
5 6 6 36 5,11 0,797 6,612245 36 36
6 7 5,5 38,5 5,95 0,199 4,290816 49 30,25
Total 28 24 120 2,991 22,714 140 105

2,991
𝑅$=1− = 0,868
22,714
%!"
𝑟= = 0,931
%!! %""

Statistika dan Probabilitas

 Contoh
40

i xi yi xi yi y regresi (𝒚𝒊 − 𝒚𝒓𝒆𝒈) 𝟐 (𝒚𝒊 − 𝒚

+) 𝟐 xi2 yi2
0 1 0,5 0,5 0,91 0,169 8,576531 1 0,25
1 2 2,5 5 1,75 0,562 0,862245 4 6,25
2 3 2 6 2,59 0,347 2,040816 9 4
3 4 4 16 3,43 0,327 0,326531 16 16
4 5 3,5 17,5 4,27 0,590 0,005102 25 12,25
5 6 6 36 5,11 0,797 6,612245 36 36
6 7 5,5 38,5 5,95 0,199 4,290816 49 30,25
Total 28 24 120 2,991 22,714 140 105

2,991
𝑅$=1− = 0,868
22,714
%!"
𝑟= = 0,931
%!! %""

Statistika dan Probabilitas

 Garis Regresi Linier
41

6
y = 0,8393x + 0,0714
R² = 0,8683
5

4
Y

0
0 1 2 3 4 5 6 7 8
X

Statistika dan Probabilitas

 Tugas : Dikumpulkan Minggu Depan
42

Statistika dan Probabilitas