Rezky Angga Pradana (221810558)

Thoriq Ibadurrohman (221810626)

Miftahuddin (221810418)
Kelas 2KS4

Review Video Analisis Regresi Sederhana

dan Korelasi

 Analisis regresi sederhana adalah hubungan antara variabel independen (X)

dengan variabel dependen (Y) dalam bentuk linier.
Contohnya untuk mengetahui hubungan antara prestasi belajar dengan nilai
tahun sebelumnya. Di sini variabel independennya (X) adalah prestasi belajar
dan variabel dependennya (Y) adalah nilai tahun sebelumnya.

 Tujuan dari analisis regresi :

1. Membuat estimasi nilai rata – rata.
2. Menguji hipotesis hubungan antar variabel.
3. Mengetahui pengaruh dari variabel bebas terhadap variabel terikat.
  Contoh
Berikut disajikan data biaya promosi dan volume penjualan suatu barang

Biaya Promosi 40 20 25 20 30 50 40 20 50 40 25 50
Volume
Penjualan 385 400 395 365 475 440 490 420 560 525 480 510

Berdasarkan data tersebut, kita dapat mengetahui hubungan antara biaya

promosi dengan volume penjualan barang. Caranya yaitu :
1. Mencari nilai b
𝑛 ∑ 𝑥𝑦 − (∑ 𝑥)(∑ 𝑦)
𝑏=
𝑛 ∑ 𝑥 2 − (∑ 𝑥)2
10(1913250) − (410)(5445)
𝑏=
12(15650) − (410)2
63450
𝑏=
19700
𝑏 = 3,22

2. Mencari nilai a
∑𝑦 − 𝑏∑𝑥
𝑎=
𝑛
5445 − 3,22(410)
𝑎=
12
4124,8
𝑎=
12
𝑎 = 343,73

3. Rumus garis liniernya yaitu

𝑌 = 𝑎 + 𝑏𝑋
𝑌 = 343,73 + 3,22𝑋
 600
500
Volume Penjualan

400
300
200
100
0
0 20 40 60
Biaya Promosi

 Analisis korelasi adalah suatu cara atau metode untuk mengetahui derajat
hubungan linier antar dua variabel.
 Derajat korelasi suatu hubungan linier yaitu antara -1 hingga 1. Apabila suatu
hubungan linier berderajat -1 maka hubungan antara kedua variabel sangat kuat
negatif, sedangkan apabila berderaat 1 maka hubungan antara kedua variabel
sangat kuat positif. Jika mendekati 0 maka kedua variabel hubungannya semakin
lemah.
 Contoh berdasarkan soal di atas, menghitung nilai korelasinya yaitu :
𝑛 ∑ 𝑥𝑦 − (∑ 𝑥)(∑ 𝑦)
𝑟=
√[𝑛 ∑ 𝑥 2 − (∑ 𝑥)2 ][𝑛 ∑ 𝑦 2 − (∑ 𝑦)2 ]
10(1913250) − (410)(5445)
𝑟=
√[12(15650) − (410)2 ][12(2512925) − (5445)2 ]
𝑟 = 0,6348
Nilai dari koefisien korelasinya adalah 0,6348. Hal ini berarti hubungan antara
biaya promosi dengan volume penjualannya memiliki hubungan yang positif dan
lumayan kuat

Sumber : Youtube Belajar Statistik

 Penurunan Rumus Regresi Sederhana dengan Metode
Ordinary Least Sqare (OLS)
Misalkan satu set data regresi yi,xi dimana i = 1, 2, ... , n, maka bentuk hubungan yi dan
xi dalam persamaan regresi adalah sebagai berikut:

Sedangkan persamaan garis regresinya adalah sebagai berikut:

Persamaan error menjadi:

Metode least square adalah metode yang meminimumkan jumlah kuadrat error atau
sum square error (SSE), sehingga rumus:

Jumlah kuadrat error akan mencapai minimum jika turunan terhadap b0 dan turunan
terhadap b1 sama dengan nol. Dengan menggunakan turunan dan sifat sifat dari sigma,
maka diperoleh persamaan seperti di bawah ini:
Turunan terhadap bo:

Turunan terhadap b1:

Dengan mensubstitusikan (i) dan (ii), maka diperoleh bo dan b1 sebagai berikut:

Sumber: https://www.rumusstatistik.com/2015/03/metode-least-square-pada-regresi-
linier.html
 Penurunan Rumus Regresi Sederhana dengan Metode
Maximum Likelihood Estimation (MLE)
𝑌𝑖 = 𝛽0 + 𝛽1 𝑥𝑖 + 𝜀𝑖

Jika 𝑌1 , 𝑌2 , … , 𝑌𝑛 independent dengan Y𝑖 ~ N(𝛽0 + 𝛽1 𝑥𝑖 , 2 ), Maka dengan metode

MLE :

𝛽̂0 = 𝑦̂ − 𝛽̂1 𝑥̂
𝑛
∑ (𝑥𝑖 −𝑥̅ )𝑦𝑖
𝛽̂1 = ∑𝑖=1
𝑛 (𝑥
−𝑥̅ )2
𝑖=1 𝑖

1
𝜎̂ = 𝑛 ∑𝑛𝑖=1(𝑦𝑖 − 𝛽̂0 − 𝛽̂1 𝑥𝑖 )2

Pembuktian:
𝑛
2)
1 1
𝐿(𝛽0 , 𝛽0 , 𝜎 =∏ 𝑒𝑥𝑝 [− 2
(𝑦𝑖 − 𝛽0 − 𝛽1 𝑥𝑖 )2 ]
√2𝜎 2 2𝜎
𝑖=1

𝑛
2)
1 1
ln 𝐿(𝛽0 , 𝛽0 , 𝜎 = ln [∏ 𝑒𝑥𝑝 [− (𝑦 − 𝛽0 − 𝛽1 𝑥𝑖 )2 ]]
√2𝜎 2 2𝜎 2 𝑖
𝑖=1

𝑛
𝑛 1
= − ln(2𝜋𝜎 2 ) − 2 ∑(𝑦𝑖 − 𝛽̂0 − 𝛽̂1 𝑥𝑖 )2
2 2𝜎
𝑖=1

lnL maksimum bila∑𝑛𝑖=1(𝑦𝑖 − 𝛽0 + 𝛽1 𝑋𝑖 )2minimum, untuk itu kita turunkan terhadap

𝛽0 , 𝛽1 , 𝜎 2

Turuna ln L terhadap 𝜷𝟎

𝑛 1
𝜕(ln 𝐿(𝛽0 , 𝛽0 , 𝜎 2 )) 𝜕 (− 2 ln(2𝜋𝜎 2 ) − 2 ∑𝑛𝑖=1(𝑦𝑖 − 𝛽̂0 − 𝛽̂1 𝑥𝑖 )2 )
= 2𝜎
𝜕𝛽0 𝜕𝛽0
𝑛
1
0 = 2 2 ∑(𝑦𝑖 − 𝛽̂0 − 𝛽̂1 𝑥𝑖 ) (−1)
2𝜎
𝑖=1

𝑛 𝑛

0 = ∑ 𝑦𝑖 − 𝑛𝛽̂0 − 𝛽̂1 ∑ 𝑥𝑖
𝑖=1 𝑖=1
 𝑛 𝑛

𝑛𝛽̂0 = ∑ 𝑦𝑖 − 𝛽̂1 ∑ 𝑥𝑖
𝑖=1 𝑖=1

𝛽̂0 = 𝑦̂ − 𝛽̂1 𝑥̂

Turunan ln L terhadap 𝜷𝟏

𝑛 1
𝜕(ln 𝐿(𝛽0 , 𝛽0 , 𝜎 2 )) 𝜕 (− 2 ln(2𝜋𝜎 2 ) − 2 ∑𝑛𝑖=1(𝑦𝑖 − 𝛽̂0 − 𝛽̂1 𝑥𝑖 )2 )
= 2𝜎
𝜕𝛽1 𝜕𝛽1
𝑛
1
0 = 2 2 ∑(𝑦𝑖 − 𝛽̂0 − 𝛽̂1 𝑥𝑖 ) (−𝑥𝑖 )
2𝜎
𝑖=1

𝑛 𝑛 𝑛

0 = ∑ 𝑥𝑖 𝑦𝑖 − 𝛽̂0 ∑ 𝑥𝑖 − 𝛽̂1 ∑ 𝑥𝑖 2
𝑖=1 𝑖=1 𝑖=1

𝑛 𝑛 𝑛
∑𝑛𝑖=1 𝑦𝑖 𝛽̂1 ∑𝑛𝑖=1 𝑥𝑖
𝛽̂1 ∑ 𝑥𝑖 2
= ∑ 𝑥𝑖 𝑦𝑖 − [ − ] ∑ 𝑥𝑖
𝑛 𝑛
𝑖=1 𝑖=1 𝑖=1

𝑛 𝑛
∑𝑛𝑖=1 𝑥𝑖 ∑𝑛𝑖=1 𝑦𝑖 𝛽̂1 (∑𝑛𝑖=1 𝑥𝑖 )2
𝛽̂1 ∑ 𝑥𝑖 2 = ∑ 𝑥𝑖 𝑦𝑖 − −
𝑛 𝑛
𝑖=1 𝑖=1

𝑛 𝑛
𝛽̂1 (∑𝑛𝑖=1 𝑥𝑖 )2 ∑𝑛𝑖=1 𝑥𝑖 ∑𝑛𝑖=1 𝑦𝑖
̂ 2
𝛽1 ∑ 𝑥𝑖 + = ∑ 𝑥𝑖 𝑦𝑖 −
𝑛 𝑛
𝑖=1 𝑖=1

𝑛 𝑛
(∑𝑛𝑖=1 𝑥𝑖 )2 ∑𝑛𝑖=1 𝑥𝑖 ∑𝑛𝑖=1 𝑦𝑖
𝛽̂1 (∑ 𝑥𝑖 2 + ) = ∑ 𝑥𝑖 𝑦𝑖 −
𝑛 𝑛
𝑖=1 𝑖=1

∑𝑛𝑖=1 𝑥𝑖 ∑𝑛𝑖=1 𝑦𝑖
∑𝑛𝑖=1 𝑥𝑖 𝑦𝑖 −
𝛽̂1 = 𝑛
𝑛
(∑ 𝑥 )2
∑𝑛𝑖=1 𝑥𝑖 2 + 𝑖=1 𝑖
𝑛
∑𝑛𝑖=1(𝑥𝑖 − 𝑥̅ )𝑦𝑖
𝛽̂1 =
∑𝑛𝑖=1(𝑥𝑖 − 𝑥̅ )2
Turunan ln L terhadap 𝝈𝟐

𝑛 1
𝜕(ln 𝐿(𝛽0 , 𝛽0 , 𝜎 2 )) 𝜕 (− 2 ln(2𝜋𝜎 2 ) − 2 ∑𝑛𝑖=1(𝑦𝑖 − 𝛽̂0 − 𝛽̂1 𝑥𝑖 )2 )
= 2𝜎
𝜕𝜎 2 𝜕𝜎 2
𝑛
𝑛 1 1 2 −2
0=− − ( (𝜎 ) ) ∑(𝑦𝑖 − 𝛽0 − 𝛽1 𝑋𝑖 )2 (−1)
2 𝜎2 2
𝑖=1

𝑛
𝑛 1 1
2
= ( (𝜎 2 )−2 ) ∑(𝑦𝑖 − 𝛽0 − 𝛽1 𝑋𝑖 )2
2𝜎 2
𝑖=1

𝑛
1
𝜎̂ = ∑(𝑦𝑖 − 𝛽̂0 − 𝛽̂1 𝑥𝑖 )2
𝑛
𝑖=1

Sumber : Baim, Engelhardt.1992.Introduction To Probability and Mathematical

Statistics Second Edition.United States of America: Duxbury Classic Series