ANALISIS REGRESI DAN VARIANS

“INFERENSI DALAM ANALISIS REGRESI LINIER SEDERHANA”

DOSEN PENGAMPU : PRIHATIN NINGSIH SAGALA, S.Pd., M. Si.

DISUSUN OLEH :
KELOMPOK 3

DIAS FRISKA ARFADA (4182111024)

JEREMY CHRISTY (4182111007)
SANTI KARLA SILALAHI (4191111004)
SRI SWITASARI LIU (4183111044)

JURUSAN MATEMATIKA

FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM

UNIVERSITAS NEGERI MEDAN

2021
 KATA PENGANTAR

Segala puji dan syukur penulis ucapkan kehadirat Tuhan Yang Maha Esa. Yang
telah memberikan nikmat akal dan pikiran kepada hambanya, sehingga dapat
menyelesaikan tugas makalah ini dengan baik. Penulisan makalah ini adalah untuk
melengkapi tugas dari mata kuliah Analisis Regresi dan Varians.

Ucapan terima kasih juga tidak lupa penyusun hanturkan kepada dosen
pembimbing yakni Ibu Prihatin Ningsih Sagala, S.Pd., M.Si yang telah membimbing
langkah-langkah dalam penyelesaian makalah ini. Makalah ini jauh dari
kesempurnaaan dan masih banyak terdapat kekurangan dalam penulisan laporan ini
karena penulis menyadari hanya Tuhan Yang Maha Esa lah yang paling sempurna.
Untuk itu, penulis harapkan Ibu dosen serta para pembaca untuk memakluminya dan
memberi masukan yang membangun serta ide-ide bagi penulis.

Demikianlah pengantar dari penulis, semoga laporan dari makalah ini dapat
bermanfaat bagi kita semua.

Medan, 17 September 2021

Kelompok 3

ii
 DAFTAR ISI

KATA PENGANTAR ................................................................................................. ii

DAFTAR ISI ............................................................................................................... iii

BAB I PENDAHULUAN ............................................................................................ 4

BAB II REGRESI LINIER SEDERHANA .............................................................. 5

2.1 Model Regresi Linier Sederhana ................................................................ 6

2.2 Estimasi Parameter Model Regresi Linier Sederhana ............................. 7

2.3 Sifat-sifat Estimator ..................................................................................... 8

2.4 Penaksir Tidak Bias untuk σ2 ................................................................... 11

2.5 Inferensi dalam Analisis Regresi Sederhana ........................................... 11

2.6 Pendekatan Analisis Variansi.................................................................... 13

2.7 Uji Kesesuaian Model(Uji Liniearitas) ..................................................... 14

BAB III PENUTUP ................................................................................................... 16

DAFTAR PUSTAKA ................................................................................................ 17

iii
 BAB I

PENDAHULUAN

Statistik adalah suatu disiplin ilmu yang mempelajari sekumpulan konsep dan
metode pengumpulan, penyajian, analisis, dan interpretasi data, sampai data
pengambilan keputusan pada situasi dimana terdapat ketidakpastian. Ditinjau dari segi
waktu, dalam statistik dikenal 3 (tiga) jenis data, yaitu data cross section (data
antarkejadian), data time series (data runtun waktu dan data deret berkala), dan data
panel (gabungan antara data cross section dan data time series). Dalam pemodelan
statistika, analisisregresi.

Analisis regeresi merupakan alat analisis statistik yang memanfaatkan

hubungan dua variabel atau lebih. Tujuannya adalah untuk membuat perkiraan
(prediksi) yang dapat dipercaya untuk diniai suatu variabel (biasa disebut variabel
terikat atau variabel dependen atau variabel respons), jika nilai variabel lain yang
berhubungan degannya diketahui (biasa disebut variabel bebas atau variabel
independen atau variabel prediktor).

Analisis regresi pertama kali diperkenalkan sebagai analisis data statistik pada
tahun 1877 oleh Sir Francis Galton yang meneliti hubungan antara tinggi badan orang
tua (ayah) dengan anaknya. Beliau mengungkapkan bahwa terdapat kecenderungan
orang tua yang tinggi badannya akan memiliki anak yang tinggi pula, atau sebaiknya
orang tua yang pendek badannya akan memiliki anak yang pendek pula, tetapi
distribusi (penyebaran) rata-rata tinggi badan dari generasi ke generasi adalah tetap.

Secara umum analisis regresi dikelompokkan menjadi 3 (tiga) yaitu analisis

regresi parametrik, analisis regresi non parametrik, dan analisis regresi semi parametrik
(perpaduan antara regresi parametrik dan non parametrik). Perbedaan utama antara
regresi parametrik dan non parametrik yaitu analisis regresi parametrik memerlukan
asumsi- asumsi baik bentuk fungsional maupun distribusi residualnya.

4
 BAB II

REGRESI LINIER SEDERHANA

Analisis regresi linier sederhana adalah analisis regresi linier yang hanya
melibatkan dua variabel, yaitu satu variabel independen dan satu variabel dependen.
Disebut linier sederhana karena variabel dependen diasumsikan berhubungan linier
dalam parameter dan linier dengan variabel independen.

Secara umum terdapat 4 (empat) tahap yang dilakukan dalam analisis regresi dalam
rangka memperoleh model yang baik, yaitu:

1. Identifikasi Model

Pada tahap ini dilakukan perumusan model secara umum termasuk pemilihan
variabel baik variabel independen maupun variabel dependen terhadap
permasalahan yang harus dipecahkan, serta menspesialisasikan hubungan
fungsional antar variabel (pilihan model sementara). Cara mudah yang dapat
dilakukan adalah dengan melihat diagram sebar (scatter diagram).

2. Estimasi /Penaksiran parameter

Langkah kedua adalah melakukan estimasi terhadap parameter-parameter

dalam model sementara. Ada 2 (dua) metode yang biasa digunakan, yaitu metode
kuadrat terkecil dan metode maksimum likelihood.

3. Pengujian (Diagnostik Checking)

Pada tahap ini dilakukan pengujian-pengujian terhadap hasil-hasil pada langkah

3 di atas, diantaranya uji hipotesis terhadap koefisien-koefisien regresi. Jika hasil
yang diperoleh tidak sesuai yang diharapkan (tidak signifikan) maka tahapan
analisis harus dimulai lagi dari tahap pertama.

4. Penerapan

5
 Tahap terakhir ini merupakan tujuan utama dari analisis regresi, yaitu
melakukan prediksi (perkiraan) yang dapat dipercaya, sehingga dapat dijadikan
sebagai dasar dalam pengambilan keputusan. Kemungkinan kesalahan adalah
penggunaan yang tidak pada tempatnya.

2.1 Model Regresi Linier Sederhana

Secara umum, model regresi linier sederhana dengan satu variabel independen
dan fungsi linier dalam X dapat ditulis :

Y = α + βX + ɛ (2.1)

Di mana

Y: Variabel dependen X: Variabel Independen

α : intersep (titik potong) kurva terhadap sumbu Y β : Kemiringan (slope) kurva

linier

ɛ : Variabel pengganggu (residual)

Diketahui pasangan data berukuran n (Xi, Yj) dimana i= 1,2,……. ,n dari

sebuah populasi, maka model regresi linier sederhana dapat ditulis:

Yi = α + βXi + ɛi (2.2)

Untuk memperoleh model regresi linier sederhana yang baik, perlu

diperhatikan 5 (lima) asumsi dasar yang dikenal dengan “Asumsu-asumsi
model regresi linier sederhana” yang mempunya peran penting dalam distribusi
α dan β :

1. ɛi adalah sebuah variabel random riil yang memiliki distribusi normal.

2. Nilai mean ɛi untuk setiap –i adalah 0E [ ɛi ] = 0 , untuk i = 1,2,…..,n
3. Nilai varians ɛi untuksetiap –i adalah konstan Var [ ɛi ] = σ2 , untuk i =
1,2,…..,n
4. Asumsi ini dikenal sebagai asumsi homokedasitas pelanggaran terhadap
asumsi ini disebut heterokedastisitas.

6
 Faktor gangguan dari setiap pengamatan yang berbeda tidak saling
mempengaruhi (bersifat independen). E [ ɛi ɛj ] = 0 , untuk i # j Asumsi ini
dikenal sebagai asumsi nir-autokorelasi . Pelanggaran terhadap asumsi ini
disebut autokorelasi
5. Faktor gangguan tidak dipengaruhi oleh variabel independen E [ ɛi Xj ] = 0
, untuk i,j = 1,2,……,n

Asumsi 1 sampai 3 diatas diketahui ɛi ῀ N (0, σ2) maka dapat diperoleh

mean dan variansi dari Y:
Mean (Y)
E (Yi) = E (α + βXi + ɛi),
= α + βXi + E [ ɛi], karena E [ ɛi]= 0
= α + βXi
Variansi (Y)
Var (Yi) = E [ (Yi – E (Yi))2]
= E [((α + βXi + ɛi) – (α + βXi))2],
= E [ɛi2] = σ2
Akibat lebih lanjut dari ɛi ˷ N (0, σ2) adalah Yi ˷ N ((α + βXi), σ2)
Dapat dibuktikan dengan menggunakan MGF (Moment Generation Function).
2.2 Estimasi Parameter Model Regresi Linier Sederhana
Koefisien regresi α dan β merupakan parameter dan nilainya tidak diketahui,
tetapi parameter tersebut dapat diestimasi dari data sampel. Ada dua metode
estimasi yang bias digunakan untuk mengestimasinya, yaitu :
1. Metode Kuadrat Terkevil (MKT)/ Ordinary Least Squares (OLS)
Jika dipunyai sampel random berukuran n, yaitu (Xi, Yi) dimana i = 1,
2,…..,n dari sebuah populasi, maka dapat ditulis :

̂ + 𝛽̂ Xi + Ui → Ui = Yi – (∝
Yi = ∝ ̂ + 𝛽̂ Xi)
Metode ini berusaha menemukan nilai-nilai estimasi (taksiran) α dan β
dengan meminimumkan jumlah kuadrat residual atau residual atau factor
gangguan.

7
 ∑𝑛𝑖=1 𝑈1 2 = ∑𝑛𝑖=1(𝑌1−∝̂ + 𝛽̂Xi )2 (2.3)

Dengan mendeferensialkan persamaan (2,3) diatas secara parsial terhadap

α dan β, kemudian menyamakannya dengan nol dan selanjutnya dengan
menggunakan metode substitusi, eliminasi, atau Cramer, diperoleh

2. Metode Maksimum Likelhood (MML)

Jika dipunyai pasangan data berukuran n. yaitu (Xi, Yi) dimana i=1,2,….,n
dari sebuah populasi, maka dapat ditulis:

tampak bahwa hasil estimasi koefisien regresi ( 𝛼 𝑑𝑎𝑛 𝛽 ) yang dihasilkan

metode kuadrat terkecil dan metode maksimum likelihood adalah sama.
2.3 Sifat-sifat Estimator
Akan diselidiki apakah estimator dari α dan β , yaitu α dan β, memiliki sifat
BLUE (Best Linier Unbiased Estimator) atau tidak ?

1. Linier.

Sifat ini dibutuhkan untuk memudahkan perhitungan. Dari persamaan (2.6)

dan (2.12) dapat ditulis:

8
 Dari persamaan (2.8) dam (2.9), tampak bahwa α dan β linier terhadap Y.

2. Tidak Bias (Unbiased)

9
3. Terbaik (Best)

Suatu penaksir dikatakan best, jika penaksir tersebut memiliki nilai variansi
terkecil dibanding dengan penaksir lain yang juga linier dan tidak bias.
̂ dan 𝛽̂ .
Pertama - tama akan cari variansi dari ∝

10
2.4 Penaksir Tidak Bias untuk σ2

2.5 Inferensi dalam Analisis Regresi Sederhana

Dasar dakam inferensi analisis regresi dalam asusmsi dari faktor gangguan
(residualnya) berdistribusi normal, yaitu:

(dibaca berdistribusi normal dengan mean 0 dan varians σ2, untuk semua –i).
Dari asumsi tersebut, dengan menggnskan MGF (moment gereration function)
dapat ditunjukan bahwa:

A. Inferensi tentang α

11
 Yang berdistribusi t dengan derajat bebas (n-2).

B. Inferensi tentang β

12
 C. Inferensi Tentang ηi

2.6 Pendekatan Analisis Variansi

13
2.7 Uji Kesesuaian Model(Uji Liniearitas)
Meskipun untuk mengestimasi α dan β tidak diperlukan observasi berulang
dengan Y untuk suatu harga X, namun ada suatu keuntungan jika terdapat
observasi berulang dengan Y, yaitu dapat melakukan uji apakah model regresi
yang dipilih cukup baik (cocok) atau tidak. Untuk itu JKS dapat dipecah
menjadi dua komponen yaitu:

JKS = JKK + JKM

Dimana

JKK : Jumlah kuadrat sesatan “kurang sesuai”

JKM : Jumlah kuadrat sesatan “murni” masing-masing dengan derajat bebas

(k-1) dan (no– k), dengan k: Banyaknya X dengan observasi berulang dan no =
n1 + n2+……… +nk

14
Ho ditolak jika F* > F tabel atau disimpilkan model yang diestimasi cenderung
tidak sesuai (tidak linier) dengan data yang ada. Dengan kata lain, ada
kemungkinan model yang sesuai adalah model kuadrat , kubik, atau model
nonlinier lainnya.

Hasil-hasil analisis biasanya diringkas dalam tabel analisis varians (ANOVA)

sebagai berikut:

TABEL 2.2. ANOVA UNTUK UJI KESESUAIAN MODEL

15
 BAB III

PENUTUP

Analisis regresi linier sederhana adalah analisis regresi linier yang hanya
melibatkan dua variabel, yaitu satu variabel independen dan satu variabel dependen.
Disebut linier sederhana karena variabel dependen diasumsikan berhubungan linier
dalam parameter dan linier dengan variabel independen.

Asumsi Regresi Linier:

1. Variabel tergantung minimal berskala interval (kenaikan Berat Badan Ibu saat
hamil)

2. Variabel bebas minimal berskala interval (Berat Badan Bayi saat sahir)

3. Linieritas pola hubungan var. tergantung dan var. bebas berbentuk linier

4. Homoscedasticity

5. Sisaan (eror) berdistribusi normal

6. Sisaan (eror) saling bebas

Kesimpulan dari simulasi analisis tentang pengaruh kenaikan berat badan ibu
terhadap berat badan bayi saat lahir di Puskesmas Kota Kab. Timor Tengah Selatan
Bulan Januari Sampai Dengan April Tahun 2017 sebanyak 97 ibu adalah Kenaikan
Berat Badan Ibu Saat Hamil berpengaruh terhadap Berat Badan (BB) Bayi saat Lahir.)
dan Model yang didapatkan adalah y = 1.906 + 0,112 (Berat Badan Ibu)

16
 DAFTAR PUSTAKA

Farhan Qudratullah Muhammad. 2012. Analisis Regresi Terapan. Penerbit Andi.

Yogyakarta.

Riadi Edi DR. 2016. Statistika Penelitian. Penerbit Andi. Yogyakarta.

Wibowo Arief, Soenartalina, Rachmah Indawati, Mahmudah, Indriani Diah. 2008.

Modul SPSS. Fakultas Kesehatan Masyarakat Universitas Airlangga.

Surabaya.

17