REGRESI

Dinda Anindita Salsabilla

S021902013
 PENDAHULUAN
• Tujuan : mempelajari bentuk hubungan dan untuk menemukan persamaan
matematika yang berhubungan dengan variabel dependen/variabel hasil/atau
variabel respons (Y) , dengan variabel penjelasIndependen/prediktor/(X).
• Simple Linear Regression Model : memperkirakan model/bentuk hubungan
yang menghubungkan variabel respons (Y) dengan prediktor atau variabel
penjelas (X).
Jika hubungan antara Y dan X adalah linier,
maka dapat diwakili oleh garis yang disebut
garis regresi

• Jika Y diberikan X, E(Y|X) , adalah model regresi linier atau fungsi regresi Y
atas X jika dapat dinyatakan sebagai Model ini disebut
model regresi sederhana karena memperhitungkan satu variabel independen
X untuk menjelaskan variabel dependen, Y.
• Ada dua parameter regresi = intersep, = slope (turunan) /sebagai koefisien
regresi variabel X .
• Pada sampel acak Model regresi liniernya untuk subjek ke-i :
nilai variabel hasil untuk nilai Xi
• adalah kesalahan eksperimental
• Asumsi untuk memperkirakan model regresi
i. Nilai yang diharapkan dari variabel kesalahan adalah nol, untuk
semua i
ii. Varians dari variabel kesalahan adalah untuk semua i
iii. Variabel kesalahan independen dan bersifat independen untuk dan i
dan j
iv. Variabel independen dan variabel kesalahan independen dan , independen
untuk semua i dan j
v. Berdasarkan asumsi-asumsi ini, dapat ditunjukkan bahwa estimator kuadrat
terkecil dari dan adalah estimator tidak bias varians minimum
(Best Linear Unbiased Estimators) Prosedur estimasi kuadrat terkecil akan
diperkenalkan di bagian selanjutnya.
vi. Asumsi kelima, asumsi bahwa residu terdistribusi normal, meskipun tidak
diperlukan untuk estimasi kuadrat terkecil tetapi diperlukan untuk membuat
pernyataan interval kepercayaan dan untuk menerapkan tes signifikansi:
vii. Normalitas: Sehubungan dengan asumsi (i) - (iv), asumsi ini berarti bahwa
 Estimasi β0 dan β1
• Parameter β0 dan β1 adalah adalah nilai populasi yang tidak diketahui dan
diperkirakannya menggunakan data sampel.
• Istilah error/kesalahan dalam model regresi adalah penyimpangan antara
nilai yang diamati dan nilai yang diharapkan dari var. dependen untuk
nilai yang diberikan variabel independen
• ε adalah jarak antara nilai yang diamati dari Y ke
garis yang diwakili oleh E (Y| X ) = β0 + β1X yang menunjukkan
kesalahan dalam mewakili nilai-nilai Y yang diamati oleh garis regresi.
• Untuk meminimalkan untuk mengkonfirmasi kesalahan
minimum
• Definisinya n menunjukkan jumlah
sampel.

• Residual Sum of Squares

• Dan jumlah regresi kuadrat (Reg SS) adalah
• Ukuran koefisien korelasi Pearson dari data sampel yang menunjukkan
kekuatan hubungan linier antara variabel X dan Y :
• Total SS = Residual SS+ Regresi SS
 Interpretasi Parameter dari Garis Regresi

• Parameter regresi di populasi adalah β0 dan β1

• Β0 adalah intercept, nilai Y saat

X=0
• β1 adalah kemiringan garis
regresi, perubahan Y saat X
meningkat 1 unit

secara khusus, nilai β1 menentukan sifat hubungan linear antara X

dan Y. Jika tidak ada hubungan linear antara X dan Y, maka β1 =0;
jika ada hubungan linier positif, maka β1 >1 ; jika ada hubungan
linier negatif maka β1 <1
 Properties of the Least Squares Estimators
and the Fitted Regression Model
• Parameter model regresi
• Estimator Least Squares
β0 dan β1

• Fitted Model

• Nilai yang diharapkan dari kuadrat kesalahan rata-rata adalah variansyang

menyiratkan bahwa kuadrat galat adalah penduga yang tidak bias dari
varians.
 Least Squares Estimators

•  
4) Varian dari β0 adalah

5) Kovarians antara β1 dan β0 adalah

6) Residu kuadrat rata-rata adalah estimasi yang tidak bias dari σ² . Dapat
menunjukkan bahwa:

yang menyiratkan
Dari persamaan di atas, dapat ditunjukkan bahwa
nilai error yangkuadrat galat
diharapkan
kuadrat mean adalah variansnya:adalah penduga yang tidak bias dari
varians.
Contoh

• Estimator Least Squares

β0 dan β1
• Perkiraan modelnya

• dan model untuk Y yang diamati

• Kita membutuhkan perkiraan rata-rata, sum of products, dan sum of
squares seperti yang ditunjukkan di bawah :

Dan

• Perkiraan parameter regresinya • Model untuk Y yang

diamati

• Estimasi error

• Fitted • Mean Squares Error

model