MAKALAH

ANALISIS REGRESI LINIER BERGANDA

PERMODELAN
Untuk Memenuhi Tugas Mata Kuliah
Statistika II yang diampu oleh:
Bapak Yogi Dwi Satrio, S.Pd., M,Pd

Disusun Oleh :
Septiani Satriani P.P 180431624571
Stevan Ditya E. 180431624633
Syafa’atin A.R 180431624617
Ubeid Fandi N. 180431624510

UNIVERSITAS NEGERI MALANG

FAKULTAS EKONOMI
S1 PENDIDIKAN EKONOMI
MARET 2020
 KATA PENGANTAR

Puji syukur kami panjatkan kehadirat Tuhan yang Maha Esa yang telah melimpahkan
rahmat, hidayah, dan inayah-Nya kepada kami. Sehingga kami dapat menyelesaikan makalah
yang berjudul " Analisis Regresi Linier Berganda Permodelan" ini dengan tepat waktu.

Makalah ini disusun agar pembaca dapat memperluas ilmu dan pengetahuan tentang
reliabilitas. Pembuatan makalah ini tidak lepas dari bantuan dan kerjasama dari berbagai
pihak, oleh karena itu kami memgucapkan terima kasih yang sebesar-besarnya kepada semua
pihak yang telah membantu dalam penyusunan makalah ini hingga selesai tepat waktu.

Terlepas dari semua itu, kami menyadari bahwa di dalam makalah ini masih tersimpan
berbagai permasalahan baik dari segi susunan kalimat maupun tata bahasanya. Maka dari itu
dengan lapang dada kami menerima segala bentuk kritik dan saran demi kesempurnaan
makalah ini.

Akhir kata kami selaku penyusun dari makalah ini berharap semoga makalah ini dapat
memberikan wawasan yang lebih luas kepada pembaca dan bermanfaat bagi semua pihak
serta menjadi inspirasi bagi kemajuan ilmu pengetahuan.

Malang, 30 Maret 2020

Penyusun

2
DAFTAR ISI

3
 BAB I

PENDAHULUAN
A. Latar Belakang
Sebagian besar nalisis statistika bertujuan untuk mengetahui apakah ada
hubungan antara dua atau lebih variabel. Bila hubungan tersebut dapat dinyatakan
dalam bentuk rumus matematika, maka kita dapat menggunakan untuk
kepentingan peramalan. Sebagai misal kita memberikan test kepada mahasiswa
baru untuk melihat keberhasilan mereka pada akhir perkuliahan.
Seberapa jauh peramalan itu dapat dipercaya, bergantuk pada keeratan
hubungan antara variabel-variabel tersebut. Untuk lebih cepat memahami topik
regresi ini, maka penguasaan materi pada pertemuan-pertemuan sebelumnya
sangatlah diperlukan dan menjadi syarat mutlak.

B. Rumusan Masalah
1. Bagaimana
2. Bagaimana
3. Bagaimana

C. Tujuan
1. Untuk
2. Untuk
3. Untuk

4
 BAB II

PEMBAHASAN
1. Analisis Varians Dalam Regresi Linier Berganda Dan Peramalan Dengan
Menggunakan Regresi Linier Berganda

Didalam uraian tentang regresi linier sederhana pada Bab 4, dikemukakan bahwa
apabila variabel X dan Y yang diukur menurut rata-ratanya, dinyatakan dalam bentuk
simpangan ( x i=X I − X́ , y i =Y I −Ý ), maka
Ʃ xi yi
y i= ў i +e i → ei = y i− ў i , ў i =bx i → b=
Ʃ x i2

Ʃ y i2= Ʃ ў i2 + Ʃ e i2 → Ʃ ў i2=b2 Ʃ xi2=bƩ xi y i=b T xT y

¿)

Ʃ ei2=(1−r 2 ) Ʃ yi2 =(1−r 2) y T y

Ʃ xi yi Ʃ y i2
bƩ x i y i = . Ʃ xi y i .
Ʃ x i2 Ʃ y i2

Ʃ xi yi Ʃ xi y i
¿ 2 2
. 2 2
. Ʃ y i2
√Ʃ x √Ʃ y √Ʃ x √Ʃ y
i i i i

¿ r 2 Ʃ y i2=r 2 y T y

Jadi, Ʃ y i2= Ʃ ў i2 + Ʃ e i2=r 2 Ʃ y i2+ ( 1−r 2 ) Ʃ y i2

¿ r 2 y T y+ ( 1−r 2 ) y T y
Pada umumnya, kalau hubungan antara k variabel bebas dengan 1 variabel tak bebas (
yaitu antara Y dengan X 1 , X 2 ,… … . , X k ) untuk suatu sampel dengan n observasi,
Y i=B0 + B1 X 1 i+ …+ B j X ji +…+ B k X ki +ε p i=1,2 , … . ,n

j=1,2 ,… . , k
Karena koefesien B dan kesalahan penggangu ε tak diketahui, maka nilainya harus
diestimasi dari data hasil observasi. B dan ε diestimasi dengan b dan ε, sehingga
Y i=B0 + B1 X 1 i+ …+ B j X ji +…+ B k X ki +ε p i=1,2 , … . ,n

5
Dinyatakan dalam bentuk matriks:
Y = XB+ε

X 11 X j1 X k1

[] [ ] [][]
Y1 1 B1 ε1
⋮ ⋮ ⋮
Y2 1 ⋯ ⋯ B2 ε2
X 12 X j2 X k2
⋮ ⋯ ⋯
Y= ⋮ , X= B= ⋮ ε = ⋮
¿ Yi ¿1 ⋮ ¿¿⋯ ⋮ ¿¿⋯ ⋮ ¿ Bi ¿ εi
X X X
⋮ ⋮ 1 i ¿ ⋯ ji ¿ ⋯ ki ⋮ ⋮
Yn 1 ⋮ ⋮ ⋮
Bk εn
X1n X jn X kn

Apabila X dan Y diukur dari titk asal, maka dapat diringkaskan hal-hal sebagai berikut
:
Y = XB+ε, diestimasi dengan Xb+ e
−1
b=( X T X T ) X T Y
E ( b ) =B
−1
Var ( b )=σ 2 ( X T X T )
1
bX T Y − ( Ʃ y i )2
n
E ( e T e )=( n−k ) σ 2 ; dan R21.23 … .k =R 2=
1
Y T Y − ( Ʃ y i )2
n
Apabila X dan Y masing-masing diukur dari rata-rata, kemudian dinyatakan dengan
huruf latin x j= X j −¿ j , dan y i =Y i−Y ¿, maka hubungan tersebut akan menjadi
y i=b 0 +b1 x1 i +…+ b j x ji + …+b k x ki +e p i=1,2 , … . ,n

j=1,2 ,… . , k
Dinyatakan dalam bentuk matriks, akan diperoleh hubungan berikut.
Y = XB+ε, yang dapat diestimasi dengan Xb+ e (dapat dibuktikan bahwa e = 0)

x 11 x j1 x k1

[] [ ][]
y1 1 B1
⋮ ⋮ ⋮
y2 1 ⋯ ⋯ B2
x 12 x j2 x k2
⋮ ⋯ ⋯
y= ⋮ , X= B= ⋮
¿ yi ¿1 ⋮ ¿¿⋯ ⋮ ¿¿ ⋯ ⋮ ¿ Bi
x x x
⋮ ⋮ 1 i ¿ ⋯ ji ¿ ⋯ ki ⋮
yn 1 ⋮ ⋮ ⋮
Bk
x1 n x jn x kn

6
 b1 ε1 e1

[] [] []
b2
b= ⋮ , ε =
¿ bi
⋮
bk
ε2
⋮
¿ εi
⋮
εn
, e=
e2
⋮
¿ ei
⋮
en

Perhatikan bahwa kita sukar sekali (tidak bisa) membedakan antara matriks/vektor
dengan elemen-elemen berupa variabel yang diukur dari titik nol (dinyatakan dengan
huruf latin besar) dan yang diukur dari rata-ratanya (dinyatakan dengan huruf latin
kecil), sebab matriks/vektor harus dinyatakan dalam huruf latin besar.
Apabila variabel diukur dari rata-ratanya, atau dinyatakan dalam bentuk
simpangan dengan huruf latin kecil, maka matrik X akan menjadi n baris dan k kolom;
sedangkan vektor B akan terdiri dari k komponen/elemen.
Semua rummus yang berhubungan dengan variabel yang dinyatakan dalam
bentuk simpangan (huruf kecil), mempunyai bentuk yang sama apabila dinyatakan
dalam bentuk persamaan matriks, kecuali R21.23 … .k =r 2, yang bentuknyaa kan berubah
dari
1
bT X T Y − ( Ʃ y i )2
2 n
R= (variabel X danY dinyatakan dalam huruf besar)
T 1 2
Y Y − ( Ʃ yi )
n
menjadi

2 bT X T Y (
R= variabel X dan Y dinyatakan dalam huruf kecil ) di mana
YTY

Ʃ x1 i yi

b T X T Y =( b1 ,b 2 , … … , b j , … … ,b k )

[ ]Ʃ x 2i y i
⋮
¿ Ʃ x ji y i
⋮
Ʃ x ki y i
b1 Ʃ x 1 i y i +b2 Ʃ x 2 i y i
¿ + …+b j Ʃ x ji y i

Sesuai denganuraian mengenai regresi linier sederhana untuk hubungan antara dua
+…+b k Ʃ x ki y i

variabel dari Bab 5 yang kemudian diuraikan lagi pada permulaan bab ini, maka:

b T X T Y =Y T Y ( R2)

e T e=Y T Y (1−R2)

Y T Y =bT X T Y + eT e=Y T Y ( R 2 ) +Y T Y ( 1−R2 ) →Y T Y =Ʃ y i2

e T e=Ʃ ei2

7
 Y T Y =Ʃ y i2 → untuk mengukur variasi Y

b T X T Y =Y T Y ( R 2) → variasi Y yang berasal dariregresi

e T e=Y T Y ( 1−R 2) → variasi Y yang berasal dari kesalahan pengganggu ,

disebut residu .
Jadi, variasi Y berasal dari dua sumber yaitu dari regresi linier berganda (tergantung
pada variabel bebas X I , X 2 ,… , X k ¿ dan dari residu.
Pemecahan variabel Y menjadi dua sumber merupakan dasar Analisis Varians
dan dapat disajikan dalam bentuk tabel Analisis Varians (ANOVA) sebagai berikut :
Tabel 6-1 Tabel ANOVA untuk Sumber Varians Y
Suber Variasi Jumlah Kuadrat Derajat Rata-rata
Kebebasan Kuadrat
X1 X2 b T X T Y =Y T Y ( R 2) k Y Y ( R2 ) /k
T

(Regresi)
Residu/Error e T e=Y T Y ( 1−R 2) n–k–1 Y T Y ( 1−R 2) /¿ n – k – 1)
Total Y T Y =Ʃ y i2 n–1

k =banyaknya variabel X .

b T X T Y /k Y T Y ( R2 ) /k R2 /k
F 0= = =
eT e/(n – k – 1) Y T Y ( 1−R2 ) /(n – k – 1) ( 1−R2 ) /( n – k – 1)

Jadi, untuk menguji keberartian model digunakan rumus:

R2 /k
F 0=
( 1−R2 ) /(n – k – 1)
F 0 mengikuti fung F dengan derajat kebebasan k dan ¿ n – k – 1). Statistik uji F yang
dihitung berdasarkan sampel ini, dipergunakan sebagai dasar pengujian hipotesis
dengan menggunakan Analisis Varians. Hipotesis yang akan diuji adalah:
H 0 :B1 =B 2=… B j=… B k =0

( tak ada pengaruh dari X I , X 2 ,… , X j , … , X k terhadap Y)

H a :B j ≠0

( paling sedikit ada satu variabel X yang mempengaruhi Y)

F 0 kemudian dibandingkan dengan F α k(n−k−1) dari Tabel F, apabila F 0 ≥ F tabel, maka
H 0 ditolak, sebaliknya F 0 ≤ F maka H 0 diterima.

Tujuan pengujian hipotesis ini ialah sebagai dasar pembuatan keputusan,

apakah persamaan garis regresi linier dapat digunakan untuk
memperkirakan/meramalkan nilai Y jika nilai X I , X 2 ,… , X k sudah diketahui
semuanya.
8
Nilai variabel X diketahui berdasarkan hal-hal berikut:
a) Ditentukan berdasarkan kebijakan
b) Kejadian yang sudah terjadi (sudah lama timbul atau baru saja terjadi).
c) Hasil ramalan

Apabila hasil pengjian hipotesis menunjukkan bahwa H 0 diterima, berarti

persamaan garis linier berganda yang bersangkutan tak dapat dipergunakan untuk
membuat ramlan nilai Y, karena tak satupun variabel beas X yang mempengaruhi Y.
Contoh 6.7
Berdasarkan data dari contoh 6.6, ujilah pendapat dengan menggunakan Analisis
Varians, Bahwa X 1 dan X 2 masing-masing tidak mempengaruhi Y , dengan alternatif,
paling tidak ada satu yang mempengaruhi Y . Gunakan α =0,05(5 %) dan
α =0,01(1 %).
Penyelesaian:
H 0 :B1 =B 2=0

H a :B j ≠0 , j=2,3

Dari contoh 6.6, sudah dihitung perkiraan

b 1=1,3642, b 2=0,1139

b T X T Y =b1 Ʃ x 1 y i +b 2 Ʃ x 2 y i
i i

¿ 1,3642 ( 879 )+ 0,1139 (−79 )

¿ 1192,3108−8,9981
¿ 1183,3127

Y T Y =Ʃ y i2=1260,89

e T e=Ʃ ei2=Y T Y −T X T Y
¿ 1260,89−1183,3127
¿ 77,5773
Hasil perhitungan ini dapat disajikan pada Tabel ANOVA sebagai berikut:
Tabel 6-3 Tabel ANOVA untuk Pengujian Keberartian
Suber Variasi Jumlah Kuadrat Derajat Kebebasan Rata-rata Kuadrat
X1 X2 b X T Y =1183,3127
T
k=2 591,6564
(Regresi)
Residu/Error e T e=77,5773 n–k–1=9–2–1=6 12,9296
Total Y T Y =1260,89 n–1=9–1=8

9
 591,6564
F 0= =45,7598
12,9296
F 0 juga dapat diperoleh dari rumus:

0,9384
R2 /k 2 0,4692
F 0= = = =45,5534
( 1−R ) / (n – k – 1) 1−0,9384 0,0103
2

6
(perbedaan merupakan kesalahan pembulatan)
F α k(n−k−1)=F 0,05(2)(6 )=5,14

¿ F 0,01(2)(6) =10,92

Karena F 0=45,5534 > F 0,05(2)(6) =5,14, maka H 0 ditolak. Berarti ada pengaruh
X 1 dan X 2 terhadap Y . Ternyata, F 0=45,5534 > F 0,01(2)(6) =10,92, maka H 0 ditolak.

Hipotesis yang ditolak pada nilai α =0,05( 5 %)dinyatakan nyata biasa

(significant); sedangkan kalau ditolak pada nilai α =0,01(1 %) dikatakan sangat
nyata (highly significant)hasil penolakan H 0 pada α =0,01(1 %) ini lebih meyakinkan,
yang berarti nyata-nayata ada pengaruh X 1 dan X 2terhadap Y . Perlu disebutkan disini
bahwa ada kemungkinan suatu hipotesis ditolak pada tigkat nyata 5% akan tetapi
tidak ditolak pada tingkat nyata 1%. Dalam hal ini , penolakan dianggap biasa saja.
Analisis varians yang baru saja diuraikan diatas, digunakan untuk menguji
hipotesis bahwa seluruh variabel X 1 , X 2 , … , X j , … , X k tidak mempengaruhi Y.
Apabila hipotesis tersebut benar, maka garis regresi linier berganda yang
bersangkutan tidak dapat digunakan untuk memperkirakan/meramalkan Y; sebaliknya
jika hipotesis tersebut ditolak, persamaan garis agresinya adalah
Y =b1 x 1 +b2 x 2+ …+b j x j+ …+bk x k

atau
Y =b0 +b1 x 1+ b2 x 2 +…+b j x j +…+b k x k

Diman b 0=Y −b1 X 1−b2 X 2−…−b k x k dapat digunakan untuk meramalkan nilai Y,
jika nilai X 1 , X 2 , … , X k suadah diketahui.
Di dalam praktik, sering kali ingin menguji pendapat bahwa satu variabel
(katakanlah X k) atau suatu kelompok variabel (katakanlah X I , X 2 ,… , X j , … , X k) tidak
mempengaruhi Y. Kita dapat melakukan pengujian ini, dengan langkah-langkah
sebagai berikut:
a) Untuk satu variabel saja, katakanlah X k tak mempengaruhi Y, berarti,
H 0 :B k =0
H a :B k ≠ 0

10
 Hipotesis ini dapat diuji dengan menggunakan statistik uji t sebagai berikut
(lihat Subbab sebelumnya).
bk bk
t 0= =
s b s e √ d jj
k

Dimana d jj =elemen ke− jdari diagonal utama matriks

−1
D=( X T X )

1
S=
√ (n−k −1)
Ʃ e i2

2
Atau, dapat juga menggunakan statistik uji F, karena t (n−k−1)=F 1(n−k−1),
sebagai berikut.

b2k b2k
F 0= =
s 2d kk
( (n−k1−1) Ʃ e )( d )
i
2
kk

b 2k 2
Apabila, =b ¿2 ¿2
k → bk =d kk . bk maka
F 0 menjadi
d kk

b¿k 2
F 0=
Ʃ e i2 /(n−k−1)

Pengujian hipotesis mengenai H 0 :B k =0, H a :B k ≠ 0 dapat menggunakan

Analisis Varian dengan Tabel ANOVA sebagai berikut:

heteroskedastis
apabila matriks VC (variance – convariance) kesalahan pengganggu adalah sebagai berikut :
Vn 0 0
T 2 2
E ( ε )=σ V =σ 0 V 22 0
0 0 V nn

dan beberapa elemen pada diagonal utama tidak sama dengan satu (V II ≠1), maka

kesalahan pengganggu disebut heteroskedastis. Dengan perkataan lain, kesalahan

pengganggu merupakan variabel bebas, akan tetapi dengan varians dan untuk setiap
nilai X (nilai konstan) yang berbeda, di mana X merupakan variabel bebas.
Kalau X = pendapatan rumah tangga, Y = pengeluaran rumah tangga, maka biasanya varians Y akan
naik apabila X naik. Artinya bagi rumah tangga dengan tingkat pendapatan yang tinggi akan terdapat
variasi yang tinggi pada pola pengeluaran nya. Kenyataan ini sering dijumpai dalam study anggaran
rumah tangga (family budget studies).

11
E ( ε T )=σ 2 X 2i ,i=1,2,3
Atau bia model regresi tersebut dinyatkan dalam bentuk matriks :

Y = XB+ε
Dimana seperti biasanya E

( 1 ) E ( ε )=0

X 2i 0 0
( 2 ) E ( ε T )=σ 2
{ 0
0
2
Xi 0
0 X 2n }
( 3 ) X suatu matriks konstan, artinya tak berubah dari sampel ke sampel.
Untuk memperoleh penduga parameter B dengan metode kuadrat terkecil, mula mula kita cari matriks
T sedemikian rupa sehingga.
2
E(T ε T T T ) ¿ σ Ln
Dalam hal ini matriks T adalah sebagai berikut

X 2i 0 0
T= 0
0{ 2
Xi 0
0 X 2n }
Kalau Y = XB + ε kita kalikan dengan T kita peroleh TY = TXB + T ε kemudian kalau b¿ sebagai
penduga B diperoleh dengan kuadrat terkecil maka kita peroleh rumus sebagai berikut

b∗¿ ¿
apabila kita hanya mempunyai hubungan antar dua vatiabel X dan Y dalam bentuk regresi linear
sederhana Y= B1+ B 2 X + ε , maka metode kuadrat terkecil akan mendapatkan rumus untuk b∗¿
sebagai berikut :

b¿0
b∗¿
{}
b¿1

b¿0
{}
Dimana ¿ =¿
b1

cara alternative untuk memperoleh angka penduga b∗¿ di atas dapat langsung terhadap data hasil
tranformasi sebagai berikut :
1
Y 1=B0 + B1 X i+ ε , kalikan dengan ¿ tranformasikan), akan diperoleh
Xi
Y 1 B0
= + B1+ v 1 , dimanaV i =ε / X i
X0 Xi

Kemudian tentukan b∗¿ sebagai titik potong / kostanta Y i / X i terhadap 1/ X i .

12
Cara mendapatkanya :
Yi
Y 0=a0 +¿ B0 X 0 ,dimana a 0=¿ B0 Y 0=
Xi

1
b 0=¿ b 0 dan X 0=
Xi

a 0=Ý 0−b0 X́ 0

n ∑ X 0 Y 0−∑ X 0 ∑Y 0
b 0=
n ∑ X 20 −¿ ¿

1 Yi
n ∑( )( )−∑ 1¿ X i ∑ Y 1 / X i
Xi Xi
b 0=
n ∑¿ ¿
Yi
n∑ 2
−∑1 ¿ X i ∑ Y 1 / X i
= X1
n∑¿¿
∑Y 0 ∑Y0
a 0=¿ Ý 0−b0 X́ 0 → Ý 0 = , X́ 0=
n n
∑Y 0 ∑ X0
= − ¿
n n

=n ∑ Y 0 ¿ ¿

= n ( ∑ Y ) ( ∑ X )−(∑ X )¿ ¿
0
2
0 0

( ∑ X 20 ) ( ∑Y 0 )−( ∑Y 0 )( ∑ X 0 Y 0 )
¿
n ∑ X 20−¿ ¿

∑ 1/ X 2i ∑ Y i / X i−∑ 1/ X i ∑ Y 2i / X 2i
¿ 2 di mana dalam hal ini, b 2=b∗¿
n ∑ 1/ X i −¿¿

Sebagai ilustrasi, perhatikan table beriukut.

1 Xi 1/ X i 1/ X 2i Yi Y i/ Xi Y i / X 2i
1 1 1,0 1,00 12 12,0 12,00
2 2 0,5 0,25 15 7,5 3,75
3 10 0,1 0.01 27 2,7 0,27
4 5 0,2 0,04 22 4,4 0,88
5 1 1,0 1,00 12 12,0 12,00
6 2 0,5 0,25 13 6,544 3,25

13
jumlah ∑ X i =21 ∑ 1/ X i =3,3 ∑ Y i=101
∑ 1/ X 2i =2,55 ∑ Y i / X i =45,1 ∑ Y i / X 2i =32,15

¿n∑Y i / X 2i −∑ 1/ X i ∑Y i / X i
b =¿0
n ∑ 1 /X 2i −¿ ¿

6 ( 32,15 )−(3,3)( 45,1)

¿
6 ( 2,55 )−¿ ¿
44,07
¿ =9,99
4,4

¿ n ∑ 1/ X i2 ∑Y i /−∑1/ X i ∑ Y i / X i
b 1=¿
n ∑ 1/ X 2i −¿ ¿

( 2,55 )( 45,1 )−( 3,3 ) ( 32,15 )

¿
6 ( 2,55 ) −¿ ¿
¿ 2,02
Y^ =b¿0 +b¿1 X =9,99+2,02 X

Matriks VC dari b ¿ adalah sebagai berikut.

var (b¿¿ ¿)=σ 2 ¿ ¿

σ2
¿
n ∑ 1/ X i−¿ ¿
Berdasarkan perhitungan di atas.

¿ σ 2 ( 2,55 )
var ( b )=
1
6 ( 2,55 ) −¿ ¿

2 eT TT T e
Se = =¿ ¿
n−k

Untuk k=1

( n−2 ) S 2e =∑ 1/ X 2i ¿

Atau
( n−2 ) S 2e=∑ 1 / X 2i (ei2)

Berdasarkan hasil perhitungan sebelumnya, ternyata S2e =0,1871.

14
Jadi,

var ( b¿1 )= ( 0,58 )( 0,1871 ) =S b ¿

1

Untuk menguji hipotesis bahwa B1=0 ,dengan alternative bahwa B1 ≠ 0 ,di mana α =0,05 , caranya
adalah sebagai berikut.

b¿1 2,02 2,02

t 0= = = =6,1324=6,1
S b √ 0,1085 0,3294
¿
1

t α ( n−1)=t 0,05 (4 )=2,7764

Karena t 0=6,1>t 0,05 (4 )=2,7764 , maka H 0 ditolak berati , B2 ≠ 0

15