disusun oleh
Khreshna I.A. Syuhada, MSc. PhD.
2 Distribusi Sampel 1
2.1 Pengantar . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
2.2 Sampel Acak . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
2.3 Likelihood . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2
2.4 Distribusi Sampel . . . . . . . . . . . . . . . . . . . . . . . . . . 3
2.5 Statistik Terurut . . . . . . . . . . . . . . . . . . . . . . . . . . 6
2.6 Statistic Cukup . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
2.7 Teorema Limit Pusat . . . . . . . . . . . . . . . . . . . . . . . . 8
i
BAB 1
Definisi:
Misalkan X peubah acak. Fungsi distribusi (kumulatif) dari X adalah
FX (x) = P (X ≤ x)
Contoh:
1. Misalkan X ∼ Bin(3, 0.5), maka fungsi distribusi F (x) adalah...
2. Misalkan X peubah acak dengan ‘support’ S = [a, b], b > 0. Misalkan
peluang X akan berada di selang S proporsional terhadap panjang se-
lang. Dengan kata lain,
P (x1 ≤ X ≤ x2 ) = λ (x2 − x1 ),
P (a ≤ X ≤ b) = 1 = λ (b − a) ⇒ λ = 1/(b − a)
1
• F merupakan fungsi tidak turun; F (a) ≤ F (b) untuk a ≤ b
Definisi:
Distribusi dari peubah acak X dikatakan KONTINU jika fungsi distribusi dis-
etiap x kontinu dan fungsi distribusi tersebut dapat diturunkan.
X = g −1 (Y ) = · · ·
FX (x) = · · ·
FY (y) = · · ·
Y ∼ ···
Latihan:
1. Misalkan X peubah acak kontinu yang memiliki fungsi distribusi FX (x)
yang naik murni. Misalkan Y = FX (X). Tentukan distribusi dari Y .
FY (y) = P (Y ≤ y) = P (g(X) ≤ y)
dimana dalam hal ini setiap solusi inverse x = g −1 (y) digunakan untuk menen-
tukan FY (y) dengan menggunakan FX (g −1 (y)). Untuk X ∼ U (−1, 2) dan
g(X) = Y = X 2 , kita dapatkan fungsi distribusi dari Y :
FY (y) = · · ·
dimana
o(△x)
lim =0
△x→0 △x
Fungsi
[ ]
d
dF (x) = F (x) △x
dx
P (x ≤ X ≤ x + △x)
Density rata-rata =def
△x
Sedangkan fungsi densitas peluang atau fungsi peluang (f.p) di x adalah limit
densitas rata-rata saat △x → 0:
P (x ≤ X ≤ x + △x)
f.p = f (x) =def lim
△x→0 △x
=
=
d
= F (x)
dx
Catatan: Unsur peluang dituliskan sebagai dF (x) = f (x)△x.
Latihan:
1. Misalkan λ bilangan riil positif. Jika F (x) = 1 − e−λx , maka f (x) = · · ·
2. Jika X ∼ U (a, b) maka F (x) = · · · dan f (x) = · · ·
3. *Misalkan f (x) = c/(1 + x2∫) untuk −∞ < x < ∞ dan c konstanta.
∞
Fungsi f (x) tak negatif dan −∞ (1 + x2 )−1 dx = π. Berapa nilai c agar
f (x) menjadi fungsi peluang? Tentukan fungsi distribusinya.
d −1
J(y) = g (y)
dy
adalah transformasi Jacobian.
Misalkan g(x) memiliki lebih dari satu fungsi invers maka unsur peluang yang
terpisah harus dihitung untuk setiap fungsi invers. Contoh, misalkan X ∼
U (−1, 2) dan Y = g(X) = X 2 . Maka untuk y ∈ [0, 1], terdapat 2 fungsi invers
yaitu · · · , dan satu fungsi invers untuk y ∈ (1, 4] yaitu · · · . Fungsi peluang
dari Y adalah
f (y) = · · ·
1.3 Ekspektasi
Misalkan X peubah acak dengan fungsi peluang f (x). Nilai harapan atau
ekspektasi dari X, jika ada, adalah
∫ ∞
E(X) = µX = f (x)dx
−∞
Catatan: nilai ekspektasi dikatakan ada jika nilai integral adalah hingga.
Misalkan X p.a. dengan f.p. f (x). Maka nilai harapan/ekspektasi dari g(X),
jika ada, adalah
∫ ∞
E[g(X)] = g(x)f (x)dx
−∞
.
Operator integral bersifat linier. Jika g1 (X) dan g2 (X) fungsi-fungsi yang
memiliki ekspektasi dan a, b, c konstanta, maka
dengan µ, σ konstanta yang memenuhi |µ| < ∞ dan σ ∈ (0, σ). Tun-
jukkan bahwa fungsi peluang simetrik di sekitar µ namun ekspektasinya
bukanlah µ.
3. FX,Y (∞, ∞) = 1
Contoh/Latihan:
P (2.5 ≤ X ≤ 3.5, 1 ≤ Y ≤ 4) = · · ·
P (X 2 + Y 2 > 16) = · · ·
3. Jika fX,Y (x, y) = 6/5(x + y 2 ) untuk x ∈ (0, 1) dan y ∈ (0, 1). Tentukan
P (X + Y < 1).
fX (x) = · · ·
fY (y) = · · ·
dan ekspektasi
∫ ∞ ∫ ∞
E(g(X, Y )) = E(X) = g(x, y) fX,Y (x, y) dx dy = · · ·
−∞ −∞
Misalkan fX,Y (x, y) adalah fungsi peluang bersama, maka fungsi peluang Y ,
diberikan X = x, adalah
fX,Y (x, y)
fY |X (y|x) =def ,
fX (x)
maka
fX (x) = · · ·
E(X r ) = · · ·
fY (y) = · · ·
E(Y r ) = · · ·
fX|Y (x|y) = · · ·
fY |X (y|x) = · · ·
E(X r |Y = y) = · · ·
E(Y r |X = x) = · · ·
Misalkan (X, Y ) adalah peubah acak berpasangan dengan fungsi peluang bersama
fX,Y (x, y). Pandang persoalan memprediksi Y setelah X = x terobservasi.
Prediktor dinotasikan sebagai ŷ(x). Prediktor terbaik didefinisikan sebagai
fungsi Ŷ (X) yang meminimumkan
[ ]2 ∫ ∞ ∫ ∞
E Y − Ŷ (X) = (y − ŷ(x))2 fX,Y (x, y) dydx
−∞ −∞
Contoh/Latihan:
fY |X (y|x) = · · ·
ŷ(x) = · · ·
(Y |X = x) ∼ · · ·
3. Tunjukkan bahwa
[ ]
EX fY |X (y|X) = fY (y)
4. Buktikan
{ [ ]} [ ]
EX E h(Y )|X = E h(Y )
5. Buktikan
[ ] [ ]
V ar(Y ) = EX V ar(Y |X) + V ar E(Y |X)
fY (y) = · · ·
asalkan ekspektasi ada untuk t disekitar 0. Jika semua momen dari X tidak
ada, maka fungsi pembangkit momen juga tidak ada. Fungsi pembangkit
momen berkaitan dengan fungsi pembangkit peluang
MX (t) = GX (et )
asalkan GX (t) ada untuk t disekitar 1. Jika MX (t) adalah fungsi pembangkit
peluang maka MX (0) = 1.
Contoh/Latihan:
MX (t) = · · ·
Ma+bX (t) = · · ·
3. Jika
∑ Xi , i = 1, . . . , n saling bebas, MXi (t) ada untuk setiap i, dan S =
Xi , maka
MS (t) = · · ·
Distribusi Sampel
2.1 Pengantar
• Parameter adalah suatu karakteristik dari populasi
• Statistik adalah suatu karakteristik dari sampel
• Statistik adalah fungsi dari sampel;
T = g(X1 , X2 , . . . , Xn ).
2
Fungsi T adalah peubah acak; contoh T = X̄ atau T = SX .
• Distribusi sampel adalah distribusi dari statistik; distribusi sampel dari
X̄ adalah distribusi dari X̄.
Contoh/Latihan:
1. Misalkan X1 , X2 , . . . , Xn sampel acak dari distribusi Eksponensial den-
gan parameter θ. Fungsi peluang n-variatnya adalah...
2. Misalkan X1 , X2 , . . . , Xn sampel acak dari distribusi Uniform pada selang
(a, b). Fungsi peluang n-variatnya adalah...
1
2.3 Likelihood
Misalkan fungsi peluang n-variat bergantung pada parameter yang tidak dike-
tahui θ. Fungsi peluang tersebut ditulis sebagai
atau
fX (x|θ)
Contoh/Latihan:
Definisi
Fungsi likelihood adalah ukuran yang menyatakan sebarapa sering nilai θ,
diberikan bahwa x telah terobservasi. Fungsi likelihood BUKAN suatu pelu-
ang. Fungsi likelihood diperoleh dengan (i) menukar peran θ dan x dalam
fungsi peluang n-variat, dan (ii) membuang suku yang tidak bergantung pada
θ. Notasi:
Contoh/Latihan:
function likefunction;
clear
clc
for i = 1:length(lambda)
L(i) = (lambda(i)^n)*exp(-lambda(i)*sumx);
end
plot(lambda,L)
Prinsip Likelihood
Jika dua percobaan, yang melibatkan model dengan parameter θ, memberikan
likelihood yang sama, maka inferensi terhadap θ haruslah sama.
Ilustrasi
Pandang percobaan 1 dimana sebuah koin dilantunkan sebanyak n kali secara
bebas. Misalkan p adalah peluang muncul MUKA dan X peubah acak yang
menyatakan banyaknya MUKA yang muncul. Fungsi peluang dari X adalah...
Untuk n = 20, X = 6, fungsi likelihoodnya adalah...
P (Y = y) = P (X1 + X2 = y)
∑y
= P (X1 + X2 = y|X2 = y − x1 )P (X2 = y − x1 )
x1 =0
∑ y
= P (X1 = x1 |X2 = y − x1 )P (X2 = y − x1 )
x1 =0
∑ y
= P (X1 = x1 )P (X2 = y − x1 )
x1 =0
∑ y
= px1 (1 − p)1−x1 py−x1 (1 − p)1−(y−x1 ) , y = 0, 1, 2,
x1 =0
P (Y = y) = Cy2 py (1 − p)2−y , y = 0, 1, 2
yang merupakan f.p.m untuk distribusi Binomial dengan parameter (2, p).
Diskusi:
Selidiki sifat distribusi jumlah n peubah acak saling bebas dan berdistribusi
Poisson dengan parameter λ.
e−nλ (nλ)y
fY (y|θ) = .
y!
Diskusi:
Bagaimana distribusi peluang untuk Y = X1 + X2 jika Xi saling bebas dan
berdistribusi (identik) kontinu?
FY (y) = P (Y ≤ y) = P (X1 + X2 ≤ y)
= P (X1 ≤ y − X2 )
∫ ∞ ∫ y−x2
= fX1 ,X2 (x1 , x2 ) dx1 dx2
−∞ −∞
∫ ∞ ∫ y−x2
= fX1 (x1 ) dx1 fX2 (x2 ) dx2
−∞ −∞
∫ ∞
= FX1 (y − x2 ) fX2 (x2 ) dx2
−∞
fX (x|θ) =
P (X(n) ≤ x) =
f(x) =
Contoh/Latihan:
Diskusi:
• Ruang sampel adalah himpunan semua hasil yang mungkin dari per-
cobaan
Definisi -1
Suatu statistik T = t(X) adalah CUKUP atau sufficient untuk suatu keluarga
distribusi fX (x|θ) JIKA dan HANYA JIKA fungsi likelihoodnya bergantung
terhadap X hanya melalui T:
L(θ) = h(t(X), θ)
Definisi -2
Suatu statistik T = t(X) adalah CUKUP untuk suatu keluarga distribusi
fX (x|θ) JIKA dan HANYA JIKA distribusi bersyarat dari X TIDAK BERGAN-
TUNG pada θ:
Definisi -3
Suatu statistik T = t(X) adalah CUKUP untuk suatu keluarga distribusi
fX (x|θ) JIKA dan HANYA JIKA fungsi peluangnya dapat difaktorkan sebagai:
Contoh/Latihan:
5. Pandang sampel acak berukuran n dari U (a, b), dengan a diketahui. Tun-
jukkan bahwa T = X(n) adalah statistik cukup.
Teorema
Misalkan X1 , . . . , Xn sampel acak berukuran n dari populasi dengan mean µX
2
dan variansi σX . Distribusi dari
X̄ − µX
Zn = √
σX / n
Catatan:
• Hal penting dari Teorema Limit Pusat (Central Limit Theorem) adalah
bahwa kekonvergenan dari Zn ke distribusi normal akan terjadi apapun
bentuk distribusi dari X.
• Kita dapat memanipulasi sedemikian hingga
X̄ ∼ N (µX , σX
2
/n),
asalkan n besar.
• Ekspresi lain dari TLP adalah
(√ )
n (X̄ − µX )
lim P ≤ c = Φ(c)
n→∞ σX
• Pandang: X1 + · · · + Xn ,
( n )
∑
E Xi = n µX ,
i=1
( n )
∑
2
V ar Xi = n σX ,
i=1
(∑n )
Xi − n µX
lim P i=1
√ ≤c = Φ(c)
n→∞ n σX
E(X − µX )3
κ3 = √ = 2,
3
σX
dan
E(X − µX )4
κ4 = 4
− 3 = 6,
σX
2
dengan µX = 1/θ dan σX = 1/θ2 . Mean sampel X̄ berdistribusi Ga(n, nθ).
Kemencengan (skewness) dan kelancipan (kurtosis) dari X̄ adalah
E(X̄ − µX̄ )3 2
κ3 = √ =√ ,
3
σX n
dan
E(X̄ − µX̄ )4
κ4 = 4
− 3 = 6/n,
σX