Embed Size (px)
Citation preview
Distribusi Multivariate Gaussian
Ali Akbar Septiandri
Universitas Al Azhar Indonesia
June 26, 2019
1 of 26
Ulasan
2 of 26
Distribusi Gaussian/Normal
• Salah satu yang paling sering muncul untuk variabel kontinu
• Berhubungan dengan central limit theorem
• Dituliskan sebagai X ∼ N (µ, σ2)
3 of 26
Apa itu “terdistribusi normal”?
• Dapat ditemukan dalam berbagai fenomena di alam, e.g. tinggibadan, berat badan, ...
• Jumlah dari berbagai peubah acak yang independen
• Dengan jumlah sampel yang cukup, bisa menggambarkan populasidengan baik
4 of 26
Apa itu “terdistribusi normal”?
• Dapat ditemukan dalam berbagai fenomena di alam, e.g. tinggibadan, berat badan, ...
• Jumlah dari berbagai peubah acak yang independen
• Dengan jumlah sampel yang cukup, bisa menggambarkan populasidengan baik
4 of 26
Apa itu “terdistribusi normal”?
• Dapat ditemukan dalam berbagai fenomena di alam, e.g. tinggibadan, berat badan, ...
• Jumlah dari berbagai peubah acak yang independen
• Dengan jumlah sampel yang cukup, bisa menggambarkan populasidengan baik
4 of 26
Contoh
Gambar: Hasil “pengukuran” tinggi badan
5 of 26
Contoh
Gambar: Hasil pengukuran berat badan
6 of 26
Fakta
X ∼ N (µ, σ2)
f (x |µ, σ2) =1√
2πσ2exp
{−(x − µ)2
2σ2
}
Ekspektasi
E[X ] = µ
VariansiVar [X ] = σ2
7 of 26
CDF
• Karena kita berurusan dengan distribusi kontinu, kita perlucumulative density function
• CDF:
F (x) = Φ
(x − µσ
)=
∫ x
−∞f (x)dx
• e.g. Berapa peluangnya untuk mendapatkan orang dengan tinggibadan antara 150 dan 160?
8 of 26
Solusi
p(150 ≤ X ≤ 160) = F (160)− F (150)
9 of 26
Solusi
p(150 ≤ X ≤ 160) = F (160)− F (150)
9 of 26
Perhatikan bahwa...
Gambar: Distribusi Gaussian dengan berbagai nilai parameter
10 of 26
Multivariate Gaussian
11 of 26
Probabilitas Gabungan
IQ = rendah IQ = tinggi
Nilai = A 0.07 0.18Nilai = B 0.28 0.09Nilai = C 0.35 0.03
Tabel: Probabilitas gabungan dari dua peubah acak
12 of 26
Probabilitas Gabungan Diskrit
Gambar: PMF dari probabilitas gabungan dua peubah acak
13 of 26
Bivariate Gaussian
Gambar: Multivariate Gaussian dengan dua variabel dalam tiga dimensi
14 of 26
Bivariate Gaussian
Gambar: Tampak atas multivariate Gaussian dengan dua variabel
15 of 26
Joint probability density functionf X ,Y (x , y)
x
y
plot by Academo
P(a1<X≤a2,b1<Y≤b2)= ∫a1
a2
dx∫b1
b2
dy f X ,Y (x , y)
Multivariate Gaussian
• Vektor x adalah multivariate Gaussian jika untuk mean µ dancovariance matrix Σ, nilainya terdistribusi menurut
f (x|µ,Σ) =1
|(2π)Σ|12
exp
{−1
2(x− µ)TΣ−1(x− µ)
}• Univariate Gaussian adalah kasus khusus dari distribusi ini
• Σ adalah covariance matrix, i.e. setiap elemen σij = Cov(Xi ,Xj)dengan
Cov(Xi ,Xj) = E[(Xi − µi )(Xj − µj)]
• Σ harus simetris
16 of 26
Kovariansi dan Korelasi
17 of 26
Kovariansi
• Berdasarkan linearitas ekspektasi
Cov(Xi ,Xj) = E[(Xi − µi )(Xj − µj)]
= E[XiXj ]− E[Xi ]E[Xj ]
Buktikan!
• Interpretasi: Seberapa besar perubahan bersama Xi dan Xj?
18 of 26
Perhitungan Kovariansi
mpg acceleration mpg × acceleration
23.0 18.5 425.516.0 18.0 288.014.0 15.5 217.031.0 19.0 589.021.0 17.0 357.018.0 16.0 288.018.0 16.5 297.032.0 21.0 672.019.0 17.7 336.314.0 14.5 203.0
Cov(Xi ,Xj) = E[XiXj ]− E[Xi ]E[Xj ]
19 of 26
Bivariate Gaussian - Kovariansi
Gambar: Cov(mpg , acceleration) = 9.06 — ada hubungan positif!
20 of 26
Bivariate Gaussian - Kovariansi
Gambar: Cov(X ,Y ) = 0.06 — hampir tidak berhubungan
21 of 26
Properti Kovariansi
• Cov(X ,Y ) = Cov(Y ,X )
• Cov(X ,X ) = E[XX ]− E[X ]E[X ] = Var(X )
• Cov(aX + b,Y ) = aCov(X ,Y )
22 of 26
Korelasi
Korelasi dari dua variabel adalah ukuran dependensi linear antarakeduanya yang dibuat dalam skala nilai -1 sampai 1.
ρ(X ,Y ) =Cov(X ,Y )√Var(X )Var(Y )
23 of 26
Important correlations
ρ(X ,Y )=0 ρ(X ,Y )=1ρ(X ,Y )=−1
ρ(X ,Y )=0
Pekan depan:
CLT, LLN, MLE, Bayesian stats
25 of 26
Terima kasih
26 of 26
