1

2.3 ガウス分布

大阪 PRML読書会

2014.04.27

@florets1

2

ガウス分布とは

3

ガウス分布はいろいろな場所に現れる

連続変数のエントロピーを最大化する分布はガウス分布である

「正規分布なんて、いろんな変動がごちゃまぜになったノイズだ。むしろ正規分布っぽくない成分を探せ。意味のある情報はそこにい

る。」　プログラミングのための確率統計 P. 170

確率変数の和の分布はガウス分布に近づいていく

4

楕円のイメージで別の座標系に

5

ガウス分布によるモデル化の制限

•サイズの大きい行列は逆行列の計算が困難

共分散行列を対角（図 b）や等方（図 c）に制限して計算を高速化すると今度はモデルの表現力が制限される

•多峰性の分布をうまく近似できない

これらの問題に対処する工夫がいろいろある！

6

条件付きガウス分布と周辺ガウス分布

同時分布 p(Xa,Xb)がガウス分布であれば

•条件付き分布 p(Xa|Xb)もガウス分布

•周辺分布 p(Xa)もガウス分布

6

条件付きガウス分布と周辺ガウス分布

同時分布 p(Xa,Xb)がガウス分布であれば

•条件付き分布 p(Xa|Xb)もガウス分布

•周辺分布 p(Xa)もガウス分布