指数分布

手塚 太郎

1

指数分布

指数分布は以下のように定義される連続値確率変数xの分布である。

2

確率変数xは非負（つまり0または正）の値を取る。

λが大きければ減衰が急、λが小さければ減衰が緩やか。（xで微分し、x=0での傾きを見るとよい）。

x

p(x)

xexp )|(

xexxp 2)|( 2

0

xxp

指数分布に対するλの影響

パラメータλを変えることで様々な指数分布が作れる。

3

λの小さい指数分布 λの大きい指数分布

x

p(x)

x

p(x)

x=0 での p(x|λ) の値は λ である。

x=0 での傾きは –λ2 である。

xexp 5.05.0)5.0|(

xexp 1010)10|(

指数分布の利用例

生物の寿命が指数分布に従うと仮定

4

5年 10年 20年15年0年

xexp )|(

x

p(x|λ)

確率密度関数を積分すると確率になる

指数関数を積分すると、データxがその範囲に入る確率が求められる。

5

5年 10年 20年15年

5年未満しか生きられない確率＝この範囲の面積

10年以上11年未満生きる確率＝この範囲の面積

0年

指数分布のパラメータ推定の例

モルモットの寿命を測定したところ、以下のようなデータ（年数）を得た。

6

データが指数分布 p(x|λ) = λe-λx に従うと考えた時、λの最尤推定量を求めよ。

4.5 7.5 8.0 3.5 5.5

wikipedia.org

指数分布のパラメータλの推定

7

n回試行を行い、それぞれの試行で得られた値xiを用いてλを最尤推定する。

尤度関数は以下である。

)|,...,,( 21 nxxxP

xexp )|(

x

p(x)

指数分布のパラメータλの推定

各試行（観測変数xi）の間の（λのもとでの）条件付き独立性を仮定する。

この時、同時確率を積に分解できる。つまり尤度関数を積に分解できる。

8

n

i

i

i

xn

n

i

x

n

i

in

ee

xPxxxP

1

1

1

21 )|()|,...,,(

指数分布のパラメータλの推定

尤度関数 p(x|μ,σ2) をμで微分して0とおく。

9観測値xiの平均の逆数がλの最尤推定量になる。

n

i

i

xn

ii

nn

xn

xn

exn

e

n

i

i

n

i

i

1

1

1 0

0

1

1

対数尤度の最大化

「指数分布族」と呼ばれる確率分布の場合、尤度ではなく対数尤度 log p(x|θ) を最大化することが多い。

対数尤度を使った方が計算が容易になる場合に使う。

対数関数は単調増加のため、log p(x)が最大値をとるxはp(x)についても最大値を与える。

指数分布も指数分布族に属す。

10

対数の単調増加性の利用

対数関数は単調増加のため、log p(x|θ)の最大値を与えるθは p(x|θ) の最大値を与えるθと等しい。

11

p(x|θ)

log p2

p2p(x|θ1)

p3

log p(x|θ3)

log p(x|θ1)

p(x|θ)=1

指数分布の対数尤度指数分布の尤度関数は以下である。

12

n

i

ixn

n exxxP 1)|,...,,( 21

n

ii

xn

n

xn

exxxP

n

i

i

1

21

log

log)|,...,,(log 1

指数分布の対数尤度は以下のように求められる。

対数尤度の最大化を用いたλの推定

対数尤度関数 log p(x|λ) をλで微分して0とおく。

13観測値xiの平均の逆数がλの最尤推定量になる。

n

i

i

n

i

i

n

i

i

xn

xn

xn

1

1

1

0

0log

指数分布のパラメータ推定の例

モルモットの寿命を測定したところ、以下のような数値（年数）を得た。

14

λの最尤推定値は以下のように求められる。

295

5.55.30.85.75.451

n

i

ixn

4.5 7.5 8.0 3.5 5.5

指数分布による予測の例

モルモットが10年より長く生きる確率を求めよ。

15

確率密度関数の積分を使い、10 < x となる面積を求めれば良い。

確率密度関数を積分すると確率になる

「10年以上生きる」は「10 ≦ x」ということ。

16

5年 10年 20年15年

10年以上生きる確率＝この範囲の面積

0年

10

)|(|10 dxxpxP

指数分布による予測の例

λに5/29を代入し、積分を行うと以下のようになる。

17

178.0

295

)|(|10

2950

10

295

10

295

10

10

ee

dxedxe

dxxpxP

x

xx