Upload
others
View
0
Download
0
Embed Size (px)
Citation preview
大数の法則・正規分布・中心極限定理
樋口さぶろお
龍谷大学理工学部数理情報学科
確率統計☆演習 I L09(2016-12-01 Thu)最終更新: Time-stamp: ”2016-12-16 Fri 19:36 JST hig”
今日の目標
大数の法則の意味が説明できる 塚田確率統計 §5.2
正規分布の母平均値・母分散・確率が積分や表で求められる. 塚田確率統計 §4.7
中心極限定理の意味が説明でき, 確率の計算に利用できる. 塚田確率統計 §5.3 http://hig3.net
樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 1 / 24
独立性・二項分布・ベルヌーイ分布
L08-Q1Quiz解答:離散型確率変数の独立性確率の和は 1 なので, 2
12 + 112 +A+B = 1.
よって,
fY(y) =
{312 (y = 3)912 (y = 7)
独立性から,
fXY(2, 3) =fX(2)312 = 2
12 ,
fXY(3, 3) =fX(3)312 = 1
12 ,
fXY(2, 7) =fX(2)912 = A,
fXY(3, 7) =fX(3)912 = B.
A,B, fX(2), fX(3) を未知数として解くと, A = 612 , B = 3
12 .L08-Q2Quiz解答:独立な確率変数の期待値
樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 2 / 24
独立性・二項分布・ベルヌーイ分布
1 X,Y は独立なので, E[XY ] = E[X]E[Y ] であることに注意して,E[(−2X + 3Y )(X + 5Y )] = E[−2X2] + E[−7XY ] + E[15Y 2] =−2(V[X] + E[X]2)− 7E[X]E[Y ] + 15(V[Y ] + E[Y 2])
2 独立なので, V[XY ] = V[X] + V[Y ]であることに注意して,V[−2X + 3Y ] = V[−2X] + V[3Y ] = 4V[X] + 9V[Y ].
L08-Q4Quiz解答:二項分布
1 二項分布 B(100, 23) に従う確率変数を X とする P (X = 50) を求めればいいから, 100C50p
50(1− p)100−50 = 100!50!50!(
23)
50(1− 23)
50.2 E[X] = n× p = 200
3 .3 V[X] = n× p(1− p) = 200
9 .
L08-Q5Quiz解答:ベルヌーイ分布
樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 3 / 24
独立性・二項分布・ベルヌーイ分布
1 ベルヌーイ分布 B(1, 0.05) に従う確率変数を X とすると,Y = 1000X.
2 E[Y ] = E[1000X] = 1000E[X] = 1000p = 50.V[Y ] = V[1000X] = 10002V[X] = 10002p(1− p) = 47500.
L09-Q6Quiz解答:独立同分布にしたがう変数の和 母平均値と母分散は,E[aX + bY + c] = aE[X] + bE[Y ] + c, 独立分布のV[aX + bY + c] = a2V[X] + b2V[Y ] の式を繰り返し使えば求められる.
1 A は母平均値が 3, 母分散が 7100 .
2 B は母平均値が 0, 母分散が 7.3 C は母平均値が 0, 母分散が 1.
樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 4 / 24
大数の法則・正規分布・中心極限定理
復習
チェビシェフの不等式 Chebyshev’s inequality 塚田確率統計 3.5
X: 離散型または連続型確率変数µ = E[X]: 母平均値σ2 = V[X]: 母分散a > 0: 任意の正の実数のとき次が成立する.
P (|X − µ| ≥ aσ) ≤ 1
a2
要するに
自 分 の 言 葉 で ど う ぞ
樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 5 / 24
大数の法則・正規分布・中心極限定理
独立同分布の性質 塚田確率統計 5.1
独立同分布 (i.i.d.)
離散型/連続型確率変数 X1, X2, . . . , Xn が, たがいに独立で, すべて同じ確率分布に従う (同じ確率関数 f(x))とする.これを X1, . . . , Xn は独立同分布に従う (i.i.d.=independent andidentically-distributed) という.
新しい確率変数: Un = X1 + · · ·+Xn
母平均値 E[Xi] = µ, 母分散 V[Xi] = σ2 としたとき,
E[Un] =
n∑i=1
E[Xi] = n× µ.
V[Un] =
n∑i=1
V[Xi] = n× σ2.
Un の確率密度関数はこんな感じ?
樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 6 / 24
大数の法則・正規分布・中心極限定理
新しい確率変数: Wn = 1nUn = 1
n(X1 + · · ·+Xn)
E[Wn] =E[1nUn
]=
1
n× n× µ.
V[Wn] =V[1nUn
]=
(1
n
)2
× n× σ2.
Wn の確率密度関数はこんな感じ?
樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 7 / 24
大数の法則・正規分布・中心極限定理
大数の (弱)法則 塚田確率統計 5.2
Wn =1
n
n∑i=1
Xi は ∀ϵ > 0 limn→+∞
P (|Wn − µX| ≥ ϵ) = 0 を満たす.
つまり, n大で Wn は母平均値 µX = E[X] に「必ず近い」(Wnが µX
に確率収束)
証明 µWn = µX , σ2Wn
= σ2X/n. Wn に対するチェビシェフの不等式より,
P (|Wn − µX| ≥ a× σX√n) ≤ 1
a2
a = ϵσX√n
とすると, n → +∞ で
P (|Wn − µX| ≥ ϵ) ≤σ2X
ϵ2n→ 0
これが母期待値の直観的意味. 要するに,
自分の言葉でどうぞ
樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 8 / 24
大数の法則・正規分布・中心極限定理 正規分布
ここまで来たよ
1 独立性・二項分布・ベルヌーイ分布
2 大数の法則・正規分布・中心極限定理正規分布中心極限定理
樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 9 / 24
大数の法則・正規分布・中心極限定理 正規分布
一般の正規分布 塚田確率統計 §4.7 高校 数学 B
正規=normal
(一般の)正規分布 N(b, a2)の確率密度関数
f(x; b, a2) =1√2πa2
e−(x−b)2
2a2 .
b, a2:パラメタ
0
0.05
0.1
0.15
0.2
0.25
0.3
0.35
0.4
-2 0 2 4 6 8
x
N(0,1)N(3,22)
難しいので, まず b = 0, a = 1 の場合を考える.z = x−b
a または x = az + by = f(z; 0, 1)のグラフを, 横に a倍, 横に bだけ平行移動して, 縦に 1/
√a2倍し
たものが y = f(x; b, a2)
樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 10 / 24
大数の法則・正規分布・中心極限定理 正規分布
標準正規分布 N(0, 12)の確率密度関数
f(z; 0, 12) = f(z) =1√2π
e−z2
2 .
- 4 - 2 0 2 4
0.0
0.1
0.2
0.3
0.4
μ
σσ
1σ 2σ 3σ
0.68270.95450.9973
- 4 - 2 0 2 4
0.0
0.1
0.2
0.3
0.4
μ
σσ
1.96σ 2.58σ
0.95000.9900
樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 11 / 24
大数の法則・正規分布・中心極限定理 正規分布
標準正規分布N(0, 12)の性質
P (c < Z < d) =簡単じゃない. 表 塚田確率統計付録 B, p207 をひけ.
E[1] =1, 塚田確率統計 p.83 微積分 II
E[Z] =0, 奇関数. 塚田確率統計 p.85
V[Z] =1 塚田確率統計 p.85 微積分 II
I(d) =
∫ d
0f(z; 0, 12) dz = P (0 < Z < d)の表 塚田確率統計付録 B, p207 高校 数学 B
この I(z)の表, I(+∞) = 12 , Zの確率密度関数 f が偶関数であること, で
すべての区間の確率が求められる.
上側確率Q(z) = 12 − I(z)を載せている本も多い.
樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 12 / 24
大数の法則・正規分布・中心極限定理 正規分布
L09-Q1
Quiz(標準正規分布の確率)
Z は標準正規分布N(0, 12) に従う. Z < −2 となる確率は?
L09-Q2
Quiz(標準正規分布の確率)
Z は標準正規分布N(0, 12) に従う連続型確率変数である.
1 母期待値 E[Z2] を求めよう.2 確率 P (−0.56 < Z < +1.23) を数表から求めよう.
L09-Q3 塚田確率統計 §4.13 問 3
樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 13 / 24
大数の法則・正規分布・中心極限定理 正規分布
正規分布ふたたび
Z = X−ba または X = aZ + b, Z ∼ N(0, 12).
E[1] =1, 塚田確率統計 p.83 微積分 II
µX = E[X] =E[aZ + b] = b, 塚田確率統計 p.85
σ2X = V[X] =V[aZ + b] = a2, 塚田確率統計 p.85 微積分 II
つまり, b = µX, a2 = σ2
Xってこと.
(一般の)正規分布 N(µ, σ2)
母平均値 µ, 母分散 σ2の正規分布N(µ, σ2)の確率密度関数は,
f(x;µ, σ2) =1√2πσ2
e−(x−µ)2
2σ2 .
樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 14 / 24
大数の法則・正規分布・中心極限定理 正規分布
L09-Q4
Quiz(正規分布の確率)
連続型確率変数X は, 確率密度関数
f(x) =1√2π32
e−(x−4)2
2·32
にしたがう.
1 E[X] を求めよう.2 V[X] を求めよう.
樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 15 / 24
大数の法則・正規分布・中心極限定理 正規分布
L09-Q5
Quiz(正規分布の確率)
連続型確率変数X は, 確率密度関数
f(x) = C · e−118x
2+49x
を持つ.
1 E[X] を求めよう.2 V[X] を求めよう.3 定数 C を求めよう.
樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 16 / 24
大数の法則・正規分布・中心極限定理 正規分布
N(µ, σ2) の確率の求め方 I
-6 -4 -2 2 4 6x
0.2
0.4
0.6
0.8
1.0
pHxLProbHx>Μ+1.5ΣL
斜線部の面積はどれも同じ
対応する Z = X−µXσX
∼ N(0, 12) の範囲を考えて, 表から求める.
一般の正規分布の確率X ∼ N(µX , σ2
X), Z ∼ N(0, 12)のとき
P (c < X < d) = P ( c−µXσ < X−µX
σ < d−µXσ ) = P ( c−µX
σ < Z < d−µXσ )
樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 17 / 24
大数の法則・正規分布・中心極限定理 正規分布
L09-Q6
Quiz(正規分布の確率)
X が母平均値 3, 母分散 4 の正規分布にしたがうとする.
1 X ≥ 5 となる確率を求めよう.2 +1 ≤ X ≤ 7 となる確率を求めよう.
樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 18 / 24
大数の法則・正規分布・中心極限定理 正規分布
L09-Q7
Quiz(正規分布の確率)
1 母平均値 0, 母分散 12 の正規分布で, 0.5 ≤ X < 0.7 となる確率を求めよう.
2 母平均値 0, 母分散 22 の正規分布で, 0.5 ≤ X < 0.7 となる確率を求めよう.
3 母平均値 3, 母分散 22 の正規分布で, 4.0 ≤ X < 4.4 となる確率を求めよう.
L09-Q8 塚田確率統計 §4.13 問 4
樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 19 / 24
大数の法則・正規分布・中心極限定理 中心極限定理
ここまで来たよ
1 独立性・二項分布・ベルヌーイ分布
2 大数の法則・正規分布・中心極限定理正規分布中心極限定理
樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 20 / 24
大数の法則・正規分布・中心極限定理 中心極限定理
最初が一様分布でも, 実は n → ∞ で U や W の確率密度関数の形は長方形から崩れていく. 分布の個性が消える! っていうか美しい形に!
中心極限定理 (いいかげんバージョン) 塚田確率統計 5.3
X1, . . . , Xn が母平均値 µ, 母分散 σ2 の独立同分布に従うとき,
Un = X1 + · · ·+Xn, の確率分布は,
の
正規分布 N(nµ, nσ2)
に似るWn = 1
n(X1 + · · ·+Xn) の確率分布は,
正規分布 N(µ, σ2/n)
に似るZn = Wn−µ
σ√nの確率分布は,
標準正規分布 N(0, 12)
に似る
樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 21 / 24
大数の法則・正規分布・中心極限定理 中心極限定理
中心極限定理 (厳密バージョン)
確率変数 X1, X2, . . . , Xn が, 母平均値 µ, 母分散 σ2 の独立同分布に従うとする. 正規分布じゃない. どんな分布でも可Zn =
1n (X1+···+Xn)−µ
σ ×√n とすると,
Zn は, n → +∞ の極限で, N(0, 12) に従う. すなわち
limn→+∞
P (a ≤ Zn < b) =
∫ b
a
1√2π
e−12x2
dx
「Zn は N(0, 12) にしたがう Z に法則収束する」
法則収束とは, 関数列がある関数に収束すること.証明E[Zn] = 0,V[Zn] = 1 はすぐわかるが…モーメント母関数を使うと瞬殺 確率統計☆演習 II
樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 22 / 24
大数の法則・正規分布・中心極限定理 中心極限定理
L09-Q9
Quiz(中心極限定理)
確率変数 X1, . . . , X100 は E[Xi] = 1,V[Xi] =14 の独立同分布に従う. 次
の確率変数の母平均値と母分散を求めよう. また, n = 10 が十分に大きいと思って, 指定の確率を求めよう.
1 確率変数 U = X1 +X2 +X3 + · · ·+X100. 確率 P (U > 110).2 確率変数 W = 1
100(X1 +X2 +X3 + · · ·+X100). 確率 P (W < 1.01).
樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 23 / 24
大数の法則・正規分布・中心極限定理 中心極限定理
連絡
予習問題は, 次々回の授業直前 を締切 (そこまでの最高点を記録)とします. でも, Trialまでにやったほうが効率いいと思う.前からそうだけど, 予習問題が満点だと, Trialの満点の 1/3まで保証されます.配布資料は 1-503向かいの引出, http://hig3.net で再配布.加減乗除と平方根 (ルート)の使える電卓持ってきてね. 関数電卓でなくてもいいです. 携帯電話の機能・アプリでもかまいません.樋口オフィスアワー木 6金昼 (1-502), Mathラウンジ月-木昼 (1-614)次回は 塚田確率統計 §6.1 塚田確率統計 §6.2 塚田確率統計 §7.1 塚田確率統計 §7.2
Manaba にレポートあります. 2016-12-08まで.
https://manaba.
ryukoku.ac.jp
樋口さぶろお (数理情報学科) L09 大数の法則・正規分布・中心極限定理 確率統計☆演習 I(2016) 24 / 24