13
最適化数学 第 4 [今回の項目] 1 復習:局所最適解の求め方 2 問題練習 関口 良行 最適化数学 1 / 13

lecture ex 3最適化数学第4 回 [今回の項目] 1 復習:局所最適解の求め方 2 問題練習 関口良行 最適化数学 1/13 ... lecture_ex_3.eps Author yoshi Subject

  • Upload
    others

  • View
    1

  • Download
    0

Embed Size (px)

Citation preview

Page 1: lecture ex 3最適化数学第4 回 [今回の項目] 1 復習:局所最適解の求め方 2 問題練習 関口良行 最適化数学 1/13 ... lecture_ex_3.eps Author yoshi Subject

最適化数学 第 4 回[今回の項目]

1 復習:局所最適解の求め方2 問題練習

関口 良行 最適化数学 1 / 13

Page 2: lecture ex 3最適化数学第4 回 [今回の項目] 1 復習:局所最適解の求め方 2 問題練習 関口良行 最適化数学 1/13 ... lecture_ex_3.eps Author yoshi Subject

復習:制約なし最適化問題

最小化 f(x, y) = x3 − 3xy + y3

制約 なし

x3 − 3xy + y3 のグラフ

関口 良行 最適化数学 2 / 13

Page 3: lecture ex 3最適化数学第4 回 [今回の項目] 1 復習:局所最適解の求め方 2 問題練習 関口良行 最適化数学 1/13 ... lecture_ex_3.eps Author yoshi Subject

復習:1 次の最適性条件

[定理] (一次の最適性条件)

f(x):多変数関数点 x̄ が局所最適解ならば,

∇f(x̄) = 0 (零ベクトル)

が成り立つ.

[定義]点 p が,∇f(p) = 0 を満たすとき,p を f の停留点と呼ぶ.

関口 良行 最適化数学 3 / 13

Page 4: lecture ex 3最適化数学第4 回 [今回の項目] 1 復習:局所最適解の求め方 2 問題練習 関口良行 最適化数学 1/13 ... lecture_ex_3.eps Author yoshi Subject

復習:停留点

最小化 f(x, y) = x3 − 3xy + y3

x3 − 3xy + y3 のグラフx3 − 3xy + y3 の勾配ベクトル

関口 良行 最適化数学 4 / 13

Page 5: lecture ex 3最適化数学第4 回 [今回の項目] 1 復習:局所最適解の求め方 2 問題練習 関口良行 最適化数学 1/13 ... lecture_ex_3.eps Author yoshi Subject

復習:ヘッセ行列を用いた判定法停留点 x̄ を局所最小解とすると,

x̄ で『グラフは局所的に下に窪んでいる』←→ 点 x̄ の近くで関数 f は『局所的に凸関数である』

[定理] ( 2 次の最適性条件)1 (必要性)x̄ が局所最小解

=⇒ ∇f(x̄) = 0 かつ ∇2f(x̄)が半正定値2 (十分性)∇f(x̄) = 0 かつ ∇2f(x̄) が正定値

=⇒ x̄ は局所最小解.3 (否定)∇2f(x̄) が不定値のとき,x̄ は局所最適解ではない.

局所最大解についても,それぞれ対応する箇所を半負定値,負定値,極大値に置き換えたものが成り立つ.

関口 良行 最適化数学 5 / 13

Page 6: lecture ex 3最適化数学第4 回 [今回の項目] 1 復習:局所最適解の求め方 2 問題練習 関口良行 最適化数学 1/13 ... lecture_ex_3.eps Author yoshi Subject

復習:2 次の最適性条件の幾何的イメージ

(十分性)∇f(x̄) = 0 かつ ∇2f(x̄) が正定値=⇒ x̄ は局所最小解.

(否定)∇2f(x̄) が不定値のとき,x̄ は局所最適解ではない.

∇2f(x, y)

∇2f(x, y)

関口 良行 最適化数学 6 / 13

Page 7: lecture ex 3最適化数学第4 回 [今回の項目] 1 復習:局所最適解の求め方 2 問題練習 関口良行 最適化数学 1/13 ... lecture_ex_3.eps Author yoshi Subject

例題

f(x, y) = x3 − 3xy + y3

の局所最適値を求めよ.

[補足]∇f(x̄) が正定値⇐⇒ ∇f(x̄) の固有値がすべて正f が 2 変数の場合:det

!

∇2f(x̄)"

> 0(行列式),かつ fxx(x̄) > 0 =⇒ f は正定値

関口 良行 最適化数学 7 / 13

Page 8: lecture ex 3最適化数学第4 回 [今回の項目] 1 復習:局所最適解の求め方 2 問題練習 関口良行 最適化数学 1/13 ... lecture_ex_3.eps Author yoshi Subject

例題f(x, y) = x3 + y3 − 6x− 6y

の局所最適値を求めよ.

(解答例) ∇f(x, y) =#

3x2 − 63y2 − 6

$

, ∇2f(x, y) =

#

6x 00 6y

$

より,

連立方程式

%

3x2 − 6 = 0

3y2 − 6 = 0を解くと,停留点 (x, y) = (±

√2,±√2)

(順不同)を得る.

(x, y) (√2,√2) (−

√2,−√2) (±

√2,∓√2)

|∇2f(x, y)| + + −fxx(x, y) + −

小 大 不定f(x, y) −8

√2 8

√2

である.よって,(x, y) = (√2,√2) のとき,局所最小値 −8

√2,

(x, y) = (−√2,−√2) のとき,局所最大値 8

√2 をとる.

関口 良行 最適化数学 8 / 13

Page 9: lecture ex 3最適化数学第4 回 [今回の項目] 1 復習:局所最適解の求め方 2 問題練習 関口良行 最適化数学 1/13 ... lecture_ex_3.eps Author yoshi Subject

練習問題

(1) f(x, y) = x3 + 8y3 − 12xy + 1

(2) f(x, y) = x3 + 3xy2 − 3x

関口 良行 最適化数学 9 / 13

Page 10: lecture ex 3最適化数学第4 回 [今回の項目] 1 復習:局所最適解の求め方 2 問題練習 関口良行 最適化数学 1/13 ... lecture_ex_3.eps Author yoshi Subject

練習問題

(3) f(x, y) = x4 − 4x2 + 8y2 + 4x2y

(4) f(x, y, z) = x3 − y3 + z2 + 3y2 + 3xy − 3x− 3y − 3z + 2

関口 良行 最適化数学 10 / 13

Page 11: lecture ex 3最適化数学第4 回 [今回の項目] 1 復習:局所最適解の求め方 2 問題練習 関口良行 最適化数学 1/13 ... lecture_ex_3.eps Author yoshi Subject

(1) f(x, y) = x3 + 8y3 − 12xy + 1

-2-1

0 1

2 3

4 5

-2-1

0 1

2 3

4 5-15

-10-5 0 5

10 15 20 25 30

x**3 + 8*y**3 - 12*x*y + 1

-15-10-5 0 5 10 15 20 25 30

関口 良行 最適化数学 11 / 13

Page 12: lecture ex 3最適化数学第4 回 [今回の項目] 1 復習:局所最適解の求め方 2 問題練習 関口良行 最適化数学 1/13 ... lecture_ex_3.eps Author yoshi Subject

(2) f(x, y) = x3 + 3xy2 − 3x

-2-1.5

-1-0.5

0 0.5

1 1.5

2

-2-1.5-1-0.5 0 0.5 1 1.5 2-3

-2

-1

0

1

2

3

x**3 + 3*x*y**2 - 3*x

-3

-2

-1

0

1

2

3

関口 良行 最適化数学 12 / 13

Page 13: lecture ex 3最適化数学第4 回 [今回の項目] 1 復習:局所最適解の求め方 2 問題練習 関口良行 最適化数学 1/13 ... lecture_ex_3.eps Author yoshi Subject

(3) f(x, y) = x4 − 4x2 + 8y2 + 4x2y

-3 -2 -1 0 1 2 3 -4-3

-2-1

0 1

2

-10

-5

0

5

10

15

20

x**4 - 4*x**2 + 8*y**2 + 4*x**2*y

x

y

-10

-5

0

5

10

15

20

関口 良行 最適化数学 13 / 13