Transcript Chapter 3
3-1
設 y = f (x)為一函數，
(1)自變數 x 的微分(differential) dx 是 x 的增量，
即 dx = x
(2)因變數 y 的微分 dy 為 dy = f (x) dx
dy
dy
由於已知
= f (x)，所以我們可將
看成
dx
dx
兩個微分 dy、dx 的商。再者，dy 可當作 y
的近似值。也就是說，當 x 變動時，dy 可視
為因變數 y 的改變量。
現代管理數學．Chapter 3
極佳化方法
3-‹#›
3-2
設 y = f (x1, ……, xn)，則
f
f
dy
dx1
dx2
x1
x2
f
dxn
xn
我們稱 dy 為因變數 y 的全微分(total differential)。
現代管理數學．Chapter 3
極佳化方法
3-‹#›
3-3
設函數 y = f (x) 的定義域為 S Rn，若對於 S 中
所有的 x，f (x0) f (x)，則稱 f 在 x0 點有絕對極
大值(absolute or global maximum)。若對於 S 中
所有的 x，f (x0) f (x)，則 f 在 x0 點有絕對極小
值(absolute or global minimum)。
現代管理數學．Chapter 3
極佳化方法
3-‹#›
3-4
若對於 x0 鄰近的點 x，f (x0) f (x)，則稱 f 在 x0
點有相對極大值(relative or local maximum)。若
對於 x0 鄰近的點 x，f (x0) f (x)，則稱 f 在 x0 點
有相對極小值(relative or local minimum)。
現代管理數學．Chapter 3
極佳化方法
3-‹#›
3-5
若 x* 滿足 gi (x*) = bi , i = 1, 2, …, m，且g1 (x*),
g2 (x*), …, gm (x*)為線性獨立，則稱 x* 為 S 之
正規點(regular point)。
在正規點 x*，我們可以進一步定義一個 Rn 的子空
n
*
間
M { z ( z , z , , z ) R g ( x ) z
1
0, i 1, 2,
2
n
i
, m}
對 S 而言，M 代表的是在 x* 點的切面(tangent
plane)。
現代管理數學．Chapter 3
極佳化方法
3-‹#›
3-1
設函數 f 及 f 皆定義於區間(a, b)。
設 x0 在(a, b)內，且 f (x0) = 0。
(1)若 f (x0) > 0，則 f 在 x0 點有相對極小值。
(2)若 f (x0) < 0，則 f 在 x0 點有相對極大值。
3-2
若 f (x0) = 0，f (x0) = 0且 f (x0) 0，則 x0
為 f 的反曲點。
現代管理數學．Chapter 3
極佳化方法
3-‹#›
3-3
設 y = f (x1, x2, ……, xn)為一函數。若 f 在 x0 上有
極值，則
f
f
( x0 ) 0 ,
( x0 ) 0 ,
x1
x2
f
,
( x0 ) 0
xn
定理 3-3 的結論告訴我們偏導數全部為 0 只是極
值的必要條件。就算已知在某一點上函數 f 的偏
導數均為 0，我們也無法斷定 f 在此點上具有極值。
因此如同定理 3-1，我們必須還要有其他的條件，
以確定極值的存在。
現代管理數學．Chapter 3
極佳化方法
3-‹#›
3-4
充分條件
設 y = f (x1, x2, …, xn)為一函數，若 f 在 x0 點滿足
(1) f ( x0 ) 0, i 1, 2,
xi
,n
(2)對於每個非零向量 z，
zT Hz 0( 0)
則 f 在 x0 點有相對極小(大)值。
現代管理數學．Chapter 3
極佳化方法
3-‹#›
3-5
必要條件
設 y = f (x1, x2, …, xn)為一函數，若 f 在 x0 點有相
對極小(大)值，則在 x0 點
f
(1)
( x0 ) 0, i 1, 2,
xi
,n
(2)對於每個非零向量 z，
zT Hz 0( 0)
現代管理數學．Chapter 3
極佳化方法
3-‹#›
3-6
設 y = f (x1, x2, …, xn)為一函數。若點 x0 滿足
f
( x0 ) 0, i 1,
xi
, n ，且
(1)若在 x0 點，行列式 |Hk| > 0, k = 1, ……, n，則
f 在 x0 點有相對極小值。
(2)若在 x0 點，(1)k |Hk| > 0, k = 1, ……, n，則 f
在 x0 點有相對極大值。
現代管理數學．Chapter 3
極佳化方法
3-‹#›
3-7
設 z = f (x, y)，且在點(a, b)上，
f
f
(a , b)
(a , b) 0
x
y
2
2
f f f
f
(1) 若 2 2
0 ，且 2
x
x y x y
0 ，則 f 在(a , b)點有相對極小值。
2
2
2
2
f f f
2 f
(2) 若 2 2
0 ，且 2
x
x y x y
0 ，則 f 在(a , b)點有相對極大值。
2
現代管理數學．Chapter 3
極佳化方法
2
2
3-‹#›
3-7
2
f f f
(3) 若
0 ，則(a, b)為
2
2
x y xy
一鞍點(saddle point)，即 f (a, b)不是極值。
2
2
2
2
f f f
若
0
，
2
2
(4)
則無法作
x
y
x
y
2
2
2
任何結論。
所謂鞍點，就是沿著某一方向來看，f 在(a, b)上
具有相對極大值，但沿另一方向來看時，f 在(a, b)
上又是相對極小。如圖3-5所示。
現代管理數學．Chapter 3
極佳化方法
3-‹#›
3-8
設點(a, b, )滿足
L
L
L
(a, b, )
(a, b, )
(a, b, ) 0
x
y
2
2
L L L
L
(1)若 2 2
0且 2 0，
x
x y xy
且 f 在(a, b)點有相對極小值。
2
現代管理數學．Chapter 3
極佳化方法
2
2
3-‹#›
3-8
2
2
L L L
L
(2)若 2 2
0且 2 0，
x
x y xy
則 f 在(a, b)點有相對極大值。
2
2
2
2
(3)若 L L L 0，則無任
2
2
x
y
xy
何結論。
2
現代管理數學．Chapter 3
極佳化方法
2
2
3-‹#›
3-9
必要條件
*
*
*
若 * =(，
，
''
，
1
2
n )是問題(P)的最佳解(optional solution)。
*
*
*
同時，假設i *是S的正規點，則存在一向量 * =(1，
，
'
'
，
2
n)
m
f *
* g i
使得
( x ) i
( x* ) 0, k 1, 2,
xk
xk
i 1
,n
定理3-9中的一階必要條件
m
gi
f
( x) i
( x) 0, k 1, 2,
xk
xk
i 1
, n (3-4)
以及問題(P)的限制式
g i =bi , i=1,2,...,m
(3-5)
現代管理數學．Chapter 3
極佳化方法
3-‹#›
''，n ) ，n+m個式子
，，
''，；
構成一個包含n+m的變數 (1，，
2
n 1
2
m
的聯立方程式。若將拉式函數寫成 L( , )=f(x)+ i (b i -g i (x))
i=1
其中 =(1，2，''，n ) 為拉式函數，則拉式函數極值的必要條件為
L
(x, ) 0
x1
'''''
'''''
L
(x, ) 0
x n
(3-6)
L
(x, ) 0
1
'''''
L
(x, ) 0
m
(3-5) 式完全相同，換言之，
(3-6)式與 (3-4) 、
在這裡，
x * 即為問題(P)的解
)
聯立方程式(3-6) 所求得的解(x * , * ，其中
現代管理數學．Chapter 3
極佳化方法
3-‹#›
3-10
充分條件
若 x* = ( x1* , x2* , , xn* ) 滿足 gi (x*) = bi, i = 1,2, …, m
且存在一向量 * = (1* , 2* , , m* )，使得
m
f
*
* gi
( x ) i
( x* ) 0, k 1, 2,
xk
xk
i 1
,n
同時，假設對於所有 Z M ， Z 0，
Z T H ( x* , * ) Z 0
則問題 (P) 在 x* 點有相對極小值。
現代管理數學．Chapter 3
極佳化方法
3-‹#›