Transcript Lecture 3

ADVANCED
CONTROL
Ali Karimpour
Associate Professor
Ferdowsi University of Mashhad
Reference:
Chi-Tsong Chen, “Linear System Theory and Design”, 1999.
lecture 3
Lecture 3
Basic Idea of Linear Algebra-Part II
Topics to be covered include:

Functions of Square Matrix.

Lyapunov Equation.

Some Useful Formula.

Quadratic Form and Positive Definiteness.
 Singular Value Decomposition.
 Norm of Matrices
2
Dr. Ali Karimpour Nov 2013
lecture 3
‫آنچه پس از مطالعه این مبحث می آموزید‬
‫• محاسبه توابع ماتریس مربعی‬
• Calculation of Function of Square Matrix
‫• چند جمله ای مینیمال و معادله مشخصه‬
• Minimal Polynomials and Characteristic Polynomials
‫• قضیه کیلی همیلتون‬
• Cayley-Hamilton Theorem
A ‫• چند جمله ای های معادل بر روی طیف ماتریس‬
• Equal Polynomials on the Spectrum of A
‫• معادله لیاپانوف و حل آن‬
• Lyapunov Equation and its Solution
‫• ماتریس متقارن و فرم مربعی و ماتریس متعامد‬
• Symmetric Matrix and Quadratic Form and Orthogonal Matrix
• Matrix and PD/ND Matrix
• Singular Value Decomposition
‫منفی معین‬/‫• ماتریس مثبت‬
‫• تجزیه مقادیر تکین‬
‫• محاسبه فضای رنج و پوچ از تجزیه مقادیر تکین‬
• Null Space and Range Space From SVD
‫• نرم ماتریسی‬
3
• Norm of Matrices
Dr. Ali Karimpour Nov 2013
lecture 3
Function of Square Matrix
f ( )  3  22  6
 f ( A)  A3  2 A2  6I
‫چند جمله ای از ماتریس های مربعی‬
‫ماتریس های بلوکی‬
2

 A1 0 
A
0
k
2
1


A

A

A


2
0
A
2

 0 A2 
 A1k 0 
0 
 f ( A1 )

k   f ( A)  

0
f
(
A
)
0
A
2 
2 


‫فرم جردن‬
A  QAˆ Q1, Aˆ  Q1 AQ





Ak  QAˆ Q1 QAˆ Q1 ............... QAˆ Q1  QAˆ k Q1
‫و در حالت کلی‬
f ( A)  Qf ( Aˆ )Q1, f ( Aˆ )  Q1 f ( A)Q
4
Dr. Ali Karimpour Nov 2013
lecture 3
Function of Square Matrix
.‫ و تبدیل مربوطه داده شده است‬A ‫ و فرم قطری ماتریس‬A ‫ ماتریس‬:1-3 ‫مثال‬
1 0 12
A  0 1 1 
0 0 4 
12 1 0
Q   1 0 1 
 3 0 0
4 0 0
Aˆ  Q 1 AQ  0 1 0
0 0 1
A6  12A4  3 A2 :‫مطلوبست‬


A6 12A4  3A2  Q Aˆ 6 12Aˆ 4  3Aˆ 2 Q1
:‫می دانیم‬
4 6 0 0 
4 4 0 0  4 2 0 0  7216 0 0 



 

Aˆ 6  12Aˆ 4  3 Aˆ 2   0 16 0   12 0 14 0   3 0 12 0    0
16 0 
 0 0 16 
 0 0 14   0 0 12   0
0 16



 

1
12 1 0 7216 0 0  12 1 0
16 0 28800
A6  12A4  3 A2   1 0 1  0
16 0   1 0 1   0 16 2400 
 3 0 0  0
 0 0 7216  5
0 16  3 0 0
Dr. Ali Karimpour Nov 2013
‫‪lecture 3‬‬
‫‪Function of Square Matrix‬‬
‫چند جمله ای مونیک‪:‬‬
‫چند جمله ای که ضریب بزرگترین درجه آن برابر یک باشد چندجمله ای مونیک نامیده می شود‪ .‬مثال‬
‫‪6  124  32  5‬‬
‫چند جمله ای مینیمال‪:‬‬
‫چند جمله ای مونیک با کمترین درجه که ماتریس ‪ A‬آن را برابر ماتریس صفر کند چند جمله ای مینیمال‬
‫ماتریس ‪ A‬نامیده می شود‪.‬‬
‫) ‪ (‬‬
‫چند جمله ای مشخصه‪:‬‬
‫چند جمله ای مشخصه ماتریس ‪ A‬با ابعاد ‪ nn‬عبارتست از‪:‬‬
‫‪6‬‬
‫‪Dr. Ali Karimpour Nov 2013‬‬
‫‪n‬‬
‫‪n‬‬
‫‪i‬‬
‫‪i‬‬
‫‪( )  I  A   (  i ) ni‬‬
‫‪i‬‬
‫‪lecture 3‬‬
‫‪Function of Square Matrix‬‬
‫چند جمله ای مشخصه ماتریس ‪ A‬با ابعاد ‪ nn‬عبارتست از‪:‬‬
‫‪n‬‬
‫‪n‬‬
‫‪( )  I  A   (  i ) ni‬‬
‫‪i‬‬
‫‪i‬‬
‫‪i‬‬
‫محاسبه چند جمله ای مینیمال‪:‬‬
‫چند جمله ای مونیک با کمترین درجه که ماتریس ‪ A‬آن را برابر صفر کند چند جمله ای مینیمال ماتریس‬
‫‪ A‬نامیده می شود‪(.‬با توجه به خاصیت نیل پوتنت)‬
‫‪n  n  n‬‬
‫‪i‬‬
‫‪i‬‬
‫‪i‬‬
‫‪i‬‬
‫‪ ( )   (  i ) n‬‬
‫‪i‬‬
‫‪i‬‬
‫قضیه ‪( 1-3‬قضیه کیلی همیلتون)‪ :‬ماتریس ‪ A‬در معادله مشخصه خود صادق است‪.‬‬
‫اثبات‪:‬‬
‫) ‪( )   (  i ) ni   ( )h(‬‬
‫‪i‬‬
‫‪( A)   ( A)h( A)  0.h( A)  0‬‬
‫‪7‬‬
‫‪Dr. Ali Karimpour Nov 2013‬‬
lecture 3
Function of Square Matrix
:‫ عبارتست از‬nn ‫ با ابعاد‬A ‫چند جمله ای مشخصه ماتریس‬
( )  I  A   (  i ) ni
i
n
n
i
:‫محاسبه چند جمله ای مینیمال‬
i
 ( )   (  i ) n
i
i
n  n  n
i
i
i
i
‫ مطلوبست چند جمله ای مشخصه و چند جمله ای مینیمال ماتریسهای زیر‬:2-3 ‫مثال‬
I)
II )
 1 1 0 0 0 
0  1 0 0
1


A   0 0 1 1 0 


0
0
0

0
1


 0 0 0 0 2 


 1 1 0 0 0 
0  1 0 0
1


A   0 0 1 0 0 


0
0
0

0
1


 0 0 0 0 2 


( )  I  A   (  i ) ni  (  1 ) 4 (  2 )
i
 ( )  (  i ) n  (  1 ) 4 (  2 )
i
i
( )  I  A   (  i ) ni  (  1 ) 4 (  2 )
i
 ( )  (  i ) n  (  1 )3 (  2 )
i
i
8
Dr. Ali Karimpour Nov 2013
lecture 3
Function of Square Matrix
:‫ عبارتست از‬nn ‫ با ابعاد‬A ‫چند جمله ای مشخصه ماتریس‬
( )  I  A   (  i ) ni
i
n
n
i
:‫محاسبه چند جمله ای مینیمال‬
i
 ( )   (  i ) n
i
i
n  n  n
i
i
i
i
‫ مطلوبست چند جمله ای مشخصه و چند جمله ای مینیمال ماتریسهای زیر‬:)‫(ادامه‬2-3 ‫مثال‬
III)
IV )
 1 1 0 0 0 
0  0 0 0
1


A   0 0 1 1 0 


0
0
0

0
1


 0 0 0 0 2 


 1 1 0 0 0 
0  0 0 0
1


A   0 0 1 0 0 


0
0
0

0
1


 0 0 0 0 2 


( )  I  A   (  i ) ni  (  1 ) 4 (  2 )
i
 ( )  (  i ) n  (  1 ) 2 (  2 )
i
i
( )  I  A   (  i ) ni  (  1 ) 4 (  2 )
i
 ( )  (  i ) n  (  1 ) 2 (  2 )
i
i
9
Dr. Ali Karimpour Nov 2013
lecture 3
Function of Square Matrix
:‫ عبارتست از‬nn ‫ با ابعاد‬A ‫چند جمله ای مشخصه ماتریس‬
( )  I  A   (  i ) ni
i
n
n
i
:‫محاسبه چند جمله ای مینیمال‬
i
 ( )   (  i ) n
i
i
n  n  n
i
i
i
i
‫ مطلوبست چند جمله ای مشخصه و چند جمله ای مینیمال ماتریسهای زیر‬:)‫(ادامه‬2-3 ‫مثال‬
V)
 1 0 0 0 0 
0  0 0 0
1


A   0 0 1 0 0 


0
0
0

0
1


 0 0 0 0 2 


( )  I  A   (  i ) ni  (  1 ) 4 (  2 )
i
 ( )   (  i ) n  (  1 )(   2 )
i
i
10
Dr. Ali Karimpour Nov 2013
‫‪lecture 3‬‬
‫‪Function of Square Matrix‬‬
‫چند جمله ای دلخواه )‪ f(λ‬و ماتریس ‪ A‬با ابعاد ‪ nn‬را در نظر بگیرید‪.‬‬
‫می توان )‪ f(λ‬را به صورت مقابل بیان نمود‪.‬‬
‫) ‪f ( )  q( )( )  h(‬‬
‫حال برای محاسبه )‪ f(A‬داریم‪:‬‬
‫)‪f ( A)  q( A)( A)  h( A‬‬
‫حال با توجه به قضیه کیلی همیلتون‪:‬‬
‫)‪f ( A)  h( A‬‬
‫‪‬‬
‫)‪f ( A)  q( A).0  h( A)  h( A‬‬
‫نکته‪ :‬درجه )‪ h(‬؟‬
‫نکته مهم‪ :‬چند جمله ای )‪ h(‬معادل )‪ f(λ‬بر روی طیف ‪ A‬نامیده میشود؟‬
‫نکته‪ :‬محاسبه )‪ h(‬؟‬
‫‪11‬‬
‫‪Dr. Ali Karimpour Nov 2013‬‬
lecture 3
Function of Square Matrix
.‫ دارای مقادیر ویژه غیر تکراری است‬A ‫ برای حالتی که ماتریس‬h() ‫محاسبه‬
f ()  q()()  n1n1  ... 1  0
f ( )  q( )( )  h( )
:‫ در رابطه فوق داریم‬A ‫با قرار دادن مقادیر ویژه‬
n1
n1

f (1 )  n11  ... 11  0
n1

f (2 )  n12  ... 12  0
f (1 )  q(1 )(1 )  n11  ... 11  0
f (2 )  q(2 )(2 )  n12  ... 12  0
.....................................
......................................................
n1
f (n )  q(n )(n )  n1n  ... 1n  0
n1

n1
f (n )  n1n  ... 1n  0
:‫ مجهول داریم‬n ‫ معادله‬n ‫پس از حل‬
n1 , n2 , ...,1 , 0
12
Dr. Ali Karimpour Nov 2013
‫‪lecture 3‬‬
‫‪Function of Square Matrix‬‬
‫محاسبه )‪ h(‬برای حالتی که ماتریس ‪ A‬دارای مقادیر ویژه تکراری است‪.‬‬
‫قضیه ‪ :2-3‬معادله )‪ f(λ‬و ماتریس ‪ A‬با ابعاد ‪ nn‬با معادله مشخصه زیر را در نظر بگیرید‪.‬‬
‫‪where n  i 1 ni‬‬
‫‪m‬‬
‫‪ni‬‬
‫‪m‬‬
‫) ‪( )  (  i‬‬
‫‪i 1‬‬
‫چند جمله ای )‪ h(‬از درجه ‪ n-1‬و معادل )‪ f(λ‬بر روی طیف ‪ A‬بصورت زیر تعریف میشود‪.‬‬
‫‪h( )       ....   ‬‬
‫‪n 1‬‬
‫‪n 1‬‬
‫‪1‬‬
‫‪0‬‬
‫پس از حل ‪ n‬معادله ‪ n‬مجهول زیر ضرایب مجهول )‪ h(‬محاسبه می شود‪.‬‬
‫‪f l ( i )  h l ( i ) for l  0 , 1 , ... , ni 1 and i  1, 2 , ..., m‬‬
‫که در این رابطه‪:‬‬
‫و نهایتا‪:‬‬
‫‪13‬‬
‫‪Dr. Ali Karimpour Nov 2013‬‬
‫‪l‬‬
‫‪l‬‬
‫‪d‬‬
‫‪f‬‬
‫(‬
‫‪‬‬
‫)‬
‫‪d‬‬
‫) ‪h (‬‬
‫‪l‬‬
‫‪f l ( ) ‬‬
‫‪,‬‬
‫‪h‬‬
‫(‬
‫‪‬‬
‫)‬
‫‪‬‬
‫‪d l‬‬
‫‪d l‬‬
‫)‪f ( A)  h( A‬‬
lecture 3
Function of Square Matrix
.A100 ‫ مطلوبست محاسبه‬:3-3 ‫مثال‬
0 1 
A

 1  2
( A)  I  A 
.f(λ)=λ100 ‫فرض کنید‬
.‫ محاسبه شود‬A ‫حال باید مقادیر ویژه‬

1
 2  2  1
1 2
1  2  1
:‫ را بصورت زیر در نظر بگیریم‬h() ‫حال باید‬
h( )  0  1
h( )  99  100
A100
f (1)  h(1)

(1)100  0  1
f (1)  h(1)

100(1)99  1
:‫ عبارتست از‬h() ‫حال‬
1 0
 0 1   99  100
 99
 100




14
0
1

1

2
100
101



 

Dr. Ali Karimpour Nov 2013
lecture 3
Function of Square Matrix
0 0  2 
A  0 1 0 
1 0 3 
eAt ‫ مطلوبست محاسبه‬:4-3 ‫مثال‬
.f(λ)=eλt ‫فرض کنید‬
.‫ محاسبه شود‬A ‫حال باید مقادیر ویژه‬
( A)  I  A  ( 1)2 (  2)
1  2  1, 3  2
:‫ را بصورت زیر در نظر بگیریم‬h() ‫حال باید‬
h( )  0  1  22
f (1)  h(1)

et  0  1  2
0  2tet  e2t
f (1)  h(1)

tet  1  22
1  3tet  2et  2e2t
f (2)  h(2)

e2t  0  21  42
2e  e
e   I   A   A  ....   0

 e  e
t
At
2t
2
0
1
0 2e  2e 
e
0 

0 2e  e 
t
t
2
2t
2  tet  et  e2t
:‫ عبارتست از‬f(A) ‫حال‬
2t
t
2t
t
15
Dr. Ali Karimpour Nov 2013
lecture 3
Function of Square Matrix
0 2  2 
A  0 1
0 
1  1 3 
eAt ‫ مطلوبست محاسبه‬:5-3 ‫مثال‬
.f(λ)=eλt ‫فرض کنید‬
.‫ محاسبه شود‬A ‫حال باید مقادیر ویژه‬
( A)  I  A  ( 1)2 (  2)
1  2  1, 3  2
:‫ را بصورت زیر در نظر بگیریم‬h() ‫حال باید‬
h( )  0  1  22
f (1)  h(1)

et  0  1  2
0  2tet  e2t
f (1)  h(1)

tet  1  22
1  3tet  2et  2e2t
f (2)  h(2)

e2t  0  21  42
2  tet  et  e2t
:‫ عبارتست از‬f(A) ‫حال‬
2e  e
e   I   A   A  ....   0

 e  e
t
At
2t
2
0
1
t
2
2t
t
2te
e
 te
t
t
2e  2e
0
2e  e
t
2t
2t
t




!‫مقایسه با مثال قبل‬
16
Dr. Ali Karimpour Nov 2013
lecture 3
Function of Square Matrix
1 1 0 0 
0  1 0
1

Aˆ  
 0 0 1 1 


0
0
0

1

e
Aˆ t
‫ مطلوبست محاسبه‬:6-3 ‫مثال‬
.f(λ)=eλt ‫فرض کنید‬
1  2  3  4  1
h()  0  1 (  1 )  2 (  1 )2  3 (  1 )3
:‫ عبارتست از‬A ‫مقادیر ویژه‬
:‫ را بصورت زیر در نظر بگیریم‬h() ‫حال باید‬
f (1 )  h(1 )

f (1 )  0
f 1 (1 )  h1 (1 )

f 1 (1 )  1
f 2 (1 )  h2 (1 )

f 2 (1 )  22
f 3 (1 )  h3 (1 )

f 3 (1 )  63
 f (1 )

0

ˆ
f ( A) 
 0

 0
f 1 (1 ) / 1! f 2 (1 ) / 2!
f (1 )
0
f 1 (1 ) / 1!
f (1 )
0
0
f 3 (1 ) / 3!

f 2 (1 ) / 2!
f 1 (1 ) / 1! 

f (1 ) 
e  1t

0
ˆ
e At  
 0

 0
t
te 1
t
e1
0
0
t
t
t 2e 1 / 2! t 3e 1 / 3!

 1t
2  1t
te
t e / 2!
t
t
e1
te 1 

 1t
0
e

17
Dr. Ali Karimpour Nov 2013
lecture 3
Function of Square Matrix
 1 1 0 0
0  1 0
1

A   0 0 1 0

 0 0 0 2
0 0 0 0

 1t
e

 0
e At   0

 0
 0

 1t
te
t
e1
0
0
0
2  1t
0
0 
0

1
 2 
t e / 2! 0
t
te 1
0
t
e1
0
0
e 2 t
0
0
e ‫( و‬sI - A) ‫ مطلوبست محاسبه‬:7-3 ‫مثال‬
At
0 

0 
 1
s 
0 
1

 2t 
 0
te 

e 2t 

1
( sI  A)   0


 0


 0

-1
:‫حال با توجه به مثال قبل داریم‬
1
s  1 2
1
s  1
0
1
s  1 3
1
s  1 2
1
s  1
0
0
0
0
0
1
s  2
0
0
0



0 


0 

1 

2
s   2  
1 

s  2 18

0
Dr. Ali Karimpour Nov 2013
lecture 3
Function of Square Matrix
e  1  t 
t
t
2 2
2!
 ... 
t
n n
n!
 ...
:‫سری نمایی‬
(I )
:‫ در رابطه فوق داریم‬A ‫با قرار دادن‬
2
n
t
t
e  I  tA  A  ...  A  ...
2!
n!
At
2
e I
e 
1
e
e e
d
e  Ae  e A
dt
A ( t1 t2 )
0
At
n
e
 At
At
At1
At2
At
e At
‫خواص مهم‬
At
‫( مطلوبست اثبات چهار خاصیت فوق‬I) ‫ با کمک رابطه‬:1-3 ‫تمرین‬
e
( A B ) t
e e
At
Bt
:‫و خاصیت خیلی مهم‬
........:‫ولی در حالت خاص‬
19
Dr. Ali Karimpour Nov 2013
lecture 3
Function of Square Matrix
e  1  t 
t
t
2 2
2!
 ... 
t
n n
n!
2
:‫سری نمایی‬
 ...
:‫ در رابطه فوق داریم‬A ‫با قرار دادن‬
n
t
t
e  I  tA  A  ...  A  ...
2!
n!
At
2
n
t 
L   s
 k! 
:‫می دانیم‬
k
Le
At
 s
1
 ( k 1 )
:‫پس‬
I  s A  s A  ...  s
2
3
2
 n 1
A  ...
n
:‫با قدری ساده سازی داریم‬
Le
At
  ( sI  A)
1
e  L ( sI  A)
At
1
1

20
Dr. Ali Karimpour Nov 2013
‫‪lecture 3‬‬
‫‪Lyapunov Equation‬‬
‫معادله مقابل را در نظر بگیرید‪.‬‬
‫‪n m‬‬
‫‪n m‬‬
‫‪‬‬
‫‪‬‬
‫‪AM  MB  C‬‬
‫این معادله‪ ،‬معادله لیاپانوف نام دارد و در واقع دارای ‪ nm‬معادله‬
‫‪‬‬
‫‪‬‬
‫‪m m‬‬
‫و ‪ nm‬مجهول (درایه های ماتریس ‪ )M‬می باشد‪.‬‬
‫یادآوری‪:‬‬
‫‪n n‬‬
‫‪n 1‬‬
‫‪‬‬
‫‪Ax  y‬‬
‫‪‬‬
‫‪‬‬
‫‪m  n m 1‬‬
‫معادله لیاپانوف نیز بصورت زیر قابل نمایش است‪:‬‬
‫‪n m‬‬
‫‪n m‬‬
‫‪‬‬
‫‪‬‬
‫‪AM  MB  C‬‬
‫‪21‬‬
‫حل معادله لیاپانوف‪M  lyap ( A, B,C ) :‬‬
‫‪Dr. Ali Karimpour Nov 2013‬‬
‫‪‬‬
‫‪m m‬‬
‫‪‬‬
‫‪n n‬‬
‫‪lecture 3‬‬
‫‪Lyapunov Equation‬‬
‫‪Ax  y‬‬
‫معادله خطی جبری‪:‬‬
‫اسکالر ‪ ‬مقدار ویژه ‪ A‬نام دارد اگر بردار غیر صفر ‪ v‬یافت شود که‬
‫معادله لیاپانوف‪:‬‬
‫‪n m‬‬
‫‪n m‬‬
‫‪‬‬
‫‪‬‬
‫‪AM  MB  C‬‬
‫‪‬‬
‫‪m m‬‬
‫‪22‬‬
‫‪Dr. Ali Karimpour Nov 2013‬‬
‫‪‬‬
‫‪n n‬‬
lecture 3
Some Useful Formula
‫ ماتریسهای مربعی هستند در این صورت‬B ‫ و‬A ‫فرض کنید‬
 ( AB)  min  ( A),  ( B)
‫ ماتریسهای مربعی دلخواه غیر منفرد هستند‬D ‫ و‬C ‫فرض کنید‬
 ( AC)   ( A)   ( DA)
‫ است در این صورت‬nm ‫ ماتریس‬B ‫ و‬mn ، A ‫فرض کنید‬
det( I m  AB )  det( I n  BA)
: ‫برای اثبات فرض کنید‬
 I A
N 

0
I


m
n
 I 0
Q


B
I


m
n
 I  A
P

B
I


m
n
P)  det( NP)  det(QP)  det(PI n)  BA)
det(I mdet(
 AB
23
Dr. Ali Karimpour Nov 2013
‫‪lecture 3‬‬
‫‪Quadratic Form and Orthogonal Matrix‬‬
‫ماتریسهای متقارن و فرم مجذوری (مربعی) و ماتریس متعامد (یکانی)‬
‫تعریف ‪ :1-3‬یک ماتریس ‪ M  R nn‬متقارن )‪ (symmetric‬نامیده می شود اگر ترانهاده آن‬
‫ماتریس با خودش برابر باشد‪ .‬یعنی‪:‬‬
‫‪T‬‬
‫‪M M‬‬
‫تعریف ‪ :2-3‬برای یک ماتریس متقارن ‪ M‬و هر بردار ‪ x‬عبارت ‪ xTMx‬فرم مجذوری (مربعی) نامیده‬
‫می شود‪.‬‬
‫تعریف ‪ :3-3‬یک ماتریس‪ M  R nn‬متعامد )‪ (orthogonal‬نامیده می شود اگر تمام ستونهای آن‬
‫متعامد یکه باشند‪ .‬در این ماتریسها‪:‬‬
‫‪1‬‬
‫‪24‬‬
‫‪Dr. Ali Karimpour Nov 2013‬‬
‫‪M M  I, M  M‬‬
‫‪T‬‬
‫‪T‬‬
‫‪lecture 3‬‬
‫‪Quadratic Form and Positive Definiteness‬‬
‫قضیه ‪ :3-3‬برای هر ماتریس حقیقی متقارن ‪ ،M‬یک ماتریس متعامد ‪ Q‬وجود دارد بگونه ای که‪:‬‬
‫‪M  QDQ or D  Q MQ‬‬
‫‪T‬‬
‫‪T‬‬
‫ماتریس ‪ ،D‬یک ماتریس قطری است که مقادیر ویژه ‪ M‬حقیقی بوده و بر روی قطر ‪ D‬قرار دارد و‬
‫ستونهای ‪ Q‬هم بردارهای ویژه ‪ M‬می باشد‪.‬‬
‫اثبات‪ :‬واضح است که ماتریس ‪ ،D‬تبدیل همانندی ماتریس ‪ M‬است پس برای اثبات قضیه کافی است‬
‫نشان دهیم که‬
‫مقادیر ویژه ‪ M‬حقیقی است ‪-‬بردار ویژه توسعه یافته نداریم و ‪-‬ماتریس ‪ Q‬متعامد است‬‫فرض کنید ‪ ‬مقادیر ویژه ‪ M‬است پس‬
‫‪v Mv  v v‬‬
‫‪v Mv  v v‬‬
‫‪Mv  v‬‬
‫‪‬حقیقی است ‪‬‬
‫تمرین ‪ :4-3‬نشان دهید برای یک ماتریس مربعی متقارن بردار ویژه توسعه یافته نداریم و ماتریس تبدیل‬
‫به فرم قطری می تواند متعامد باشد‪.‬‬
‫حقیقی‬
‫‪25‬‬
‫‪Dr. Ali Karimpour Nov 2013‬‬
‫*‬
‫*‬
‫*‬
‫*‬
‫‪lecture 3‬‬
‫‪Quadratic Form and Positive Definiteness‬‬
‫ماتریسهای معین‬
‫تعریف ‪ :4-3‬یک ماتریس متقارن ‪ M  R nn‬مثبت معین )‪ (positive definite‬نامیده می شود‬
‫)‪ (M>0‬اگر برای هر ‪ x  R n‬داشته باشیم‬
‫‪‬‬
‫‪x M xR‬‬
‫‪T‬‬
‫تعریف ‪ :5-3‬یک ماتریس متقارن ‪ M  R nn‬منفی معین )‪ (negative definite‬نامیده می شود‬
‫)‪ (M<0‬اگر برای هر ‪ x  R n‬داشته باشیم‬
‫‪‬‬
‫‪x M xR‬‬
‫‪T‬‬
‫تعریف ‪ :6-3‬یک ماتریس متقارن ‪ M  R nn‬مثبت نیمه معین )‪(positive semi definite‬‬
‫نامیده می شود )‪ (M≥0‬اگر برای هر‪ x  R n‬داشته باشیم‬
‫‪x M x R  0‬‬
‫‪‬‬
‫‪T‬‬
‫تعریف ‪ :7-3‬یک ماتریس متقارن ‪ M  R nn‬منفی نیمه معین )‪(negative semi definite‬‬
‫نامیده می شود )‪ (M0‬اگر برای هر ‪ x  R n‬داشته باشیم‬
‫‪26‬‬
‫‪Dr. Ali Karimpour Nov 2013‬‬
‫‪x M x R  0‬‬
‫‪‬‬
‫‪T‬‬
‫‪lecture 3‬‬
‫‪Quadratic Form and Positive Definiteness‬‬
‫قضیه ‪ :4-3‬ماتریس حقیقی متقارن ‪ ،M‬مثبت معین (مثبت نیمه معین) است اگر و فقط اگر هر کدام از‬
‫شرایط زیر برقرار باشد‪.‬‬
‫‪ -1‬تمام مقادیر ویژه ماتریس ‪ ،M‬مثبت (مثبت یا صفر) باشد‪.‬‬
‫‪ -2‬تمام کهادهای یا ماینورهای اصلی مقدم ماتریس ‪ ،M‬مثبت (مثبت یا صفر) باشد‪.‬‬
‫‪ -3‬ماتریس غیر منفرد ‪ N‬با ابعاد ‪ nn‬وجود داشته باشد که ‪( M=NTN‬ماتریس غیر منفرد ‪ N‬با ابعاد‬
‫‪ nn‬و یا ماتریس ‪ N‬با ابعاد ‪ mn‬با ‪ m<n‬وجود داشته باشد که ‪)M=NTN‬‬
‫‪27‬‬
‫‪Dr. Ali Karimpour Nov 2013‬‬
‫‪lecture 3‬‬
‫‪Quadratic Form and Positive Definiteness‬‬
‫قضیه ‪:5-3‬‬
‫‪ -1‬ماتریس ‪ ،H‬با ابعاد ‪ mn‬و فرض ‪ m ≥ n‬دارای رتبه ‪ n‬است اگر و فقط اگر ماتریس ‪ HTH‬که بعد‬
‫‪ nn‬دارد دارای رتبه ‪ n‬بوده یا ‪det(HTH)≠0‬‬
‫‪ -2‬ماتریس ‪ ،H‬با ابعاد ‪ mn‬و فرض ‪ m  n‬دارای رتبه ‪ m‬است اگر و فقط اگر ماتریس ‪ HHT‬که بعد‬
‫‪ mm‬دارد دارای رتبه ‪ m‬بوده یا ‪det(HHT)≠0‬‬
‫اثبات‪ :‬قسمت اول را اثبات می کنیم و قسمت دوم بصورت مشابه اثبات می شود‪ .‬واضح است که باید‬
‫در طرف قضیه اثبات شود یعنی نشان دهیم‪:‬‬
‫‪ (H H )  n   (H )  n‬‬
‫‪T‬‬
‫) ‪(I‬‬
‫فرض کنیم رتبه ‪ H‬مساوی ‪ n‬نباشد پس بردار غیر صفر ‪ v‬وحود دارد به قسمی که‪:‬‬
‫تناقض‬
‫‪Hv  0‬‬
‫‪‬‬
‫‪H Hv  0‬‬
‫) ‪( II‬‬
‫‪ (H )  n   (H H )  n‬‬
‫‪‬‬
‫‪T‬‬
‫‪T‬‬
‫فرض کنیم رتبه ‪ HTH‬مساوی ‪ n‬نباشد پس بردار غیر صفر ‪ v‬وحود دارد به قسمی که‪:‬‬
‫تناقض ‪28‬‬
‫‪H Hv  0  v H Hv  0  ( Hv) Hv  Hv  0  Hv  0 ‬‬
‫‪2‬‬
‫‪Dr. Ali Karimpour Nov 2013‬‬
‫‪2‬‬
‫‪T‬‬
‫‪T‬‬
‫‪T‬‬
‫‪T‬‬
lecture 3
Singular Value Decomposition (SVD)
YCll ‫ و ماتریسهای یکانی که‬Rlm ‫ در اینصورت ماتریس‬MClm ‫ فرض کنید که‬:6-3 ‫قضیه‬
M  YU H
S 0 


0 0
 1 0
0 
2
S
.
.

0 0
0
... 0 
... . 

...  r 
:‫ وجود دارد به قسمی که‬UCmm ‫و که‬
...
1   2  ........  r  0
Y  [ y1 , y2 ,......,yl ], U  [u1 , u 2 ,......,u m ]
.......................‫ ها عبارتست از‬i ‫که در رابطه فوق‬
.......................‫ عبارتست از‬Y ‫ستونهای ماتریس‬
.......................‫ عبارتست از‬U ‫ستونهای ماتریس‬
29
Dr. Ali Karimpour Nov 2013
lecture 3
Singular Value Decomposition (SVD)
1 2  1
M  3 4 1 
4 2 8 
‫ مطلوبست تجزیه مقادیر تکین ماتریس مقابل‬:8-3 ‫مثال‬
0  0.50  0.33  0.80
0.04  0.53  0.85 9.77 0
M  0.38  0.77 0.51  .  0 4.53 0  . 0.35  0.77 0.53
0.92 0.34  0.17  0
0
0 0.79 0.55
0.27 
0.50
u1  0.35
0.79
0.04
Mu1  9.770.38  9.77 y1
0.92
 0.80
u3   0.53 
 0.27 
 0.33
u 2   0.77
 0.55 
H
 0.53
Mu2  4.53 0.77  4.53y2
 0.34 
Has no affect on the output or
Mu3  0
.......................‫ عبارتست از‬M ‫فضای رنج ماتریس‬
.......................‫ عبارتست از‬M ‫پوچ ماتریس‬30‫فضای‬
Dr. Ali Karimpour Nov 2013
lecture 3
Norm of vectors
p-norm is:
x
p

p
   ai 
 i

1
p
For p=1 we have 1-norm or sum norm
p 1


x 1    ai 
 i

1/ 2
For p=2 we have 2-norm or euclidian norm
For p=∞ we have ∞-norm or max norm

2
x 2    ai 
 i

x

 max  ai
i

31
Dr. Ali Karimpour Nov 2013
lecture 3
Norm of matrices
.‫نرم برداری را می توان به ماتریسها هم گسترش داد‬
Sum matrix norm (extension of 1-norm of vectors) is:
A sum   aij
i, j
Frobenius norm (extension of 2-norm of vectors) is:
A
F

a
2
ij
i, j
aij
Max element norm (extension of max norm of vectors) is: A max  max
i, j
32
Dr. Ali Karimpour Nov 2013
‫‪lecture 3‬‬
‫‪Induced matrix norm‬‬
‫یک نرم برای ماتریسها نرم ماتریسی نامیده می شود اگر دارای خاصیت زیر باشد‪:‬‬
‫‪AB  A . B‬‬
‫نرم القایی بصورت زیر تعریف می شود‪:‬‬
‫‪p‬‬
‫‪A ip  max Ax‬‬
‫هر نرم القایی نرم ماتریسی است‪.‬‬
‫‪33‬‬
‫‪Dr. Ali Karimpour Nov 2013‬‬
‫‪x p 1‬‬
lecture 3
Matrix norm for matrices
A ip  max Ax
x p 1
p
:‫ در رابطه نرم القایی داریم‬p=1 ‫با فرض‬
A i1  max Ax 1  max aij
x 1 1
j
Maximum column sum
i
:‫ در رابطه نرم القایی داریم‬p= ‫با فرض‬
A i  max Ax   max aij
x
1

i
Maximum row sum
j
:‫ در رابطه نرم القایی داریم‬p=2 ‫با فرض‬
A i 2  max Ax 2  max
x 2 1
x 2 1
Ax
x
2
  1 ( A)   max ( A)   ( A)
2
34
Dr. Ali Karimpour Nov 2013
‫‪lecture 3‬‬
‫‪Exercises‬‬
‫تمرینها‬
‫تمرین ‪ :1-3‬با کمک رابطه‬
‫‪ ...‬‬
‫روابط زیر را اثبات کنید‪.‬‬
‫‪d‬‬
‫‪e  Ae  e A‬‬
‫‪dt‬‬
‫‪At‬‬
‫‪At‬‬
‫‪At‬‬
‫‪t‬‬
‫‪n n‬‬
‫!‪n‬‬
‫‪ At‬‬
‫‪t‬‬
‫‪2 2‬‬
‫‪ ... ‬‬
‫‪e‬‬
‫!‪2‬‬
‫‪e  1  t ‬‬
‫‪t‬‬
‫‪e ‬‬
‫‪1‬‬
‫‪At2‬‬
‫‪At‬‬
‫‪e e‬‬
‫‪At1‬‬
‫) ‪A ( t1 t2‬‬
‫‪e‬‬
‫‪e I‬‬
‫‪0‬‬
‫تمرین ‪ :3-3‬نشان دهید در یک ماتریس مربعی با مقادیر ویژه مجزا‪ ،‬بردارهای ویژه از هم مستقل‬
‫‪n‬‬
‫)‬
‫هستند‪( .‬راهنمایی‪ :‬اثبات با برهان خلف و تشکیل ‪( A   I )....( A   I ) v‬‬
‫‪i‬‬
‫‪i‬‬
‫‪k 1‬‬
‫‪n‬‬
‫‪2‬‬
‫تمرین ‪ :4-3‬نشان دهید برای یک ماتریس مربعی متقارن بردار ویژه توسعه یافته نداریم و ماتریس تبدیل‬
‫به فرم قطری می تواند متعامد باشد‪( .‬راهنمایی‪ :‬اثبات با برهان خلف)‬
‫‪35‬‬
‫‪Dr. Ali Karimpour Nov 2013‬‬
‫‪lecture 3‬‬
‫تمرینها‬
‫‪Exercises‬‬
‫تمرین ‪ :5-3‬نشان دهید اگر ‪ λ‬مقدار ویژه ماتریس ‪ A‬بوده و ‪ x‬بردار ویژه متناظر آن باشد در اینصورت‬
‫)‪ f(λ‬مقدار ویژه ماتریس )‪ f(A‬بوده و ‪ x‬بردار ویژه متناظر آن است‪.‬‬
‫تمرین ‪ :6-3‬نشان دهید توابع یک ماتریس خاصیت جابجایی دارد یعنی‪:‬‬
‫)‪f(A)g(A)=g(A)f(A‬‬
‫تمرین ‪ :7-3‬فرض کنید‬
‫مطلوبست تعیین ‪ B‬بگونه ای که ‪. eB=C‬‬
‫نشان دهید که اگر ‪ λi=0‬باشد آنگاه ‪ B‬وجود ندارد‪.‬‬
‫حال فرض کنید‬
‫مطلوبست تعیین ‪ B‬بگونه ای که ‪ . eB=C‬آیا درست است که برای‬
‫هر ‪ C‬غیر منفرد ماتریس ‪ B‬وجود دارد که ‪eB=C‬‬
‫‪0‬‬
‫‪0‬‬
‫‪‬‬
‫‪ ‬‬
‫‪0‬‬
‫‪0‬‬
‫‪‬‬
‫‪ ‬‬
‫‪3‬‬
‫‪0‬‬
‫‪‬‬
‫‪0‬‬
‫‪2‬‬
‫‪‬‬
‫‪C  0‬‬
‫‪‬‬
‫‪ 0‬‬
‫‪1‬‬
‫‪ 1‬‬
‫‪C  0 ‬‬
‫‪‬‬
‫‪ 0 0‬‬
‫تمرین ‪ :8-3‬اگرماتریس ‪ A‬متقارن باشد رابطه بین مقادیر ویژه و مقادیر تکین چیست؟ (راهنمایی‪ :‬در‬
‫ماتریسهای متقارن داریم‪)A=A2 :‬‬
‫‪36‬‬
‫‪Dr. Ali Karimpour Nov 2013‬‬
‫‪lecture 3‬‬
‫تمرینها‬
‫تمرین ‪:9-3‬‬
‫تمرین ‪:10-3‬‬
‫تمرین ‪ :11-3‬تکرار ‪ 9-3‬برای ماتریسهای زیر‬
‫‪37‬‬
‫‪Dr. Ali Karimpour Nov 2013‬‬
‫‪Exercises‬‬
‫‪lecture 3‬‬
‫تمرینها‬
‫تمرین ‪:12-3‬‬
‫تمرین ‪:13-3‬‬
‫تمرین ‪:14-3‬‬
‫تمرین ‪ :15-3‬نشان دهید که‪:‬‬
‫‪38‬‬
‫‪Dr. Ali Karimpour Nov 2013‬‬
‫‪Exercises‬‬
lecture 3
Answers to selected problems
:7-3 ‫پاسخ تمرین‬
:11-3 ‫پاسخ تمرین‬
:14-3 ‫پاسخ تمرین‬
39
Dr. Ali Karimpour Nov 2013