2015年11月6日 星期五

Linear Algebra - Ch5 矩陣對角化 Diagonalization of Matrice

 

這篇文章的初版是在考研究所時完成,而因為線代在應用數學中佔著非常核心的位置,在研究中反覆使用,因此我這次對線代的核心觀念,linear transformation、eigenvalue 等重要議題做了第二次更新,希望能助於大家學習。2015.11.6. note.







一、Eigenvalue and Eigenvector


對於一個給定的線性變換,它的特徵向量 v 經過這個線性變換之後,得到的新向量仍然與原來的v保持在同一條直線上,但其長度也許會改變。

用矩陣表示該問題的話,若 A 為一 $n \times n$ 矩陣,在 $R^n$ 中是否存在著非零向量 x,使得 Ax 與 x 之間存在著倍數關係?

  • Eigenvalue, Eigenvector : 如下圖之定義與解說。
  • Eigenspace : 若A為一nxn矩陣,且λ為A的一個特徵值,則對應於λ的所有特徵向量與零向量可構成一個Rn的子空間,稱為特徵空間。


Characteristic Polynomial and Characteristic Equation : 




利用特徵多項式求特徵空間的例題:








二、矩陣相似性 (Matrix Similarity)



1. 相似定義與性質


定義 : 若存在可逆矩陣P使得 P^(-1)AP=B,我們稱 A 相似於 B
相似的意義 : 相似就是換底,若以矩陣 M 的行向量作為一組基底向量,線性變換 A 參考此基底的變換矩陣即為 B。相似變換是矩陣之間的一種等價關係。
相似變換下的不變性質,若A~B,則

  • 兩者的秩相等。rank(A) = rank(B)
  • 兩者的行列式值相等。det(A) = det(B)
  • 兩者的跡數相等。tr(A) = tr(B)
  • 兩者nullity相等。nullity(A) = nullity(B)
  • 兩者擁有同樣的eigenvalue,儘管相應的eigenvector一般不同。
  • 兩者擁有同樣的特徵多項式。Pa(x) = Pb(x)


2. 使用相似性質的原因


不變性質產生的原因有兩個:

  • 兩個相似的矩陣可以看做是同一個線性變換的「兩面」,即在兩個不同的base下的表現。
  • 映射X -> P^(−1)XP是從n階方陣射到n階方陣的一個置換同構,因為P是可逆的。

因此,在給定了矩陣A後,只要能找到一個與之相似而又足夠「簡單」的「規範形式」B,那麼對A的研究就可以轉化為對更簡單的矩陣B的研究。比如說A被稱為可對角化的話,那麼它與一個對角矩陣相似。



3. 檢查二矩陣是否相似


若A和B的特徵值集合不同,則A和B不相似。若A和B的特徵值集合相同,考慮下列三種可能情形:

  • 當 A 和 B 都是可對角化時,A 相似於 B。
  • 當 A 和 B 恰有一個矩陣是可對角化,A 和 B 不相似。
  • 當 A 和 B 都不為可對角化時,可以透過解方程式一途來確定二矩陣是否相似。要徹底解決如何檢查矩陣是否相似此問題,必須使用Jordan form。




三、可對角化矩陣 (Diagonalizable Matrix)


一方陣A若存在一可逆矩陣P使得P^(-1)AP為對角矩陣(P對角化A),則稱為可對角化矩陣。
可對角化的充要條件 :

  • 一nxn的矩陣A為可對角化,若且唯若它有n個線性獨立的特徵向量。
  • P(x)在F中可分解且各個eigenvalue的代數重數 = 幾何重數
    • 代數重數 : eigenvalue之重根個數,稱代數重數,符號記為am(λi)。
    • 幾何重數 : 其所對應之eigenvector的個數,稱幾何重數,符號記為gm(λi)。
      • am(λi) <= gm(λi),也就是說代數重數為1時幾何重數也必為1,不必驗證是否相等 
      • 當am(λi) = gm(λi) 時,該矩陣可以對角化。

[補記] 以代數重數幾何重數解是否可對角化題目


可對角化的充分條件 : 若nxn矩陣A有n個不同的特徵值,則對應的特徵向量為線性獨立且A為可對角化矩陣。例題:






四、實對稱矩陣與正交對角化 



1. 實對稱矩陣


定義 : 實對稱矩陣是一個方形矩陣,其元素都為實數,且轉置矩陣和自身相等 (即矩陣各個元素都為實數),記做 A = A^T。

實對稱矩陣有以下的性質:

  • 實對稱矩陣A的不同特徵值所對應的特徵向量是正交的。
  • 實對稱矩陣A的特徵值都是實數,特徵向量都是實向量。
  • n階實對稱矩陣A必可對角化。
  • 可用正交矩陣對角化。
  • K重特徵值必有K個線性無關的特徵向量,或者說必有秩rank(A-λI)=n-k。


2. 對稱矩陣的正交對角化 (orthogonal diagonalization)


令A為一nxn的矩陣

  1. 找出A的特徵值並找出每個特徵值的重數 
  2. 對於每個重數k=1的特徵值,選出一個單位特徵向量
  3. 對於每個重數為k>1的特徵值,找出一組有k個線性獨立的特徵向量集。若這個向量集並非單範正交,利用Gram-Schmidt單範正交過程將之單範正交化 
  4. 由(2)與(3)的結果產生一組有n個特徵向量的單範正交集。利用這些特徵向量來做為矩陣P的行向量





References


黃子嘉線性代數講義

linear algebra and its applications






技術提供:Blogger.