3rd February 2024, 8 min read

Hermitesche, unitäre und normale Matrizen

Original post is here eklausmeier.goip.de/blog/2024/02-03-hermitesche-unitaere-und-normale-matrizen.

Hermitesche Matrizen $(A^{*} = A)$ , unitäre Matrizen $(A^{*} = A^{- 1})$ und normale Matrizen $(A^{*} A = A A^{*})$ lassen sich unitär diagonalisieren. Dies ist das zentrale Ergebnis dieses Abschnittes.

Während die Jordansche Normalform für jede komplexe Matrix eine Fast-Diagonalgestalt ermöglicht [genauer $(0, 1)$ -Bandmatrixform mit Eigenwerten als Diagonalelementen], so erlaubt das nachfolgende Lemma von Schur eine Triagonalgestalt, allerdings auf vollständig unitärer Basis. Genau wie die Jordansche Normalform, gilt die Schursche Normalform nicht für reelle Matrizen in reeller Form, falls das charakteristische Polynom über $R$ nicht zerfällt. Es entstehen dann $(2 \times 2)$ reelle Blöcke. Doch spielen hier und im weiteren reelle Matrizen keine bedeutende Rolle.

1. Satz: Satz über eine Schursche Normalform, Schur, Issai (10.01.1875--10.01.1941). $\forall A \in C^{n \times n}$ : $\exists U$ unitär:

U^{*} A U = (\begin{matrix} λ_{1} & * & \dots & * \\ λ_{2} & * \\ ⋱ & ⋮ \\ 0 & λ_{n} \end{matrix}),

mit $λ_{i}$ Eigenwerte von $A$ .

Beweis: Sei $λ_{1}$ Eigenwert von $A$ und $x_{1}$ normierter zugehöriger Eigenvektor $x^{*} 1 x_{1} = 1$ . Es existieren linear unabhängige, paarweise unitäre (orthogonale) $y_{2}, \dots, y_{n} \in C^{n}$ , sodaß $X_{1} := (x_{1}, y_{2}, \dots, y_{n})$ unitär ist (Basisergänzungssatz, Schmidtsches Orthogonalisierungsverfahren). Schmidt, Erhard (1876--1959). Also $X^{*} 1 X_{1} = I$ , somit $x^{*} 1 y_{i} = 0$ $(i = 2, \dots, n)$ , daher

X^{*} 1 A X_{1} = (\begin{matrix} x^{*} 1 \\ y^{*} 2 \\ ⋮ \\ y^{*} n \end{matrix}) (A x_{1}, A y_{2}, \dots, A y_{n}) = (\begin{matrix} λ_{1} & * & \dots & * \\ 0 \\ ⋮ & A_{1} \\ 0 \end{matrix}) .

$A_{1} \in C^{(n - 1) \times (n - 1)}$ enthält außer $λ_{1}$ , aufgrund der Ähnlichkeitstransformation, genau die gleichen Eigenwerte wie $A$ . Man verfährt jetzt erneut wie oben: Zum Eigenwert $λ_{2}$ von $A_{1}$ (und auch $A$ ) gehört ein normierter Eigenvektor $x_{2}$ , $A x_{2} = λ_{2} x_{2}$ , mit $x^{*} 2 x_{2} = 1$ . Man ergänzt wieder zu einem paarweise orthogonalen Vektorsystem $x_{2}, z_{3}, \dots, z_{n} \in C^{n - 1}$ , entsprechend

X_{2} := (\begin{matrix} 1 & 0 & 0 & \dots & 0 \\ 0 & x_{2} & z_{3} & \dots & z_{n} \end{matrix}) \in C^{n \times n}

und somit

X_{2}^{*} X_{1}^{*} A X_{1} X_{2} = (\begin{matrix} λ_{1} & * & * & \dots & * \\ 0 & λ_{2} & * & \dots & * \\ 0 & 0 \\ ⋮ & ⋮ & A_{3} \\ 0 & 0 \end{matrix}) .

Da unitäre Matrizen eine multiplikative, nicht-abelsche Gruppe (sogar kompakte Gruppe) bilden, insbesondere abgeschlossen sind, folgt nach nochmaliger $(n - 2)$ -facher Wiederholung die behauptete Darstellung. ☐

Aus dem Lemma von Schur folgt übrigens sofort der Dimensionssatz

A : C^{m} \to C^{n}, m = \dim \ker A + \dim Im A,

wenn man bei nicht quadratischen Matrizen, $A$ zu einer quadratischen Matrix aus $C^{(m \lor n) \times (m \lor n)}$ durch Nullauffüllung ergänzt.

2. $A$ heißt normal, falls $A^{*} A = A A^{*}$ , also $A$ und $A^{*}$ kommutieren. Beispielsweise sind hermitesche, schiefhermitesche und (komplexe) Vielfache unitärer Matrizen normal

A^{*} = A^{- 1} \Rightarrow A^{*} A = I = A A^{*} .

“Kleine” und spezielle normale Matrizen lassen sich leicht klassifizieren, wie man durch elementare Rechnung leicht nachweist.

3. Lemma: (1) Normale $(2 \times 2)$ Matrizen sind entweder hermitesch oder komplexe Vielfache unitärer Matrizen.

(2) Eine Dreiecksmatrix ist genau dann normal, wenn sie eine Diagonalmatrix ist.

Die Art einer Diagonalisierbarkeit bestimmt eindeutig Normalität, Hermitizität und Unitärheit.

4. Satz: (1) $A$ normal $⟺$ $A$ unitär diagonalisierbar.

(2) $A$ hermitesch $⟺$ $A$ unitär reell-diagonalisierbar.

(3) $A$ schiefhermitesch $⟺$ $A$ unitär imaginär-diagonalisierbar.

(4) $A$ unitär $⟺$ $A$ unitär unimodular-diagonalisierbar.

Beweis: zu (1): “ $\Rightarrow$ ”: Anwendung des vorstehenden Lemmas auf eine Schursche Normalform von $A$ .

“ $\Leftarrow$ ”: Mit $A = U D U^{*}$ , Diagonalmatrix $D$ und unitärem $U$ ( $U^{*} U = I$ ) rechnet man

\begin{aligned} A^{*} A & = U (D U)^{*} U D U^{*} = U \overset{―}{D} D U^{*}, \\ A A^{*} & = U D U^{*} U (D U)^{*} = U D \overset{―}{D} U^{*} . \end{aligned}

zu (2): “ $\Rightarrow$ ”: $A = A^{*}$ $\Rightarrow$ $x^{*} A x = λ ⟨ x, x ⟩ = x^{*} A^{*} x = (A x)^{*} x = \overset{―}{λ} ⟨ x, x ⟩$ , also $λ = \overset{―}{λ}$ .

“ $\Leftarrow$ ”: $A x_{i} = λ x_{i} = \overset{―}{λ} x_{i} = A^{*} x_{i}$ $\forall i$ , also stimmen $A$ und $A^{*}$ auf einer Eigenbasis $x_{1}, \dots, x_{n}$ überein, also $A = A^{*}$ in jeder Basis.

zu (3): “ $\Rightarrow$ ”: $A = - A^{*}$ , also $A A^{*} = - A^{2} = A^{*} A$ , daher $A$ normal. $x^{*} A x = λ x^{*} x = - x^{*} A^{*} x = - \overset{―}{λ} x^{*} x$ , somit $λ = - \overset{―}{λ}$ , folglich $λ \in i P$ .

“ $\Leftarrow$ ”: Mit $A = U D U^{*}$ und Diagonalmatrix $D = - D^{*}$ ist $- A^{*} = - U \overset{―}{D} U^{*} = U D U^{*} = A$ .

zu (4): “ $\Rightarrow$ ”: Wegen $A^{*} A = I$ ist $A$ invertierbar. Für ein Eigenelement $(λ, x)$ zu $A$ , also $A x = λ x$ , ergibt sich $A^{*} x = \overset{―}{λ} x = A^{- 1} x = \frac{1}{λ} x$ , somit $λ \overset{―}{λ} = 1 = | λ |$ , für unitäre Matrizen $A$ sind sämtliche Eigenwerte daher unimodular.

“ $\Leftarrow$ ”: Eine unimodulare Diagonalmatrix ist unitär. Unitäre Matrizen bilden eine (nicht-abelsche) Gruppe. ☐

Wegen $A X = X D$ ist $X$ die Matrix der Rechtseigenvektoren und $X^{- 1}$ wegen $X^{- 1} A = D X^{- 1}$ die Matrix der Linkseigenvektoren. Eine Umformulierung von (1) des Satzes ist: Das Minimalpolynom einer Matrix besteht genau dann nur aus einfachen Nullstellen, wenn die Matrix normal ist. Natürlich gilt nicht notwendig, daß diagonalähnliche Matrizen hermitesch, unitär oder normal sind, wie $B = (\binom{1 2}{0 3})$ zeigt ( $B B^{⊤} \neq B^{⊤} B$ ). Ist $A$ hermitesch, so ist $A^{*} A = A^{2}$ positiv semidefinit und positiv definit genau dann, wenn $A$ invertierbar ist, da alle Eigenwerte von $A^{2}$ nichtnegativ (bzw. positiv) sind. Der Rang einer schiefsymmetrischen Matrix ist wegen $| A | = (- 1)^{n} | A |$ , immer gerade. Dies hätte man auch mit Hilfe von (3) erkennen können, da die Determinante einer Diagonalmatrix das Produkt der Diagonalelemente ist.

Während die Schursche Normalform eine beliebige Matrix unitär zu triangulieren vermochte, so kann man sogar jede beliebige Matrix $A$ “unitär-diagonalisieren”, wenn man darauf verzichtet auf beiden Seiten der Matrix $A$ die gleiche unitäre Matrix $U$ bzw. $U^{*}$ zu verlangen.

5. Proposition: $\forall A \in C^{n \times n}$ : $\exists U, V$ unitär: $A = U D V$ , mit $D = diag \sqrt{λ_{i}}$ , mit $λ_{i}$ Eigenwerte von $A^{*} A$ .

Beweis: Die Matrix $A^{*} A$ ist hermitesch, also $A^{*} A = W \hat{D} W^{⊤}$ , mit unitärem $W$ und reeller Diagonalmatrix $\hat{D} = diag λ_{i}$ . Es ist

λ_{i} = e_{i}^{⊤} \hat{D} e_{i} = e_{i} W^{*} A^{*} A W e_{i} = {‖ A W e_{i} ‖}_{2}^{2} > 0 .

Setze $D = diag \sqrt{λ_{i}}$ . Dann ist $D^{- 1} W^{*} A^{*} A W D^{- 1} = I$ , also $U := A W D^{- 1}$ unitär. $V := W^{- 1}$ ist ebenfalls unitär und es gilt $U D V = A W D^{- 1} D W^{- 1} = A$ . ☐

Zur Notation siehe Das äußere Produkt und Determinanten.

Für positiv definite (hermitesche) Matrizen erkennt man auch gleich die Existenz einer beliebigen Wurzel, also $\sqrt[r]{A}$ . Insbesondere für eine reelle symmetrische Matrix $A$ mit lauter nicht-negativen Eigenwerten ( $⟺$ positiv semidefinit) gilt: $\exists Q :$ $Q Q = A$ . Ist $A$ nicht quadratisch, so kann man durch Ergänzen von Nullspalten oder Nullzeilen quadratische Form erreichen und man erhält

6. Satz: Singulärwertzerlegung. $\forall A \in C^{m \times n}$ : $\exists U \in C^{m \times m}$ unitär, $V \in C^{n \times n}$ unitär: $A = U D V$ , mit $D \in C^{m \times n}$ : $D = row (diag \sqrt{λ_{i}}, 0) \lor D = col (diag \sqrt{λ_{i}}, 0)$ , mit $λ_{i}$ Eigenwerte von $A^{*} A$ .

Die Quadratwurzeln der Eigenwerte von $A^{*} A$ heißen singuläre Werte, die Zerlegung $A = U D V$ (w.o.) eine Singulärwertzerlegung. An ihr liest man die Pseudoinverse unmittelbar ab: $A^{+} = U D^{+} V$ , wobei $D^{+}$ aus $D$ entsteht, indem man alle Nichtnull-Werte invertiert und die Nullen belässt.

7. Satz: Hurwitz-Kriterium, Adolf Hurwitz (1859--1919). Voraussetzungen: $A$ sei hermitesch und $A ≻ 0$ , $A ⪰ 0$ , $A ≺ 0$ , $A ⪯ 0$ kennzeichne positive, positive Semi-, negative, negative Semidefinitheit. $r$ laufe stets von 1 bis $n$ und der Multiindex $i = (i_{1}, \dots, i_{r})$ sei stets in natürlicher Reihenfolge angeordnet, also $i_{1} < \dots < i_{r}$ . Genauso die Multiindizes $k$ und $ℓ$ .

Behauptung:

\begin{matrix} A ≻ 0 ⟺ A_{1 \dots r}^{1 \dots r} > 0 ⟺ A_{r \dots n}^{r \dots n} > 0 ⟺ A \binom{i_{1}}{i_{1}} \binom{i_{2}}{i_{2}} \binom{\dots}{\dots} \binom{i_{r}}{i_{r}} > 0, \\ A ⪰ 0 ⟺ A \binom{i_{1}}{i_{1}} \binom{i_{2}}{i_{2}} \binom{\dots}{\dots} \binom{i_{r}}{i_{r}} \geq 0, \\ A ≺ 0 ⟺ (- 1)^{r} A_{1 \dots r}^{1 \dots r} > 0 ⟺ (- 1)^{n - r} A_{r \dots n}^{r \dots n} > 0 ⟺ (- 1)^{r} A \binom{i_{1}}{i_{1}} \binom{i_{2}}{i_{2}} \binom{\dots}{\dots} \binom{i_{r}}{i_{r}} > 0, \\ A ⪯ 0 ⟺ (- 1)^{r} A \binom{i_{1}}{i_{1}} \binom{i_{2}}{i_{2}} \binom{\dots}{\dots} \binom{i_{r}}{i_{r}} \geq 0. \end{matrix}

Beweis: Sei $A = X D X^{- 1}$ mit othogonalem $X$ , also $X^{- 1} = X^{⊤}$ , und $D$ sei die Diagonalmatrix der Eigenwerte. Es ist

1 = (X X^{- 1})_{i}^{i} = \sum_{ℓ} X_{i}^{ℓ} (X^{- 1})_{ℓ}^{i} = \sum_{ℓ} (X_{i}^{ℓ})^{2},

also können nicht sämtliche $X_{i}^{ℓ}$ verschwinden. Aus $A = X D X^{- 1} = X (X D)^{⊤}$ folgt

A_{i}^{i} = \sum_{ℓ} X_{i}^{ℓ} (X D)_{i}^{ℓ} = \sum_{k, ℓ} X_{i}^{ℓ} X_{i}^{k} D_{k}^{ℓ} = \sum_{ℓ} (X_{i}^{ℓ})^{2} D_{ℓ}^{ℓ},

da $D_{k}^{ℓ} = 0$ , für $k \neq ℓ$ . An dieser Darstellung von $A_{i}^{i}$ als Summe von Quadraten liest man nun alles ab. Für den Fall einer hermiteschen Matrix führt man die Überlegungen genauso mit unitärem $X$ $(X^{*} = X^{- 1})$ unter Beachtung von $\overset{―}{det C} = det \overset{―}{C}$ . ☐

8. Bemerkung: Kann man eine Matrix nicht unitär diagonalisieren oder treten nicht-lineare Elementarteiler auf, so hat man nicht mehr die Darstellung als Summe von Quadraten (Summe von Beträgen) und man kann dann nicht mehr so einfach entscheiden, ob alle Eigenwerte positiv oder dergleichen sind. Beispielsweise für die Begleitmatrix zu $(λ - 1) (λ - 2) (λ - 3) = λ^{3} - 6 λ^{2} + 11 λ - 6$ verschwinden die ersten beiden Hauptminoren. Ist man nur an dem Vorzeichenverhalten einer Form $x^{*} A x$ interessiert, so kann man das Hurwitz-Kriterium anwenden auf die hermitesche Matrix $\frac{1}{2} (A^{*} + A)$ .

Es gilt zwar $A ⪰ 0 \Rightarrow A_{1 \dots r}^{1 \dots r} \geq 0 \land a_{i i} \geq 0$ , jedoch die Rückrichtung stimmt nicht, wie man erkennt anhand der Matrix

A = (\begin{matrix} 0 & 0 & 0 & 1 \\ 0 & 0 & 0 & 0 \\ 0 & 0 & 0 & 0 \\ 1 & 0 & 0 & 0 \end{matrix}),

mit Eigenwerten 0 (zweifach), $(+ 1)$ und $(- 1)$ .