דף הנושא — מטריצות סימטריות ולכסון אורתוגונלי

המשפט הספקטרלי וקירוב בריבועים פחותים

24 תכונות

12 מהתרגול בלבד

6 מלכודות

בשורה אחת

שני דברים שנפגשים: מטריצה אורתוגונלית היא מטריצה ממשית שעמודותיה בסיס אורתונורמלי — שקול ל- $O^tO=I_n$ — ומטריצה סימטרית ממשית תמיד ניתנת ללכסון אורתוגונלי, כלומר קיימת $O$ אורתוגונלית עם $O^tAO$ אלכסונית. במקביל, ריבועים פחותים: כשאין פתרון ל- $A\vec x=\vec b$ , הפתרון "הכי טוב" הוא בדיוק ההיטל של $\vec b$ על $Col(A)$ , ומשוואת $A^tA\vec x_0=A^t\vec b$ מוצאת אותו בלי לחשב היטל.

מה צריך לדעת קודם

11ההיטל האורתוגונלי ותכונתו המכריעה $\langle proj_W\vec b-\vec b,\,w\rangle=0$ — זו בדיוק המנוע של הוכחת משוואת הריבועים הפחותים, וגם ההגדרה של "הכי קרוב"
12גרם-שמידט — זה הצעד שבפועל מבצעים בלכסון אורתוגונלי, בתוך כל מרחב עצמי בנפרד
7התנאים השקולים ללכסינות (ר"ג $=$ ר"א לכל ע"ע). המשפט הספקטרלי אומר שמטריצה סימטרית ממשית עוברת אותם בחינם, בלי לבדוק

למה זה מוביל

12בבחינה השאלה משלבת את גרם-שמידט (בתוך כל מרחב עצמי בנפרד) ומגיעה כמעט תמיד בשתי צורות: (1) נכון/לא נכון על לכסון אורתוגונלי — 2021ב׳ ש׳6(ב), 2021א׳ ש׳1(ג); (2) חישוב מלא "מצאו $U$ אורתוגונלית ו- $D$ אלכסונית כך ש- $D=U^tAU$ " — 2024ב׳ ש׳4.1, 2021א׳ ש׳5(א), מטלה 12 ש׳2
7סעיף ההמשך אחרי לכסון אורתוגונלי חוזר ללכסון של שבוע 7: חישוב חזקה $A^{2024}\vec v$ (2024ב׳ ש׳4.1.2) או "מצאו $B$ עם $B^2=A$ " (2021א׳ ש׳5(ב))
11ריבועים פחותים מחזיר אותך להיטל: "מצאו את הוקטור הקרוב ביותר ל- $\vec v$ ב- $RowA$ " (2021א׳ ש׳5(ג)) הוא אותה שאלה בדיוק בתחפושת

מטריצה אורתוגונלית — כל הניסוחים השקולים

ההגדרה בהרצאה היא "העמודות הן בסיס אורתונורמלי". כל השאר שקול לה או נובע ממנה. $O\in M_n(\mathbb{R})$ ריבועית.

תכונה	שקול לאורתוגונליות?	למה, ואיך משתמשים בזה
עמודות $O$ הן בסיס אורתונורמלי של $\mathbb{R}^n$		זו ההגדרה בהרצאה 13. שימי לב: המטריצה נקראת אורתוגונלית, אבל העמודות אורתונורמליות.
$O^tO=I_n$		משפט 5. ההוכחה בשורה אחת: $(O^tO)_{ij}=\langle u_i,u_j\rangle=\delta_{ij}$ . זו הבדיקה שכותבים בפתרון.
$O^{-1}=O^t$		הערה בהרצאה: "מטריצה אורתוגונלית היא הופכית של המשוחלפת שלה". בפרט $O$ תמיד הפיכה. זה מה שהופך $O^tAO$ ל- $O^{-1}AO$ , כלומר ללכסון אמיתי ולא סתם חישוב.
$OO^t=I_n$ , כלומר גם השורות בסיס אורתונורמלי		נובע: אם $O^tO=I$ אז $O^t=O^{-1}$ ולכן גם $OO^t=I$ . שימושי: לפעמים קל יותר לבדוק שורות. (התרגול מנסח את ההגדרה דווקא כ- $PP^t=I$ — אותו דבר.)
שימור מכפלה פנימית: $\langle O\vec x,O\vec y\rangle=\langle\vec x,\vec y\rangle$		מיידי ממשפט 1: $\langle O\vec x,O\vec y\rangle=\langle\vec x,O^tO\vec y\rangle=\langle\vec x,\vec y\rangle$ . הכיוון ההפוך גם נכון ונשאל בבחינה 2021א׳ ש׳1(ג): מציבים $\vec x=e_i,\vec y=e_j$ ומקבלים שהעמודות אורתונורמליות.
שימור נורמה: $\\|O\vec x\\|=\\|\vec x\\|$		מקרה פרטי של השורה הקודמת עם $\vec y=\vec x$ . מסקנה מיידית: ע"ע ממשי של מטריצה אורתוגונלית הוא $\pm1$ בלבד.
$\det O=\pm1$		תנאי הכרחי בלבד! $1=\det(O^tO)=\det(O)^2$ . אבל $\begin{pmatrix}1&1\\0&1\end{pmatrix}$ בעלת $\det=1$ ואינה אורתוגונלית. שמשי בזה רק להפרכה.
כל העמודות באורך $1$		הכרחי, לא מספיק — צריך גם ניצבות הדדית. אבל זו ההפרכה הזולה ביותר: עמודה עם נורמה $\ne1$ סוגרת את השאלה מיד.
מכפלה: $O_1,O_2$ אורתוגונליות $\Rightarrow O_1O_2$ אורתוגונלית		$(O_1O_2)^t(O_1O_2)=O_2^tO_1^tO_1O_2=O_2^tO_2=I$ . גם $O^t$ ו- $O^{-1}$ אורתוגונליות.
המטריצה סימטרית		אין שום קשר. $\begin{pmatrix}0&-1\\1&0\end{pmatrix}$ אורתוגונלית ולא סימטרית; $\begin{pmatrix}1&1\\1&-1\end{pmatrix}$ סימטרית ולא אורתוגונלית.

סדר הבדיקה בשאלת "האם

O

אורתוגונלית": נורמה של כל עמודה $\to$ מכפלות בין עמודות. אל תחשבי

O^tO

שלם — זה

n^2

מכפלות במקום

\binom{n+1}{2}

, ומספיק שעמודה אחת לא מנורמלת כדי לסיים.

מטריצות סימטריות ממשיות — מה מובטח, ומה בכיוון ההפוך

העמודה היא "האם הטענה נכונה". שימי לב במיוחד לשורות עם ✗ — הן בדיוק שאלות הנכון/לא נכון בבחינות.

תכונה	נכון?	למה, ואיך משתמשים בזה
$A$ סימטרית ממשית $\Rightarrow$ כל הע"ע ממשיים		משפט 3. ההוכחה: $\lambda\\|\vec v\\|^2=\langle A\vec v,\vec v\rangle=\langle\vec v,A\vec v\rangle=\bar\lambda\\|\vec v\\|^2$ , ולכן $\lambda=\bar\lambda$ .
$A$ סימטרית ממשית $\Rightarrow$ קיים לה ע"ע (ממשי)		מסקנה 2: המשפט היסודי של האלגברה נותן שורש מרוכב, ומשפט 3 מכריח אותו להיות ממשי. כלומר הספקטרום אף פעם לא ריק — לא כמו במקרה הכללי מעל $\mathbb{R}$ .
$A$ סימטרית ממשית $\Rightarrow$ $A$ לכסינה		משפט 6 (המשפט הספקטרלי, ניתן ללא הוכחה). בלי לבדוק ריבויים, בלי לחשב מרחבים עצמיים.
$A$ סימטרית ממשית $\Rightarrow$ קיימת $O$ אורתוגונלית עם $O^tAO$ אלכסונית		החלק השני של משפט 6. זה ניסוח חזק יותר מלכסינות: לא רק שקיימת $P$ הפיכה, קיימת $P$ שהיא אורתוגונלית, ואז $P^{-1}=P^t$ .
וקטורים עצמיים של ע"ע שונים ניצבים מאליהם		משפט 4, מנוסח על מרחבים שלמים: $V_{\lambda_1}\perp V_{\lambda_2}$ . זה חוסך לך את רוב גרם-שמידט — ראי את התהליך למטה.
הכיוון ההפוך: $A\in M_n(\mathbb{R})$ לכסינה אורתוגונלית $\Rightarrow A$ סימטרית		שורה אחת: אם $A=PDP^t$ עם $P$ אורתוגונלית ו- $D$ אלכסונית ממשית אז $A^t=(PDP^t)^t=PD^tP^t=PDP^t=A$ . בפתרון 2021ב׳ ש׳6(ב) משתמשים בדיוק בזה. לכן מעל $\mathbb{R}$ זה אם"ם, וזו הבדיקה של שתי שניות. (מעל $\mathbb{C}$ אין אנלוגיה: לכסינות אוניטרית שקולה לנורמליות.)
$A$ לכסינה $\Rightarrow$ $A$ לכסינה אורתוגונלית		לא. $\begin{pmatrix}1&1\\0&2\end{pmatrix}$ לכסינה (שני ע"ע שונים) ואינה סימטרית, ולכן לפי השורה הקודמת אינה לכסינה אורתוגונלית.
$A$ אורתוגונלית $\Rightarrow$ $A$ לכסינה אורתוגונלית		נשאל ישירות: 2021ב׳ ש׳6(ב). הנגד-דוגמה: $A=\begin{pmatrix}0&-1\\1&0\end{pmatrix}$ אורתוגונלית, לא סימטרית $\Rightarrow$ לא לכסינה אורתוגונלית (מעל $\mathbb{R}$ אין לה ע"ע בכלל).
$A$ סימטרית מרוכבת $\Rightarrow$ לכסינה		המשפט הספקטרלי בקורס מנוסח ל- $A\in M_n(\mathbb{R})$ בלבד. נגד-דוגמה: $A=\begin{pmatrix}1&i\\i&-1\end{pmatrix}$ סימטרית, $\mathrm{tr}=0$ , $\det=0$ , ולכן $p_A(\lambda)=\lambda^2$ — הע"ע היחיד הוא $0$ , ואילו $A\ne0$ . לא לכסינה.
$A$ סימטרית $\Rightarrow$ $A$ הפיכה		לא קשור. בתרגיל 3 בהרצאה $\lambda_1=0$ ע"ע; בתרגיל בתרגול המטריצה $\begin{pmatrix}1&1&1\\1&1&1\\1&1&1\end{pmatrix}$ סימטרית מדרגה $1$ .
$A,B$ סימטריות $\Rightarrow$ $AB$ סימטרית		$(AB)^t=B^tA^t=BA$ , ולכן $AB$ סימטרית אם"ם $AB=BA$ . הסכום $A+B$ כן תמיד סימטרי, וגם $\alpha A$ .

מעל

\mathbb{R}

: לכסינה אורתוגונלית $\iff$ סימטרית. לכן כל שאלת נכון/לא נכון על לכסון אורתוגונלי נחתכת בבדיקה אחת — האם

a_{ij}=a_{ji}

. אם המטריצה לא סימטרית, כתבי "לא לכסינה אורתוגונלית" ועברי הלאה.

ריבועים פחותים — מה בדיוק מובטח

$A\in M_{m\times n}(\mathbb{R})$ , $\vec b\in\mathbb{R}^m$ , ו- $\vec x_0$ ממזער את $\|A\vec x-\vec b\|$ .

תכונה	מובטח?	למה, ואיך משתמשים בזה
קיים $\vec x_0$ ממזער — תמיד, גם אם למערכת אין פתרון		$proj_{Col(A)}(\vec b)\in Col(A)$ , ולכן למערכת $A\vec x=proj_{Col(A)}(\vec b)$ יש פתרון. זה הטיעון של התרגול.
$A\vec x_0$ יחיד ושווה ל- $proj_{Col(A)}(\vec b)$		ההיטל יחיד, ולכן הוקטור $A\vec x_0$ יחיד. זה מה שמובטח.
$\vec x_0$ עצמו יחיד		רק אם עמודות $A$ בת"ל. אחרת יש מרחב שלם של פתרונות — בתרגול כתוב "נמצא פתרון... למשל $\vec x_0$ ", וזה לא במקרה.
$\vec x_0$ מקיים $A^tA\vec x_0=A^t\vec b$		משפט 2 בהרצאה. זה הכיוון שהוכח: ממזער $\Rightarrow$ פותר את המשוואה הנורמלית.
כל פתרון של $A^tA\vec x=A^t\vec b$ הוא פתרון ריבועים פחותים		הכיוון ההפוך — מופיע רק בתרגול 13, לא בהרצאה. בלעדיו אין לך רשות לומר "פתרתי את המשוואה הנורמלית ולכן סיימתי". וגם: למשוואה הזו תמיד יש פתרון.
$\vec x_0=(A^tA)^{-1}A^t\vec b$		מסקנה בתרגול, רק כשעמודות $A$ בת"ל (אז $A^tA$ הפיכה). אל תכתבי את הנוסחה בלי לנמק בת"ל.
$A\vec x_0=\vec b$		ממש לא — אם זה היה נכון, למערכת היה פתרון. מה שכן נכון: השארית $A\vec x_0-\vec b$ ניצבת ל- $Col(A)$ .
$A^tA$ סימטרית		$(A^tA)^t=A^tA$ . ולכן — נקודת החיבור בין שני חצאי השבוע — $A^tA$ תמיד לכסינה אורתוגונלית.

שתי דרכים לאותה תשובה: היטל (מצאי בסיס אורתונורמלי ל-

Col(A)

, חשבי

proj

, פתרי

A\vec x_0=proj

) או המשוואה הנורמלית

A^tA\vec x_0=A^t\vec b

. המשוואה הנורמלית כמעט תמיד זולה יותר — אין גרם-שמידט ואין שורשים. עברי להיטל רק אם ל-

Col(A)

כבר יש בסיס אורתוגונלי גלוי.

מה שעלה בתרגול ולא בהרצאה (12)

בדיוק החלק שנופל בין הכיסאות — כאן הוא במקום אחד

המשפט שהופך את המשוואה הנורמלית לכלי חוקי: "אם $A$ מטריצה $m\times n$ ו- $\vec b\in\mathbb{R}^m$ אזי למשוואה $A^tA\vec x=A^t\vec b$ יש פתרון, וכל פתרון שלה הוא פתרון ריבועים פחותים." ההרצאה הוכיחה רק את הכיוון ההפוך (ממזער $\Rightarrow$ פותר). בלי הטענה הזו, פתרון המשוואה הנורמלית אינו הוכחה.תרגול 13
אם לעמודות $A$ יש אי-תלות לינארית, אז $A^tA$ הפיכה ויש פתרון יחיד $\vec x_0=(A^tA)^{-1}A^t\vec b$ . זה הניסוח שכדאי לצטט כשעמודות $A$ בת"ל, ומיד לענות.תרגול 13, מסקנה
החיסכון הגדול בלכסון אורתוגונלי: "במטריצה סימטרית, וקטורים עצמיים השייכים לע"ע שונים הם ניצבים, לכן מספיק להפעיל גרם-שמידט על כל בסיס של מרחב עצמי בנפרד." כלומר: לע"ע פשוט — רק לנרמל; רק במרחב עצמי מממד $\ge2$ עושים גרם-שמידט.תרגול 13, הערה בתהליך הלכסון האורתוגונלי
ההגדרות: $P\in M_n(\mathbb{R})$ אורתוגונלית אם $PP^t=I$ ; $P\in M_n(\mathbb{C})$ אוניטרית אם $P\overline{P^t}=PP^{*}=I$ — עם צמוד. $A$ לכסינה אורתוגונלית אם"ם קיימות $D$ אלכסונית ו- $P$ אורתוגונלית עם $P^tAP=D$ ; $A$ לכסינה אוניטרית אם"ם קיימות $D$ אלכסונית ו- $P$ אוניטרית עם $P^{*}AP=D$ . אזהרת קריאה: בדף התרגול המודפס הפס נעלם והאוניטריות מופיעה כ-" $PP^t=I$ " — זו טעות דפוס (באותו דף גם המ"פ הסטנדרטית ב- $\mathbb{C}^n$ מופיעה בלי פסים). ההפרכה: $P=\begin{pmatrix}1&0\\0&i\end{pmatrix}$ אוניטרית אבל $PP^t=\begin{pmatrix}1&0\\0&-1\end{pmatrix}\ne I$ . שימי לב: התרגול מגדיר את המושג האוניטרי אבל אינו נותן משפט ספקטרלי מרוכב.תרגול 13, סעיף 1.2
מונח שמופיע רק בתרגול: צמודה-לעצמה. הניסוח שנכון לשנן: מעל $\mathbb{R}$ , צמודה-לעצמה $=$ סימטרית $\iff$ לכסינה אורתוגונלית. התרגול מנסח זאת גם למקרה האוניטרי, אבל מעל $\mathbb{C}$ לכסינות אוניטרית שקולה לנורמליות ( $AA^{*}=A^{*}A$ ), לא להרמיטיות: $A=\begin{pmatrix}0&-1\\1&0\end{pmatrix}$ נורמלית ולכן לכסינה אוניטרית (ע"ע $\pm i$ ), אבל $A^{*}=-A\ne A$ ולכן אינה צמודה-לעצמה.תרגול 13, סעיף 1.2
שני קיצורי דרך למציאת ע"ע בלי פולינום אופייני (מופיעים כהערה בפתרון בתרגול): (1) אם $A$ אינה הפיכה — שורותיה ת"ל — אז $0$ הוא ע"ע; (2) אם סכום האיברים בכל שורה שווה ל- $c$ אז $c$ הוא ע"ע (הוקטור העצמי הוא $(1,\dots,1)^t$ ). בדוגמה $A=\begin{pmatrix}1&1&1\\1&1&1\\1&1&1\end{pmatrix}$ זה נותן מיד $\lambda=0,3$ — "חישוב הפולינום האופייני לא היה הכרחי".תרגול 13, הערה בשאלת הלכסון
הקשר $(RowA)^{\perp}=NulA$ לכל $A\in M_{m\times n}(\mathbb{R})$ (כך בדיוק נוסח והוכח בתרגול 11; תרגול 13 רק משתמש בו) משמש כדרך המהירה למצוא $U^{\perp}$ : בונים מטריצה $A$ ששורותיה בסיס של $U$ , מדרגים, ו- $U^{\perp}=NulA$ . אחר כך גרם-שמידט. ההנחה "ממשית" הכרחית — מעל $\mathbb{C}$ מתקיים $(RowA)^{\perp}=Nul(\overline{A})$ .תרגול 11 (הטענה וההוכחה); תרגול 13, שאלת $U^{\perp}$ דרך (ג)
האלגוריתם המלא לפתרון מקורב, כפי שנוסח בתרגול: (1) מצאי $Col(A)$ ובסיס אורתונורמלי שלו בעזרת גרם-שמידט; (2) חשבי $proj_{Col(A)}(\vec b)=\sum\langle\vec b,u_i\rangle u_i$ ; (3) פתרי $A\vec x_0=proj_{Col(A)}(\vec b)$ . בתרגול מנוסח מעל $\mathbb{F}$ כללי, ובשלב (3) נכתב "למשל" — כי $\vec x_0$ לא בהכרח יחיד.תרגול 13, סעיף 1.3
בגרם-שמידט יש חשיבות לסדר האיברים בבסיס — אותה קבוצה בסדר שונה נותנת בסיס אורתונורמלי שונה. ומנגד: אם הקבוצה כבר אורתונורמלית, גרם-שמידט לא משנה כלום ( $u_k=v_k$ ).תרגול 13, מסקנה בסעיף 1.1
מטריצת המעבר בין שני בסיסים אורתונורמליים היא אורתוגונלית. ההוכחה: $P_{ij}=\langle u_j,v_i\rangle$ , ואז $(P^tP)_{ij}=\sum_k\langle u_i,v_k\rangle\langle u_j,v_k\rangle=\langle u_i,u_j\rangle=\delta_{ij}$ . זה בדיוק הגשר בין "בסיס אורתונורמלי" ל"מטריצה אורתוגונלית".מטלה 12 ש׳5
אם $A$ סימטרית וכל הע"ע שלה חיוביים, אז $\langle A\vec v,\vec v\rangle\ge0$ לכל $\vec v$ . ההוכחה: פתחי את $\vec v$ בבסיס האורתונורמלי של וקטורים עצמיים וקבלי $\langle A\vec v,\vec v\rangle=\sum_i\lambda_i\alpha_i^2$ . זו התבנית שבה משתמשים כדי להפריך "קיים $\vec v$ עם $\langle A\vec v,\vec v\rangle<0$ ".מטלה 12 ש׳2(ב)ii
בשאלת לכסון אורתוגונלי אפשר לקבל את הניסוח $O^{-1}AO$ במקום $O^tAO$ — זו אותה שאלה בדיוק, כי $O^{-1}=O^t$ . במטלה 12 ש׳2(ב) נשאל דווקא $O^{-1}AO$ .מטלה 12 ש׳2(ב)i

תכונות קטנות שחייבים לדעת (12)

11 מסומנות בצהוב — אלה שמכריעות שאלות

המנוע של כל ההרצאה: לכל $A\in M_{m\times n}(\mathbb{R})$ ולכל $\vec x,\vec y$ מתקיים $\langle A\vec x,\vec y\rangle=\langle\vec x,A^t\vec y\rangle$ . כל הוכחה בשבוע הזה — ע"ע ממשיים, ניצבות מרחבים עצמיים, המשוואה הנורמלית — היא הפעלה אחת של הזהות הזו.הרצאה 13, משפט 1
אם $A$ סימטרית אז $\langle A\vec x,\vec y\rangle=\langle\vec x,A\vec y\rangle$ — "מותר להעביר את $A$ מצד לצד". זה הניסוח שבו משתמשים בפועל.הרצאה 13, מסקנה 1
לכל $A\in M_n(\mathbb{R})$ סימטרית, כל ע"ע $\lambda\in\mathbb{C}$ הוא בעצם ממשי. בפרט הפולינום האופייני מתפרק לגורמים לינאריים מעל $\mathbb{R}$ .הרצאה 13, משפט 3
לכל מטריצה סימטרית ממשית יש ע"ע ממשי (המשפט היסודי של האלגברה $+$ משפט 3). זה מה שמונע את המצב של $\begin{pmatrix}0&-1\\1&0\end{pmatrix}$ , שאין לה ע"ע כלל מעל $\mathbb{R}$ .הרצאה 13, מסקנה 2
ל- $A$ סימטרית ולשני ע"ע שונים $\lambda_1\ne\lambda_2$ : המרחבים העצמיים $V_{\lambda_1},V_{\lambda_2}$ ניצבים — כל וקטור באחד ניצב לכל וקטור בשני, לא רק נציגים.הרצאה 13, משפט 4
הגדרה שמפילה: $O$ נקראת אורתוגונלית אם עמודותיה בסיס אורתונורמלי. ההרצאה מדגישה: "המטריצה נקראת אורתוגונלית אבל עמודותיה הן בסיס אורתונורמלי!". לכן $P=\begin{pmatrix}1&1\\1&-1\end{pmatrix}$ אינה אורתוגונלית, ואילו $\tfrac{1}{\sqrt2}\begin{pmatrix}1&1\\1&-1\end{pmatrix}$ כן.הרצאה 13, הגדרה + הערות
$O$ אורתוגונלית $\iff O^tO=I_n$ , וההוכחה היא הזהות $(O^tO)_{ij}=\langle u_i,u_j\rangle$ בין הכניסה למכפלה של עמודות. מסקנה שמצוינת במפורש: מטריצה אורתוגונלית היא ההופכית של המשוחלפת שלה.הרצאה 13, משפט 5
המשפט הספקטרלי, כפי שהקורס מנסח אותו (ניתן ללא הוכחה): "תהי $A\in M_n(\mathbb{R})$ מטריצה סימטרית. אזי $A$ לכסינה. בנוסף, קיימת מטריצה אורתוגונלית $O\in M_n(\mathbb{R})$ כך ש- $O^tAO$ היא אלכסונית." שימי לב: ממשית וסימטרית בלבד — אין בקורס ניסוח למטריצות הרמיטיות או נורמליות מעל $\mathbb{C}$ .הרצאה 13, משפט 6
הכללת אי-שוויון בסל לשני תתי-מרחבים ניצבים: אם $U\perp W$ אז $\|v\|^2\ge\|v_U\|^2+\|v_W\|^2$ . הרעיון: מאחדים את שני הבסיסים האורתונורמליים לקבוצה אורתונורמלית אחת, משלימים לבסיס, וזורקים איברים אי-שליליים.הרצאה 13, תרגיל 4
הכיוון של שימור מכפלה פנימית נשאל כשאלת נכון/לא נכון: "אם $\langle A\vec u,A\vec v\rangle=\langle\vec u,\vec v\rangle$ לכל $\vec u,\vec v$ אז $A$ אורתוגונלית" — נכון, וההוכחה בשורה: הציבי $\vec u=e_i,\vec v=e_j$ וקבלי $\langle a_i,a_j\rangle=\delta_{ij}$ .מבחן 2021א׳ ש׳1(ג)
בדף הנוסחאות יש גרם-שמידט ונוסחת ההיטל — ואין את משוואת הריבועים הפחותים $A^tA\vec x_0=A^t\vec b$ ואין את המשפט הספקטרלי. אלה שני הדברים שחייבים להיות בראש.דף נוסחאות מורחב
לשבוע 13 אין מטלת בית משלו. התרגילים שמאמנים בדיוק את החומר הזה הם מטלה 12: ש׳2 (לכסון אורתוגונלי), ש׳5 (מטריצת מעבר בין בסיסים אורתונורמליים), ש׳6 (ריבועים פחותים במערכת $5\times3$ ).מטלה 12

אם נתון לי כך — באמת שואלים אותי את זה (6)

נתון"מצאו

O

אורתוגונלית ו-

D

אלכסונית כך ש-

O^tAO=D

" (או

O^{-1}AO

, או

D=U^tAU

)

שואליםשאלת חישוב מלאה, והתשובה קיימת אם"ם $A$ סימטרית. הצעד הראשון בדף הוא לכתוב "

A

סימטרית ולכן לפי המשפט הספקטרלי ניתנת ללכסון אורתוגונלי".

המהלךפולינום אופייני

\to

ע"ע

\to

V_{\lambda_i}=Nul(\lambda_iI-A)

\to

גרם-שמידט בתוך כל מרחב עצמי בנפרד (בין מרחבים שונים זה כבר ניצב, משפט 4)

\to

נרמול

\to

O

= איחוד העמודות,

D

= הע"ע לפי אותו סדר, כולל ריבוי. בדיקת שפיות בסוף: העמודה ה-

i

מנורמלת, וסדר הע"ע ב-

D

תואם לסדר העמודות ב-

O

נתוןמערכת

A\vec x=\vec b

שאין לה פתרון, או "מצאו את

\vec x

שממזער את

\|A\vec x-\vec b\|

", או "הפתרון האופטימלי"

שואליםזו שאלת היטל בתחפושת: מבקשים את

\vec x_0

עם

A\vec x_0=proj_{Col(A)}(\vec b)

המהלךברירת המחדל: חשבי

A^tA

ו-

A^t\vec b

ופתרי את המערכת

A^tA\vec x_0=A^t\vec b

בדירוג — בלי גרם-שמידט ובלי שורשים (כך פתורה מטלה 12 ש׳6, מערכת

5\times3

). דרך ההיטל שווה את המאמץ רק אם ל-

Col(A)

יש בסיס אורתוגונלי גלוי לעין, כמו בתרגיל 1 בהרצאה.

נתון"מצאו את הוקטור הקרוב ביותר ל-

\vec v

בתוך

W

" / "מצאו את המרחק מ-

\vec v

ל-

W

" — כאשר

W

הוא

RowA

ColA

, או מרחב פתרונות

שואליםאותה שאלה: הקרוב ביותר הוא

proj_W(\vec v)

, והמרחק הוא

\|\vec v-proj_W(\vec v)\|

המהלךבסיס ל-

W

\to

גרם-שמידט

\to

נוסחת ההיטל. אם

\dim W^{\perp}=1

קצרי דרך: חשבי את ההיטל על

W^{\perp}

(וקטור אחד!) והחסירי —

proj_W(\vec v)=\vec v-proj_{W^{\perp}}(\vec v)

. כך פתורה מטלה 12 ש׳3.

נתוןנכון/לא נכון: "אם ... אז

A

לכסינה אורתוגונלית"

שואליםהפכי מיד לשאלה "האם

A

סימטרית", כי מעל

\mathbb{R}

זה אם"ם.

המהלךלהוכחה:

A=PDP^t\Rightarrow A^t=A

. להפרכה: מצאי דוגמה לא-סימטרית שמקיימת את ההנחה — 2021ב׳ ש׳6(ב) עושה זאת עם

\begin{pmatrix}0&-1\\1&0\end{pmatrix}

שהיא אורתוגונלית ולא סימטרית.

נתוןנתונה

A

סימטרית ומבקשים

A^k

A^{2024}\vec v

, שורש ריבועי, או סימן של

\langle A\vec v,\vec v\rangle

שואליםעוברים לבסיס העצמי האורתונורמלי; שם הכול אלכסוני.

המהלךלחזקה: אם

\vec v

מתפרק לוקטורים עצמיים,

A^k\vec v=\sum\lambda_i^k\alpha_i\vec v_i

— בלי לחשב מטריצה בכלל (2024ב׳ ש׳4.1.2). לשורש: אם כל הע"ע אי-שליליים

B=P\sqrt{D}P^t

— בלי ההנחה הזו

\sqrt{D}

אינה ממשית ואין שורש כזה (ב-2021א׳ ש׳5(ב) הע"ע הם

0,2,2

). לסימן:

\langle A\vec v,\vec v\rangle=\sum\lambda_i\alpha_i^2

, ולכן הסימן נקבע כולו ע"י הע"ע (מטלה 12 ש׳2(ב)ii).

נתון"

T

שומרת מכפלה פנימית / נורמה / ניצבות", או "

\mathcal{A},\mathcal{B}

בסיסים אורתונורמליים"

שואליםהמטריצה שבמשחק היא אורתוגונלית — וזה מה שצריך להוכיח או להשתמש בו.

המהלךמהנתון למטריצה: הציבי

\vec e_i,\vec e_j

ותקבלי

\langle a_i,a_j\rangle=\delta_{ij}

(2021א׳ ש׳1(ג)). ממטריצה לנתון:

\langle O\vec x,O\vec y\rangle=\langle\vec x,O^tO\vec y\rangle=\langle\vec x,\vec y\rangle

. מבסיסים למטריצה:

[id]^{\mathcal{A}}_{\mathcal{B}}

אורתוגונלית (מטלה 12 ש׳5).

מלכודות (6)

השורה האדומה היא מה שהמוח אומר לך אוטומטית

מטריצה סימטרית מרוכבת מתנהגת כמו ממשית — היא לכסינה, הע"ע ממשיים

המשפט הספקטרלי בקורס מנוסח ל-

A\in M_n(\mathbb{R})

בלבד, וגם משפט 3 (ע"ע ממשיים) דורש

A

ממשית — ההוכחה משתמשת ב-

A^t=A

ובכך ש-

A

ממשית. נגד-דוגמה:

\begin{pmatrix}1&i\\i&-1\end{pmatrix}

סימטרית,

p_A(\lambda)=\lambda^2

, הע"ע היחיד

0

והמטריצה אינה

0

— אינה לכסינה. מעל

\mathbb{C}

התרגול מגדיר "אוניטרית" ו"לכסינה אוניטרית", אבל לא נותן משפט שמבטיח לכסון כזה.

מטריצה אורתוגונלית = מטריצה שעמודותיה אורתוגונליות

אורתונורמליות.

\begin{pmatrix}1&1\\1&-1\end{pmatrix}

— העמודות ניצבות אבל האורך

\sqrt2

, ולכן המטריצה אינה אורתוגונלית; רק

\tfrac{1}{\sqrt2}\begin{pmatrix}1&1\\1&-1\end{pmatrix}

כן. ההרצאה מסמנת את זה בסימן קריאה. בבחינה זה עולה ככישלון של שלב הנרמול בסוף הלכסון האורתוגונלי.

כל מטריצה לכסינה היא לכסינה אורתוגונלית

לכסינות נותנת

P

הפיכה, לא

P

אורתוגונלית. מעל

\mathbb{R}

: לכסינה אורתוגונלית

\iff

סימטרית.

\begin{pmatrix}1&1\\0&2\end{pmatrix}

לכסינה (ע"ע

1,2

) ולא סימטרית — ולכן לא לכסינה אורתוגונלית. ההפך של ההפרכה הזו: אם המטריצה סימטרית, קיבלת לכסינות בחינם.

משפט 4 אומר שהוקטורים העצמיים של מטריצה סימטרית ניצבים — אז אין צורך בגרם-שמידט

משפט 4 מדבר על ע"ע שונים. בתוך מרחב עצמי אחד אין שום הבטחה: בתרגול, עבור

\lambda=0

הבסיס

\{(1,-1,0)^t,(1,0,-1)^t\}

מקיים

\langle\cdot,\cdot\rangle=1\ne0

, וצריך גרם-שמידט. הכלל המדויק: גרם-שמידט בתוך כל מרחב עצמי, לא ביניהם.

מצאתי בסיס של וקטורים עצמיים, אז

P^tAP=D

זה נכון רק אחרי ניצוב ונרמול. עם

P

סתם של וקטורים עצמיים מתקיים

P^{-1}AP=D

אבל

P^t\ne P^{-1}

, ולכן

P^tAP

בדרך כלל אפילו לא אלכסונית. ההפך: אחרי הנרמול

P^{-1}=P^t

ואפשר לכתוב את שניהם.

פתרתי

A^tA\vec x_0=A^t\vec b

, ולכן

A\vec x_0=\vec b

/ ולכן זהו הפתרון היחיד

שני דברים. ראשית,

A\vec x_0=proj_{Col(A)}(\vec b)\ne\vec b

— אחרת למערכת המקורית היה פתרון; מה שנכון הוא ש-

A\vec x_0-\vec b\perp Col(A)

. שנית,

\vec x_0

יחיד רק כשעמודות

A

בת"ל (ואז גם מותר לכתוב

(A^tA)^{-1}A^t\vec b

); אחרת יש אינסוף פתרונות, וכולם ממזערים באותה מידה.

מטריצות סימטריות ולכסון אורתוגונלי

הסיכומון וההגדרות המלאות

הדף הקודם

גרם–שמידט