Inkonsistenta ekvationer och projektionsmatriser

Antag att^a (⁶= 0)och^bär två vektorer i^Rn. Vi skall bilda den ortogonala projektionen av ^bpå det endimensionella underrummetL= spn^fag. Enligt resonemanget i beviset av Schwarz olikhet är^{k b} t^ak2 minimalt då thar värdet t⁰=^aTb=^{k ak2}.

p b

t a a

g. 1

Om vi sätter ^p=t^0a, är^{b p} ortogonalt mot L så att ^b kan skrivas som en summa

b=^p+ (^{b p}), där^p2L och ^{b p2}L^?. Vektorn

(1) ^p=t^0a= ^aTb

k ak 2

a; som vi också kan skriva

(2) ^p= ^aaT

kak 2

b;

är alltså (den ortogonala) projektionen av^b på Leller enklareprojektionen av^b på^a. Vi vet redan att ^p och ^{b p} är ortogonala men detta kan också verieras direkt med hjälp av(1):

pT(^{b p}) =^{pTb pTp}= (^aTb)²

kak 2

aTb kak

2

!

2

k ak 2= 0: På grund av denna ortogonalitet gäller (jfr. Pytagoras teorem):

kbk

2 =^bTb= (^p+ (^{b p}))^T(^p+ (^{b p}))

=^pTp+ 2^pT(^{b p}) + (^{b p})^T(^{b p}) =^kpk2+^{k b pk2}: Om^a är en enhetsvektor^v, antar(1)den enklare formen

p= (^vTb)^v= (^kbkcos')^v; där' är vinkeln mellan^b och ^a.

Exempel 8.1.

För att projicera ^b= (3 1 2)^T på ^a= (1 1 1)^T, räknar vi först ut enhetsvektorn

v= ^a

kak

= 1^p3 (1 1 1)^T : Projektionen blir då

p= (^vTb)^v=

 1

p3
6

 1

p3 (1 1 1)^T = 2( 1 1 1)^T :

I nästa avsnitt skall vi generalisera formel (2) till det fall att en vektor ^b proji- ceras på ett underrum med godtycklig dimension. Först behöver vi emellertid några förberedande resultat:

Sats 8.1.

För en m=n-matrix A gäller:

(i) A^TA är en symmetrisk n=n-matris;

(ii) A^TA och A har samma rang:

Bevis. (i) Matrisen A^TAär en n=n-matris. Att den är symmetrisk följer ur (A^TA)^T =A^TA^TT =A^TA:

(ii) Vi visar först att A^TA och A har samma nollrum: Enligt Sats 5.7 (ii) gäller att N(A^TA)^N(A). Den omvända inklusionen följer ur

x2N(A^TA) ⁾ A^TA^x=^{0 ) xT}A^TA^x= 0 ⁾ (A^x)^TA^x= 0

) kA^xk2 = 0 ⁾ A^x=^{0 ) x2}N(A): Alltså är N(A^TA) =N(A). Enligt Sats 4.14 är nu

r(A^TA) =n dimN(A^TA) =n dimN(A) =r(A):^} En följd av Sats 8.1 (ii) är:

Korollarium 8.1.1.

Om A är enm=n-matris med rangen n så är A^TA inverterbar.

Bevis. Eftersom A^TA är en n=n-matris med rangen n, är A^TA icke-singulär och därmed inverterbar (Sats 3.9). ^}

Exempel 8.2.

^{I matrisen}

A=

0

@

1 42 0 3 1

1

A

är kolonnerna linjärt oberoende. Därför är den symmetriska matrisen A^TA=

14 7 7 17



inverterbar (vilket också lätt verieras direkt).

Inkonsistenta ekvationer och projektionsmatriser

Antag attAär enm=n-matris och betrakta en ekvationA^x=^b, där^bär en godtycklig kolonnvektor i^Rm. Om ekvationen är inkonsistent så har den naturligtvis ingen lösning men i detta fall kan man i stället försöka bestämma ett sådant ^xattA^xligger så nära högerledet^b som möjligt:

Denition 8.1.

En vektor^x, som gör talet ^kA^{x bk2} så litet som möjligt, kallas en minstakvadratlösning till ekvationenA^x=^b.

b

Ay

p = A x

R(A)

g. 2

Talet ^kA^{x bk2} är ju kvadraten på avståndet från ^b till en variabel vektor A^x i kolonnrummetR(A). Då detta tal är så litet som möjligt, kommerA^xsåledes att vara den ortogonala projektionen ^pav ^b på R(A).

Sats 8.2.

Minstakvadratlösningarna till ekvationenA^x=^b är precis lösningarna till A^TA^x=A^Tb:

Om A = (<sup>a1


a</sup>n) och kolonnerna ^ai i A är linjärt oberoende, är A^TA in- verterbar, varför minstakvadratlösningen till A^x = ^b i detta fall kan skrivas ^x = (A^TA) ¹A^Tb. Den ortogonala projektionen av^b påR(A) blir alltså

p=A^x=A(A^TA) ¹A^Tb:

Bevis. På grund av att R(A) = ^fA^{y j y 2 Rng} fås följande kedja av ekvivalenta påståenden:

kA^{x bk2} är minimalt ^, A^{x b?}A^y för varje^y

, (A^y)^T(A^{x b}) = 0för varje^y

, yT(A^TA^x A^Tb) = 0för varje^y

, A^TA^x=A^Tb:

Minstakvadratlösningarna till A^x = ^b fås alltså genom att man löser ekvationen A^TA^x = A^Tb. Om ^a1, :::, ^an är linjärt oberoende så är enligt Korollarium 8.1.1

n=n-matrisenA^TA inverterbar. Då är ^x= (A^TA) ¹A^Tb den enda minstakvadratlös- ningen. För projektionen^p =A^xav ^b fås då den formel som anges i satsen. ^}

Anmärkning

. Observera att oändligt många vektorer ^x ibland kan ge upphov till samma minimala värde på ^kA^{x bk}. Detta inträar varje gång ekvationen A^x = ⁰ har icke-triviala lösninger, eftersomA^TA och Ahar samma nollrum enligt Sats 8.1.

Låt oss se vad som händer om ^{b 2} R(A). Då är ^kA^{x bk2} minimalt, dvs. noll, precis då ^p =A^x =^b. Minstakvadratlösningarna till A^x = ^b kommer alltså i detta fall att vara precis lösningarna till A^x=^b.

Ett annat extremt fall har vi om ^b är ortogonal mot R(A). Då är ^b ortogonal mot kolonnerna i A så att A^Tb = ⁰. Minstakvadratlösningarna består då av alla

x 2 N(A^TA) = N(A) och projektionen av ^b på R(A) blir ^p = A^x = ⁰, vilket man kunde vänta sig.

Exempel 8.3.

Räkneschemat för att bestämma minstakvadratlösningarna till ek- vationen A^x= ^b är (A^TA ^jA^Tb). Detta räknar man enklast ut genom att bilda matrisproduktenA^T(A^jb). Om

A=

0

@

1 1 2 0 1 2 2 1 2

1

A och ^b=

0

@

43 0

1

A ; ställer vi alltså upp

A^T(A^jb) =

0

@

1 0 2 1 1 1 2 2 2

1

A 0

@

1 1 2 ^j 4 0 1 2 ^j 3 2 1 2 ^j 0

1

A

=

0

@

5 3 6 ^j 4 3 3 6 ^j 7 6 6 12 ^j 14

1

A

!


! 0

@

1 0 0 ^j 3=2 0 1 2 ^j 23=6 0 0 0 ^j 0

1

A ; vilker ger minstakvadratlösningarna

x=

0

@

3=2 23=6

0

1

A+t

0

@

02 0

1

A (t^2R): Antag nu att U är ett underrum av ^Rn.

Denition 8.2.

^{Denn=n-matrisP}, för vilkenP^xför varje^x2Rnär (den ortogonala) projektionen av ^xpå U, kallasprojektionsmatrisen(för ortogonal projektion) på U.

ProjektionsmatrisenP på U kan konstrueras på följande sätt: Om^fa1;:::;^ak^gär en bas i U, kan man låta A vara den matris som har^a1,:::,^ak som kolonner. Då är ju U =R(A) och matrisen

(3) P =A(A^TA) ¹A^T

är enligt Sats 8.2 den sökta projektionsmatrisen på U.

Anmärkning

. Om matrisen A innehåller bara en kolonn^aså är A^TA=^aTa=^kak2 en 1=1-matris, dvs. en skalär. Dess invers är därför1=^kak2 och enligt(3)är^aaT=^{k ak2} projektionsmatrisen på R(A) = spn^fag. Detta visar att (2)är ett specialfall av (3).

Sats 8.3.

(a) Antag att P är projektionsmatrisen på ett underrumU av ^Rn. Då har P egenskaperna

(i) P² =P ; (ii) P^T =P :

Omvänt gäller att om en matrisP har egenskaperna(i) och (ii), så ärP projektionsma- trisen på underrummet U =R(P).

(b) I P är projektionsmatrisen på U^?=N(P).

Bevis. (a) Tag en bas i U och bilda en matrisA som innehåller basvektorerna som kolonner. Då kan P skrivas som i(3). Alltså är

P² =A(A^TA) ¹A^T A(A^TA) ¹A^T =A(A^TA) ¹A^T =P ; eftersomA^TA(A^TA) ¹ =I. Vidare är enligt Sats 3.10

P^T = (A(A^TA) ¹A^T)^T =A^TT((A^TA) ¹)^TA^T

=A((A^TA)^T) ¹A^T =A(A^TA) ¹A^T =P ;

så att både (i)och (ii) gäller. Om vi omvänt antar attP har egenskaperna (i)och (ii) så gäller för ett godtyckligt men xerat^x att

(P^y;^x P^x) = (P^y)^T(^x P^x) =^yTP^{Tx yT}P^2x=^yTP^{x yT}P^x= 0 för varje ^y. Alltså är ^x P^x ortogonal mot R(P), dvs. P^x är projektionen av ^x på underrummetR(P).

U = R(A) = R(P) U

x

Px x - Px

g. 3

(b) Vi har just visat att vektorn (I P)^x=^x P^xär ortogonal motU =R(A) = R(P)för varje^x. Alltså är(I P)^x2U^?. Varje^xkan alltså skrivas som en summa^x=

P^x+(I P)^x, därP^x2U och(I P)^x2U^?, vilket ger attI P är projektionsmatrisen på underrummetU^?. ^}

Exempel 8.4.

Om man skall räkna ut projektionsmatrisen på det plan U i ^R3, som har ekvationen x+ 3y+z= 0 i^R3, kan man först bestämma en bas ^fa1;^a2g i planet, sättaA= (^{a1 a2}) och sedan använda(3). Det är emellertid enklare att först bestämma projektionsmatrisenP⁰ på det

lågdimensionella

U^? = spn^{f ag}, där ^a = (1 3 1)^T är normalvektorn tillU, och sedan räkna ut P =I P⁰ (se Sats 8.3). I detta fall innehållerA bara kolonnen^a. Enligt (3)är

P⁰=A(A^TA) ¹A^T = ^aaT

k ak 2 = 111

0

@

13 1

1

A(1 3 1) = 111

0

@

1 3 1 3 9 3 1 3 1

1

A ;

och

P =I P⁰_{= 111}

0

@

11 11 11

1

A 1

11

0

@

1 3 1 3 9 3 1 3 1

1

A= 111

0

@

10 3 1

3 2 3

1 3 10

1

A:

Spektralframställningen

En viktig användning av projektionsmatriser har vi i samband med egenvärden och egenvektorer:

Sats 8.4.

Antag att A är en symmetrisk n=n-matris. Låt ¹;:::;p vara de olika egenvärdena för A. Låt vidare Pi beteckna projektionsmatrisen på egenrummet V(i) (i= 1;:::;p). Då gäller den s.k. spektralframställningenav A:

A=¹P¹+²P²+


+pPp:

Bevis. Eftersom^P_idimV(i) =n och egenrummenV(i) är parvis ortogonala, kan varje^x2Rn skrivas

x=^x1+


+^xp;

där^xi=Pi^x2V(i) (i= 1;:::;p). Genom att multiplicera från vänster medA fås A^x=A^x1+


+A^xp

=^1x1+


+p^xp

=¹P^1x+


+pPp^x

= (¹P¹+


+pPp)^x:

Eftersom detta gäller för varje ^x, så är A=¹P¹+


+pPp. ^}

Låt oss se hur spektralframställningen kan användas i praktiken. Eftersom A är symmetrisk, ärV(i)^?V(k) om i⁶=k. Följaktligen är

PiPk= 0 om i⁶=k ;

ty för varje ^x2Rn är Pk^x2V(k) ^N(Pi), varförPi(Pk^x) = 0 för varje ^x. Om vi nu bildar potenser av A, t.ex. A:s kvadrat, försvinner alla korstermer:

A² = (¹P¹+


+pPp)(¹P¹+


+pPp)

=²¹P¹²+


+²_pP_p² =²¹P¹+


+²_pPp: Allmänt fås på samma sätt för en godtycklig heltalsexponentm^1: (4) A^m=^m1 P¹+


+_mpPp:

Om i ⁶= 0 för varje i så gäller denna formel också om exponenten är 0 eller ett negativt heltal, förutsatt att vi denierar A⁰ och A ^m genom A⁰ = I och A ^m = (A ¹)^m: Förm= 0har vi ju för varje^xden uppdelning i en summa som vi har använt ovan,

I^x=^x=^x1+


+^xp=P^1x+


+Pp^x: Ur (¹P¹+


+pPp)

 1

¹P¹+


+ 1pPp



=P¹+


+Pp=I följer att

A ¹ = 1¹P¹ +


+ 1pPp:

Då bägge leden i denna formel upphöjs till potensen m, ser vi att (4)gäller också för negativa heltalsexponenter.

Exempel 8.5.

En kalkyl visar att matrisen A=

2 1 1 2



har egenvärdena 3och 1 och att vektorn^a1= (1 1)^T respektive ^a2 = ( 1 1)^T bildar en bas iV(3) respektive V(1). Projektionsmatriserna på dessa egenrum är alltså

P¹ = ^a1aT1

ka

1 k

2 = 12

1 1



(1 1) = 12

1 1 1 1



P² = ^a2aT2

ka

2 k

2 = 12

 1 1



(1 1) = 12

 1 1

1 1



och spektralframställningen av A blirA = 3P¹+P². HeltalspotenserAⁿ av A fås nu genom att att man upphöjer egenvärdena till potensen n:

Aⁿ= 3ⁿP¹+P²

= 3ⁿ
1 2

1 1 1 1



+ 12

 1 1

1 1



= 12

3ⁿ+ 1 3ⁿ 1 3ⁿ 1 3ⁿ+ 1



för varjen^2Z. Notera att detta kan användas t.ex. till att bestämma gränsvärdet av Aⁿ dån^{! 1}: Eftersom gränsvärden av matriser bildas elementvis, är

n^!lim¹Aⁿ_{= 12}

 1 1

1 1



=P²:

Ortogonala matriser och projektionsmatriser

Vi har tidigare visat att om matrisen A har linjärt oberoende kolonner så är A^TA kvadratisk, symmetrisk och inverterbar. Låt oss nu göra det strängare antagandet att kolonnerna ^a1, :::, ^a_p i A bildar ett ON-system (se denition 5.5). I detta fall blir matrisen A^TA speciellt enkel:

(5) A^TA=

0

@ aT

:1 ap

1

A(^a1 ::: ^ap) =

0

@ aT

1 a

1 ::: ^aT1ap

: :

aTp^a1 ::: ^a_Tp^ap

1

A=Ip: För projektionsmatrisenP =A(A^TA) ¹A^T på R(A) får vi därför uttrycket

(6) P =AA^T:

Eftersom vi får minstakvadratlösningarna tillA^x=^bsom lösningar tillA^TA^x=A^Tb, är nu^x=A^Tb den entydiga minstakvadratlösningen.

Formel(6)kan också skrivas med hjälp av beteckningarna för kolonnerna iA: (7) P =AA^T = (^a1 ::: ^ap)

0

@ aT

:1 ap

1

A=^a1aT1 +


+^ap^aTp:

Eftersom varje^aiär en enhetsvektor, dvs. ettON-system bestående av en enda vektor, så är varje term ^ai^aTi i summan projektionsmatrisen på spn^fai^g enligt(6).

Denition 8.3.

En kvadratisk matris Q är ortogonal om kolonnerna i Q bildar ett ON-system.

Ur(5) följer att en kvadratisk matrisQär ortogonal om och endast omQ^TQ=I. Detta är i sin tur ekvivalent med att Q^T är Q:s invers (Sats 4.17 (ii)). Vi har alltså följande karakterisering av en ortogonal matris:

Sats 8.5.

En kvadratisk matris Q är ortogonal om och endast om Q ¹ existerar och Q ¹ =Q^T.

Enligt Sats 3.10 är (Q^T) ¹ = (Q ¹)^T om Q ¹ existerar. Om Q är ortogonal, är därför (Q^T) ¹ = (Q^T)^T, dvs. också Q^T är en ortogonal matris:

Korollarium 8.5.1.

Om matrisenQ är ortogonal, är ocksåQ^T ortogonal, dvs. också raderna i Q bildar ett ON-system.

Ortogonala matriser har en

geometrisk

betydelse eller tolkning, som vi nu skall studera närmare:

Antag attQ är en ortogonaln=n-matris och låt ^xoch ^yvara godtyckliga vektorer i ^Rn. Mellan dessa har vi en viss vinkel u (om vektorerna är olika noll). Då man multiplicerar från vänster med Qerhålls två nya vektorer Q^x och Q^y, mellan vilka vi har en vinkel v. För t.ex. Q^x gäller

kQ^xk2 = (Q^x)^TQ^x=^xTQ^TQ^x=^xTx=^kxk2;

eftersomQ^TQ=I. Efter kvadratrotsutdragning fås

kQ^xk=^{k xk}:

Motsvarande formel gäller för vilken vektor som helst, t.ex. för ^{x y}, så att

kQ^x Q^{y k}=^kQ(^{x y})^k=^{kx y k}:

Denna formel säger att

avstånd bevaras

vid multiplikation från vänster medQ.

x y u

v Qy

Qx

g. 4

Om avstånd bevaras så

bevaras också vinklar

: En triangel föryttas ju i ^Rn (se g.

4) och då bevaras triangelns vinklar. Men man kan också direkt visa att u = v med hjälp av att Q^TQ=I:

cosv= (Q^x)^TQ^y

kQ^xkkQ^{y k = xT}Q^TQ^y

kxkky k

= ^xTy

k xkk y k

= cosu:

Sats 8.6.

Då vektorer i ^Rn multipliceras från vänster med en ortogonal n=n-matris bevaras både avstånd och vinklar.

Exempel 8.6.

Som ett exempel på en ortogonal matris betraktar vi Q=

cos sin sin cos



;

dvs. den matris som roterar xy-planet en vinkel  moturs (se exempel 5.8).

De två kolonnerna är ortogonala mot varandra och är enhetsvektorer (ty cos²+ sin²= 1). Alltså ärQ en ortogonal matris. Vi säger attQ är en rotationsmatris. Rotationsmatriser i^R3 åstadkommer på motsvarande sätt en rotation med en viss vinkel kring en given rotationsaxel. Dessa matriser är också ortogonala men kan vara betydligt mera komplicerade.

Andra exempel på ortogonala matriser har vi ispeglingsmatriserna. LåtV vara ett underrum i ^Rn och låtP vara projektionsmatrisen på V. För varje vektor ^x i^Rn är vektorn

S^x=x+ 2(P^{x x}) = 2P^{x x}= (2P I)^x

Px

Px - x x

Sx Px - x

O V

g. 5

speglingen av ^xiV. Den matris som åstadkommer denna spegling, dvs.

(8) S = 2P I

kallas speglingsmatrisen i V. Uttryckt med hjälp av projektionsmatrisenP⁰ =I P på V^? harS formen

(9) S =I 2P⁰:

EftersomP^T =P =P², är

S^T = (2P I)^T = 2P^T I = 2P I =S ; S² = (2P I)² = 4P² 4P +I =I :

Följaktligen är S^TS =S² =I, dvs. S ¹ =S^T. Alltså är S en ortogonal matris.

Exempel 8.7.

För att räkna ut speglingsmatrisen i planetV i^R3 med ekvationen 2x y+3z= 0är det enklare att använda formel(9)än formel(8)på grund av att V^? har

lägre dimension

^än V. Planet V har normalvektorn^a= (2 1 3)^T. Således är

S =I 2P⁰ =I 2^aaT

k ak 2

=

0

@

1 1 1

1

A 2
1 14

0

@

21 3

1

A(2 1 3) = 17

0

@

3 2 6 2 6 3

6 3 2

1

A :

Anmärkning

. Man kan visa att varje ortogonal n=n-matris är en produkt av högstn stycken speglingsmatriser i hyperplan i^Rn, dvs. i underrum med dimensionenn 1. Vi- dare kan man visa att en produkt av två sådana speglingsmatriser är en rotationsmatris kring en axel med dimensionenn 2. T.ex. de ortogonala3=3-matriserna kan därför indelas i (i)speglingsmatriser i ett plan,(ii) rotationsmatriser och(iii) rotationsspeg- lingar. En rotationsspegling är en produkt av en rotationsmatris och en speglingsmatris för spegling i ett plan. Observera att varje permutationsmatris är en ortogonal matris:

En enkel permutationsmatris är ju en speglingsmatris i ett hyperplan.

GramSchmidt-proceduren

Antag att ett antal linjärt oberoende vektorer ^a1,:::, ^a_p är givna. Vår uppgift är att konstruera

ortonormala

^{vektorer q1,:::,q}p (dvs. attortonormera), sådana att

spn^{f q1};:::;^qp^g= spn^{f a1};:::;^ap^g:

Med hjälp av GramSchmidt-proceduren utförs detta i två steg. I det första steget konstrueras ortogonala vektorer med samma spann som de ursprungliga (man ortogo- naliserar). I det andra steget ändras längden av de ortogonala vektorerna så att de blir enhetsvektorer (man normerar).

Steg 1: Vi konstruerar stegvis nya vektorer ^v1, :::, ^vp på följande sätt: Sätt

v

1 =^a1. Sätt^v2 =^a2 ^v1 och välj så att^v1?v2. Vi kräver följaktligen att 0 =^vT1v2 =^v1Ta2 ^{k v1k2};

vilket ger att =^vT1a2=^{k v1k2}. Alltså är

v

2 =^{a2 v1Ta2}

kv

1 k

2 v

1:

Sätt sedan ^v3 = ^a3 ^1v1 ^2v2 och välj ¹ och ² så att ^v1?v3 och ^v2?v3. Eftersom^v1 och ^v2 redan är ortogonala, antar dessa krav formen

0 =^vT1v3 =^v1Ta3 ^1kv1k2; 0 =^vT2v3 =^v2a3 ^2kv2k2: Detta ger att ¹ =^vT1a3=^{k v1k2} och ² =^vT2a3=^{k v2k2}, så att

v

3 =^{a3 vT1a3}

k v

1 k

2 v

1 vT

2 a

3

kv

2 k

2 v

2:

På detta sätt kan man fortsätta: Ansatsen för varje ^vi är

den gamla vektorn

^ai

minus en linjärkombination av de tidigare denierade

^v1

,

:::

,

^vi ¹. Därefter väljs koecienterna i linjärkombinationen så att^vi faktiskt blir ortogonal mot^v1,:::,

vi ¹. Som sista ekvation fås

vp=^ap ^vT

1 ap

kv

1 k

2 v

1

vTp ^1ap

k vp ^1k2vp ¹:

Efter insättningar blir varje ^vi en linjärkombination av vektorer ^ai och omvänt kan varje^ailösas ut som en linjärkombination av vektorer ^vi. Således är

spn^{f v1};:::;^vp^g= spn^{f a1};:::;^ap^g:

Steg 2: Nu återstår bara att normera vektorerna: För varjei= 1;:::;psätter vi

qi= ^vi

kvi^k; varvid ^kqi^k=

vi

kvi^k

= 1

k vi^kkvi^k= 1:

Vektorerna^q1,:::,^qpbildar nu ettON-system med samma spann som de ursprungliga vektorerna ^a1,:::,^ap.

GramSchmidt-proceduren används ofta på egenvektorer till symmetriska matriser:

Exempel 8.8.

Den symmetriska matrisen A=

0

@

3 1 1 1 3 1 1 1 3

1

A

visar sig ha den karakteristika ekvationen (2 )²(5 ) = 0. Efter uträkning

nner vi i egenrummenV(2)och V(5) baser ^fa1;^a2grespektive ^fa3g, där

a

1= ( 1 1 0)^T; ^a2 = ( 1 0 1)^T; ^a3 = (1 1 1)^T :

Vektorn ^a3 är automatiskt ortogonal mot ^a1 och ^a2 (Sats 7.2 (ii)) men^a1 och ^a2 är inte sinsemellan ortogonala. Vi tillämpar GramSchmidt-proceduren på dem, dvs. vi sätter^v1 =^a1 och ^v2 =^a2 ^v1 samt kräver att

0 =^vT1v2 =^v1Ta2 ^kv1k2 = 1 2:

Ur detta följer att = 1=2. Alltså är

v

2 =^a2 1 2^v1 =

0

@

01 1

1

A 1

2

0

@

11 0

1

A= 12

0

@

11 2

1

A= 12^w2:

Vektorerna ^v1 och ^v2 skall sedan normeras i steg 2 (observera att ^v2 och ^w2har samma normering!). Samtidigt passar vi på att normera också ^a3:

q

1 = ^v1

kv

1 k

= 1^p2

0

@

11 0

1

A; ^q2 = ^v2

kv

2 k

= ^w2

kw

2 k

= 1^p6

0

@

11 2

1

A;

q

3 = ^a3

ka

3 k

= 1^p3

0

@

11 1

1

A :

Vektorerna ^q1, ^q2 och ^q3 bildar nu ett ON-system av egenvektorer till A. Med hjälp av(7) kan vi lätt skriva ut spektralframställningen

A= 2(^q1qT1 +^q2qT2) + 5^q3qT3 :

Exempel 8.9.

Om vektorerna

a

1 = (1 1 0)^T; ^a2 = (1 0 1)^T; ^a3 = (0 1 1)^T skall ortonormeras, sätter vi^v1 =^a1 = (1 1 0)^T och

v

2 =^a2 ^v1

samt kräver att

0 =^v1Tv2 =^v1Ta2 ^kv1k2 = 1 2:

Ur detta följer att = 1=2 och då är

v

2 =^a2 ^v1 =

0

@

10 1

1

A 1

2

0

@

11 0

1

A= 12

0

@

11 2

1

A= 12^w2: Sedan sätter vi ^v3 =^a3 ^1v1 ^2v2 och kräver att

0 =^vT1v3 =^vT1a3 ^1kv1k2 = 1 2¹; 0 =^vT2v3 =^vT2a3 ^2kv2k2 _{= 12} ³₂²: Detta ger att ¹= 1=2 och ² = 1=3. Alltså är

v

3 =

0

@

01 1

1

A 1

2

0

@

11 0

1

A 1

6

0

@

11 2

1

A= 23

0

@

11 1

1

A= 23^w3: I steg 2 sätter vi till slut

q

1 = ^v1

kv

1 k

= 1^p2

0

@

11 0

1

A; ^q2 = ^v2

kv

2 k

= ^w2

kw

2 k

= 1^p6

0

@

11 2

1

A;

q

3 = ^v3

k v

3 k

= ^w3

k w

3 k

= 1^p3

0

@

11 1

1

A :

QR

-faktoriseringen

QR-faktoriseringenav en matris är i själva verket en skrivning i matrisform av Gram

Schmidt-ortonormeringen av matrisens kolonner:

Exempel 8.10.

I föregående exempel är

a

1=^v1

a

2= 12^v1+^v2

a

3= 12^v1+ 13^v2+^v3

=^p2^q1

=

p2 2 ^q1+

p6 2 ^q2

=

p2 2 ^q1+

p6 6 ^q2+ 2

p3 3 ^q3:

Om vi sätterA= (^{a1 a2 a3})ochQ= (^{q1 q2 q3}), kan dessa likheter skrivas i matrisform

A=QR=

0

@

1=^p2 1=^p6 1=^p3 1=^p2 1=^p6 1=^p3

0 2=^p6 1=^p3

1

A 0

@

p2 ^p2=2 ^p2=2 0 ^p6=2 ^p6=6 0 0 2^p3=3

1

A : Detta ärQR-faktoriseringen av matrisenA.

Av exempel 8.10 inser man att varje matrisA med linjärt oberoende kolonner kan faktoriseras på motsvarande sätt:

Sats 8.7.

Varje matris A med linjärt oberoende kolonner kan genom ortonormering av kolonnerna QR-faktoriseras,

A=QR;

där kolonnerna i Q är de ortonormala vektorer, som är resultatet av GramSchmidt- proceduren, och R är en uppåt triangulär matris, som är inverterbar. Diagonalelemen- ten iR ärrii=^{k v}i^k, där^viär de vektorer som denieras under ortogonaliseringsfasen.

Om A är kvadratisk, är Q en ortogonal matris.

Volymer

Med hjälp av GramSchmidt-proceduren och QR-faktoriseringen skall vi härleda en formel för volymenV av den parallellepiped i^Rn som spänns upp av nvektorer^a1, :::,^an, dvs. den parallellepiped som har vektorerna ^ai som kanter.

Vi antar först att vektorerna^a_iär parvis ortogonala. Då ärV =<sup>ka1k


ka</sup>n^k. Om vi sätterA= (^a1 ::: ^an)är å andra sidan

A^TA=

0

@ aT

:1 aTn

1

A(<sup>a1


a</sup>n) =

0

@ ka

1 k

2

: :

kan^k2

1

A; vilket ger att

det(A)² = det(A^T)
det(A) = det(A^TA) =<sup>ka1k2


k a</sup>n^k2 =V²: Således är

(10) V =^jdet(A)^j:

Vi skall visa att volymformeln (10) gäller generellt. Först konstaterar vi att den gäller om vektorerna ^a1,:::,^an är linjärt beroende, eftersom både volymenV och de- terminanten då är noll. Vi kan därför i fortsättningen anta att^a1,:::,^anär linjärt obe- roende men annars godtyckliga. Vi ortogonaliserar enligt GramSchmidt-proceduren och får ortogonala vektorer ^v1,:::, ^v_n samt erhåller en QR-faktorisering A=QR av A. Av g. 6 ser vi att det parallellogram, som ^a1 och ^a2 uppspänner i^R2, har samma area som den rektangel, som^v1 och^v2 uppspänner. Motsvarande kommer att gälla för volymer i ^R3 och i högre dimensioner.

a 2

v = a 11 v 2

g. 6

Med stöd av detta och räkneregel 8 för determinanter fås

det(A) = det(Q)
det(R) =<sup>kv1k


k v</sup>n^k=^V :

Här har vi dessutom utnyttjat att diagonalelementen i R är^{k v}i^k (Sats 8.7) samt att determinanten av en ortogonal matris är ^1 (övningsuppgift 4 i kap. 6). Formel (10) är alltså giltig i varje tänkbart fall.

Övningsuppgifter

1. Konstruera en ortonormal bas i planet x y+z = 0 i ^R3 samt bestäm projek- tionsmatrisenP på planet.

2. Bestäm på den räta linje som uppspänns av ^a = (1 1 1)^T den punkt ^p1, som ligger närmast punkten ^b= (2 4 4)^T. Bestäm också den punkt^p2 på spn^{f bg}, vilken ligger närmast^a.

3. (a) Bestäm minstakvadratlösningen tillA^x=^bgenom att lösa A^TA^x=A^Tb, där A=

0

@

1 00 1 1 1

1

A ; ^x=

x¹ x²



; ^b=

0

@

13 4

1

A : Bestäm projektionen ^p av^b på R(A).

(b)och(c): Utför samma uppgift dåAoch^bär följande matris respektive högerled:

(b)

0

@

1 32 2 3 1

1

A;

0

@

12 1

1

A; (c)

0

@

1 11 2 1 3

1

A;

0

@

42 1

1

A:

4. Antag att P är projektionsmatrisen på en rät linje genom origo i xy-planet. Rita en gur för att beskriva eekten av speglingsmatrisenH =I 2P. Förklara både geometriskt och algebraiskt varför H²=I.

5. (a)Projicera vektorn^b = (0 3 0)^T på var och en av de ortonormala vektorerna

a

1 = ¹³(2 2 1)^T och ^a2 = ¹³ ( 1 2 2)^T och bestäm sedan dess projektion på planet spn^{f a1};^a2g.

(b)Bestäm också projektionen av^b = (0 3 0)^T på^a3 = ¹³(2 1 2)^T, addera de tre projektionerna på endimensionella underrum och tolka resultatet. Varför är P =^a1aT1 +^a2aT2 +^a3aT3 =I?

6. Bestäm en bas iN(A) då

A=

1 0 2 1 1 4



och veriera att N(A)^?R(A^T). Skriv vektorn ^x = (3 3 3)^T i formen ^x =

x

1 +^x2, där ^{x1 2}R(A^T) och ^{x2 2} N(A). Vilka är koordinaterna för ^x1 i basen

f(1 0 2)^T;(1 1 4)^TgiR(A^T)?

7. Räkna ut spektralframställningen för matrisen Adå (a) A=

3 2 2 3



; (b) A=

0

@

0 1 1

1 0 1

1 1 0

1

A :

Skriv ut en formel för Aⁿ samt bestäm en tredjerot ur A, dvs. en matrisX sådan att X³ =A.

8. Visa att om Q¹ och Q² är ortogonala matriser så är också Q¹Q² en ortogonal matris.

9. Räkna ut en formel för avståndet från en punkt^yi^R3till planet^nTx=b. Ledning:

Antag temporärt att^x0 är en punkt i planet och projicera^{y x0} på ⁿ. 10. Ortonormera med hjälp av GramSchmidt-proceduren vektorerna

(a) ^a1 = (0 0 1)^T; ^a2 = (0 1 1)^T; ^a3 = (1 1 1)^T ;

(b) ^a1 = ( 1 2 2)^T; ^a2 = (4 5 2)^T; ^a3 = (5 2 1)^T : samt QR-faktorisera matrisenA= (^{a1 a2 a3}).

11. (a)Konstruera en ortonormal bas (dvs. en bas som är ettON-system) till det plan V i^R3 som har ekvationenx y+ 2z= 0.

(b) Räkna ut projektionsmatrisen (för ortogonal projektion) på V.

(c)Räkna också ut speglingenS^xiV av en godtycklig punkt^x= (x y z)^T (här ärS speglingsmatrisen iV).

12. Visa att för varjem=n-matrisAmed rangenr gäller att matrisenAA^T är symmet- risk och har rangenr.

13. Vilken är volymen av den parallellepiped, som har sina hörn i punkterna(0 0 0), ( 1 2 2),(2 1 2) och (2 2 1)?

14. (a) LåtA vara en m=n-matris. Visa att A^TA bara har icke-negativa egenvärden.

(b) Låt <sup>1 


</sup> k > 0 vara en uppräkning av A^TA:s positiva egenvärden och sätt j = +^pj för j = 1;:::;k (dessa tal kallas A:s singulärvärden). Låt vidare ^fv1;:::;^vn^g vara ett ON-system av motsvarande egenvektorer. Visa att

vTjA^TA^vi =j²ji förj= 1;:::;k och i= 1;:::;n.

(c) Sätt^uj =_j ¹A^vj förj= 1;:::;k. Visa att ^fu1;:::;^uk^g är ett ON-system.

(d) Komplettera^fu1;:::;^uk^g till en ON-bas^fu1;:::;^um^g i^Rm.

(e) LåtU ochV vara de ortogonala matriser som innehåller^uj:na resp. ^vi:na som kolonner och låtvara denm=n-matris som diagonalt från övre vänstra hörnet har talen ¹;:::;k;0;::: medan övriga matriselement är nollor. Visa attA=UV^T. Detta ärsingulärvärdesfaktoriseringen (singulärvärdesdekompositionen) avA.