Matriisilaskentaa tilastotieteilijöille

Transkriptio

1 Matriisilaskentaa tilastotieteilijöille Ilkka Mellin 3.. Cholesky-hajotelma ja QR-hajotelma 3.. Yleistetyt käänteismatriisit 3.3. Singulaariarvohajotelma 3.4. Matriisien kääntäminen 3.5. Matriisien derivointi 3.6. Bilineaari- ja neliömuotojen maksimointi 3.7. Kroneckerin tulo TKK Ilkka Mellin (007) /38

2 Matriisilaskentaa tilastotieteilijöille 3.. Cholesky-hajotelma ja QR-hajotelma CHOLESKY-HAJOTELMA QR-HAJOTELMA 3.. Yleistetyt käänteismatriisit MOORE-PENROSE-INVERSSI MOORE-PENROSE INVERSSIN OMINAISUUKSIA SOVELLUS: LINEAARINEN REGRESSIOMALLI 3.3. Singulaariarvohajotelma SINGULAARIARVOHAJOTELMA SINGULAARIARVOT SINGULAARIARVOHAJOTELMAN TULKINTA SINGULAARIARVOHAJOTELMAN OMINAISUUKSIA SOVELLUS: LINEAARINEN REGRESSIOMALLI 3.4. Matriisien kääntäminen KÄÄNTEISMATRIISIN LASKUKAAVAT 3.5. Matriisien derivointi. KERTALUVUN OSITTAISDERIVAATTAOPERAATTOREIDEN VEKTORI FUNKTION GRADIENTTI. KERTALUVUN OSITTAISDERIVAATTAOPERAATTOREIDEN MATRIISI. KERTALUVUN OSITTAISDERIVAATTAOPERAATTOREIDEN MATRIISI VEKTOREIDEN LINEAARIKOMBINAATIOIDEN DERIVOINTI VEKTORIN NORMIN NELIÖN DERIVOINTI BILINEAARIMUOTOJEN JA NELIÖMUOTOJEN DERIVOINTI DETERMINANTIN DERIVOINTI MATRIISIN KÄÄNTEISMATRIISIN DERIVOINTI MATRIISIN JÄLJEN DERIVOINTI 3.6. Bilineaari- ja neliömuotojen maksimointi BILINEAARIMUODOT BILINEAARIMUOTOJEN MAKSIMOINTI NELIÖMUODOT NELIÖMUOTOJEN MAKSIMOINTI 3.7. Kroneckerin tulo KRONECKERIN TULO LASKUSÄÄNTÖJÄ KRONECKERIN TULOLLE TKK Ilkka Mellin (007) /38

3 3.. Cholesky-hajotelma ja QR-hajotelma Lineaaristen mallien ja monimuuttujamenetelmien teoriassa on usein hyötyä seuraavassa esitettävistä kahdesta matriisihajotelmasta. Cholesky hajotelma Lause 3... Olkoon A ositiivisesti definiitti m m-matriisi. Tällöin on olemassa eäsingulaarinen alakolmiomatriisi L ja eäsingulaarinen yläkolmiomatriisi U siten, että A LL UU Todistus : Koska matriisi A on oletettu ositiivisesti definiitiksi, se on symmetrinen ja eäsingulaarinen. Lisäksi lauseen.7.. mukaan kaikki matriisin A alimatriisit, jotka saadaan oistamalla matriisista A r kaaletta toisiaan vastaavaa riviä ja saraketta ovat ositiivisesti definiittejä. Tarkastelemme alla matriisin A esittämistä alakolmiomatriisin L ja sen transoosin L tulona. Matriisin A esittäminen yläkolmiomatriisin U ja sen transoosin U tulona taahtuu vastaavalla tavalla. Esitämme edagogisista syistä alla kaksi erilaista todistusta lauseelle. Todistus : Matriisin A ja tulon LL alkioiden suora vertailu. Olkoon L alakolmiomatriisi: l l l 0 0 L l3 l3 l33 0 lm lm lm3 lmm Asetetaan matriisiyhtälö a a a3 a m l l l l3 lm a a a3 a m l l l l3 l m A a3 a3 a33 a m l3 l3 l l33 l m3 LL a a a a l l l l l m m m3 mm m m m3 mm mm Siten matriisin L alkioiden l ij on toteutettava seuraavat yhtälöt: a l, a l l, a l l,, a l l a l l a l l a l l l l a l l l l a l l a l l l l a l l l a l l l l l l 3 3 m m,, 3 3 3,, m m m 3 3, 3 3 3, ,, 3m 3 m 3 m 33 m3 m m m, m m lml, am3 lm l3 lml3 lm3l33,, amm l j mj a l l a l l TKK Ilkka Mellin (007) 3/38

4 Tämä yhtälöryhmä on matriisin L tuntemattomien alkioiden l ij suhteen rekursiivinen ja siten alkiot l ij saadaan ratkaistuksi yhtälöryhmästä rivi riviltä käyttämällä hyväksi aikaisemmin saatuja ratkaisuja. Yhtälöryhmän ensimmäiseltä riviltä saadaan ratkaistuksi matriisin L. sarakkeen alkiot l, l,, l m : a a a m l ± a, l, l,, l 3 3 m l l l Yhtälöryhmän toiselta riviltä saadaan ratkaistuksi matriisin L alkio l ja matriisin L. sarakkeen alkiot l, l 3,, l m : l a l, / aa a ai lli i a l l ±, l, i 3,4,, m Yhtälöryhmän kolmannelta riviltä saadaan ratkaistuksi matriisin L alkiot l 3 ja l 3 matriisin L 3. sarakkeen alkiot l 33, l 43,, l m3 : l a a l l, l l l / a3 ( a3 ll3) a3i l3li l3li i3 l3 l l33 l ± a, l, i 4,5,, m Jatkamalla kuvattua menettelyä, saadaan loutkin matriisin L alkiot ratkaistuksi. Huomautus : Olkoon B k, k,,, m matriisin A k k-alimatriisi, joka saadaan oistamalla matriisista A sen (m k) viimeistä riviä ja saraketta (huomaa, että B A). m Koska matriisi A on ositiivisesti definiitti, niin myös sen alimatriisit B k ovat ositiivisesti definiittejä, jolloin niiden determinantit ovat ositiivisia: det( B k ) > 0 Kun k, niin B [ a ] ja det( B ) a > 0 Siten alkio l ja edelleen alkiot l,, l m saadaan ratkaistuksi yhtälöryhmän ensimmäiseltä riviltä. TKK Ilkka Mellin (007) 4/38

5 Kun k, niin ja B a a a a det( B ) a a a > 0 Koska lisäksi edellä todettiin, että a > 0, niin a a a a > 0 ja siten alkio l ja edelleen alkiot l 3,, l m saadaan ratkaistuksi yhtälöryhmän toiselta riviltä. Taaukset k 3, 4,, m voidaan käsitellä vastaavalla tavalla. Huomautus : Koska matriisi A on symmetrinen, toiselta riviltä saatava ratkaisu alkiolle l ei ole ristiriidassa ensimmäiseltä riviltä saadun ratkaisun kanssa: a a l l l Koska matriisi A on symmetrinen, kolmannelta riviltä saatavat ratkaisut alkioille l ja l 3 eivät ole ristiriidassa ensimmäiseltä ja toiselta riviltä saatujen ratkaisujen kanssa: l l 3 3 a3 a3 l l a l l a l l l l Vastaava ilmiö tulee esiin myös muilla riveillä. Todetaan louksi, että lauseen.5.. mukaan matriisi L on oltava eäsingulaarinen, koska matriisi A on ositiivisesti definiittinä matriisina eäsingulaarinen. Todistus : Induktio-todistus. Koska A on symmetrinen m m-matriisi, se voidaan esittää muodossa Am c Am c a mm jossa c on (m )-vektori. Asetetaan induktio-oletus: A L L m m m jossa L m on eäsingulaarinen alakolmiomatriisi. TKK Ilkka Mellin (007) 5/38

6 Olkoon L L 0 l λ m m jossa l on toistaiseksi tuntematon (m )-vektori ja λ on toistaiseksi tuntematon reaaliluku. Muodostetaan matriisiyhtälö A eli Lm L m Lm l Am c a m λ mm ll ll c Siten saamme (m )-vektorin l ja reaaliluvun λ ratkaisemiseksi yhtälöt Lm l c ll λ L L m m m a mm Koska L m on induktio-oletuksen mukaan eäsingulaarinen, niin vektorin l ratkaisuksi saadaan Edelleen l L c m mikä seuraa siitä, että ja λ a ll a c L L c a c L L c a c L L c a > mm ( ) ( mm m m mm m ) m mm ( m m ) mm ca m c 0 A ca c A m amm m m > 0 A m > 0 koska matriisi A m on ositiivisesti definiitti. Siten saamme myös reaaliluvun λ ratkaistuksi: λ ± ca c a mm m Huomautus : Positiivisesti definiitin matriisin A esitystä eäsingulaarisen alakolmiomatriisin L ja sen transoosin L tai eäsingulaaristen yläkolmiomatriisi U ja sen transoosin tulona kutsutaan matriisin A Cholesky-hajotelmaksi. TKK Ilkka Mellin (007) 6/38

7 Huomautus : Cholesky-hajotelma ei ole yksikäsitteinen, mutta jos esitämme lisävaatimuksen, että matriisin L (tai matriisin U) kaikkien diagonaalialkioiden on oltava ositiivisia, Cholesky-hajotelma on yksikäsitteinen. QR-hajotelma Lause 3... Olkoon A m n-matriisi, jossa m n ja olkoon matriisin A aste r(a) n. Tällöin on olemassa m n-matriisi Q, jonka sarakkeet ovat ortonormaalisia eli Q Q I, ja eäsingulaarinen n n-yläkolmiomatriisi R siten, että A QR Matriisin A QR-hajotelma saadaan ortogonalisoimalla matriisin A sarakevektorit Gramin ja Schmidtin ortogonalisointi-menetelmällä; ks. lausetta.6.4. Asetetaan ortogonalisoinnin tuloksena saatavat ortonormaalit vektorit matriisin Q sarakkeiksi. Matriisi Q saadaan kertomalla matriisi A eäsingulaarisella yläkolmiomatriisilla T oikealta: AT Q n n-matriisi T on eäsingulaarinen, koska sen aste on n, mikä seuraa siitä, että sekä matriisin A että matriisin Q aste on n. Koska matriisi T on yläkolmiomatriisi, niin myös sen käänteismatriisi T R on yläkolmiomatriisi. Siten A QT QR Huomautus : Matriisin A esitystä sarakkeiltaan ortonormaalisen matriisin Q ja eäsingulaarisen yläkolmiomatriisin R tulona kutsutaan matriisin A QR-hajotelmaksi. Huomautus : Matriisin A sarakevektoreiden on oltava lineaarisesti riiumattomia, jotta matriisilla A olisi QR-hajotelma. 3.. Yleistetyt käänteismatriisit Singulaarisella matriisilla ei ole käänteismatriisia. Tarkastelemme tässä luvussa käänteismatriisin käsitteen yleistämistä ns. yleistetyksi käänteismatriisiksi, joka voidaan määrätä kaikille matriiseille. Matriisin A yleistettyä käänteismatriisia ei voida selvästikään määritellä eäsingulaarisen matriisin C käänteismatriisin B määrittelevällä yhtälöllä CB BC I mutta sillä voi silti olla (järkevästi määriteltynä) riittävä määrä eäsingulaarisen matriisin käänteismatriisin muista ominaisuuksista ollakseen hyödyllinen käsite. TKK Ilkka Mellin (007) 7/38

8 Käänteismatriisin käsitteen yleistäminen singulaarisille matriiseilla voi taahtua usealla eri tavalla riiuen siitä, mitä ehtoja tarkasteltavan singulaarisen matriisin oletetaan toteuttavan ja mitä ehtoja yleistetyn käänteismatriisin halutaan toteuttavan. Rajoitumme tässä esityksessä tarkastelemaan yleistettyä käänteismatriisia, joka on olemassa jokaiselle matriisille ja on lisäksi yksikäsitteinen. Tätä yleistettyä käänteismatriisia kutsutaan Moore-Penrose-inverssiksi. Moore-Penrose-inverssi Lause 3... Jokaiselle m n-matriisille A on olemassa yksikäsitteinen n m-matriisi A, joka toteuttaa seuraavat ehdot: (i) AA A A (ii) AAA A (iii) ( AA) AA (iv) ( AA ) AA Jos A 0, niin A 0. Oletetaan siis, että r(a) r > 0 Tällöin on olemassa m r-matriisi C, jonka aste on r(c ) r ja r n-matriisi C, jonka aste r(c ) r siten, että A C C Sivuutamme tämän todistamisen. Määritellään n m-matriisi () Todetaan ensin, että () ja (3) (i) A C ( C C ) ( CC ) C A A C ( C C ) ( CC ) CCC C ( C C ) C AA CC C ( C C ) ( CC ) C C ( CC ) C Soveltamalla kaavaa () nähdään, että AA A C C C ( C C ) C C C A (ii) Soveltamalla kaavoja () ja (3) nähdään, että A AA C ( CC ) ( CC ) CC ( CC ) C C ( C C) ( CC ) C A (iii) Matriisi A A on symmetrinen, koska transoosin ominaisuuksista seuraa, että ( AA) C ( CC ) C AA TKK Ilkka Mellin (007) 8/38

9 (iv) Matriisi AA on symmetrinen, koska transoosin ominaisuuksista seuraa, että ( AA ) C ( C C ) C AA Siten jokaiselle m n-matriisille A on olemassa matriisi A, joka toteuttaa ehdot (i)-(iv). Todistetaan vielä, että matriisi A on yksikäsitteinen. Oletetaan siksi, että sekä matriisi A että matriisi B toteuttavat ehdot (i)-(iv). Siten erityisesti AA A A Kertomalla tämä yhtälö oikealta matriisilla B saadaan yhtälö AA AB AB Vastaavasti kertomalla yhtälö AB A A vasemmalta matriisilla A saadaan yhtälö AB AA AA Koska matriisit AB ja AA ovat ehdon (iv) mukaan symmetrisiä, niin AB AA AB (( AA )( AB )) ( AB ) ( AA ) AB AA AA Samaan taaan voidaan osoittaa, että BA AA Kertomalla yhtälö AB AA vasemmalta matriisilla B saadaan yhtälöketju B B AB B AA A AA A joten matriisi A on yksikäsitteinen. Kutsumme lauseessa 3.. määriteltyä matriisia A matriisin A Moore-Penrose-inverssiksi. Moore-Penrose-inverssi voidaan määritellä myös matriisin ääakselihajotelman (ks. lausetta 3..4.) tai matriisin singulaariarvohajotelman avulla (ks. lausetta 3.3.4). Lause 3... Olkoon matriisin A yleistetty käänteismatriisi yleistetty käänteismatriisi on ( A ). A. Tällöin matriisin A transoosin A Lause seuraa transonoimalla matriisin A yleistetyn käänteismatriisin määrittelevät ehdot (i)-(iv) lauseessa 3... Moore-Penrose-inverssin ominaisuuksia Lause Jos matriisi A on eäsingulaarinen, niin A A TKK Ilkka Mellin (007) 9/38

10 Jos matriisi A on eäsingulaarinen, sillä on yksikäsitteinen käänteismatriisi toteuttaa ehdon AA A A I A, joka Suoraan laskemalla nähdään, että matriisi A toteuttaa myös lauseen 3... ehdot (i)- (iv), joten A on eäsingulaarisen matriisin A yleistetty käänteismatriisi: Lause A A Olkoon A m n-matriisi ja r(a) r. Olkoon AA QΛQ matriisin AA ääakselihajotelma, jossa Λ diag( λ, λ,, λ r,0,0,,0) on matriisin AA ominaisarvojen muodostama diagonaalimatriisi ja Q on vastaavien ominaisvektoreiden muodostama ortogonaalinen matriisi, jossa ominaisvektorit ovat sarakkeina. Tällöin matriisin A yleistetty käänteismatriisi on muotoa missä ja A ( AA ) A ( AA ) QΛ Q Λ diag( λ, λ,, λ r,0,0,,0) Koska olemme olettaneet, että r(a) r, niin lauseen.5.. mukaan myös r( AA ) r. Siten matriisilla AA on ääakselihajotelma AA QΛQ jossa Λ diag(,,,,0,0,,0) λ λ λ r on matriisin AA ominaisarvojen muodostama diagonaalimatriisi ja Q on vastaavien ominaisvektoreiden muodostama ortogonaalinen matriisi, jossa ominaisvektorit ovat sarakkeina. Määritellään matriisi B ( AA ) A jossa ja ( AA ) QΛ Q TKK Ilkka Mellin (007) 0/38

11 Λ diag( λ, λ,, λ r,0,0,,0) Suoraan laskemalla nähdään, että matriisi B toteuttaa lauseen 3... ehdot (i)-(iv), joten B on matriisin A yleistetty käänteismatriisi: Lause B ( AA ) A A Olkoon A m n-matriisi ja r(a) n. Tällöin A ( AA ) A Olkoon A m n-matriisi. Jos r(a) n, niin lauseen.5.. mukaan myös r( AA ) r. Siten matriisi AA on eäsingulaarinen ja lauseen mukaan ( AA ) ( AA ) ja lauseen mukaan A ( AA ) A Lause Olkoon A matriisin A yleistetty käänteismatriisi. Tällöin matriisit symmetrisiä ja idemotentteja eli rojektioita. AA ja AA ovat Olkoon A matriisin A yleistetty käänteismatriisi. Lauseen 3... kohdissa (iii) ja (iv) on todettu, että matriisit AA ja AA ovat symmetrisiä. Suoraan laskemalla nähdään, että matriisit Lauseen 3... kohdasta (ii) seuraa, että ( ) AA AAAA AA Lauseen 3... kohdasta (i) seuraa, että ( ) AA ja AA ovat idemotentteja: AA AA AA AA (AA ) AA AA AA Siten matriisit AA ja AA ovat rojektioita. Lause Olkoon matriisisi P symmetrinen ja idemotentti eli rojektio. Tällöin matriisin P yleistetty käänteismatriisi on matriisi P itse: P P Olkoon matriisi P symmetrinen ja idemotentti eli rojektio. TKK Ilkka Mellin (007) /38

12 Tällöin ja P P P PP P Suoraan laskemalla nähdään, että matriisi P toteuttaa lauseen 3... ehdot (i)-(iv), joten P on matriisin P yleistetty käänteismatriisi: P Sovellus: Lineaarinen regressiomalli Olkoon P y Xβ ε tavanomainen lineaarinen regressiomalli, jossa y selitettävän muuttujan y havaittujen ja satunnaisten arvojen y i, i,,, n muodostama n-vektori, X selittävien muuttujien x j, j,,, havaittujen ja kiinteiden (ei-satunnaisten) arvojen x ij, i,,, n, j,,, muodostama n -matriisi, n, r(x), β tuntemattomien ja kiinteiden regressiokertoimien β j, j,,, muodostama -vektori, ε jäännös- eli virhetermin ε ei-havaittujen ja satunnaisten arvojen ε i, i,,, n muodostama n-vektori. Regressiokertoimien vektori β estimoidaan tavallisesti ienimmän neliösumman menetelmällä, jossa β yritään valitsemaan siten, että neliösumma () n εi εε ( y Xβ)( y Xβ) yy β Xy β XXβ i minimoituu. Etsitään neliösumman () minimi derivoimalla neliösumma () vektorin β suhteen ja merkitsemällä derivaatta nollaksi. Soveltamalla matriisien derivointisääntöjä (ks. kaaletta 3.5.) saadaan normaaliyhtälö () εε Xy XXβ 0 β vektorin β ratkaisemiseksi. Jos matriisin X sarakkeet ovat lineaarisesti riiumattomia eli r(x), niin matriisi XX on eäsingulaarinen ja normaaliyhtälöllä () on yksikäsitteinen ratkaisu. Ratkaisuna on tavanomainen ienimmän neliösumman estimaattori b ( XX ) Xy Normaaliyhtälön () ratkaisu b tuottaa todellakin neliösumman () minimin, koska TKK Ilkka Mellin (007) /38

13 εε XX ββ ja matriisi XX on ositiivisesti definiitti, jos matriisin X sarakkeet ovat lineaarisesti riiumattomia eli r(x). Oletetaan nyt, että r(x) r <. Tällöin matriisi XX on singulaarinen ja regressiokertoimien vektorin β tavanomainen ienimmän neliösumman estimaattori ei ole olemassa. Olkoon XX QΛQ matriisin XX ääakselihajotelma, jossa Λ diag(λ, λ,, λ r, 0, 0,, 0) on matriisin XX ominaisarvojen muodostama diagonaalimatriisi ja Q on vastaavien ominaisvektoreiden muodostama ortogonaalinen matriisi, jossa ominaisvektorit ovat sarakkeina. Valitaan regressiokertoimien vektorin β estimaattoriksi -vektori jossa ja b X y ( XX ) Xy ( XX ) QΛ Q Λ diag( λ, λ,, λ r,0,0,,0) Estimaattori b on vektorin β ääkomonenttiestimaattori; ks. monisteen Monimuuttujamenetelmät lukua Pääkomonenttianalyysi. Jos matriisin X sarakkeet ovat lineaarisesti riiumattomia eli r(x) r, niin b b 3.3. Singulaariarvohajotelma Olkoon A mielivaltainen m n-matriisi. Symmetrisen neliömatriisin ääakselihajotelmaa vastaa yleisessä taauksessa ns. singulaariarvohajotelma. Singulaariarvohajotelma Lause Olkoon A m n-matriisi, m n, r(a) r. Tällöin on olemassa m n-matriisi P, n ndiagonaalimatriisi L ja n n-matriisi Q siten, että A PLQ Lisäksi matriisin P sarakkeet ovat ortonormaalisia eli P P I ja matriisi Q on ortogonaalinen eli Q Q QQ I TKK Ilkka Mellin (007) 3/38

14 Olkoon A m n-matriisi, m n, r(a) r, jolloin r( AA ) r. Tällöin matriisin AA ääakselihajotelma on muotoa AA QLQ jossa ja L 0 L 0 0 L diag( l, l,, l r ) on matriisin AA ositiivisten ominaisarvojen l, l,, l r muodostama diagonaalimatriisi ja Q on matriisin AA ominaisvektoreiden muodostama ortogonaalinen n nmatriisi: QQ QQ I Ositetaan matriisi Q sarakkeittensa suhteen seuraavalla tavalla: Q [ Q Q ] jossa n r-matriisin Q sarakkeina on matriisin AA ositiivisia ominaisarvoja l, l,, l r vastaavat ominaisvektorit ja n (n r)-matriisin Q sarakkeina on matriisin nollaominaisarvoja vastaavat ominaisvektorit. Siten matriisin AA ääakselihajotelma voidaan kirjoittaa muotoon josta seuraa yhtälö AA QLQ QAAQ L Määritellään m r-matriisi P seuraavalla kaavalla: P AQ L jossa siis L diag( l, l,, l r ) Matriisin P sarakkeet ovat ortonormaalisia, koska PP L Q AAQL L LL I r Koska olemme olettaneet, että m n, matriisi P voidaan täydentää Gramin ja Schmidtin ortogonalisointimenetelmällä ortogonaaliseksi m m-matriisiksi P [ P P ] Kertomalla yhtälö muoto P AQ L oikealta matriisilla LQ saadaan matriisille A esitys- TKK Ilkka Mellin (007) 4/38

15 A PLQ [ P P ] L 0 Q 0 0 Q PLQ jossa n n-matriisi Q on määritelty edellä ja L on m n-matriisi, jonka vasemman yläkulman lohkon muodostaa matriisi L. Koska matriisin L (m n) viimeistä riviä ovat nollia, matriisi A voidaan esittää myös muodossa A PLQ jossa m n-matriisi P saadaan ottamalla matriisista P n ensimmäistä saraketta, n ndiagonaalimatriisi L ja n n-matriisi Q on määritelty edellä. Lisäksi matriisin P sarakkeet ovat ortonormaalisia ja matriisi Q on ortogonaalinen. Kutsumme lauseessa 3.3. määriteltyä matriisihajotelmaa A PLQ matriisin A singulaariarvohajotelmaksi. Lauseessa on oletettu, että A on m n-matriisi, jossa m n. Jos m n, niin matriisin A singulaariarvohajotelma saadaan transonoimalla matriisin A singulaariarvohajotelma A PLQ eli tällöin matriisin A singulaariarvohajotelma on muotoa A QLP Singulaariarvot Matriisin A singulaariarvohajotelman A PLQ diagonaalimatriisin L diag(l, l,, l r ) diagonaalialkioita kutsutaan matriisin A singulaariarvoiksi. Singulaariarvohajotelman tulkinta Jokainen lineaarikuvaus voidaan esittää yhdistämällä kierto, venytys ja kierto (kierrot yhdistettyinä mahdollisiin eilauksiin), koska kuvausta vastaava matriisi A voidaan esittää kiertoa vastaavan ortogonaalisen matriisin Q, venytystä vastaavan diagonaalimatriisin L ja toista kiertoa vastaavan ortogonaalisen matriisin P tulona. Singulaariarvohajotelman ominaisuuksia Olkoon A m n-matriisi, m n, r(a) r ja olkoon A PLQ matriisin A singulaariarvohajotelma, missä P sarakeiltaan ortonormaalinen m n-matriisi: P P I Q ortogonaalinen n n-matriisi: Q Q QQ I L diag(l, l,, l r, 0,, 0) on n n-diagonaalimatriisi TKK Ilkka Mellin (007) 5/38

16 Olkoot P [ n ] Q [q q q n ] missä i matriisin P i. sarakevektori, i,,, n q i matriisin Q i. sarakevektori, i,,, n Lause Olkoon A m n-matriisi, m n, r(a) r. Matriisi A voidaan aina esittää ositiivisten singulaariarvojensa l i i,,, r ja niitä vastaavien vektoreiden i ja q i, i,,, r avulla muodossa Lause r A l q i i i i Olkoon A m n-matriisi, r(a) r ja olkoon A PLQ matriisin A singulaariarvohajotelma. Tällöin ätee: (i) P AQ L (ii) A A QL Q (iii) AA PL P (i) Kertomalla matriisin A singulaariarvohajotelma A PLQ vasemmalta matriisilla P ja oikealta matriisilla Q saadaan yhtälö P AQ P PLQ Q L (ii) AA PLQ QLP PL P (iii) A A QLP PLQ QL Q Huomautus : Matriiseilla A A ja AA on Lauseen kohtien (ii) ja (iii) mukaan samat ominaisarvot, mutta eri ominaisvektorit. Huomautus : Matriisien A A ja AA ominaisarvoina ovat Lauseen kohtien (ii) ja (iii) mukaan matriisin A singulaariarvojen neliöt. Lause Olkoon A m n-matriisi, m n, r(a) r ja olkoon A PLQ matriisin A singulaariarvohajotelma. Tällöin matriisin A Moore-Penrose-inverssi voidaan esittää muodossa A TKK Ilkka Mellin (007) 6/38

17 jossa A QL P L diag( l, l,, l r,0,0,,0) Olkoon A m n-matriisi, m n, r(a) r ja olkoon A PLQ matriisin A singulaariarvohajotelma. Suoraan laskemalla nähdään, että matriisi QL P toteuttaa lauseen 3... ehdot, joten matriisi QL P on matriisin A Moore-Penrose-inverssi: A QL P Sovellus: Lineaarinen regressiomalli Olkoon y Xβ ε kaaleessa 3.. määritelty tavanomainen lineaarinen regressiomalli, jossa y on selitettävän muuttujan y havaittujen ja satunnaisten arvojen muodostama n-vektori, X on selittävien muuttujien x j, j,,, havaittujen ja ei-satunnaisten arvojen muodostama n -matriisi, n, r(x), β on tuntemattomien regressiokertoimien muodostama -vektori ja ε on jäännös- eli virhetermin ε ei-havaittujen ja satunnaisten arvojen muodostama n-vektori. Jos matriisi X on täysiasteinen eli r(x), niin vektorin β tavanomaiseksi ienimmän neliösumman estimaattoriksi saadaan (ks. kaaletta 3..) b ( XX ) Xy Jos matriisi X ei ole täysiasteinen eli r(x) r <, niin tavanomainen ienimmän neliösumman estimaattori ei ole olemassa. Tällöin regressiokertoimien vektorin β estimaattoriksi voidaan valita vektorin β ääkomonenttiestimaattori jossa b X y X on matriisin X Moore-Penrose-inverssi. Lauseen mukaan vektorin β ääkomonenttiestimaattori singulaariarvohajotelman X PLQ avulla muodossa b X y QL Py b voidaan esittää matriisin X Jos matriisin X sarakkeet ovat lineaarisesti riiumattomia eli r(x) r, niin b b TKK Ilkka Mellin (007) 7/38

18 3.4. Matriisien kääntäminen Lineaaristen mallien ja monimuuttujamenetelmien teoriassa on usein hyötyä seuraavasta käänteismatriisin laskukaavasta ja sen erikoistaauksista. Käänteismatriisin laskukaavat Lause Olkoon A eäsingulaarinen m m-matriisi, x ja y kaksi m-vektoria sekä k. Tällöin Merkitään jolloin ( A kxy ) A c k k ya x ka xya k ya x ka xya A A A xya kya x Suoraan laskemalla saadaan koska c [ A kxy ] A ca xya I cxya kxya ckxya xya I x k c( kya x) ya I k c( kya x) xya I ya x c( k ) k Vastaavalla tavalla saadaan [ k ] c Yhdistämällä saadut tulokset nähdään, että ( A kxy ) A ca xya jossa A A xy A A xy I c k kya x /( ) TKK Ilkka Mellin (007) 8/38

19 Lause Olkoon A eäsingulaarinen m m-matriisi, C eäsingulaarinen n n-matriisi ja B m nmatriisi. Tällöin ( A BCB ) A A B( BA B C ) BA A A B( BA B) BA Suoraan laskemalla saadaan A B( BA B) ( BA B) C ( BA B) BA [ A BCB ] A A B( BA B C ) BA Vastaavalla tavalla saadaan I B( BA B C ) BA BCB A BCB A B( B A B C ) B A I B BC( B A B C ) BCB A B ( B A B C ) I B BCB A B BCC BCB A B ( B A B C ) I B BCBA B B BCBA B ( BA B C ) I [ ] ( ) Yhdistämällä saadut tulokset nähdään, että ( A BCB ) A A B( BA B C ) BA A A B BA B C BA A BCB I Kaavan toinen muoto saadaan todistetuksi juuri johdettua kaavaa lausekkeeseen ( BA B C ) Lauseen erikoistaauksena saadaan seuraava lause: Lause (i) Olkoon A eäsingulaarinen m m-matriisi ja B m n-matriisi. Tällöin ( A BB ) A A B( BA B I) BA A A B( BA B) BA (ii) A B( BA B) ( BA B) I ( BA B) BA Olkoon A eäsingulaarinen m m-matriisi ja x m-vektori. Tällöin ( A xx ) A A x( xa x ) xa A A x( xa x) xa A x( xa x) ( xa x) ( xa x) xa TKK Ilkka Mellin (007) 9/38

20 3.5. Matriisien derivointi. kertaluvun osittaisderivaattaoeraattoreiden vektori Olkoon x (x, x,, x ) -vektori. Tällöin. kertaluvun osittaisderivaattaoeraattoreiden vektori on -vektori D x,,, x x x x missä x. kertaluvun osittaisderivaattaoeraattori muuttujan x i suhteen, i i,,, Vektorin D x transoosi on -matriisi D x x x x x Funktion gradientti Olkoon y f( x ) f( x, x,, x ) avaruuden reaaliarvoinen funktio: f : Tällöin -vektori f( x) f( x) f( x) f( x) Dx f ( x),,, x x x x on funktion f gradientti isteessä x. Gradienttivektori osoittaa isteestä x siihen suuntaan, jossa funktio f kasvaa noeimmin.. kertaluvun osittaisderivaattaoeraattoreiden matriisi Olkoon x (x, x,, x ) -vektori. Tällöin. kertaluvun osittaisderivaattaoeraattoreiden matriisi on -matriisi D x xx xx D D xx x xx x x xx xx xx x x x x TKK Ilkka Mellin (007) 0/38

21 missä x x i j. kertaluvun osittaisderivaattaoeraattori muuttujien x i ja x j suhteen, i, j,,,. kertaluvun osittaisderivaattaoeraattoreiden matriisi Olkoon X [x ij ] n -matriisi. Tällöin. kertaluvun osittaisderivaattaoeraattoreiden matriisi on n -matriisi x x x x x x X xn xn x n missä. kertaluvun osittaisderivaattaoeraattori muuttujan x ij suhteen, x ij i,,, n, j,,..., Seuraavassa esitetään joukko hyödyllisiä matriisilausekkeiden derivointikaavoja. Vektoreiden lineaarikombinaatioiden derivointi Lause Olkoot a ja x -vektoreita. Tällöin (i) ( ax ) a x (ii) ( ax ) a x Olkoot a (a, a,, a ) ja x (x, x,, x ) -vektoreita. (i) Koska niin ja siten ax ax i i x i i ( ax ) a, i,,, i TKK Ilkka Mellin (007) /38

22 (ii) ( ax ) ( a, a,, a ) a x Kohta (ii) seuraa kohdasta (i) transonoimalla. Vektorin normin neliön derivointi Lause Olkoon x -vektori. Tällöin ( xx ) x x Olkoon x (x, x,, x ) -vektori. Koska niin ja siten Huomaa, että xx x x i i i ( xx ) x, i,,, i ( xx ) ( x, x,, x ) x x x xx on vektorin x normi eli ituus. Bilineaarimuotojen ja neliömuotojen derivointi Lause Olkoot A n -matriisi ja y -vektori. Tällöin ( Ay) A y Olkoot A [a ij ] n -matriisi ja y (y, y,, y ) -vektori. Tällöin Ay on n-vektori, jonka i. alkio on [ Ay ] ay, i,,, n i ij j j TKK Ilkka Mellin (007) /38

23 Koska niin ja siten y k [ Ay ] a, k,,,, i,,, n i ik [ Ay] i ( ai, ai,, ai), i,,, n y ( Ay) A y Lause Olkoot A n -matriisi, x n-vektori ja y -vektori. Tällöin (i) ( xay ) Ay x (ii) ( xay ) Ax y Olkoon A n -matriisi, x n-vektori ja y -vektori. (i) Olkoon a Ay Tällöin x Ay x Ay x a a x Lauseen kohdasta (i) seuraa, että ( xay ) ( ax ) a Ay x x (ii) Kohta (ii) seuraa kohdasta (i), koska xay ( xay ) yax Lause Olkoon A -matriisi ja x -vektori. Tällöin (i) ( xax ) ( A A ) x x (ii) ( xax ) A A xx TKK Ilkka Mellin (007) 3/38

24 Olkoon A [a ij ] -matriisi ja x (x, x,, x ) -vektori. Tällöin (i) xax axx i j ij i j Suoraan laskemalla saadaan ( xax ) a x a x, k,,, kj j ik i x k j i ja siten ( xax ) Ax Ax ( A A ) x x (ii) Tulos seuraa kohdan (i) tuloksesta ja lauseesta Lause Olkoon A symmetrinen -matriisi ja x -vektori. Tällöin (i) ( xax ) Ax x (ii) ( xax ) A xx Olkoon A [a ij ] symmetrinen -matriisi ja x (x, x,, x ) -vektori. (i) Koska matriisi A on oletettu symmetriseksi, niin A A Siten tulos seuraa suoraan lauseesta (ii) Tulos seuraa kohdan (i) tuloksesta ja lauseesta Lause Olkoon X n -matriisi, a n-vektori ja b -vektori. Tällöin ( axb ) ab X Olkoon X [x ij ] n -matriisi, a (a, a,, a n ) n-vektori ja b (b, b,, b ) - vektori. Tällöin n axb x ab i j ij i j TKK Ilkka Mellin (007) 4/38

25 Koska niin x ij ( axb ) ab, i, j,,, ( axb ) ab X i j Determinantin derivointi Lause Olkoon X -matriisi. Tällöin X [adj( X )] X Olkoon X [x ij ] -matriisi. Palautetaan mieleen, että matriisin X adjungoitu matriisi X X X X X X adj( X) X X X on -matriisi, joka saadaan korvaamalla matriisin X i. rivin ja j. sarakkeen alkio x ij alkion x ji kofaktorilla j i X ( ) X ( j, i), j, i,,, ji jossa X(j, i) on matriisin X ( ) ( )-alimatriisi, joka saadaan oistamalla matriisista X j. rivi ja i. sarake. Kehittämällä matriisin X determinantti X sen i. rivin suhteen (ks. lause.3..) saadaan lauseke Siten ja edelleen m X xij X x ij X X j X X ij ij [adj( X)] [adj( X )] TKK Ilkka Mellin (007) 5/38

26 Lause Olkoon X -matriisi. Tällöin log X X ( X ) Lauseista ,.3.4. ja.4.3. seuraa, että log X X adj( X ) adj( X ) ( X ) X X X X X Matriisin käänteismatriisin derivointi Lause Olkoon X [x ij ] eäsingulaarinen -matriisi. Tällöin X x ij X E X ij jossa E ij on -matriisi, jonka ainoa nollasta oikkeava alkio on ykkönen aikassa (i, j). Olkoon X [x ij ] eäsingulaarinen -matriisi. Tällöin Siten joten ja edelleen Koska niin XX I XX X X X X 0,, i j,,, x x x ij ij ij X X X X,, i j,,, x x X x ij ij ij X X X,, i j,,, x X, kun r i, s j xij 0, muulloin rs ij TKK Ilkka Mellin (007) 6/38

27 X x ij E ij Siten X x ij X E X ij Matriisin jäljen derivointi Lause Olkoon X -matriisi. Tällöin tr( X) I X Olkoon X [x ij ] -matriisi. Tällöin tr( X ) x i ii Koska tr( X), i j xij 0, i j niin tr( X) I X Lause Olkoon A n -matriisi ja X n-matriisi. Tällöin tr( AX) A X Olkoon A [a ij ] n -matriisi ja X [x ij ] n-matriisi. Tällöin ja tr( AX ) [ AX ] a x, i, j,,, n ij ik kj k n i k a x ik ki TKK Ilkka Mellin (007) 7/38

28 Koska niin Lause tr( AX) aji, i,,, n, j,,, x ij tr( AX) A X Olkoon A n -matriisi, X -matriisi ja B n-matriisi. Tällöin tr( AXB) A B X Todetaan ensin, että transoosin ominaisuuksien erusteella tr( AXB) tr( BAX ) Merkitään BA C Soveltamalla lausetta nähdään, että tr( CX) C ( AB) B A X Lause Olkoon A m m-matriisi ja X m -matriisi. Tällöin tr( XAX ) AX AX X Olkoon A [a ij ] m m-matriisi ja X [x ij ] m -matriisi. Tällöin ja jolloin m ls lk ks k [ AX ] a x, l,,, m, s,,, m m m m m [ XAX ] x [ AX ] x a x a x x, r, s,,, rs lr ls lr lk ks lk lr ks l l k l k tr( XAX ) m m r l k a x x lk lr kr TKK Ilkka Mellin (007) 8/38

29 Koska x ij tr( XAX ) x m m m ij r l k m a x x lk lr kr ax a x, i,,, m, j,,, li lj ik kj l k niin tr( XAX ) AX AX X Yleistyksenä lauseelle voidaan todistaa: Lause Olkoon A m m-matriisi, B -matriisi ja X m -matriisi. Tällöin tr( BX AX) A XB AXB X Olkoon A [a ij ] m m-matriisi, B [b ij ] -matriisi ja X [x ij ] m -matriisi. Tällöin Koska niin tr( BX AX ) x ij m m s r l k tr( BX AX) x abxx lk sr lr ks m m ij s r l k m m m m abxx lk sr lr ks ab x ab x, i,, m, j,,, li jr lr ik sj ks r l s k tr( BX AX) A XB AXB X 3.6. Bilineaari- ja neliömuotojen maksimointi Bilineaarimuodot Olkoon A [a ij ] n -matriisi, r(a) r, x (x, x,, x n ) n-vektori ja y (y, y,, y ) - vektori. Kutsumme reaalilukua n xay axy i j matriisin A bilineaarimuodoksi. ij i j TKK Ilkka Mellin (007) 9/38

30 Bilineaarimuotojen maksimointi Maksimoidaan matriisin A bilineaarimuoto x Ay ehdoilla x y Olkoon A PLQ matriisin A singulaariarvohajotelma. Tällöin P sarakkeidensa suhteen ortonormaalinen n -matriisi: P P I Q ortogonaalinen -matriisi: Q Q I L diag(l, l,, l r, 0,, 0) on -diagonaalimatriisi Olkoot P [ ] Q [q q q ] missä i matriisin P i. sarakevektori, i,,, q i matriisin Q i. sarakevektori, i,,, Matriisien P, Q ja L sarakkeet voidaan aina järjestää niin, että l l l r > 0 Lause Matriisin A bilineaarimuodon xay maksimi muuttujien x ja y suhteen ehtojen x y ätiessä on matriisin A suurin singulaariarvo l ja maksimi saavutetaan, kun x y q missä on matriisin A suurinta singulaariarvoa l vastaava matriisin P sarake ja q on vastaava matriisin Q sarake. Koska haluamme maksimoida bilineaarimuodon xay ehtojen x y ätiessä, sovellamme Lagrangen menetelmää sidottujen ääriarvojen määräämisessä. Maksimoitava funktio on siten muotoa u xay k( xx ) l( yy ) jossa k ja l ovat Lagrangen kertoimet. TKK Ilkka Mellin (007) 30/38

31 Derivoidaan u vuorollaan muuttujien x, y, k ja l suhteen ja merkitään derivaatat nolliksi. Saamme lauseiden ja nojalla muuttujien x, y, k ja l ratkaisemiseksi normaaliyhtälöt () u Ay kx 0 x u () Ax ly 0 y u (3) ( ) 0 xx k u (4) ( ) 0 yy l Kertomalla yhtälö () vasemmalta vektorin x transoosilla saadaan yhtälön (3) nojalla yhtälö (5) xay k Transonoimalla yhtälö () saadaan yhtälö (6) xa ly 0 Kertomalla yhtälö (6) oikealta vektorilla y saadaan yhtälön (4) nojalla yhtälö (7) xay l Yhtälöistä (5) ja (7) nähdään, että k l xay Yhtälöistä (5) ja (7) nähdään myös, että bilineaarimuoto xaymaksimoituu valinnoilla x y q jossa vektorit ja q vastaavat matriisin A suurinta singulaariarvoa l ja maksimin arvo on xay l Käyttämällä Lagrangen menetelmää hyvin samaan taaan kuin lauseen todistuksessa voidaan todistaa seuraava lause: Lause Matriisin A bilineaarimuodon xay maksimi muuttujien x ja y suhteen ehtojen x y x x i 0 yq yqi 0 i,,, r ätiessä on matriisin A (i). singulaariarvo l i ja maksimi saavutetaan, kun TKK Ilkka Mellin (007) 3/38

32 x i y q i missä i on matriisin A (i). singulaariarvoa l i vastaava matriisin P sarake ja q i on vastaava matriisin Q sarake. Neliömuodot Olkoon A [a ij ] symmetrinen -matriisi ja x (x, x,, x ) -vektori. Kutsumme reaalilukua xax axx matriisin A neliömuodoksi. i j Neliömuotojen maksimointi ij i j Maksimoidaan matriisin A neliömuoto x Ax ehdolla Olkoon x A QΛQ matriisin A ääakselihajotelma. Tällöin Q on ortogonaalinen -matriisi: ja Q Q QQ I Λ diag(λ, λ,, λ ) on -diagonaalimatriisi. Olkoon missä Q [q q q ] q i matriisin Q i. sarakevektori, i,,, Matriisien Q ja Λ sarakkeet voidaan aina järjestää niin, että λ λ λ Lause Matriisin A neliömuodon xax maksimi muuttujan x suhteen ehdon x ätiessä on matriisin A suurin ominaisarvo λ ja maksimi saavutetaan, kun x q missä q on matriisin A suurinta ominaisarvoa λ vastaava ominaisvektori. TKK Ilkka Mellin (007) 3/38

33 Koska haluamme maksimoida neliömuodon xax ehdon x ätiessä sovellamme Lagrangen menetelmää sidottujen ääriarvojen määräämisessä. Maksimoitava funktio on siten muotoa v xax λ( xx ) jossa λ on Lagrangen kerroin. Derivoidaan v vuorollaan muuttujien x ja suhteen ja merkitään derivaatat nolliksi. Saamme lauseiden ja nojalla muuttujien x ja λ ratkaisemiseksi normaaliyhtälöt () u Ax λx 0 x u () xx 0 λ Kertomalla yhtälö () vasemmalta vektorin x transoosilla saadaan yhtälön () nojalla yhtälö (3) xax λ Yhtälöstä (3) nähdään välittömästi, että neliömuoto xax maksimoituu valinnalla x q jossa vektori q vastaa matriisin A suurinta ominaisarvoa λ ja maksimin arvo on xax λ Käyttämällä Lagrangen menetelmää hyvin samaan taaan kuin lauseen todistuksessa voidaan todistaa seuraava lause: Lause Matriisin A neliömuodon xax maksimi muuttujan x suhteen ehtojen x xq xq i 0 i,,, ätiessä on matriisin A (i). ominaisarvo λ i ja maksimi saavutetaan, kun x q i missä q i on matriisin A (i). ominaisarvoa λ i vastaava ominaisvektori. TKK Ilkka Mellin (007) 33/38

34 3.7. Kroneckerin tulo Kroneckerin tulo Olkoon A [a ij ] m n-matriisi ja B q-matriisi. Matriisien A ja B Kroneckerin tulo eli tensoritulo on m nq-matriisi ab ab a nb a a a B B nb A B amb amb amnb Laskusääntöjä Kroneckerin tulolle Lause Oletetaan, että so. matriisien dimensiot ovat sellaisia, että seuraavien kaavojen laskutoimitukset ovat luvallisia. (i) c( A B) ( ca) B A ( cb ) (ii) A ( B C) A B A C (iii) ( A B) C A C B C (iv) A ( B C) ( A B) C (v) ( A B)( C D) ( AC) ( BD ) (vi) ( A B) A B (vii) tr( A B) tr( A) tr( B ) (viii) Olkoot A ja B eäsingulaarisia matriiseja. Tällöin niiden Kroneckerin tulo A B on eäsingulaarinen ja ( A B) A B (ix) Olkoon A eäsingulaarinen m m-matriisi ja B eäsingulaarinen -matriisi. Tällöin A B A B m (i) Oletetaan, että A [a ij ] on m n-matriisi ja B [b kl ] on q-matriisi. Matriisin ab a nb A B am B a mnb yleinen alkio on muotoa a ij b kl. Reaalilukujen kertolaskun liitäntälain mukaan c(a ij b kl ) (ca ij )b kl a ij (cb kl ) TKK Ilkka Mellin (007) 34/38

35 (ii) Koska ca ij on matriisin ca yleinen alkio ja cb kl on matriisin cb yleinen alkio, niin ja Siten ab a nb c( A B) c am B amnb ( ca) B ( ca n) B ( cam ) B ( camn) B ( ca) B ab a nb c( A B) c am B amnb a( cb) a n( cb) am ( cb) amn( cb) A ( cb) c( A B) ( ca) B A ( cb ) Olkoon A [a ij ] m n-matriisi ja B ja C q-matriiseja. Ositettujen matriisien laskusäännöistä seuraa, että a( B C) a n( B C) A ( B C) am ( B C) amn( B C) ab ac a nb a nc am B am C amnb a mnc ab a nb ac a nc am B a mnb amc a mnc A B A C (iii) Kohta (iii) todistetaan samalla tavalla kuin kohta (ii). (iv) Kaava seuraa samaan taaan kuin kohta (i) reaalilukujen kertolaskun liitäntälaista. (v) Oletetaan, että A [a ij ] on m n-, B on q-, C [c kl ] on n r- ja D on q smatriisi. Ositettujen matriisien laskusäännöistä seuraa, että TKK Ilkka Mellin (007) 35/38

36 ab a nb cd c rd ( A B)( C D) am B amnb cnd cnrd n n ajcjbd ajcjrbd j j n n amjcj amjc jr BD BD j j [ AC] BD [ AC] r BD [ AC] mbd [ AC] mrbd ( AC) ( BD) (vi) Oletetaan, että A [a ij ] on m n-matriisi ja B on q-matriisi. Ositettujen matriisien laskusäännöistä seuraa, että ab a nb ( A B) am B a mnb a B a mb a nb a mnb A B (vii) Oletetaan, että A [a ij ] on m m-matriisi ja B [b kl ] on -matriisi. Tällöin m n n ab ii jj aii bjj aii i j i j i tr( A B) tr( B) tr( A) tr( B ) (viii) Kohdasta (v) seuraa, että ja Siten ( )( ) ( ) ( ) A B A B AA BB I I I ( )( ) ( ) ( ) A B A B A A B B I I I ( A B) A B (ix) Oletetaan, että A [a ij ] on m m-matriisi ja B on -matriisi. Oletetaan lisäksi, että matriisit A ja B ovat molemmat eäsingulaarisia. Olkoon A i (m i) (m i)-matriisi, joka saadaan matriisista A oistamalla sen i ensimmäistä riviä ja saraketta. Olkoon lisäksi a i (m i)-vektori, joka saadaan matriisin A i. rivivektorista oistamalla sen i ensimmäistä alkiota ja a i (m i)- vektori, joka saadaan oistamalla matriisin A i. sarakevektorista sen i ensimmäistä alkiota. TKK Ilkka Mellin (007) 36/38

37 Tehdään matriisille A seuraava ositus: a a A a A i i Tällöin a B a i B A B ai B A B Ositettujen matriisien laskusääntöjen nojalla (ks. lausetta.6..) A B a B ( a B)( A B) ( a B) A B i i Koska A on oletettu eäsingulaariseksi, voimme olettaa yleisyyden liikaa kärsimättä, että matriisit A i, i,,, (m ) ovat eäsingulaarisia. Siten kohdista (v) ja (viii) seuraa, että ( a B)( A B) ( a B) ( a A a ) B i i i i jossa aa ai on skalaari, jolloin i a B ( a B)( A B) ( a B) i i ( a aa a) B i i ( a aa a) B i i Ositettujen matriisien laskusääntöjen nojalla (ks. lausetta.6..) ja siten A ( a a A a ) A i i ( a a A a ) A A i i Siten olemme saaneet matriisin determinantille A B lausekkeen () A B A A B A B Soveltamalla kuvattua oeraatiota determinanttiin A B saadaan lauseke () A B A A B A B Yhdistämällä lauseke () lausekkeeseen () saadaan A B A A B A B Jatkamalla kuvattua oeraatiota vielä (m ) kertaa saamme kaavan Koska niin m A B A A B A B A m a mm m m TKK Ilkka Mellin (007) 37/38

38 A B m a B mm a B mm Koska lisäksi A m a mm niin saamme loulta haluamamme tuloksen: A B A B m TKK Ilkka Mellin (007) 38/38