Numeeriset menetelmät Keijo Ruotsalainen Division of Mathematics
Kurssitiedot Luennot alkavat ke 11.1.2012 Ke 12-14 L3 To 14-16 L6 Kurssin viimeinen luento To 22.3 2012 Kurssin suorittaminen välikokein: 1. välikoe La 18.02.2011 klo 9-12 (L3) 2. välikoe La 14.04.2011 klo 9-12 (L3) Lisäpisteet: Harjoitustehtävien yhteydessä on 10 palautettavaa kotitehtävää, jotka arvostellaan asteikolla 0, 0.5 ja 1. Maksimissaan lisäpisteitä voi kerätä 10 p. Kurssin voi myös suorittaa loppukokein Kurssimateriaali löytyy Optimasta. Kirjallisuus: Faires and Burden; Numerical Methods tai Quarteroni, Sacco and Salieri; Numerical Mathematics Keijo Ruotsalainen Matematiikan jaos 2 / 54
1.1 Hyvin asetettu ongelma Probleema Probleema: Määrää x siten, että F(x,d) = 0. (1) d on ongelman data (tunnettu); x ongelman ratkaisu; F(, ) ratkaisun ja datan välinen riippuvuus Muuttujat x, d voivat olla lukuja, vektoreita, matriiseja tai funktioita; Muuttujien välinen riippuvuus voidaan määritellä matriisiyhtälönä, differentiaaliyhtälönä tai funktion avulla Keijo Ruotsalainen Matematiikan jaos 3 / 54
Esim. 1 Esim. 1 Yksinkertaisen jousi-massa-systeemin DY on Ongelmassa x (t)+kx(t) = d(t), x(0) = 0 x (0) = 0 Datana on jousivakio k (luku) ja ulkoinen voima d(t) (funktio); Ratkaisu on funktio x(t); Riippuvuuden muuttujien välille määrittelee differentiaaliyhtälön alkuarvotehtävä Keijo Ruotsalainen Matematiikan jaos 4 / 54
Esim. 2 Esim. 2 Yleinen tietoliikennekanava mallinnetaan tavallisesti muodossa y = Ax + n, missä x on lähetetty signaalivektori; y on vastaanotettu signaalivektori; n on kanavan kohina; A on ns. kanavamatriisi, joka kuvaa signaalin vaimenemista Ongelma: Määrää x, kun data y,n,a on tunnettu. Keijo Ruotsalainen Matematiikan jaos 5 / 54
Esim. 3 Kuvannusmenetelmällä saadaan kohinainen kuva särkyneestä sydämestä. Kuvan segmentoinnissa esitetään seuraavanlaisia kysymyksiä: Mikä pikseli on osa sydäntä? Missä on kuvan eri osien reunat? Yleinen oletus: Kuvan osien välinen reunakäyrä on sileä; Todelliset pikseliarvot u p ja havaitut arvot y p ovat lähellä toisiaan Energian minimointi: min E(u) = p u p y p 2 + p V(u p,u q ). q Keijo Ruotsalainen Matematiikan jaos 6 / 54
Hyvin asetettu ongelma Määr. 1.1 Ongelma (1) on hyvin asetettu,jos jokaiselle datalle d ratkaisu x(d) on yksikäsitteinen; ja jos x(d +δd) on ongelman F(x(d +δd),d +δd) = 0 ratkaisu, niin lim x(d +δd) = x(d). δd 0 Muutoin ongelma on huonosti asetettu. Keijo Ruotsalainen Matematiikan jaos 7 / 54
Esimerkki Esim. Polynomin p a (x) = x 4 x 2 +(2a 1)+a(a 1) reaalisten nollakohtien määrääminen on huonosti asetettu ongelma, sillä nollakohtia on 4, kun a 1; nollakohtia on 2, kun 0 a < 1; nollakohtia on 0, kun a < 0. Keijo Ruotsalainen Matematiikan jaos 8 / 54
Ongelman ehtoluku Hyvin asetetun ongelman (1) Määr. 1.2 Suhteellinen ehtoluku on Absoluuttinen ehtoluku K(d) = sup δd 0 δx x ; δd d δx K abs (d) = sup δd 0 δd. Yllä ja jatkossa luku x on muuttujan x normi, joka ilmoittaa muuttujan suuruuden. Sanotaan, että ongelma on stabiili, jos ehtoluku on pieni, ja epästabiili, jos se on suuri. Keijo Ruotsalainen Matematiikan jaos 9 / 54
Numeerinen menetelmä Määr. 1.3 Numeerinen menetelmä hyvin asetetun ongelman (1) ratkaisemiseksi koostuu jonosta approksimaatio-ongelmia F n (x n,d n ) = 0, n 1. (2) Tavoitteena numeerisen menetelmän konstruoimisessa on d n d, kun n. x n x, kun n. F n F, kun n. Sanotaan, että numeerinen menetelmä on konsistentti, jos lim F n(x,d) = lim F n(x,d) F(x,d) = 0. n n Keijo Ruotsalainen Matematiikan jaos 10 / 54
Iteratiivinen ratkaisumenetelmä Alkuarvo x 0 on annettu; Seuraavaa approksimaatio ratkaistaan ongelmasta F n (x n,x n 1,d) = 0. Iteratiivinen ratkaisumenetelmä on konsistentti, jos Esim. 4 F n (x,x,d) 0, kun n. Oletetaan, että funktion f(x) nollakohta z on yksinkertainen, ts. f(z) = 0, f (z) 0. Newtonin menetelmä x n = x n 1 f(x n 1) f (x n 1 ), x 0 annettu on iteratiivinen ratkaisumenetelmä nollakohdan approksimoimiseen. Osoita, että menetelmä on konsistentti. Keijo Ruotsalainen Matematiikan jaos 11 / 54
Konvergenssi Määr. 1.4 Numeerinen menetelmä suppenee (konvergoi), jos x n (d n ) x(d),kunn. Määr. 1.5 Numeerinen menetelmä on stabiili, jos yhtälöllä (2) on yksikäsitteinen ratkaisu jokaisella n; ja ratkaisu on jatkuva pienten häiriöiden suhteen, ts. lim δdn x n (d +δd n ) x n (d n ) = 0. Keijo Ruotsalainen Matematiikan jaos 12 / 54
Määr. 1.6 Suhteellinen stabiilisuus: Absoluuttinen stabiilisuus K n (d n ) = sup δd 0 δx n x n δd n d n δx n K abs,n (d n ) = sup δd 0 δd n. ; Keijo Ruotsalainen Matematiikan jaos 13 / 54
Laskennan perusprinsiipit Numeeriseen laskentaan kuuluu seuraavat kaksi perusperiaatetta: tulos = (järki) rauta ; järki rauta = C (vakio). Keijo Ruotsalainen Matematiikan jaos 14 / 54
1.3 Virhelähteet Lähtökohta on aina oikea fysikaalinen ongelma, jonka ratkaisu on x fys. Fysikaalisesta ongelmasta muodostetaan matemaattinen malli, joka voidaan kuvat yhtälönä F(x,d) = 0. Matemaattista mallia vuorostaan approksimoidaan numeerisella mallilla F n (x n,d n ) = 0. Prosessissa syntyvä globaali virhe Tässä e n = x n x fys = [x n x]+[x x fys ] = E n + E M. E M on matemaattisen mallin virhe ja riippumaton laskennasta; E n numeerisessa laskennassa tehty virhe, joka koostuu kahdesta virhelähteestä: typistysvirheestä ja lukujen pyöristysvirheestä. Keijo Ruotsalainen Matematiikan jaos 15 / 54
Liukuluvut Olkoon tietokoneen muistipaikojen lukumäärä N. Reaaliluvun liukulukuesitys kantaluvun β suhteen Tässä x = ( 1) s (0.a 1 a 2 a 3 a t ) β e = ( 1) s mβ e t. β on kantaluku (desimaalijärjestelmässä β = 10, tietokoneessa β = 2); t on merkitsevien numeroiden lukumäärä; m = a 1 a 2 a t on mantissa, a i {0,...,β 1}; e on eskponentti ja L < e < U. s = 0 tai 1 sen mukaan onko luku positiivinen vai negatiivinen. Keijo Ruotsalainen Matematiikan jaos 16 / 54
Pyöristyssääntö Merkitään liukuluvulla fl(x) luvun x esitystä t:n merkitsevän numeron liukulukuaritmetiikassa: { fl(x) = ( 1) s (0.a 1 a 2 a 3 a t ) β e a t, a t+1 < β, a t = 2 a t + 1, a t+1 β 2 Aritmeettiset operaatiot: Olkoon mikä tahansa reaalilukujen aritmeettisista operaatioista (summa, vähennyslasku, kertolasku tai jakolasku). Tällöin vastaava liukulukuoperaatio on : R R F; x y = fl(fl(x) fl(y)). Keijo Ruotsalainen Matematiikan jaos 17 / 54
Numeerista lineaarialgebraa Sisältö Kertausta matriiseista (kts. Appendix A); Gaussin eliminaatio; LU-hajotelma; Pivotisointistrategiat; Matriisin ehtoluku; Virheanalyysi; Konjugaattigradienttimenetelmä; Keijo Ruotsalainen Matematiikan jaos 18 / 54
Gaussin eliminaatio: Esim. Tarkastellaan yhtälöryhmää: 2 1 0 x 1 1 1 2 1 x 2 = 0 0 1 2 x 3 0 Keijo Ruotsalainen Matematiikan jaos 19 / 54
Gaussin eliminaatio: Esim. Muokataan matriisiyhtälöä kertomalla se vasemmalta eliminaatiomatriisilla : 1 0 0 2 1 0 x 1 1 0 0 1 1 2 1 0 1 2 1 x 2 = 1 2 1 0 0 0 0 1 0 1 2 x 3 0 0 1 0 Keijo Ruotsalainen Matematiikan jaos 19 / 54
Gaussin eliminaatio: Esim. Tulokseksi saadaan yhtälöryhmä 2 1 0 x 1 1 3 0 2 1 x 2 = 1 2 0 1 2 x 3 0 Keijo Ruotsalainen Matematiikan jaos 19 / 54
Gaussin eliminaatio: Esim. Kerrotaan yhtälöryhmä sopivalla eliminaatiomatriisilla 1 0 0 2 1 0 x 1 1 0 0 1 0 1 0 3 0 2 1 x 2 = 0 1 0 1 2 2 2 0 3 1 0 1 2 x 3 0 3 1 0 Keijo Ruotsalainen Matematiikan jaos 19 / 54
Gaussin eliminaatio: Esim. Yhtälöryhmä on muunnettu yläkolmiomuotoon 2 1 0 x 1 1 3 0 2 1 x 2 = 1 2 4 1 0 0 3 x 3 3 joka on helppo ratkaista taaksepäin-sijoituksella 3 4 1 2 1 4. Keijo Ruotsalainen Matematiikan jaos 19 / 54
Gaussin eliminaatio: 1. askel Tarkastellaan yhtälöryhmää (a 11 0): a 11 a 12 a 13 a 14 a 1n a 21 a 22 a 23 a 24 a 2n x 1 b 1 a 31 a 32 a 33 a 34 a 3n x 2 a 41 a 42 a 43 a 44 a 4n........ = b 2.. x n b n a n1 a n2 a n3 a n4 a nn Keijo Ruotsalainen Matematiikan jaos 20 / 54
Gaussin eliminaatio: 1. askel Muokataan matriisiyhtälöä kertomalla se vasemmalta alakolmiomatriisilla: 1 0 0 0 0 a 11 a 12 a 13 a 14 a 1n a 21 11 1 0 0 0 a a 21 a 22 a 23 a 24 a 2n 31 11 0 1 0 0 a 31 a 32 a 33 a 34 a 3n a 41 a 11 0 0 1 0 a 41 a 42 a 43 a 44 a 4n................ a n1 a 11 0 0 0 1 a n1 a n2 a n3 a n4 a nn 1 0 0 0 0 a 21 11 1 0 0 0 a b 1 31 = 11 0 1 0 0 b 2 a 41 a 11 0 0 1 0......... b n a n1 a 11 0 0 0 1 Keijo Ruotsalainen Matematiikan jaos 20 / 54 x 1 x 2. x n
Gaussin eliminaatio: 1. askel Tulokseksi saadaan yhtälöryhmä a 11 a 12 a 13 a 14 a 1n 0 a (1) 22 a (1) 23 a (1) 24 a (1) 2n 0 a (1) 32 a (1) 33 a (1) 34 a (1) x 3n 1 0 a (1) 42 a (1) 43 a (1) 44 a (1). = 4n....... x 2. n. 0 a (1) n2 a (1) n3 a (1) n4 a nn (1) b 1 b (1) b (1) n Keijo Ruotsalainen Matematiikan jaos 20 / 54
Yleinen eliminaatioaskel k:nnen eliminaatioaskeleen jälkeen (1 k n 1) yhtälöryhmä on muotoa: a 11 a 12 a 13 a 14 a 1n 0 a (1) 22 a (1) 23 a (1) 24 a (1) b 1 2n 0 0 a (2) 33 a (2) 34 a (2) x 1 b (1) 3n........... x 2 0 0 0 a (k) k+1,k+1 a (k). = 2. b (k). k+1,n k+1. x........ n. 0 0 0 a (k) n,k+1 a nn (k) b n (k) Oletus: Pivotalkio a (k) k+1,k+1 0. Keijo Ruotsalainen Matematiikan jaos 21 / 54
Yleinen eliminaatioaskel Kerrotaan alakolmiomatriisilla 1 0 0 0 0 0 0 1 0 0 0 0 0 0 1 0 0 0............ L 1 k+1 = 0 0 0 1 0 0 0 0 a(k) k+2,k+1 1 0 a (k) k+1,k+1.......... 0 0 0 a(k) n,k+1 0 1 a (k) k+1,k+1 Keijo Ruotsalainen Matematiikan jaos 21 / 54
Yleinen eliminaatioaskel Yhtälöryhmä saadaan muotoon: A (k+1) x = b (k+1), missä a (i 1) a (k+1) ij, kun 1 i k + 1 ij = a (k) ij a(k) i,k+1 a (k) a (k) k+1,j, kun k + 2 i n k+1,k+1 b (k+1) i = b (i 1) i, kun 1 i k + 1 b (k) i a(k) i,k+1 b (k) a (k) k+1, kun k + 2 i n k+1,k+1 Keijo Ruotsalainen Matematiikan jaos 21 / 54
LU-hajotelma Alkuperäinen yhtälö: Ax = b. Eliminaatiovaiheen jälkeen: L 1 n 1 L 1 n 2 L 1 1 Ax = Ux = b. Matriisin LU-hajotelma A = (L 1 L 2 L 3 L n 1 )U = LU. Keijo Ruotsalainen Matematiikan jaos 22 / 54
L-matriisi Matriisi L k+1 on 1 0 0 0 0 0 0 1 0 0 0 0 0 0 1 0 0 0............ L k+1 = 0 0 0 1 0 a (k) k+2,k+1 0 0 0 1 0 a (k) k+1,k+1.......... 0 0 0 0 1 a (k) n,k+1 a (k) k+1,k+1 Keijo Ruotsalainen Matematiikan jaos 23 / 54
L-matriisi Ja L-matriisi L = 1 0 0 0 0 a 21 a 11 1 0 0 0 0 a 31 a (1) 32 a 11 1 0 0 0 a (1) 22........... a (1) k+1,2 a 11 1 0 a (1) 22......... a n1 n2 1 a k+1,1 a 11 a (1) a (1) 22 a (k) n,k+1 a (k) k+1,k+1 Keijo Ruotsalainen Matematiikan jaos 23 / 54
LU-hajotelman käyttö Jos LU-hajotelma tunnetaan, niin 1. Ratkaistaan: Ly = b y = L 1 b Keijo Ruotsalainen Matematiikan jaos 24 / 54
LU-hajotelman käyttö Jos LU-hajotelma tunnetaan, niin 1. Ratkaistaan: Ly = b y = L 1 b 2. Ratkaistaan: Ux = y x = U 1 L 1 b = A 1 b Keijo Ruotsalainen Matematiikan jaos 24 / 54
LU-hajotelman käyttö Jos LU-hajotelma tunnetaan, niin 1. Ratkaistaan: Ly = b y = L 1 b 2. Ratkaistaan: Ux = y x = U 1 L 1 b = A 1 b Laskutoimitusten (kertolaskujen) lukumäärä: LU-hajotelman muodostaminen: n 1 n 1 (n k)(n k + 1) = k(k + 1) k=1 k=1 = 1 6 n(n 1)(2n 1)+ 1 2 n(n 1) = 1 3 (n3 n) Eteenpäin-sijoitus: 1 2 (n2 n) Taaksepäin-sijoitus: 1+2+ +n = 1 2 (n2 + n) Kokonaismäärä: Z Gauss = 1 3 n3 + n 2 1 3 n Keijo Ruotsalainen Matematiikan jaos 24 / 54
Esimerkki 2. Ratkaise lineaarinen yhtälöryhmä 2x 1 + 3x 2 5x 3 4x 1 + 8x 2 3x 3 6x 1 + x 2 + 4x 3 = 10 = 19 = 11 LU-hajotelmalla. Keijo Ruotsalainen Matematiikan jaos 25 / 54
Yhtälöryhmän ratkaisu Tarkastellaan yhtälöryhmää: 2 3 5 x 1 10 4 8 3 x 2 = 19 6 1 4 x 3 11 Keijo Ruotsalainen Matematiikan jaos 26 / 54
Yhtälöryhmän ratkaisu Muokataan matriisiyhtälöä kertomalla se vasemmalta eliminaatiomatriisilla : 1 0 0 2 3 5 x 1 1 0 0 10 2 1 0 4 8 3 x 2 = 2 1 0 19 3 0 1 6 1 4 x 3 3 0 1 11 Keijo Ruotsalainen Matematiikan jaos 26 / 54
Yhtälöryhmän ratkaisu Tulokseksi saadaan yhtälöryhmä 2 3 5 x 1 10 0 2 7 x 2 = 1 0 10 11 x 3 41 Keijo Ruotsalainen Matematiikan jaos 26 / 54
Yhtälöryhmän ratkaisu Kerrotaan yhtälöryhmä eliminaatiomatriisilla 1 0 0 2 3 5 x 1 1 0 0 10 0 1 0 0 2 7 x 2 = 0 1 0 1 0 5 1 0 10 11 x 3 0 5 1 41 Keijo Ruotsalainen Matematiikan jaos 26 / 54
Yhtälöryhmän ratkaisu Yhtälöryhmä on muunnettu yläkolmiomuotoon 2 3 5 x 1 10 Ux = 0 2 7 x 2 = 1 = y 0 0 46 x 3 46 joka ratkaistaan taaksepäin-sijoituksella 2 3. 1 Keijo Ruotsalainen Matematiikan jaos 26 / 54
Yhtälöryhmän ratkaisu Matriisin LU-hajotelma 2 3 5 1 0 0 2 3 5 A = 4 8 3 = 2 1 0 0 2 7 (3) 6 1 4 3 5 1 0 0 46 Keijo Ruotsalainen Matematiikan jaos 26 / 54
Esimerkki 4 Esim. 4 Ratkaise yhtälöryhmä 0.003000x 1 + 59.14x 2 = 59.17 5.291x 1 6.130x 2 = 46.78 neljän merkitsevän luvun aritmetiikassa. Yhtälön ratkaisu eksaktissa aritmetiikassa on x 1 = 10, x 2 = 1 Eliminaatioaskel: Kertomalla 1. rivi luvulla l 21 = 5.291 0.003000 = 1763.6 = 1764 ja vähentämällä tulos 2. rivistä saadaan 0.003000x 1 + 59.14x 2 = 59.17 104300x 2 = 104400 Eli pieleen meni ja pahasti. x 2 = 104400 104300 = 1.001 x 1 = 59.17 1.001 59.14 0.003000 = 10.00 Keijo Ruotsalainen Matematiikan jaos 27 / 54
Pivot-strategiat Yksinkertainen: Pivotalkio a (k 1) kk 0 Osittainen: Pivotalkio max i=k,...,n a (k 1) i,k Täydellinen: Pivotalkio max i,j=k,...,n a (k 1) ij Lause 1 Jos matriisi on diagonaalidominantti, so. a ii > n k=1, l i a i,k, i = 1,...,n niin yksinkertainen Pivot-strategia on mahdollinen. Keijo Ruotsalainen Matematiikan jaos 28 / 54
Pivot-strategia toimii Lause 2 Olkoon matriisi A säännöllinen, ts. A 1 on olemassa. Tällöin osittainen (täydellinen) Pivot-strategia toimii aina. Tod. A on säännöllinen, joten det(a) 0. Jos a 11 = 0, niin ainakin yksi alkio 1. sarakkeella nollasta eroava, muutoin det(a) = 0. Vastaava päättely toimii myös i:nnellä eliminaatioaskeleella. Lause 3 Jokaiselle säännölliselle matriisille A on olemassa permutaatiomatriisi P siten, että PA = LU, missä L on alakolmiomatriisi ja U yläkolmiomatriisi. Keijo Ruotsalainen Matematiikan jaos 29 / 54
Esimerkki 5 Esim. 5 Ratkaise yhtälöryhmä osittaisella Pivot-strategialla 0.003000x 1 + 59.14x 2 = 59.17 5.291x 1 6.130x 2 = 46.78 neljän merkitsevän luvun aritmetiikassa. Koska max{5.291, 0.003000} = 5.291, suoritetaan rivien vaihto. Eliminaatioaskel: Kertomalla 1. rivi luvulla l 21 = 0.003000 5.291 = 0.0005670 ja vähentämällä tulos 2. rivistä saadaan 5.291x 1 6.130x 2 = 46.78 59.14x 2 = 59.14 x 2 = 1 x 1 = 46.78+6.130 1 5.291 = 10.00 Keijo Ruotsalainen Matematiikan jaos 30 / 54
Vektorinormit Vektorinormi Vektorinormi on kuvaus R n R + siten että 1. x > 0, x 0 ja jos x = 0, niin x = 0; 2. λx = λ x ; 3. x + y x + y. Esimerkkejä x 1 = n i=1 x = max 1 i n x i, x p = [ n i=1 x i, x 2 = [ n i=1 x i p ] 1 p, 1 p <. x i 2 ] 1 2, Keijo Ruotsalainen Matematiikan jaos 31 / 54
Euklidinen sisätulo x T y = (x,y) = n x i y i i=1 Ominaisuudet 1. Se on lineaarinen: (ax + by,z) = a(x,z)+b(y,z); 2. Symmetrisyys: (x,y) = (y,x); 3. Positiviisuus: (x, x) > 0 kaikille x 0, ja (x,x) = 0 x = 0. Cauchy-Schwarz Kaikille pareille x,y: (x,y) = x T y x 2 y 2. Yhtälö on voimassa, jos ja vain jos x = ky jollain k R. Keijo Ruotsalainen Matematiikan jaos 32 / 54
Suppeneminen Määr. Vektorijono {x (k) } k N suppenee kohti vektoria x, jos lim k x(k) i = x i, i = 1,2,3...,n. Lause Jokaiselle R n :ssä määritelylle vektorinormille lim k x(k) = x lim x k x(k) = 0 Keijo Ruotsalainen Matematiikan jaos 33 / 54
Matriisinormi Määr. 1 1. A > 0, A 0 ja jos A = 0, niin A = 0; 2. λa = λ A ; 3. A+B A + B ; 4. AB A B. Vektorinormin indusoima matriisinormi: A = max x =1 Ax. Keijo Ruotsalainen Matematiikan jaos 34 / 54
Esimerkkejä Määr. 2 Esimerkiksi seuraavat matriisinormit ovat vastaavien vektorinormien indusoimia: A 1 = max 1 j n n i=1 a ij A 2 = A:n suurin singulaariarvo n A = max a ij 1 i n j=1 Keijo Ruotsalainen Matematiikan jaos 35 / 54
Vektori- ja matriisinormin yhteensopivuus Vektori- ja matriisinormi ovat yhteensopivia, jos Ax A x. Frobenius-normi m n A F = [ i=1 j=1 a 2 ij] 1 2 ei ole minkään vektorinormin indusoima matriisinormi. Huom! Vaikka Frobenius-normi ei ole l 2 -normin indusoima, niin silti on voimassa Ax 2 A F x 2. Keijo Ruotsalainen Matematiikan jaos 36 / 54
Ehtoluku Matriisin ehtoluku Matriisin A ehtoluku K(A) = A A 1, missä A on joku indusoitu matriisinormi. Ehtoluku riippuu valittavasta normista. Tavallisesti kuitenkin käytetään A 1, A 2, A normeja ehtoluvun määrittelyyn. Tällöin merkitään ehtoluvulle alaindeksi K 1 (A), K 2 (A) tai K (A). Keijo Ruotsalainen Matematiikan jaos 37 / 54
Ominaisuuksia K(A) 1; K(A) = K(A 1 ); K 2 (A) = σ 1(A) σ n(a), missä σ 1 on matriisin suurin ja σ n pienin singulaariarvo. A on symmetrinen ja positiivisesti definiitti: K 2 (A) = λ max λ min. Keijo Ruotsalainen Matematiikan jaos 38 / 54
Virheanalyysi Ratkaistaan yhtälöryhmät Ax = b (4) Lause 4 (A+δA)(x +δx) = b+δb. (5) Olkoon A säännöllinen matriisi ja δa pieni häiriö siten, että A 1 δa < 1. Tällöin, jos x on yhtälöryhmän (4) ratkaisu ja δx toteuttaa yhtälön (5), niin ratkaisun suhteellinen virhe δx x K(A) 1 K(A) δa A ( δb b + δa ). A Keijo Ruotsalainen Matematiikan jaos 39 / 54
Virheanalyysi jatkuu Lause 5 Olkoon edellisen lauseen ehdot voimassa ja δa = 0. Tällöin Lause 6 1 δb K(A) b δx x K(A) δb b. Olkoon γ = β 1 t ns. konevakio, missä β on kantaluku ja t mantissan pituus siten, että δa γ A, δb γ b. Jos γk(a) < 1, niin x +δx x δx x 1+γK(A) (6) 1 γk(a) 2γK(A) 1 γk(a). (7) Keijo Ruotsalainen Matematiikan jaos 40 / 54
Esimerkki 6 Esim. 6 Lineaarisen yhtälöryhmän [ 0.99 0.98 0.98 0.97 ][ x1 x 2 ] = [ ] 1.97 1.95 [ ] 1 ratkaisu on. Laske matriisin ehtoluku K 1 2 (A). Arvioi ratkaisun suhteellisen virheen herkkyyttä yhtälöryhmän kertoimien pienille muutoksille. Yhtälöryhmän sijasta ratkaistaan häiritty yhtälö [ ][ ] [ ] 0.990005 0.979996 x1 +δx 1 1.969967 = 0.979996 0.970004 x 2 +δx 2 1.950035 Arvioi suhteellista virhettä ehtoluvun avulla ja laske todellinen suhteellinen virhe. Keijo Ruotsalainen Matematiikan jaos 41 / 54
Appendix A: Matriiseista Matriisi on lukukaavio, jossa on m riviä ja n saraketta a 11 a 12 a 1n a 21 a 22 a 2n A =..., a m1 a m2 a mn a ij R tai C; i alkion rivi-indeksi; j sarakeindeksi Jos m = 1 tai n = 1, niin kyseessä rivi- tai sarakevektori; neliömatriisille n = m; Päädiagonaali on diag(a) = (a 11,a 22,...,a nn ). Keijo Ruotsalainen Matematiikan jaos 42 / 54
Matriisien laskuoperaatiot Summa: A+B = (a ij + b ij ; Skalaarilla kertominen: ka = (ka ij ); Matriisitulo: Olkoon A (m p)-matriisi ja B (p n)-matriisi. Tällöin tulomatriisi AB = (c ij ) = ( p a ik b kj ). k=1 Ominaisuuksia A(B+C)=AB+AC; A(BC)=(AB)C; MUTTA!!!!! Yleensä AB BA. Keijo Ruotsalainen Matematiikan jaos 43 / 54
Käänteismatriisi Määr Neliömatriisi A on kääntyvä (säännöllinen tai ei-singulaarinen), jos on olemassa matriisi B siten, että AB = BA = I. Matriisia B kutsutaan A:n käänteismatriisiksi, ja merkitään B = A 1 Tulomatriisin AB käänteismatriisi, jos se on olemassa, on AB) 1 = B 1 A 1. Lause Neliömatriisi on kääntyvä jos ja vain jos sen sarakevektorit ovat lineaarisesti riippumattomat. Keijo Ruotsalainen Matematiikan jaos 44 / 54
Transpoosi Määr. Matriisin A R m n transpoosi on (n m)-matriisi A T, joka saadaan vaihtamalla matriisin A rivit matriisin A T sarakkeiksi. Ominaisuuksia (A T ) T = A (A+B) T = A T + B T (AB) T = B T A T (αa) T = αa T (A T ) 1 = (A 1 ) T. Matriisi on symmetrinen, jos A T = A. Lopuksi matriisi on ortogonaalinen, jos A T A = AA T = I, ts. A 1 = A T. Keijo Ruotsalainen Matematiikan jaos 45 / 54
Matriisin jälki ja determinantti Neliömatriisin A jälki on matriisin diagonaalialkioiden summa: tr(a) = n a ii. i=1 Matriisin determinantti det(a) = σ P sign(σ)a 1,σ(1) a 2,σ(2) a n,σ(n), missä P on lukujen I = (1,2,3...,n) permutaatioiden joukko. Permutaation merkki sign(σ) on 1 (-1), jos σ(i) saadaan I:stä parillisella (parittomalla) määrällä paikanvaihtoja. Keijo Ruotsalainen Matematiikan jaos 46 / 54
Determinantin Ominaisuuksia det(a) = det(a T ) det(ab) = det(a) det(b) det(a 1 = 1 det(a) det(ka) = k n det(a). Keijo Ruotsalainen Matematiikan jaos 47 / 54
Kofaktori Merkitään matriisilla A ij sellaista kertalukua n 1 olevaa matriisia, joka saadaan matriisista A poistamalla i:s rivi ja j:s sarake; Alkion a ij kofaktori ij = ( 1) i+j) det(a ij ); Laplacen sääntö: det(a) = n ij a ij = j=1 Matriisin A käänteimatriisi: Lause A 1 on olemassa det(a) 0 n ij a ij. i=1 A 1 = 1 det(a) [ ji]. Keijo Ruotsalainen Matematiikan jaos 48 / 54
Matriisin aste ja ydin A tyyppiä m n Matriisin kuva-avaruus on R(A) = {y R m y = Ax jollain x R n }. Matriisin A aste rank(a) on kuva-avaruuden dimensio, l. lineaarisesti riippumattomien sarakevektoreiden lukumäärä. Matriisin ydin: Ominaisuudet: 1. rank(a) = rank(a T ); 2. rank(a)+dim(ker(a) = n. Ker(A) = {x R n Ax = 0}. Jos matriisi on säännöllinen, niin rank(a) = n ja dim ker(a) = 0. Keijo Ruotsalainen Matematiikan jaos 49 / 54
Säännöllisyys Neliömatriislle seuraavat ominaisuudet ovat yhtäpitäviä: Lause 1. A on säännöllinen l. A 1 on olemassa; 2. det(a) 0; 3. ker(a) = {0}; 4. rank(a) = n; 5. A:n sarake- ja rivivektorit ovat lineaarisesti riippumattomia; 6. Yhtälöryhmällä Ax = f on yksikäsitteinen ratkaisu jokaiselle f. Keijo Ruotsalainen Matematiikan jaos 50 / 54
Ylä- ja alakolmiomatriisit Matriiseissa kullakin sarakkeella lävistäjäalkion ala- tai yläpuolella on pelkkiä nollia: l 11 0 0 0 u 11 u 12 u 13 u 1n l 21 l 22 0 0 L =...., U = 0 u 22 u 23 u 2n..... l n1 l n2 l n3 l nn 0 0 0 u nn Ominaisuuksia Determinantti on diagonaalialkioiden tulo; yläkolmio- ja alakolmiomatriisin käänteismatriisi on myös yläkolmio- ja alakolmiomatriisi. Kahden alakolmiomatriisin tulo on edelleen alakolmiomatriisi; vastaava pätee yläkölmiomatriiseille. Keijo Ruotsalainen Matematiikan jaos 51 / 54
Ominaisarvot Määr. Luku λ C on ominaisarvo, jos se toteuttaa karakteristisen yhtälön det(a λi) = 0, ja vektori u λ R n on ominaisarvoon λ liittyvä ominaisvektori, jos Au λ = λu λ. Matriisin determinantti ja jälki ovat det(a) = Π n i=1λ i (A), tr(a) = n λ i. i=1 Matriisin spektraalisäde on ρ(a) = max 1 i λ i(a). Keijo Ruotsalainen Matematiikan jaos 52 / 54
Diagonalisointi Reaalisen ja symmetrisen matriisin kaikki ominaisarvot ovat aina reaalisia; Ominaisvektoreista voidaan muodostaa vektoriavaruudelle R n ortonormaalikanta. Ominaisvektoreista voidaan muodostaa ortogonaalinen matriisi Q, joka diagonalisoi matriisin A: Q T AQ = D = diag(λ 1,...,λ n ). Keijo Ruotsalainen Matematiikan jaos 53 / 54
Singulaariarvo Yleisesti, matriisila A R m n ei ole ominaisarvoja. Mutta sille voidaan määritellä singulaariarvot: Määr. Luku σ 0 on matriisin A singulaariarvo, jos λ = σ 2 on matriisin A T A ominaisarvo. Lause Symmetrisen ja reaalisen matriisin singulaariarvot ovat sen ominaisarvojen iteseisarvot. Keijo Ruotsalainen Matematiikan jaos 54 / 54