Numeeriset menetelmät TIEA381 Luento 13 Kirsi Valjus Jyväskylän yliopisto Luento 13 () Numeeriset menetelmät 8.5.2013 1 / 42
Luennon 13 sisältö Tavallisten differentiaaliyhtälöiden numeriikasta Moniaskelmenetelmien johto interpolointikaavoja käyttäen Implisiittisten kaavojen käyttö iteroimalla Fourier-muunnokset Jatkuva ja diskreetti Fourier-muunnos Luento 13 () Numeeriset menetelmät 8.5.2013 2 / 42
Luku 7: Tavallisten diff.yhtälöiden numeriikasta Tavallisten diff.yhtälöiden numeriikasta Olemme siis ratkaisemassa tehtävää y (t) = f ( t, y(t) ), y(a) = ŷ 0. Alkuarvotehtävien numeerisessa ratkaisemisessa määrätään funktiolle y likiarvot pisteissä t j = a + jh (j = 0, 1, 2,... ), missä h on sopiva askelpituus. Jatkossa käytetään merkintöjä y j = y(t j ) ja f j = f (t j, y j ). Luento 13 () Numeeriset menetelmät 8.5.2013 3 / 42
Luku 7: Tavallisten diff.yhtälöiden numeriikasta 7.2 Lineaariset moniaskelmenetelmät 7.2 Lineaariset moniaskelmenetelmät Oletetaan, että tunnetaan funktion y arvot y n, y n+1,..., y n+k 1, missä k on menetelmän askelluku. Määrätään arvo y n+k ratkaisemalla se yhtälöstä k α j y n+j + h j=0 k β j f n+j = 0, (α k 0), (6) j=0 missä α j ja β j ovat tunnettuja kertoimia. (Jatkossa oletetaan yksinkertaisuuden vuoksi, että kerroin α k = 1.) Luento 13 () Numeeriset menetelmät 8.5.2013 4 / 42
Luku 7: Tavallisten diff.yhtälöiden numeriikasta 7.2 Lineaariset moniaskelmenetelmät Lineaariset moniaskelmenetelmät jatkuu Voidaan erotella kaksi eri tapausta: Jos β k = 0, sanotaan menetelmää eksplisiittiseksi. Tällöin y n+k voidaan laskea suoraan yhtälöstä (6): k 1 k 1 y n+k = α j y n+j + h β j f n+j. j=0 j=0 Jos taas β k 0, sanotaan menetelmää implisiittiseksi. Tällöin y n+k joudutaan ratkaisemaan epälineaarisesta yhtälöstä k 1 k 1 y n+k = α j y n+j + h β j f n+j + hβ k f (t n+k, y n+k ). j=0 j=0 Luento 13 () Numeeriset menetelmät 8.5.2013 5 / 42
Luku 7: Tavallisten diff.yhtälöiden numeriikasta 7.2 Lineaariset moniaskelmenetelmät Moniaskelmenetelmien johto interpolointikaavoja käyttäen Esimerkkinä tarkastellaan interpolointia Newtonin takenevien differenssien avulla: Tasavälisesti taulukoidun funktion u arvo välillä [a, b] = [x 0, x n ] voidaan interpoloida kaavalla n s(s + 1) (s + j 1) u(x) = u(x n + sh) = j u n, s 0, j! j=0 missä h = (b a)/n, ja takeneva differenssi j u n määritellään 0 u n = u n, j u n = j 1 u n j 1 u n 1, j > 0. Luento 13 () Numeeriset menetelmät 8.5.2013 6 / 42
Luku 7: Tavallisten diff.yhtälöiden numeriikasta 7.2 Lineaariset moniaskelmenetelmät Interpolointikaavoja käyttäen jatkuu Sovelletaan tätä välillä [t n, t n+k 1 ] funktioon y = f, jolloin saadaan y (t n+k 1 + sh) = k 1 j=0 s(s + 1) (s + j 1) j f n+k 1. (7) j! Käytetään tulosta b a y = y(b) y(a) ja tehdään muuttujanvaihto t = t n+k 1 + sh; saadaan tn+k 1 y n+k = y n+k l + y (t) dt = y n+k l + h y (t n+k 1 + sh) ds. t n+k l 1 l Käyttäen kaavaa (7) saadaan... Luento 13 () Numeeriset menetelmät 8.5.2013 7 / 42
Luku 7: Tavallisten diff.yhtälöiden numeriikasta 7.2 Lineaariset moniaskelmenetelmät Interpolointikaavoja käyttäen jatkuu 1 y n+k = y n+k l + h 1 l k 1 j=0 Näin saatiin joukko eksplisiittisiä menetelmiä: k 1 1 y n+k = y n+k l + h j! j f n+k 1 j=0 s(s + 1) (s + j 1) j f n+k 1 ds. j! 1 1 l s(s + 1) (s + j 1) ds. Antamalla indeksille l eri arvoja saadaan useita erilaisia kaavaryhmiä, esim. - arvolla l = 1 saadaan ns. Adamsin ja Bashforthin kaavat sekä - arvolla l = 2 ns. Nyströmin kaavat. Luento 13 () Numeeriset menetelmät 8.5.2013 8 / 42
Luku 7: Tavallisten diff.yhtälöiden numeriikasta 7.2 Lineaariset moniaskelmenetelmät Interpolointikaavoja käyttäen jatkuu Kun suoritetaan integrointi muuttujan s:n suhteen, saadaan Adamsin ja Bashforthin kaavat (ts. tapaus l = 1 ) muotoon y n+k = y n+k 1 ( + h f n+k 1 + 1 2 f n+k 1 + 5 12 2 f n+k 1 + 3 ) 8 3 f n+k 1 +, josta saadaan mm. seuraavat kaavat: k = 1 : y n+1 = y n + hf n, k = 2 : y n+2 = y n+1 + h 2 (3f n+1 f n ), k = 3 : y n+3 = y n+2 + h 12 (23f n+2 16f n+1 + 5f n ). Näistä ylin tunnetaan Eulerin menetelmän nimellä. Luento 13 () Numeeriset menetelmät 8.5.2013 9 / 42
Luku 7: Tavallisten diff.yhtälöiden numeriikasta 7.2 Lineaariset moniaskelmenetelmät Interpolointikaavoja käyttäen jatkuu Soveltamalla samaa interpolointikaavaa välillä [t n+1, t n+k ] saadaan y (t n+k 1 + sh) = y (t n+k + (s 1)h) = k 1 j=0 josta saadaan joukko implisiittisiä menetelmiä: (s 1)s (s + j 2) j f n+k, j! k 1 1 1 y n+k = y n+k l + h j! j f n+k (s 1)s (s + j 2) ds. 1 l j=0 Antamalla indeksille l eri arvoja saadaan taas erilaisia kaavaryhmiä. Luento 13 () Numeeriset menetelmät 8.5.2013 10 / 42
Luku 7: Tavallisten diff.yhtälöiden numeriikasta 7.2 Lineaariset moniaskelmenetelmät Interpolointikaavoja käyttäen jatkuu Indeksi l = 1 antaa ns. Adamsin ja Moultonin kaavat, jotka voidaan kirjoittaa muotoon y n+k = y n+k 1 + h ( f n+k 1 2 f n+k 1 12 2 f n+k 1 ) 24 3 f n+k. Tästä saadaan mm. kaavat k = 1 : y n+1 = y n + hf n+1, k = 2 : y n+2 = y n+1 + h 2 (f n+2 + f n+1 ), k = 3 : y n+3 = y n+2 + h 12 (5f n+3 + 8f n+2 f n+1 ). Luento 13 () Numeeriset menetelmät 8.5.2013 11 / 42
Luku 7: Tavallisten diff.yhtälöiden numeriikasta 7.2 Lineaariset moniaskelmenetelmät Interpolointikaavoja käyttäen jatkuu Edellisen kalvon kaavoista Ensimmäistä kutsutaan implisiittiseksi Eulerin menetelmäksi, ja Toisesta käytetään nimityksiä Crankin ja Nicholsonin menetelmä, puolisuunnikassääntö tai trapetsikaava. (Huomaa, että tapauksissa k > 1 ovat kertoimet α 0 = β 0 = 0, joten menetelmien askelluku on itse asiassa k 1) Luento 13 () Numeeriset menetelmät 8.5.2013 12 / 42
Esimerkki Luku 7: Tavallisten diff.yhtälöiden numeriikasta 7.2 Lineaariset moniaskelmenetelmät Esimerkki Crankin ja Nicholsonin menetelmästä. { My (x) + Ay(x) = F (x) y(0) = y 0 (8) y(x) = (y 1 (x),..., y m (x)) R m, x R, A, M pos.def. m m matriiseja (eivät riipu x:stä). Nyt (8) on yhtäpitävä seuraavan kanssa: My (x) = F (x) Ay(x) y (x) = M 1 (F (x) Ay(x)) }{{} f (x,y) Luento 13 () Numeeriset menetelmät 8.5.2013 13 / 42
Luku 7: Tavallisten diff.yhtälöiden numeriikasta Esimerkki jatkuu 7.2 Lineaariset moniaskelmenetelmät Sovelletaan Crankin ja Nicholsonin menetelmää tehtävään y (x) = f (x, y), f (x, y) = M 1 (F (x) Ay(x)) y n+1 = y n + h 2 (f (xn, yn) + f (x n+1, y n+1 ) y n+1 = y n + h 2 M 1 (F (x n) Ay n) + M 1 (F (x n+1 ) Ay n+1 ) F (x n) Ay n + F (x n+1 ) Ay n+1 My n+1 = My n + h 2 My n+1 + h 2 Ay n+1 = My n h 2 Ayn + h F (x n) + F (x n+1 ) 2 M + h 2 A y n+1 = M h 2 A y n + h F (x n) + F (x n+1 ) 2 Luento 13 () Numeeriset menetelmät 8.5.2013 14 / 42
Luku 7: Tavallisten diff.yhtälöiden numeriikasta 7.2 Lineaariset moniaskelmenetelmät Esimerkki jatkuu Edellä saatiin lineaarinen yhtälöryhmä! (f lin. y:n suhteen) ) Jos h vakio, tehdään Choleskyn hajotelma (M + h 2 A :lle ja ratkaistaan y n+1, n = 0, 1, 2,... etenevillä ja takenevilla sijoituksilla. Luento 13 () Numeeriset menetelmät 8.5.2013 15 / 42
Luku 7: Tavallisten diff.yhtälöiden numeriikasta 7.2 Lineaariset moniaskelmenetelmät 7.2.2. Implisiittisten kaavojen käyttö iteroimalla Implisiittisissä moniaskelmenetelmissä joudutaan siis ratkaisemaan epälineaarinen yhtälö, mistä johtuen niiden käyttö on hankalampaa kuin eksplisiittisten menetelmien. Yleensä kuitenkin implisiittiset menetelmät ovat käyttökelpoisempia, koska niillä on paremmat stabiliteettiominaisuudet. Luento 13 () Numeeriset menetelmät 8.5.2013 16 / 42
Luku 7: Tavallisten diff.yhtälöiden numeriikasta 7.2 Lineaariset moniaskelmenetelmät Impl. kaavojen käyttö iteroimalla jatkuu Implisiittiset moniaskelmenetelmät voidaan kirjoittaa muotoon y n+k = ψ n+k + hβ k f (t n+k, y n+k ) Silloin y n+k täytyy ratkaista epälineaarisesta yhtälö(ryhmä)stä F (y) = y + hβ k f (t n+k, y) + ψ n+k = 0. (9) Hyvä alkuarvaus yhtälön (9) ratkaisulle saadaan käyttämällä saman kertaluvun eksplisiittistä menetelmää. Luento 13 () Numeeriset menetelmät 8.5.2013 17 / 42
Luku 7: Tavallisten diff.yhtälöiden numeriikasta 7.2 Lineaariset moniaskelmenetelmät Impl. kaavojen käyttö iteroimalla jatkuu Yksinkertainen kiintopisteiteraatio yhtälölle (9) on silloin seuraavanlainen: Lähtien eksplisiittisen menetelmän antamasta alkuarvauksesta y [0] n+k lasketaan korjatut arvot kaavalla y [j+1] n+k = ψ n+k + hβ k f (t n+k, y [j] n+k ), j = 0, 1,.... (10) Mikäli kiintopisteiteraatiossa (10) tehdään vain ennalta määrätty lukumäärä iteraatioita (usein vain yksi), niin menetelmää kutsutaan ennustus-korjaus-menetelmäksi. Luento 13 () Numeeriset menetelmät 8.5.2013 18 / 42
Luku 7: Tavallisten diff.yhtälöiden numeriikasta 7.2 Lineaariset moniaskelmenetelmät Esimerkki 7.3 Adamsin ja Bashforthin sekä Adamsin ja Moultonin kaavoja (k = 3) käyttäen saadaan seuraava ennustus-korjaus-menetelmä: 1. Ennusta ȳ n+3 = y n+2 + h 12 (23f n+2 16f n+1 + 5f n ). 2. Laske f n+3 = f (t n+3, ȳ n+3 ). 3. Korjaa y n+3 = y n+2 + h 12 (5 f n+3 + 8f n+2 f n+1 ). Luento 13 () Numeeriset menetelmät 8.5.2013 19 / 42
Nopeat Fourier-muunnokset Nopeat Fourier-muunnokset Fourier-sarja: Jaksollisen funktion esitys trigonometristen funktioiden (sin ja cos) sarjakehitelmänä Fourier-muunnos: Integraalimuunnos, jonka avulla signaali voidaan jakaa sinimuotoisiin komponentteihinsa Diskreetti Fourier-muunnos: Jatkuvan Fourier-muunnoksen diskreetti versio Nopea Fourier-muunnos: Algoritmi, jolla diskreetti Fourier-muunnos lasketaan tehokkaasti Luento 13 () Numeeriset menetelmät 8.5.2013 20 / 42
Nopeat Fourier-muunnokset Nopeat Fourier-muunnokset Sovelluskohteita: Signaalinkäsittely Spektrianalyysi Magneettikuvaus Äänenpakkaus Yleisesti sovellukset, jotka perustuvat ilmiöiden jaksollisuuteen tai spektrin mittaamiseen Numeeriset ratkaisijat, erit. Fast Poisson Solver 2 u(x, y) = f (x, y) Luento 13 () Numeeriset menetelmät 8.5.2013 21 / 42
Nopeat Fourier-muunnokset Kompleksiluvut Kompleksiluku z C z = a + ib, missä a = Re z R reaaliosa b = Im z R imaginääriosa i = 1 imaginääriyksikkö Kompleksikonjugaatti z = a ib Luento 13 () Numeeriset menetelmät 8.5.2013 22 / 42
Nopeat Fourier-muunnokset Kompleksiluvut De Moivren kaava e ikt = cos kt + i sin kt e ikt = cos kt i sin kt = cos( kt) + i sin( kt) = e ikt Luento 13 () Numeeriset menetelmät 8.5.2013 23 / 42
1 Fourier-analyysin alkeita 1.1 Fourier-sarjat Fourier-sarjat Olkoon f : R C siten, että se on integroituva välillä ] π, π[ 2π-jaksollinen f (x + n2π) = f (x) Merkitään f L 1 (] π, π[). Määritellään kantafunktiot ϕ k : R C siten, että ϕ k (t) = 1 2π e ikt Luento 13 () Numeeriset menetelmät 8.5.2013 24 / 42
Fourier-sarjat 1 Fourier-analyysin alkeita 1.1 Fourier-sarjat π π ϕ k (t)ϕ j (t) dt = 1 π 2π π = 1 [ π = 2π { π 1, k = j 0, k j e ikt e ijt dt = 1 2π π cos(k j)t dt + i π π e i(k j)t dt ] sin(k j)t dt π Luento 13 () Numeeriset menetelmät 8.5.2013 25 / 42
Fourier-sarjat 1 Fourier-analyysin alkeita 1.1 Fourier-sarjat Kuvauksen f Fourier-kertoimet c k (f ) = π π Kuvauksen f Fourier-sarja F (f, x) = f (t)ϕ k (t) dt = 1 2π π k= c k (f )ϕ k (x) = 1 2π π f (t)e ikt dt k= c k (f )e ikx Luento 13 () Numeeriset menetelmät 8.5.2013 26 / 42
Fourier-sarjat 1 Fourier-analyysin alkeita 1.1 Fourier-sarjat Lause: Olkoon f L 1 (] π, π[) siten, että Fourier-sarja suppenee tasaisesti f on jatkuva kaikkialla ja F (f, x) = f (x). Lause: Olkoon f L 1 (] π, π[) paloittain jatkuvasti differentioituva Fourier-sarja suppenee kaikkialla ja f (x), ( ) jos f on jatkuva x:ssä, F (f, x) = 1 lim f ( x) + lim 2 f ( x), jos x on f :n epäjat.kohta x x+ x x Luento 13 () Numeeriset menetelmät 8.5.2013 27 / 42
Fourier-muunnos 1 Fourier-analyysin alkeita 1.2 Fourier-muunnos Olkoon f : R C integroituva koko R:ssä Merkitään f L 1 (R). Fourier-muunnos Fourier-käänteismuunnos Ff (y) = ˆf (y) = 1 2π F 1ˆf (x) = 1 2π f (t)e iyt dt ˆf (y)e ixy dy Huom. Skaalauskertoimet voidaan valita toisinkin. Luento 13 () Numeeriset menetelmät 8.5.2013 28 / 42
Fourier-muunnos 1 Fourier-analyysin alkeita 1.2 Fourier-muunnos Muodollisesti F 1 Ff = f. Mutta: F 1ˆf (x) ei ole välttämättä hyvin määritelty Jos f L 1 (R) ˆf on olemassa / ˆf L 1 (R). Lause: Olkoon f L 1 (R) siten, että ˆf L 1 (R). f on jatkuva kaikkialla ja F 1ˆf (x) = f (x). Luento 13 () Numeeriset menetelmät 8.5.2013 29 / 42
Fourier-muunnos 1 Fourier-analyysin alkeita 1.2 Fourier-muunnos Lause: Fourier-muunnos on lineaarinen (f + g)(y) = ˆf (y) + ĝ(y), (λf )(y) = λˆf (y) missä f, g L 1 (R) ja λ C. Lause: Fourier-muunnos muuttaa derivoinnin kertolaskuksi (f )(y) = iyˆf (y), missä f L 1 (R) siten, että f L 1 (R) ja b a f (t) dt = f (b) f (a) a, b R. Luento 13 () Numeeriset menetelmät 8.5.2013 30 / 42
Konvoluutiot 1 Fourier-analyysin alkeita 1.3 Konvoluutiot Olkoot f, g L 1 (R). Konvoluutio (f g)(x) = Konvoluutio on symmetrinen: f (x t)g(t) dt (f g)(x) = (g f )(x) kaikilla x, joilla se on määritelty. Luento 13 () Numeeriset menetelmät 8.5.2013 31 / 42
Konvoluutiot 1 Fourier-analyysin alkeita 1.3 Konvoluutiot Eräs Fourier-muunnosten sovellus on konvolutioiden laskeminen Lause: Olkoot f, g L 1 (R) f g L 1 (R) ja (f g)(y) = 2πˆf (y)ĝ(y) Luento 13 () Numeeriset menetelmät 8.5.2013 32 / 42
2 Diskreetti Fourier-muunnos 2.1 Johdanto Diskreetti Fourier-muunnos Fourier-muunnoksen diskreetti versio Sovelluskohde esimerkiksi: Signaalista otetaan näytteitä sopivin väliajoin Käsitellään saatua diskreettiä mittausaineistoa Diskreetti Fourier-muunnos siirtää signaalit aika-alueelta (time domain) taajuusalueelle (frequency domain) Luento 13 () Numeeriset menetelmät 8.5.2013 33 / 42
2 Diskreetti Fourier-muunnos 2.1 Johdanto Diskreetti Fourier-muunnos Aika t, mittausjakso [0, 2π] Mittausten lukumäärä N, oletetaan, että N = 2M jollain (positiivisella) kokonaisluvulla M Mittaushetket t j = j2π/n, j = 0, 1,..., N 1 Vastaavat mittausarvot f j C Laajennetaan N-jaksolliseksi pisteistöksi: f j+nn = f j, j = 0, 1,..., N 1 Luento 13 () Numeeriset menetelmät 8.5.2013 34 / 42
2 Diskreetti Fourier-muunnos 2.1 Johdanto Diskreetti Fourier-muunnos Merkintä w = e i2π/n Pisteistö w j = e ij2π/n on N-jaksollinen Lause: Jos 0 k, j N 1 N 1 w kl w lj = l=0 { N, k = j 0, k j Luento 13 () Numeeriset menetelmät 8.5.2013 35 / 42
2 Diskreetti Fourier-muunnos 2.2 Diskreetit muunnokset Diskreetti Fourier-muunnos Määritellään pisteistö ϕ kj siten, että ϕ kj = 1 N w kj, k, j = 0, 1,..., N 1 Edellinen lause N 1 ϕ kl ϕ lj = l=0 { 1, k = j 0, k j eli ϕ kj :t muodostavat ortonormaalin kannan Luento 13 () Numeeriset menetelmät 8.5.2013 36 / 42
2 Diskreetti Fourier-muunnos 2.2 Diskreetit muunnokset Diskreetti Fourier-muunnos Diskreetti Fourier-muunnos N 1 ˆf k = f j ϕ kj = 1 N 1 f j w kj, k = 0, 1,..., N 1. N j=0 j=0 Diskreetti Fourier-käänteismuunnos N 1 f j = ˆf k ϕ jk = 1 N 1 ˆf k w jk, j = 0, 1,..., N 1, N k=0 k=0 Myös pisteistöt ˆf k ja f j ovat N-jaksollisia Luento 13 () Numeeriset menetelmät 8.5.2013 37 / 42
2 Diskreetti Fourier-muunnos 2.2 Diskreetit muunnokset Diskreetti Fourier-muunnos Käänteismuunnos: N 1 N 1 f l = ˆf k ϕ lk = k=0 ( N 1 N 1 = j=0 = f l. k=0 ) ϕ lk ϕ kj k=0 }{{} 8 >< 1, l = j >: 0, l j ( N 1 ) f j ϕ kj ϕ lk j=0 f j Luento 13 () Numeeriset menetelmät 8.5.2013 38 / 42
2 Diskreetti Fourier-muunnos 2.2 Diskreetit muunnokset Diskreetti Fourier-muunnos Lause: Diskreetti Fourier-muunnos on lineaarinen (f + g) k = ˆf k + ĝ k, (λf )k = λˆf k, missä f j, g j ovat N-jaksollisia ja λ C. Lause: Diskreetti Fourier-muunnos säilyttää normin N 1 N 1 ˆf k 2 = f j 2 missä f j on N-jaksollinen. k=0 j=0 Luento 13 () Numeeriset menetelmät 8.5.2013 39 / 42
2 Diskreetti Fourier-muunnos 2.2 Diskreetit muunnokset Diskreetti Fourier-muunnos ˆf k = 1 N 1 f j w kj N j=0 N + 1 kertolaskua, N 1 yhteenlaskua (seka w kj :n laskemiset) Pisteitä N kappaletta N 2 + N kertolaskua, N 2 N yhteenlaskua Diskreetin Fourier-muunnoksen laskennallinen vaativuus määritelmästä laskettuna on O(N 2 ) Luento 13 () Numeeriset menetelmät 8.5.2013 40 / 42
2 Diskreetti Fourier-muunnos 2.4 Diskreetit konvoluutiot Diskreetit konvoluutiot Olkoot f j ja g j kaksi N-jaksollista pisteistöä Diskreetti konvoluutio N 1 (f g) j = f j l g l, j = 0, 1,..., N 1 l=0 Symmetrinen: (f g) j = (g f ) j N kertolaskua, N 1 yhteenlaskua Pisteitä N kappaletta N 2 kertolaskua, N 2 N yhteenlaskua Luento 13 () Numeeriset menetelmät 8.5.2013 41 / 42
2 Diskreetti Fourier-muunnos 2.4 Diskreetit konvoluutiot Diskreetit konvoluutiot Lause: Olkoot f j ja g j N-jaksollisia (f g) k = Nˆf k ĝ k Kaksi N:n pisteen muunnosta, yksi N:n pisteen käänteismuunnos, N + 1 kertolaskua Jos Fourier-muunnosten laskeminen O(N 2 ) Myös konvoluution laskeminen O(N 2 ) Ei parempi kuin suoraan määritelmästä Lause hyödyllinen, jos Fourier-muunnos pystytään laskemaan nopeammin kuin O(N 2 ) Luento 13 () Numeeriset menetelmät 8.5.2013 42 / 42