Numeerinen integrointi Analyyttisesti derivointi triviaalia, integrointi vaikeaa. Numeerisesti laskettaessa tilanne on päinvastainen. Integrointi on yhteenlaskua, joka on tasoittava operaatio: lähtötietojen satunnaiset virheet kumoavat toisensa. Derivointiin liittyy lähes yhtäsuurten suureiden vähennyslasku, joka on virheitä vahvistava operaatio. Vrt. kuvankäsittelyn terävöintioperaatio, joka lisää kohinaa. Jos käsitellään havaintodataa, se voi olla syytä tasoittaa tai esittää aineistoon sovitettavalla funktiolla. Ei useinkaan tarpeen integroitaessa, välttämätöntä derivoitaessa. Funktio f on integroituva välillä [x 1 = a,x n = b], jos Riemannin summalla n 1 R = f(ξ i )h i, missä i=1 h i = x i+1 x i, ξ i [x i,x i+1 ], on raja-arvo, kun jaon silmä h = max i {h i } 0. Muuttamalla jakovälejä ja pisteiden ξ i valintaa saadaan erilaisia integrointimenetelmiä.
Jaetaan integroimisväli yhtä leveisiin viipaleisiin. Olkoon kunkin leveys h. 1) Lasketaan integroitava kunkin välin alkupisteessä: xn x 0 f(x) dx = h(f(x 0 ) + f(x 0 + h) +... + f(x 0 + (n 1)h)). Esimerkki: I = 1 0 x dx. Oikea arvo on 1/3. Lasketaan nyt integraalin likiarvo jakamalla integroimisväli neljään osaan. I 4 = 1 4 ( 0 + 1 16 + 1 4 + 9 ) = 14 16 64 0.19. Koska integroitava funktio on koko välillä kasvava ja funktio lasketaan välin alkupäässä, saadaan liian pieni arvo. ) Lasketaan arvo välin keskikohdalla xn x 0 f(x) dx = h(f(x 0 + h/) + f(x 0 + 3h/) +...). I 4 = 1 4 ( 1 64 + 9 64 + 5 64 + 49 ) = 1 64 64 0.38.
Puolisuunnikasmenetelmä Integroitava alue jaetaan puolisuunnikkaan muotoisiin viipaleisiin. f(x) dx = h f 0 + f 1 + h f 1 + f +... + h f n 1 + f n = h (f 0 + f 1 + f +... + f n 1 + f n ) = h (f(x 0) + f(x 0 + h) + f(x 0 + h) +... + f(x 0 + (n 1)h) + f(x 0 + nh)). I 4 = 1 (0 + 116 8 + 416 + 916 ) + 1 = 1 44 8 16 0.344.
Simpsonin menetelmä Käytetään mutkikkaampia käyriä, jotka kuvaavat alkuperäistä funktiota vielä paremmin kuin suorat. Luonnollinen parannus on toisen asteen käyrä. Lasketaan ensin integraali yhden osavälin yli. Aikaisemman interpolointikaavan mukaan on f(x) f 0 + s f 0 + s(s 1) f 0. x x 0 f(x) dx = h x x 0 0 ( f 0 + s f 0 + ( f 0 + s f 0 + = h(f 0 + f 0 + 1 3 f 0 ) ) s(s 1) f 0 dx ) s(s 1) f 0 ds = h 3 (6f 0 + 6 f 0 + f 0 ) Sijoitetaan tähän f 0 = f 1 f 0 f 0 = f 1 f 0 = (f f 1 ) (f 1 f 0 ) = f 0 f 1 + f.
Integraali kahden jakovälin yli on x x 0 f(x) dx h 3 (f 0 + 4f 1 + f )). Integraali koko välin yli on xn x 0 f(x) dx h 3 (f(x 0) + 4f(x 0 + h) + f(x 0 + h) + 4f(x 0 + 3h) + f(x 0 + 4h) +... 4f(x 0 + (n 1)h) + f(x 0 + nh). Jakovälejä oltava parillinen määrä. Esimerkkitapaus: I 4 = 1 1 (4 116 + 14 + 4 916 + 1 ) = 16 1 4 = 1 3. Tässä integroitavaa approksimoitiin toisen asteen polynomilla. Koska integroitava itse on toista astetta, tulos on tarkka.
Virhearvio Interpolointipolynomin virhe on korkeintaan samaa luokkaa kuin ensimmäinen poisjätetty termi. f 0 = f 1 f 0 hf (x) f 0 = f 1 f 0 h f (x). n f 0 h n f (n) (x) Lineaarinen interpolaatio: virhe luokkaa h f (x). Kun tämä integroidaan yhden osavälin yli saadaan lokaali virhe. Välin leveys on h, joten integraali on luokkaa h 3 f (z), missä z on jokin välin piste. Välejä on 1/h kappaletta, joten globaali virhe on luokkaa h f (z). Simpsonin menetelmässä lokaali virhe on kertalukua h 3 ja globaali virhe h 4.
Rombergin menetelmä Lasketaan integraali jollakin yksinkertaisella menetelmällä kahdella eri askelpituudella. Näiden arvojen avulla ekstrapoloidaan uusi tarkempi arvo. Olkoon I on integraalin tarkka arvo. Voidaan osoittaa, että puolisuunnikasmenetelmän arvo askelpituuden funktiona R 0 (h) on R 0 (h) = I + C h + C 4 h 4 +..., missä kertoimet C i eivät riipu askelesta h. R 0 (h/) = I + C h h 4 4 + C 4 16 +..., Lasketaan näistä lineaarikombinaatio R 1 (h) = 1 3 (4R 0(h/) R 0 (h)) = I + C 4h 4 +..., Alkuperäinen menetelmä on kertalukua h, mutta nistä muodostettu kombinaatio kertalukua h 4. Jos aineistona askelpituudella h taulukoituja arvoja, lasketaan integraalit askelilla h ja h. Menetelmää voidaan jatkaa edelleen korkeampiin kertalukuihin.
Newtonin Cotesin menetelmät Kaikki edellä olleet integrointimenetelmät voidaan esittää muodossa I = w i f(x i ), missä (x i ),i = 0,...,n on jokin sopivasti valittu pistejoukko. Jos pisteet x i valitaan tasavälisesti, saadaan Newtonin Cotesin menetelminä tunnetut integrointimenetelmät. Kaikki edellä esiintyneet menetelmät kuuluvat tähän ryhmään. Edellä esitetyt menetelmät ovat yksinkertaisia ja helposti ohjelmoitavia. Moniin tarkoituksiin ne ovat täysin käyttökelpoisia. Suuri tarkkuus vaatii lyhyttä jakoväliä, mikä tekee menetelmistä melko hitaita.
Gaussin kvadratuuri Tilannetta voidaan parantaa valitsemalla jakopisteet x i jollakin muulla tavoin kuin tasavälisesti. Oletetaan, että funktio on korkeintaan n-asteinen polynomi. Yritetään löytää sellaiset pisteet x i ja kertoimet w i, että w i f(x i ) antaa polynomien integraaleille täsmälleen oikean arvon. Esimerkki: käytetään vain kahta pistettä. Valitaan vielä integroimisväli symmetriseksi, [ 1,1]. Jotta kaava toimisi oikein kaikille astetta n astetta oleville polynomeille, sen on annettava oikeat arvot myös funktioiden 1, x, x,..., x n integraaleille: 1 1 1 1 1 1 1 1 1dx = = w 1 + w, xdx = 0 = w 1 x 1 + w x, x dx = 3 = w 1x 1 + w x, x 3 dx = 0 = w 1 x 3 1 + w x 3, Tässä on neljä yhtälöä ja neljä tuntematonta, w 1, w, x 1 ja x. Toinen ja neljäs yhtälö toteutuu, jos valitaan x = x 1 ja w 1 = w. Silloin ensimmäisen yhtälön perusteella on w 1 = w = 1, ja kolmannesta yhtälöstä saadaan x 1 = x = 1/ 3.
Yleiset kolmannen asteen polynomit saadaan edellä esiintyneiden funktioiden lineaarikombinaatioina. Siten mielivaltaiselle korkeintaan kolmatta astetta olevalle polynomille p 3 pätee 1 1 ( ) ( 1 p 3 (x) dx = p 3 3 + p 3 1 ). 3 Kokeillaan 1 (x 3 + x + 1)dx = 1 1 x 4 4 + x3 3 + x = 1 = 1 4 + 3 + 1 + ( 1 4 + 3 + 1 ) = 10 3. Gaussin kahden pisteen kvadratuurilla: 1 1 (x 3 + x + 1)dx = = 1 3 3 + 3 + 1 = 10 3. ( 1 3 3 ) 3 1 Korkeampaa astetta oleville polynomeille saadaan vastaavat yhtälöt, joiden ratkaiseminen on työlästä. Pisteiden x i ratkaiseminen suoraan yhtälöryhmistä ei ole kovin käytännöllistä. Siksi polynomit esitetäänkin ensin jonkin ortogonaalin kantafunktiojoukon avulla.
Jos pisteitä on n kappaletta, niiden paikat ovat Legendren polynomin P n (x) nollakohtia. P 0 (x) = 1, P 1 (x) = x, P (x) = 1 (3x 1), P 3 (x) = 1 (5x3 3x),. (n + 1)xP n (x) = (n + 1)P n+1 (x) + np n 1 (x). Esim. kolmen pisteen menetelmän pisteet saadaan yhtälöstä 5x 3 3x = 0, josta x 1 = 3/5 = 0.7746, x = 0, x 1 = 3/5 = 0.7746. Näitä ei kannata ratkaista joka kerta uudestaan, vaan käytetään valmiiksi taulukoituja arvoja. Pistettä x i vastaava paino on w i = (1 x i )[P (x i )]. Polynomien derivaatat saadaan kaavoista P 0(x) = 0, P 1(x) = 1, P (x) = 3x, P 3(x) = 1 (15x 3),. P n+1(x) = P n 1(x) + (n + 1)P n (x).
Mielivaltainen integroimisväli voidaan muuntaa väliksi [-1, 1] sijoituksella y = b a t + b + a, jolloin integraali on b a dy = b a f(y) dy = b a dt, wi f(y i ), missä ( ) b a y i = x i + ( b + a ), Esimerkki: π/ sinxdx 0 Lasketaan tämä Gaussin kolmen pisteen menetelmällä. Integroimisvälin muunnos on y i = π 4 x i + π 4. Integraalin laskemiseen tarvitaan seuraavat suureet: i w i x i y i w i sin y i 1 0.5555555556 0.774596669 0.177031360 0.0978378406 0 0.8888888889 0.0000000000 0.7853981634 0.685393611 1 0.5555555556 0.774596669 1.3937649648 0.546876838 1.73498855 Integraalin arvo on (π/4) 1.73498855 1.000008. Integraalin tarkka arvo on 1. Kolmen pisteen integrointikaavalla saatiin tulos, jonka suhteellinen virhe on alle 10 5.
n x i w i 0.57735 0691 8966 1.00000 00000 00000 3 0.00000 00000 00000 0.88888 88888 88889 0.77459 6669 41484 0.55555 55555 55556 4 0.33998 10435 84856 0.6514 51548 6546 0.86113 63115 94053 0.34785 48451 37453 5 0.00000 00000 00000 0.56888 88888 88889 0.53846 93101 05684 0.4786 86704 99366 0.90617 98459 38664 0.369 68850 56189 6 0.3861 91860 83197 0.46791 39345 7691 0.6610 93864 6665 0.36076 15730 48138 0.9346 9514 0315 0.1713 4493 79171 7 0.00000 00000 00000 0.41795 91836 73469 0.40584 51513 77398 0.38183 00505 05118 0.74153 11855 99395 0.7970 53914 8977 0.94910 7913 4759 0.1948 49661 68868 8 0.18343 4644 95650 0.3668 37833 7836 0.5553 4099 1639 0.31370 66458 77887 0.79666 64774 1367 0.38 10344 53375 0.9608 98564 97536 0.101 8536 90376 9 0.00000 00000 00000 0.3303 93550 0160 0.345 3434 03809 0.3134 70770 40003 0.61337 1437 00590 0.6061 06964 0935 0.83603 11073 6636 0.18064 81606 94857 0.96816 0395 0766 0.0817 43883 61575
Useampiulotteiset integraalit Voidaan laskea soveltamalla yksiulotteista integrointia erikseen kuhunkin dimensioon. Esimerkiksi kaksiulotteinen integraali: b d f(x,y) dxdy a c = ( ) d w i f(x i,y) dy c = w i w j f(x i,y j ). Painoista ja pisteistä riippuen menetelmä voi tässä olla Gauss tai jokin Newton-Cotes. Kun dimensio suurempi kuin noin 5, kannattaa käyttää Monte Carlo -menetelmää.
Monte Carlo -menetelmä Integraalin I = 1 0 f(x) dx suorakaidemenetelmällä laskettu arvo on n 1 i=0 f(x i ) n. Tämä on funktion keskiarvo välillä [0,1]. Yleisessä tapauksessa integraali on funktion keskiarvo kerrottuna välin pituudella. Periaatteessa sama tulos saadaan, jos integraali lasketaan satunnaisissa pisteissä t i, jotka jakautuvat tasaisesti integrointivälille: I = n 1 i=0 f(t i ) n. Tämä on satunnaismuuttuja, jonka odotusarvo on integraalin oikea arvo: EI = I, Kun N, I I. Jos on laskettava integraali A f dv jonkin mutkikkaan alueen yli, lasketaan B g dv, missä A B ja g(x) = f(x), jos x A ja 0 muuten. Integraalin likiarvo on I = g(x i ), missä satunnaisluvut x i ovat jakautuneet tasaisesti alueeseen B.
Esimerkiksi n-ulotteisen pallon tilavuuden laskeminen. Tuotetaan kuution sisälle tasaisesti jakautuneita pisteitä r i = (X 1,X,...,X n ). Nyt g(r i ) = 1, jos r i on pienempi kuin pallon säde ja 0 muuten. Summa g(r i ) lähenee pallon ja ympäröivän kuution tilavuuksien suhdetta. Tuloksen virhe 1/ N. Laskentaa voidaan jatkaa tarpeen mukaan. Jos käytetään tavallista kiinteän laskentahilan menetelmää, koko homma on uusittava, jos tarkkuutta halutaan parantaa. Tarkkuus paranee hitaasti, joten menetelmä ei sovellu kaikkiin tehtäviin. Virhe ei riipu avaruuden dimensiosta, joten menetelmää kannattaa käyttää, kun on laskettava moniulotteisia integraaleja.
Havaintodatan integrointi Jos tasavälinen aineisto, voidaan käyttää mitä tahansa Newton-Cotes -tyyppistä menetelmää. Jos aineisto ei tasavälistä, korjataan menetelmiä niin, että askelpituus muuttuu; esimerkiksi puolisuunnikassääntö: f(x) dx = ( 1 (x 1 x 0 )f(x 0 ) + (x x 0 )f(x 1 ) +... ) + (x n x n )f(x n 1 ) + (x n x n 1 )f(x n ). Toinen mahdollisuus: sovitetaan aineistoon jokin funktio, jolloin voidaan käyttää mitä tahansa menetelmää tai laskea integraali analyyttisesti. Jos aineisto saadaan esimerkiksi simuloinnista tai on muuten raskas lakea, mutta voidaan laskea mielivaltaiselle pisteelle, kannattaa käyttää Gaussin menetelmää.
Numeerinen derivointi Esim. Newtonin-Gregoryn -interpolointipolynomi: f(x s ) P n (x s ) = f 0 + s f 0 + Tämän avulla saadaan ( ) s f 0 +... + ( ) s n f 0. n f (x s ) P n(x s ) = d ds P n(x s ) ds dx = d ds P n(x s ) 1 h = 1 ( f 0 + s 1 ) f 0 +... h Kun s = 0, saadaan f (x 0 ) = 1 h ( f 0 1 f 0 + + 13 3 f 0... ± 1n n f 0 ) Tämän virhe on luokkaa 1 n + 1 hn f (n+1) (ξ). Symmetrisempiä versioita: f (x 0 ) = 1 h (f 1 f 1 ). f (x 0 ) = 1 1h (f 8f 1 + 8f 1 f ). Jos kyseessä mittausdata, jossa kohinaa, se on ensin tasoitettava esimerkiksi sovittamalla siihen pienimmän neliösumman käyrä.
Satunnaisluvuista Kankaala (1993): Monte Carlo Simulations, CSC Research Reports R03/93, CSC. Press, Teukolsky, Vetterling, Flannery: Numerical Recipes, Cambridge University Press. We guarantee that each number is random individually, but we don t guarantee that more than one of them is random. Satunnaislukujen (oikeammin pseudosatunnaislukujen) jono on deterministinen. Samoilla alkuarvoilla saadaan aina sama lukujono. Alkuarvo voidaan yleensä valita. Lineaarinen kongruenssimenetelmä X i+1 = ax i + b(mod m),a,b,m N Luvut toistuvat viimeistään m numeron kuluttua. Jos vakiot on valittu huonosti, jakso voi olla paljon lyhempi. Peräkkäisten lukujen korrelaatio: Jos valitaan n lukua kerrallaan esittämään pisteen paikkaa n-ulotteisessa avaruudessa, pisteet eivät täytä koko avaruutta, vaan sijoittuvat n 1-ulotteisille hypertasoille, joita on korkeintaan m 1/k kappaletta, usein paljon vähemmän. Satunnaisluvun vähiten merkitsevät bitit ovat vähiten satunnaisia. Satunnaislukua ei pidä paloitella osiin; osat eivät ole yhtä satunnaisia.
Fortran 90:ssä satunnaislukuja voi tuottaa aliohjelmalla call random_number (v) Tässä v on taulukko, joka täytetään satunnaisluvuilla. Luvut jakautuvat tasaisesti välille [0, 1). Satunnaislukugeneraattori voidaan alustaa call random_seed (n) missä n on kokonaisluku. Muodostetaan satunnaislukuvektorista x kokonaislukujen jono int(k*x). - Lukujen pitää jakautua tasaisesti: kukin luku esiintyy todennäköisyydellä 1/K eli noin n/k kertaa (voidaan testata χ -testillä) - Jokaisen peräkkäisistä luvuista muodostetun lukuparin (a,b) pitää esiintyä todennäköisyydellä K kertaa, jne. - luvut X i ja X i+k eivät korreloi keskenään millään k > 1.
Muut jakaumat Kertymäfunktio F(x) ilmoittaa todennäköisyyden, että satunnaismuuttujan X arvo on korkeintaan x: F(x) = P(X x). Kertymäfunktio on kasvava funktio (ei välttämättä aidosti kasvava). Jos X on tasaisesti jakautunut välille [0, 1] ja Y ratkaistaan yhtälöstä F(Y ) = X, saadaan muuttuja Y, joka noudattaa annettua jakaumaa: Y = F 1 (X). Jos kertymäfunktion käänteisfunktio on helposti laskettavissa, sen avulla saadaan haluttua jakaumaa noudattavia satunnaislukuja.
Normaalijakauma (0,1)-normaalijakauman tiheysfunktio f(x) = 1 π e x /. Normaalijakautuneiden satunnaislukujen tuottamiseen on useita keinoja: 1) Ratkaistaan numeerisesti kertymäfunktion käänteisfunktio. Hieman työlästä. ) Satunnaismuuttujien summa lähenee normaalijakaumaa, joten normaalijakautuneita satunnaislukuja saadaan laskemalla yhteen muutamia tasaisesti jakautuneita satunnaislukuja. 3) Box-Mullerin menetelmä. Olkoot x 1 ja x jakautuneet tasaisesti välille [0,1]. Silloin y 1 = lnx 1 cos πx, y = lnx 1 sin πx, ovat kumpikin normaalijakautuneita.
Satunnaiskulku (random walk) Esimerkiksi säteilyn eteneminen väliaineessa. Tunnetaan keskimääräinen vapaa matka. Säteen kulkema matka ennen sen osumista hiukkaseen noudattaa eksponenttijakaumaa. Sironneen säteen suuntajakauma saadaan sirontafunktiosta. Ulostulevan säteilyn karkea jakauma saadaan jo pienehköllä säteiden määrällä. Jakaumaa voidaan tarkentaa tilanteen mukaan.
Dynaaminen muuttujien varaus Taulukon koko voi riippua syöttötiedoista. Aliohjelmassa tarvittavan aputaulukon koko tiedetään vasta aliohjelmaa kutsuttaessa. Fortran 77: - varataan iso taulukko, joka riittää pahimmassakin tapauksessa, tai - kutsuva ohjelma välittää aliohjelmille tarvittavat työtilat parametreina Fortran90: taulukot voidaan varata dynaamisesti suoritusaikana. Aliohjelman taulukon tila varataan aliohjelmaan tultaessa. Koko voi olla muuttuja: subroutine zz(x,n) integer, intent(in) :: n real, dimension (n) :: x... real, dimension(n,n) :: matrix... Jos taulukon koko saadaan selville vasta suoritusaikana (pääohjelmassa, aliohjelman keskellä), se voidaan varata dynaamisesti: real, allocatable, dimension (:,:) :: matrix... read(*,*) n allocate(matrix(n,n))... Funktiolla allocated voidan tutkia, onko taulukolle varattu tilaa: if (.not. allocated(matrix)) & allocate(matrix(1:10, -10:10)) Aliohjelman paikalliset muuttujat katoavat aliohjelman päättyessä. Tila voidaan vapauttaa myös eksplisiittisesti: deallocate(matrix)