BM20A1501 Numeeriset menetelmät 1 - AIMO

Transkriptio

1 6. marraskuuta 2014

2 Opetusjärjestelyt Luennot + Harjoitukset pe , la , pe , la , pe , la , Harjoitustyö Tentti

3 Kurssin sisältö I Johdanto Virheet ja virhetyypit Lukujen esitys tietokoneella Virhetyypit ja niiden kasaantuminen Stabiilisuus Puolitusmenetelmä Newtonin menetelmä Numeerinen derivointi Newtonin menetelmä epälineaarisille yhtälöryhmille Newtonin optimointimenetelmä

4 Kurssin sisältö II Keskipistesääntö Puolisuunnikassääntö Simpsonin menetelmä Eulerin menetelmä n. kertaluvun DY:n muuttaminen DY-ryhmäksi Lagrangen muoto Käyrän sovitus Kuutiosplini

5 Sisältö 1 Johdanto

7 Yleistä Käsitys menetelmän matemaattisista perusteista Ymmärtämys siitä miten menetelmä etenee sen toimiessa Tietoisuus niistä tilanteista joissa menetelmä saattaa epäonnistua Kyky tunnistaa menetelmän epäonnistunut toiminta Kyky arvioida saatujen tulosten järkevyys alkuperäisen tehtävän kannalta

8 Absoluuttinen ja suhteellinen virhe Absoluuttinen virhe Suhteellinen virhe ǫ x = x x ρ x = x x x

9 Absoluuttinen ja suhteellinen virhetesti Tutkittavan suuren virheen määrän testaamiseen voidaan käyttää joko absoluuttista virhetestiä: Jos x x < d, niin x approksimoi x:ää d:llä desimaalilla tai suhteellista virhetestiä: Jos x x < s x, niin x approksimoi x:ää s:llä merkitsevällä numerolla

10 Virheiden kasaantuminen peruslaskutoimituksissa 1/2 Aproksimaatioihin liittyvien virheiden ylärajat: ǫ x = x x = x = δ x ǫ y = y ỹ = y = δ y yhteenlaskussa δ x+y = (x +y) ( x +ỹ) = (x x)+(y ỹ) (x x) + (y ỹ) = δ x +δ y vähennyslaskussa δ x y = (x y) ( x ỹ) = (x x) (y ỹ) (x x) + (y ỹ) = δ x +δ y

11 Virheiden kasaantuminen peruslaskutoimituksissa 2/2 kertolaskussa δ x y = (x y) ( x ỹ) = ( x ± x )(ỹ ± y ) xỹ) = ( xỹ ± x y ±ỹ x ± x y xỹ x δ y + ỹ δ x +δ x δ y Jos oletetaan että x >> δ x ja ỹ >> δ y :lle, niin viimeinen termi voidaan jättää pois ja δ x y x δ y + ỹ δ x jakolaskussa δx y x δ y + ỹ δ x ỹ 2

12 Lausekkeet operaatioiden suhteelliselle virheelle 1/2 yhteenlasku vähennyslasku kertolasku δ x+ỹ x +ỹ δ x +δ y x +ỹ δ x ỹ x ỹ δ x +δ y x +ỹ δ x ỹ x ỹ ỹ δ x + x δ y x ỹ = δ x x + δ y ỹ

13 Lausekkeet operaatioiden suhteelliselle virheelle 2/2 jakolasku δ xỹ x/ỹ δ x x + δ y ỹ Esimerkki Olkoon tehtävänä laskea suure z, missä z =

14 Lukujen esitys tietokoneella B-kantainen lukujärjestelmän yleinen luku on: n n (a n a n 1...a 1 a 0.b 1 b 2 ) B = a k B k + b k B k k=0 k=1 10-järjestelmän normalisoitu liukuluku on muotoa: x = ±0.d 1 d n, d 1 0, n Z, d i {0,...,9} Talletus tietokoneelle muodossa x = s f B e

15 Liukulukuaritmetiikka ja virheiden kasaantuminen Karkea sääntö N kappaletta aritmeettisia operaatioita aiheuttaa virheen Nǫ m, kun pyöristys satunnaista Pyöristettäessä samaan suuntaan Nǫ m

16 Tehtävän ja ratkaisumenetelmän stabiilisuus 1/2 Matemaattisenmallinmuodostamisessa ongelmia voivat tuottaa: Mallissa käytetyt vakiot/lähtödata Tehdään liian suuria yksinkertaistuksia Ongelma on huonosti asetettu Numeerisen mallin muodostamisessa ja ratkaisussa virheellisiä tuloksia voivat tuottaa: Epästabiili numeerinen menetelmä Pyöristysvirheet Katkaisuvirhe Väärämenetelmä

17 Tehtävän ja ratkaisumenetelmän stabiilisuus 2/2 Numeerisen probleeman stabiilisuus Tehtävä F(x,y) = 0 on stabiili, jos ratkaisu x riippuu jatkuvasti lähtötiedosta y, ts. jos {ỹ} lähestyy arvoa y niin vastaava jono ratkaisuja { x} lähestyy arvoa x Numeerisen algoritmin stabiilisuus Numeerinen algoritmi on stabiilii, jos lasketun numeriisen ratkaisun riippuvuus lähtötiedon häiriöstä ei ole suurempi kuin alkuperäisessä matemaattisessa probleemassa

19 Yleistä Tarkastellaan yhtälön f(x) = 0 missä f : R R ratkaisemista numeerisesti f:n ollessa epälineaarinen, niin yleensä ei tiedossa analyyttistä ratkaisua Iteratiiviset menetelmät Geometrinen hahmotus Alkuarvaus Monikertaiset juuret

20 Puolitusmenetelmä 1/2 Olkoon annettu välillä [a, b] jatkuva funktio f(x), joka toteuttaa ehdon f(a)f(b) < 0 Väliarvolause takaa, että f(x):llä on ainakin yksi juuri välillä [a, b]. Yleensä väli [a,b] valitaan siten, että vain yksi juuri α [a,b]. Seuraava algoritmi suppenee aina kohti jotakin juurta α [a, b] 1 Aseta c = (a+b)/2 2 Jos b c eps, root = c ja lopeta 3 Jos f(b) f(c) 0, niin aseta a = c, muuten b = c 4 Palaa askeleeseen 1

21 Puolitusmenetelmä 2/2 Siis algoritmin kullakin kierroksella väli [a, b] puolittuu. Tällöin menetelmän virhe on ( ) 1 n α c n (b a) 2 Konvergenssi hidasta Iteraatiokierroksille yläraja

22 Newtonin menetelmä 1/2 Olkoon annettu alkuarvaus x 0 riittävän lähellä juurta α. Parempi approksimaatio saadaan korvaamalla käyrä y = f(x) pisteeseen (x 0,f(x 0 )) asetetulla tangentilla. Yksinkertaisella laskulla analyyttisestä geometriasta saadaan tangentin ja x-akselin leikkauspiste x n+1 = x n f(x n) f (x n ), n 0 Tunnetuin menetelmä Newton-Raphson-menetelmä epälineaarisille yhtälöryhmille

23 Newtonin menetelmä 2/2 Menetelmä saattaa divergoida huonoilla alkuarvauksilla Laskennassa f(xn) f (x n) voi aiheuttaa hankaluuksia, koska nimittäjä voi mennä pieneksi Iteraation lopetuskriteerin on vaikea valita, koska juurta ei ole suljettu etukäteen millekkään tietylle välille

24 Numeerinen derivointi Derivaatta on funktion muutosnopeus. f (a) = f(a+h) f(a), eteenpäin laskettu differenssi h h on pieni luku, esim eps, 3 eps f (a) = f(a) f(a h), taaksepäin laskettu differenssi h f (a) = f(a+h) f(a h), keskeisdifferenssi h Usean muuttujan tapauksella derivaatalla on aina myöskin suunta. f (a) = f(a+h v) f(a) h

26 Newtonin menetelmä epälineaarisille yhtälöryhmille Olkoon ratkaistavana epälineaarinen yhtälö f(x) = 0, missä f on jatkuvasti derivoituva funktio f : R n R n. Voimme arvioida funktiota pisteessä x + s Taylorin sarjalla: f(x +s) f(x)+j(x)s Tässä vektorin s kertoimena on Jacobin matriisi J ij = δf i δx j. Asettamalla f(x + s) = 0 saamme ratkaistavaksi yhtälöryhmän J(x)s = f(x). Askel s on siis ratkaistavissa lineaarisesta yhtälöryhmästä. Olemme siis johtaneet Newtonin menetelmän. x k+1 = x k +s k

27 Newtonin optimointimenetelmä Newtonin menetelmää usean muuttujan tapauksessa voi käyttää myös ääriarvojen etsimiseen Olkoon f = f(x, y), f:n ääriarvot löytyvät osittaisderivaattojen nollakohdista, eli kun { fx = 0 f y = 0 Yhtälöparin voi ratkaista Newtonilla, tarvitaan toiset derivaatat [ ] fxx f H = xy f yx f yy Toinen tapa, ns modifioitu Newton etsitään vektorin s suuntaamalta suoralta minimi ja käytetään sitä seuraavana approksimaationa

29 Yleistä Tarkastellaan yksiulotteisen Riemannin integraalin laskemista. Analyysin peruslause: b a f(x)dx = F(b) F(a) b a f(x)dx Yleisessa tapauksessa ei välttämättä löydetä F:ää suljetussa muodossa. f:n arvo iteratiivisen prosessin tulos

30 Keskipistesääntö Olkoon f jatkuva välillä [a, b] b a h = b a n, [m k = a+(k 1 )h, k = 1,...,n 2 f(x)dx h ( f(m 1 )+...+f(m n ) ) n = h f(m k ) k=1

31 Puolisuunnikassääntö Olkoon f jatkuva välillä [a, b] h = b a n, x k = a+kh, k = 0,1,...,n b a f(x)dx h ( f(x0 )+2f(x 1 )+...+2f(x n 1 )+f(x n ) ) 2 = h n 1 f(x0 )+2 f(x k )+f(x n ) 2( ). k=1

32 Simpsonin sääntö 1/2 Olkoon f jatkuva välillä [a,b]. Jaetaan väli [a,b] n yhtäsuureen jakoväliin (n on parillinen). Jos peräkkäisten jakoväliparien päätepisteitä vastaavien f kuvaajan pisteiden kautta asetetaan paraabelin kaari, ja lasketaan vastaavat paraabelin kaarien integraalit, niin kyseessä on Simpsonin sääntö.

33 Simpsonin sääntö 2/2 b a h = b a n, n on parillinen, x k = a+kh, k = 0,...,n f(x)dx h 3 ( y0 +4y 1 +2y 2 +4y y n 2 +4y n 1 +y n ) = h ( ) ypäätepisteet +4y pariton +2y parillinen 3

35 Yleistä Fysikaaliset, kemialliset ja biologiset mallit kuvaavat usein suureiden muutoksia. Mallintaminen differentiaaliyhtälöillä Yksinkertaisimmat yhtälöt ratkevat analyyttisesti, mutta käyttännön ongelmat useasti vain numeerisesti Numeeriseen ratkaisuun on kehitetty suuri joukko menetelmiä

36 Eulerin menetelmä Leonhard Eulerin mukaan nimetty menetelmä differentiaaliyhtälöiden alkuarvo-ongelmien ratkaisuun Se on yksinkertaisin numeerisista integrointimenetelmistä, mutta siitä huolimatta menetelmä on tärkeä. Sen kautta on johdettu monet paremmista menetelmistä ja sen ymmärtäminen on pohjana näille. 1. kertaluvun yhtälö: y = f(x,y), y(x 0 ) = y 0 y n+1 = y n +h f(x n,y n )

37 n. kertaluvun DY:n muuttaminen DY-ryhmäksi Muoto y (n) = f(t,y,y,...,y (n 1) ) Merkitään y 1 = y, y 2 = y,..., y n = y (n 1), joka derivoidaan y 1 = y 2 y 2 = y 3. y n 1 = y n y n = f(t,y 1,y 2,...,y n ) Yhtälöryhmä on lineaarinen DY-ryhmä

39 Yleistä Useinkaan ei tiedetä funktion f : R R analyyttistä lauseketta, tiedetään vaan funktion datapisteitä Interpoloinnissa halutaan approksimoivan funktion p kuvaajan kulkevan datapisteiden (x k,y k ) kautta, ts. p(x k ) = y k, k = 0,...,n Ekstrapolointi

40 Käyrän sovitus Kun datapisteet ovat (x 1,y 1 ),(x 2,y 2 ),...,(x N,y N ) ja sovite f(x,c) = c 1 f 1 (x)+...+c n f n (x), niin funktion S(a) = N (f(x i,c) y i ) 2 i=1 minimointi johtaa lineaarisessa tapauksessa normaaliyhtälöön A T Ac = A T y, missä matriisin A alkiot ovat A i,j = f j (x i ), i = 1,...,N, j = 1,...,n.

41 Splinit 1/5 Jono interpolaatiopolynomeja ei välttämättä lähesty interpoloitavaa sileää funktiota kun interpolointi pisteitä lisätään. Jaetaan havaintoväli osaväleihin havaintopisteiden avulla ja käytetään osaväleillä paloittaisia, matala-asteisia polynomeja. Edelleen vaaditaan, että osaväleiltä yhdistetty funktio on sileä. Olkoon väli I = [a, b] jaettu n:ään osaväliin pisteillä a = t 0 < t 1 <... < t n 1 < t n = b. Funktio s : I R on k-asteinen splini, jos seuraavat ehdot ovat voimassa: 1 Jokaisella osavälillä I i = [t i 1 ;t i ], i = 1...n, funktio s on korkeintaan k-asteinen polynomi. 2 F unktiolla s on välillä I jatkuvat derivaatat kertalukuun k 1asti.

42 Splinit 2/5 Pisteitä t i sanotaan splinin solmuiksi. Yksinkertaisin, ensimmäisen asteen splini on paloittain lineaarinen funktio. Toisen asteen splini on paloittain kvadraattinen funktio; lisäksi sen derivaatta on jatkuva koko välillä I. Yleisimmin käytetty splini on kolmannen asteen splini eli kuutiosplini, koska se on käytännössä riittävän sileä, mutta samalla helpohkosti konstruoitava. Matala-asteiset splinit sopivat erinomaisesti interpolointi tehtäviin, koska niillä ei ole taipumusta oskillointiin.

43 Splinit 3/5 Lähtökohtana on pistejoukko (x i,u i ) n. asteen kuutiosplini s(x) koostuu joukosta kolmannen asteen polynomien paloja s i (x), jolle on voimassa jatkuvuusehdot s i (x) = s i+1 (x) s i (x i ) = s i+1 (x i+) s i (x i ) = s i+1 (x i+) kaikissa interpolaatiopisteissä x i. Kun merkitään s (x i ) = m i, kuutiosplini-interpolantti saadaan muodostettua ratkaisemalla tridiagonaalinen yhtälöryhmä Km = d

44 Splinit 4/5 Km = d missä matriisin K lävistäjäalkiot ovat kaikki kakkosia ja alasivulävistän alkiot µ i ja yläsivulävistäjän alkiot λ i saadaan laskettua kaavoista, kun i = 1,...n 1: h i = x i+1 x i σ i = u i+1 ui h i λ i = h i h i +h i 1 µ i = 1 λ i d i = 6 σ i σ i 1 h i +h i 1

45 Splinit 5/5 Kun kuutiosplinit lasketaan luonnollisin reunaehdoin niin vaaditaan että interpolantin toinen derivaatta häviää välin päätepisteissä. Kun splini kirjoitetaan osavälillä I i muotoon s i (x) = s i,0 +s i,1 (x x i )+s i,2 (x x i ) 2 +s i,3 (x x i ) 3 niin kertoimet s i,k saadaan laskettua kaavoista s i,0 = u(x i ) ( s i,1 = σ i h mi+1 i s i,2 = m i 2 s i,3 = m i+1 m i 6h i 6 + m i 3 )