802360A Inversio-ongelmien peruskurssi (Kevät 2014) Sari Lasanen

Transkriptio

1 802360A Inversio-ongelmien peruskurssi (Kevät 204) Sari Lasanen 3. maaliskuuta 204

2 2

3 Inversio-ongelmien peruskurssi (4 op) Osaamistavoitteet: Kurssin onnistuneen suorittamisen jälkeen opiskelija tunnistaa useat inversio-ongelmat tietää inversio-ongelmien tyypilliset ominaisuudet osaa ratkaista yksinkertaisia inversio-ongelmia eksakteilla ja epätarkoilla arvoilla. Kirjallisuus:. Jari Kaipio, Erkki Somersalo: Statistical and computational inverse problems. Springer-Verlag (Applied Mathematical Sciences, Vol. 60). 2. Daniela Calvetti, Erkki Somersalo: Introduction to Bayesian scientific computing. Ten lectures on subjective computing Springer (Surveys and Tutorials in the Applied Mathematical Sciences, Vol. 2) i

4 ii

5 Luku Inversio-ongelmat Inversio-ongelmat ovat osa sovellettua matematiikkaa, mutta matka puhtaaseen matematiikkaan on lyhyt. Useat inversio-ongelmat tuottavat uutta tietoa sekä käytännön sovelluksesta että pelkästä matematiikasta. Jopa matematiikan alan arvostetuimmassa lehdessä Annals of Mathematics on julkaisuja inversio-ongelmista. Erityisesti inversio-ongelmiin erikoistuneita tieteellisiä lehtiä ovat: Inverse Problems (IP), Inverse Problems and Imaging (IPI), Journal of Inverse and Ill-posed Problems ja Inverse Problems in Science and Engineering. Näitä lehtiä voi lukea Oulun yliopiston kirjaston Nelli-portaalin kautta (myös etäkäytöllä).. Mitä inversio-ongelmat ovat? Inversio-ongelmissa pyritään saamaan tietoa tuntemattomista kohteista epäsuorien ja usein epätarkkojen havaintojen avulla. Esimerkkejä tutuista inversio-ongelmista ovat lääketietelliset kuvantamismenetelmät (ultraäänikuvaus, tietokonekerroskuvaus), kuvanparannus kuvankäsittelyssä ja sateen havainnointi säätutkalla. Tällä kurssilla tutustutaan matemaattisiin inversio-ongelmiin sekä yksinkertaisten inversio-ongelmien käytännön ratkaisumenetelmiin. Inversio-ongelman eli käänteisongelman nimitys tulee siitä että ensin on tunnettava suora ongelma, joka kertoo kuinka data y riippuu kiinnostuksen kohteena olevasta suureesta x. Tyypillisesti data y saadaan hyödyntämällä jotakin fysikaalista ilmiötä ja suora ongelma on kyseistä ilmiötä selittävä fysikaalinen teoria: sanotaan vaikka kuvaus x F (x) =: y. Suureet x ja y ovat useimmiten vektoreita tai usean muuttujan funcktioita. Määritelmä. Kuvausta F, joka vie tuntemattoman sitä vastaavaksi dataksi, kutsutaan suoraksi teoriaksi (eng. direct theory, forward mapping). Inversio-ongelmassa kysytään, mikä suure x on tuottanut datan y. Maallikkotermein asian voi selittää seuraavasti: Suora ongelma: Syistä seurauksiin. Inversio-ongelma: Seurauksista syihin. Matemaattisesti kyse on käänteiskuvauksen F määräämisestä, mutta tulemme näkemään että datan epätarkkuus mutkistaa asioita.

6 .2 Esimerkkejä inversio-ongelmista ja niiden tyypillisistä ominaisuuksista Esimerkki Suora ongelma: Laske yhteen luvut, jotka ovat samalla rivillä tai samalla sarakkeella tai samaa väriä.?????? 5 7?? 4 3 8?? 6 2 9? Inversio-ongelma: Määrää luvut, joiden rivi-, sarake- ja värisummat on annettut ??? 3 5??? 9 7??? 0 Inversio-ongelmat ovat usein vaikeanpia kuin suorat ongelmat. Esimerkki 2 Suora ongelma: Määrää funktio f C (0, ), kun sen derivaatta f (t) = 3t 2 ja alkuarvo f(0) = 0 on annettu. Inversio-ongelma: Määrää funktion f C (0, ) derivaatta f kun f(t) = t 3. Tämä on helppoa, mutta vaikeuksia syntyy jos annettu integraalifunktio tunnetaan epätarkasti. Esim. jos annettu data ei ole f vaan niin sen derivaatta onkin g(t) = f(t) + 00 sin(00t), g (t) = 3t 2 + cos(00t). Inversio-ongelmien ratkaisut ovat usein herkkiä datassa esiintyville pienille häiriöille. 2

7 .2 g f Dg Df Kuva.: Häiriöinen data g ei paljon eroa tarkasta datasta f... mutta vastaavat derivaatat eroavat! Esimerkki 3 Kuvan terävöittämisessä pyritään muodostamaan sumeasta valokuvasta yksityiskohtaisempi valokuva. Suora ongelma: Mallinna kuinka terävästä valokuvasta tulee sumeampi valokuva. Inversio-ongelma: Tee sumeasta valokuvasta terävämpi valokuva Suora ongelma Inversio-ongelma Mustavalkoinen digitaalinen valokuva voidaan esittää matriisina M R n m, jonka elementit M ij kuvaavat pikseleiden väriä: mitä suurempi luku on sitä vaaleampi pikselin väri on (katso kuvat.2 ja.3). 3

8 Kuva.2: Mustavalkoinen valokuva koostuu pikseleista : suorakaiteen muotoisista yksiva risista kuvaelementeista Kuva.3: Esimerkki 9 9-matriisin kuvapikseleista ja harmaasa vyja vastaavista lukuarvoista. Kuvan sumentamista voidaan mallintaa normitetulla Gaussisella konvoluutiolla (valitaan n = m yksinkertaisuuden vuoksi) fkl = Ckl M n X e ( k i 2 /n2 + l j 2 /n2 )/2σ2 M, ij i,j= missa k, l =,..., n ja normitusvakio Ckl = n X! e ( k i 2 /n2 + l j 2 /n2 ) /2σ 2. i,j= fkl. Eniten paijokaisen pikselin arvo Mkl kuvautuu pikselien painotetuksi keskiarvoksi M noa on kyseisen pikselin ja sen viereisten pikselien arvoilla. f kun M tunnetaan. Suora ongelma: Ma a ra a M f tunnetaan. Inversio-ongelma: Ma a ra a M kun M 4

9 Pienessä kuvassa n, m = 256, mutta korkealaatuisissa kuvissa n ja m ovat useita tuhansia, jolloin matriisissa on miljoonia elementtejä. Inversio-ongelmissa tuntemattomat ovat usein korkeaulotteisten avaruuksien vektoreita. Esimerkki 4 Säätutka lähettää sähkömagneettisia pulsseja mikroaaltotaajudella ( MHz, aallonpituus n. 5.3 cm). Pulssit heijastuvat takaisin esteistä, esimerkiksi sadepisaroista ja lumihiutaleista. Säätutka vastaanottaa heijastuneet pulssit, joiden matka-ajoissta saadaan selville sadepisaroiden etäisyys. Heijastuneen pulssin voimakkuudesta (tehosta) saadaan selville sateen voimakkuus. Doppler-tutka kertoo myös sadepisaroiden nopeuden taajuudessa tapahtuvan Doppler-siirtymän avulla. Sadepisaroista saadaan havaittavan suuruisia kaikuja aina 250 km päästä. Mittauksia tehdään eri suunnissa antennia liikuttamalla. Suora ongelma: Määrää heijastunut kaiku kun sadepisaroiden jakauma (ja nopeus) tunnetaan. Inversio-ongelma: Määrää sadepisaroiden jakauma (ja nopeus), kun niistä heijastunut kaiku tunnetaan. Tarkastellaan yksinkertaisuuden vuoksi ongelman matemaattista kuvausta, kun kyseessä on yksi liikkuva kappale. Lähetetty signaali on funktio φ(t) = P e(t) sin(ω 0 t), missä ω 0 on kantotaajuus, P on lähetetyn pulssin teho ja e(t) kuvaa pulssin muotoa. Yhden kappaleen liikettä kuvaa yhtälö r(t) = x 2 + x 3 t + 2 x 4t 2, missä x 2 on kappaleen etäisyys tutkasta, x 3 on kappaleen nopeus ja x 4 on kappaleen kiihtyvyys. Sadepisarasta takaisinpäin heijastunutta signaalia kuvaa yhtälö ( z(t) = x φ t 2 ) ( c x 2 exp i2 ω 0 c (x 3t + ) 2 x 4t 2 ), 5

10 missä x on heijastuneen signaalin teho, c on valonnopeus ja ɛ(t) on mittauskohinaa. Heijastuneen signaalin teho toteuttaa tutka-yhtälön (eng. radar equation) x = CP σ, (4π) 2 x 4 2 missä C on tutkasta riippuva vakio ja takaisinsirontapinta-ala (eng. radar cross section) σ riippuu kappaleen koosta ja heijastavuudesta. Kuva.4: Ilmatieteen laitoksen kuva säätutkahavainnoista. Inversio-ongelmissa käytetään usein epäsuoraa tietoa tuntemattomista kohteista. Muita tutkasovelluksia: Avaruusromun kartoitus (maanpinnalta lähetetty sähkömagneettinen pulssi heijastuu hukatuista työkaluista, pirstoutuneista satelliiteista ja rakettiromusta, joka putoaa hitaaaasti kohti maata). Esimerkiksi kansainvälinen avaruusasema ISS joutuu väistämään putoavaa romua pari kertaa vuodessa. Kuun kaukokartoitus (maanpinnalta lähetetty sähkömagneettinen pulssi heijastuu kuusta). Ionosfäärin tutkimus (revontulet, aurinkomyrskyn vaikutukset). Hyödynnetään epäkoherenttia sirontaa: tutkasignaali saa ionosfäärin plasman värähtelemään, jolloin syntyy heikko sähkömagneettinen signaali, joka voidaan vastaanotttaa maanpinnalla. Taajuus satoja megahertsejä. Maaperätutka. Toimii mikroaaltotaajuuksilla. 6

11 Esimerkki 5 Lääketieteellisessä tietokonetomografiakuvauksessa (tietokonekerroskuvaus, TT-kuvaus) muodostetaan röntgenkuvien avulla kuva potilaan sisäosista. Kuva.5: Tietokonekerroskuvauslaite (kuva: Siemens Press Picture). Eri kudokset (kuten lihas ja luu) vaimentavat röntgensäteilyä eri voimakkuudella. Kun kehon läpi kulkeneen säteilyn kokonaisvaimeneminen mitataan useasta eri suunnasta, saadaan muodostettua poikkileikkauskuva kehosta tarkemmin sanottuna massaabsorptiokertoimien vaihtaluista. Kuva.6: Tavallinen röngenkuva vs. viipalekuva. Tavallisessa röntgenkuvassa nähdään kokonaisabsorptio vain yhdessä suunnassa. Viipalekuvat muodostetaan röntgensäteilyn absorptiosta useassa eri suunnassa. 7

12 Olkoon f = f(x, y) 0 paloittain jatkuva funktio, joka esittää massa-absorptiokerrointa pisteessä (x, y) R 2. Jos I 0 on lähetetyn röntgensäteilyn intensiteetti, I on vastaanotetun röntgensäteilyn intensiteetti ja röntgensäde kulkee kehon läpi pitkin suoraa polkua C, jonka parametrisaatio on r(t), t [t, t 2 ], niin ln ( I0 I ) t2 = fds = f(r(t)) r (t) dt C t missä keskimmäinen termi esittää funktion f polkuintegraalia yli polun C. Tässä oletetaan yksinkertaisuuden vuoksi, että kehon poikkileikkaus sisältyy neliöön S = [, ] [, ] ts. f(x, y) = 0 kun x > tai y >. y Suora y = x - x - Kuva.7: Funktion f polkuintegraalit lasketaan pitkin eri suoria. Esimerkiksi, jos C = {(x, y) R 2 : x = y, y }, niin voidaan valita (t) = (t, t), t, jolloin ln ( I0 I ) = fds = f(r(t)) r (t) dt = f(t, t) (, ) dt = 2 f(t, t)dt. C Suora ongelma: Kun funktio f tunnetaan, laske integraalit fds pitkin kaikkia suoria polkuja C, jotka alkavat ja päättyvät neliön S reunalla. Inversio-ongelma: Määrää funktio f kun tunnetaan sen integraalit fds C C pitkin kaikkia suoria polkuja C, jotka alkavat ja päättyvät neliön S reunalla. Tämä inversio-ongelma voidaan ratkaista Fourier-analyysin avulla. Menetelmä on kuitenkin tämän kurssin ulkopuolella, joten etenemme seuraavaan käytännön ongelmaan. 8

13 Käytännössä mittauksia ei voi tehdä jokaista suoraa pitkin, vaan mittaussuuntia on rajallinen määrä. Mitä vähemmän mittaussuuntia on käytössä, sitä vähemmän tietoa on saatavilla tuntemattomasta funktiosta. Ongelmana on, että useilla eri funktioilla voi olla samat integraalit. Esim. jos f(x, y) = x 2 +y 2 kun (x, y) B(0, ) ja f(x, y) = 0 muulloin, niin sen integraali pitkin suoraa y = 0 (tai pitkin mitä tahansa origon kautta kulkevaa suoraa C = {(x, y) R 2 : y = ax, (x, y) B(0, )}), on x 2 dx = 2 3 joka on sama kuin funktion f(x, y) = integraali pitkin samaa suoraa. 3 Tomografiakuvauksessa datan rajallisuutta kompensoidaan rajoittamalla sallittujen ratkaisujem muotoa: Oletetaan esimerkiksi, että f(x, y) = n c j φ j (x, y), j= missä n on kiinnitetty luku, funktiot φ i ovat tunnettuja ja kertoimet c i R ovat tuntemattomia. Funktiot φ j (x, y), i =,..., n voivat olla esimerkiksi pistevieraiden neliöiden karakteristisia funktioita (kuvan pikseleitä) { kun (x, y) I j φ j (x, y) = 0 muulloin. y I 24 I I 8 I 2 I 3 I 4 I 5 I 9 I 0 I I 2 I 6 I 7 Kuva.8: Neliö I j. x y Oletetaan, että polkuja on m kappaletta, sanotaan vaikka polut C j, joiden parametrisaatiot ovat r j : [t, t 2 ] R 2, j =,..., m. Tällöin dataa mallintavat yhtälöt ovat muotoa t2 n n y i = fds = φ j (r i (t)) r i(t) c j dt = M ij c j missä M ij = C t j= j= t2 t φ j (r i (t)) r i(t) dt 9

14 ja i =,..., m, j =,..., n. Inversio-ongelma on määrätä kertoimet c = (c,..., c n ), kun vektori y = (y,..., y m ) on annettu. Suoran teorian matriisi M on tunnettu, sillä funktiot φ j ja polut C i tunnetaan. On syytä huomata, että käytännön data sisältää lisäksi myös häiriöitä! Kuva.9: Esimerkki karkean resoluution harmaasävykuvasta. Kuva.0: Tietokonekerroskuva: eri harmaasävyt vastaavat funktion f eri arvoja. (kuva: Siemens Press Picture). Käytännön inversio-ongelmissa rekonstruktio (eli kuvan muodostaminen tuntemattomasta kohteesta) on tehtävä jollakin tapaa rajallisesta määrästä dataa. Käytännön inversio-ongelmissa approksimoidaan tuntemattomia usein äärellisulotteisten vektoreiden avulla. Esimerkki 6 Impedanssitomografiassa (eng. electrical impedance tomography, EIT) sähköiset mittaukset kappaleen pinnalla antavat tietoa kappaleen sisärakenteesta (materian sähkönjohtavuudesta). Kappaleeseen voidaan syöttää jännite ja mitata virtaa tai syöttää virtaa ja mitata jännitettä. Olkoon u jännite kappaleessa D ja oletetaan, että pinnalle on asetettu jännite f. Olkoon kappaleen D sähkönjohtavuus σ C ( D). Silloin funktio u C 2 (D) C ( D) 0

15 Virta Jännite D Kuva.: Jännite-virta mittaukset kappaleesta D. toteuttaa yhtälöt (σ u)(x) = 0, x D u(x) = f(x), x D Pinnalla mitattava virta g(x) saadaan jännitteestä u kaavalla g(x) = σ(x)n(x) u(x), x D, missä n(x) on kappaleen D pinnan (ulospäin suunnattu) normaalivektori. Suora ongelma: Määrää funktio g kun funkiot σ ja f on annettu. Inversio-ongelma: Määrää funktio σ kun funktio g tunnetaan jokaisella f C ( D). Tämäntyyppisiä inversio-ongelmia nimitetään käänteisiksi reuna-arvo-ongelmiksi (eng. inverse boundary value problems). Yllä olevan inversio-ongelman ratkaisu tunnetaan melko yleisillä D ja σ. Ratkaisumenetelmä edellyttää mm. osittaisdifferentiaaliyhtälöiden teorian tuntemusta. Tämän vuoksi emme opeta ongelman ratkaisua tässä kurssissa. Viimeisessä luvussa tarkastellaan menetelmiä, joita voidaan käyttää tämän ongelman käytännön ratkaisuissa. Mihin soveltuu: Lääketieteellinen kuvantaminen (sydämen ja keuhkojen toiminta). Ainetta rikkomaton testaus (esim. vauvanruokapurkkien eheyden tarkistus, lentokoneen siipien korroosiovaurioiden tarkistus, siltojen betoniraudoitusten tutkiminen). Teollisuuden prosessien valvonta (esim. säiliön sisällä olevan seoksen tasaisuuden tarkkailu).

16 Tästä ongelmastaa on olemassa myös karkea versio jota hyödynnetään kaupallisesti sähköinen kehonkoostumusmittaus (eng. bioelectrical impedance analysis). Siinä mittausperiaate on sama: kehoon johdetaan vähäistä virtaa ja mitataan sen aikaansaama jännite. Erona EIT:hen on, että tarkan suoran teorian sijaan käytetään tiettyjen parametrien sovituksia karkeisiin yhtälöihin. Tärkein näistä parametreistä on kehossa olevan veden määrä. Esitietona tarvitaan henkilön pituus (henkilöä approksimoidaan sen jälkeen samanpituisena sylinterinä, jonka tilavuus kertoo kehossa olevan veden määrän...). Mitatusta jännitteestä lasketaan sylinterin sisältämä veden määrä. Käytettyjä yhtälöitä on pyritty tarkentamaan ottamalla lisää parametreja huomioon, kuten henkilön iän, sukupuolen ja painon sekä käyttämällä eritaajuisia sähkövirtoja. Inversio-ongelmien avulla on mahdollista saada tietoa sellaisistakin kohteista jotka eivät muutoin ole näkyvissä tai tavoitettavissa. Esimerkki 7 Lääketieteellisessä ultraäänikuvauksessa muodostetaan kuva potilaan sisäosista ääniaaltojen avulla. Periaate on seuraava: potilaan sisälle lähetetään kapea äänipulssi (taajuus 2-5 MHz), joka heijastuu osittain takaisinpäin kehon eri kudosten rajapinnoista. Takaisinsironnut pulssi vastaanotetaan ja muunnetaan kirkkausarvoiksi. Tämä toistetaan eri mittaussuoria pitkin. Eräs ultraäänikuvauksen yksinkertaistuksista on olettaa, että Kuva.2: Ultraäänikuvauksen periaate. Pulssi heijastuu rajapinnoista. Tässä samanväriset alueet ovat täysin homogeenisia. ääni kulkee vakionopeudella kehossa, vaikka eri kudoksilla on erilaiset äänennopeudet. Tästä johtuen ultraäänikuvissa olevien kohteiden koko on vääristynyt. Lisäksi malli ei ota huomioon monitie-etenemistä eikä aaltojen taittumista, jolloin kuvassa oleva kohde ei välttämättä ole todellisella paikallaan. Hyvin epätasaiset rajapinnat tekevät kuvasta lisäksi täplikkään. 2

17 Kuva.3: Ultraäänikuvauksen periaate 2. Taaksepäin sironnut pulssi (kuvassa sininen käyrä) vastaanotetaan ja muunnetaan alla oleviksi kirkkausarvoiksi verhokäyrän (eng. envelope, kuvassa punainen käyrä) avulla. Ultraäänikuvauksen tarkempi matemaattinen malli on ääniaaltojen eli akustisten aaltojen etenemistä väliaineessa kuvaava malli. Aika-harmonista akustista aaltoa kappaleessa D R n voidaan kuvata yhtälöllä u(x) + ω2 u(x) = 0, x D, c 2 (x) missä ω on taajuus ja c(x) on äänen nopeus väliaineessa. Lähetettävää ääntä kuvataan yhtälöllä n(x) u(x) = f(x), x D, missä n(x) on pinnan D normaalivektori. Pinnalla vastaanotettua ääntä kuvataan yhtälöllä g(x) = u(x), x D. Funktion u(x) yhteys ajasta riippuvaan fysikaaliseen äänen paineeseen p(x, t) saadaan kaavasta p(x, t) = Re u(x)e iωt. Suora ongelma: Määrää u kun funktiot c ja f on annettu. Inversio-ongelma: Määrää c kun g tunnetaan eri funktioilla f. Tämä inversio-ongelma on myös käänteinen reuna-arvo-ongelma. Inversio-ongelmissa käytetään matematiikkaa erilaisten kuvantamismenetelmien parantamiseen. Samaa akustista yhtälöä voidaan käyttää seismisten eli maan tärinää kuvaavien aaltojen etenemisen kuvaamiseen. Maankuoren rakennetta voidaan kartoittaa täristämällä maanpintaa koneellisesti (tai räjäytyksien avulla) ja mittaamalla maankuoren epähomogeenisuuksista heijastunutta aaltoa maan pinnalla. Ääniaallot kulkevat hyvin myös vedessä, jolloin puhutaan kaikuluotaimista eli sonareista. 3

18 Esimerkki 8 Käänteisessä sirontaongelmassa (eng. inverse scattering problem) lähetetetään aalto (yleensä sähkömagneettinen tai akustinen) kohti tuntemattoman kappaletta tai väliainetta. Tuntematon poikkeama muuttaa lähetettyä aaltoa, jolloin syntyy sironnut aalto. Sironnutta aaltoa havainnoidaan etäällä tuntemattomasta poikkeamasta. Inversio-ongelmana on päätellä tuntemattoman rakenne näiden havaintojen perusteella. Kuva.4: Sironnan periaate. Tuleva aalto on u i. Sirottaja saa aikaan sironneen aallon u s. Koko aalto u = u i + u s. Matemaattisessa sironnassa aaltoa kutsutaan kentäksi (eng. field, tarkoittaa usean muuttujan funktiota). Sirontaa yksinkertaistetaan usein olettamalla, että kenttien aikariippuvuus on harmoninen eli u(x, t) = e iωt u(x). Aikaharmonista akustista sirontaongelmaa (eng. time-harmonic acoustic scattering), missä sirottaja on epähomogeeninen väliaine kuvaavat yhtälöt u(x) = u i (x) + u s (x) u(x) + ω2 c 2 (x) u(x) = 0, x Rn, missä ω on tulevan aallon taajuus. Lisäksi vaaditaan säteilyehto ( x lim x x x us (x) i ω ) c us (x) = 0 tasaisesti joka suuntaan x x Funktio c(x) kuvaa äänen nopeutta väliaineessa. Äänen nopeus on fysikaalinen suure, joka riippuu mm. väliaineen rakenteesta (esim. molekyylitiheydestä). Yllä oletetaan että c on positiivinen sileä funktio, joka on vakio kaukana sirottavasta poikkeamasta. Suorassa sirontaongelmassa pyritään määräämään sironnut kenttä u s kun u i ja c tunnetaan. Tuleva kenttä oletetaan usein tasoaalloksi u i (x) = e ia x, missä a on suuntavektori. Käänteisessä akustisessa sirontaongelmassa pyritään määräämään funktio c kun sironnut kenttä u s tunnetaan kaukana tuntemattomasta sirottajasta ja tuleva kenttä u i on 4

19 tunnettu. Funktio c kuvaa tuntamattoman kohteen rakennetta. Sähkömagneettinen sironta: Väliaineesta tapahtuvaa sähkömagneettista sirontaa voidaan kuvata seuraavasti. Olkoon E = E(x, t) C 2 (R 2 R + ; R 3 ) ja H = H(x, t) C 2 (R 2 R + ; R 3 ) sähkömagneettisen aallon sähkökenttä ja magneettikenttä. Isotrooppisessa väliaineessa nämä kentät toteuttavat Maxwellin yhtälöt Aikaharmonisessa tapauksessa H E(x, t) + µ 0 (x, t) = 0 t H(x, t) ɛ(x) E (x, t) = σ(x)e (x, t). t E(x, t) = ɛ 2 0 E(x)e iωt, H(x, t) = µ 2 0 H(x)e iωt, missä ω on aallon taajuus ja ɛ 0 ja µ 0 tyhjiön permittiivisyys ja permeabiliteetti. Aikaharmoniset Maxwellin yhtälöt ovat E(x) ikh(x) = 0 (.) H(x) + ikn(x)e(x) = 0 (.2) missä heijastuskerroin n(x) = ( ɛ(x) + i σ(x) ) ɛ 0 ω riippuu väliaineesta ja k = ω ɛ 0 µ 0. Olkoon E i ja H i aikaharmonsen Maxwellin yhtälöiden ratkaisu tyhjiössä (jolloin ɛ ɛ 0 ja σ 0). Kun tuleva kenttä (E i, H i ) kohtaa epähomogeenisen väliaineen, se siroaa. Tulevan ja sironneen kentän summa E = E i + E s, H = H i + H s toteuttaa epähomogeenisen aineen Maxwellin yhtälöt (.) ja (.2). Lisäksi vaaditaan säteilyehto: tasaisesti joka suuntaan x x. lim (H s x x E s ) = 0 x Suora ongelma: Määrää E s ja H s kun E i ja H i sekä n(x) on annettu. Inversio-ongelma: Määrää n(x) kun H s ja E s tunnetaan kaukana sirottavasta väliaineesta annetuilla E i ja H i. Käänteiset sironta-ongelmat (eng. inverse scattering problem) ovat matematiikaltaan haastavia. 5

20 .3 Inversio-ongelmien luokittelua (A) Matemaattiset inversio-ongelmat. Esimerkiksi. Sirontaongelmat (esim. sironta väliaineesta, data yhdellä tai usealla tulevan aallon taajuudella tai tulosuunnalla) Käänteiset reuna-arvo-ongelmat (esim. impedanssitomografia) Matemaattinen tomografia (myös matka-aikatomografia) Alkuarvojen määrääminen Käänteiset ominaisarvo-ongelmat. (B) Käytännönläheiset ja laskennalliset inversio-ongelmat. Esimerkiksi Kuvankäsittely Kaukokartoitus (=etäällä olevien kohteiden kuvantaminen epäsuorien menetelmien avulla, mukaan lukien ekologiset, geologiset ja tähtitieteelliset kohteet) Lääketieteellinen kuvantaminen Ainetta rikkomaton testaus (mukaan lukien teollisten prosessien laadunvalvonta). Retrospektiiviset eli menneisyyteen liittyvät ongelmat (esim. mistä saastehiukkaset ovat kulkeutuneet) Biologiset inversio-onglmat (esim. Fylogeneettinen ongelma: Määrää DNAerojen perusteella missä järjestyksessä nykyiset lajit ovat eriytyneet toisistaan eli piirrä lajien evoluutiopuu.) Taloustieteen inversio-ongelmat (mallien parametrien määrääminen).4 Yhteenveto Inversio-ongelmissa pyritään saamaan tietoa tuntemattomista kohteista epäsuorien havaintojen avulla. Inversio-ongelmat voidaan jakaa matemaattisiin ja käytännönläheisiin ongelmiin ja niitä tavataan useilla eri aloilla (missä?). Tyypilliset ominaisuudet: vaikeampia kuin suorat ongelmat. herkkiä datan häiriöille käytännön inversio-ongelmissa datan määrä on rajallinen Osattava: mainita käytännön esimerkkejä, joissa tuntemattomasta saadaan epäsuoraa tietoa. (suora tieto= havaitaan tuntemattoman arvoja, epäsuora tieto suora tieto), selittää mitä tarkoitetaan kuvan terävöittämisellä kun kuvan sumentamista mallintava kuvaus on annettu, 6

21 muotoilla tietokonetomorafiakuvaus matemaattisena ongelmana, selittää, mitä tarkoitetaan käänteisellä reuna-arvo-ongelmalla, kun suoran ongelman yhtälöt on annettu, selittää mitä tarkoittaa käänteinen sirontaongelma kun suoran sirontaongelman yhtälöt on annettu, määritellä, mitä tarkoittaa suora teoria. 7

22 8

23 Luku 2 Hyvin ja huonosti asetetut inversio-ongelmat Tässä luvussa tarkastellaan inversio-ongelmia normiavaruuksissa. Erityisesti huomiota kiinnitetään inversio-ongelman ratkeavuuteen. Palautetaan aluksi mieleen normiavaruuden määritelmä. Määritelmä 2. Olkoon K kunta. Joukko V on K-kertoiminen lineaarinen vektoriavaruus, jos operaatiot V V (x, y) x + y V ja K V (α, x) αx V on määritelty siten, että jokaisella x, y, z V ja α, β K. (x + y) + z = x + (y + z) 2. x + y = y + x 3. on olemassa 0 V siten että x + 0 = x 4. jokaisella x V on olemassa ( x) V siten, että x + ( x) = 0. (Käytetään myös merkintää x y := x + ( y)). 5. α(βx) = (αβ)x 6. x = x 7. α(x + y) = αx + αy 8. (α + β)x = αx + βx. Määritelmä 3. Normiavaruus on pari (V, ) missä V on K-kertoiminen lineaarinen vektoriavaruus ja x x on sellainen reaaliarvoinen kuvaus, että. x 0 jokaisella x V ja x = 0 jos ja vain jos x = 0, 2. αx = α x jokaisella x V ja α K, ja 3. x + y x + y jokaisella x, y V. 9

24 Normiavaruuden (V, ) joukkoa B(x 0, r) = {x V : x 0 x < r}, missä x 0 V ja r > 0, nimitetään x 0 -keskiseksi r-säteiseksi avoimeksi palloksi. Normiavaruuden tavanomainen topologia määritellään avoimien pallojen avulla. Joukko U V on avoin jos jokaisella x U löytyy r > 0 siten, että B(x, r) U. Olkoot V ja V 2 lineaarisia vektoriavaruuksia varustettuna normeilla ja 2. Olkoon D V. Palautetaan mieleen, että funktio F : D V 2 on jatkuva pisteessä x D jos jokaisella ɛ > 0 on olemassa sellainen δ > 0 että F (x ) F (x 2 ) 2 < ɛ kun x 2 D ja x x 2 < δ. Toisin sanoen jokaisen avoimen joukon alkukuva on avoin (relatiivitopologian suhteen). Linearinen vektoriavaruus R n varustetaan tavanomaisella normilla, missä vektorin x = (x,.., x n ) R n normi (pituus) x on x = n x i 2. Äärellisulotteinen vektoriavaruus soveltuu hyvin tuntemattomien kuvailuun käytännön inversio-ongelmissa, sillä usein tavoitteena on muodostaa kuva tuntemattomasta kohteesta. Jos kuvassa on m m pikseliä, niin tuntematon voidaan kuvata vektorina, jonka dimensio on n = m 2. i= 2. Hyvin asetetut inversio-ongelmat Määritelmä 4. Olkoot V ja V 2 normiavaruuksia varustettuna normeilla ja 2. Olkoot V V sekä W V 2 epätyhjiä joukkoja. Olkoon F : V W tunnettu kuvaus. Suora ongelma on määrätä y = F (x), kun vapaasti valittu x V on annettu. Inversioongelma on määrätä x V siten että y = F (x), kun vapaasti valittu y W on annettu. Kuvausta F nimitetään suoraksi teoriaksi. Seuraava määritelmä on inversio-ongelmien teorian kannalta tärkeä. Määritelmä 5 (Jacques Hadamard). Ongelma on hyvin asetettu (eng. well-posed), jos. Ongelmalla on ratkaisu. 2. Ratkaisu on yksikäsitteinen. 3. Ratkaisu riippuu annetusta datasta jatkuvasti. Olkoon F kuten Määritelmässä 4. Tarkastellaan abstraktia inversio-ongelmaa ( ) Määrää x V siten, että y = F (x), kun y W on vapaasti valittu. Milloin inversio-ongelma ( ) on hyvin asetettu? Ongelmalla ( ) on oltava ratkaisu. 20

25 jokaisella y W täytyy löytyä x V siten, että y = F (x). Toisin sanoen suoran teorian F : V W on oltava surjektio eli W = F (V ). Osaongelma A: Karakterisointi. Mikä on kuvajoukko F (V )? Toisin sanoen, tunnista ne alkiot y V 2, jotka vastaavat tuntemattomia x. Ongelman ( ) ratkaisun on oltava yksikäsitteinen. Jos x, x 2 V ovat kaksi ratkaisua, jotka toteuttavat ehdon F (x ) = F (x 2 ) W, niin on oltava x = x 2. Toisin sanoen suoran teorian F on oltava injektio Myös käytännön kannalta yksikäsitteisyys on tärkeä kysymys. Esimerkiksi lääketieteellisessä kuvantamisessa epäyksikäsitteisyys lisää virhediagnoosin vaaraa: ei ole suotavaa, että haitallinen kudosmuutos tuottaisi saman kuvan kuin terve kudos. Osaongelma B: identifioitavuus. Onko data periaatteessa riittävä ratkaisun määräämiseksi? Yleensä ensimmäinen haastava askel matemaattisessa inversioongelmassa. Mikäli F on sekä injektio että surjektio, niin sen käänteiskuvaus F : W V on olemassa. Käänteiskuvauksen F : W V on oltava jatkuva. Suurimmassa osaa käytännön inversio-ongelmista pätee seuraava nyrkkisääntö: annettu data ei ole koskaan täsmälleen sellaista kuin suorassa teoriassa. Syitä tähän on monia. (i) Mittalaitteilla on rajallinen tarkkuus. (ii) Elektronisissa mittalaitteissa esiintyy häiriöitä esim. lämpökohinaa. (iii) Suora teoria ei välttämättä ole täysin tarkka, vaan voi sisältää approksimaatioita. (iv) Mittauksessa voi esiintyä ulkoisia häiriöitä. (v) Numeerisessa laskennassa reaaliluvut korvataan rajallisen tarkkuuden omaavilla liukuluvuilla. Kun F on jatkuva pisteessä y W, niin annetulla ɛ > 0 löytyy sellainen δ > 0, että F (y ) F (y 2 ) < ɛ aina kun y 2 W ja y y 2 < δ. Erityisesti jos näissä epäyhtälöissä y = F (x ) jollakin x V ja y 2 W on muotoa y 2 = F (x ) + e, missä F (x) + e W, e < δ, niin vastaaville ratkaisuille pätee F (y ) F (y 2 ) = x F (F (x ) + e) < ɛ. Osaongelma C : stabiilisuus. Miten pienet häiriöt datassa vaikuttavat matemaattiseen ratkaisuun? Huomautus. Inversio-ongelman ratkaisussa on yleensä vielä kaksi muuta osaongelmaa Osaongelma D : Rekonstruktio. Kuinka x saadaan annetusta y F (W ) matemaattisesti selville? Tämä on toinen tärkeä askel matemaattisen inversio-ongelman ratkaisemisessa. Osaongelma E: Numeerinen rekonstruktio. Tarkka tai approksimatiivinen menetelmä ratkaisun numeeriseen määräämiseen saatavilla olevasta (yleensä epätarkasta ja epätäydellisestä) datasta. 2

26 Esimerkki. (Yksikäsitteisyys) Oletetaan, että kappaleeseen, jonka massa on m, vaikuttaa ajasta riippuva voima F(t) = (F (t), F 2 (t), F 3 (t)), missä reaalifunktiot F i ovat jatkuvia. Kappaleen paikkaa kuvataan ajasta riippuvalla funktiolla ð(t) = (g (t), g 2 (t), g 3 (t)). Kun funktio F sekä ð(0) ja ð (0) tunnetaan, niin kappaleen liikerata ð(t) noudattaa yhtälöitä Olkoon F(t) = mð (t), t (0, ) (2.) ð (0) = (v, v 2, v 3 ) (2.2) ð(0) = (a, a 2, a 3 ). (2.3) V = C([0.]; R 3 ) = {F = (F, F 2, F 3 ) : F i : [0, ] R, i =, 2.3, on jatkuva.} varustettuna normilla F = sup t [0,] F(t) ja V 2 = C 2 ([0.]; R 3 ) = {ð = (g, g 2, g 3 ) : g i : [0, ] R, i =, 2.3, on kahdesti jatkuvasti derivoituva ja sen derivaatat ovat jatkuvia päätepisteisiin asti} varustettuna normilla ð 2 = sup t [0,],k=0,,2 d k ð dt (t) k. Inversio-ongelma: Määrää F V, kun kappale liikkuu pitkin polkua ð V 2. Näytetään inversio-ongelman yksikäsitteisyys. Okoon F, F 2 V kaksi voimaa, jotka toteuttavat yhtälöt (2.)-(2.3) kun polku ð on annettu. Silloin F F 2 = sup F (t) F 2 (t) = sup mð (t) mð (t) = 0. t [0,] t [0,] Täten F = F 2. Tällaisen inversio-ongelman avulla löydettiin 800-luvulla planeetta Neptunus. Datana käytettiin tunnetun planeetan, Uranuksen, radasta tehtyjä havaintoja. Sen radassa näkyi poikkeamia jotka selittyivät vain kun yhtälöihin otettiin mukaan tuntemattoman planeeten painovoimakenttä Planeetta löytyi kuin löytyikin laskujen ennustamasta paikasta! Esimerkki 2. (Rekonstruktio) Olkoon V = V 2 = C([0, ]) varustettuna normilla f = sup t [0,] f(t). Tarkastellaan suoraa teoriaa F f(t) = 0 f(ts)ds. Olkoon g C([0, ]) F (V ) annettu. Inversio-ongelmana on määrätä f C([0, ]) siten, että g = F f. Koska F f(0) = f(0), niin oletetaan jatkossa, että t 0. Muuttujanvaihdolla ts = r saadaan t g(t) = F f(t) = t f(r)dr. 22 0

27 Erityisesti t 0 f(r)dr = tg(t), josta derivoimalla (analyysin peruslausetta käyttäen) saamme f(r) = dg(t)t dt kun r (0, ]. 2.2 Huonosti asetetut inversio-ongelmat Määritelmä 6. Jos ongelma ei ole hyvin asetettu, se on huonosti asetettu (eng. ill-posed). Tarkastellaan eri vaihtoehtoja:. Ratkaisua ei ole olemassa. Tähän tilanteeseen voidaan päätyä, jos annettu data sisältää häiriöitä. Ts. jos esimerkiksi on annettu y = F (x)+e, missä e on tuntematon pieni häiriö ja y / Im (F ). Siitä huolimatta haluttaisiin saada tietoa tuntemattomasta x. t=r Esimerkki 3. Tarkastellaan Fredholmin. lajin integraaliyhtälöä g(x) = 0 K(x, y)f(y)dy, y [0.], (2.4) kun integraaliydin (x, y) K(x, y) on C -funktio. Inversio-ongelma: määrää funktio f C([0.]), kun funktio g C([0.]) on annettu. Jos g on jatkuva funktio, joka ei ole derivoituva, niin ratkaisua ei ole olemassa, sillä integraaliyhtälön (2.4) oikea puoli on aina derivoituva, koska erotusosamäärälle pätee 0 K(x + h, y)f(y)dy K(x, y)f(y)dy h = = = h 0 x+h K(x + h, y) K(x, y) f(y)dy h x x K(x, y)dx f(y)dy h 0 x+h x 0 x K(x, y)f(y)dydx. 2. Ratkaisu on olemassa, mutta on epäyksikäsitteinen. Useampi kuin yksi tuntematon tuottaa saman datan eli y = F (x ) = F (x 2 ) joillakin tuntemattomilla x x 2. Epäyksikäsitteisyys on varsinkin käytännön inversio-ongelmien rasite saatavilla olevan datan rajallisuuden vuoksi. Tyypillisesti matemaattisen inversio-ongelman data on funktio, mutta käytännössä funktion (approksimatiivisia) arvoja kyetään rekisteröimään vain äärellisen monessa pisteessä. 23

28 Esimerkki 4. Olkoon suora teoria lineaarinen kuvaus F : C(0.) C (0, ), joka vie funktion f sen integraalifunktioksi F f(x) = x 0 f(y)dy. Inversio-ongelma on määrätä f C(0, ), jolle F f = g, kun on annettu g C (0, ), joka toteuttaa ehdon että g(0) = 0. Ratkaisu saadaan derivoimalla eli f = g ja helposti nähdään, että ratkaisu on yksikäsitteinen. Jos sen sijaan g on annettu vain pisteissä t,..., t n (0, ), niin löytyy useita eri funktoita g, jotka antavat saman datan g(t i ), i =,..., n. Jokainen dataan sopiva eri funktio g antaa eri derivaatan g = f. Esimerkki 5. Käytännön inversio-ongelmissa tuntematon on usein korkeaulotteisempi vektori kuin annettu datavektori. Yksinkertainen esimerkki epäyksikäsitteisyydestä on matriisiyhtälö n y i = M ij x j, j= missä i =,..., m ja n > m. Tällöin tuntemattiomia muuttujia x j on n kappaleita ja niitä sitovia yhtälöitä vain m kappaletta. Seuraavassa luvussa käsittelemme lisää äärellisulotteisia lineaarisia inversio-ongelmia. Esimerkki 6. Katso Luvun Esimerkki Ratkaisu ei riipu jatkuvasti datasta (=epästabiili) Jos suora teoria F : V W on bijektio, niin käänteiskuvuas F : W V on olemassa, mutta se ei aina ole jatkuva, vaikka F olisi jatkuva. Silloin pienimmätkin häiriöt datassa voivat saada aikaan suuria muutoksia ratkaisuun. Esimerkki 7. Tarkastellaan kuvausta F f(x) = x 0 f(y)dy. Olkoon V = V 2 = C([0.]) ja V = V, W = F (V ). Tällöin W on normiavaruuden C([0.]) lineaarinen aliavaruus, joka on myös normiavaruus varustettuna avaruuden V 2 normilla. Näytetään ensin, että F : V W on jatkuva. Olkoon ɛ > 0 annettu. Silloin x x F f F f 2 = sup f (y)dy f 2 (y)dy = sup x f (y) f 2 (y)dy x [0,] 0 x sup x [0.] 0 sup y [0,] kun epäyhtälössä f f 2 < δ otetaan δ = ɛ. 0 x [0,] f (y) f 2 (y) dy = f f 2 sup x [0.] 0 x 0 dy < ɛ Inversio-ongelma: Määrää f V, jolle g = F f kung W on annettu. Helposti nähdään, että yksikäsitteinen ratkaisu on olemassa ja se saadaan derivoimalla. 24

29 Osoitetaan, että F = D ei ole jatkuva nollafunktion ympäristössä. Olkoon ɛ = 4 ja δ > 0. Tällöin löytyy g(x) = δ sin(πx/δ) W, jolle π mutta g = sup g(x) < δ, x [0,] Dg = sup cos(πxδ) = x [0,] oli δ kuinka pieni tahansa. Täten F : W V ei ole jatkuva. 2.3 Yhteenveto Inversio-ongelma voi olla hyvin asetettu tai huonosti asetettu. Inversio-ongelman ratkaisussa on useita eri osaongelmia (karakterisointi, identifioituvuus, stabiilisuus, rekonstruktio, numeerinen rekonstruktio). Osattava: Hyvin asetetun ongelman ja huonosti asetetun ongelman määritelmä. Mitä tarkoittavat inversio-ongelmien yhteydessä karakterisointi, identifioituvuus, stabiilisuus ja rekonstruktio. Tiedettävä: mitä käytännön hyötyä matemaattisen inversio-ongelman yksikäsitteisestä ratkaevuudesta on, mitä haittaa on epästabiilisuudesta, miksi datan rajallisuus voi tehdä inversio-ongelmasta huonosti asetetun, miksi datan epätarkkuus voi tehdä inversio-ongelmasta huonosti asetetun ja esimerkkejä tilanteista, joissa data on epätarkkaa. 25

30 26

31 Luku 3 Äärellisulotteiset lineaariset inversio-ongelmat Määritelmä 7. Inversio-ongelmaa sanotaan äärellisulotteiseksi, jos sekä tuntematon että data ovat äärellisulotteisten vektoriavaruuksien alkioita. Inversio-ongelmaa sanotaan lineaariseksi, jos sitä vastaava suora teoria on lineaarinen. Kerrataan hieman lineaarialgebraa. Seuraavassa K on joko C tai R. Avaruus K n varustetaan sisätulolla (x, y) = n x i y i i= missä x = (x,..., x n ) ja y = (y,..., y n ) K n. Kun x = (x,..., x n ) ja y = (y,..., y n ) K n, niin normille ja sisätulolle pätee x 2 = (x, x), sekä Cauchy-Schwartzin epäyhtälö (x, y) x y ( n n ) ( ) 2 2 n x i y i x i 2 y i 2. i= i= i= Joukko V K n on vektoriavaruuden K n lineaarinen aliavaruus, jos jokaisella a, b K ja x, y V pätee ax + by V. Olkoon V K n lineaarinen alivaruus. Kuvaus F : V K m on lineaarinen, jos aina kun a, b K ja x, y K n. F (ax + by) = af (x) + bf (y) 27

32 Lineaarisen aliavaruuden V K n kanta on lineaarisesti riippumattomien vektorien {e,..., e k }, joille pätee V = {x K n : x = k a i e i, a i K, i =,..., k}. i= Lineaarisen alivaruuden V K n kanta {e,... e k } on ortonormaali, jos kun i j ja i, j =,..., k. (e i, e i ) = ja (e i, e j ) = 0 Merkintätapa x (x,..., x n ) =. x n Äärellisulotteiset lineearikuvaukset F : K n K m voidaan esittää matriisina. Varustetaan K n ja K m niiden luonnollisilla kannoilla {e,..., e n } ja {f,..., f m }, missä ja e = (, 0, 0,..., 0), e 2 = (0., 0,..., 0),..., e n = (0,..., 0, ) f = (, 0, 0,..., 0), f 2 = (0., 0,..., 0),..., f m = (0,..., 0, ) Kun x = n j= x je j, niin Erityisesti ( n ) F (x) = F x j e j = j= F (x) i = (F (x), f i ) = n x j F (e j ). j= n x j (F (e j ), f i ) = j= n M ij x j, missä linearisen kuvauksen F : V K m matriisi kantojen {e,..., e n } ja {f,..., f m } suhteen on M ij = (F e j, f i ). Vastaavasti jokaista matriisia vastaa lineaarikuvaus. 3. Hyvin ja huonosti asetetut äärellisulotteiset lineaariset ongelmat Tarkastellaaan äärellisulotteista lineaarista inversio-ongelmaa, jossa suora teoria F : V W aliavaruuksien V R n ja W R m välillä on määritelty matriisin M R m n avulla eli F (x) = Mx kun x V. Tässä matriisit määritellään avaruuksien R n luonnollisten kantojen suhteen. Matriisia M kutsutaan teoriamatriisiksi. 28 j=

33 Lin. äärellisulotteinen inversio-ongelma ( ) Olkoot V R n ja W R m lineaarisia aliavaruuksia ja M R m n. Määrää sellainen x V, että y = Mx, kun y W on annettu. Tässä luvussa näytetään, että inversio-ngelma ( ) on hyvin asetettu, jos jokaisella y W yhtälölle y = Mx löytyy ratkaisu x V. yhtälöllä Mx = 0 on aliavaruudessa V ainoastaan triviaali ratkaisu x = 0. Vastaavasti, inversio-ongelma ( ) on huonosti asetettu, jos edes toinen seuraavista väitteistä on totta: jollakin y W yhtälöllä y = Mx ei ole ratkaisua x V. löytyy x V, jolle x 0 ja Mx = 0. Huomautus 2. Tällä kurssilla käytetään lineaarialgebrasta tuttuja matriisiyhtälön ratkaisumenetelmiä. Matriisiyhtälön ratkaisu voidaan määrätä esim. ratkaisemalla matriisiyhtälö M x = y (i) takaisinsijoituksilla yhtälöryhmässä tai (ii) Gaussin ja Jordanin eliminointimenetelmällä. Käytännössä suurikokoisten matriisiyhtälöiden ratkaiseminen toteutetaan tietokoneella. On syytä muistaa, että tietokoneavusteisessa laskennassa tuloksien tarkkuutta rajoittaa numeerinen laskentatarkkuus. 3.. Injektiivisyys Palautetaan lineaarialgebrasta mieliin seuraava tulos Lause. Olkoon V R n lineaarinen aliavaruus. Lineaarinen kuvaus F : V R m on injektio jos ja vain jos sen ydin N (F ) = {x V : F (x) = 0} sisältää vain nollavektorin. Tämä on yhtäpitävää sen kanssa, että lineaarisen kuvauksen F matriisin M ytimelle N (M) = {x R n : Mx = 0} pätee V N (M) = {0}. Todistus. Katso Lineaarialgebran kurssit. Korollaari (Identifioituvuus). Inversio-ongelman ( ) ratkaisu on yksikäsitteinen, jos ja vain jos suoran teorian F ydin N (F ) = {0}. Tämä on yhtäpitävää sen kanssa, että V N (M) = {0}. Täten inversio-ongelman ( ) suora teoria on injektio, jos ja vain jos yhtälöllä Mx = 0 on aliavaruudessa V ainoastaan triviaaliratkaisu x = 0. Esimerkki 8. Olkoon W = R 2, V = R 3 ja M = ( Silloin Mx = 0 jos ja vain jos x + x 2 = 0 ja x 3 = 0. Toisin sanoen ). N (M) = {(x, x, 0) : x R} {0}. Inversio-ongelma ( ) on tällöin huonosti asetettu, sillä sen ratkaisu ei ole yksikäsitteinen. 29

34 Huomautus 3. Kun V = R n, W = R m ja n > m, niin suora teoria ei ole injektio. Esimerkki 9. Olkoon V = {x = (x, x 2, x 3 ) R 3 : x + x 2 + x 3 = 0}, W = R 2 ja ( ) 0 0 M =. 3 Onko inversio-ongelmalla ( ) yksikäsitteinen ratkaisu? Ratkaisu: Olkoon x = (x, x 2, x 3 ) V matriisiyhtälön 0 = Mx ratkaisu. Tällöin ( ) ( ) ( ) = x x x =, x x + 3x 2 + x 3 3 mistä seuraa 0 = x ja 0 = x + 3x 2 + x 3 = 0 + 3x 2 + x 3. Koska x V, niin x + x 2 + x 3 = 0 x 2 = 0, x 3 = 0. Täten inversio-ongelmalla on yksikäsitteinen ratkaisu. Huomautus 4 (Affiinit ongelmat). Affiini aliavaruus V af R n on sellainen joukko, jolle V af + x 0 = {x + x 0 : x V af } on lin. aliavaruus jollakin x 0 R n. Jos Esimerkissä 9 lineaarinen aliavaruus V korvataan affiinilla alivaruudella, esim. V af = {(x, x 2, x 3 ) R 3 : x + x 2 + x 3 = }, niin joko (a) yksikäsitteisyys olisi tutkittava ehdon Mx = M x x = x avulla tai (b) affiini ongelma olisi ensin palautettava lineaariseksi ongelmaksi. Vaihtoehdossa (b) voidaan edetä esimerkiksi seuraavalla tavalla. Tuntemattoman x = (x, x 2, x 3 ) on toteutettava yhtälö x + x 2 + x 3 =, jotta x V af. Tämä yhtälö voidaan lisätä matriisiyhtälöön, jolloin saadaan uusi lineaarinen ongelma y 0 0 x y 2 = 3 x 2 ỹ = Mx, x 3 missä x R 3 ja ỹ = (y, y 2, ) R 3. Esimerkki 0. Tarkastelllaan Luvun.2 Esimerkkiä. Merkitään datavektoria y = (y,..., y ) ja tuntematonta x = (x,..., x 9 ). Muodostetaan suoran teorian F : R 9 R matriisi M = M 2 9 rivi-, sarake- ja värisummista. y y 2 y 3 y 4 y 5 y 9 x x 4 x 7 y 6 y 0 x 2 x 5 x 8 y 7 y x 3 x 6 x 9 y 8 Luvun.2. Esimerkki : Määrää luvut, joiden rivi-, sarake- ja värisummat on annettut. 30

35 Tällöin y y x y x 2 y x 3 y x 4 y = Mx y 6 = x 5. y x 6 y x 7 y x 8 y x 9 y Lineaarialgebran kurssilla on näytetty, että yhtälöllä 0 = M x on vain triviaaliratkaisu x = 0, jos ja vain jos M voidaan saattaa Gaussin ja Jordanin eliminointimentelmällä muotoon M Lähdetään viemään matriisia M kohti porrasmuotoa. Järjestetään ensin rivit uudelleen ja edetään Gaussin ja Jordanin eliminointimenetelmällä: 3

36 M

37 M ( ) Täten kuvaus R 9 x Mx R on injektio Surjektiivisuus Inversio-ongelmalla ( ) on ratkaisu, jos jokaisella y W matriisiyhtälölle löytyy ratkaisu x V. y = Mx Esimerkki. Olkoon 0 M = Tutki onko inversio-ongelmalla ( ) ratkaisua, kun W = R 4 ja V = R 3. Ratkaisu: Käytetään Gaussin ja Jordanin eliminointimenetelmää täydennetylle matriisille 0 y 0 y y y 4 y + y 4 0 y y y y + y 4 y 2 0 y y 3 2y y y y 2 y y + y 4 y y 3 2y 2 Inversio-ongelmalla ( ) ei ole ratkaisua, kun 0 y 3 2y y + y 4 y 2 0 y y y y + y 4 y y 2 y y 3 2y y 4 33

38 Lemma. Olkoon V R n lineaarinen aliavaruus. Lineaarisen kuvauksen F : V R m kuvajoukko F (V ) R m on lineaarinen aliavaruus, joka koostuu lineaarisen kuvauksen F matriisin M pystyvektorien {M i : i =,... n} lineaariyhdisteistä y = n a i M i, i= missä a = (a,..., a n ) V. Todistus. Koska V on lineaarinen aliavaruus, ax + bx 2 V aina kun x, x 2 V ja a, b R. Tällöin kuvauksen F lineaarisuuden nojalla F (ax + bx 2 ) = af (x ) + bf (x 2 ) F (V ). Täten F (V ) on lineaarinen aliavaruus. Lisäksi vektori y = (y,..., y m ) F (V ) jos (ja vain jos) löytyy sellaiset kertoimet x,... x n että (x,..., x n ) V ja y i = n M ij x j, i =,..., m (3.) j= Merkitään yhtälössä (3.) (M i ) j := M ij matriisin M i:nen pystyvektorin j:tä elementtiä. Huomautus 5. Kun V = R n, W = R m ja n < m, niin inversio-ongelma ( ) on huonosti asetettu, sillä kuva-avaruus R(M) R m on Lemman nojalla lineaarinen aliavaruus, jonka dimensio on n ja nyt n < m. Kerrataan lineaarialgebraa. Matriisin M R m n transpoosi on matriisi (M T ) ij = M ji, j =,..., m, i =,..., n. Avaruuden R n sisätulolle pätee x (x, y) = y T x = ( ) y y n. missä x = (x,..., x n ), y = (y,..., y n ) R n. Olkoon V avaruuden R n lineaarinen aliavaruus ja {e,..., e k } sen ortonormaali kanta avaruuden R n sisätulon suhteen. Lineaarialgebrasta tiedetään, että vektorin x R n ortogonaalinen projektio aliavaruudelle V on vektori y n, P (x) = k (x, e i )e i. (3.2) i= Olkoon Q V linaarisen kuvauksen x P (x) matriisi, joka yhtälön (3.2) nojalla on e T Q V = ( ) e T e e 2 e k 2.. e T k 34

39 Matriisia Q V kutsutaan ortogonaaliprojektioksi aliavaruudelle V. Erityisesti Q T V = Q V ja Q 2 V = Q V Q V = ( ) e T ( ) e e e 2 e k e e 2 e k 2. T 2. (e, e ) (e, e ) (e, e n ) e T = ( ) (e 2, e ) (e 2, e 2 ) (e 2, e n ) e T e e 2 e k (e n, e ) (e n, e 2 ) (e n, e n ) e T k 0 0 e T = ( ) 0 0 e T e e 2 e k = Q V 0 0 Vektori x V jos ja vain jos Q V x = x, sillä jokainen x V voidaan esittää kantavektorien avulla lineaariyhdisteenä x = k i= (x, e k)e k. Lause 2 (Karakterisaatio). Inversio-ongelmalla ( ) on ratkaisu, jos ja vain jos Q F (V ) y = y, missä Q F (V ) on ortogonaalinen projektio kuvajoukolle F (V ). Todistus. Inversio-ongelmalla on ratkaisu, jos y F (V ). Tämä on yhtäpitävää sen kanssa, että Q F (V ) y = y Käänteiskuvauksen jatkuvuus Edellisen luvun Esimerkissä 7 nähtiin, että yleisissä avaruuksissa jatkuvan kuvauksen käänteiskuvaus ei välttämättä ole jatkuva. Näytetään, että äärellisulotteisissa lineaarisissa inversio-ongelmissa käänteiskuvaus jos se on olemassa on aina jatkuva. Lause 3. Olkoon V R n lineaarinen aliavaruus. Lineaarinen kuvaus F : V R m on jatkuva. Todistus. Näytetään ensin, että väite on totta kun V = R n. Merkitään M ij = (F (e j )) i, i =,..., m, j =,..., n, missä {e,... e n } on avaruuden R n luonnollinen kanta. Lineaarisuuden nojalla e T e T k e T k e T e T k F (x) F (y) 2 = F (x y) 2 = ( n n 2 M ij (x j y j )). i= j= Käytetään Cauchy-Schwartzin epäyhtälöä ( n 2 ( n ( n ) ( n ) M ij (x j y j )) ij ) j= j=(m 2) (x j y j ) 2 (M ij ) 2 x y 2, jolloin j= j= 35

40 F (x) F (y) 2 ( m i= ) n (M ij ) 2 x y 2. Täten F on jatkuva. Oletetaan nyt, että V on lineaarinen aliavaruus ja {ẽ,... ẽ k } sen ortonormaali kanta avaruuden R n sisätulon suhteen. Kun x = k j= x jẽ j ja y = k j= ỹjẽ j. Samoin kuin yllä j= missä Lisäksi ( m k k F (x) F (y) 2 ij ) i= j=( M 2) ( x j ỹ j ) 2, j= M ij = (F (ẽ j )) i, i =,..., m, j =,..., k. ( k k ) k ( x j ỹ j ) 2 = x j ẽ j ỹ j ẽ j, x j ẽ j ỹ j ẽ j = x y 2. j= j= j= Korollaari 2 (Ratkaisun jatkuvuus). Olkoon V R n ja W R m lineaarisia aliavaruuksia. Jos lineaarinen suora teoria F : V W on bijektio, niin silloin F : W V on jatkuva. Todistus. Koska F on bijektio, niin F on olemassa. Lineaarisen kuvauksen käänteiskuvaus on myös lineaarinen, sillä jos y = F x ja ỹ = F x, niin F (ay + bỹ) = F (af x + bf x) = F (F (ax + b x)) = ax + b x = af (y) + bf (ỹ). Lauseen 3 nojalla F on jatkuva. Esimerkki 2. Olkoon suoran teorian matriisi. M = ( ) 2 3 Inversio-ongelma ( ): määrää x R 2 jolle y = Mx kun y R 2 on annettu. Tutki, onko inversio-ongelma ( ) hyvin asetettu. Ratkaisu: Olkoon y = (y, y 2 ) R 2. Merkitään x = (x, x 2 ), jolloin y = Mx ( ) ( ) ( ) y 2 x =. 3 y 2 Palautetaan mieleen lineaarialgebrasta, että neliömatriisi M on kääntyvä kun sen determinantti det(m) ei häviä ja tällöin M = adj(m), missä adj(m) on matriisin M det(m) liittomatriisi. 2 2-matriisin tapauksessa ( ) ( ) ( ) a b a b d b det = ad bc ja =. c d c d ad bc c a 36 x 2

41 Koska det(m) = 2 3 = 5 0, niin neliömatriisilla M on käänteismatriisi M = Tällöin ongelmalla ( ) on ratkaisu ( x x 2 ) = ( 2 3 ) ( ) y = y 2 5 Lisäksi ratkaisu on yksikäsitteinen, sillä ( ) 2 = 3 5 ( 2 3 ( ) 2. 3 ) ( ) y = Mx = M x M Mx = M M x x = x. y 2 ( y 5 + 2y ) y 5 y. 5 2 Ratkaisu riippuu jatkuvasti annetusta datasta Korollaarin 2 nojalla. Inversio-ongelma ( ) on täten hyvin asetettu. Lause 4 (Neliömatriisin tapaus). Olkoon M R n n ja V = W = R n. Inversio-ongelma ( ) on hyvin asetetu, jos ja vain jos det(m) 0. Todistus. Kun det(m) 0, on olemassa käänteismatriisi M. Tällöin ratkaisu on olemassa (x = M y), se on yksikäsitteinen (Mx = M x M Mx = M M x) ja ratkaisu riippuu Korollaarin 2 nojalla jatkuvasti annetusta datasta. Täten inversio-ongelma on hyvin asetettu. Meidän tulee vielä näyttää, että inversio-ongelma on huonosti asetettu, kun det(m) = 0. Tällöin matriisi M ei ole kääntyvä, joten vastaava linearikuvaus F ei voi olla bijektio. Koska hvyin asetetun inversio-ongelman suora teoria on bijektio, niin ongelma on tällöin huonosti asetettu. Esimerkki 3. Olkoon 0 4 M = suoran teorian matriisi, V = W = R 3. Tutki, onko inversio-ongelma ( ) hyvin asetettu. Ratkaisu: Suoran teorian matriisi M on neliömatriisi ja suora teoria on määritelty koko avaruudessa. Lauseen 4 nojalla riittää tarkastella matriisin M determinanttia det(m) = ( ( 66) ( 3) 3) 0 (2 ( 66) ( 3) 4) + 4 (2 3 4) = = ( ) = = (26 54) 4 = (3 + ) = 66 + (43 28) 3 28 = = 5 (3 + 0) 94 = =. Täten inversio-ongelma on hyvin asetettu. 37

42 3.2 Ratkaisun häiriöalttius Huonosti asetetun ongelman ratkaisu voi olla altis häiriöille, mutta myös hyvin asetetuilla ongelmilla voi olla erilainen häiriöalttius. Löysästi puhuen voidaan sanoa että ongelma A on huonommin asetettu tai häiriöalttiimpi (eng. more ill-posed/ill-conditioned) kuin ongelma B, jos samansuuruinen häiriö datassa muuttaa ongelman A ratkaisua voimakkaammin kuin ongelman B ratkaisua. Esimerkki 4. Olkoot y, ỹ R 8 muotoa y = Mx + ε ja ỹ = Mx + ε, missä x = (,,,,,,, ), ε = (0, 0, 0, 0, 0, 0, 0, 0.02) ja M, M ovat reaalisia 8 8-matriiseja, joiden elementit ovat M ij = i δ ij ja M ij = 2 i δ ij. Tässä δ ij on Kroneckerin delta: δ ij = 0 jos i j ja δ ij = jos i = j. Matriisit M ja M ovat säännöllisiä, mutta M y = x + M ε = (,,,,,,,.6) ja M ỹ = x + M ε = (,,,,,,, ) Viimeiseen elementtiin summautuu = 5.2. Vaikka ongelma on Hadamardin mielessä hyvin asetettu, ei häiriöisellä datalla saatua ratkaisua voi pitää erityisen hyvänä approksimaationa tuntemattomalle. Hyvin asetettu ongelma, jolla on hyvin suuri häiriöalttius, on ominaisuuksiltaan samankaltainen kuin huonosti asetettu ongelma, jonka ratkaisu ei riipu jatkuvasti datasta. Häiriöalttius on vakava asia, sillä suurimmassa osaa käytännön inversio-ongelmista data sisältää epätarkkuuksia ja häiriöitä Ehtoluvun määritelmä Palautetaan mieleen, että matriisin M = M m n C m n Hermiten liittomatriisi on M = M T. Lisäksi luku λ on matriisin M n n ominaisarvo, jos löytyy vektori R n x 0, jolle M x = λx. Tällöin vektoria x kutsutaan ominaisvektoriksi. Tiedetään myös, että neliömatriisin M ominaisarvot löytyvät karakteristisen polynomin p(λ) = det(m λi) nollakohdista. Matriisien häiriöalttiuden kvantitaviivisessa vertailussa käytetään ehtolukuja (eng. condition numbers). Määritelmä 8. Matriisin M m n C m n singulaariarvot σ i (M) ovat matriisin M M ominaisarvojen λ i nelijöjuuria eli σ i (M) = λ i, missä i =,..., n. Huomaa, että matriisin M M ominaisarvot λ i ovat ei-negatiivisia, sillä niitä vastaaville ominaisvektoreille e i pätee 0 (Me i, Me i ) = (M Me i, e i ) = λ i (e i, e i ) = λ i e i 2. Lisäksi det(m M) = det(m ) det(m) = det(m T ) det(m) = det(m) 2 0 säännöllisille matriiseille, joten nolla ei ole matriisin M M ominaisarvo, kun M on säännöllinen. Määritelmä 9. Säännöllisen matriisin M = M n n C n n ehtoluku κ(m) on luku κ(m) = M M, missä matriisinormi M = σ max (M) on matriisin M suurin singulaariarvo. 38