Matematiikka ja teknologia, kevät 2011 Peter Hästö 17. helmikuuta 2011 Matemaattisten tieteiden laitos
Sisältö Kurssi koostuu kuudesta (seitsemästä) toisistaan riippumattomasta luennosta. Aihepiirit ovat: 13.1 Global positioning system (GPS) 20.1 Satunnaislukugeneraattorit 27.1 Google ja PageRank algoritmi 3.2 JPEG kuvanpakkaus 10.2 ei luentoa! 17.2 ROF kuvan virheenpoisto 24.2 Geometria arkkitehtuurissa (3.3 Fraktaalit ja kuvanpakkaus) HUOM! 3.3 on ylimääräinen luento fraktaaleista tässä luennossa ei ole ollenkaan perusosaa, koska aiheen käsittely vaatii enemmän matemaattista pohjaa. Peter Hästö Matemaattisten tieteiden laitos 17. helmikuuta 2011 2 / 20
Kuvankäsittely analyysin keinoin [Tämä luento perustuu viitteeseen Aubert ja Kornprobst (6).] JPEG kuvanpakkauksen yhteydessä käsittelimme kuvaa diskreettinä oliona, matriisina. Nyt otamme toisen näkökannan. Olkoon Q tason suorakaide, esim [0, x 0 ] [0, y 0 ]. Ajattelemme kuvaa funktiona u : Q R; funktion arvo u(x, y) kertoo harmaasävy intensiteetin pisteessä (x, y). Perusongelma kuvankäsittelyssä on häiriönpoisto. Tässä ongelma on, että kuvaan on jostain tullut ylimääräistä, stokastista kohinaa. Kohina on voinut syntyä esimerkiksi kameran linssin epäpuhtauksista, valokenon osittaisesta rikkoutumisesta, tai ilmakehän vaikutuksesta. Peter Hästö Matemaattisten tieteiden laitos 17. helmikuuta 2011 3 / 20
Kohinamalli Eri kohinalähteet johtavat erilaiseen kohinaan. Tässä esitelmässä tarkastelemme yksinkertaisinta tapausta: u = u 0 + η, missä u 0 on todellinen kuva, η on satunnainen kohina ja u on havaittu kuva. Tarkoituksenamme on siis funktion u 0 löytäminen kun tunnemme funktion u. Funktiota η emme tunne, mutta tiedämme sen tilastolliset ominaisuudet: sen oletetaan noudattavan Gaussin jakaumaa keskiarvolla 0 ja hajonnalla σ. Peter Hästö Matemaattisten tieteiden laitos 17. helmikuuta 2011 4 / 20
Kohinasta eroon Perusidea kohinanpoistossa on seuraava: koska kohinan η noudattaa Gaussin jakaumaa keskiarvolla 0, niin Q η dx 0. Tätä voi ajatella niin, että vaikka η voi saada suuria positiivisia ja negatiivisia arvoja, niin viereiset pisteet kuitenkin todennäköisesti kumoavat toisensa. Esimerkiksi muistutetaan todennäköisyyslaskennasta mieleen, että jos muuttujilla η 1,..., η 9 on kaikilla hajonta 1, niin niiden keskiarvolla η 1 +... + η 8 8 8 8 = 2 on keskiarvo 4. Tämä tarkoittaa, että jos jokainen pikseli korvataan sen 8 naapurin keskiarvolla, niin saamme poistettua 65% kohinasta! Peter Hästö Matemaattisten tieteiden laitos 17. helmikuuta 2011 5 / 20
Silottamisen ongelma Keskiarvon tai painotetun keskiarvon ottamisella voimme poistaa kuvasta kohinaa, mutta menetelmällä on se ongelma, että yksityiskohdat ja reunat hämärtyvät myös. Itse asiassa silotus toimii alipäästö suodattimena, eli korkean taajuuden elementit kuvasta poistettaan. Peter Hästö Matemaattisten tieteiden laitos 17. helmikuuta 2011 6 / 20
Esimerkki (L2) TV,261 iterations L2,101 iterations p(x),121 iterations 1 1 1 2 1 2 2 1 2 2 1 25 Original image Noisy image Exponent 1 1 1 2 1 2 2 1 2 2 1 25 Peter Hästö Matemaattisten tieteiden laitos 17. helmikuuta 2011 7 / 20 λ =0.01 k =0.05 rel error =0.35 exp trunc =0.
Keskiarvoalgoritmin analyysi Tutkitaan yksinkertaisuuden vuoksi keskiarvoa vain neljän naapurin kanssa. Jokaisesta naapurista siirtyy keskelle yksikkö, ja keskellä siirtyy jokaiseen naapuriin yksikkö. Voimme kuvata tätä matriisilla 0 1 0 1 4 1. 0 1 0 Tämä voidaan puolestaan ajatella kahden yksiulotteisen (1, 2, 1) operaattorin summana. Peter Hästö Matemaattisten tieteiden laitos 17. helmikuuta 2011 8 / 20
Mikä on (1, 2, 1) operaattori Tutkitaan funktiota f : R R. Nyt (1, 2, 1) operaattori tarkoittaa differenssiä f (x 1) 2f (x) + f (x + 1). Merkitään g(x) = f (x) := f (x + 1) f (x). Nyt f (x 1) 2f (x) + f (x + 1) = g(x) g(x 1) = g(x 1). Tämä on siis toisen asteen differenssioperaattori. Jos annetaan 1 0, niin differenssioperaattori lähestyy derivaattaoperaattoria, jolloin tässä tapauksessa päädymme toiseen derivaattaan d 2 dx 2. Peter Hästö Matemaattisten tieteiden laitos 17. helmikuuta 2011 9 / 20
Kaksiulotteinen operaattori Palataan operaattoriin 0 1 0 1 4 1. 0 1 0 Se koostuu vaaka- ja pystysuuntaisesta (1, 2, 1) operaattorista, jotka vastaavat derivaattoja d 2 ja d 2. dx 2 dy 2 Keskiarvo-operaattorin käyttö voidaan siis jatkuvassa tapauksessa kirjoittaa d 2 u + d 2 u. Kun operaattoria sovelletaan toistuvasti dx 2 dy 2 päädytään kiintopisteeseen, jossa operaattorilla ei enää muuta funktiota, jolloin se toteuttaa Laplace:in yhtälön d 2 u dx 2 + d 2 u dy 2 = 0. Tällaista funktiota kutsutaan harmoniseksi funktioksi. Peter Hästö Matemaattisten tieteiden laitos 17. helmikuuta 2011 10 / 20
Harmoniset funktiot ja kuvankäsittely Harmoniset funktiot ovat tärkeä luokka funktiota sekä matemaattisten ominaisuuksien (esim. yhteys analyyttisiin kompleksitason funktioihin) että sovellusten kannalta. Mm. lämpötila noudattaa tasapainotilassa Laplace:in yhtälön. Esimerkki tason harmonisesta funktiosta on ln(x 2 + y 2 ). Eräs harmonisen funktion ominaisuus on, että se on äärettömän monta kertaa jatkuvasti differentioituva. Tämä ominaisuus on kuitenkin kuvankäsittelyn kannalta huono: kuvassa on tyypillisesti monta esinettä, jolloin esineen reunalla on intensiteetin epäjatkuvuuskohta. Peter Hästö Matemaattisten tieteiden laitos 17. helmikuuta 2011 11 / 20
Ylisilottaminen Laplace operaattori silottaa siis funktiota liikaa. TV,261 iterations L2,101 iterations p(x),121 iterations 1 1 1 2 1 2 2 1 2 2 1 2 Original image Noisy image Exponent 1 1 1 2 1 2 2 1 2 2 1 2 Peter Hästö Matemaattisten tieteiden laitos 17. helmikuuta 2011 12 / 20 λ =0.01 k =0.05 rel error =0.35 exp trunc =0.
ROF algoritmi Rudin, Osher ja Fatemi (1992) ehdottivat uuden algoritmin jossa silottaminen ei ole isotrooppista, eli joka suuntaan samaa. Esimerkiksi voidaan ajatella, että vaakasuuntaisen reunan tapauksessa vaihdamme matriisia 0 1 0 0 0 0 1 4 1 1 3 1. 0 1 0 0 1 0 Ongelmaksi muodostuu reunojen sijainnin tunnistaminen. Toisella tunnilla katsotaan käytettyä operaattoria tarkemmin. Voidaan kuitenkin todeta, että ROF algoritmilla on taipumusta löytää kuvitteellisia reunoja (ks. edellinen kuva, TV). Peter Hästö Matemaattisten tieteiden laitos 17. helmikuuta 2011 13 / 20
Matemaattinen osa Tarvittavia käsitteitä: Derivaatta, toinen derivaatta gradientti, divergenssi tangentti, normaali koordinaatinvaihto Peter Hästö Matemaattisten tieteiden laitos 17. helmikuuta 2011 14 / 20
Yleisempi diffuusioprosessi Pohditaan hetken aikaa yleisempää tilannetta, eli diffuusioprosessia ( u t φ ( u ) u ) = 0. u Seuraavalla kalvolla katsotaan, miten tämä liittyy edellisen tunnin aiheeseen. Jos u ja φ ovat kahdesti jatkuvasti differentioituvia, voidaan edellinen differentiaaliyhtälö kirjoittaa muotoon u t φ 1 ( u ) u u TT φ ( u )u NN = 0, missä u TT ja u NN ovat funktion u tasa-arvokäyrien tangentin ja normaalin suuntaiset toiset derivaatat. Peter Hästö Matemaattisten tieteiden laitos 17. helmikuuta 2011 15 / 20
Pari erityistapausta Yhtälössä u t φ 1 ( u ) u u TT φ ( u )u NN = 0, tarkastellaan tapausta φ(t) = 1 2 t2 (jolloin φ (t) = t, φ (t) = 1): 1 u t u u u TT u NN = 0 u t 2 u = 0, ja φ(t) = t (jolloin φ (t) = 1, φ (t) = 0): u t 1 u u TT = 0. Huomaa, että Laplace operaattorille pätee 2 u := d 2 u dx 2 + d 2 u dy 2 = u TT + u NN. Peter Hästö Matemaattisten tieteiden laitos 17. helmikuuta 2011 16 / 20
Ensimmäinen yhtälö, u t 2 u = 0, on niin sanottu lämpöyhtälö. Tasapainotilassa, kun u t = 0, nähdään, että u on harmoninen funktio, eli saadaan edellisellä tunnilla käsitelty tapaus. Yhtälö u t 1 u u TT = 0 ei ole yhtä hyvin tunnettu. Voimme kuitenkin käyttää analogiaa edelliseen tapaukseen: kyseessä on lämpöyhtälötyyppinen diffuusio, mutta ainoastaan suuntaan T, eli tasa-arvokäyrän suuntaisesti. Koska reuna on niinikään todennäköisesti tasa-arvokäyrän suuntainen, tarkoittaa tämä, että reuna todennäköisemmin säilyy. Tämä onkin ROF algoritmin perusta. Peter Hästö Matemaattisten tieteiden laitos 17. helmikuuta 2011 17 / 20
Varioivat eksponentit Aiemmin huomasimme, että ROF algoritmilla on taipumusta joissain tapauksissa luoda keinotekoisia reunoja. Esimerkkien valossa näyttää, että voisi olla hyödyllistä, että funktio φ on 1 2 t2 joissain paikoissa ja t toisissa. Chen, Levine ja Rao (6) esittivät tällaisen mallin. Tarkastelemme täällä versiota φ(x, t) = 1 p(x) tp(x), missä p : Q [1, 2] on varioiva eksponentti. Eksponentti pitää valita niin, että se on lähellä yhtä todennäköisten reunojen kohdalla ja lähellä kahta muualla. Mallia on tutkittu myös viitteissä Harjulehto, Hästö ja Latvala (8) sekä Li, Li ja Pi (2010). Peter Hästö Matemaattisten tieteiden laitos 17. helmikuuta 2011 18 / 20
Esimerkki TV,261 iterations L2,101 iterations p(x),121 iterations 1 1 1 2 1 2 2 1 2 2 1 2 Original image Noisy image Exponent 1 1 1 2 1 2 2 1 2 2 1 2 λ =0.01 k =0.05 rel error =0.35 exp trunc =0. σ =1.35 n =261 SNR =1.4 τ =0.10 p =1.027 Peter Hästö Matemaattisten tieteiden laitos 17. helmikuuta 2011 19 / 20
Viitteet G. Aubert ja P. Kornprobst: Mathematical Problems in Image Processing: Partial Differential Equations and Calculus of Variations, Springer-Verlag, Berlin, 6. Y. Chen, S. Levine ja M. Rao: Variable exponent, linear growth functionals in image restoration, SIAM J. Appl. Math. 66 (6), no. 4, 1383 1406. P. Harjulehto, P. Hästö ja V. Latvala: Minimizers of the variable exponent, non-uniformly convex Dirichlet energy, J. Math. Pures Appl. (9) 89 (8), no. 2, 174 197. F. Li, Z. Li ja L. Pi: Variable exponent functionals in image restoration, Appl. Math. Comput. 216 (2010), no. 3, 870 882. L. Rudin, S. Osher ja E. Fatemi, Nonlinear Total Variation based noise removal algorithms, Physica D 60(1992), 259 268. Peter Hästö Matemaattisten tieteiden laitos 17. helmikuuta 2011 20 / 20