Matematiikka ja teknologia, kevät 2011

Transkriptio

1 Matematiikka ja teknologia, kevät 2011 Peter Hästö 27. tammikuuta 2011 Matemaattisten tieteiden laitos

2 Sisältö Kurssi koostuu kuudesta (seitsemästä) toisistaan riippumattomasta luennosta. Aihepiirit ovat: 13.1 Global positioning system (GPS) 20.1 Satunnaislukugeneraattorit 27.1 Google ja PageRank algoritmi 3.2 JPEG kuvanpakkaus 10.2 ei luentoa! 17.2 Geometria arkkitehtuurissa 24.2 ROF kuvan virheenpoisto (3.3 Fraktaalit ja kuvanpakkaus) HUOM! 3.3 on ylimääräinen luento fraktaaleista tässä luennossa ei ole ollenkaan perusosaa, koska aiheen käsittely vaatii enemmän matemaattista pohjaa. Peter Hästö Matemaattisten tieteiden laitos 27. tammikuuta / 21

3 Hakukoneen tarkoitus Hakukonetta tarvitaan tilanteessa jossa suuresta datamäärästä pitää etsiä tiettyä informaatiopalasta, josta tiedetään jotain. Hakukoneita on monenlaisia; perusjako voidaan tehdä yleisten ja spesifien koneiden välillä. Yleisiä koneita ovat esim. Google, Yahoo, Altavista, spesifejä esim. etuovi sekä Oula. Käyttötarkoituksen lisäksi yleisiä ja spesifejä hakukoneita erottaa usein myös datan laatu. Peter Hästö Matemaattisten tieteiden laitos 27. tammikuuta / 21

4 Datan laatu Spesifejä datavarastoille pätee yleensä, että data on syötetty standardimuodossa; datan laatu on korkea (vähän puuttuvaa tai virhetietoa); käyttäjien tarpeet ovat pitkälti samanlaiset; datan pysyvyys on korkea; ja datan laadusta vallitsee yhteisymmärrys. Yleisistä, verkkosivujen hakukoneista puuttuvat yllä mainitut ominaisuudet. Esimerkiksi ei ole mielekästä, että verkkosivu voisi itse ilmoittaa oman tärkeytensä! Herää siis kysymys, miten verkosta löytyvä materiaali tulisi arvottaa, niin, että hakijalle voisi esittää ne sivut, jotka ovat hänelle todennäköisimmin hyödyllisiä. Peter Hästö Matemaattisten tieteiden laitos 27. tammikuuta / 21

5 World wide webin struktuuri www-formaatti ei rajoita (strukturoi) sivujen sisältöä juurikaan. Sivujen sisällä haku perustuukin tekstimassaan ei ole esim. väliä esiintyykö sana kuvanpakkaus sivun ylä- vai alaosassa, taulukossa vai leipätekstissä, jne. Yleiset hakukoneet perustuvat sivujen rankkauksen www-sivujen linkkeihin. Linkit HTML kielessä ovat yhdensuuntaisia, eivätkä vaadi linkattavalta sivulta toimenpiteitä/suostumusta. www-sivut voidaan mallintaa matemaattisesti (suunnattuna) graafina. (HUOM! tässä ei mallinneta internetiä, vaan www-sivujen verkostoa.) Peter Hästö Matemaattisten tieteiden laitos 27. tammikuuta / 21

6 www graafina Tässä kuvassa on esitetty pieni suunnattu graafi, joka koostuu viidestä solmusta ja kymmenestä suunnatusta kaaresta. Kuvassa musta piste merkkaa sitä sivua johon linkitetään. Siis esimerkiksi sivulta D on linkki sivulle A, ja sinne on linkki sivulta E. Peter Hästö Matemaattisten tieteiden laitos 27. tammikuuta / 21

7 Graafin satunnainen surfaaja PageRank algoritmi perustuu satunnaisen web-surffarin mallintamiseen: jos hän on sivulla jossa on N (eri?) linkkiä, niin hän seuraa kutakin todennäköisyydellä 1 N. Jos henkilö käyttäytyy tällä tavoin, niin millä todennäköisyydellä hän on tietyllä sivulla? [Parin ensimmäisen askeleen TN lasku] [simulaatio] Näyttää siltä, että sattumalla ei pitkässä juoksussa ole suurta merkitystä siihen, kuinka paljon aikaa tietyllä sivulla kulutetaan. (Todistetaan luennon toisessa osassa.) Tässä esimerkissä todennäköisyydet lähenevät lukuja 12 41, 16 41, 9 41, 1 41 ja Peter Hästö Matemaattisten tieteiden laitos 27. tammikuuta / 21

8 Rankkaus Kun tiedämme, mikä on todennäköisyys, että satunnaissurffari on tietyllä sivulla, voimme järjestää haetut sivut järjestykseen todennäköisyyden mukaan. Tällä menetelmällä, sivu johon tulee paljon linkkejä korkeasti arvostetuilta sivuilta arvostetaan korkealla: tasapainotilassa voidaan ajatella myös, että jokainen sivu jakaa arvostustaan tasaisesti jokaiselle linkittämälleen sivulla. Tätä järjestelmää ei kuitenkin toimi kovin hyvin vähemmän yhtenäisessä graafissa. Peter Hästö Matemaattisten tieteiden laitos 27. tammikuuta / 21

9 Ongelmagraafi Miten tässä graafissa jakautuu todennäköisyys? Esimerkissä näemme, että ongelmaksi muodostuu erilliset tai yksisuuntaisesti erilliset osat graafia. Käytännössä www-verkoston osat voivat olla tuhansien sivujen kokoisia, joten niitä ei voi myöskään sivuttaa. Peter Hästö Matemaattisten tieteiden laitos 27. tammikuuta / 21

10 PageRank ratkaisu Eräs ratkaisu ongelmaan on käyttää satunnaista surfaajaa joka ei aina seuraa linkkejä. Oletetaan päin vastoin, että surfaaja seuraa linkkejä todennäköisyydellä β [0, 1]. Todennäköisyydellä 1 β, surfaaja siirtyykin jollain toisella periaatteella: esimerkiksi voimme olettaa, että siirtyminen jokaiselle www-sivulla on yhtä todennäköistä, ts. käytännössä surfaaja rupeaa tutkailemaan jotain muuta aihetta. Page et al. ehdottavat β = 0, 85. Siirtymisessä voi myös painottaa tiettyjä sivuja toisia enemmän; esimerkiksi maakohtaisia eroja hakutuloksissa voidaan saada aikaiseksi näin. Peter Hästö Matemaattisten tieteiden laitos 27. tammikuuta / 21

11 Syventävä osa käsitteet Tarvittavat käsitteet (huom! näistä voi kysellä tauon aikana!) todennäköisyys, ehdollinen todennäköisyys; matriisin kertolasku matriisin ominaisarvot, ominaisvektorit vektoriavaruuden kanta Peter Hästö Matemaattisten tieteiden laitos 27. tammikuuta / 21

12 Tilan representointi vektorina Tutkiaksemme satunnaisen surffarin liikkeitä, representoimme graafia vektorina niin, että solmua A vastaa ensimmäinen rivi, B toinen rivi, jne. Esim. vektori (0, 0, 1, 0, 0) T tarkoittaa tilannetta, missä surffari on solmussa C. Jos vektorin alkiot ovat reaalilukuja välillä [0, 1] ja niiden summa on 1, voimme tulkita ne todennäköisyyksiksi: esim. (0, 1/2, 0, 0, 1/2) T tarkoittaa, että henkilö on puolessa tapauksista solmussa B, toisessa puolessa solmussa E. Peter Hästö Matemaattisten tieteiden laitos 27. tammikuuta / 21

13 Tilan muutoksen representointi Jos surffarin olinpaikan todennäköisyydet hetkellä n kertoo vektori p n := (t A, t B, t C, t D, t E ) T, niin mitkä ovat todennäköisyydet seuraavan siirron jälkeen? Merkitään satunnaismuuttujalla X n surffarin paikka ajanhetkellä n. Siis pätee P(X n = A) =: t n A, P(X n = B) =: t n B, jne. Lasketaan seuraavan sijainnin todennäköisyydet ehdollisten todennäköisyyksien avulla: P(X n+1 = A) = P(X n+1 = A X n = A)p(X n = A) P(X n+1 = A X n = E)p(X n = E) = t n AA tn A tn AE tn E, missä t n ij := P(X n+1 = i X n = j), i, j {A, B, C, D, E}. Siis t ij kertoo todennäköisyyden siirtyä solmusta j solmuun i. Peter Hästö Matemaattisten tieteiden laitos 27. tammikuuta / 21

14 Tilan muutoksen representointi matriisilla Edellä näimme, että t n+1 A = taa n tn A tn AE tn E. Tämän voimme tulkita matriisin ja vektorin tulon ensimmäisenä rivinä; vastaava tulos pätee myös muille riville. Näin saamme siis t n+1 A t n+1 B t n+1 C t n+1 D t n+1 E = taa n tn AB tac n tad n tn AE tba n tn BB tbc n tbd n tn BE tca n tn CB tcc n tcd n tn CE tda n tn DB tn DC tdd n tn DE tea n teb n tec n ted n tn EE t n A t n B t n C t n D t n E. Siirtymämatriisin ensimmäinen sarake kertoo todennäköisyydet siirtyä solmusta A, jne. Satunnaisen surffaajan määritelmän mukaan tämä on tasaisesti jakautunut A:sta lähtevien kaarien välille. Koska A:sta lähtee vain yksi kaari, solmuun C, on ensimmäinen sarake (0, 0, 1, 0, 0) T. Peter Hästö Matemaattisten tieteiden laitos 27. tammikuuta / 21

15 Siirtymämatriisi Siirtymämatriisin muut sarakkeet saadaan samalla tavalla määrättyä P := Huomaa, että siirtymämatriisi ei riipu ajanhetkestä n. Lisäksi huomataan, että X n+1 riippuu vain muuttujasta X n, eli tulevaisuus riippuu vain nykyhetkestä, ei menneisyydestä. Tällaista prosessia (X n ) n kutsutaan Markovin prosessiksi. Peter Hästö Matemaattisten tieteiden laitos 27. tammikuuta / 21

16 Matriisiesityksen hyöty Olemme todistaneet, että p n+1 = Pp n. Tämä pätee jokaiselle n, joten p n = Pp n 1 = P(Pp n 2 ) =... = P n p 0, eli voimme lausua hetken n tilan yksinkertaisesti alkutilan avulla. Matriisin potenssin voimme laskea melko tehokkaasti: peräkkäisillä neliöimisillä saamme P 2, P 4, P 8, jne.: Peter Hästö Matemaattisten tieteiden laitos 27. tammikuuta / 21

17 P 8 = P 16 = P 32 = Laskujen perusteella näyttää siltä, että P n saattaisi supeta kun n. Tästä seuraisi, että myös p n suppenisi, mihin aikaisempi simulaatiokin viittasi. Peter Hästö Matemaattisten tieteiden laitos 27. tammikuuta / 21

18 Siirtymämatriisin ominaisuuksia Siirtymämatriisin ominaisuus on, että jokaisen sarakkeen alkioiden summa on yksi, lisäksi kaikki alkiot ovat ei-negatiivisia. Lemma Siirtymämatriisilla on ainakin yksi ominaisarvo 1. Todistus. Matriisilla ja sen transpoosilla on samat ominaisarvot; siirtymämatriisin transpoosilla on ominaisvektori (1,..., 1) T ominaisarvolla 1. Yhdistämällä em. lemma ja Frobeniuksen lause saamme: Lemma Siirtymämatriisin jokaiselle ominaisarvolle λ pätee λ 1. Lisäksi ominaisarvoa λ = 1 vastaa ominaisvektori jolla on ei negatiiviset alkiot. Peter Hästö Matemaattisten tieteiden laitos 27. tammikuuta / 21

19 Lisäoletuksia Teemme nyt eräitä lisäoletuksia matriisista: 1. Oletetaan, että täsmälleen yksi ominaisvektori vastaa ominaisarvoa 1, eikä muita ominaisarvoja λ = 1 ole; 2. Oletetaan, että ominaisvektorit muodostavat avaruuden kannan, eli, että matriisi on diagonalisoituva. Olkoon ominaisvektorit ja -arvot v 1,..., v k ja λ 1,..., λ k, missä λ 1 = 1. Oletuksista seuraa, että λ j < 1 muilla indekseillä. Peter Hästö Matemaattisten tieteiden laitos 27. tammikuuta / 21

20 Suppeneminen Koska (v j ) on kanta, voimme kirjoittaa p 0 = a 1 v a k v k. Ominaisvektorin ja -arvon määritelmän nojalla p 1 = Pp 0 = a 1 Pv a k Pv k = λ 1 a 1 v λ k a k v k. Iteroimalla saamme p n = λ n 1a 1 v λ n k a kv k. Koska λ 1 = 1 ja λ j < 1 muuten, näemme, että p n a 1 v 1 kun n. Tämä raja-arvohan oli perustana PageRank algoritmin sivujen rankkauksessa, eli toisin sanoen algoritmi perustuu siihen, että löydetään siirtymämatriisin ominaisarvoa 1 vastaava ominaisvektori. Peter Hästö Matemaattisten tieteiden laitos 27. tammikuuta / 21

21 Käytännön vaikeuksia Vaikka rankkausongelma on periaatteessa redusoitu yksinkertaiseen ominaisvektoriongelmaksi, muodostuu matriisin koosta käytännön ongelmia. Internetissä on suuruusluokkaa www-sivua, joten kyseessä on matriisi. Se miten ominaisarvo-ongelma ratkaistaan Googlessa ei ole julkista. Todennäköisesti ratkaisu perustuu ainakin osittain siihen, että matriisissa on erittäin suuria osia joissa on pelkkiä nollia. Peter Hästö Matemaattisten tieteiden laitos 27. tammikuuta / 21