Algoritmit 2. Luento 9 Ti Timo Männikkö

Transkriptio

1 Algoritmit 2 Luento 9 Ti Timo Männikkö

2 Luento 9 Merkkitiedon tiivistäminen Huffmanin koodi LZW-menetelmä Taulukointi Editointietäisyys Algoritmit 2 Kevät 2018 Luento 9 Ti /29

3 Merkkitiedon tiivistäminen Vakiopituinen koodi: Jokainen merkki vie saman määrän tilaa Esimerkiksi 8 bittiä (yksi tavu) 100 merkkiä vie tilaa 800 bittiä Jos tallennettavien merkkien joukossa esiintyy vain pieni osa kaikista mahdollisista merkeistä, lyhyempikin koodi riittäisi Esimerkiksi neljä eri merkkiä voitaisiin esittää 2 bitillä (00, 01, 10, 11) 100 merkkiä vie tilaa 200 bittiä Algoritmit 2 Kevät 2018 Luento 9 Ti /29

4 Merkkitiedon tiivistäminen Vaihtelevan pituinen koodi: Usein esiintyvillä merkeillä lyhyempi koodi, harvoin esiintyvillä pidempi koodi Merkkijonoja korvataan numeerisilla koodeilla: Esimerkiksi RLE-koodaus (Run-Length Encoding) Saman merkin muodostamat ketjut korvataan laskurilla Tekstissä 200 kappaletta a-kirjaimia, 300 kappaletta b-kirjaimia 200a300b Bittikarttakuvassa peräkkäisiä valkoisia ja mustia pikseleitä 25W5B50W10B Algoritmit 2 Kevät 2018 Luento 9 Ti /29

5 Merkkitiedon tiivistäminen Eri merkeillä eri pituiset koodit Ongelma: Mihin bittiin edellinen merkki päättyy ja mistä bitistä seuraava merkki alkaa? Eräs ratkaisu: Prefiksi- eli etuliitekoodit Minkään merkin koodi ei ole sama kuin jonkin toisen koodin alkuosa Käydään bittejä läpi järjestyksessä kunnes saadaan valmiiksi yhtä merkkiä vastaava koodi Seuraavan merkin koodi alkaa heti seuraavasta bitistä Algoritmit 2 Kevät 2018 Luento 9 Ti /29

6 Huffmanin koodaus Koodit muodostetaan binääripuun avulla Kukin lehtisolmu vastaa yhtä merkkiä Haarautuminen vasempaan alipuuhun tarkoittaa 0-bittiä, haarautuminen oikeaan alipuuhun 1-bittiä Polku juurisolmusta lehtisolmuun vastaa kyseisen merkin koodia Puu muodostetaan merkkien esiintymistiheyksien mukaan Lyhimmät koodit liitetään merkkeihin, joiden esiintymistiheys on suurin Algoritmit 2 Kevät 2018 Luento 9 Ti /29

7 Huffmanin koodaus: Esimerkki Esiintymistiheydet: Koodit: a i s t a i s t Kaikkien 100 merkin tallennus vie 130 bittiä i a 3 s 2 t Algoritmit 2 Kevät 2018 Luento 9 Ti /29

8 Huffmanin koodaus Binääripuulle määritellään painoarvo Alkutilanteessa jokaista erilaista merkkiä vastaa yhden solmun kokoinen puu, jonka painoarvoksi asetetaan merkin esiintymistiheys Valitaan kaksi painoarvoiltaan pienintä puuta ja yhdistetään ne yhdeksi puuksi Muodostetaan uusi juurisolmu Yhdistettävät puut liitetään sen lapsiksi Tämän puun painoarvoksi asetetaan yhdistettävien puiden painoarvojen summa Näin jatketaan kunnes jäljellä on vain yksi puu Algoritmit 2 Kevät 2018 Luento 9 Ti /29

9 Huffmanin koodaus Esiintyvät merkit c 1, c 2,..., c n Esiintymistiheydet f 1, f 2,..., f n 1. Alustus: Muodostetaan merkkejä c i vastaavat puut Asetetaan puiden painoarvoiksi w i = f i 2. Toistetaan kunnes jäljellä on yksi puu: Valitaan puut u ja v siten, että w u ja w v ovat pienimmät Muodostetaan uusi juurisolmu s Liitetään u sen vasemmaksi lapseksi ja v oikeaksi lapseksi Asetetaan puun painoarvoksi w s = w u + w v Algoritmit 2 Kevät 2018 Luento 9 Ti /29

10 Huffmanin koodaus Painoarvojen käsittelyssä voidaan käyttää apuna prioriteettijonoa Aluksi kaikki n painoarvoa tallennetaan prioriteettijonoon Jokaisella kierroksella poistetaan kaksi painoarvoa ja tilalle tallennetaan yksi painoarvo Prioriteettijonon koko pienenee yhdellä joka kierroksella Prioriteettijonon perusoperaatiot Θ(log n) (jos toteutettu tasapainoisena binääripuuna tai kekona) Koodien muodostaminen Θ(n log n) Algoritmit 2 Kevät 2018 Luento 9 Ti /29

11 LZW-menetelmä Lempel-Ziv-Welch Osamerkkijonoja muunnetaan numeerisiksi koodeiksi Kuvaus osamerkkijonojen ja niitä vastaavien koodien välillä esitetään hakemistossa Hakemistoa muodostetaan dynaamisesti sitä mukaa kuin tiedon pakkaaminen tai pakatun tiedon purkaminen etenee Algoritmit 2 Kevät 2018 Luento 9 Ti /29

12 LZW-menetelmä: Koodaus Tiivistettävä merkkijono m Aluksi jokaiselle esiintyvälle merkille kiinnitetään oma koodinsa Koodit ja vastaavat merkit lisätään hakemistoon Käydään läpi merkkijonoa alusta loppuun vaiheittain Algoritmit 2 Kevät 2018 Luento 9 Ti /29

13 LZW-menetelmä: Koodaus Haetaan m:n koodaamattoman osan alusta pisin osamerkkijono, joka sillä hetkellä löytyy hakemistosta Tämä osamerkkijono koodataan kyseisellä koodilla Hakemistoon lisätään uusi osamerkkijono, jolle kiinnitetään seuraava vapaana oleva koodi Uusi osamerkkijono: Juuri koodatun osamerkkijonon perään liitetään merkkijonon m seuraava merkki eli ensimmäinen merkki, jota ei ole koodattu vielä tässä vaiheessa Algoritmit 2 Kevät 2018 Luento 9 Ti /29

14 Esimerkki xxxyyyyyyxxyxxyx 0 1 x y x xxyyyyyyxxyxxyx x y xx xxx yyyyyyxxyxxyx x y xx xxy Algoritmit 2 Kevät 2018 Luento 9 Ti /29

15 Esimerkki jatkuu xxxy yyyyyxxyxxyx x y xx xxy yy xxxyyy yyyxxyxxyx x y xx xxy yy yyy xxxyyyyyy xxyxxyx x y xx xxy yy yyy yyyx Algoritmit 2 Kevät 2018 Luento 9 Ti /29

16 Esimerkki jatkuu xxxyyyyyyxxy xxyx x y xx xxy yy yyy yyyx xxyx xxxyyyyyyxxyxxyx x y xx xxy yy yyy yyyx xxyx Algoritmit 2 Kevät 2018 Luento 9 Ti /29

17 LZW-menetelmä: Koodin purkaminen Aluksi hakemistossa on vain yksittäiset merkit ja niitä vastaavat koodit Huom: Koko hakemistoa ei tunneta, vaan se muodostuu purkamisen yhteydessä Käydään läpi koodattua merkkijonoa koodi kerrallaan, ja kunkin koodin kohdalla etsitään sitä hakemistosta Kaksi mahdollisuutta: Käsiteltävänä oleva koodi on jo hakemistossa Käsiteltävänä olevaa koodia ei vielä ole hakemistossa Algoritmit 2 Kevät 2018 Luento 9 Ti /29

18 LZW-menetelmä: Koodin purkaminen Merkintä teksti[i] tarkoittaa koodia i vastaavaa osamerkkijonoa hakemistossa Merkintä teksti[i][1] tarkoittaa koodia i vastaavan osamerkkijonon ensimmäistä merkkiä Olkoon k käsiteltävänä oleva koodi Olkoon j koodia k edeltävä koodi Algoritmit 2 Kevät 2018 Luento 9 Ti /29

19 LZW-menetelmä: Koodin purkaminen Jos k löytyy hakemistosta: Vastaava osamerkkijono teksti[k] saadaan hakemistosta Lisätään hakemistoon uusi osamerkkijono teksti[j] + teksti[k][1], jolle kiinnitetään seuraava vapaana oleva koodi Jos k ei löydy hakemistosta: Vastaava osamerkkijono on teksti[j] + teksti[j][1] Lisätään tämä osamerkkijono hakemistoon ja kiinnitetään sille koodi k Algoritmit 2 Kevät 2018 Luento 9 Ti /29

20 Esimerkki x y x 0 1 x y xxx x y xx Algoritmit 2 Kevät 2018 Luento 9 Ti /29

21 Esimerkki jatkuu xxxy x y xx xxy xxxyyy x y xx xxy yy xxxyyyyyy x y xx xxy yy yyy Algoritmit 2 Kevät 2018 Luento 9 Ti /29

22 Esimerkki jatkuu xxxyyyyyyxxy x y xx xxy yy yyy yyyx xxxyyyyyyxxyxxyx x y xx xxy yy yyy yyyx xxyx Algoritmit 2 Kevät 2018 Luento 9 Ti /29

23 Algoritmien suunnittelu Taulukointi (dynaaminen optimointi): Tehtävä ratkaistaan vaiheittain, osatehtävä kerrallaan Aloitetaan pienemmistä ja yksinkertaisimmista osatehtävistä Ratkaisut tallennetaan taulukkoon Taulukon avulla muodostetaan yhä isompien osatehtävien ratkaisut Lopulta saadaan alkuperäisen tehtävän ratkaisu Käytetään usein tehtäville, jotka ovat luonteeltaan kombinatorisia Algoritmit 2 Kevät 2018 Luento 9 Ti /29

24 Editointietäisyys Merkkijonot x = a 1 a 2... a m ja y = b 1 b 2... b n Sallittuja editointioperaatioita yhden merkin lisäys (mihin tahansa kohtaan) ja yhden merkin poisto (mistä tahansa tahansa kohtaa) Merkkijonojen x ja y välinen editointietäisyys on pienin määrä operaatioita, joka tarvitaan x:n muuntamisessa y:ksi Esimerkki: AUTO AUT AU ASU ASUA Editointietäisyys 4 Algoritmit 2 Kevät 2018 Luento 9 Ti /29

25 Editointietäisyys Taulukko d[0..m][0..n], johon edintointietäisyydet lasketaan d[i][j] = merkkijonojen a 1... a i ja b 1... b j välinen editointietäisyys i = 0 tarkoittaa, että ensin mainittu merkkijono on tyhjä j = 0 tarkoittaa, että jälkimmäinen merkkijono on tyhjä d[m][n] = alkuperäisten merkkijonojen x ja y välinen editointietäisyys Algoritmit 2 Kevät 2018 Luento 9 Ti /29

26 Editointietäisyys Merkkijono a 1 a 2... a i tyhjäksi merkkijonoksi Kaikki merkit poistetaan d[i][0] = i Tyhjä merkkijono merkkijonoksi b 1 b 2... b j Kaikki merkit lisätään d[0][j] = j Algoritmit 2 Kevät 2018 Luento 9 Ti /29

27 Editointietäisyys Jos a i = b j Viimeisiä merkkejä ei tarvitse muuttaa d[i][j] = d[i 1][j 1] Jos a i b j Ensin poistetaan a i, sitten a 1 a 2... a i 1 b 1 b 2... b j d[i][j] = d[i 1][j] + 1 Ensin a 1 a 2... a i b 1 b 2... b j 1, sitten lisätään b j d[i][j] = d[i][j 1] + 1 Valitaan näistä pienempi Algoritmit 2 Kevät 2018 Luento 9 Ti /29

28 Editointietäisyys 1. for (i = 0; i <= m; i++) d[i][0] = i; 2. for (j = 0; j <= n; j++) d[0][j] = j; 3. for (i = 1; i <= m; i++) { for (j = 1; j <= n; j++) { if (a[i] == b[j]) d[i][j] = d[i-1][j-1]; else d[i][j] = min(d[i-1][j] + 1, d[i][j-1] + 1); } } 4. return d[m][n]; Algoritmit 2 Kevät 2018 Luento 9 Ti /29

29 Editointietäisyys Kaksi sisäkkäistä silmukkaa Ulompi silmukka suoritetaan m kertaa, sisempi n kertaa Aikavaativuus Θ(mn) Algoritmit 2 Kevät 2018 Luento 9 Ti /29