Algoritmit 1. Luento 12 Ti Timo Männikkö

Transkriptio

1 Algoritmit 1 Luento 12 Ti Timo Männikkö

2 Luento 12 Osittamisen tasapainoisuus Pikalajittelun vaativuus Lajittelumenetelmien vaativuus Laskentalajittelu Lokerolajittelu Kantalukulajittelu Algoritmit 1 Kevät 2019 Luento 12 Ti /33

3 Osittamisen tasapainoisuus Lomituslajittelu, suurten kokonaislukujen kertolasku: Jokaisessa osituksessa osista tulee (suunnilleen) samankokoisia Jos osat ovatkin hyvin erikokoisia: Miten se vaikuttaa algoritmin tehokkuuteen? Algoritmit 1 Kevät 2019 Luento 12 Ti /33

4 Osittamisen tasapainoisuus Esimerkki: Kokonaislukujen joukko S, koko S = n Tehtävänä määrätä S:n k:nneksi pienin luku Erikoistapaus mediaanin (keskimmäisen luvun) määrääminen k = n/2 Triviaaliratkaisuja: Määrätään järjestyksessä k pienintä lukua T (n) = O(kn) = O(n 2 ) Lajitellaan S:n luvut suuruusjärjestykseen, sitten poimitaan k:s luku T (n) = O(n log n) Algoritmit 1 Kevät 2019 Luento 12 Ti /33

5 Osittava ratkaisu esimerkille Valitaan satunnainen S:n alkio a Jaetaan muut alkiot kahteen joukkoon: S 1 :een a:ta pienemmät alkiot S 2 :een a:ta suuremmat alkiot (Oletetaan, että joukot erillisiä) Tiedetään, missä haettava alkio on: Jos S 1 :n koko vähintään k, alkio on S 1 :ssä Jos S 1 :n koko korkeintaan k 2, alkio on S 2 :ssa Jatketaan etsintää samalla tavalla kyseisestä pienemmästä joukosta Jos S 1 :n koko täsmälleen k 1, haettava alkio on a Algoritmit 1 Kevät 2019 Luento 12 Ti /33

6 Osittava ratkaisu esimerkille alkio select(joukko S, int k) { if ( S == 1) return a; // joukon ainoa alkio else { a = satunnainen S:n alkio; S1 = {x in S x < a}; S2 = {x in S x > a}; if ( S1 >= k) return select(s1, k); else if ( S1 == k-1) return a; else return select(s2, k- S1-1); } } Algoritmit 1 Kevät 2019 Luento 12 Ti /33

7 Osittava ratkaisu esimerkille Paras tapaus: Jos a valitaan aina suunnilleen keskeltä Rekursiokutsussa on joukko, jonka koko on noin puolet S:n koosta T (n) = T (n) = = O(n) { b, kun n = 1 T ( n ) + cn, kun n > 1 2 Algoritmit 1 Kevät 2019 Luento 12 Ti /33

8 Osittava ratkaisu esimerkille Pahin tapaus: Jos a valitaan mahdollisimman huonosti Rekursiokutsussa on joukko, jonka koko on n 1 T (n) = { b, kun n = 1 T (n 1) + cn, kun n > 1 Algoritmit 1 Kevät 2019 Luento 12 Ti /33

9 Osittava ratkaisu esimerkille T (n) = T (n 1) + cn = T (n 2) + c(n 1) + cn = T (n 3) + c(n 2) + c(n 1) + cn =... = T (1) + c 2 + c c(n 1) + cn = b + c(n 1)(n + 2)/2 = O(n 2 ) Algoritmit 1 Kevät 2019 Luento 12 Ti /33

10 Pikalajittelu (quicksort) Perustuu osittamiseen ja rekursioon Periaate: Alkiot jaetaan kahteen pienempään osaan, jotka voidaan lajitella erikseen toisistaan riippumatta Pikalajittelu: Jos taulukon pituus pienempi kuin jokin raja, järjestetään alkiot lisäyslajittelulla (ainakin silloin jos pituus < 3) Valitaan jokin alkioista jakotietueeksi (Jatkuu) Algoritmit 1 Kevät 2019 Luento 12 Ti /33

11 Pikalajittelu jatkuu Ositetaan taulukko siirtelemällä alkioita siten, että tämän vaiheen jälkeen: Jakotietue on paikassa j Alkiot, jotka ovat pienempiä kuin jakotietue, ovat ennen paikkaa j Alkiot, jotka ovat suurempia kuin jakotietue, ovat paikan j jälkeen Alkiot, jotka ovat yhtä suuria kuin jakotietue, voivat olla paikan j kummalla puolella tahansa (Jatkuu) Algoritmit 1 Kevät 2019 Luento 12 Ti /33

12 Pikalajittelu jatkuu Lajitellaan alkuosa (paikat 0, 1,..., j-1): Pikalajittelulla (rekursio) Lajitellaan loppuosa (paikat j+1, j+2,..., n-1): Pikalajittelulla (rekursio) Algoritmit 1 Kevät 2019 Luento 12 Ti /33

13 Jakotietueen valinta Eri vaihtoehtoja valinnalle: Ensimmäinen alkio Satunnainen alkio Keskimmäinen alkio Mediaanimenetelmä Yhdeksän alkion pseudomediaani Algoritmit 1 Kevät 2019 Luento 12 Ti /33

14 Pikalajittelun vaativuus Jakotietueen valinta: Kaikki edellä esitetyt menetelmät O(1) Ositus: Käydään läpi tarkasteltava taulukon osa kerran O(n) Osien lajittelu rekursiivisesti: Vaativuus riippuu siitä, miten hyvin ositus onnistui Algoritmit 1 Kevät 2019 Luento 12 Ti /33

15 Pikalajittelun vaativuus Paras tapaus: Jokaisessa osituksessa alkiot jaetaan kahteen tasan yhtäsuureen osaan T (n) = { b, kun n = 1 2T ( n ) + cn, kun n > 1 2 Sama rekursioyhtälö kuin lomituslajittelulle O(n log n) Algoritmit 1 Kevät 2019 Luento 12 Ti /33

16 Pikalajittelun vaativuus Pahin tapaus: Jokaisen osituksen jälkeen osissa 0 ja n 1 alkiota T (n) = { b, kun n = 1 T (n 1) + cn, kun n > 1 Sama rekursioyhtälö kuin edellä O(n 2 ) Mutta: Voidaan osoittaa, että keskimäärin pikalajittelun aikavaativuus on O(n log n) Algoritmit 1 Kevät 2019 Luento 12 Ti /33

17 Lajittelumenetelmien vaativuus Vertailumenetelmät: Perustuvat kahden alkion (avaimen) vertailuun Onko t[i] < t[j] Vastaus kyllä tai ei Vastauksen perusteella tehdään jotain ja suoritetaan uusi vertailu Menetelmä voidaan esittää binäärisenä päätöspuuna Jokainen haarautumissolmu vastaa yhtä vertailua Jokainen lehtisolmu vastaa yhtä järjestystä Algoritmit 1 Kevät 2019 Luento 12 Ti /33

18 Lajittelumenetelmien vaativuus Suurin mahdollinen määrä vertailuja = Pisin mahdollinen polku päätöspuussa = Päätöspuun korkeus Järjestettäviä alkioita n Erilaisia järjestyksiä n! Lehtisolmuja päätöspuussa n! Arvioidaan päätöspuun korkeutta h Algoritmit 1 Kevät 2019 Luento 12 Ti /33

19 Lajittelumenetelmien vaativuus Tasolla h on 2 h solmua, jos puu on tasapainoinen Vähemmän, jos puu ei ole täysin tasapainoinen Lehtisolmuja voi olla korkeintaan 2 h kpl Arvio 2 h n! eli h log 2 (n!) h log 2 n! = n/2 i=1 n i=1 log 2 i log 2 n 2 = n 2 log 2 n 2 = O(n log n) Algoritmit 1 Kevät 2019 Luento 12 Ti /33

20 Lajittelumenetelmien vaativuus Vertailumenetelmien vaativuus vähintään O(n log n) Kaikki edelliset ovat vertailumenetelmiä Esimerkiksi lomituslajittelu, jonka vaativuus on tässä mielessä optimaalinen Mutta: Jos avainten arvojen suhteen on rajoituksia tai menetelmässä voidaan tehdä muutakin kuin binäärisiä vertailuja Voidaan saada vaativuus paremmaksi Algoritmit 1 Kevät 2019 Luento 12 Ti /33

21 Laskentalajittelu (counting sort) Oletus: Järjestettävät alkiot (tai avaimet) kokonaislukuja väliltä 0, 1,..., k Idea: Lasketaan kullekin alkiolle a niiden alkioiden lukumäärä, jotka ovat a Tiedetään alkion a paikka Järjestettävät alkiot taulukossa t[1..n] Järjestetyt alkiot algoritmin päättyessä järjestyksessä taulukossa s[1..n] Työtilana taulukko u[0..k] Algoritmit 1 Kevät 2019 Luento 12 Ti /33

22 Laskentalajittelu 1. for (i = 0; i <= k; i++) u[i] = 0; // työtilataulukko u nollattu 2. for (j = 1; j <= n; j++) u[t[j]]++; // nyt u[i] sisältää alkioiden i lukumäärän 3. for (i = 1; i <= k; i++) u[i] = u[i] + u[i-1]; // nyt u[i] sisältää tiedon siitä montako // alkiota on pienempiä tai yhtä suuria kuin i 4. for (j = n; j >= 1; j--) { s[u[t[j]]] = t[j]; // alkio t[j] paikalleen u[t[j]]--; // lukumäärän päivitys } Algoritmit 1 Kevät 2019 Luento 12 Ti /33

23 Laskentalajittelu Askel 1: O(k) Askel 2: O(n) Askel 3: O(k) Askel 4: O(n) Yhteensä O(k + n) Jos k = O(n), niin vaativuus O(n) Lisäksi menetelmä on stabiili Algoritmit 1 Kevät 2019 Luento 12 Ti /33

24 Lokerolajittelu (bucket sort, bin sort) Idea: Alkiot sijoitellaan lokeroihin (nippuihin) siten, että samaan lokeroon menevät ne alkiot, joilla on samansuuruinen avain Lokerot käydään läpi avainten mukaisessa järjestyksessä ja poimitaan niistä alkiot järjestettyjen alkioiden joukkoon Algoritmit 1 Kevät 2019 Luento 12 Ti /33

25 Lokerolajittelu Yksinkertainen tapaus: Avaimet kokonaislukuja väliltä 0, 1,..., n 1 Jokainen avain esiintyy täsmälleen kerran Lokerot voidaan esittää taulukon alkioina 1. Luodaan tyhjä taulukko s[0..(n-1)] 2. for (i = 0; i < n; i++) s[t[i]] = t[i]; Vaativuus O(n) Algoritmit 1 Kevät 2019 Luento 12 Ti /33

26 Lokerolajittelu Yleinen tapaus: Sama avain voi esiintyä useasti Samaan lokeroon menee useampia alkioita Kaikki mahdolliset avaimet eivät esiinny Lokeroita jää tyhjiksi Lokeroa ei voida toteuttaa taulukon alkiona Toteutetaan lokerot (esimerkiksi) lineaarisina listoina Alkiot taulukossa t[0..(n-1)] Avainkenttien t[i].key arvot kokonaislukuja väliltä l, l + 1,..., h Mahdollisten avainten lukumäärä m = h l + 1 Algoritmit 1 Kevät 2019 Luento 12 Ti /33

27 Lokerolajittelu 1. for (i = 0; i < n; i++) Lisätään alkio t[i] lokeroon t[i].key 2. Luodaan tyhjä lista lis 3. for (j = l; j <= h; j++) Lisätään lokeron j alkiot listan lis loppuun Jos listaoperaatiot voidaan tehdä vakioajassa, on vaativuus O(n + m) Jos lisääminen lokeroihin tehdään stabiilisti, on koko algoritmikin stabiili Algoritmit 1 Kevät 2019 Luento 12 Ti /33

28 Kantalukulajittelu (radix sort) Idea: Alkiot järjestetään suuruusjärjestykseen kokonaislukujen numeroiden merkitsevyyden perusteella Kunkin yksittäisen numeron kohdalla lajittelu tehdään (esimerkiksi) lokerolajittelulla Avaimet kokonaislukuja väliltä 0, 1,..., (d k 1), missä: d käytetyn lukujärjestelmän kantaluku k jokin ennalta kiinnitetty kokonaisluku Algoritmit 1 Kevät 2019 Luento 12 Ti /33

29 Kantalukulajittelu: Esimerkki Avaimet välillä 0,1,...,999, eli d = 10 ja k = 3 Järjestettävänä luvut (avaimet): 453, 9, 638, 812, 48, 561, 528, 239, 94, 184 Järjestetään lokeroihin viimeisen numeron mukaan Järjestetään lokeroihin keskimmäisen numeron mukaan Järjestetään lokeroihin ensimmäisen numeron mukaan Algoritmit 1 Kevät 2019 Luento 12 Ti /33

30 Kantalukulajittelu: Esimerkki jatkuu Algoritmit 1 Kevät 2019 Luento 12 Ti /33

31 Kantalukulajittelu Yleisesti: Lajittelu k:ssa vaiheessa Jokaisessa vaiheessa: Järjestetään alkiot lokeroihin yhden numeron mukaan, aloittaen vähiten merkitsevästä numerosta Poimitaan alkiot lokeroista, aloittaen pienimmästä lokerosta Sijoitus lokeroihin tehdään stabiilisti eli uusi alkio lisätään lokeronsa viimeiseksi alkioksi Lokeroita tarvitaan d kpl Algoritmit 1 Kevät 2019 Luento 12 Ti /33

32 Kantalukulajittelu // Järjestettävät alkiot listassa lis for (i = 1; i <= k; i++) // vaiheet 1, 2,..., k { 1. for (j = 0; j < d; j++) Tyhjennetään lokero j 2. for each (alkio a in lista lis) { Poistetaan alkio a listasta lis Lisätään alkio a avaimensa i:nnen numeron mukaisen lokeron viimeiseksi alkioksi } // Lista lis on nyt tyhjä 3. for (j = 0; j < d; j++) Lisätään lokeron j alkiot listan lis loppuun } Algoritmit 1 Kevät 2019 Luento 12 Ti /33

33 Kantalukulajittelu Avaimet: Avaimet kokonaislukuja Mutta: Esimerkiksi merkkijonot voidaan aina esittää kokonaislukujen avulla Aikavaativuus: Lokerolajittelun vaativuus O(n + m), missä m avainten lkm Lokerolajittelu k kertaa, avainten lkm aina d Vaativuus O(k(n + d)) Luvut k ja d vakioita O(n) Algoritmit 1 Kevät 2019 Luento 12 Ti /33