Abstraktiot ja analyysi algoritmit ja informaation esitykset

Transkriptio

1 Abstraktiot ja analyysi algoritmit ja informaation esitykset Petteri Kaski Tietotekniikan laitos Aalto-yliopisto CS-A1120 Ohjelmointi huhtikuuta

2 Sisältö (kierrokset ja moduulit) I 1. Lämmittelykierros Tietokoneen mysteeri 2. Bitit ja data 3. Kombinaatiologiikka 4. Sekventiaalilogiikka 5. Ohjelmoitava kone II Abstraktiot ja analyysi III Funktionaalinen ohjelmointityyli Suorituskykyanalyysi Rekursio Algoritmit ja informaation esitykset Uuden äärellä 10. Rinnakkaisuus ja samanaikaisuus 11. Virtualisointi ja skaalautuvuus 12. Ohjelmoitava vai oppiva kone? (Intel Xeon Phi Knights Landing -lastu, 72 suoritusydintä, 8 miljardia transistoria, 14 nanometrin litografia) (Google Hamina)

3 Laskenta ja ohjelmointi Laskenta on luonnonilmiö Ohjelmointi on keino valjastaa laskenta haluttuun tarkoitukseen Ohjelmointitaito ja ymmärrys laskennasta ovat välttämätön osa tieteellistä yleissivistystä tietojenkäsittelytieteen alkeet

4 Laskennan ja ohjelmoitavuuden yleisyysperiaate: Ohjelmoitava kone voi, sopivasti ohjelmoituna, simuloida toista ohjelmoitavaa konetta (Moduuli 1)

5 Laskenta ja ohjelmointi ovat laitteistosta ja ohjelmointikielestä riippumattomia käsitteitä (käytännössä fyysinen laitteisto, esimerkiksi käytettävissä olevan muistin määrä, ja simulaation tehokkuus rajaavat edellistä väitettä jonkin verran) (Moduuli 1)

6 Tietojenkäsittelytiede on nuori tieteenala P vs NP -ongelma on erinomainen esimerkki siitä että ymmärryksemme laskennasta ja siitä mitä tehtäviä voidaan ratkoa tehokkaasti ei ole vielä erityisen kypsä töitä siis riittää! (**)

7 Esimerkki NP-täydellisestä tehtävänasettelusta Voidaanko luku 2017 muodostaa summana kokonaisluvuista 87, 116, 153, 265, 394, 476, 516, 664, 670, 791 jos jokaista lukua saa käyttää enintään kerran? Ei tunneta menetelmää joka tehokkaasti ratkaisisi tehtävän sen yleisessä muodossa (= mielivaltaisen monta mielivaltaisen suurta lukua)

8 2017 = (Pienillä syötteillä ratkaisu toki onnistuu.)

9 Osajoukkosumma-ongelmasta enemmän (***) STACS 16 February 17 20, 2016 Orléans, France

10 9. Algoritmit ja informaation esitykset

11 Motivaatio Ihmiskunnan kyky käsitellä ja hyödyntää informaatiota rajautuu käytettävissä oleviin algoritmeihin ja nokkeliin tapoihin esittää informaatio tehokkaan laskennan mahdollistamiseksi (Laskenta-alustoilla ja käytettävissä olevilla ohjelmointiabstraktioilla on tietysti myös merkittävä rajaava rooli jos laskenta-alusta on tehoton tai varsinainen ohjelmointityö tehotonta, ei myöskään paljoa saada aikaan)

12 Esimerkki Roomalaisessa lukujärjestelmässä esitetyillä luvuilla on ikävä laskea Positionaalilukujärjestelmässä esityillä luvuilla on huomattavasti näppärämpi laskea (Kierrokset 2 & 3)

13 Algoritmi Abū Abd Allāh Muhammad ibn Mūsā al-khwārizmī

14 Esimerkki Epäjärjestys ja järjestetty aineisto Järjestäminen (lajittelu) Järjestettyyn aineistoon voi tehdä tehokkaita hakuja (binäärihaku) (Kierros 7)

15 Esimerkki Osajoukkosumma Tehokkaita ratkaisualgoritmeja ei tunneta Eräitä (yleisessä tapauksessa tehottomia) menetelmiä: Rekursiivinen haku Dynaaminen ohjelmointi (Kierros 8)

16 Algoritmit ja informaation esitykset Kierroksella 9 tarkastelemme kahta esimerkkiä, toinen käsittelee tekstuaalista informaatiota, toinen numeerista Esimerkki 1: Tekstiaineiston indeksointi hakua varten järjestyksestä ja järjestämisestä enemmän Esimerkki 2: Yhden muuttujan polynomeilla laskenta ja signaalinkäsittely (ei käsitellä kevät 2017 mutta demo seuraavassa!)

17 [demo] Kaksi vaihtoehtoista tapaa esittää sama yhden muuttujan polynomi: kerroinesitys polynomin arvot d + 1 pisteessä (polynomin asteluku d; yllä d = 3)

18 Tekstihaku Missä kohtaa tekstiä etsittävä hahmo esiintyy?

19 Hahmo vastaa tekstiä (löytyy tekstistä) alkaen indekseistä i=3 ja i=6

20 Huomatus: Hahmo voi mennä tekstissä päällekkäin itsensä kanssa

21 Tehokas haku? Entäpä jos tekstin pituus on n... ja hahmon pituus on m Haku on selvästikin tehtävissä ajassa O(nm)... mutta entäpä jos tekstiaineisto (n) on todella suuri?... ja haluamme tehdä aineistoon, sanokaamme, tuhansia hakuja sekunnissa?

22 Periaate: Indeksointi tehokkaan haun mahdollistamiseksi Pystyisimmekö indeksoimaan tekstiaineiston siten, että siihen on tehokasta tehdä hakuja? Vrt. binäärihaku järjestetystä aineistosta (... miten järjestämme tekstiaineistoa? )

23

24 Sanakirjajärjestys (leksikografinen järjestys) Mikä on käytetty järjestämissääntö?

25 Merkkijono S edeltää merkkijonoa T leksikografisessa järjestyksessä jos ja vain jos merkkijono S on merkkijonon T aito prefiksi ( etuliite ), tai on olemassa pienin indeksi i jossa S ja T poikkeavat toisistaan siten, että S(i ) < T(i )

26 Periaate: Indeksointi tehokkaan haun mahdollistamiseksi Pystyisimmekö indeksoimaan tekstiaineiston siten, että siihen on tehokasta tehdä hakuja? Vrt. binäärihaku järjestetystä aineistosta (... olisiko siis leksikografisesta järjestyksestä apua tekstihaussa?... täsmälleen mitä järjestämme?)

27 Merkkijonon suffiksit ( päätteet )

28 Suffiksi ja suffiksin indeksi (~alkamispaikka alkup. tekstissä)

29 Suffiksit (ja indeksit) leksikografisessa järjestykessä

30 Mikä tahansa hahmo esiintyy leksikografisessa järjestyksessä peräkkäisissä suffikseissa!... hahmon esiintymiä voi siis etsiä binäärihaulla!

31 Suffiksitaulukko Havainto: Binäärihaun toteutukseen riittää ainoastaan suffiksit (ts. niiden alkupaikat) järjestävä taulukko, suffiksitaulukko, jonka avulla jokainen binäärihaussa tarvittava suffiksi on helppo rakentaa lukemalla tekstiä taulukon määräämästä alkupaikasta

32 Permutaatio Joukon S = {0,1,...,n 1} permutaatio on taulukko jonka pituus on n ja jossa jokainen joukon S alkio esiintyy täsmälleen kerran Esimerkki Eräs joukon {0,1,...,10} permutaatio:

33 Järjestävä permutaatio Olkoon d taulukko, jonka pituus on n ja jonka alkioille on määritelty jokin järjestys Joukon {0,1,, n 1} permutaatio r on taulukon d järjestävä permutaatio jos d(r(1)) d(r(2))... d(r(n 1)) Esimerkki:

34 Suffiksitaulukko Suffiksitaulukko on merkkijonon suffiksit (leksikografiseen järjestykseen) järjestävä permutaatio

35 Käänteispermutaatio Olkoon r joukon {0,1,...,n 1} permutaatio Permutaation r käänteispermutaatio on se joukon {0,1,...,n 1} permutaatio u, jolle pätee u(r(j)) = j kaikilla j = 0,1,...,n 1 Esimerkki r u

36 Järjestysnumeroiva permutaatio Olkoon d taulukko, jonka pituus on n ja jonka alkioille on määritelty jokin järjestys Joukon {0,1,...,n 1} permutaatio u on taulukon d järjestysnumeroiva permutaatio jos permutaation u käänteispermutaatio on taulukon d järjestävä permutaatio Esimerkki

37 Tehtävät suffixbuild suffiksitaulukon rakentaminen vailla tehokkuusvaateita (puoli riviä Scalaa) sorting radiksilajittelu (radix sort) ja lajitteluun (sorting) liittyviä käsitteitä patternsearch hahmonetsintää tekstiaineistosta annetun suffiksitaulukon avulla; kaksoisbinäärihaku suffiksitaulukkoon suffixfast tehokkaampi suffiksitaulukon rakentaminen prefiksintuplausalgoritmilla (lukemistossa esimerkkejä) Burrows-Wheeler -muunnos (haastetehtävä) tekstiaineiston muuntaminen paremmin pakkautuvaan muotoon (esim. bzip2-pakkausalgoritmin perusta)

38 Ihmiskunnan kyky käsitellä ja hyödyntää informaatiota rajautuu käytettävissä oleviin algoritmeihin ja nokkeliin tapoihin esittää informaatio tehokkaan laskennan mahdollistamiseksi (Laskenta-alustoilla ja käytettävissä olevilla ohjelmointiabstraktioilla on tietysti myös merkittävä rajaava rooli jos laskenta-alusta on tehoton tai varsinainen ohjelmointityö tehotonta, ei myöskään paljoa saada aikaan)

39 Moduuli III: Uuden äärellä I 1. Lämmittelykierros Tietokoneen mysteeri 2. Bitit ja data 3. Kombinaatiologiikka 4. Sekventiaalilogiikka 5. Ohjelmoitava kone II Abstraktiot ja analyysi III Funktionaalinen ohjelmointityyli Suorituskykyanalyysi Rekursio Algoritmit ja informaation esitykset Uuden äärellä 10. Rinnakkaisuus ja samanaikaisuus 11. Virtualisointi ja skaalautuvuus 12. Ohjelmoitava vai oppiva kone? (Intel Xeon Phi Knights Landing -lastu, 72 suoritusydintä, 8 miljardia transistoria, 14 nanometrin litografia) (Google Hamina)

40 Kysyttävää, kommentteja, palautetta liittyen Moduuliin 2?