OHJ-2300 Johdatus tietojenäsittelyteoriaan Sysy 2008 1 2 Organisaatio & aiataulu Luennot: prof. Tapio Elomaa P1: Ti 14-16 TC 103 ja to 14 16 TC 133 P2: Ti 14-16 TB 219 ja to 12 14 TB 224 26.8. 20.11. Jussi Kujalan väitös e 24.9. lo 12 R G202 Torstaina 25.9. ei luentoa perioditauo 6. 10.10. Viioharjoituset 8.9. DI Jussi Kujala (DI Timo Aho), ma 12 14 TC 131 Koe: e 26.11.2008 lo 9 12 Arvostelu: 30+8=38 {elomaa, ujala2}@cs.tut.fi 1
3 Viioharjoituset Viioharjoitusiin osallistuminen on erittäin suositeltavaa Valmiudesta esittää taululla vastaus ysymyseen saa ustain merinnän Kussain harjoitusissa on n. 6 tehtävää aiiaan merintöjä voi erätä n. 6 10 = 60 appaletta Merintöjä 20% (n. 12) 30% (n. 18) 40% (n. 24) 80% (n. 48) 90% (n. 54) Lisäpisteet 1 2 3 7 8 4 Arvostelu Kurssista voi selvitä parhaalla mahdollisella arvosanalla pelällä tentillä, mutta tentti (max 30 p.) ei ole aivan helppo sisi annattaa osallistua viiottaisiin lasuharjoitusiin, joista saa lisäpisteitä (max 8 p.) ja joiden tehtäviä itsenäisesti ratomalla oppii urssin näennäisesti vaieita asioita Arvosana määräytyy oletettavasti seuraavasti: pisteet 15 18 21 24 27 arvosana 1 2 3 4 5 2
5 Materiaali Tällä toteutuserralla oppiirja on Michael Sipser: Introduction to the Theory of Computation, Second Ed. (International Ed.), Thomson, 2006 Melein miä tahansa aiheen oppiirja attaa urssilla äsitellyt asiat Valmista monistetta ei ole, luentoalvot pannaan veroon luentojen tahtiin http://www.cs.tut.fi/urssit/ohj-2300/ http://www.cs.tut.fi/~elomaa/opetus/ohj-2300-08.html/ Tentti perustuu luentoihin (ei siis ysinomaan alvoihin) 6 Luentoaiataulu 1. Johdanto (1) 2. Kertausta: automaatit, ieliopit ja ielet (2-3) Säännölliset ielet Kontestittomat ielet 3. Lasettavuusteoria (4-7) Lasennan malleja Rateavuus Palautuset Edistyneitä aiheita 4. Lasennan vaativuusteoria (8-12) Aiavaativuus Tilavaativuus Käytännöllinen rateavuus Edistyneitä aiheita 3
7 1. Johdanto Tällä urssilla annetaan johdatus tietojenäsittelyn matemaattis-teoreettiseen perustaan Tietojenäsittelijän yleissivistyseen uuluvaa tietoa Tavoitteena on saada perusymmärtämys siitä minä tyyppisiä ongelmia tietooneella voi periaatteessa rataista Vielä täreämpää on havaita mille rateavista ongelmista voi ohjelmoida tehoaan rataisun Kurssilla tarastellut tuloset ovat fundamentaalisia, tulevien vuosien tehonlisäyset tietooneissa eivät tule poistamaan näiden tulosten meritystä 8 1.1 Lasennalliset ongelmat Lasennallinen ongelma voidaan mallintaa tietooneella rataistavasi; esim. aritmetiia, aaostaminen, palanlasenta, urssiirjanpito,... Ongelman rataisevaa ohjelmaa yleisempi esitys usein ymmärrettävämpi ja mahdollistaa esim. analysoinnin Ongelmalla on tapausia (= syötteitä), rataisu on algoritmi, joa liittää uhunin tapauseen vastausen (= tulosteen) Tapaus ja sen vastaus ovat äärellisesti (esim. bittijonoin) esitettäviä. Tapausia voi olla ääretön määrä. Lasennallinen ongelma on uvaus äärellisesti esitettävien tapausten jouosta äärellisesti esitettävien vastausten jouoon. 4
9 Esityset Äärellinen esitys = aaoston merijono Aaosto on äärellinen, epätyhjä jouo symboleita Esim. binääriaaosto {0, 1}ja latinalainen aaosto { A, B,, Z } Merijono on äärellinen järjestetty jono aaoston merejä Esim. 00010 ja TWILIGHT Merijonon x pituus x on siihen sisältyvien merien luumäärä Esim. 00010 = 5 ja TWILIGHT = 8 Tyhjän merijonon pituus = 0 10 Merijonojen yhteenliittäminen eli atenaatio on niiden perusoperaatio. TWILIGHTZONE = TWILIGHTZONE x = 01, y = 10 xx = 0101, xy = 0110, yy = 1010 ja yx = 1001 Kaiilla x on x = x = x Kaiilla x, y on xy = x + y Jos w = xy, niin x on w:n aluosa (prefix) ja y on sen loppuosa (suffix) Aaoston aiien merijonojen jouo on * Esim. = { 0, 1 } * = {, 0, 1, 00, 01, 10, 11, } Muita merintöjä:, ja *= 5
11 Päätösongelmat Lasennallinen ongelma on siis uvaus : * *, missä ja ovat aaostoja Päätösongelmat ovat täreä aliluoa; niissä ongelman tapausen vastaus on yllä tai ei Ne ovat siis muotoa : * { 0, 1 } Joaista päätösongelmaa vastaa niiden tapausten jouo, joilla vastaus on yllä: A = { x * (x)=1} 12 Kääntäen joaista merijonojouoa A vastaa päätösongelma A : * { 0, 1 }, 1, jos x A A (x) 0, jos x A Merijonojouoa A * sanotaan aaoston (formaalisi) ielesi Vastaavaa päätösongelmaa A nimitetään ielen A tunnistusongelmasi Formaalit ielet ja päätösongelmat voidaan samaistaa 6
13 Lasennallisten ongelmien rateavuus Sanotaan, että ohjelma P(x) rataisee lasennallisen ongelman, jos aiilla syötteillä x ohjelma P tulostaa arvon (x) Voidaano aii mahdolliset lasennalliset ongelmat rataista ohjelmin? Ääretön jouo X on numeroituva, jos on olemassa bijetio f: X. Myös äärelliset jouot ovat numeroituvia Bijetio = injetio + surjetio Injetio: f(x 1 ) = f(x 2 ) x 1 = x 2 Surjetio: f(a) = B Ääretön jouo, joa ei ole numeroituva on ylinumeroituva 14 Lause 1.1 Minä tahansa aaoston merijonojen jouo * on numeroituva. Todistus. Oloon ={a 1, a 2,..., a n }. Kiinnitetään mereille ''aaosjärjestys''; oloon se a 1 < a 2 <... < a n. Jouon * merijonot voidaan nyt luetella anonisessa järjestysessä: 1. Ensin luetellaan 0:n mittaset merijonot, sitten 1:n mittaiset, 2:n mittaiset jne. 2. Kunin pituusryhmän sisällä merijonot luetellaan valitussa aaosjärjestysessä 7
15 Tällöin bijetio f: * on 0 1 a 1 2 a 2 n a n n+1 a 1 a 1 n+2 a 1 a 2 2n a 1 a n 2n+1 a 2 a 1 3n a 2 a n n 2 +n a n a n n 2 +n+1 a 1 a 1 a 1 n 2 +n+2 a 1 a 1 a 2 16 Lause 1.2 Minä tahansa aaoston päätösongelmien jouo on ylinumeroituva. Todistus. Meritään llä aiien :n päätösongelmien ooelmaa: ={on uvaus * {0, 1} }. Oletetaan, että on numeroituva, so. on olemassa aii :n aliot attava numerointi = { 0, 1, 2,... }. Oloon *:n merijonot Lauseen 1.1 todistusen anonisessa järjestysessä lueteltuina x 0, x 1, x 2, 8
17 Muodostetaan uusi päätösongelma : * { 0, 1 }: 1, jos i ( x i ) 0 ( x i ) 0, jos i ( x i ) 1 Kosa on aii :n päätösongelmat attava numerointi, niin. Täten = jollain. Tällöin 1, jos ( x ) 0, jos ( x ) ( x ) 0 ( x ) ( x ) 1 Tämä on ristiriita, joten tehty oletus ( on numeroituva) ei voi pitää paiaansa. Näin ollen on ylinumeroituva. 18 Todistusteniia on ns. Cantorin diagonaaliargumentti. Kosa esim. Java-ohjelmat ovat loppujen lopusi vain ASCII-meristön merijonoja, niin niitä on Lauseen 1.1 muaan vain numeroituva jouo Lasennallisten ongelmien jouo on uitenin Lauseen 1.2 perusteella ylinumeroituva Näin ollen aiista lasennallisista ongelmista voidaan Java-ohjelmin rataista vain häviävän pieni osa Sama ongelma on millä tahansa ohjelmointiielellä Rateamattomat ongelmat äsittävät myös mieleniintoisia / äytännöllisiä ongelmia 9
19 Georg Cantor (1845-1918) Synt. Pietari Franfurtiin 1856 Tri (Berliini) 1867 Halle 1869- Privatdozent Prof. 1872 Rationaaliluujen numeroituvuus 1973 Jouo-opin teoria 1874 Kontinuumihypot. 1878 2. Kertausta 2.1 Äärelliset automaatit 20 Lasentajärjestelmän, jolla on vain äärellisen monta mahdollista tilaa, toiminta voidaan uvata äärellisenä automaattina Äärellinen automaatti havainnollistetaan usein tilasiirtymäaaviona d d q 0 d q 1. q 2 d q 3 E E q 4 d q 6 d +, - d q 5 10
21 Äärellinen automaatti on viisio M = (Q,,, q 0, F), missä Q on automaatin tilojen jouo, on automaatin syöteaaosto, : Q Qon siirtymäfuntio, q 0 Q on alutila ja F Q (hyväsyvien) lopputilojen jouo. Automaatti M hyväsyy merijonon w = w 1 w 2...w n n jos Q:ssa on tilojen jono r 0, r 1,, r n s.e. r 0 = q 0, (r i, w i+1 ) = r i+1, i = 0,, n-1, r n F. 22 Automaatin M tunnistama ieli on L(M)={w* M hyväsyy w:n } Kieli on säännöllinen, jos join äärellinen automaatti tunnistaa sen Kielten perusoperaatiot ovat yhdiste A B = { x x A x B }, atenaatio AB = { xy x A y B } ja suleuma A* = { x 1 x 2 x 0 x i A i } 11
23 Lause 1.25 Säännöllisten ielten luoa on suljettu yhdisteen suhteen. Toisin sanoen, jos A 1 ja A 2 ovat säännöllisiä ieliä, niin silloin myös A 1 A 2 on säännöllinen. Lause 1.26 Säännöllisten ielten luoa on suljettu atenaation suhteen. 12