Assosiaatiot, konstituentit Kieli merkitys ja logiikka Luento 5: Assosiaatiot, konstituentit Luento 5 125-134,, Konstituentit 104-107, Turingin kone Huom! Lukua 5.2, Assosiationismin teoriaa, ja siihen liittyviä tehtäviä ei tule tenttiin Luento 6: 107-115, Aivot ja luovuus 134 Äärellisten tilojen automaatti Tunnistaminen Äärellisten tilojen automaatti (finite states automaton) on laskennan abstrakti kuvaus. Usein puhutaan myös Markovmallista. Automaatti koostuu: 1. Äärellisestä määrästä tiloja 2. Tilasiirtymistä 3. Äärellisestä aakkostosta (syötemerkit) 4. Alkutilasta 5. Hyväksyvistä lopputiloista Automaatti tunnistaa merkkijonon jos merkkijonolle on olemassa polku automaatin alkutilasta hyväksyvään lopputilaan. Automaatti tunnistaa kielen L, jos jokaiselle kielen L merkkijonolle on olemassa polku alkutilasta hyväksyvään lopputilaan. Jos polku päätyy johonkin muuhun kuin hyväksyvään lopputilaan, automaatti hylkää merkkijonon. Automaatin avulla voidaan myös tuottaa merkkijonoja. Saara Huhmarniemi 1
Äärellinen automaatti Sellaista kieltä, jonka kaikki ilmaukset voidaan periaatteessa muodostaa äärellisen automaatin avulla kutsutaan äärellisten tilojen kieleksi. Sanomme myös, että äärellisten tilojen automaatti tunnistaa jonkun kielen. Määritelmässä sana "kieli" on merkitykseltään laajempi, se sisältää luonnollisten kielten lisäksi myös keinotekoiset kielet. Kieli voi siis olla keinotekoinen, määritellään esimerkiksi aakkoston {a,b} kieli L: L={b, aba, abba} Assosiatiivisia malleja vahvempia kognitiivisia malleja ovat komputationaaliset mallit. Assosiatiivisessa mallissa ei ole muistia: ainoa tieto, joka mallilla on kullakin hetkellä, on tila, jossa malli sillä hetkellä on. Tilojen riippuvuuksia toisistaan ilmaistaan haarautumilla mallissa. Tila kantaa siis tietoa siitä, mitä on tapahtunut aikaisemmin. Assosiatiivisen mallin muistin täytyy ulottua melko kauas, sillä riippuvuudet eivät koske ainoastaan vierekkäisiä sanoja. Me nukuimme, söimme ja lauloimme. Minä halusin Pekan korjaavan autoni. Tässä viimeisen sanan taivutus riippuu olennaisesti ensimmäisestä sanasta. Kuinka kauas riippuvuussuhde voi ulottua? *Huomenna sataa, niin maa kastuu Jos huomenna sataa, niin maa kastuu. Tässä automaatti ei saa hyväksyä sanaa niin, ellei aiemmin ole esiintynyt sana jos. Mitä tapahtuu jos väliin jäävää osuutta kasvatetaan? Jos [ ulkona sataa tai kasteluletku on unohtunut päälle ] niin maa kastuu Saara Huhmarniemi 2
Assosiatiivisen mallin muisti Jos [ ulkona sataa tai kasteluletku on unohtunut päälle ] niin maa kastuu Tämän lauseen rakenne on Jos S1 niin S2. Nyt S1 sisältää rakenteen S3 tai S4. S3 = ulkona sataa S4 = kasteluletku on unohtunut päälle Periaatteessa lauseita voi laittaa sisäkkäin loputtomiin, jopa niin että jompikumpi, S3 tai S4 sisältää uuden Jos-niin -rakenteen. Lauseella voi olla useita eri jäsennyksiä, jotka eivät näy lauseen pintatasolla. Pekka ja Merja tai Juha lähtee mukaan. 1. [ Pekka ja Merja ] tai Juha lähtee mukaan. 2. Pekka ja [ Merja tai Juha ] lähtee mukaan. Jos lausetta käsitellään sanajonona, lauseen osien väliset yhteydet voivat kadota. On epäselvää, mihin tai-sanaan joko-sana liittyy. Pekka halusi syödä [ pihviä tai paistia illalliseksi] tai [ siikaa tai kampelaa päivälliseksi]. Assosiatiivisen mallin muisti Pekka keittää kahvin ja Pekka leipoo tai Merja leipoo tai sitten juhlia ei pidetä. S1 ja [S2 tai S3] tai S4. S1=Pekka keittää kahvin S2=Pekka leipoo S3=Merja leipoo S4=Juhlia ei pidetä Puhutaan rajattoman kantaman riippuvuudesta. Jos-niin rakenteen tunnistavan mallin pitäisi sisältää ääretön määrä haarautumia. Kieli on tyyppiä ensin n kappaletta symbolia a, jonka jälkeen saman verran symboleja b. Kielen tulisi muistaa luettujen a-symbolien määrä. Saara Huhmarniemi 3
Assosiatiivisen mallin rajoitukset Turingin kone ja symbolit Koko kielen sääntöjen kopiointi useaan eri kohtaan automaattia upotetut lauseet epätodennäköinen ratkaisu Suuri ja monimutkainen automaatti Ääretön määrä tiloja ja yhteyksiä ongelma! Äärellisellä automaatilla ei voida esittää rajattoman kantaman riippuvuuksia lainkaan Alan Turing (1912-1954) Tavoite: mallintaa ihmisen matemaattista päättelyä Miten matemaatikko prosessoi symboleja paperilla Turingin kone: mekaaninen automaatti joka prosessoi symboleita mekaanisilla säännöillä www.computerhistory.org Turingin kone Turingin kone Siirtyy nauhalla, kirjoittaa merkkejä nauhalle, lukee ja pyyhkii niitä. Äärellinen määrä symboleita ja äärellinen määrä sääntöjä Turingin koneen avulla voidaan suorittaa mikä tahansa laskettava funktio. Tietokone on suuri, nopea Turingin kone Turingin koneen avulla voidaan mallintaa mikä tahansa mekaaninen ja materiaalinen prosessi Vaikka prosessi tai funktio olisi matemaattisesti laskettava, se voi olla käytännössä liian vaikeaa Turingin kone toteuttaa luovuuden, jonka Descartes ajatteli olevan koneelle mahdotonta physics.kenyon.edu Saara Huhmarniemi 4
Biolingvistiikka Konstituentit ja lauserakenteet Sanat ja kielen ilmaisut ovat symboleita Biolingvistiikka kuvaa lauseen muodostamista prosessina, jossa symboleja yhdistelemällä luodaan uusia symboleja Liitostaminen (Merge): sana Pekka liitostetaan sanaan nukkuu uusi kielen ilmaisu Pekka nukkuu uusi ilmaisu voidaan edelleen liitostaa toisiin ilmaisuihin Merja tietää että Pekka nukkuu Assosiationistisen mallin mukaan kielen ilmaukset ovat olemukseltaan sanajonoja. Kielitieteessä ja kognitiotieteessä on omaksuttu vahvempi teoria, jossa lauseet esitetään konstituenttirakenteiden avulla. Konstituenttimallissa kielen luovuus on seurausta rekursiosta. Lauseke ja lausekkeen elementit Lausekkeita Lause jakautuu pienempiin osiin, lausekkeisiin. [Pekka] [näki [ison pahan suden]]. Lausekkeilla on sisäinen rakenne, josta voidaan erottaa pääsana ja sitä määrittävät elementit. Pekka näki [ison pahan suden]. Pekka näki [kognitiotieteen opiskelijan]. Lause, S (sentence) Nominilauseke, NP (noun phrase) kissa, pieni kissa, Pekan koira, pienen pojan suuri auto Adjektiivilauseke, AP (adjective phrase) kaunis, todella ihana, syötävä, Pekan ostama Adverbilauseke, AdvP kauniisti, todella ihanasti Verbilauseke, VP mennä kotiin, syödä leipää, käydä illalla uimassa Saara Huhmarniemi 5
Konstituenttimalli Konstituenttimalli Konstituenttimalli esitetään puurakenteena tai hakasulkein. [ [ Pekka ] [ nukkuu ] ] Konstituentit voivat pitää sisällään lisää rakennetta: [ [ Pitkä poika ] [ nukkuu ] ] Puu päättyy aina terminaalisymboleihin, jotka poimitaan sanastosta. Kieli voidaan kuvata käyttämällä uudelleenkirjoitussääntöjä: S ---> N V N ---> Pekka, Merja,... V ---> nukkuu syö,... Konstituenttimalli S ---> NP VP NP ---> (A) N VP ---> V S* VP ---> V NP S* ---> C S N ---> Pekka, Merja, poika,... A ---> pieni, suuri,... V ---> rakasti, etsi,... C ---> että, vaikka, mutta,... Tehtävä Pieni poika etsi Merjaa. Pieni poika nauroi koska Merja rakasti häntä. S ---> NP VP NP ---> (A) N VP ---> V S* VP ---> V NP S* ---> C S N ---> Pekka, Merja, poika,... A ---> pieni, suuri,... V ---> rakasti, etsi,... C ---> että, vaikka, mutta,... Saara Huhmarniemi 6
Konstituenttimalli Rekursio Jos [ sinä haluat mennä ulos tai sinulla on tylsää], niin [voin ottaa sinut mukaan]. S ---> Jos S niin S S ---> S tai S S ---> N V N ---> sinä,... V ---> haluat,... Konstituenttimallissa kielen luovuus on seurausta rekursiosta. Rekursio matematiikassa: funktion määritelmä sisältää viittauksen funktioon itseensä. Rekursio tietojenkäsittelytieteessä: metodi voi kutsua itseään. Rekursio Matematiikassa esim. Rekursio Biolingvistiikka: operaatio voi periaatteessa käsitellä omaa tulostettaan uutena syötteenään Liitostaminen (Merge) Kieliopin kuvauksessa konstituentin uudelleenkirjoitussäännöt sisältävät viittaukseen konstituenttiin itseensä. Esimerkiksi luennolla käsitelty sivulausesääntö: S ---> CS S ---> NP VP Saara Huhmarniemi 7
Rekursio kielessä Rekursio kielessä: esimerkkejä Upotetut lauseet: Koira, joka haukkui kissaa, joka jahtasi hiirtä, joka söi juuston, joka oli hienointa laatua, karkasi viime yönä. Pekka sanoi että Merja toivoi että Jukka leikkaisi nurmikon. Adjektiivit (ja adjunktit yleensä): Hän rakastui siihen älykkääseen, kohteliaaseen, miellyttävään, kaikin puolin ihailtavaan mieheen. Hän kaatui eilen yhtäkkiä huomaamatta puuta sukset jaloissaan. Rinnastuskonjunktiot Pekka halusi mennä kauppaan ja Merja halusi lähteä valokuvaamoon ja Minna päätti siivota talon ja Jukka päätti leikata nurmikon. NP voi sisältää muita NP:tä auto [ [ pienen pojan ] auto ] [ [ [ autiolla kadulla ] leikkivän pienen pojan ] auto ] VP muita VP:tä Pekka halusi [ tavata Merjan ] jne. Rekursio Esiintyy luonnossa Rekursion ajatellaan olevan ihmisen kielelle erityinen. Apinat eivät ole tähän mennessä koetilanteessa oppineet eroa kielen a n b n ja kielen (ab) n välillä. Jotkut lintulajit kuten kottarainen voivat oppia tunnistamaan rekursiivisen kielen a n b n. (pärinä pärinä liverrys liverrys) Saara Huhmarniemi 8