Kognitiivinen mallintaminen Kognitiivinen mallintaminen I http://www.helsinki.fi/~huhmarni/cog241/ Johdanto Mallintaminen tieteellisenä metodina Kognitiotieteen mallinnusparadigmat konnektionistinen symbolinen dynaaminen Tekoäly Johdatus logiikkaan "Mallit" tieteessä Kuvaileva ja selittävä malli metamatemaattinen malli analogiamalli matemaattinen malli simulaatiomalli malliorganismi pienoismalli malliesimerkki (prototyyppi) Kuvaileva malli on kohteensa idealisaatio Anatominen malli aivoista perustuu aivojen tunnettuihin ominaisuuksiin Skaalautuva malli aurinkokunnasta perustuu tunnettuihin planeettojen kokoihin, kiertoratoihin ja nopeuksiin. Selittävän mallin kohdetta ei voi suoraan havainnoida. Kaasun molekyylimalli perustuu idealisaatioihin ja yleistyksiin molekyylien ei-havaittavista ominaisuuksista: painosta, muodosta ja nopeudesta. Saara Huhmarniemi 1
Abstraktio ja idealisaatio Abstraktion ja idealisaation avulla mallista tulee käytännöllinen ja siinä esiintyvät säännönmukaisuudet tulevat esiin. Abstraktio: kohteen ominaisuuksien huomiotta jättäminen. Idealisaatio: ominaisuuksien yksinkertaistaminen ja "siistiminen". Selittävä malli Selittävä malli auttaa luomaan hypoteeseja prosesseista ja rakenteista jotka eivät ole suoraan havaittavissa. Näillä hypoteeseilla voidaan selittää havaittavia ilmiöitä. Malli perustuu usein analogiaan jo olemassa olevasta kohteesta. Samasta kohteesta voidaan tehdä erilaisia malleja käyttötarkoituksen mukaan. Mallit muuttuvat uusien havaintojen ja teorioiden myötä. näkemys taustateoria Malli ja teoria havainnot Mallien käyttö Tilojen ja prosessien analyysi Representaatiot mahdollisista kohteen ominaisuuksista Malleilla tehdyt kokeet tiedon lähteenä Parhaimmillaan malli "ennustaa" mallinnettavan systeemin ominaisuuksia. matemaattinen rakenne malli ilmiö Saara Huhmarniemi 2
Tehtävä Mitä kognitiotiede tutkii? Keskustele 2-3 hengen ryhmässä aiheesta: 1. Mitä ihmisen kognition ominaisuuksia voidaan mallintaa? Mitä ei voida? 2. Mitä hyötyä malleista on kognitiotieteessä? havaitseminen ajattelu TIETO oppiminen muisti kieli Mitä kognitiotiede tutkii? havaitseminen mielikuvat nativismi & empirismi ajattelu ongelmanratkaisu. päättely, päätöksenteko käsitteet tiedostamaton päättely induktio TIETO kieli oppiminen uskomuksen muodostaminen muisti sääntöjärjestelmät & säännön seuraaminen Tieto Tieto on koodattu representaatiohin Tiedon käsitettä ei käytetä samoin kuin vaikkapa (arki)psykologiassa tai filosofiassa tosi ja perusteltu uskomus Propositionaaliset asenteet a uskoo että P Saara Huhmarniemi 3
Tieto Representaatioihin koodattu (semanttinen) informaatio a:n kognitiivinen systeemi X sisältää tiedon siitä että P. To Know vs. To Cognize: Kogniseeraaminen on kognitiotieteen näkökulma tietämiseen subsystem X cognizes that P. Representaatiot Ympäristön muuttujat representaatiot sisältävät informaatiota organismin ympäristöstä Abstraktit tieto-objektit representaatiot ovat tietoedustuksia, ne edustavat lukuja, propositioita jne. tiedonkäsittelyoperaatiot on määritelty näiden tieto-objektien avulla Cognition Cognitive modeling representation information computation Competence to acquire, store and process information, and use it to to guide behavior in a complex environment symbolic computation [logic] Universal Turing machine VonNeumann architecture Syntactic structures Symbol systems, information processing languages dynamical systems neural computation [neuroscience] Boolean networks & logical neurons Hebbian plasticity Perceptron Cybernetics: information, feedback & control [physics, geometry] Macroscopic fluid physics, chaos Ecology & population genetics Cellular physiology & morphogenesis Cellular automata, self-organization, genetic algorithms, A-life & robotics Cognitive science & neuroscience? Saara Huhmarniemi 4
How much of the physical realization do you need to take into account? None cognition viewed as abstract, disembodied multiple realization, lower level mere implementation no relevant generalizations Basic organizational principles how a neural (parallel & distributed) system represents and processes information not biological (e.g. metabolic) constraints Key parameters the variables whose evolution in time the dynamic of the system determines these need not all be in the head Kognitiotieteen mallinnusparadigmat symbolinen mallintaminen: perustuu semanttisten objektien (symbolien) algoritmiseen manipulaatioon konnektionistinen mallintaminen: perustuu yksinkertaisten, hermosolun kaltaisten laskennallisten yksikköjen muodostamiin verkkoihin dynaaminen.. Neuraalinen mallintaminen keinotekoinen hermoverkko, neuroverkko: malli, joka kuvaa aivojen ja hermosolujen tiedonkäsittelyominaisuuksia neuraalilaskenta: laskenta, jonka perustana on hermosoluverkkoa muistuttava neuraalinen organisaatio. Neuraalinen mallintaminen: tausta biologiassa Hermokudos on erikoistunut informaation kuljettamiseen ja muokkaamiseen. Ihmisen aivoissa on noin 10^10 10^11 neuronia, joista jokainen on yhteydessä jopa tuhansien muiden hermosolujen kanssa. Informaation kuljetus perustuu sähköisiin ja kemiallisiin signaaleihin. Saara Huhmarniemi 5
Tausta biologiassa Yksittäinen hermosolu ei käsittele kovinkaan paljon informaatiota. Psykologiset toiminnot perustuvat suurten hermosolumäärien toimintaan. Esimerkiksi oppimisen ajatellaan tapahtuvan rakentamalla ja muuttelemalla neuroneiden välisiä yhteyksiä. Neuraalinen mallintaminen: historia Neuraalimallinnus syntyi 1900-luvun puolivälissä, innoittajinaan psykologiassa muistin assosiaatioteoria ja biologiassa hermosolujen tutkimuksen kehittyminen Aristoteles: muisti koostuu elementeistä, jotka linkittyvät toisiinsa Brittiläiset empiristit (Berkeley, Locke, Hume): tieto on viimekädessä johdettu havainnoista ja ajattelu on havaintojen kautta saatujen kokemusten yhdistelyä. assosiationismi Aivot ovat ainoastaan assosiaatioiden tallettamiseen ja hakuun tarkoitettu koneisto. Neuraalinen mallintaminen: historia Assosiationismi, aivotutkimuksen kehitys ja edelleen matematiikan ja tietojenkäsittelytieteen kehitys mahdollistivat neuraaliverkkojen formaalin tarkastelun. Donald Hebb (1949) The Organization of Behavior esitti, että oppiminen perustuu neuronien välisten synaptisten yhteyksien muutokseen. Neuraalinen mallintaminen: historia Hebbin laki: kun yksiköt A ja B aktivoidaan yhtä aikaa, niiden välinen linkki vahvistuu Neurons that fire together, wire together" Linkkien vahvuus voidaan ilmaista numeerisesti. Ajatus neuraaliverkon oppimisalgoritmista otettiin assosiatiivisista malleista. Saara Huhmarniemi 6
Formaali neuroni on yhteydessä toisiin neuroneihin. Kun solu aktivoituu, se lähettää signaalin, joka kulkee linkin (aksonin) välityksellä muihin soluihin. Oppiminen: kun signaali kulkee neuronista toiseen, linkin painoarvoa kasvatetaan. Formaali neuroni Keinotekoisten neuroverkkojen vahvuuksia Neuraalimallinnus soveltuu hyvin luokitteluun ja hahmontunnistukseen. Neuroverkot pystyvät erottelemaan kohinaisesta eli häiriöisestä aineistosta olennaisia piirteitä. Keinotekoiset neuroverkot ovat oppivia järjestelmiä. ohjattu oppiminen ohjaamaton oppiminen Neuroverkot Hermosoluverkot prosessoivat tietoa rinnakkaisesti, mikä tarkoittaa että toiminto suoritetaan osissa, yhtäaikaisesti eri puolilla verkkoa sarjallisessa prosessoinnissa tehtävä jaetaan osiin, jotka prosessoidaan peräkkäin. Neuraalinen mallintaminen Nykytutkimuksessa neuroverkon yhteys biologisten hermosolujen toimintaan lähes kadonnut. Neuraalimallinnusta käytetään mm. tekoälytutkimuksessa ja robotiikassa mutta myös taloustieteessä, kielitieteessä ja fysiikassa jne. Esimerkiksi näillä sovellusaloilla tarkoituksena ei ole mallintaa biologisen organismin kognitiivisia ominaisuuksia. Saara Huhmarniemi 7
Neuraalinen mallintaminen Neuraalimallinnusta pidetään kuitenkin vaihtoehtona symboliselle mallintamiselle kognitiivisten prosessien kuvaustapana. Toinen vaihtoehto on pitää neuraalimallinnusta symbolisten prosessien toteutustasona (implementation level). Symbolic computation Symbolic (?) representation Rule-governed combination and processing of representations Computational theory Physical symbol system hypothesis (PSSH) NB. not computer metaphor, not just symbolic models a form of functionalism (structural/causal organization vs. material composition/behavioral disposition) Language of thought combinatorial syntax compositional semantics discrete? unidimensional representations? serial processing? processor/memory distinction? Kognitio komputaationa Kognitiivinen prosessi voidaan esittää laskettavana funktiona. Onko tämä totta? Esimerkiksi päättely on kognitiivinen prosessi, joka voidaan esittää loogisen funktion evaluaationa. Kognitio = komputationaalinen informaationprosessointi, "tiedon käsittely" Ajattelu = kognitiota = komputaatiota? Formal systems Computational hypothesis or physical symbol system hypothesis considers the mind/brain as a formal system. Saara Huhmarniemi 8
Tehtävä Mitä tarkoitetaan formaalilla systeemillä? Miten formaaleja menetelmiä voidaan käyttää kognitiotieteessä? Formal systems Knowledge can be formalized; semantic distinctions ( information ) can be coded into formal structure of expressions rules for determining well formed expressions ( grammar ) Descartes, Leibniz, Boole, Hilbert, Frege, Turing Formal systems Intelligence can be formalized; rules for transforming representations into other representations ( rules of inference ) some rules are rational or semantically coherent (e.g. truth preserving), others are not: these constitute a system of inference rules of inference can be finitely characterized, and automated (carried out by a mechanical system): algorithmic vs. mental calculation Formal system hypothesis: mental calculation is algorithmic Formal system It is an empirical question what properties of the mind/brain (if any) qualify as a computational system It is an empirical question which of our thoughts, memories, beliefs etc. are explicitly represented (if any) Descartes, Leibniz, Boole, Hilbert, Frege, Turing Saara Huhmarniemi 9
Formal system Mallinnuksen kohteena oleva "ajattelu" esitetään formaalisti. Mallinnettavan kohteen ympäristö, syötteet ja tulosteet esitetään formaalisti. Logiikan rooli 1. Logiikka analyyttisenä työkaluna 2. Logiikka tiedon ja päättelyn formalismina 3. Logiikka ohjelmointikielenä 1. Logiikka analyyttisenä työkaluna Älykkäs systeemi sisältää tai käyttää tietoa. Tieto esitetään tietorakenteina, tiedon representaatioina. -> MUOTO Jotta systeemin tieto olisi hyödyllistä, sen täytyy olla suhteessa ulkomaailmaan. Ainakin osalla representaatioista on oltava totuusarvoinen semantiikka. -> MERKITYS Logiikan (matemaattisen logiikan, malliteorian) avulla voidaan määritellä systemaattinen relaatio tiedon esitystavan ja merkityksen välille. 2. Logiikka tiedon ja päättelyn formalismina Formaali logiikka on yleisin tiedon esitysformalismi tekoälyssä. Logiikan käyttäminen päättelyn formalismina ei ole ongelmatonta: looginen päättely ei ole tarpeeksi tehokasta. Saara Huhmarniemi 10
3. Logiikka ohjelmointikielenä Standardin loogisen päättelyn suorittaminen tietokoneohjelmana: PROLOG LISP Logiikkaohjelmoinnilla on ratkaistu usein tavanomaisia ohjelmointitehtäviä. Ohjelmointikielet soveltuvat inference systeemeihin vain rajoitetusti. Saara Huhmarniemi 11