TAMPEREEN TEKNILLINEN YLIOPISTO Teknis-luonnontieteellinen osasto

Transkriptio

1 TAMPEREEN TEKNILLINEN YLIOPISTO Teknis-luonnontieteellinen osasto Minna Honkiniemi TEKNILLISEN YLIOPISTON PERUSMATEMATIIKAN OPISKELIJOIDEN OPISKELUORIENTAATIOIDEN JA OPINTOMENESTYKSEN TUTKIMINEN ITSEORGANISOITUVIEN KARTTOJEN AVULLA Diplomityö Aihe hyväksytty Teknis-luonnontieteellisen osastoneuvoston kokouksessa Tarkastajat: prof. Seppo Pohjolainen prof. Harry Silfverberg

2 Alkusanat Tämä työ on matematiikan ja kasvatustieteen poikkitieteellinen tutkimus, joka on tehty Tampereen teknillisen yliopiston matematiikan laitoksella. Työ tukee matemaattisten aineiden opettajan uralle suuntautumistani. Haluankin kiittää Matematiikan laitoksen johtajaa professori Seppo Pohjolaista työn aiheesta. Professori Seppo Pohjolainen ja professori Harry Silfverberg toimivat työn ohjaajina ja tarkastajina. Haluan osoittaa heille erityisen kiitoksen ohjauksesta ja neuvoista. Kiitos myös Perusmatematiikka 2 -opintojakson luennoitsijalle lehtori Merja Laaksoselle mahdollisuudesta aineiston keräämiseen tutkimusta varten. Kiitos työkaverilleni Vesa Laamaselle kärsivällisestä neuvomisesta itseorganisoituviin karttoihin liittyen. Haluan kiittää myös vanhempiani ja Päivi-siskoa, jotka ovat olleet tukenani koko opiskeluajan. Erityinen kiitos myös Jarkolle tuesta ja kärsivällisyydestä sekä Tytti-kummitytölleni, joka on saanut minut väsyneenäkin hymyilemään. Tampereella 8. joulukuuta 2003, Minna Honkiniemi Matti Tapion katu 2 A Tampere minna.honkiniemi@tut.fi i

3 Sisältö TIIVISTELMÄ...iv ABSTRACT...v KÄYTETYT LYHENTEET JA SYMBOLIT...vi 1 JOHDANTO TUTKIMUKSEN LÄHTÖKOHDAT TUTKIMUKSEN KOHDERYHMÄ JA TAVOITTEET TAUSTATIEDOT JA TEORIA MATEMAATTISIA PERUSTEITA Joukko-oppia ja vektorilaskentaa Matriisilaskentaa Tilastomatematiikkaa ITSEORGANISOITUVA KARTTA (SOM) Itseorganisoituvan kartan rakenne Datan esikäsittely Kartan muodostaminen Kartan klusterointi ja visualisointi OPPIMISEN TAITO Lähestymistapoja oppimiseen Opiskeluorientaatiot Matematiikan opiskeluorientaatioita Yliopisto-opiskelijoiden orientaatioita TUTKIMUKSEN TOTEUTUS TUTKIMUKSEN AINEISTO TUTKIMUKSEN AINEISTO ITSEORGANISOITUVIKSI KARTOIKSI ITSEORGANISOITUVIEN KARTTOJEN KÄYTTÖ TUTKIMUKSESSA...44 ii

4 5 TULOKSET SOM-KARTTOJEN TULKINTA Aineistosta muodostettu U-matriisi U-matriisista löydettyjen opiskelijaryhmien tarkastelu komponenttitasojen avulla Miten opiskeluorientaatiot näkyvät? TUTKIMUKSEN LUOTETTAVUUDEN ARVIOINTI MITEN OPISKELIJA-AINES TULISI HUOMIOIDA OPETUKSESSA? TUTKIMUKSEN YHTEENVETO JA POHDINTAA LÄHTEET...96 LIITE A KYSELY PERUSMATEMATIIKKA 2 -OPINTOJAKSON OPISKELIJOILLE LIITE B OPISKELIJOIDEN VASTAUKSET SYÖTEMATRIISIN ARVOIKSI LIITE C KARTTOJEN MUODOSTAMISEEN KÄYTETTY MATLAB-FUNKTIO LIITE D MATLAB-FUNKTIO KOMPONENTTITASOJEN EUKLIDISEN ETÄISYYDEN LASKEMISEEN LIITE E MATLAB-FUNKTIO ITSEORGANISOITUVAN KARTAN KLUSTEROINTIIN iii

5 TAMPEREEN TEKNILLINEN YLIOPISTO Teknis-luonnontieteellinen koulutusohjelma Matematiikan laitos Minna Honkiniemi: Teknillisen yliopiston perusmatematiikan opiskelijoiden opiskeluorientaatioiden ja opintomenestyksen tutkiminen itseorganisoituvien karttojen avulla Diplomityö: 99 sivua, lisäksi 16 sivua liitteitä Tarkastajat: prof. Seppo Pohjolainen ja prof. Harry Silfverberg Rahoittaja: Tampereen teknillinen yliopisto Teknis-luonnontieteellinen osasto Joulukuu 2003 Tiivistelmä Tämän diplomityön tarkoituksena on selvittää, miten neuroverkkoihin kuuluvat itseorganisoituvat kartat soveltuvat yliopisto-opiskelijoiden opiskeluorientaatioiden ja opintomenestyksen tutkimiseen. Itseorganisoituvien karttojen avulla pyrittiin löytämään väline opiskelijoiden ryhmittelyyn. Jos opiskelijat osattaisiin ryhmitellä, opiskelija-aineksen huomioiminen opetusta suunniteltaessa helpottuisi. Tutkimuksen kohderyhmäksi valittiin ne Tampereen teknillisen yliopiston opiskelijat, jotka osallistuivat Perusmatematiikka 2 - opintojaksolle kevätlukukaudella Opintojakso on tarkoitettu ensisijaisesti lukiossa lyhyen matematiikan lukeneille. Itseorganisoituvien karttojen muodostamiseen käytetty aineisto kerättiin kyselylomakkeella. Tämä tutkimus osoittaa itseorganisoituvien karttojen käyttöarvon selvitettäessä opiskelija-aineksen rakennetta. Itseorganisoituvilla kartoilla löydettiin neljä erilaista opiskelijaryhmää, jotka nimettiin: Menestyjät, Passiiviset, Apua kaipaavat ja Puurtajat. Itseorganisoituvien karttojen tekemässä ryhmittelyssä selkeäksi jakavaksi tekijäksi muodostui se, kuinka aktiivisesti opiskelijat osallistuvat opintojaksolla järjestettävään opetukseen ja miten he menestyvät opintojaksolla. Menestyjät-ryhmässä toiset saavuttavat onnistumisen osallistumalla aktiivisesti opetukseen ja toiset itsenäisesti opiskellen. Apua kaipaavat -ryhmän opiskelijoissa on myös sekä aktiivisia että passiivia, mutta menestymistä opintojaksolla ei saavutettu. Puurtajatkin ovat hyvin aktiivisia osallistujia, mutta heille on tärkeämpää hyvä arvosana kuin syvällinen oppiminen. Lähes kaikki Passiiviset-ryhmän opiskelijat ovat lukeneet lukiossa pitkän matematiikan ja he pyrkivät selviämään mahdollisimman vähällä työllä. Aikaisempien tutkimusten opiskeluorientaatioista vain tehtäväorientaatio tuli esille selvänä omana orientaationaan Menestyjät-ryhmän opiskelijoilla. Muilla ryhmillä esiintyi sekä riippuvuusorientaatiota, minää puolustavaa orientaatiota että omistautumatonta orientaatiota. Luentoja tulisi kehittää vuorovaikutteisemmiksi, jotta opiskelijat oppisivat siellä paremmin. Opiskelijoille tulisi antaa selvemmin mahdollisuus kysymysten esittämiseen. Selkeä, paljon esimerkkejä sisältävä oppimateriaali palvelisi useiden opiskelijoiden tarpeita. Opiskelijat toivoivat useampia opettajia harjoituksiin. Tulisikin selvittää mahdollisuuksia käyttää tähän tarkoitukseen mm. niitä Tampereen teknillisen yliopiston opiskelijoita, jotka opiskelevat myös matemaattisten aineiden opettajiksi. iv

6 TAMPERE UNIVERSITY OF TECHNOLOGY Degree program in Science and Engineering Institute of Mathematics Minna Honkiniemi: Studying the Study-Orientation and Study Success of Basic Mathematics Students at Tampere University of Technology Using the Self-Organizing Maps. Master of Science thesis: 99 pages, plus 16 pages in appendices Examiners: Prof. Seppo Pohjolainen, Prof. Harry Silfverberg Funding: Tampere University of Technology Department of Science and Engineering December 2003 Abstract The aim of this Master of Science thesis is to determine how the self-organizing maps, which belong to neural networks, can be exploited in studying the study-orientation and the study success of the students at Tampere University of Technology. The interest in using of the self-organizing maps arose from the desire of finding a tool for grouping of students. If it is possible to group students, it becomes easier to consider students when planning teaching. Students who participated in Basic Mathematics 2 in the spring term 2003 at Tampere University of Technology were chosen to be the target group of this research. The Basic Mathematics 2 study module is meant for students who have studied ordinal level mathematics at upper secondary school. The data for creating the selforganizing maps was gathered by a questionnaire. This research indicates the utility value of the self-organizing maps in student element structure research. Four different student groups were found by applying self-organizing maps. These groups were named Highfliers, Passive students, Help-needies and Beavers. Students success in this study module and the rate of participation in lectures and tutorial sessions were clear dividing factors between the groups. Some Highfliers succeed when they participate actively in lectures and tutorial sessions and others succeed by studying independently. There are both active and passive students in the group of Help-needies, but they do not succeed in the study module. Beavers are also very active participants. However, good grade is more important to them than deep learning. Nearly all Passive students have studied advanced level mathematics at senior high school. In general, they try to pass the study module with as little effort as possible. From study orientations found in previous research, only task orientation was observed in Highfliers group. Dependence orientation, ego-defensive orientation and undedicated orientation occur in all the other groups. Lectures should be designed more interactive in order to guarantee better results in students learning processes. Students should be given clearer opportunities to ask questions. In addition, a training material that includes various examples would meet the needs of most students. Generally, students hoped that there would be several teachers in the tutorial sessions. Those students at Tampere University of Technology who study to become a teacher in mathematics could help fulfill this request. v

7 Käytetyt lyhenteet ja symbolit p q jos p, niin q p q p jos ja vain jos q x on olemassa x x kaikilla x:illä a A a on A:n alkio a A a ei ole A:n alkio tyhjä joukko { x1, x2,, xn} alkioiden x1, x2,, xn muodostama joukko [ x1, x2,, xn ] alkioiden x1, x2,, xn muodostama järjestetty joukko B A B on A:n osajoukko f:a B kuvaus eli funktio f joukosta A joukkoon B A B joukkojen A ja B tulojoukko n n-ulotteinen euklidinen vektoriavaruus s. α() t oppimisnopeuskerroin 25 D syötejoukko 20 h n, n, t naapuruusfunktio 25 ( ) nn c l c () l h t naapurustoydin 25 mn i () t neuroniin i liittyvä mallivektori opetusaskeleella t 24 n i kartan neuroni i 20 n () N c t neuronin n c naapurusto opetusaskeleella t 26 V kartta 20 X syötematriisi itseorganisoituvien karttojen muodostamiseen 22 j () t x opetusaskeleella t valittu syötevektori 24 vi

8 x syötevektorin j k:s alkio 15 jk xk 2 sk kyselylomakkeen kysymykseen k annettujen vastausten otoskeskiarvo kyselylomakkeen kysymykseen k annettujen vastausten otosvarianssi 2 s kysymyksiin k ja l annettujen vastausten otoskovarianssi 17 kl s kysymykseen k annettujen vastausten otoskeskihajonta 17 k s SOM itseorganisoituva kartta (Self-Organizing Map) 3 TTY Tampereen teknillinen yliopisto 1 vii

9 1 Johdanto Yliopisto-opiskelijat ovat lähtökohdiltaan hyvin erilaisia. He suuntautuvat opiskeluun kukin omalla tavallaan. Näitä suuntautumisia kuvataan opiskeluorientaatioilla. Niillä viitataan henkilökohtaisiin tavoitteisiin, motiiveihin, odotuksiin ja asenteisiin, jotka ohjaavat opiskelu- ja oppimistoimintoja [38]. Jotta opetus osattaisiin kohdentaa oikein, olisi tärkeää saada selkeä käsitys siitä, millaisia opiskelijat ovat ja millainen opetus olisi heille hedelmällisintä. Tässä työssä tutkitaan, voisiko neuroverkkoja käyttää opiskelijoiden opiskeluorientaatioiden tutkimiseen. Tarkemmin sanoen työssä testataan, miten neuro-verkkoihin kuuluva Teuvo Kohosen 1980-luvulla kehittämä itseorganisoituva kartta ryhmittelee opiskelijoita. Tutkimuksen kohderyhmäksi valittiin kevätlukukaudella 2003 Tampereen teknillisen yliopiston (TTY) perusmatematiikka 2 -opintojaksolle osallistuneet opiskelijat. Opintojakso on suunnattu ensisijaisesti lukiossa lyhyen matematiikan lukeneille. Opintojaksolle osallistuu silti myös pitkän matematiikan lukeneita. Näin ollen kohderyhmän oletetaan olevan melko heterogeeninen ja edustavan hyvin yleisestikin opiskelijajoukkoja, joille Tampereen teknillisen yliopiston matematiikan laitos antaa opetusta massaluentoina. Itseorganisoituvien karttojen toimivuutta opiskelijoiden ryhmittelyn välineenä testataan kohderyhmällä. Aineisto karttojen muodostamiseen hankittiin kohderyhmälle tehdyllä kyselylomakkeella. Tutkimuksen tulokset perustuvat siis itseorganisoituvista kartoista tehtyihin tulkintoihin. Kyselylomakkeessa on myös avoin kysymys, johon saatuja vastauksia käytetään kartoista tehtävien tulkintojen tukena. Tutkimuksen tavoitteena on selvittää, ryhmitteleekö itseorganisoituva kartta opiskelijat järkeviin ryhmiin. Lisäksi tarkastellaan, millaisia tyypillisiä ominaisuuksia ryhmillä esiintyy ja miten itseorganisoituva kartta tuo esiin aikaisempien tutkimusten 1

10 1 Johdanto opiskeluorientaatiot. Vaikka tutkimuksen päätarkoitus on testata itseorganisoituvien karttojen toimivuutta ryhmittelyn välineenä, tutkimuksessa pohditaan myös, miten tässä tutkimuksessa karttojen avulla löydetyt opiskelijaryhmät tulisi ottaa huomioon opetusta suunniteltaessa. Kappaleessa kaksi esitellään tutkimuksen lähtökohdat. Mikä herätti kiinnostuksen tutkimuksen tekemiseen? Mitkä ovat tutkimuksen tavoitteet ja kohderyhmä? Työssä yhdistetään kaksi teoriaa, itseorganisoituvat kartat ja opiskeluorientaatiot, jotka ovat aikaisemmin olleet erillään Kappaleessa kolme kerrotaan omissa alaluvuissa näistä teorioista. Kappaleessa neljä selitetään tutkimuksen toteutuksesta. Kerrotaan tarkemmin kyselylomakkeesta, jolla aineisto kerättiin ja miten se saatiin sopivaa muotoon itseorganisoituvien karttojen muodostamista varten. Kappaleessa neljä kerrotaan myös, miten itseorganisoituvia karttoja käytetään tutkimuksessa. Kappale viisi koostuu pääasiassa itseorganisoituvien karttojen tulkinnasta. Lisäksi on pohdittu tutkimuksen luotettavuuteen vaikuttavia asioita ja miten opiskelija-aines tulisi huomioida opetuksessa. Kappale kuusi on yhteenveto. 2

11 2 Tutkimuksen lähtökohdat Teuvo Kohosen vuonna 1982 kehittämä itseorganisoituva kartta (Self-Organizing Map, SOM) on neurolaskennan menetelmä, jota käytetään moniulotteisten datajoukkojen ryhmittelyyn ja visualisointiin. Se on löytänyt tiensä monille sovellusaloille, kuten teollisuusprosessien valvontaan, puheentunnistukseen ja robotiikkaan [5]. Tässä työssä selvitetään, kuinka itseorganisoituva kartta soveltuu yliopisto-opiskelijoiden ryhmittelyyn. Itseorganisoituvan kartan toimivuutta opiskelijoiden ryhmittelijänä testataan valitulla kohderyhmällä. 2.1 Tutkimuksen kohderyhmä ja tavoitteet Opiskelija-aineksen heterogeenisyys on kasvanut korkeakoulutuksen "massoittumisen" myötä. Opiskelija voi olla yhtä hyvin lukiosta suoraan tullut ylioppilas kuin keski-ikäinen perheen äiti, jolla on takanaan usean vuoden työkokemus. Opiskelijoiden erilaiset taustat vaikuttavat myös tapoihin, joilla he suhtautuvat opiskeluun. [23] Myös yliopistoon tulevien aikaisemmat matematiikan opinnot poikkeavat toisistaan. Toiset ovat lukeneet lukiossa pitkän matematiikan, toiset lyhyen ja osa ei ole käynyt lukiota lainkaan. Lukiossa lyhyen matematiikan kirjoittaneilla on mahdollisuus päästä opiskelijaksi Tampereen teknilliseen yliopistoon (TTY) kahdella eri tavalla: menestymällä hyvin valintakokeissa tai soveltuvuusarvioinnin perusteella. Jälkimmäinen on tarkoitettu ainoastaan Suomessa ylioppilastutkinnon suorittaneille, jotka ovat saaneet lyhyestä matematiikasta vähintään arvosanan magna cum laude approbatur. Soveltuvuusarvioinnin kautta hyväksyttyjen opiskelijoiden määrä vaihtelee vuosittain. Vuonna 2002 heitä otettiin sisään 50 opiskelijaa, kun kaikkiaan hyväksyttyjä opiskelijoita oli Pitkän matematiikan kirjoittaneet eivät voi hakea TTY:oon soveltuvuusarvioinnin kautta. [34, 35] 3

12 2 Tutkimuksen lähtökohdat 2.1 Tutkimuksen kohderyhmä ja tavoitteet Joillakin opiskelijoilla on havaittu olevan vaikeuksia yliopiston perusmatematiikan opintojaksoilla. Tästä syystä valittiin tutkimuksen kohderyhmäksi teknillisen yliopiston opiskelijat, jotka osallistuivat keväällä 2003 Perusmatematiikka 2 (PeMa2) - opintojaksolle. Se on tarkoitettu ensisijaisesti lukion lyhyen matematiikan suorittaneille. Opintojaksolle osallistui keväällä opiskelijaa. Opintojakso kesti koko kevätlukukauden ja sen suorittamisesta sai viisi opintoviikkoa, joka vastaa 200 tunnin työpanosta. Opintojaksolla oli luentoja viisi tuntia viikossa 14 viikon ajan ja laskuharjoituksia kaksi tuntia viikossa 13 viikon ajan. Jokaisessa laskuharjoituksessa oli kymmenen tehtävää, joita opiskelijoiden oli mahdollista laskea itse ennen laskuharjoitustilaisuutta. Siellä joko harjoitustenpitäjä tai opiskelijat ratkaisivat tehtävät taululle. Joka toinen viikko oli kahden tunnin tietokoneharjoitukset, joissa tehtäviä ratkaistiin tietokoneen avulla. [16] Opintojaksolla oli myös mahdollisuus osallistua laskentailtapäivään kerran viikossa. Iltapäivän aikana sai kysellä kyseisen viikon harjoituksista ja laskea niitä opettajan ohjauksella. Opintojakson suorittamiseen oli kaksi vaihtoehtoa: lopputentti tai neljä välikoetta. Jotta kurssi oli mahdollista suorittaa välikokeilla, tuli laskea 40 prosenttia laskuharjoituksista ja osallistua kuudesta tietokoneharjoituskerrasta vähintään viiteen. Jos opiskelija laski harjoitustehtäviä enemmän kuin 40 prosenttia, hänellä oli mahdollisuus saada niistä lisäpisteitä välikokeisiin sitä enemmän, mitä enemmän harjoituksia hän oli tehnyt. [16] PeMa2-opintojaksoon osallistuville opiskelijoille tarjottiin ylimääräistä, vapaaehtoista matematiikan pienryhmäopetusta. Pienryhmäopetus keskittyi lähinnä perusasioihin ja se oli suunnattu niille, jotka olivat saaneet ensimmäisestä perusmatematiikan opintojaksosta (PeMa1) arvosanaksi 0, 1 tai 2, parhaan arvosanan ollessa 5. Näitä opiskelijoita oli PeMa2-opintojaksolla noin 40. Kokeiluun osallistui 15 opiskelijaa. Pienryhmä kokoontui kerran viikossa puolentoista tunnin ajaksi koko kevätlukukauden 2003 ajan. Liitteessä A olevalla kyselyllä on saatu aineisto, jolla voidaan testata itseorganisoituvan kartan toimivuutta opiskelijoiden ryhmittelijänä. Tutkimuksen yksi tarkoitus on erityisesti selvittää, löytääkö itseorganisoituva kartta aineistosta opiskelijaryhmiä, jotka suuntautuvat samalla tavalla opiskeluun. Jotta vertailu aikaisempiin tutkimustuloksiin olisi helpompaa, kysymyksien laatimisessa on käytetty apuna aikaisempien tutkimusten kyselyjä. Raija Yrjönsuuri tutki väitöskirjassaan [42] 1980-luvulla lukiolaisten suuntautumista 4

13 2 Tutkimuksen lähtökohdat 2.1 Tutkimuksen kohderyhmä ja tavoitteet matematiikan opiskeluun eli matematiikan opiskeluorientaatioita. Hänen kyselyssään käyttämiä väittämiä on muokattu tässä tutkimuksessa teknilliseen yliopistoon sopiviksi. Kyselystä kerrotaan tarkemmin kappaleessa 4 Tutkimuksen toteutus. Lopullisen kohderyhmän muodostavat kyselyyn vastanneet PeMa2-opintojakson opiskelijat, joita on yhteensä 84. Vaikka PeMa2-opintojakso onkin tarkoitettu lukiossa lyhyen matematiikan lukeneille, kuvasta 2.1 selviää, että lähes kolmasosa kohderyhmän opiskelijoista on lukiossa pitkän matematiikan lukeneita. Mukana on myös sellaisia opiskelijoita, jotka eivät ole käyneet lukiota lainkaan. 30 % 4 % 66 % Suorittanut lyhyen matematiikan Suorittanut pitkän matematiikan Ei ole käynyt lukiota Kuva 2.1 Tutkimuksen osallistuneet PeMa2-opintojakson opiskelijat keväällä Aikaisemmissa tutkimuksissa opiskelijoiden orientaatioita on tutkittu mm. faktorianalyysin ja erilaisten klusterointimenetelmien avulla. Tässä työssä ei esitellä muita menetelmiä eikä tehdä menetelmien välistä vertailua. Työn päätavoite on selvittää, ryhmitteleekö itseorganisoituva kartta opiskelijat järkeviin ryhmiin ja jos sellaisia ryhmiä muodostuu, näkyvätkö niissä aikaisemmissa tutkimuksissa esille tulleet opiskeluorientaatiot. Lisäksi pohditaan, mitkä ovat itseorganisoituvan kartan mahdollisuudet tulevaisuudessa toimia opiskelijoiden ryhmittelyn välineenä. Voisiko itseorganisoituvan kartan avulla esimerkiksi päätellä jotain yleistä opiskelija-aineksesta, jonka avulla voitaisiin kehittää opetusta enemmän opiskelija-ainesta huomioivaksi? 5

14 3 Taustatiedot ja teoria Työssä yhdistetään kaksi aikaisemmin toisistaan erillään ollutta asiaa, itseorganisoituva kartta ja orientaatioteoria. Molemmista aiheista löytyy yksistään paljon aikaisempia tutkimuksia. Itseorganisoituvaan karttaan liittyy paljon matemaattisia peruskäsitteitä, jotka on esitetty omassa alaluvussa 3.1 ennen varsinaista itseorganisoituvan kartan esittelyä kappaleessa 3.2. Matemaattisten perusteiden kirjoittamiseen on käytetty lähteitä [21, 27, 28, 29, 36, 47]. Opiskeluorientaatioita käsitellään kappaleessa 3.3 Oppimisen taito, jossa luodaan katsaus tuttuun, mutta silti moniselitteiseen oppimiseen. 3.1 Matemaattisia perusteita Joukko-oppia ja vektorilaskentaa Alkio ja joukko Joukko-opin peruskäsitteet ovat alkio ja joukko sekä niiden välillä vallitseva suhde: alkion kuuluminen joukkoon. Perusjoukoksi E sanotaan kaikkien niiden alkioiden joukkoa, jotka tulevat esille annetussa yhteydessä. Tässä diplomityössä perusjoukkona on reaalilukujen joukko, josta käytetään merkintää. Perusjoukon tietyt alkiot muodostavat joukon, jota merkitään isolla kirjaimella A, B, C, X, Y,. Merkintä x A tarkoittaa, että alkio x kuuluu joukkoon A. Jos alkio x ei kuulu joukkoon A, merkitään x A. Äärellinen joukko Joukko C on äärellinen, jos sen alkioiden lukumäärä on äärellinen. Äärellinen joukko C voidaan kirjoittaa { c c c } C = 1, 2,, n. Joukon C alkioiden lukumäärä on n. Alkioille ei ole kiinnitetty keskinäistä järjestystä. Näin ollen esimerkiksi joukko 6

15 3 Taustatiedot ja teoria 3.1 Matemaattisia perusteita { tuvxyz} = { uytxvz} A =,,,,,,,,,,, jne. Jos alkioiden järjestyksellä on merkitystä, ne kirjoitetaan hakasulkujen sisään. Tällöin järjestetty joukko A = [ tuvxyz,,,,, ] [ uytxvz,,,,, ]. Järjestettyä joukkoa sanotaan vektoriksi ja sitä merkitään jatkossa lihavoidulla pienellä kirjaimella x, y, z,. Tyhjä joukko Joukko, joka ei sisällä yhtään alkiota, on tyhjä joukko. Jos joukossa on ainakin yksi alkio, sitä sanotaan ei-tyhjäksi joukoksi. Osajoukko Joukko B on joukon A osajoukko, merkitään B A, jos jokainen joukon B alkio on myös joukon A alkio ts. x B x A. Joukkoa voidaan havainnollistaa kuvan 3.1 tapaan alkioiden ympärille piirretyllä suljetulla käyrällä. Alkiota merkitään tällöin pisteellä. Kutakin joukon alkiota vastaa piste suljetun käyrän sisäpuolella. Kuvaan on merkitty piste z, joka ei kuulu joukkoon B, z B. Alkio z kuuluu joukkoon A, jonka osajoukko joukko B on. Piste e kuuluu perusjoukkoon E, mutta ei osajoukkoihin A eikä B. Kuva 3.1 Perusjoukko E = { tuvxyze,,,,,, } ja sen osajoukot A = { tuvxyz,,,,, } ja B = { tuvxy,,,, }. Reaaliakselin välit Suljettu väli [ ab, ] = { x : a x b}. Avoin väli ] ab, [ = { x : a< x< b}. Puoliavoin väli [ ab, [ = { x : a x< b}. Äärettömiä välejä [ a, [ = { x: x a} ja ], a[ { x: x a} = <. 7

16 3 Taustatiedot ja teoria 3.1 Matemaattisia perusteita n Karteesinen tulo eli tulojoukko Reaalijoukkojen karteesinen tulo eli tulojoukko on n = = {[ x1, x2,, xn] xi, i = 1,2,, n} n kpl Funktio eli kuvaus Olkoon X ja Y reaalilukujen joukon osajoukkoja. Funktio eli kuvaus joukosta X joukkoon Y on sääntö f, joka liittää jokaiseen alkioon x X täsmälleen yhden Y:n alkion f ( x ). Funktio f joukolta X joukolle Y merkitään f : X Y. Joukkoa X nimitetään lähtöjoukoksi ja joukkoa Y maalijoukoksi. Funktiota f : kutsutaan ei-väheneväksi, jos lähtöjoukkoon X kuuluville alkioille x 1 ja x 2 pätee x1 x2 f ( x1) f ( x2) Vastaavasti funktio f on vähenevä, jos x x f ( x ) f ( x ) <. < >. Esitetty funktio f on yhden muuttujan funktio, koska sen arvo riippuu vain x:stä. Jos funktio f on f : X Y Z f xy,, missä, se on kahden muuttujan funktio ja merkitään ( ) ( ) x X, y Y, f x, y Z. Joukon painopiste Fysikaalisesti painopisteellä tarkoitetaan pistettä, jonka varassa homogeeninen kappale on tasapainossa maan vetovoimaan nähden. Esimerkiksi tasapaksun homogeenisestä aineesta valmistetun levyn painopiste on sen keskipisteessä. Yleiselle tasokuviolle painopisteen paikka, saadaan käyttäen integraalilaskentaa. Yhden muuttujan funktion integraali välin [ ab, ] yli antaa pinta-alan, jota rajoittavat funktion f kuvaaja, x-akseli ja suorat x = a ja x = b f b. Integraali kirjoitetaan ( ) integraalia f (, ) D a x dx. Painopisteen laskemiseen käytetään kaksinkertaista x y dx dy, joka on kahden muuttujan funktion f ( xy, ) integraali xytasossa yli joukon D. Jos joukon D pinta-ala on A, joukon painopisteen koordinaatit ( x*, y *) saadaan integraaleista 1 1 x* = x dx dy ja y* y dx dy A = A D D 8

17 3 Taustatiedot ja teoria 3.1 Matemaattisia perusteita Kuva 3.2 a) Ei-vähenevä funktio f(x). b f Integraalin ( ) viivoitettu pinta-ala. x dx arvo on a b) Joukon D painopisteen koordinaatit ovat ( x*, y* ) Metrinen avaruus Metrinen avaruus (A, d) on joukko A, joka on varustettu metriikalla d. Metriikka on kuvaus d : A A [ 0, [, joka liittää jokaiseen pistepariin xy, A ei-negatiivisen luvun d ( x, y ), jota sanotaan x:n ja y:n väliseksi etäisyydeksi ja joka toteuttaa seuraavat aksioomat: 1) d ( xy, ) 0 xy, A 2) d ( xy, ) = 0 x= y 3) ( xy) = ( yx) xy 4) ( ) ( ) ( ) d, d,, A d xz, d xy, + d yz, xy, A Pisteen x palloympäristö { } Metrisen avaruuden (A, d) osajoukkoa B (, ) A : d (, ) palloympäristöksi. d on A:n metriikka, x r = y x y < r, sanotaan pisteen x x A ja r. Avoin joukko Metrisen avaruuden osajoukko A on avoin, jos sen jokaisella pisteellä x on palloympäristö A:ssa eli x r ( x r) A, > 0 s.e. B, A. Vektori Edellä esiteltyä järjestettyä joukkoa sanotaan vektoriksi. Esimerkiksi n:n luvun järjestetty joukko on vektori [ x x x ] x = 1, 2,, n. 9

18 3 Taustatiedot ja teoria 3.1 Matemaattisia perusteita n Jos luvut x i ovat reaalilukuja, ts. x i, niin merkitään x. Lukuja x i sanotaan vektorin x alkioiksi tai komponenteiksi. Vektoria, jossa on n-alkiota, sanotaan 1 n - vektoriksi. Vektorin transpoosi Vektorin transpoosia merkitään yläindeksillä T. Vektorin x transpoosi T x on pystyvektori x T x1 x. xn 2 = Vastaavasti pystyvektorin transpoosi on vaakavektori x1 x T 2 = xn [ x x x ],,, n 1 2. Vektorin kertominen reaaliluvulla Vektorin kertominen reaaliluvulla (skalaarilla) α määritellään yhtälöllä [ x x x ] αx = α 1, α 2,, α n. Vektorien summa ja erotus Vektorien summa (yhteenlasku) ja erotus (vähennyslasku) määritellään vain vektoreille, joilla on yhtä monta alkiota. Jos alkioiden määrä on erisuuri, ei vektoreita voi laskea n yhteen eikä vähentää. Vektorien xy, summa [ x, x,, x ] [ y, y,, y ] [ x y, x y,, x y ] x+ y = + = n 1 2 n n n 10

19 3 Taustatiedot ja teoria 3.1 Matemaattisia perusteita Vektoriavaruus Olkoon A ei-tyhjä joukko, jossa on määritelty skalaarilla kertominen ja yhteenlasku (+). Joukko A on vektoriavaruus, jos seuraavat säännöt ovat voimassa jokaisella vektorilla x, y, z A ja skalaarilla α, β. 1) x + y = y+ x 2) ( x + y) + z= x+ ( y + z) 3) On olemassa nollavektori 0 s.e. x+ 0= 0+ x = x 4) On olemassa vastavektori s.e. ( ) ( ) 5) α( x + y) = αx + αy 6) ( ) 7) α( β x) = ( αβ) 8) 1 x = α + β x = αx+ β x x x x x+ x = x + x = 0 On helppo todeta, että reaalilukujen tulojoukko vektoriavaruus. n toteuttaa nämä säännöt, joten n on Sisätulo n Vektoreiden x, y välinen sisätulo määritellään kaavalla x, y = xy i i. n i = 1 Normi (euklidinen) Vektorin euklidinen normi eli vektorin pituus on x = x1 + x2 + + x n = x, x. Määritelmästä nähdään, että x on ei-negatiivinen ja x = 0, jos ja vain jos x = 0. Euklidisen normin määritelmästä seuraa, että kahden vektorin x ja y välinen euklidinen metriikka (etäisyys) on 11

20 3 Taustatiedot ja teoria 3.1 Matemaattisia perusteita ( ) d x, y = x y ( x y ) ( x y ) ( x y ) n n = (3.1) n k = 1 ( x y ) =. k k 2 Euklidinen vektoriavaruus Metrinen avaruus ( n,d) vektoriavaruus., jossa metriikkana on ( ) d x, y = x y, on euklidinen Lineaarinen aliavaruus n Olkoon M :n ei-tyhjä joukko. Joukko M on lineaarinen aliavaruus, jos n αx+ βy M, α, β, x, y M. Vektoreiden yhteenlaskun ja skalaarilla kertomisen tuloksien tulee siis pysyä samassa aliavaruudessa kuin x ja y. Lineaarinen riippuvuus ja riippumattomuus Vektorit x1,, xn ovat lineaarisesti riippumattomia, jos yhtälöllä α1x1+ α2x2+ + αnxn = 0 on vain triviaaliratkaisu α i = 0, i = 1,, n. Jos vektorit x1,, xn eivät ole lineaarisesti riippumattomia, ne ovat lineaarisesti riippuvia. Tällöin on olemassa ainakin yksi αi 0, s.e. edellä oleva yhtälö toteutuu ja vektori x i voidaan lausua muiden vektoreiden lineaarikombinaationa n 1 1 xi = ( α1x1+ + αi 1xi 1+ αi+ 1xi αnxn) = α jx j. α α i i j= 1, j i Vektoriavaruuden kanta ja dimensio n Avaruuden lineaarisesti riippumattomat vektorit x 1, x virittävät euklidisen vektoriavaruuden n, jos jokainen lineaarikombinaationa. Olkoon = { x x }, n n y voidaan lausua vektoreiden x1,, xn S 1,, n näiden lineaarisesti riippumattomien n vektoreiden joukko. Tällöin joukkoa S sanotaan vektoriavaruuden kannaksi ja joukon S vektoreita kantavektoreiksi. Kantavektoreiden lukumäärä on avaruuden dimensio. Vektoriavaruuden n dimensio on n ja sitä merkitään dim ( n ) n =. 12

21 3 Taustatiedot ja teoria 3.1 Matemaattisia perusteita Ympäristö Vektorin x ympäristö euklidisessa vektoriavaruudessa joka sisältää x:n. n on mikä tahansa avoin joukko, Matriisilaskentaa Matriisi Euklidisen vektoriavaruuden x =, j = 1,, p voidaan n p vektoria j xj1, xj2,, xjn järjestää taulukoksi matriisiksi p n A, jota merkitään isolla lihavoidulla kirjaimella ja kutsutaan x11 x12 x1 n x21 x22 x 2n A =. xp1 xp2 xpn A on p n-matriisi. Alkioita x 11, x 22,, xkk, k min ( n, p) = sanotaan lävistäjäalkioiksi. Jos p = n, matriisi A on neliömatriisi. Matriisi A voidaan kirjoittaa myös vaakavektorien avulla x1 x 2 A =, x p missä x j = xj1, xj2,, xjn, j = 1,, p, tai vastaavasti pystyvektorien avulla A x x x, T T T = 1, 1,, n 13

22 3 Taustatiedot ja teoria 3.1 Matemaattisia perusteita missä x T k x1 k x 2k =, k = 1,, n. x pk Matriisin transpoosi ja symmetrinen matriisi p n-matriisin A transpoosi on n p-matriisi T A A T x11 x21 xp1 x12 x22 xp2 =. x1n x2n xpn A on symmetrinen matriisi, jos ja vain jos T A = A. Ominaisarvot ja -vektorit Olkoon n n A. A:n ominaisarvoiksi sanotaan niitä arvoja λ, jotka kuuluvat kompleksilukujen joukkoon ja toteuttavat yhtälön Ax = λx, λ 0. Tietyllä n ominaisarvolla λ saatavaa ratkaisuvektoria x, x 0 sanotaan tähän ominaisarvoon liittyväksi ominaisvektoriksi Tilastomatematiikkaa Otos Perusjoukko eli populaatio E on joukko, joka on tutkimuksen kohteena. Jos ei ole mahdollista tai kannattavaa tutkia koko perusjoukkoa, niin voidaan tutkia perusjoukon osajoukkoa. Jos tutkittavaa osajoukkoa voidaan perustellusti pitää edustavana, ikään kuin perusjoukko pienoiskoossa, niin sitä kutsutaan otokseksi. Sopivalla otantamenetelmällä pyritään varmistamaan otoksen edustavuus. Parhaiten edustava otos saadaan satunnaisuutta apuna käyttäen. Yksinkertainen satunnaisotos poimitaan siten, että jokaisella p:n alkion suuruisella otoksella on yhtä suuri todennäköisyys tulla poimituksi. Käytännössä ei muodosteta kaikkia p:n alkion osajoukkoja, joista sitten satunnaisesti valittaisiin yksi, vaan alkiot poimitaan yksi kerrallaan kunnes otoskoko on p. 14

23 3 Taustatiedot ja teoria 3.1 Matemaattisia perusteita Tässä työssä otoksen alkiot ovat ne p opiskelijaa, jotka ovat vastanneet n kohtaa sisältävään kyselyyn. Tällöin jokaista opiskelijaa edustaa n-ulotteinen otosvektori, jota kutsutaan itseorganisoituvan kartan teorian yhteydessä syötevektoriksi x j. x j = xj1, xj2,, xjn, j = 1,2,, p. Otosvektorin x j alkio x jk on opiskelijan j vastaus kysymykseen k. Opiskelijoiden vastaukset, joita sanotaan myös havaintotuloksiksi, voidaan esittää vektoreina. Esimerkiksi kysymykseen k annetut vastaukset muodostavat pystyvektorin x k x1k x 2k =. x pk Opiskelijoiden x j j = 1,, p antamat vastaukset x jk, k = 1,, n voidaan järjestää matriisimuotoon seuraavalla tavalla: vastaus 1. kysymykseen vastaus n:teen kysymykseen x11 x12 x1 n x1 x21 x22 x 1n x2 X = =. xp1 xp2 xpn x p 1. opiskelija p:s opiskelija (3.2) Aritmeettinen otoskeskiarvo Aritmeettinen otoskeskiarvo saadaan laskemalla tiettyyn kysymykseen annetut vastaukset yhteen ja jakamalla saatu summa niiden määrällä. Esimerkiksi kysymykseen k annettujen vastausten x jk, j = 1,, p aritmeettinen otoskeskiarvo on x k 1 p p j = 1 = x. jk (3.3) 15

24 3 Taustatiedot ja teoria 3.1 Matemaattisia perusteita Jos kaikki opiskelijat eivät ole vastanneet kysymykseen k, yhtälössä (3.3) p on niiden opiskelijoiden lukumäärä, jotka ovat vastanneet kysymykseen k. (Otos)mediaani (Otos)mediaani on suuruusjärjestykseen asetetuista havaintotuloksista keskimmäinen. Jos arvoja on parillinen määrä riippuu mediaanin arvo siitä, onko havaintotulos mitattu järjestysasteikolla vai välimatka- tai suhdeasteikolla. Järjestysasteikon havaintotuloksia ovat esimerkiksi koulutustausta tai armeijan arvojärjestys. Mediaani on tässä tapauksessa kumpikin keskimmäisistä arvoista. Välimatka-asteikosta esimerkkinä voidaan mainita lämpötila ja suhdeasteikon havaintotuloksia ovat esimerkiksi paino ja pituus. Välimatkatai suhdeasteikon tapauksessa mediaani on kahden keskimmäisen arvon aritmeettinen keskiarvo. Otosvarianssi ja otoskeskihajonta Otosvarianssi on tiettyyn kysymykseen annettujen vastausten vaihtelun mitta. 2 Otosvarianssi s k kertoo siis, kuinka paljon opiskelijoiden vastaukset kysymykseen k poikkeavat kysymykseen k annettujen vastausten aritmeettisesta otoskeskiarvosta x k. Otosvarianssi 2 s k saadaan laskettua kaavalla 1 s ( x x ) 2. p 2 k = p 1 j= 1 jk k missä x jk on opiskelijan j vastaus kysymykseen k, x k on kysymykseen k annettujen vastausten aritmeettinen otoskeskiarvo ja p on opiskelijoiden lukumäärä. Mikäli vaihtelu halutaan esittää samalla asteikolla kuin havaintotulos, käytetään 2 otoskeskihajontaa s k, joka on otosvarianssin s k neliöjuuri. p 1 s = ( x x ) 2. k jk k p 1 j= 1 (3.4) Otoskovarianssi Otoskovarianssin avulla voidaan tutkia, kuinka paljon opiskelijoiden vastaukset kysymykseen k ja kysymykseen l poikkeavat toisistaan. Otoskovarianssin yhtälö on tällöin 16

25 3 Taustatiedot ja teoria 3.1 Matemaattisia perusteita 1 s ( x x )( x x ). p 2 kl = p 1 j= 1 jk k jl l Jos otoskovarianssit järjestetään matriisimuotoon, saadaan symmetrinen n n-matriisi s11 s12 s1 n s21 s22 s1 n S = sn1 sn2 snn (3.5) Lävistäjäalkioina ovat otosvarianssit eli s 2 = s 2, k = 1,, n ja alkio s 2 = s 2 on kysymyksien k ja l välinen otoskovarianssi. Matriisia S kutsutaan otoskovarianssimatriisiksi. kk k kl lk Pearsonin otoskorrelaatiokerroin Otoskorrelaatiokerroin on tunnusluku, joka kuvaa tilastollisten muuttujien lineaarista yhteyttä. Se mittaa tilastollisten muuttujien yhteisvaihtelun määrää vakioituna siten, että kerroin vaihtelee välillä [-1,1]. Positiivinen korrelaatio merkitsee, että toisen tilastollisen muuttujan arvojen kasvaessa myös toisen tilastollisen muuttujan arvot kasvavat. Lähellä nollaa oleva korrelaatio tarkoittaa, ettei tilastollisten muuttujien välillä ole juurikaan lineaarista yhteyttä. Korrelaatiokerroin saa negatiivisia arvoja silloin, kun toisen tilastollisen muuttujan arvojen kasvaessa toisen arvot pienenevät. Pearsonin otoskorrelaatiokerroin saadaan yhtälöstä r kl 2 skl = = s s k l 1 p 1 p ( xjk xk )( xjl xl ) j= 1 1 p 1 p 1 p 1 p 2 2 ( xjk xk ) ( xjl xl ) j= 1 j= 1 (3.6) = p ( xjk xk )( xjl xl ) p j= 1 p 2 2 ( xjk xk ) ( xjl xl ) j= 1 j= 1. 17

26 3 Taustatiedot ja teoria 3.1 Matemaattisia perusteita Myös otoskorrelaatiokertoimet voidaan järjestää matriisimuotoon, jolloin saadaan symmetrinen n n-otoskorrelaatiomatriisi R r11 r12 r1 n r r r. rn1 rn2 rnn n = Lävistäjäalkiot r ii = 1, koska muuttujat korreloivat täydellisesti itsensä kanssa. Summamuuttuja ja reliabiliteetti Kyselylomakkeissa vastaajien mielipiteitä kysytään tavallisesti useilla väittämillä. Usein on mielekästä ja suotavaakin pyrkiä muodostamaan yksittäisistä kyselyn väittämistä summamuuttujia. Summamuuttujilla yhdistetään siis samaa kokonaisuutta mittaavat tilastolliset muuttujat yhdeksi tilastolliseksi muuttujaksi. Tilastolliset muuttujat, joista muodostetaan summamuuttuja, tulee olla koodattu samansuuntaisiksi. Reliabiliteetti viittaa tutkimuksen toistettavuuteen. Jos kysely on reliaabeli, se tarkoittaa, että käytettäessä samaa kyselyä eri kerroilla saadaan varsin samanlaisia vastauksia. Paljon käytetty tunnusluku reliabiliteetin mittaamiseksi on reliabiliteettikerroin, Cronbachin alpha (α). Sillä mitataan tarkemmin kyselyn konsistenssia eli yhtenäisyyttä. Kysely on konsistenssi eli yhtenäinen, jos useista väittämistä koostuva kysely jaetaan kahteen osaan ja molemmat osat mittaavat samaa asiaa. Summamuuttujan reliabiliteetti tarkistetaan Cronbachin alphan avulla, jonka arvo saadaan kaavalla: K α = 1 K 1 s 2 s k 2, summamuuttuja (3.7) missä K on summamuuttujaan otettujen tilastollisten muuttujien lukumäärä, 18 2 s k summamuuttujaan otettujen tilastollisten muuttujien varianssien summa ja s 2 summamuuttuja on summamuuttujan varianssi. Mitä suurempi reliabiliteettikertoimen α arvo on, sitä yhtenäisempi summamuuttuja on. Jotta summamuuttujaa voidaan pitää luotettavana tulee reliabiliteettikertoimen α olla vähintään 0,6.

27 3 Taustatiedot ja teoria 3.2 Itseorganisoituva kartta (SOM) 3.2 Itseorganisoituva kartta (SOM) Viime vuosina on aivojen toimintaa jäljittelevien neuroverkkojen eli keinotekoisten hermoverkkojen käyttö informaation käsittelyssä lisääntynyt. Neuroverkkoja käytetään erilaisten reaalimaailman tietojen, kuten tilastoaineistojen, kuvien ja äänen käsittelyyn. Neuroverkot voidaan luokitella kolmeen ryhmään: myötäkytkentäverkot (Signal-Transfer Networks), takaisinkytkentäverkot (State-Transfer Networks) ja kilpailevaan oppimiseen perustuvat verkot (Competitive Learning Networks). [5, 15] Tässä työssä keskitytään jälkimmäiseen neuroverkkotyyppiin kuuluvaan Teuvo Kohosen vuonna 1982 kehittämään itseorganisoituvaan karttaan (Self-Organizing Map, SOM). Itseorganisoituvuus viittaa neuroverkon kykyyn oppia ilman ulkoista ohjausta. Kahteen edelliseen ulkoista ohjausta vaativaan neuroverkkotyyppiin voi tutustua paremmin esimerkiksi lähteen [5] avulla. SOM-algoritmista on olemassa lukuisia variaatioita, joista tässä työssä esitellään ja käytetään perusalgoritmia [13]. Itseorganisoituvan kartan tarkempi kuvaus kappaleissa pohjautuu lähteisiin [6, 7, 12, 13, 39] Itseorganisoituvan kartan rakenne Itseorganisoituvan kartan keskeinen ominaisuus on sen kyky esittää n-ulotteisen n euklidisen vektoriavaruuden osajoukko D pienempiulotteisella kartalla V. Kuvassa 3.3 n on esitetty vektoriavaruus, osajoukko D ja kaksi mahdollista kartan V rakennetta. Osajoukkoa D nimitetään syötejoukoksi. Jos aineistona (syötejoukkona) on n kohtaa sisältävä kysely, johon p opiskelijaa on vastannut, jokainen opiskelija edustaa yhtä syötevektoria x j = xj1,..., xjn D, missä j = 1,..., p. p on syötevektoreiden määrä ja { 1 } D = x,, x p n on syötejoukko. m Kartta puolestaan koostuu hilapisteistä eli neuroneista ni V, m n, i = 1,, s. n m n Kartan rakenne määrää dimension pienennyksen. Alkuperäisen avaruuden rakenne pyritään säilyttämään ulottuvuuden pienentyessä. Tämä tarkoittaa sitä, että n avaruudessa lähellä toisiaan olevia syötevektoreita, kuvaa kartalla vain yhteen 19

28 3 Taustatiedot ja teoria 3.2 Itseorganisoituva kartta (SOM) neuroniin liittyvä mallivektori tai muutama mallivektori, jotka liittyvät lähellä toisiaan oleviin neuroneihin. Jokaiseen neuroniin n i liittyy mallivektori m = m,..., m, jonka dimensio on sama ni ni1 ni n kuin syötevektorien x j eli mn i euklidisessa vektoriavaruudessa n. Kuvan 3.3 a)-kohdassa on havainnollistettu n olevia syötevektoreita x j ja mallivektoreita Jotta kuva pysyisi selkeänä, vain yksi syötevektori x k ja kolme mallivektoria ja m n i. m n a, mn b m n c on piirretty näkyviin ja avaruus on esitetty kolmiulotteisena (n = 3). Jatkossa esitystä yksinkertaistetaan entisestään piirtämällä euklidisen vektoriavaruuden syötejoukon D syötevektorit pisteinä suljetun käyrän sisälle. Tämä tapa on esitetty kuvan 3.3 b)-kohdassa. n Kartan neuronin n c naapuruston Nn c muodostavat neuronin n c lähellä olevat naapurineuronit n l, l = 1,, u. Se, miten neuronit ovat yhteydessä toisiinsa, määrää kartan rakenteen. Kaksiulotteisella kartalla neuronit voivat järjestyä esimerkiksi suorakulmaiseksi tai kuusikulmaiseksi kartaksi. Kaksiulotteinen tasoon levitetty kartta on tavallisin valinta, mutta esimerkiksi sylinteriksi tai toroidiksi kierretty kartta on myös mahdollinen. Tässä työssä käytetään tasoon levitettyä karttaa, koska se on visuaalisesti helpoimmin tulkittavissa. Kuvan 3.3 c)-kohtaan on piirretty sekä suorakulmainen että kuusikulmainen kartta. Punainen pallo kartan keskellä kuvaa neuronia n c, johon liittyy mallivektori m n c. Vihreällä väritetyt neuronit kuuluvat neuronin n c naapurustoon. Neuroni n a kuuluu naapurustoon, mutta neuroni n b ei kuulu. 20

29 3 Taustatiedot ja teoria 3.2 Itseorganisoituva kartta (SOM) Kuva 3.3 a) k:s syötevektori x k ja mallivektorit m n a, mn b ja m n c ovat n -avaruuden vektoreita. b) n -avaruuden osajoukko D esitetään suljet-tuna käyränä ja syötevek-torit ja mallivektorit tässä esityksessä pisteinä. c) Kaksiulotteisen kartan kaksi erilaista rakennetta. Punaiseen neuroniin n c liittyy mallivektori m n c. Neuronin n c naapuruston muodostavat vihreällä väritetyt neuronit Datan esikäsittely Tarkastellaan edellä esitettyä aineistoa, jossa p opiskelijaa on vastannut n kohtaa sisältävään kyselyyn. Syötejoukon D alkiot voidaan yhtälön (3.2) tapaan esittää p n- kokoisena syötematriisina X, jonka vaakavektoreina ovat syötevektorit x j. x11 x12 x1 n x21 x22 x 1n X = xp1 xp2 xpn opiskelija 1 opiskelija p Kuva 3.4 Syötejoukko, jota halutaan tutkia itseorgnisoituvan kartan avulla, tulee ensin saattaa matriisimuotoon, jossa vaakavektoreina ovat syötevektorit. vastaus 1. kysymykseen vastaus n:teen kysymykseen 21

30 3 Taustatiedot ja teoria 3.2 Itseorganisoituva kartta (SOM) Kyselyssä vastaamatta jätetyt osiot ovat tavallisesti kiusallisia tilastollisten sovellusten kannalta. Itseorganisoituvaa karttaa muodostettaessa aineiston mahdolliset puuttuvat arvot eivät haittaa menetelmän toimivuutta, mutta vaikuttavat toki tulosten luotettavuuteen. Puuttuvaa arvoa ei tarvitse ilmaista jollakin erillisellä komponentilla tai korvata estimaatilla. Syötevektorissa puuttuvan komponentin kohta voidaan jättää tyhjäksi, jolloin sitä ei huomioida laskettaessa etäisyyksiä ja päivitysaskeleita. Näistä kerrotaan tarkemmin kappaleessa Puuttuvien arvojen lisäksi syötejoukossa saattaa olla myös poikkeavia arvoja. Jos jonkin syötevektorin komponentin otosvarianssi on selvästi suurempi kuin muiden komponenttien, kartta järjestyy voimakkaasti tämän poikkeavan arvon mukaan. Joissakin tapauksissa näin halutaankin tapahtuvan, mutta usein vektorin komponenteille halutaan antaa sama painoarvo. Näin ollen on tapauskohtaista, miten vektorit kannattaa esikäsitellä. Normalisointi voidaan tehdä joko komponentti- tai vektorikohtaisesti. Yleinen menettelytapa on normalisoida syötevektorien komponentit yksikkövarianssisiksi ja nollakeskiarvoisiksi. Tällöin mikään niistä ei ole asteikkonsa puolesta dominoiva. Varianssin normalisointi Tarkastellaan syötevektoreiden xk on yhtälössä (3.3) esitetty x j, j = 1,..., p komponenttia k. Niiden otoskeskiarvo x k = p 1 x p j = 1 jk ja otoskeskihajonta s k yhtälössä (3.4) esitetty 1 s ( x x ) 2. p k = p 1 j = 1 jk k Varianssin normalisoinnissa syötevektoreiden korvataan arvolla x k:s komponentti, kun k = 1,, n j x jk = x jk x s k k. (3.8) 22

31 3 Taustatiedot ja teoria 3.2 Itseorganisoituva kartta (SOM) Tällöin komponenttien x, j = 1,, p otosvarianssi saadaan ykköseksi ja otoskeskiarvo nollaksi. jk Yksikköjananormalisointi Toinen yleinen esikäsittelytapa on siirtää ja skaalata vektorien komponentit yksikköjanalle. Tällöin jokaisen komponentin arvot ovat reaalilukuja välillä [0, 1]. Jos syötevektoreiden komponentin k pienintä arvoa merkitään x min k ja suurinta arvoa x max k, yksikköjananormalisoinnissa syötevektoreiden x k:s komponentti, kun k = 1,, n korvataan arvolla j x jk = x x jk max k x x min k min k. (3.9) Muusta aineistosta poikkeava arvo vaikuttaa erilailla tulokseen, kun käytetään eri normalisointitapoja. Kun vektorit skaalataan yksikköjanalle, myös poikkeava arvo pakotetaan tälle suljetulle välille. Tällöin muut arvot sijoittuvat pienelle välille asteikon toiseen päähän. Yksikköjananormalisointi hukkaa näin ei-poikkeavien vektoreiden välisiä eroja. Varianssin normalisoinnissa vektori saattaa olla vain yhden komponenttinsa ansiosta kaukana muista vektoreista, vaikka sen muut komponentit eivät muusta aineistosta poikkeaisikaan Kartan muodostaminen Ennen varsinaista opetusta on mallivektorit m n i alustettava antamalla jokaisen vektorin komponentille alkuarvo. Vaihtoehtoisia alustusmenetelmiä ovat alustus satunnaisilla arvoilla tai alustus satunnaisesti valituilla syötevektoreiden komponenttien arvoilla. Jos käyttäjä ei ilmoita alustusmenetelmää, SOM-algoritmi [13] käyttää oletusarvoisesti lineaarista alustusta. Siinä mallivektorit sijoitetaan tasaisesti 2-dimensioiseen lineaariseen aliavaruuteen, jonka virittävät syötejoukon kovarianssimatriisin kaksi ominaisvektoria, joilla on suurimmat ominaisarvot. Vektorit asetetaan siten, että mallivektorien muodostaman joukon ja syötejoukon painopisteet yhtyvät. 23

32 3 Taustatiedot ja teoria 3.2 Itseorganisoituva kartta (SOM) Perusalgoritmi Kun mallivektorit on alustettu, algoritmin jokaisella opetusaskeleella t = 0,1,2,, v valitaan syötejoukosta D satunnainen syötevektori x () t ja lasketaan sen ja kunkin mallivektorin m () t, i 1,, s n i j = välinen euklidinen etäisyys () () x j t m t. Periaatteessa voidaan käyttää mitä tahansa metriikkaa, mutta euklidinen metriikka on tavallisimmin käytetty. n i Mallivektorit m n () t, i = 1,, s kilpailevat keskenään siitä, mikä niistä edustaa parhaiten i syötevektoria x () t. Tämän vuoksi menetelmää kutsutaan kilpailuoppimiseksi. Parhaiten j edustava mallivektori m () t on se, jonka etäisyys syötevektoriin x () t on pienin eli jolle pätee j () t () t = min () t () t nc i n c { j n } i x m x m. j Neuroniin n c liittyvää mallivektoria m n c () t ja neuronin n c naapurineuroneihin n, l l = 1,, u liittyviä mallivektoreita m n c () t siirretään lähemmäksi syötevektoria x j () t. Tämä tapahtuu päivittämällä mallivektoria m n c () t ja neuronin n c naapurineuroneihin liittyviä mallivektoreita m () t kaavan n l ( t+ 1) = () t + h () t () t () t m m x m nl nl ncnl j nl mukaan. t = 0,1,2,..., v on opetusaskel eli diskreetti aika ja h () t naapurustoydin. Algoritmin suppenemisesta ei ole varmuutta, mutta on havaittu, että suppenemisominaisuudet paranevat, kun naapurustoydin h () t on vähenevä funktio opetusaskelten nn c l suhteen [13]. Tarkemmin naapurustoydin h () t on oppimisnopeuskertoimen α () t ja naapuruus-funktion h( n, n, ) c l t tulo: nn c l nn c l () α () ( ) hnn t = t h n, n, t. c l c l 24

33 3 Taustatiedot ja teoria 3.2 Itseorganisoituva kartta (SOM) A Oppimisnopeuskerroin α () t on tavallisesti joko lineaarisesti tai funktion α () t = t + B mukaisesti opetusaskelten suhteen vähenevä. A ja B ovat vakioita ja lisäksi vaaditaan, että () t 0 α 1. Naapuruusfunktio h( n, n, ) c l t voidaan valita ainakin neljällä eri tavalla. Jos halutaan päivittää kaikkiin naapurineuroneihin n l, l = 1,, u liittyviä mallivektoreita m n l () t yhtä paljon kuin mallivektoria m () t, valitaan kuplanaapuruusfunktio n c h ( n, n, t) c l () 1, kun rn r c n σ t l = 0, muulloin missä r n c ja r nl ilmaisevat neuronien n c ja n l sijainnit kartalla. σ () t on ajasta riippuva naapuruston leveys, joka on havainnollistettu kuvan 3.5 a)-kohtaan. Naapuruston leveys () t σ määrää naapurineuronien n l, l = 1,, u lukumäärän u. Näin ollen myös naapuruston Nn c koko riippuu ajasta eli merkitään Nn = Nn () t. Kuvan 3.5 a)-kohdassa on myös c c havainnollistettu sekä suorakulmaisen että kuusikulmaisen naapuruston pienenemistä opetuskierrosten kasvaessa. Kartan opetus voidaan jakaa kahteen vaiheeseen: 1) Karkean opetuksen vaihe Vaiheen alussa opetusaskeleella t 0 naapuruston leveys σ ( t 0 ) vastaa kartan läpimittaa, joten jokaiseen kartan neuroniin liittyvää mallivektoria m ( t ) päivitetään. Kuvan 3.5 a)- 25 ni 0 kohdassa kuvatuissa kartoissa siis kaikkiin neuroneihin sekä punaiseen, vihreisiin, sinisiin että valkoisiin liittyviä mallivektoreita päivitetään. Tällöin kartalla lähekkäin oleviin neuroneihin liittyvät mallivektorit alkavat edustaa samankaltaisia syötevektoreita. Neuroneihin liittyvät mallivektorit saavuttavat näin kartalla keskinäisen järjestyksen. Oppimisnopeuskerrointa α () t pienennetään kyseessä olevan vaiheen aikana nopeasti suuruusluokkaa 1,0 olevasta arvosta suuruusluokkaa 0,01 olevaan arvoon. Vaiheen aikana pienennetään myös naapuruston leveyttä σ () t, joka vaikuttaa naapuruusfunktion ( n, n, ) h t pienenemiseen. Kuvan 3.5 a)-kohdasta havaitaan, että opetusaskeleella t 1 c l

34 3 Taustatiedot ja teoria 3.2 Itseorganisoituva kartta (SOM) punaisella väritetyn neuronin n c naapurustoon ( ) N t kuuluvat sekä vihreät että siniset nc 1 neuronit, mutta opetusaskeleella t 2 enää vain vihreät neuronit. 2) Hienosäätövaihe Hienosäätövaiheessa oppimisnopeuskerroin α () t pienennetään hitaasti nollaan. Viimeisillä opetusaskeleilla päivitetään vain mallivektoria m () t. Se on kuvattu kuvan 3.5 a)-kohtaan naapurustona Nn c ( t 3). n c Jos kaikkiin naapurineuroneihin liittyviä mallivektoreita m () t, l = 1,, u ei haluta siirtää yhtä paljon kuin mallivektoria m () t, valitaan erilainen naapuruusfunktio kuin kuplanaapuruusfunktio. n c n l Yksi vaihtoehto on gaussinen naapuruusfunktio: h( n, c n, l t) = exp r nc 2σ r nl 2 () t 2. Tämä kellokäyrämäinen naapuruusfunktio saavuttaa maksiminsa neuronin n c kohdalla, johon liittyvän mallivektorin m () t etäisyys syötevektoriin x () t on pienin. n c Naapuruusfunktion arvo pienenee monotonisesti etäisyyden kasvaessa neuronista n c. Mallivektoreita, jotka liittyvät naapurineuroneihin, joiden etäisyys neuroniin n c on pienin, siirretään siis eniten. Mallivektoreita, jotka liittyvät neuronista n c suurimmalla etäisyydellä oleviin naapurineuroneihin, siirretään vähiten. Kuvan 3.5 c)-kohdassa on esitetty gaussisen naapuruusfunktion kuvaaja. Vihreisiin neuroneihin liittyviä mallivektoreita siirretään siis enemmän kuin sinisiin neuroneihin liittyviä mallivektoreita. Valkoisilla palloilla kuvataan neuroneita, joihin liittyviä mallivektoreita ei siirretä lainkaan. j Jos kellokäyrän hännät leikataan pois, saadaan katkaistu gaussinen naapuruusfunktio: 2 rn r c nl exp, kun r 2 n rn σ t c l h( n, c n, l t) = 2σ () t 0, muulloin. 26 ()