MATHM Hypermedian jatko-opintoseminaari

Transkriptio

1 Erotteluanalyysi Miika Huikkola MATHM Hypermedian jatko-opintoseminaari Olemme käsitelleet tähän mennessä seuraavia tilastollisia menetelmiä ja datan analyysimenelmiä Regressioanalyysi Varianssianalyysi (ANOVA) Klusterianalyysi (Pääkomponenttianalyysi) (Faktorianalyysi) Neuroverkot 1

2 Erotteluanalyysin päämääränä on löytää tunnettuja ryhmiä mahdollisimman hyvin erotteleva erottelusääntö Jos esimerkiksi havaitsemme, että jatkoopiskelijoilla on yleisemmin sandaalit jalassa ja tukka sekaisin kuin ei-jatko-opiskelijoilla, voimme muodostaa erottelusäännön henkilön kenkien ja tukan sekaisuuden perusteella Yllä mainitussa esimerkissä ennen erottelusäännön muodostamista tunnetut ryhmät ovat jatko-opiskelijat ja ei-jatko-opiskelijat Kertauksen vuoksi: Erotteluanalyysin päämääränä on löytää tunnettuja ryhmiä mahdollisimman hyvin erotteleva erottelusääntö Toinen esimerkki erottelusäännöstä voisi olla Kuva: Osmo Kaleva, Tilastolliset monimuuttujamenetelmät, Opintomoniste Kuvassa ryhmien jakautumaa kuvataan tasa-arvokäyrillä Erottelusääntö voidaan laatia kuvassa näkyvän kaltaisen käyrän avulla 2

3 Lineaarinen erotteluanalyysi Tavallisesti erotteluanalyysistä puhuttaessa tarkoitetaan lineaarista erotteluanalyysiä. Lineaarisella erotteluanalyysillä ymmärrämme, että erottelusäännöt perustuvat lineaarisiin funktioihin Oheisessa esimerkissä erotellaan ylipainoisia normaalipainoisista pituuden ja kengännumeron perusteella (data on kuvitteellinen, kengännumero oletettu jatkuvaksi muuttujaksi) Erotteluanalyysin määritelmiä Diskreettiä muuttujaa, jonka perusteella ryhmiin jaottelu tehdään, kutsutaan kriteerimuuttujaksi. Muita erotteluanalyysissä mukana olevia muuttujia kutsutaan riippumattomiksi muuttujiksi tai selittäviksi muuttujiksi. Datan ajatellaan teorian kannalta muodostuvan seuraavasti. Havainnot jaoteltu ryhmiin Ryhmien välisen vaihtelun momenttimatriisi Ryhmän r sisäisen vaihtelun momenttimatriisi Ryhmät koostuvat havainnoista Ryhmien sisäisen vaihtelun momenttimatriisi 3

4 Lineaarisessa erotteluanalyysissä ajatellaan, että paras erottelu saavutetaan vektorilla, jolle havaintojen projektioiden jakaumat toteuttavat seuraavan Ryhmien välisen vaihtelun suhde ryhmien sisäiseen vaihteluun on mahdollisimman suuri Matemaattisesti probleema saa seuraavan muotoilun Probleeman ratkaisut saadaan matriisin W -1 B normeerattuina ominaisvektoreina Lineaarisessa tapauksessa erottelusääntö voidaan muodostaa erottelufunktion avulla. Erottelufunktio on muotoa Erottelufunktiota voidaan käyttää myöhemmin luokitteluun eli voidaan yrittää ennustaa uuden havainnon kuulumista johonkin ryhmään. Luokittelutarkoitukseen on helpointa käyttää ohjelmistojen antamaa luokittelufunktiota, jonka perusteella havainto luokitellaan siihen ryhmään, jossa luokittelufunktio saa suurimman arvonsa. Luokittelufunktio on muotoa 4

5 Hyvin usein erotteluanalyysiä kuitenkin käytetään aineiston kuvailuun. Kuvailun tarve syntyy helposti esimerkiksi ihmistieteissä. Kuvailevan erotteluanalyysin käyttäminen voidaan toteuttaa tulkitsemalla erottelufunktioita tai luokittelufunktioita. Monet lähteet suosittelevat erottelufunktioiden tulkitsemista ja nimeämistä rakennematriisin avulla. Rakennematriisi kertoo kunkin muuttujan ryhmien sisäisen (pooled withingroup correlations) korrelaation kuhunkin erottelufunktioon. Tutkimalla arvoja, joita erottelufunktiot saavat eri ryhmien keskipisteissä (centroid), voidaan erottelufunktioiden luonne ymmärtää. Erotteluanalyysin oletukset Erotteluanalyysin käyttöä saattaa rajoittaa sen vaatimat oletukset. Listataan näistä muutamia: Teoria olettaa kunkin ryhmän kovarianssimatriisit samoiksi Riippumattomat muuttujat ovat jatkuvia jollain reaaliakselin välillä Kriteerimuuttuja on diskreetti muuttuja Ryhmien koot ovat suunnilleen samoja Residuaalit ovat satunnaisesti jakautuneet Riippumattomat muuttujat eivät multikollineaarisia Aineistossa ei outliereita. Vaikuttavat voimakkaasti erottelufunktioihin. Logistinen regressioanalyysi on korvannut monessa tarkoituksessa erotteluanalyysin johtuen lähinnä sen lievemmistä oletusvaatimuksista 5

6 Erotteluanalyysiin liittyviä lukuja Wilksin lambda Testisuure kertoo, eroavatko ryhmät toisistaan yleensä. Tämän jälkeen pudotetaan aina yksi erottelufunktio pois ja testataan, erottelevatko jäljelle jääneet erottelufunktiot ryhmiä toisistaan. Boxin M Jos ryhmät ovat normaalijakautuneita, voidaan niiden kovarianssimatriisien yhtäsuuruutta testata Boxin M-testisuureella. Ominaisarvot Kuhunkin erottelufunktioon liittyvä ominaisarvo (erottelufunktiothan muodostettiin matriisin W -1 B ominaisvektoreista) kertoo erottelufunktion tärkeydestä erotteluun. Kanoninen korrelaatio Kertoo kunkin erottelufunktion korrelaation erottelupistemäärään. Kertoo tavallaan erottelufunktion laadusta. Selitetyn varianssin osuus kriteerimuuttujassa. Case 1 Naimisissa olevien naisopettajien työvalinta, Wendy Lee Gramm, The Review of Economics and Statistics, Vol. 55, No. 4 (Aug., 1973), Tutkimuksessa tutkittiin naisopettajien itse haluamaansa työtilannetta erotteluanalyysillä. Data kerättiin vuonna :lta naisopettajalta. Tutkimuksessa haluttiin löytää tekijöitä (muuttujia), jotka parhaiten erottelevat naisten haluamaa työtilannetta. Kriteerimuuttujana toimi naisen haluama työtilanne, joka saattoi olla työtön, osa-aikainen työntekijä tai kokoaikainen työntekijä. Riippumattomina muuttujina toimivat Aviomiehen palkka, naisen kokoaikapalkka, naisen osa-aikapalkka, talouden varallisuus, talouden ikä, I-V lapsen ikä Tavoitteena löytää luokittelusääntö, jonka perusteella naisopettajat voidaan luokitella johonkin kolmesta ryhmästä Tämän lisäksi saadaan tietoa muuttujista, jotka ovat tärkeimpiä luokittelussa 6

7 Artikkelissa käytetään kahta tapaa etsiä luokittelusääntöä: toista kutsutaan uskottavuusmenetelmäksi (likelihood method) ja toista juurimenetelmäksi (root method): keskitymme tässä uskottavuusmenetelmään. Uskottavuusmenetelmässä käytetään luokittelufunktioita. Luokittelufunktioiden kertoimet voidaan tulkita helposti: suuri (positiivinen) kerroin tietyllä muuttujalla tietyssä luokittelufunktiossa kertoo, että tämä muuttuja vaikuttaa paljon ryhmään kuulumiseen. Suuret negatiiviset kertoimet tarkoittavat, että yksilöillä, joilla tämä muuttuja saa korkeita arvoja tulevat vähemmän todennäköisesti luokiteltua vastaavaan ryhmään. Luokittelufunktion kertoimet näyttivät seuraavilta Wendy Lee Gramm, The Review of Economics and Statistics, Vol. 55, No. 4 (Aug., 1973),

8 Jos miehen palkka kasvaa, niin uskottavuus sille että nainen on työtön kasvaa eniten (suurin kerroin) Jos talouden ikä kasvaa, niin nainen todennäköisemmin työskentelee vähemmän Jos ensimmäinen lapsi on vanhempi, niin nainen tulee uskottavammin luokitelluksi kokoaikaiseksi työntekijäksi Tutkimuksen yhteenveto Saatiin analysoitua tekijöitä, jotka vaikuttavat naisten haluamaan työllisyystilanteeseen Tulokset osoittavat, että aviomiehen palkka, naisen palkka ja ensimmäisen lapsen ikä ovat erityiset tärkeitä kun erotellaan eri työllisyysryhmiä. 8

9 Case 2 Täydennyskoulutusohjelmien mahdollisten ongelmakohtien löytäminen, B.F. Kiker & W.P. Liles: The Journal of Human Resources, Vol 7, No 4 (Autumn 1972), Tutkimus tehtiin, kun vuosina 1965 ja 1966 huomattiin, että tietyssä täydennyskoulutusohjelmassa vain 63% henkilöistä suoritti ohjelman ja 18% suorittaneista jäivät työttömiksi. Tutkimuksen tavoitteena oli löytää erottelufunktiot, joita käyttämällä tulevia koulutusohjelmaan hakeutujia voidaan luokitella eri ryhmiin (esimerkiksi valmistuvat ja keskeyttäjät) Tavoitteena tunnistaa riskialttiit yksilöt siten, että oikeanlaisen neuvomisen, ohjaamisen ja sijoittamisen avulla yksilöt saadaan suorittamaan ohjelma. Tutkimuksessa löydettiin erottelufunktiot erottelemaan seuraavia ryhmiä toisistaan Valmistuneet ja ei-valmistuneet* Valmistuneet ja keskeyttäneet työllistyneet ja työllistymättömät keskeyttäneet ja aloittamattomat Tutkimuksessa siis tehtiin neljä kappaletta kahden ryhmän erotteluanalyysiä Riippumattomina muuttujina toimivat ikä, sukupuoli, koulutus, siviilisääty, huollettavien lukumäärä, ykköspalkansaaja, viikkopalkka edellisessä työssä, työkuukaudet päätoimessa, kuukaudet työttömänä ennen koulutusta 9

10 Eri erottelufunktioiden kertoimet näyttivät seuraavilta Valmistuneen yleinen profiili voidaan päätellä niistä muuttujista, joiden keskiarvot eroavat toisistaan tilastollisesti merkitsevästi. Ensimmäistä saraketta vastaavaa erottelufunktiota tulkitsemalla nähdään, että yksilöllä on suurempi todennäköisyys olla valmistunut, jos hänellä on seuraavat ominaisuudet 1) Nainen 2) tulot alle keskitason edellisessä työssä 3) keskimääräistä enemmän huollettavia 4) keskimääräistä vanhempi 5) ollut työttömänä alle viisi viikkoa 6) ollut päätoimisena työntekijänä keskimääräistä vähemmän aikaa 7) ykköspalkansaaja 8) keskimääräistä paremmin koulutettu 9) naimisissa 10

11 Valmistuneen työttömän yleinen profiili 1) Keskimääräistä vähemmän koulutusta 2) Työttömänä yli viisi viikkoa ennen koulutusta 3) Keskimääräistä pienemmät viikkoansiot edellisessä työssä 4) Ollut keskimääräistä enemmän päätoimisessa työssä 5) Nainen 6) Ei naimisissa. Case 3 Tyypillinen SPSS tulostus Miika Huikkola: Diplomityö

12 Esimerkki rakennematriisista Erottelufunktioiden arvot eri ryhmien keskiarvopisteissä (centroid) 12

13 Kirjallisuutta Johnson & Wichern: Applied Multivariate Statistical Analysis. Prentice Hall sivua. Huberty: Applied Discriminant analysis. John Wiley & Sons sivua. Klecka, William R.: Discriminant Analysis. Sage Publications Inc