Laskennallinen data-analyysi II

Transkriptio

1 Laskennallinen data-analyysi II Ella Bingham, Kevät 2008 Ulottuvuuksien vähentäminen, SVD, PCA Kalvot perustuvat Saara Hyvösen kalvoihin 2007 Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto

2 Yleistä kurssista Kurssi on suoraan jatkoa Laskennallinen data-analyysi I:lle Sekä ohjatun että ohjaamattoman oppimisen menetelmiä Menetelmiä, jotka tulevat jatkossa vastaan muilla kursseilla ja tutkimuksessa Kolme luennoitsijaa, jokaisella 2 luentoa, väliviikoilla laskarit Ensimmäinen osuus: Ohjaamatonta oppimista Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 1

3 Toinen osuus (Jyrki Kivinen): Tukivektorikone (support vector machine, SVM) yleistää lineaarisen luokittelun (tai lineaarisen regression) ei-lineaaristen ennustajien muodostamiseen. SVM on nykyään eräs suosituimmista yleiskäyttöisistä oppimismenetelmistä. Tukivektorikoneessa lineaariseen luokittelijaan yhdistetään - ydinfunktio ja - regularisointi. Ydinfunktio on matemaattinen apukeino, jonka avulla lineaariseen oppijaan voidaan sisällyttää hyvin monipuolista piirteiden muodostamista (datan esikäsittelyä) pitäen laskenta tehokkaana. Regularisointia tarvitaan, jotta runsas uusien piirteiden salliminen ei Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 2

4 johtaisi ylisovittamiseen. Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 3

5 Kolmas osuus (Patrik Hoyer): Vedetään kurssien lda-i ja lda-ii pääteemoja yhteen Probabilistinen (jopa Bayeslainen) näkökulma koneoppimiseen Epävarmuuden mallintaminen: miten menetelmistä saa sellaisia, että ne osaavat kertoa, kun eivät ole varmoja Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 4

6 Lisälukemista ensimmäisestä osuudesta: Kleinberg, Tomkins: Applications of linear algebra in information retrieval and hypertext analysis. Proc. ACM Symp. Principles of Database Systems, pp , 1999 Tutorial site by Todd Will: Wikipedia: Singular value decomposition, Principal components analysis Muuttujien valinta: elektroninen kevytversio kirjasta H. Lohninger: Teach/Me Data Analysis, Springer-Verlag, 1999 löytyy mlr183.html Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 5

7 Ulottuvuuksien vähentäminen: miksi? visualisointi ihmissilmälle datan kompressio kohinan poisto, poikkeavien arvojen etsiminen Kaksi peruslähestymistapaa: heitetään muuttujia pois, tai muodostetaan uusia muuttujia. Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 6

8 Esim. käsinkirjoitetut numerot Halutaan luokitella käsinkirjoitetut numerot automaattisesti luokkiin 0-9: Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 7

9 Käsinkirjoitetut numerot jatkuu Jokainen numero on (esimerkiksi) 100x100 pikselin harmaasävykuva. Tätä voidaan ajatella pisteenä ulotteisessa avaruudessa. Kuvitellaan tilanne, jossa otetaan numero 3 ja luodaan joukko uusia kolmosia siirtämällä, kiertämällä ja skaalaamalla peruskolmonen: Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 8

10 Nyt, vaikka jokaisen pisteen dimensio on 10000, on meillä oikeasti vain neljä vapausastetta: siirto pysty- ja vaakasuunnissa, kierto sekä skaalaus. Näitä neljää vapausastetta voidaan ajatella latentteina eli piilomuuttujina. Oikeasti käsinkirjoitetut numerot eivät tietenkään muodostu näin yksinkertaisesti, vaan niissä on yksilöllisiä deformaatioita; tällaisten deformaatioiden lukumäärän voidaan kuitenkin ajatella olevan pieni verrattuna joukon dimensioon (10000). Koko käsinkirjoitettu numerojoukko voidaan siis kuvata paljon pienempidimensioisessa avaruudessa. Mutta miten? Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 9

11 (Lineaariset) piilomuuttujamallit Yksinkertaisimmillaan voidaan ajatella, että m n datamatriisi A, missä rivit ovat pisteitä ja sarakkeet ovat muuttujia, esitetään k:n piilomuuttujan avulla kahden matriisin tulona: A m n = D m k V k n, missä matriisin V rivit ovat latentit muuttujat ja matriisi D antaa datapisteet latenttien muuttujien avulla lausuttuna. Siis V:n rivit = uudet kantavektorit, ja D = pisteiden koordinaatit uudessa kannassa. Menetelmiä on paljon, ja eri menetelmät antavat eri piilomuuttujat. Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 10

12 Singulaariarvohajotelma Jokainen m n matriisi A voidaan kirjoittaa muotoon A m n = U m d S d d (V n d ) T, missä d = min(m, n). Matriisien U ja V sarakkeet ovat ortonormaalit (kohtisuorassa toisiaan vastaan ja yksikköpituiset). Matriisi S on diagonaalimatriisi: S = diag(σ 1, σ 2,..., σ d ), σ 1 σ 2... σ d 0. (singular value decom- Tämä on matriisin A singulaariarvohajotelma position, SVD) Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 11

13 Singulaariarvot ja -vektorit Matriisin S diagonaalialkiot σ j ovat matriisin A singulaariarvot. Matriisien U ja V sarakkeet ovat matriisin A vasemman- ja oikeanpuoleiset singulaarivektorit. Singulaariarvohajotelma voidaan myös kirjoittaa muodossa Av j = σ j u j, A T u j = σ j v j. Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 12

14 Matlab-esimerkki A= [U,S,V]=svd(A, econ ) U= S= V= Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 13

15 Matriisin approksimointi Lause. Olkoon U k = (u 1 u 2... u k ), V k = (v 1 v 2... v k ) ja S k = diag(σ 1, σ 2,..., σ k ), ja määritellään A k = U k S k V T k. Tällöin min A B 2 = A A k 2 = σ k+1. rank(b) k Eli: 2-normin (myös Frobenius-normin) mielessä paras astetta k oleva approksimaatio matriisille saadaan singulaariarvohajotelmaa käyttämällä, ottamalla k ensimmäistä singulaariarvoa ja -vektoria. Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 14

16 Entä sitten? Siis: 2-normin mielessä paras astetta k oleva approksimaatio matriisille saadaan singulaariarvohajotelmaa käyttämällä: A k = U k S k V T k. (aste = rank = lineaarisesti riippumattomien sarakkeiden määrä, nollasta poikkeavien singulaariarvojen määrä.) Tätä voi käyttää: kohinan poistoon datan kompressioon matriisin oikean asteen määrittämiseen Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 15

17 Esimerkki: kohinan poisto Olkoon A = A k + N, missä A k on (alhaista) astetta k oleva matriisi, ja N on pieni. Tällaisessa tapauksessa matriisin A singulaariarvoat käyttäytyvät tyypillisesti tähän tapaan: 8 singular values index Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 16

18 2 log of singular values index Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 17

19 Esimerkki: käsinkirjoitetut numerot Käytetään singulaariarvohajotelmaa käsinkirjoitettujen numeroiden kuvaamiseen. Sen sijaan, että käytetään pikseliä, käytetäänkin pientä määrää singulaarivektoreita. Otetaan siis iso kasa kolmosia, muodostetaan joka kuvasta vektori, laitetaan ne sarakkeiksi datamatriisiin, ja lasketaan singulaariarvohajotelma. Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 18

20 Esimerkki: käsinkirjoitetut numerot Vasemmanpuoleiset singulaariarvot tai singulaarikuvat u j : Ensimmäinen on tyypillisesti datan keskiarvo ja seuraavat tuovat datasta lisää piirteitä esiin Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 19

21 Esimerkki: käsinkirjoitetut numerot Voidaan olettaa, että kolmoset on helpompi muodostaa käyttäen kolmosen singulaarivektoreita kuin vaikkapa viitosen singulaarivektoreita. Nyt voidaan esimerkiksi luokitella käsinkirjoitettuja numeroita katsomalla, miten hyvin ne voidaan muodostaa kussakin kannassa. Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 20

22 Esimerkki: Tekstidatan analysointi Esitetään dokumenttikokoelma termi-dokumentti-matriisina A, jossa rivit vastaavat sanoja, ja sarakkeet dokumentteja, ja matriisin alkion a i,j arvo kertoo sanan i painon dokumentissa j. Varoitus: Tekstianalyysissä on tapana laittaa matriisin rivit ja sarakkeet eri päin kuin tiedon louhinnassa yleensä! Tekstidatassa usein ongelmana synonyymit (haluaisimme, että elefantti ja norsu samaistuisivat) ja polyseemit (haluaisimme erottaa milloin kurkku tarkoittaa vihannesta ja milloin ruumiinosaa). SVD auttaa tässä: sanojen merkitykset kuvautuvat avaruuden eri ulottuvuuksiin. Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 21

23 Tässä kontekstissa SVD kulkee nimellä LSI (Latentti Semanttinen Indeksointi) Esimerkki kirjasta [Manning and Schütze: Foundations of statistical natural language processing]: termi-dokumenttimatriisi A on doc1 doc2 doc3 doc4 doc5 doc6 cosmonaut astronaut moon car truck Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 22

24 Vasempien singulaarivektoreiden matriisi U on Dim 1 Dim 2 Dim 3 Dim 4 Dim 5 cosmonaut astronaut moon car truck ja singulaariarvot sisältävä matriisi S on Dim 1 Dim 2 Dim 3 Dim 4 Dim 5 Dim Dim Dim Dim Dim Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 23

25 ja oikeanpuoleisten singulaarivektoreiden matriisi V T on doc1 doc2 doc3 doc4 doc5 doc6 Dim Dim Dim Dim Dim Otetaan vain 2 ensimmäistä singulaariarvoa ja -vektoria: U:ssa termit ryhmittyvät toisen singulaarivektorin mukaan (cosmonaut, astronaut, moon) ja (car, truck) V T :ssä dokumentit ryhmittyvät toisen singulaarivektorin mukaan (doc1,doc2,doc3) ja (doc4,doc5,doc6) Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 24

26 Esimerkki: Tiedonhaku tekstidokumenteissa Halutaan tehdä hakuja suuresta tekstidokumenttien kokoelmasta. Haku on tällöin vektori q, jonka jokainen alkio vastaa niinikään sanaa. Haku voidaan tehdä vertaamalla suoraan vertaamalla hakuvektoria kuhunkin dokumenttiin: cos(θ(a j, q)) = a T j q a j 2 q 2 tol. Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 25

27 Usein sen sijaan lasketaan ensin termi-dokumentti-matriisille singulaariarvohajotelma, approksimoidaan matriisia (ongelman alkuperäiseen kokoon verrattuna) pienehköllä määrällä singulaarivektoreita, lausutaan myös hakuvektori singulaarivektorien avulla, ja tehdään hakuvektorin ja dokumenttien vertailu tässä uudessa kannassa. Nopeampaa (datan kompressio) ja (usein) tarkempaa (kohinan poisto). Dokumenttien esitysmuoto LSI-avaruudessa on â = U T k a jossa a on alkuperäinen dokumenttivektori ja U k on k:n ensimmäisen vasemmanpuoleisen singulaarivektorin muodostama matriisi Samoin hakuvektorin esitysmuoto on ˆq = U T k q Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 26

28 Esimerkki: Hakuvektori cosmonaut astronaut on alkuperäisessä avaruudessa q cosmonaut 1 astronaut 1 moon 0 car 0 truck 0 ja 2-ulotteisessa LSI-avaruudessa ˆq = U T 2 q = ( ) Dokumenttien â ja hakuvektorin ˆq väliset kosini-similaarisuudet ovat 0.85, 0.99, 0.97, -0.06, 0.27 ja Hakuvektori on siis lähimpänä dokumentteja 2 ja 3. Tämä näkyy myös kuvassa: Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 27

29 q Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 28

30 Myös uudet dokumentit (sarakkeet) voi esittää LSI-avaruudessa kertomalla ne U k :lla, eli ei tarvitse laskea SVD:tä uudestaan Uudet termit (rivit) voisi samoin esittää LSI-avaruudessa kertomalla V k :lla, mutta tämä on käytännössä harvinaisempaa Varoitus: Harjoitustehtävässä pyydetään esittämään uusi vektori vanhojen datavektoreiden avulla lasketussa kannassa. Nyt pitää olla tarkkana, onko uusi datavektori rivi vai sarake! Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 29

31 Laskennan vaativuudesta SVD:n vaativuus on neliöllinen d:n suhteen ja kuutiollinen k:n suhteen, jossa d = ranki = min(sarakkeiden määrä, rivien määrä) ja k = laskettavien singulaariarvojen määrä Harvalle datalle on olemassa tehokkaita implementaatioita Laskentaa voi keventää tekemällä SVD:n vain osalle havainnoista (dokumenteista) ja esittämällä uudet havainnot SVD-avaruudessa kertomalla ne U k :lla Tärkeintä on kuitenkin valita k mahdollisimman pieneksi, mutta ei liian pieneksi Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 30

32 Laskennan vaativuudesta: k:n valinta Yleensä muutama kymmenen riittää, mutta teoreettisiakin menetelmiä on: tarkastele singulaariarvojen pienenemistä, ja lopeta kun uusi arvo on selvästi pienempi kuin aiemmat. Ongelma: pitää laskea monta ylimääräistä arvoa, jotta näkee milloin joku on selvästi pienempi laske Frobenius-normi datamatriisin ja sen approksimaation erotukselle: olkoon Y = A A k, silloin F (Y) = sum(diag(y T Y)) ja vertaa tätä F (A):n arvoon; jos edellinen on pieni niin silloin A k on tarpeeksi hyvä approksimaatio Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 31

33 Laske kaikkien singulaariarvojen summa ja k:n ensimmäisen summa, ja valitse k niin että saat esim. 85 % kaikkien summasta. (Mutta tällöin pitää laskea kaikki!) Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 32

34 Pääkomponenttianalyysi Tavoitteena on etsiä pieni joukko (keinotekoisia) muuttujia siten, että datan varianssista säilyy mahdollisimman suuri osuus. Ensimmäinen pääkomponentti on se vektori, jolle projisoidun datan varianssi on suurin. Kun tämä on löydetty, jatketaan etsimällä tälle ortogonaalinen eli kohtisuora suunta, joka selittää mahdollisimman suuren osan vielä selittämättä jääneestä varianssista. Jokainen pääkomponentti on lineaariyhdistely alkuperäisiä muuttujia. PCA = principal component analysis Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 33

35 1st principal component x x x x x x x x x x x x 2nd principal component x x x Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 34

36 PCA lyhyesti Olkoon A n m-matriisi, jonka rivit ovat havaintopisteitä ja sarakkeet muuttujia. Keskitetään eli nollakeskiarvoistetaan A: vähennetään jokaisesta sarakkeesta sarakkeen keskiarvo, jolloin uuden datamatriisin sarakkeiden keskiarvo on nolla. Olkoon tämä keskitetty matriisi nyt A. Muodostetaan nollakeskiarvoistetun datan kovarianssimatriisi C = 1 n AT A. Pääkomponentit ovat kovarianssimatriisin ominaisvektorit. Ominaisarvot kertovat datan varianssin pääkomponenttien suunnassa. Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 35

37 PCA pitkästi Miten löydetään ensimmäinen pääkomponentti w? Olkoon w R m (toistaiseksi tuntematon) vektori, jolle projisoituna datan varianssi on suurin. Vaaditaan vielä, että w T w = 1. Vektorin a projektio vektorille w on w T a = m j=1 a jw j. Koko datamatriisin projektio vektorille w on Aw. Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 36

38 Varianssi: PCA pitkästi σw 2 = 1 n (Aw)T (Aw) = 1 n wt A T Aw = w T Cw missä C = 1 n AT A on matriisin A kovarianssimatriisi (A on keskitetty!) Tavoitteena on maksimoida varianssi ehdolla w T w = 1. Optimointiongelma: maksimoi f = w T Cw λ(w T w 1), missä λ on Lagrangen kerroin. Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 37

39 PCA pitkästi Optimointiongelma: maksimoi f = w T Cw λ(w T w 1), missä λ on Lagrangen kerroin. Derivoidaan w:n suhteen ja saadaan f w = 2Cw 2λw = 0 Tämä on itse asiassa ominaisarvoyhtälö: Cw = λw, missä C = 1 n AT A. Varianssi saadaan kertomalla yhtälöä vasemmalta w:n transpoosilla. Kun vieä muistetaan, että w T w = 1 saadaan varianssiksi w T Cw = λ. Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 38

40 PCA pitkästi Varianssi: w T Cw = λ. Tämä on maksimissaan, kun w on kovarianssimatriisin suurinta ominaisarvoa vastaava ominaisvektori, ja suurin ominaisarvo itse kertoo varianssin. Ensimmäinen pääkomponentti on siis kovarianssimatriisin suurinta ominaisarvoa vastaava ominaisvektori. Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 39

41 PCA:n ja SVD:n yhteys Mutta jos kirjoitetaankin A = USV T saadaan C = A T A = VS T U T USV T, CV = VS T S. Kun tämä kirjoitetaan sarake kerrallaan, nähdään, että Cv j = σ 2 jv j, eli matriisin A kovarianssimatriisin ominaisarvot ovat singulaariarvojen neliöt, ja ominaisvektorit ovat oikeanpuoleiset singulaarivektorit! Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 40

42 Ensimmäinen pääkomponentti on siis datamatriisin 1. oikeanpuoleinen singulaarivektori. Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 41

43 Entä seuraavaksi? Jatketaan samaan tapaan: etsitään kaikille löydetyille pääkomponenteille kohtisuorassa oleva vektori, jolle projisoituna varianssi on suurin. Pääkomponentit ovat oikeanpuoleiset singulaarivektorit, singulaariarvojen neliöt kertovat varianssin kyseisen pääkomponentin suuntaan. Eli: PCA on SVD keskitetylle datalle! Singulaariarvojen avulla voi arvioida, montako pääkomponenttia tarvitaan. Peukalosääntö: valitse komponenttien lukumäärä siten, että 85% varianssista säilyy: k j=1 σ2 j n j=1 σ2 j Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 42

44 Esimerkki: ilmakehädata Data: 1500 päivää, kymmeniä muuttujia (lämpötila, tuulen suunta ja nopeus, UV-säteilyn määrä, hiilidioksidikonsentraatio etc.) Visualisointi esim. 60-ulotteisessa avaruudessa on haastavaa! Sen sijaan, tee pääkomponenttianalyysi ja projisoi data kahden ensimmäisen komponentin määrittämään tasoon. Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 43

45 Miten pääkomponentteja ei lasketa: Kirjallisuudessa esitellään tavan takaa algoritmeja, joissa pääkomponentit lasketaan kovarianssimatriisin ominaisvektoreina. Laskennallisesti tämä on huono tapa! Parempi laskea singulaariarvohajotelma. Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 44

46 Miten pääkomponentit lasketaan: Matriisi A, rivit: datapisteet, sarakkeet=muuttujat. 1. Keskitä data vähentämällä jokaisesta sarakkeesta keskiarvo 2. Laske keskitetyn matriisin  singulaariarvohajotelma (tai k ensimmäistä singulaariarvoa ja -vektoria):  = USV T. 3. Matriisin V sarakkeet ovat pääkomponentit, ja datapisteiden kooridnaatit uudessa (pääkomponenttien virittämässä) kannassa ovat US. Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 45

47 Matlab-koodi %Data matrix A, columns:variables, rows: data points %matlab function for computing the first k principal components of A. function [pc,score]=pca(a,k); [rows,cols]=size(a); Ameans=repmat(mean(A,1),rows,1); %matrix, rows=means of columns A=A-Ameans; %centering data [U,S,V]=svds(A,k); %k is the number of pc:s desired pc=v; score=u*s; %now A=score*pc +Ameans; Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 46

48 Huom. PCA löytyy myös valmiina statistics toolboxista, MUTTA... ÄLÄ KÄYTÄ SITÄ!! Miksi? Lisenssejä on liian vähän! Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 47

49 Miksi PCA? Jos PCA = SVD niin miksi siitä piti puhua? Koska SVD antaa aina origon kautta kulkevan vektorin. Datan keskittäminen pitää huolen siitä, että origo on datajoukon keskellä. Esimerkiksi harvalla datalla tämä ei ole ratkaisevaa; mutta joskus voi olla: Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 48

50 Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 49

51 Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 50

52 Yhteenveto Jokainen m n matriisi A, m n, voidaan kirjoittaa singulaariarvohajotelman avulla muotoon A = USV T, missä U R m d ja V R n d ovat ortogonaaliset, d = min(m, n), ja S R d d on diagonaalimatriisi, jonka diagonaalialkiot ovat singulaariarvot σ 1 σ 2... σ n 0. 2-normin mielessä paras astetta k oleva approksimaatio matriisille saadaan singulaariarvohajotelmaa käyttämällä: A k = U k S k V T k, missä U k, V k koostuvat ksta ensimmäisestä vasemman- ja oikeanpuoleisesta singulaarivektorista ja S k :n diagonaalialkiot ovat k suurinta singulaariarvoa. Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 51

53 Pääkomponenttianalyysi on sukua SVD:lle: pääkomponentit ovat keskitetyn datamatriisin oikeanpuoleiset singulaarivektorit. Pääkomponentit valitaan siten, että datan varianssista selittyy suurin osa. Ensimmäinen pääkomponentti on se vektori, jolle projisoidun datan varianssi on suurin. Laskemalla datamatriisille SVD tai PCA ja approksimoimalla matriisia muutaman ensimmäisen singulaarivektorin/pääkomponentin avulla kompressoidaan dataa ja poistetaan kohinaa. Nyt voidaan klusteroida/luokitella/tms uutta dataa. PCA toimii parhaiten silloin kun data on gaussista, tai vähintäänkin Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 52

54 jatkuva-arvoista SVD:llä on paljon muutakin käyttˆä kuin latenttimuuttujamallinnus: esimerkiksi Googlen PageRank-algoritmi tai spektraalijärjestys Myös muita latenttimuuttujamenetelmiä löytyy: ICA, NMF, probabilistiset versiot (näissä datan gaussisuus ei ole vaatimuksena) Laskennallinen data-analyysi II, kevät 2008, Helsingin yliopisto 53