Seuraavassa taulukossa on annettu mittojen määritelmät ja sijoitettu luvut. = 40% = 67% 6 = 0.06% = 99.92% 6+2 = 0.

Transkriptio

1 T-6.28 Luonnollisen kielen tilastollinen käsittely Vastaukset, ti , 8:30-0:00 Tiedon haku, Versio.0. Muutetaan tehtävässä annettu taulukko sellaiseen muotoon, joka paremmin sopii ensimmäisten mittojen laskemiseksi. kone relevantit ei relevantit valitsi tp 6 fp ei valinnut 2 fn 9988 tn kone 2 relevantit ei relevantit valitsi 6 tp fp ei valinnut 0 fn 9990 tn Taulukko : Muokatut taulukot. Taulukkoihin on merkkattu myös tp (True Positives, oikein hyväksytyt), fp (False Positives, väärin hyväksytyt), fn (False egatives, väärät hylätyt) ja fp (True egatives, oikeat hylätyt) Seuraavassa taulukossa on annettu mittojen määritelmät ja sijoitettu luvut. mitta measure määritelmä kone kone 2 Kuinka suuri osa tarkkuus saanti hajoama precision recall fallout täsmäävyys accuracy virhe error tp tp+fp tp tp+fn fp fp+tn tp+tn fp+fn = 0% 6 +6 = 67% = 0.06% = 99.92% = 0.08% = 60% löytyneistä relevantteja 6+ = 00% relevanteista löytyi ei-relevanteista = 0.0% palautettiin = 99.96% luokiteltiin oikein = 0.0% luokiteltiin väärin Taulukko 2: Tulokset. Huomataan, että vain tarkkuuden ja palautuksen tulosprosentti liikkuu helposti miellettävällä alueella. F-mitta määritellään tarkuuden ja palautuksen avulla: α P + ( α) R missä P on tarkkuus ja R on palautus. α säätää näiden välistä painotusta. Jos valitaan α = 0.5 saadaan 2PR P + R Ensimmäiselle koneelle saadaan näinollen F = 50% ja toiselle F 2 = 75%. Interpoloimatonta keskitarkkuutta laskiessa katsotaan tarkkuutta aina kun löydetään relevantti dokumentti ja keskiarvoistetaan näiden tarkkuuksien yli. UAP = ( ) = 53% 0 UAP 2 = ( ) = 86% 9

2 2. Tehtävänannossa annettiin sanojen dokumenttifrekvenssit: df = 2 ja df 2 = 500. Lisäksi tiedetään että kokoelmafrekvenssit ovat cf = 0 ja cf 2 = 700. Kaikenkaikkiaan kokoelmassa on = 0000 dokumenttia. Käänteinen dokumenttifrekvenssi 0000 määritellään IDF i = log 2 df i, joten sanalle w se on log 2 = 8.9 ja sanalle w 2 2 se 0000 on log 2 = Residuaalisen käänteisen dokumenttifrekvenssin (RIDF) kohdalla kirjan ensimmäisessä painoksessa on runsaasti virheitä. RIDF:n kantava idea perustuu seuraavanlaiselle päättelylle: voimme mallintaa sanan esiintymistä Poisson-jakaumalla p. Tämä toimii hyvin sanoille, jotka ovat suhteellisen tasaisesti jakautuneet korpuksessa. Sisällöllisesti merkittävät sanat esiintyvät yleensä ryhmissä, asiaa käsittelevän dokumentin sisällä ja Poisson-jakauma antaa siis tällöin väärän ennusteen sanojen yleisyydestä. RIDF:ssä mitataan käänteisen dokumenttifrekvenssin ja Poisson-jakauman välistä eroa. Mitä suurempi ero, sitä enemmän sana kuvaa dokumentin sisältöä. Tässä siis Poisson-jakauman käyttölogiikka on seuraava: Approksimodaan, että dokumentissä esiintyy sana w i keskimäärin λ = cf i kertaa. Todennäköisyys sille, että jossain tietyssä dokumentissä sana w esiintyy k kertaa saadaan Poisson-jakaumasta Poisson(k; λ) = e λλk k! RIDF määritellään siis ( ) RIDF = IDF log 2 Poisson(0, λ) Tässä siis Poisson-jakaumasta otetaan todennäköisyys, että dokumentissä esiintyy haluttu sana vähintään kerran ( Poisson(0, λ)). Sievennellään RIDF:n lauseketta: ( ) RIDF = IDF log 2 Poisson(0, λ) = log 2 + log df 2 ( Poisson(0, λ) i Sijoitellaan kaavaan luvut: ( e cf i ( λ 0! )0 ) = log 2 df i ( e cf i ) = log 2 df i 0000( e ) RIDF = log ( e ) RIDF 2 = log = 2.3 = 0. 2

3 d d 2 d 3 d d 5 d 6 d 7 Schumacher rata formula kolari galaksi tähti planeetta meteoriitti Taulukko 3: Dokumentti sana-matriisi Huomataan, että RIDF painotti sanaa w 2.5 kertaa enemmän kuin IDF. Molempien menetelmien mielestä w on relevantimpi hakutermi kuin w Pyydetty dokumentti sanamatriisi on esitetty taulukossa 3. SVD-hajotelmassa puretaan matriisi A palasiksi: A = USV T Tässä U on t n matriisi, S on n n ja T d n. Matriisit on esitetty taulukoissa, 5, 6. Tiputetaan sisäinen dimensio kahteen jättämällä U ja V -matriiseista muut dimensiot pois ja ottamalla S-matriisista vain kaksi suurinta ominaisarvoa. yt dokumenttien samankaltaisuutta voi verrata matriisilla B = SV T. Jos matriisin sarakeet skaalataan yhden pituisiksi, on helppo laskea korrelaatioita rivien välillä. Tällainen skaalattu matriisi on esitetty taulukossa 7 ja siitä lasketut korrelaatiot taulukossa 8. Sanojen samankaltaisuutta voitaisiin verrata matriisista W = US. Korrelaatiomatriisista huomataan, että formula-artikkelit ja tähtitiedeartikkelit korreloivat sisäisesti paljon enemmän kuin ristiin. Alunperin täysin korreloimattomata dokumentit d 5 ja d 7 korreloivat nyt selvästi. Olemme projisoineet datan 2-ulotteiseen avaruuteen ja samantyyppiset artikkelit ovat päätyneet lähekkäin tähän alempiulotteiseen avaruuteen. Lopuksi vielä pieni varoitus: kirjan kappaleessa 5 on runsaasti pikkuvirheitä, kannattaa tarkastaa kirjan errata ( 3

4 dim dim 2 dim 3 dim dim 5 dim 6 dim 7 dim 8 Schumacher rata formula kolari galaksi tähti planeetta meteoriitti Taulukko : U Taulukko 5: S d d 2 d 3 d d 5 d 6 d 7 dim dim dim dim dim dim dim Taulukko 6: V d d 2 d 3 d d 5 d 6 d 7 dim dim Taulukko 7: Skaalattu B

5 d d 2 d 3 d d 5 d 6 d 7 d.000 d d d d d d Taulukko 8: Korrelaatiot 5