JOHDATUS TEKOÄLYYN TEEMU ROOS
|
|
|
- Marjut Sanna Mäki
- 7 vuotta sitten
- Katselukertoja:
Transkriptio
1 JOHDATUS TEKOÄLYYN TEEMU ROOS
2 PINGVIINI(tweety) :- true. Wulffmorgenthaler HS
3 TODENNÄKÖISYYS (TN) EHDOLLINEN TN: P(B A) B:N TODENNÄKÖISYYS, KUN TIEDETÄÄN, ETTÄ A B:N EHDOLLINEN TN ANNETTUNA A P(B A) = P(A, B) / P(A), KUN P(A) > 0 P(A, B) = P(A) _P(B A)
4 TODENNÄKÖISYYS (TN) 1. P(A, B) = P(A) P(B A) = P(B) P(A B) // KETJUSÄÄNTÖ 2. P(A,B,C) = P(A, B) P(C A, B) = P(A) P(B A) P(C A, B) // KETJUSÄÄNTÖ 3. P(A) = P(A, B) + P(A, B) // MARGINALISOINTI 4. P(A B) = P(A, B) / P(B) // EHDOLLINEN TN. 5. A B P(A B) = P(A) // RIIPPUMATTOMUUS 6. A B C P(A B, C) = P(A C) // EHDOLLINEN RIIPPUMATTOMUUS 7. P(B A) = P(B) P(A B) / P(A) // BAYESIN KAAVA
5 TODENNÄKÖISYYS (TN) SATUNNAISMUUTTUJA (SM), ESIM. NOPAN SILMÄLUKU, ON MUUTTUJA, JONKA ARVO MÄÄRÄYTYY ALKEIS- TAPAHTUMAN PERUSTEELLA SM X ON ALKEISTAPAHTUMAN FUNKTIO X : Ω X(Ω). X(Ω) ON X:N ARVOJOUKKO: X(ω) X(Ω) KAIKILLA ω Ω ESIM. KAHDEN NOPAN HEITOSSA ALKEISTAPAHTUMIEN JOUKKO ON Ω = {(m,n) m,n {1,2,3,4,5,6}} SILMÄLUKUJEN SUMMA: ω = (m,n) X(ω) = m+n X(Ω) = {2,3,4,5,6,7,8,9,10,11,12}
6 TODENNÄKÖISYYS (TN) MUUTTUJAN NIMET ISOLLA ARVOT PIENELLÄ SATUNNAISMUUTTUJIEN AVULLA VOIDAAN MÄÄRITELLÄ UUSIA TAPAHTUMIA: A = X=x B = X<4 C = X=x,Y<5 D = X>Y ESIM. KAHDEN NOPAN HEITOSSA ALKEISTAPAHTUMIEN JOUKKO ON Ω = {(m,n) m,n {1,2,3,4,5,6}} SILMÄLUKUJEN SUMMA: ω = (m,n) X(ω) = m+n X(Ω) = {2,3,4,5,6,7,8,9,10,11,12}
7 TODENNÄKÖISYYS (TN) SATUNNAISMUUTTUJIEN AVULLA VOIDAAN MÄÄRITELLÄ UUSIA TAPAHTUMIA: A = X=x B = X<4 C = X=x,Y<5 D = X>Y MUUTTUJILLA ON JAKAUMA: P X = (P(X=2),P(X=3),P(X=4),...,P(X=12)) =(1/36, 2/36, 3/36, 4/36, 5/36, 6/36, 5/36, 4/36, 3/36, 2/36, 1/36) ESIM. KAHDEN NOPAN HEITOSSA ALKEISTAPAHTUMIEN JOUKKO ON Ω = {(m,n) m,n {1,2,3,4,5,6}} SILMÄLUKUJEN SUMMA: ω = (m,n) X(ω) = m+n X(Ω) = {2,3,4,5,6,7,8,9,10,11,12}
8 MUUTTUJAT VS TAPAHTUMAT TAPAHTUMIEN LASKUSÄÄNNÖT, KUTEN KETJUSÄÄNTÖ, PÄTEVÄT MYÖS MUUTTUJIEN AVULLA MÄÄRITELTYIHIN TAPAHTUMIIN ESIM. P(X=x, Y=y) = P(X=x) P(Y=y X=x) x,y USEIN LYHENNETÄÄN P(x,y) = P(x) P(y x) x,y
9 BAYES?
10 BAYES? P(B A) = P(B) P(A B) / P(A) P(tila havainto) = P(tila) P(havainto tila) / P(havainto)
11 BAYES? P(B A) = P(B) P(A B) / P(A) P(tila havainto) = P(tila) P(havainto tila) / P(havainto)
12 BAYES? P(B A) = P(B) P(A B) / P(A) P(tila havainto) = P(tila) P(havainto tila) / P(havainto)
13 BAYES? P(B A) = P(B) P(A B) / P(A) P(tila havainto) = P(tila) P(havainto tila) / P(havainto) POSTERIORI PRIORI USKOTTAVUUS ÄRSYTTÄVÄ NIMITTÄJÄ
14 BAYES? P(B A) = P(B) P(A B) / P(A) P(tila havainto) = P(tila) P(havainto tila) / P(havainto) P(tila havainto) = P(tila) P(havainto tila) C
15 BAYES? P(B A) = P(B) P(A B) / P(A) P(tila havainto) = P(tila) P(havainto tila) / P(havainto) P(tila havainto) = P(tila) P(havainto tila) C
16 BAYES? P(B A) = P(B) P(A B) / P(A) P(tila havainto) = P(tila) P(havainto tila) / P(havainto) P(tila havainto) = P(tila) P(havainto tila) C P(tila h1,h2) = P(tila h1) P(h2 tila,h1) C P(tila h1,h2,h3) = P(tila h1,h2) P(h3 tila,h1,h2) C ERITYISEN KÄTEVÄÄ, JOS havainnot RIIPPUMATTOMIA TOISISTAAN ANNETTUNA tila: P(h2 tila,h1) = P(h2 tila), P(h3 tila,h1,h2) = P(h3 tila), jne.
17 BAYES? P(B A) = P(B) P(A B) / P(A) P(tila havainto) = P(tila) P(havainto tila) / P(havainto) P(tila havainto) = P(tila) P(havainto tila) C P(tila h1,h2) = P(tila h1) P(h2 tila,h1) C P(tila h1,h2,h3) = P(tila h1,h2) P(h3 tila,h1,h2) C = P(tila) P(h1 tila) P(h2 tila) P(h3 tila) C ERITYISEN KÄTEVÄÄ, JOS havainnot RIIPPUMATTOMIA TOISISTAAN ANNETTUNA tila: P(h2 tila,h1) = P(h2 tila), P(h3 tila,h1,h2) = P(h3 tila), jne.
18 BAYES? P(tila havainto) = P(tila) P(havainto tila) / P(havainto) Tila {sairas,terve} Havainto {pos,neg} // potilas sairas tai terve // testi positiivinen tai negatiivinen P(sairas) = P(terve) = _0.999_ P(pos sairas) = 0.9 P(pos terve) = 0.01 P(neg sairas) = _0.1_ P(neg terve) = _0.99_ P(sairas pos) = ~8 %
19 SEURAAVAKSI TODENNÄKÖISYYSMALLINNUS SPAM-SUODATIN BAYES-VERKOT AKKU SPAM/HAM RADIO SYTYTYS BENSA KÄYNISTYY LIIKKUU SANA 1 SANA 2 SANA 3 SANA 4 SANA 6 SANA 7
20 KUINKA RIKASTUA
21 NAIVI BAYES FROM: "MARGARETTA NITA" SUBJECT: SPECIAL OFFER : VIAGRA ON SALE AT $1.38 X-BOGOSITY: YES, TESTS=BOGOFILTER, SPAMICITY= , VERSION= DATE: MON, 26 SEP :52: X-CLASSIFICATION: JUNK - AD HOC SPAM DETECTED (CODE = 73) SPECIAL OFFER : VIAGRA ON SALE AT $1.38 COMPARE THE BEST ONLINE PHARMACIES TO BUY VIAGRA. ORDER VIAGRA ONLINE WITH HUGE DISCOUNT. MULTIPLE BENEFITS INCLUDE FREE SHIPPING, REORDER DISCOUNTS, BONUS PILLS
22 SPAM/HAM NAIVI BAYES SANA 1 SANA 2 SANA 3 SANA 4 SANA 6 SANA 7 ROSKAPOSTISUODATIN: SPAMICITY(Viesti, P): Odds = P.Spam / P.noSpam for each Sana in Viesti Odds = Odds * P.Sana_Spam(Sana) /P.Sana_noSpam(Sana) return(odds) JOS SPAMICITY(Viesti, P) >1, LUOKITTELE VIESTI SPAMIKSI JOS SPAMICITY(Viesti, P) <1, LUOKITTELE VIESTI HAMIKSI
23 NAIVI BAYES SPAM/HAM SANA 1 P(SANA i =viagra ham) = P(SANA i =viagra spam) = TN, ETTÄ YKSITTÄINEN SANA = viagra.
24 NAIVI BAYES SPAM/HAM SANA 1 P(SANA i = $ ham) = P(SANA i = $ spam) = 0.005
25 NAIVI BAYES SPAM/HAM EHDOLLINEN RIIPPUMATTOMUUS SANA 1 SANA 2 SANA 3 SANA 4 SANA 6 SANA 7
26 NAIVI BAYES MUUTTUJAT: 1. LUOKKA: spam/ham 2. SANA 1 3. SANA JAKAUMAT: P(LUOKKA=spam) = 0.5 P(SANA i =viagra spam)=0.002 P(SANA i =viagra ham)= P(SANA i =$ spam)=0.005 P(SANA i =$ ham)= P(SANA i =is spam)=0.002 P(SANA i =is ham)=0.002 P(SANA i =algorithm spam)= P(SANA i =algorithm ham)=0.002 JNE...
27 NAIVI BAYES PÄÄTTELY: 1. P(spam) = 0.5 P(spam) P(SANA 1 =viagra spam) 2. P(spam SANA 1 =viagra) = P(SANA 1 =viagra) BAYESIN KAAVA
28 NAIVI BAYES PÄÄTTELY: 1. P(spam) = 0.5 P(spam) P(SANA 1 =viagra spam) 2. P(spam SANA 1 =viagra) = P(SANA 1 =viagra) P(SANA 1 =viagra) = P(spam) P(SANA 1 =viagra spam) + P(ham) P(SANA 1 =viagra ham)
29 NAIVI BAYES PÄÄTTELY: 1. P(spam) = 0.5 P(spam) P(SANA 1 =viagra spam) 2. P(spam SANA 1 =viagra) = P(SANA 1 =viagra) 3. P(spam SANA 1 =viagra, SANA 2 =is) P(spam) P(SANA 1 =viagra, SANA 2 =is spam) = P(SANA 1 =viagra, SANA 2 =is) 4. P(spam SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm) P(spam) P(SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm spam) = P(SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm)
30 NAIVI BAYES PÄÄTTELY: 1. P(spam) = 0.5 P(spam) P(SANA 1 =viagra spam) 2. P(spam SANA 1 =viagra) = P(SANA 1 =viagra) 3. P(spam SANA 1 =viagra, SANA 2 =is) P(spam) P(SANA 1 =viagra, SANA 2 =is spam) = P(SANA 1 =viagra, SANA 2 =is) KAKSI NIKSIÄ 4. P(spam SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm) P(spam) P(SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm spam) = P(SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm)
31 NAIVI BAYES #1 PÄÄTTELY: 4. P(spam SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm) P(spam) P(SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm spam) = P(SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm) P(SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm) = P(spam, SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm) + P(ham, SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm)
32 NAIVI BAYES #1 PÄÄTTELY: 4. P(spam SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm) P(spam) P(SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm spam) = P(SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm) P(evidenssi) = P(spam, evidenssi) // MARGINALISOINTI + P(ham, evidenssi)
33 NAIVI BAYES #1 PÄÄTTELY: 4. P(spam SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm) P(spam) P(SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm spam) = P(SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm) P(evidenssi) = P(spam, evidenssi) // MARGINALISOINTI + P(ham, evidenssi) P(spam)P(evidenssi spam) P(spam evidenssi) = P(spam, evidenssi)+p(ham, evidenssi) P(ham)P(evidenssi ham) P(ham evidenssi) = P(spam, evidenssi)+p(ham, evidenssi)
34 NAIVI BAYES #1 PÄÄTTELY: 4. P(spam SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm) P(spam) P(SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm spam) = P(SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm) P(evidenssi) = P(spam, evidenssi) // MARGINALISOINTI + P(ham, evidenssi) P(spam)P(evidenssi spam) P(spam evidenssi) = P(spam, evidenssi)+p(ham, evidenssi) P(ham)P(evidenssi ham) P(ham evidenssi) = P(spam, evidenssi)+p(ham, evidenssi)
35 NAIVI BAYES #1 PÄÄTTELY: 4. P(spam SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm) P(spam) P(SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm spam) = P(SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm) P(evidenssi) = P(spam, evidenssi) // MARGINALISOINTI + P(ham, evidenssi) P(spam evidenssi) P(ham evidenssi) = P(spam)P(evidenssi spam) P(ham)P(evidenssi ham)
36 NAIVI BAYES #1 PÄÄTTELY: 4. P(spam SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm) P(spam) P(SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm spam) = P(SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm) P(evidenssi) P(S E) P(S)P(E S) = P(spam, evidenssi) // MARGINALISOINTI = P(ham, evidenssi) P( S E) P( S)P(E S) P(spam evidenssi) P(ham evidenssi) = P(spam)P(evidenssi spam) P(ham)P(evidenssi ham)
37 NAIVI BAYES #2 PÄÄTTELY: P(SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm spam) = P(SANA 1 =viagra spam) // KETJUSÄÄNTÖ P(SANA 2 =is SANA 1 =viagra,spam) P(SANA 3 =algorithm SANA 1 =viagra,sana 2 =is,spam)
38 SPAM/HAM NAIVI BAYES #2 SANA 1 SANA 2 SANA 3 SANA 4 SANA 6 SANA 7 PÄÄTTELY: P(SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm spam) = P(SANA 1 =viagra spam) // KETJUSÄÄNTÖ P(SANA 2 =is SANA 1 =viagra,spam) P(SANA 3 =algorithm SANA 1 =viagra,sana 2 =is,spam) // RIIPPUMATTOMUUS
39 SPAM/HAM NAIVI BAYES #2 SANA 1 SANA 2 SANA 3 SANA 4 SANA 6 SANA 7 PÄÄTTELY: P(SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm spam) = P(SANA 1 =viagra spam) // KETJUSÄÄNTÖ P(SANA 2 =is spam) P(SANA 3 =algorithm spam)
40 SPAM/HAM NAIVI BAYES #2 SANA 1 SANA 2 SANA 3 SANA 4 SANA 6 SANA 7 PÄÄTTELY: P(SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm spam) = P(SANA 1 =viagra spam) P(S E) // KETJUSÄÄNTÖ P(S)P(E S) P(SANA 2 =is spam) = P(SANA 3 =algorithm spam) P( S E) P( S)P(E S) P(SANA 1 =viagra, SANA 2 =is, SANA 3 =algorithm ham) = P(SANA 1 =viagra ham) // KETJUSÄÄNTÖ P(SANA 2 =is ham) P(SANA 3 =algorithm ham)
41 SPAM/HAM NAIVI BAYES #2 SANA 1 SANA 2 SANA 3 SANA 4 SANA 6 SANA 7 PÄÄTTELY: P(spam evidenssi)/p(ham evidenssi) = P(spam) / P(ham) P(SANA 1 =viagra spam) / P(SANA 1 =viagra ham) P(SANA 2 =is spam) / P(SANA 2 =is ham) P(SANA 3 =algorithm spam) / P(SANA 3 =algorithm ham) OSAMÄÄRÄ... > 1 => LUOKITTELE: SPAM < 1 => LUOKITTELE: HAM >1 =1 <1
42 SPAM/HAM NAIVI BAYES SANA 1 SANA 2 SANA 3 SANA 4 SANA 6 SANA 7 YHTEENVETO TOISTAISEKSI: TARVITAAN: - PRIORIJAKAUMA P(spam) = 0. - LUOKKAEHDOLLISET JAKAUMAT P(SANA i =viagra spam)=0. P(SANA i =viagra ham)=0. P(SANA i =is spam) = 0. P(SANA i =is ham)=0. P(SANA i =algorithm spam) = 0. P(SANA i =algorithm ham)=0. OLETETAAN ETTÄ P(SANA i SANA j, spam) = P(SANA i spam) (EHDOLLINEN RIIPPUMATTOMUUS) OLENNAISTA ON OSAMÄÄRÄ (OTETAAN NÄIDEN TULO) P(SANA i =viagra spam) P(SANA i =viagra ham)
43 SPAM/HAM NAIVI BAYES SANA 1 SANA 2 SANA 3 SANA 4 SANA 6 SANA 7 PSEUDOKOODINA: SPAMICITY(Viesti, P): Odds = P.Spam / P.noSpam for each Sana in Viesti Odds = Odds * P.Sana_Spam(Sana) /P.Sana_noSpam(Sana) return(odds) PÄÄTTELY: P(spam EVIDENSSI)/P(ham EVIDENSSI) = P(spam) / P(ham) P(SANA 1 =viagra spam) / P(SANA 1 =viagra ha P(SANA 2 =is spam) / P(SANA 2 =is ham) P(SANA 3 =algorithm spam) / P(SANA 3 =algorit
44 SPAM/HAM NAIVI BAYES SANA 1 SANA 2 SANA 3 SANA 4 SANA 6 SANA 7 PSEUDOKOODINA: SPAMICITY(Viesti, P): Odds = P.Spam / P.noSpam for each Sana in Viesti Odds = Odds * P.Sana_Spam(Sana) /P.Sana_noSpam(Sana) return(odds) PÄÄTTELY: P(spam EVIDENSSI)/P(ham EVIDENSSI) = P(spam) / P(ham) P(SANA 1 =viagra spam) / P(SANA 1 =viagra ha P(SANA 2 =is spam) / P(SANA 2 =is ham) P(SANA 3 =algorithm spam) / P(SANA 3 =algorit
45 SPAM/HAM NAIVI BAYES SANA 1 SANA 2 SANA 3 SANA 4 SANA 6 SANA 7 PSEUDOKOODINA: SPAMICITY(Viesti, P): Odds = P.Spam / P.noSpam for each Sana in Viesti Odds = Odds * P.Sana_Spam(Sana) /P.Sana_noSpam(Sana) return(odds) JOS SPAMICITY(Viesti, P) >1, LUOKITTELE VIESTI SPAMIKSI JOS SPAMICITY(Viesti, P) <1, LUOKITTELE VIESTI HAMIKSI JOS SPAMICITY(Viesti, P) =1, EN TIEDÄ
46 SPAM/HAM NAIVI BAYES SANA 1 SANA 2 SANA 3 SANA 4 SANA 6 SANA 7 PSEUDOKOODINA: SPAMICITY(Viesti, P): Odds = P.Spam / P.noSpam for each Sana in Viesti Odds = Odds * P.Sana_Spam(Sana) /P.Sana_noSpam(Sana) return(odds) JOS SPAMICITY(Viesti, P) >1+α, LUOKITTELE VIESTI SPAMIKSI JOS SPAMICITY(Viesti, P) <1-β, LUOKITTELE VIESTI HAMIKSI MUUTEN, EN TIEDÄ Epäsymmetrinen kustannusfunktio: Asiallisen viestin luokittelu spamiksi pahempi virhe kuin toisin päin
47 SPAM/HAM NAIVI BAYES SANA 1 SANA 2 SANA 3 SANA 4 SANA 6 SANA 7 PSEUDOKOODINA: SPAMICITY(Viesti, P): LOG(A*B) = LOG(A) + LOG(B) Odds = P.Spam / P.noSpam for each Sana in Viesti Odds = Odds * P.Sana_Spam(Sana) /P.Sana_noSpam(Sana) return(odds) KÄYTÄNNÖN ONGELMA: ALI- JA YLIVUODOT Odds ARVOSTA TULEE HELPOSTI LIIAN PIENI (LÄHELLÄ NOLLAA) TAI LIIAN SUURI. RATKAISU: KÄYTÄ log(odds)
48 SPAM/HAM NAIVI BAYES SANA 1 SANA 2 SANA 3 SANA 4 SANA 6 SANA 7 PSEUDOKOODINA: SPAMICITY(Viesti, P): LOG(A*B) = LOG(A) + LOG(B) logodds = log(p.spam / P.noSpam) for each Sana in Viesti logodds = logodds + log(p.sana_spam(sana) / P.Sana_noSpam(Sana)) return(exp(logodds)) KÄYTÄNNÖN ONGELMA: ALI- JA YLIVUODOT Odds ARVOSTA TULEE HELPOSTI LIIAN PIENI (LÄHELLÄ NOLLAA) TAI LIIAN SUURI. RATKAISU: KÄYTÄ log(odds)
49 SPAM/HAM NAIVI BAYES SANA 1 SANA 2 SANA 3 SANA 4 SANA 6 SANA 7 PARAMETRIEN OPPIMISESTA VAIKEA KEKSIÄ PÄÄSTÄ EHDOLLISIA TN:IÄ. HUONOT ARVOT HUONONTAVAT FILTTERIN TOIMINTAA PAREMPI RATKAISU: 1. KERÄÄ ISO KASA SPAM-VIESTEJÄ 2. KERÄÄ ISO KASA HAM-VIESTEJÄ 3. ARVIOI P(SANA i = ) = 0. LASKEMALLA DATASTA (VRT. LASKUHARJ.) VAROTTAVA NOLLATODENNÄKÖISYYKSIÄ (JOS KASA EI TARPEEKSI ISO, JOTKUT SANAT EIVÄT VAIN SATU ESIINTYMÄÄN SIINÄ.)
50 ESIM.
51 ESIM.
52 ESIM. SPAM HAM 1 MONEY... 5 VIAGRA IS REPLICA YOU 21 DATABASE 25 S 26 OF 31 TO 43 AND 48 THE TOTAL % 0.21 % 0.42 % 0.80 % 0.84 % 0.84 % 0.88 % 1.05 % 1.09 % 1.30 % 1.80 % 2.01 % 21 ALGORITHM MONEY FOR 2492 THAT 2990 YOU 3141 IN 3160 I 3218 AND 3283 IS 3472 OF 3874 A 5442 TO 9196 THE TOTAL % 0.02 % 0.78 % 0.88 % 1.05 % 1.11 % 1.11 % 1.13 % 1.16 % 1.22 % 1.37 % 1.92 % 3.24 %
53 ESIM. SPAM HAM 1 MONEY... 5 VIAGRA IS REPLICA YOU 21 DATABASE 25 S 26 OF 31 TO 43 AND 48 THE TOTAL % 0.21 % 0.42 % 0.80 % 0.84 % 0.84 % 0.88 % 1.05 % 1.09 % 1.30 % 1.80 % 2.01 % 21 ALGORITHM MONEY FOR 2492 THAT 2990 YOU 3141 IN 3160 I 3218 AND 3283 IS 3472 OF 3874 A 5442 TO 9196 THE TOTAL % 0.02 % 0.78 % 0.88 % 1.05 % 1.11 % 1.11 % 1.13 % 1.16 % 1.22 % 1.37 % 1.92 % 3.24 %
54 ESIM. SPAM HAM 1 MONEY... 5 VIAGRA IS REPLICA YOU 21 DATABASE 25 S 26 OF 31 TO 43 AND 48 THE TOTAL % 0.21 % 0.42 % 0.80 % 0.84 % 0.84 % 0.88 % 1.05 % 1.09 % 1.30 % 1.80 % 2.01 % 21 ALGORITHM MONEY FOR 2492 THAT 2990 YOU 3141 IN 3160 I 3218 AND 3283 IS 3472 OF 3874 A 5442 TO 9196 THE TOTAL % 0.02 % 0.78 % 0.88 % 1.05 % 1.11 % 1.11 % 1.13 % 1.16 % 1.22 % 1.37 % 1.92 % 3.24 %
55 ESIM. SPAM HAM 1 MONEY... 5 VIAGRA IS REPLICA YOU 21 DATABASE 25 S 26 OF 31 TO 43 AND 48 THE TOTAL % 0.21 % 0.42 % 21 ALGORITHM MONEY FOR 2492 THAT 2990 YOU 3141 IN 3160 I 3218 AND 3283 IS 3472 OF 3874 A 5442 TO 9196 THE TOTAL P(SANA i =MONEY SPAM) % 0.02 % 0.78 % 0.88 % % = = % > % P(SANA 0.84 i =MONEY SPAM) % 0.88 % 1.05 % 1.09 % 1.30 % 1.80 % 2.01 % 1.11 % 1.11 % 1.13 % 1.16 % 1.22 % 1.37 % 1.92 % 3.24 %
56 ESIM. SPAM HAM 1 MONEY... 5 VIAGRA IS REPLICA YOU 21 DATABASE 25 S 26 OF 31 TO 43 AND 48 THE TOTAL % 0.21 % 0.42 % 21 ALGORITHM MONEY FOR 2492 THAT 2990 YOU 3141 IN 3160 I 3218 AND 3283 IS 3472 OF 3874 A 5442 TO 9196 THE TOTAL P(SANA i =MONEY SPAM) % 0.02 % 0.78 % 0.88 % % = = % > % 1.11 % P(SANA 0.84 i =MONEY SPAM) % 1.11 % 0.88 % 1.13 % 1.05 % 1.16 % P(SANA 1.09 i =IS SPAM) % 1.22 % % = = < % 1 P(SANA1.80 % i =IS SPAM) % 1.92 % 3.24 %
57 ESIM. SPAM HAM 1 MONEY... 5 VIAGRA IS REPLICA YOU 21 DATABASE 25 S 26 OF 31 TO 43 AND 48 THE TOTAL % 0.21 % 0.42 % 0.80 % 0.84 % 0.84 % 0.88 % 1.05 % 1.09 % 1.30 % 1.80 % 2.01 % 21 ALGORITHM MONEY FOR 2492 THAT 2990 YOU 3141 IN 3160 I 3218 AND 3283 IS 3472 OF 3874 A 5442 TO 9196 THE TOTAL % 0.02 % 0.78 % 0.88 % 1.05 % 1.11 % 1.11 % 1.13 % 1.16 % 1.22 % 1.37 % 1.92 % 3.24 %
58 YHTEENVETO YHTEENVETO NAIVI BAYES-SPAMFILTTERISTÄ: TARVITAAN: - PRIORIJAKAUMA P(SPAM) = 0. - LUOKKAEHDOLLISET JAKAUMAT P(SANA i =VIAGRA SPAM)=0. P(SANA i =VIAGRA SPAM)=0. P(SANA i =IS SPAM) = 0. P(SANA i =IS SPAM)=0. P(SANA i =ALGORITHM SPAM) = 0. P(SANA i =ALG. SPAM)=0. OLETETAAN ETTÄ P(SANA i SANA j,spam) = P(SANA i SPAM) (EHDOLLINEN RIIPPUMATTOMUUS)
59 YHTEENVETO (JATKOA...): KUSTANNUSFUNKTIO EPÄSYMMETRINEN: PAREMPI SÄÄSTÄÄ MUUTAMA SPAM KUIN HUKATA OIKEA VIESTI (HAM) JAKAUMAT PARAS ESTIMOIDA DATASTA
JOHDATUS TEKOÄLYYN TEEMU ROOS
JOHDATUS TEKOÄLYYN TEEMU ROOS KUINKA RIKASTUA NAIVI BAYES FROM: "MARGARETTA NITA" SUBJECT: SPECIAL OFFER : VIAGRA ON SALE AT $1.38!!! X-BOGOSITY: YES, TESTS=BOGOFILTER, SPAMICITY=0.99993752,
JOHDATUS TEKOÄLYYN TEEMU ROOS
JOHDATUS TEKOÄLYYN TEEMU ROOS NAIVI BAYES SPAM/HAM SANA 1 SANA 2 SANA 3 SANA 4 SANA 6 SANA 7 NAIVI BAYES SPAM/HAM SANA 1 P(SANA i =VIAGRA HAM) = 0.0001 P(SANA i =VIAGRA SPAM) = 0.002 TN, ETTÄ YKSITTÄINEN
JOHDATUS TEKOÄLYYN TEEMU ROOS
JOHDATUS TEKOÄLYYN TEEMU ROOS KUINKA RIKASTUA NAIVI BAYES FROM: "MARGARETTA NITA" SUBJECT: SPECIAL OFFER : VIAGRA ON SALE AT $1.38!!! X-BOGOSITY: YES, TESTS=BOGOFILTER, SPAMICITY=0.99993752,
JOHDATUS TEKOÄLYYN LUENTO 4.
2009 CBS INTERACTIVE JOHDATUS TEKOÄLYYN LUENTO 4. TODENNÄKÖISYYSMALLINNUS II: BAYESIN KAAVA TEEMU ROOS Marvin Minsky Father of Artificial Intelligence, 1927 2016 PINGVIINI(tweety) :- true. Wulffmorgenthaler
JOHDATUS TEKOÄLYYN TEEMU ROOS
JOHDATUS TEKOÄLYYN TEEMU ROOS OIKEASSA MAAILMASSA OTETTAVA HUOMIOON: HAVAINTOJEN EPÄTARKKUUS EPÄVARMUUS JA EPÄTÄSMÄLLISYYS RISTIRIITAINEN INFORMAATIO (RELEVANTTI) TAUSTATIETO TOSIAIKAISUUS JNE. AKKU
JOHDATUS TEKOÄLYYN TEEMU ROOS
JOHDATUS TEKOÄLYYN TEEMU ROOS X Y Z Å BAYES-VERKKO ON TODENNÄKÖISYYSMALLIN ESITYS VERKON SOLMUT OVAT SATUNNAISMUUTTUJIA (ESIM. NOPAN SILMÄLUKU) VERKON KAARET ( NUOLET ) VASTAAVAT SUORIA RIIPPUUKSIA: EI
JOHDATUS TEKOÄLYYN TEEMU ROOS
JOHDATUS TEKOÄLYYN TEEMU ROOS X Y Z Å BAYES-VERKKO ON TODENNÄKÖISYYSMALLIN ESITYS VERKON SOLMUT OVAT SATUNNAISMUUTTUJIA (ESIM. NOPAN SILMÄLUKU) VERKON KAARET ( NUOLET ) VASTAAVAT SUORIA RIIPPUUKSIA: EI
P(X = x T (X ) = t, θ) = p(x = x T (X ) = t) ei riipu tuntemattomasta θ:sta. Silloin uskottavuusfunktio faktorisoituu
1. Tyhjentävä tunnusluku (sucient statistics ) Olkoon (P(X = x θ) : θ Θ) todennäköisyysmalli havainnolle X. Datan funktio T (X ) on Tyhjentävä tunnusluku jos ehdollinen todennäköisyys (ehdollinen tiheysfunktio)
Johdatus tn-laskentaan perjantai 17.2.2012
Johdatus tn-laskentaan perjantai 17.2.2012 Kahden diskreetin muuttujan yhteisjakauma On olemassa myös monen muuttujan yhteisjakauma, ja jatkuvien muuttujien yhteisjakauma (jota ei käsitellä tällä kurssilla;
Tehtäväsarja I Tehtävät 1-5 perustuvat monisteen kappaleisiin ja tehtävä 6 kappaleeseen 2.8.
HY, MTO / Matemaattisten tieteiden kandiohjelma Todennäköisyyslaskenta IIa, syksy 8 Harjoitus Ratkaisuehdotuksia Tehtäväsarja I Tehtävät -5 perustuvat monisteen kappaleisiin..7 ja tehtävä 6 kappaleeseen.8..
1. TILASTOLLINEN HAHMONTUNNISTUS
1. TILASTOLLINEN HAHMONTUNNISTUS Tilastollisissa hahmontunnistusmenetelmissä piirteitä tarkastellaan tilastollisina muuttujina Luokittelussa käytetään hyväksi seuraavia tietoja: luokkien a priori tn:iä,
MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi
MS-A050 Todennäköisyyslaskennan ja tilastotieteen peruskurssi B Satunnaismuuttujat ja todennäköisyysjakaumat Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto
a. (2 p) Selitä Turingin koe. (Huom. ei Turingin kone.) Minkälainen tekoäly on saavutettu, kun Turingin koe ratkaistaan?
582216 Johdatus tekoälyyn (T. Roos) Kurssikoe 19.10.2012 Kokeessa saa pitää mukana käsinkirjoitettua A4-kokoista kaksipuolista lunttilappua, joka on palautettava koepaperin mukana. Huomaa että jokaisen
Todennäköisyyslaskenta IIa, syyslokakuu 2019 / Hytönen 2. laskuharjoitus, ratkaisuehdotukset
Todennäköisyyslaskenta IIa, syyslokakuu 019 / Hytönen. laskuharjoitus, ratkaisuehdotukset 1. Kurssilla on 0 opiskelijaa, näiden joukossa Jutta, Jyrki, Ilkka ja Alex. Opettaja aikoo valita umpimähkään opiskelijan
HY / Matematiikan ja tilastotieteen laitos Tilastollinen päättely II, kevät 2017 Harjoitus 1 Ratkaisuehdotuksia Tehtäväsarja I
HY / Matematiikan ja tilastotieteen laitos Tilastollinen päättely II, kevät 2017 Harjoitus 1 Ratkaisuehdotuksia Tehtäväsarja I Tehtävä 1 on klassikko. 1. Tässä tehtävässä tapahtumat A ja B eivät välttämättä
MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi
MS-A050 Todennäköisyyslaskennan ja tilastotieteen peruskurssi B Satunnaismuuttujat ja todennäköisyysjakaumat Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto
Todennäköisyyden ominaisuuksia
Todennäköisyyden ominaisuuksia 0 P(A) 1 (1) P(S) = 1 (2) A B = P(A B) = P(A) + P(B) (3) P(A) = 1 P(A) (4) P(A B) = P(A) + P(B) P(A B) (5) Tapahtuman todennäköisyys S = {e 1,..., e N }. N A = A. Kun alkeistapaukset
Johdatus tekoälyyn
YLEISTÄ 582216 Johdatus tekoälyyn Syksy 2014 T. Roos Päivitetty 21.10.2014 T. Roos Kurssin päätavoitteena on saada käsitys tekoälyn perusongelmista, -sovelluksista ja -menetelmistä, sekä tekoälyn tärkeimmistä
Johdatus tekoälyyn
YLEISTÄ 582216 Johdatus tekoälyyn Syksy 2013 T. Roos Kurssin päätavoitteena on saada käsitys tekoälyn perusongelmista, -sovelluksista ja -menetelmistä, sekä tekoälyn tärkeimmistä kehitysaskeleista sen
2 exp( 2u), kun u > 0 f U (u) = v = 3 + u 3v + uv = u. f V (v) dv = f U (u) du du f V (v) = f U (u) dv = f U (h(v)) h (v) = f U 1 v (1 v) 2
HY, MTO / Matemaattisten tieteiden kandiohjelma Todennäköisyyslaskenta IIa, syksy 208 Harjoitus 4 Ratkaisuehdotuksia Tehtäväsarja I. Satunnaismuuttuja U Exp(2) ja V = U/(3 + U). Laske f V käyttämällä muuttujanvaihtotekniikkaa.
MAT Todennäköisyyslaskenta Tentti / Kimmo Vattulainen
MAT-5 Todennäköisyyslaskenta Tentti.. / Kimmo Vattulainen Vastaa jokainen tehtävä eri paperille. Funktiolaskin sallittu.. a) P A). ja P A B).6. Mitä on P A B), kun A ja B ovat riippumattomia b) Satunnaismuuttujan
Kokeessa piti vastata viiteen (5) tehtävään kuudesta (6). Jokaisen tehtävän maksimipistemäärä on 8.
582216 Johdatus tekoälyyn (T. Roos) Kurssikoe 19.10.2012 ARVOSTELUPERUSTEET Kokeessa piti vastata viiteen (5) tehtävään kuudesta (6). Jokaisen tehtävän maksimipistemäärä on 8. 1. Tekoälyn filosofiaa yms.
MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi
MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi 5B Bayesläiset piste- ja väliestimaatit Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto
X X. Johdatus tekoälyyn. v=1 X O. Kevät 2016 T. Roos. v=1 v= 1 8) 9) 10) X X O X O O. v=1 13) 14) X X X O O X O O X O. v=1 v=1 v= 1.
X X X O O eli O X X X X O O 582216 Johdatus tekoälyyn v=1 4) O X X X X O O v=1 v= 1 Kevät 2016 T. Roos 1 8) 9) 10) O X X X X O O O O X O X X X O O O X X X O O v=1 v=1 v= 1 X O 13) 14) O X X X X O v=1 X
MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi
MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi 4B Bayesläinen tilastollinen päättely Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy
031021P Tilastomatematiikka (5 op)
031021P Tilastomatematiikka (5 op) Jukka Kemppainen Mathematics Division Yleinen todennäköisyys Kertausmateriaalissa esiteltiin koulusta tuttuja todennäköisyysmalleja. Tällä kurssilla todennäköisyys on
1. Kuusisivuista noppaa heitetään, kunnes saadaan silmäluku 5 tai 6. Olkoon X niiden heittojen lukumäärä, joilla tuli 1, 2, 3 tai 4.
HY / Matematiikan ja tilastotieteen laitos Todennäköisyyslaskenta II, syksy 206 Kurssikoe 28.0.206 Ratkaisuehdotuksia. Kuusisivuista noppaa heitetään, kunnes saadaan silmäluku 5 tai 6. Olkoon X niiden
Tilastollinen päättely, 10 op, 4 ov
Tilastollinen päättely, 0 op, 4 ov Arto Luoma Matematiikan, tilastotieteen ja filosofian laitos Tilastotiede 3304 TAMPEREEN YLIOPISTO Syksy 2006 Kirjallisuutta Garthwaite, Jolliffe, Jones Statistical Inference,
(b) Tarkista integroimalla, että kyseessä on todella tiheysfunktio.
Todennäköisyyslaskenta I, kesä 7 Harjoitus 4 Ratkaisuehdotuksia. Satunnaismuuttujalla X on ns. kaksipuolinen eksponenttijakauma eli Laplacen jakauma: sen tiheysfunktio on fx = e x. a Piirrä tiheysfunktio.
TEEMU ROOS (KALVOT MUOKATTU PATRIK HOYERIN LUENTOMATERIAALISTA)
JOHDATUS TEKOÄLYYN TEEMU ROOS (KALVOT MUOKATTU PATRIK HOYERIN LUENTOMATERIAALISTA) KONEOPPIMISEN LAJIT OHJATTU OPPIMINEN: - ESIMERKIT OVAT PAREJA (X, Y), TAVOITTEENA ON OPPIA ENNUSTAMAAN Y ANNETTUNA X.
Odotusarvo. Odotusarvon ominaisuuksia Satunnaismuuttujien ominaisuuksia 61
3.3. Satunnaismuuttujien ominaisuuksia 61 Odotusarvo Määritelmä 3.5 (Odotusarvo) Olkoon X diskreetti satunnaismuuttuja, jonka arvojoukko on S ja todennäköisyysfunktio f X (x). Silloin X:n odotusarvo on
TODENNÄKÖISYYSLASKUN KERTAUS Peruskäsitteitä
J. Virtamo 38.3143 Jonoteoria / Todennäköisyyslaskenta 1 TODENNÄKÖISYYSLASKUN KERTAUS Peruskäsitteitä Otosavaruus S S on satunnaiskokeen E kaikkien mahdollisten alkeistapahtumien e joukko. Esim. 1. Noppaa
4.0.2 Kuinka hyvä ennuste on?
Luonteva ennuste on käyttää yhtälöä (4.0.1), jolloin estimaattori on muotoa X t = c + φ 1 X t 1 + + φ p X t p ja estimointivirheen varianssi on σ 2. X t }{{} todellinen arvo Xt }{{} esimaattori = ε t Esimerkki
Tilastotieteen aihehakemisto
Tilastotieteen aihehakemisto hakusana ARIMA ARMA autokorrelaatio autokovarianssi autoregressiivinen malli Bayes-verkot, alkeet TILS350 Bayes-tilastotiede 2 Bayes-verkot, kausaalitulkinta bootstrap, alkeet
TILASTOLLINEN OPPIMINEN
301 TILASTOLLINEN OPPIMINEN Salmiakki- ja hedelmämakeisia on pakattu samanlaisiin käärepapereihin suurissa säkeissä, joissa on seuraavat sekoitussuhteet h 1 : 100% salmiakkia h 2 : 75% salmiakkia + 25%
MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi
MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi 5B Tilastollisen merkitsevyyden testaus Osa II Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto
DBN Mitä sillä tekee? Dynaamisten Bayes-verkkojen määrittely aikasarja-analyysissä Janne Toivola jtoivola@iki.fi
DBN Mitä sillä tekee? Dynaamisten Bayes-verkkojen määrittely aikasarja-analyysissä Janne Toivola jtoivola@iki.fi Historiaa Bayesin kaavan hyödyntäminen BN-ohjelmistoja ollut ennenkin Tanskalaisten Hugin
30A02000 Tilastotieteen perusteet
30A02000 Tilastotieteen perusteet Kertaus 1. välikokeeseen Lauri Viitasaari Tieto- ja palvelujohtamisen laitos Kauppatieteiden korkeakoulu Aalto-yliopisto Syksy 2019 Periodi I-II Sisältö Välikokeesta Joukko-oppi
Gripenberg. MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi Tentti ja välikoeuusinta
MS-A00 Todennäköisyyslaskennan ja tilastotieteen peruskurssi Tentti ja välikoeuusinta 7.. Gripenberg Kirjoita jokaiseen koepaperiin nimesi, opiskelijanumerosi ym. tiedot ja minkä kokeen suoritat! Laskin,
Inversio-ongelmien laskennallinen peruskurssi Luento 7
Inversio-ongelmien laskennallinen peruskurssi Luento 7 Kevät 2012 1 Tilastolliset inversio-ongelmat Tilastollinen ionversio perustuu seuraaviin periaatteisiin: 1. Kaikki mallissa olevat muuttujat mallinnetaan
P (X B) = f X (x)dx. xf X (x)dx. g(x)f X (x)dx.
Yhteenveto: Satunnaisvektorit ovat kuvauksia tn-avaruudelta seillaiselle avaruudelle, johon sisältyy satunnaisvektorin kaikki mahdolliset reaalisaatiot. Satunnaisvektorin realisaatio eli otos on jokin
P (A)P (B A). P (B) P (A B) = P (A = 0)P (B = 1 A = 0) P (B = 1) P (A = 1)P (B = 1 A = 1) P (B = 1)
Harjoitustehtäviä (erä 1) 1 1. Käytetään yksinkertaisesti Bayesin kaavaa: P (A B) = P (A)P (B A). P (B) Tapauksessa B = 1 saadaan P (A = 0 B = 1) = P (A = 1 B = 1) = P (A = 0)P (B = 1 A = 0) P (A = 1)P
TKK @ Ilkka Mellin (2008) 1/5
Mat-1.2620 Sovellettu todennäköisyyslaskenta B / Tehtävät Demo-tehtävät: 1, 3, 6, 7 Pistetehtävät: 2, 4, 5, 9 Ylimääräiset tehtävät: 8, 10, 11 Aiheet: Moniulotteiset jakaumat Avainsanat: Diskreetti jakauma,
1. laskuharjoituskierros, vko 4, ratkaisut
1. laskuharjoituskierros, vko 4, ratkaisut D1. Heitetään kahta virheetöntä noppaa, joiden kuudella tahkolla on silmäluvut 1, 2, 3, 4, 5 ja 6. Tällöin heittotuloksiin liittyvä otosavaruus on S = {(x, y)
Laskuharjoitus 5. Mitkä ovat kuvan 1 kanavien kapasiteetit? Kuva 1: Kaksi kanavaa. p/(1 p) ) bittiä lähetystä kohti. Voidaan
Informaatioteoria ELEC-C7 5 Laskuharjoitus 5 Tehtävä 5.3 Mitkä ovat kuvan kanavien kapasiteetit?.3.7 a b Kuva : Kaksi kanavaa b Binäärisessä Z-kanavassa virhe tapahtuu todennäköisyydellä p ja virhe todennäköisyydellä.
6. laskuharjoitusten vastaukset (viikot 10 11)
6. laskuharjoitusten vastaukset (viikot 10 11) 1. a) Sivun 102 hypergeometrisen jakauman määritelmästä saadaan µ µ 13 39 13! 13 12 11 10 9 µ 0! 8! 1! 2 2! 2 1 0 49 48! 47!! 14440 120 31187200 120 1287
Todennäköisyyslaskun kertaus. Vilkkumaa / Kuusinen 1
Todennäköisyyslaskun kertaus Vilkkumaa / Kuusinen 1 Satunnaismuuttujat ja todennäköisyysjakaumat Vilkkumaa / Kuusinen 2 Motivointi Kokeellisessa tutkimuksessa tutkittaviin ilmiöihin liittyvien havaintojen
Mallintamisesta. Mallintamisesta
Laajasti ymmärtäen jonkin tarkasteltavan ilmiön kuvaamista (esim. matemaattista) kuhunkin tarkoitukseen (ennustaminen, analysointi, visualisointi) parhaiten sopivalla tavalla. Ilmiön pukemista helposti
Sovellettu todennäköisyyslaskenta B
Sovellettu todennäköisyyslaskenta B Antti Rasila 16. marraskuuta 2007 Antti Rasila () TodB 16. marraskuuta 2007 1 / 15 1 Epäparametrisia testejä χ 2 -yhteensopivuustesti Homogeenisuuden testaaminen Antti
Ilkka Mellin Todennäköisyyslaskenta Osa 2: Satunnaismuuttujat ja todennäköisyysjakaumat Moniulotteiset satunnaismuuttujat ja jakaumat
Ilkka Mellin Todennäköisyyslaskenta Osa 2: Satunnaismuuttujat ja todennäköisyysjakaumat Moniulotteiset satunnaismuuttujat ja jakaumat TKK (c) Ilkka Mellin (2006) 1 Moniulotteiset satunnaismuuttujat ja
T Luonnollisten kielten tilastollinen käsittely
T-61.281 Luonnollisten kielten tilastollinen käsittely Vastaukset 3, ti 11.2.2003, 16:15-18:00 Kollokaatiot, Versio 1.1 1. Lasketaan ensin tulokset sanaparille valkoinen, talo käsin: Frekvenssimenetelmä:
MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi
MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi 5A Bayeslainen tilastollinen päättely Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Lukuvuosi
l (φ; y) = l(θ(φ); y) Toinen derivaatta saadaan tulon derivaatan laskusäännöllä Uudelleenparametroidun mallin Fisherin informaatio on
HY, MTO / Matemaattisten tieteiden kandiohjelma Tilastollinen päättely II, kevät 018 Harjoitus B Ratkaisuehdotuksia Tehtäväsarja I 1 (Monisteen tehtävä 14) Olkoon f Y (y; θ) tilastollinen malli, jonka
Viikko 2: Ensimmäiset ennustajat Matti Kääriäinen matti.kaariainen@cs.helsinki.fi
Viikko 2: Ensimmäiset ennustajat Matti Kääriäinen matti.kaariainen@cs.helsinki.fi Exactum C222, 5.-7.11.2008. 1 Tällä viikolla Sisältösuunnitelma: Ennustamisstrategioista Koneoppimismenetelmiä: k-nn (luokittelu
Juuri 10 Tehtävien ratkaisut Kustannusosakeyhtiö Otava päivitetty
Juuri 0 Tehtävien ratkaisut Kustannusosakeyhtiö Otava päivitetty 9..08 Kertaus K. a) Alapaineiden pienin arvo on ja suurin arvo 74, joten vaihteluväli on [, 74]. b) Alapaineiden keskiarvo on 6676870774
3.1 Kaksiulotteinen satunnaisvektori ja sen jakauma
3 Yhteisjakauma Kappaleessa 2 tarkastelimme aina yhtä satunnaismuuttujaa kerrallaan. Tässä kappaleessa näemme, miten aikaisemmat käsitteet yleistyvät siihen tilanteeseen, jossa samalla perusjoukolla on
Muuttujien riippumattomuus
199 Muuttujien riippumattomuus Jos esimerkkiin lisätään muuttuja Säätila, jolla on 4 mahdollista arvoa, on edellä ollut yhteisjakauman taulukko monistettava neljästi Koska hammasongelmat eivät vaikuta
Mallipohjainen klusterointi
Mallipohjainen klusterointi Marko Salmenkivi Johdatus koneoppimiseen, syksy 2008 Luentorunko perjantaille 5.12.2008 Johdattelua mallipohjaiseen klusterointiin, erityisesti gaussisiin sekoitemalleihin Uskottavuusfunktio
Luento KERTAUSTA Kaksiulotteinen jakauma Pisteparvi, Toyota Avensis -farmariautoja
1 Luento 23.9.2014 KERTAUSTA Kaksiulotteinen jakauma Pisteparvi, Toyota Avensis -farmariautoja 2 Ristiintaulukko Esim. Toyota Avensis farmariautoja, nelikenttä (2x2-taulukko) 3 Esim. 5.2.6. Markkinointisuunnitelma
JOHDATUS TEKOÄLYYN TEEMU ROOS
JOHDATUS TEKOÄLYYN TEEMU ROOS LOGIIKKAA LINTU(A) LENTÄÄ(A) PINGVIINI(A) LINTU(A) PINGVIINI(tweety). LENTÄÄ(tweety) ISÄ(X,Y) LAPSI(Y,X) ÄITI(X,Y) LAPSI(Y,X) ISÄ(X,Y) ISÄ(Y,Z) LAPSENLAPSI(Z,X) ISOISÄ(X,Z)
Tilastollinen testaus. Vilkkumaa / Kuusinen 1
Tilastollinen testaus Vilkkumaa / Kuusinen 1 Motivointi Viime luennolla: havainnot generoineen jakauman muoto on usein tunnettu, mutta parametrit tulee estimoida Joskus parametreista on perusteltua esittää
HY, MTO / Matemaattisten tieteiden kandiohjelma Todennäköisyyslaskenta IIa, syksy 2018 Harjoitus 3 Ratkaisuehdotuksia.
HY, MTO / Matemaattisten tieteiden kandiohjelma Todennäköisyyslaskenta IIa, syksy 8 Harjoitus Ratkaisuehdotuksia Tehtäväsarja I. Mitkä seuraavista funktioista F, F, F ja F 4 ovat kertymäfunktioita? Mitkä
Käytetään satunnaismuuttujaa samoin kuin tilastotieteen puolella:
8.1 Satunnaismuuttuja Käytetään satunnaismuuttujaa samoin kuin tilastotieteen puolella: Esim. Nopanheitossa (d6) satunnaismuuttuja X kertoo silmäluvun arvon. a) listaa kaikki satunnaismuuttujan arvot b)
Miten hyvin mallit kuvaavat todellisuutta? Tarvitaan havaintoja.
Luku 1 Johdanto 1.1 Todennäköisyys ja tilastotiede Kurssi käsittelee todennäköisyyslaskentaa ja tilastotiedettä. Laaditaan satunnaisilmiöille todennäköisyysmalleja. Miten hyvin mallit kuvaavat todellisuutta?
1 Bayesin teoreeman käyttö luokittelijana
1 Bayesin teoreeman käyttö luokittelijana Bayesin kaavan mukaan merkityksen kontekstille c ehdollistettu todennäkköisyys voidaan määrittää alla olevan yhtälön perusteella: P ( c) = P (c )P ( ) P (c) (1)
8.1 Ehdolliset jakaumat
8 Ehdollinen jakauma Tämän kappaleen tärkeitä käsitteitä: Ehdollinen jakauma; ehdollinen ptnf/tf. Kertolaskusääntö eli ketjusääntö yhteisjakauman esittämiseksi. Ehdollinen odotusarvo ja ehdollinen varianssi.
JOHDATUS TEKOÄLYYN TEEMU ROOS
JOHDATUS TEKOÄLYYN TEEMU ROOS LOGIIKKAA LINTU(A) LENTÄÄ(A) PINGVIINI(A) LINTU(A) PINGVIINI(tweety). LENTÄÄ(tweety) ISÄ(X,Y) LAPSI(Y,X) ÄITI(X,Y) LAPSI(Y,X) ISÄ(X,Y) ISÄ(Y,Z) LAPSENLAPSI(Z,X) ISOISÄ(X,Z)
Mat Sovellettu todennäköisyyslasku. Aiheet: Todennäköisyyslaskennan peruskäsitteet Todennäköisyyslaskennan peruslaskusäännöt Avainsanat:
Mat-2.091 Sovellettu todennäköisyyslasku Aiheet: Todennäköisyyslaskennan peruskäsitteet Todennäköisyyslaskennan peruslaskusäännöt Avainsanat: Alkeistapahtuma, Ehdollinen todennäköisyys, Erotustapahtuma,
MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi
MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi 5A Tilastollisen merkitsevyyden testaus (+ jatkuvan parametrin Bayes-päättely) Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden
Jos nyt on saatu havaintoarvot Ü ½ Ü Ò niin suurimman uskottavuuden
1.12.2006 1. Satunnaisjakauman tiheysfunktio on Ü µ Üe Ü, kun Ü ja kun Ü. Määritä parametrin estimaattori momenttimenetelmällä ja suurimman uskottavuuden menetelmällä. Ratkaisu: Jotta kyseessä todella
Mat Tilastollisen analyysin perusteet, kevät 2007
Mat-.14 Tilastollisen analyysin perusteet, kevät 7 7. luento: Tarina yhden selittään lineaarisesta regressiomallista atkuu Kai Virtanen 1 Luennolla 6 opittua Kuvataan havainnot (y, x ) yhden selittään
Bayesilainen päätöksenteko / Bayesian decision theory
Bayesilainen päätöksenteko / Bayesian decision theory Todennäköisyysteoria voidaan perustella ilman päätösteoriaa, mutta vasta päätösteorian avulla siitä on oikeasti hyötyä Todennäköisyyteoriassa tavoitteena
Moniulotteiset satunnaismuuttujat ja jakaumat
Todennäköisyyslaskenta Osa 2: Satunnaismuuttujat ja todennäköisyysjakaumat Moniulotteiset satunnaismuuttujat ja jakaumat KE (2014) 1 Moniulotteiset satunnaismuuttujat ja todennäköisyysjakaumat >> Kaksiulotteiset
Moniulotteiset satunnaismuuttujat ja todennäköisyysjakaumat. Moniulotteiset satunnaismuuttujat ja todennäköisyysjakaumat
TKK (c) Ilkka Mellin (4) todennäköisyysjakaumat Johdatus todennäköisyyslaskentaan todennäköisyysjakaumat TKK (c) Ilkka Mellin (4) todennäköisyysjakaumat: Mitä opimme? /5 hden satunnaismuuttujan todennäköisyysjakaumat
HY / Matematiikan ja tilastotieteen laitos Tilastollinen päättely II, kevät 2017 Harjoitus 4 Ratkaisuehdotuksia. Tehtäväsarja I
HY / Matematiikan ja tilatotieteen laito Tilatollinen päättely II, kevät 207 Harjoitu 4 Ratkaiuehdotukia Tehtäväarja I. (Kvantiili-kvantiili kuvion [engl. q q plot] idea.) Olkoon atunnaimuuttujalla X ellainen
Todennäköisyyslaskennan ja tilastotieteen peruskurssi Esimerkkikokoelma 3
Todennäköisyyslaskennan ja tilastotieteen peruskurssi Esimerkkikokoelma 3 Aiheet: Satunnaisvektorit ja moniulotteiset jakaumat Tilastollinen riippuvuus ja lineaarinen korrelaatio Satunnaisvektorit ja moniulotteiset
MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi
MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi 5A Bayeslainen tilastollinen päättely Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy
1. Matkalla todennäköisyyteen
1. Matkalla todennäköisyyteen Wovon man nicht sprechen kann, darüber muss man schweigen (Ludwig Wittgenstein, Tractatus Logico-Philosophicus 1921) Miten ihmeessä tämä liittyy tähän kurssiin????!?? 1.1
Miten voidaan arvioida virheellisten komponenttien osuutta tuotannossa? Miten voidaan arvioida valmistajan kynttilöiden keskimääräistä palamisaikaa?
21.3.2019/1 MTTTP1, luento 21.3.2019 7 TILASTOLLISEN PÄÄTTELYN PERUSTEITA Miten voidaan arvioida virheellisten komponenttien osuutta tuotannossa? Miten voidaan arvioida valmistajan kynttilöiden keskimääräistä
805306A Johdatus monimuuttujamenetelmiin, 5 op
monimuuttujamenetelmiin, 5 op syksy 2018 Matemaattisten tieteiden laitos Lineaarinen erotteluanalyysi (LDA, Linear discriminant analysis) Erotteluanalyysin avulla pyritään muodostamaan selittävistä muuttujista
Tässä luvussa mietimme, kuinka paljon aineistossa on tarpeellista tietoa Sivuamme kysymyksiä:
4. Tyhjentyvyys Tässä luvussa mietimme, kuinka paljon aineistossa on tarpeellista tietoa Sivuamme kysymyksiä: Voidaanko päätelmät perustaa johonkin tunnuslukuun t = t(y) koko aineiston y sijasta? Mitä
SGN-2500 Johdatus hahmontunnistukseen 2007 Luennot 4 ja 5
SGN-2500 Johdatus hahmontunnistukseen 2007 Luennot 4 ja 5 Jussi Tohka jussi.tohka@tut.fi Signaalinkäsittelyn laitos Tampereen teknillinen yliopisto SGN-2500 Johdatus hahmontunnistukseen 2007Luennot 4 ja
1. TODENNÄKÖISYYSJAKAUMIEN ESTIMOINTI
1. TODENNÄKÖISYYSJAKAUMIEN ESTIMOINTI Edellä esitelty Bayesiläinen luokittelusääntö ( Bayes Decision Theory ) on optimaalinen tapa suorittaa luokittelu, kun luokkien tnjakaumat tunnetaan Käytännössä tnjakaumia
χ = Mat Sovellettu todennäköisyyslasku 11. harjoitukset/ratkaisut
Mat-2.091 Sovellettu todennäköisyyslasku /Ratkaisut Aiheet: Yhteensopivuuden testaaminen Homogeenisuuden testaaminen Riippumattomuuden testaaminen Avainsanat: Estimointi, Havaittu frekvenssi, Homogeenisuus,
Mat Sovellettu todennäköisyyslasku A
TKK / Systeemianalyysin laboratorio Nordlund Mat-.090 Sovellettu todennäköisyyslasku A Harjoitus 7 (vko 44/003) (Aihe: odotusarvon ja varianssin ominaisuuksia, satunnaismuuttujien lineaarikombinaatioita,
Kurssilla esitetään lyhyt katsaus niihin todennäköisyyden ja satunnaisprosessien peruskäsitteisiin ja -ominaisuuksiin, joita tarvitaan digitaalisten
Todennäköisyys Kurssilla esitetään lyhyt katsaus niihin todennäköisyyden ja satunnaisprosessien peruskäsitteisiin ja -ominaisuuksiin, joita tarvitaan digitaalisten tietoliikennejärjestelmien ymmärtämisessä
T Luonnollisen kielen tilastollinen käsittely Vastaukset 3, ti , 8:30-10:00 Kollokaatiot, Versio 1.1
T-61.281 Luonnollisen kielen tilastollinen käsittely Vastaukset 3, ti 10.2.2004, 8:30-10:00 Kollokaatiot, Versio 1.1 1. Lasketaan ensin tulokset sanaparille valkoinen, talo käsin: Frekvenssimenetelmä:
Määritelmä 3.1 (Ehdollinen todennäköisyys) Olkoot A ja B otosavaruuden Ω tapahtumia. Jos P(A) > 0, niin tapahtuman B ehdollinen todennäköisyys
Luku 3 Satunnaismuuttujat, ehdollistaminen ja riippumattomuus Tässä luvussa käsitellään satunnaismuuttujien ominaisuuksia ja täydennetään todennäköisyyslaskennan tietoja. Erityisesti satunnaismuuttujien
1. TODENNÄKÖISYYSJAKAUMIEN ESTIMOINTI
1. TODENNÄKÖISYYSJAKAUMIEN ESTIMOINTI Edellä esitelty Bayesiläinen luokittelusääntö ( Bayes Decision Theory ) on optimaalinen tapa suorittaa luokittelu, kun luokkien tnjakaumat tunnetaan Käytännössä tnjakaumia
Johdatus todennäköisyyslaskentaan Moniulotteiset satunnaismuuttujat ja todennäköisyysjakaumat. TKK (c) Ilkka Mellin (2005) 1
Johdatus todennäköisyyslaskentaan Moniulotteiset satunnaismuuttujat ja todennäköisyysjakaumat TKK (c) Ilkka Mellin (2005) 1 Moniulotteiset satunnaismuuttujat ja todennäköisyysjakaumat Kaksiulotteiset todennäköisyysjakaumat
Bayes-mallinnus siltana teorian ja empiirisen evidenssin välillä
Bayes-mallinnus siltana teorian ja empiirisen evidenssin välillä Antti Penttinen Jyväskylän yliopisto Matematiikan ja tilastotieteen laitos Metodifestivaalit Jyväskylän yliopisto 21.5.2013 Suunnitelma
FoA5 Tilastollisen analyysin perusteet puheentutkimuksessa. 6. luento. Pertti Palo
FoA5 Tilastollisen analyysin perusteet puheentutkimuksessa 6. luento Pertti Palo 1.11.2012 Käytännön asioita Harjoitustöiden palautus sittenkin sähköpostilla. PalautusDL:n jälkeen tiistaina netistä löytyy
Väliestimointi (jatkoa) Heliövaara 1
Väliestimointi (jatkoa) Heliövaara 1 Bernoulli-jakauman odotusarvon luottamusväli 1/2 Olkoon havainnot X 1,..., X n yksinkertainen satunnaisotos Bernoulli-jakaumasta parametrilla p. Eli X Bernoulli(p).
Mat Sovellettu todennäköisyyslasku A. Moniulotteiset jakaumat. Avainsanat:
Mat-.9 Sovellettu todennäköisyyslasku A Mat-.9 Sovellettu todennäköisyyslasku A / Ratkaisut Aiheet: Avainsanat: Moniulotteiset jakaumat Diskreetti jakauma, Ehdollinen jakauma, Ehdollinen odotusarvo, Jatkuva
Reaalilukuvälit, leikkaus ja unioni (1/2)
Luvut Luonnolliset luvut N = {0, 1, 2, 3,... } Kokonaisluvut Z = {..., 2, 1, 0, 1, 2,... } Rationaaliluvut (jaksolliset desimaaliluvut) Q = {m/n m, n Z, n 0} Irrationaaliluvut eli jaksottomat desimaaliluvut
Tehtävät. 1. Ratkaistava epäyhtälöt. a) 2(4 x) < 12, b) 5(x 2 4x + 3) < 0, c) 3 2x 4 > 6. 1/10. Sukunimi (painokirjaimin)
1/10 Tehtävä 1 2 3 4 5 6 7 8 9 10 Yhteensä Pisteet (tarkastaja merkitsee) Kokeessa on kymmenen tehtävää, joista jokainen on erillisellä paperilla. Jokaisen tehtävän maksimipistemäärä on 6 pistettä. Ratkaise
Mallin arviointi ja valinta. Ennustevirhe otoksen sisällä, parametrimäärän valinta, AIC, BIC ja MDL
Mallin arviointi ja valinta Ennustevirhe otoksen sisällä, parametrimäärän valinta, AIC, BIC ja MDL Sisältö Otoksen ennustevirheen estimointi AIC - Akaiken informaatiokriteeri mallin valintaan Parametrimäärän
c) A = pariton, B = ainakin 4. Nyt = silmäluku on5 Koska esim. P( P(A) P(B) =, eivät tapahtumat A ja B ole riippumattomia.
Tehtävien ratkaisuja 4. Palloja yhteensä 60 kpl. a) P(molemmat vihreitä) = P((1. pallo vihreä) ja (. pallo vihreä)) = P(1. pallo vihreä) P(. pallo vihreä 1. pallo vihreä) = 0.05 (yleinen kertolaskusääntö)
sin(x2 + y 2 ) x 2 + y 2
HY / Matematiikan ja tilastotieteen laitos Vektorianalyysi I, syksy 2017 Harjoitus 2 Ratkaisuedotukset 2.1. Tutki funktion g : R 2 R, g(0, 0) = 0, jatkuvuutta. g(x, y) = sin(x2 + y 2 ) x 2 + y 2, kun (x,
Osa 1: Todennäköisyys ja sen laskusäännöt
Todennäköisyyslaskenta Osa 1: Todennäköisyys ja sen laskusäännöt - Satunnaiskokeet, otosavaruudet ja tapahtumat - Todennäköisyyden määritteleminen KE (2014) 1 Satunnaiskokeet, otosavaruudet ja tapahtumat