Parametrien oppiminen

Transkriptio

1 38 Parametrie oppimie Tilastollise malli (Bayes-verkko rakee o kiiitetty, se umeeriste parametrie (ehdolliste todeäköisyyksie arvot pyritää määräämää Oletamme havaitoe oleva täydellisiä; s.o., okaise datapistee sisältävä arvot kaikille muuttuille Jos makeissäkkie salmiakki-hedelmä-karkkie osuudet voivat olla mielivaltaisia, ii hypoteesea oki atkumo Salmiakkimakeiste suhteellie osuus säkissä o aiut parametri a sitä vastaava hypoteesi o h Bayes-verkkoo tarvitaa vai yhtä satuaismuuttuaa (Maku, olla o mahdolliset arvot salmiakki (t. a hedelmä (t. -, vastaava solmu 39 Avataa kääreestä karkkia, oista s kpl o salmiakkia a h kpl o hedelmää Oletetaa kaikkie sekoitussuhteide oleva yhtä todeäköisiä a priori maksimiuskottavuude meetelmä P(d h = =,, P(d h = s ( - h Samaa maksimaalise uskottavuude hypoteesii päädytää maksimoimalla uskottavuude logaritmia (log likelihood L(d h = log P(d h = =,, log P(d h = s log + h log( -

2 30 Näi tulo yli aieisto vaihtuu summaksi, oka yleesä o helpompi maksimoida Derivoimalla L : suhtee a etsimällä ollakohta saadaa selville : maksimiuskottavuude arvo dl(d h /d = s/ h/( - = 0 = s/(s + h = s/ Maksimaalise uskottavuude hypoteesi h ML saoo säkissä olevie salmiakkie osuude oleva sama kui mitä avatuista karkeista o havaittu Edellä kuvattua meetelmää voidaa käyttää yleisesti (useammaki parametri arvoe selvittämiseksi 3 Meetelmä merkittävä ogelma: os otai tapahtumaa ei ole havaittu laisikaa (pieessä havaitoaieistossa, ii h ML ataa sille todeäköisyyde olla Muutetaa esim. site, että riippue karki mausta se kääritää probabilistise sääö perusteella oko puaisee tai vihreää paperii Maku P(salmiakki Kääre Maku salmiakki hedelmä P(puaie

3 3 Nyt todeäköisyysmallissa o kolme parametria,, a Bayes-verko stadardisematiika perusteella voidaa laskea tapahtumie todeäköisyyksiä; esim. P(Maku = salmiakki, Kääre = vihreä h,, = P(Maku = salmiakki h,, P(Kääre = vihreä Maku = salmiakki, h,, = ( - Avaamme yt makeista, oista s o salmiakkia a h hedelmää, oide käärepaperie värie lkm:t ovat p s, v s, p h a v h Tämä aieisto uskottavuus P(d h,, o s ( - h ps ( - vs ph ( - vh 33 Otetaa logaritmi edellisestä: L = [s log + h log( - ] + [p s log + v s log( ] + [p h log + v h log( ] Parametrie suhtee derivoimalla a hakemalla ollakohta saadaa L/ = s/ h/( - = 0 = s/(s + h L/ = p s / -v s /( - = 0 = p s /(p s + v s L/ = p h / v h /( - = 0 = p h /(p h + v h : arvo o kute eeki a : arvo o puaise käärepaperi osuus salmiakkikarkkie oukossa ( vast. Näi oppimisogelma akaatuu erillisiksi oppimistehtäviksi kulleki parametrille 3

4 34 Naiivi Bayes Luokkamuuttua C o Bayes-verko uuri a attribuutit X i ovat se lehtiä Naiivi oletus o, että attribuutit ovat ehdollisesti riippumattomia toisistaa aettua luokka Ku käytössä o Boole muuttuat, ii parametrit ovat = P(C = true i = P(X i = true C = true i = P(X i = true C = false Näide arvot löydetää kute edellä Ku verkko o opetettu, ii havaito [x,, x ], oka luokkamuuttua C arvo o tutemato, voidaa luokitella P(C x,, x = P(C i P(x i C 35 Jatkuva-arvoiset muuttuat Tarkastellaa yhde muuttua Gaussise tiheysfuktio parametrie oppimista Aieisto siis tuottaa ( x P( x e Malli parametrit ovat keskiarvo a haota Olkoot havaitut arvot x,, x Nyt uskottavuude logaritmi o L log ( log e ( x log ( x 4

5 36 Osittaisderivaattoe ollakohdat: L L 3 ( x 0 ( x 0 Siis keskiarvo maksimaalise uskottavuude arvo o havaitoe keskiarvo a haoa vastaava arvo o variassi eliöuuri Jällee saatii siis ituitiivisesti oikeat arvot x ( x 337 Yhteeveto Tekoäly o todella laaa tutkimuskettä, myös metodologisesti Merkittävää kehitystä tutkimuksessa tapahtuu päivittäi Probabilistie lähestymie o aaut ohi loogise suutaukse Näyttäviä demostraatioita meetelmie mahdollisuuksista saadaa kiihtyvällä tahdilla Myös vähemmälle ulkisuudelle äävät arkisovellukset lisäätyvät Fyysise ageti iteraktio toimitaympäristösä sekä ihmiste kassa kaipaa vielä edistysaskelia 5