Luento 9 Päätösanalyysi (luku 22) - hyöty- ja kustannusfunktiot (utility and cost functions) - odotettu hyöty tai kustannus (expected utility or cost) Mallin tarkistus (luku 6) - onko mallin puutteilla havaittava vaikutus oleelliseen päättelyyn? Slide 1 Mallin herkkyysanalyysi (luku 6) - kuinka paljon päättely muuttuu jos mallioletuksia muutetaan? Päätösanalyysi (decision analysis) Gelman et al. kirjassa hieman väheksytään päätösanalyysin merkitystä - ehkä koska heidän ongelmissaan hyötyfunktioiden valinta hyvin vaikeaa ja siksi niihin ei ole haluttu ottaa kantaa Moni muu pitää päätösanalyysia erottamattomana osana bayesilaista todennäköisyysteoriaa Slide 2 - osa pitää todennäköisyyksiä ja hyötyjä (utilities) aksiomaattisesti erottamattomina - päätösten vaikutusten arviointi ei poikkea muusta bayesilaisesta päättelystä - mallien posteriorijakaumien ja yhteenvetolukujen ilmoittaminen perusteltavissa päätösanalyysilla - tilastollisesti merkittävä vs. käytännössä merkittävä - mallien arviointi, vertailu ja valinta on päätösanalyysia
Esimerkki päätöksenteosta terveydenhuollossa Jotakin tautia sairastavien populaatiosta on kerätty tietoa - 30-päivän kuolleisuus y i - p sairauden mittaria (x i1,..., x i p ) joiden avulla arvellaan voivan ennustaa kuolleisuutta Slide 3 Tavoitteena on ennustaa uusien potilaiden kuoleman todennäköisyys annettuna heistä mitatut arvot - eri mittausten kustannukset vaihtelevat - rahaa on rajallisesti käytössä - jokin keino arvioida ennustuksen tarkuuden hyvyys - mitkä mittaukset kannattaa tehdä? Esimerkki päätöksenteosta terveydenhuollossa Draper & Fouskakis ja analysoivat keuhkokuumetta - 30-päivän kuolleisuus y i - 2500 potilasta - mittausten kustannus suurimmaksi osaksi hoitohenkilökunnan ajankäytöstä Slide 4 - oikeiden ja väärien päätösten kustannukset perustuivat keskusteluun terveysalan asiantuntijoiden kanssa - kustannusarvioille tehtiin myös herkkyysanalyysi Arvio analyysin hyödyllisyydestä - valitsemalla vain hyödyllisimmät mittaukset syntyisi säästöä n. US$8 per potilas
Bayesilainen päätöksenteko Mahdolliset päätökset d (decision) - usein myös puhutaan toimenpiteistä a (action) Mahdolliset seuraamukset x - x voi olla nominaalinen, ordinaalinen, reaalinen, skalaari, vektori,... Seuraamuksien todennäköisyysjakaumat annettuna päätökset p(x d) Slide 5 - päätöksenteossa päätökset ovat kontrolloituja, joten p(d) ei määritelty Hyötyfunktio U(x) (utility function) kuvaa seuraamuksen reaaliluvuksi - esim. euroiksi tai odotettavaksi elinajaksi - joskus puhutaan erikseen hyödyistä (utility) ja kustannuksista (cost/loss) Odotettu hyöty E[U(x) d] = U(x)p(x d)dx (expected utility) Valitaan päätös d, joka maksimoi odotetun hyödyn d = arg max d E[U(x) d] Hyödyn jakauma ja odotettu hyöty Optimaalisen rationaalisen päättelyn mukaan päätös perustuu vain odotettuun hyötyyn (hyödyn jakauman odotusarvo) Hyödyn koko jakaumaa voidaan käyttää osana herkkyysanalyysiä Hyödyn jakaumaa tutkittaessa saatetaan huomata, että käytetty hyötyfunktio ei ollutkaan sopiva Slide 6 - Esim: hyötynä on raha odotusarvo voi olla positiivinen, mutta jakauma voi silti sisältää mahdollisuuden hyvin suureen tappioon, joka saattaisi johtaa esim. kodin menetttämiseen jos jakauman esittämä epävarmuus vaikuttaisi päätökseen, on alunperin valittu hyötyfunktio väärä hyötyfunktion pitäisi sisältää myös epävarmuuteen ja talon menettämisen kustannukseen liittyvät tekijät
Päätösanalyysin ja päätösteorian erosta Gelman et al. kirjoittavat sekavia päätösanalyysin ja päätösteorian eroista -... statistical decision theory, a mathematical framework that is formally Bayesian but which we find too abstract to be directly useful for real decision problems. - These mathematical results are interesting but we do not see their relevance in practice. Slide 7 Aivan oikein piste-estimaattien sijasta mielummin esittävät koko posteriorijakauman tai intervalleja, mutta unohtavat, että joskus on pakko valita yksi luku - esim. tehtaassa koneen säätöä varten valittava yksi luku ja lopputuloksena saadaan yhtä lopputuotetta - jos muita hyötyfunktioita ei ole käytettävissä, on parempi käyttää edes yleiskäyttöisiä "abstrakteja" hyötyfunktioita Muissa yhteyksissä ainakin Gelman puhunut järkevämpiäkin Esimerkki päätöksenteosta: 2 vaihtoehtoa Pekka on lähdössä sienimetsään kun huomaa matkalla suuren käpälän jäljen, joka näyttää koiran tai suden jäljeltä Slide 8 Pekka mittaa jäljen pituudeksi 14 cm ja menee kotiin tarkistamaan eläinkirjasta eläinten jalkojen kokoja ja sen perusteella yritää päätellä onko otus susi vai koira Todennäköisyys p(x C) 0.4 0.3 0.2 0.1 0 C= Susi C= Iso koira 6 8 10 12 14 16 Jäljen pituus x (cm) havaitun jäljen pituus on merkitty kuvaan pystyviivalla Pelkästään tämän perusteella suden todennäköisyys 0.92 (verrattuna koiraan)
Esimerkki päätöksenteosta Pekka olettaa lisäksi, että irrallaan juoksevia koiria on sata kertaa enemmän kuin susia, tällöin siis a priori todennäköisyys sudelle, kun mitään piirteitä ei ole havaittu, on n. 1%. Eri luokkien uskottavuudet ja posteriori-todennäköisyydet Luokitus Uskottavuus Posteriori-todennäköisyys Slide 9 Susi 0.92 0.10 Koira 0.08 0.90 Tämän perusteella suden todennäköisyys 0.10 Esimerkki päätöksenteosta Pekka miettii uskaltaako lähteä poimimaan sieniä Oikealle luokitukselle voitaisiin asettaa nollakustannus Jos otus on koira ja pysytään kotona, seuraa pieni kustannus, kun sieniretki jää aiheettomasti tekemättä Slide 10 Jos taas otus on susi, mutta sitä luullaan koiraksi ja lähdetään sienimetsään, on kustannus paljon suurempi, koska susi voi syödä Matin suihinsa Otuksen luokka Toiminta d Susi Koira Toiminta d Ehdollinen kustannus E[U(x) d] Pysytään kotona 1 1 Lähdetään metsään 1000 0 Tappiomatriisi U(x) Pysytään kotona 1 Lähdetään metsään 100 Eri toimintojen ehdolliset kustannukset
Esimerkki päätöksenteosta Sudesta jää havaitun kokoinen jälki paljon todennäköisemmin kuin koirasta, joten suurimman uskottavuuden luokitus on susi Havaitun kokoinen jälki on paljon todennäköisemmin jäänyt koirasta, koska koirat ovat niin paljon yleisempiä, ja suurimman todennäköisyyden luokitus on koira Minimikustannuspäätös on pysyä kotona, vaikka otus on todennäköisemmin koira Slide 11 - lähtöoletusten mukaan suden tapaaminen metsässä aiheuttaa suuren odotetun tappion, ja se huomioon ottaen otukseen kannattaa suhtautua kuin se olisi susi, jotta kokonaiskustannus minimoituu Esimerkistä näkyy selvästi, että kaikkien vaihtoehtojen todennäköisyydet täytyy pitää mukana lopulliseen päätöksentekoon asti - jos luokkien todennäköisyyksien perusteella tehdään päätös, että kyseessä on koira, ei sen jälkeen ole enää mahdollista tehdä minimikustannuspäätöstä, jossa otetaan huomioon väärän luokituksen aiheuttamat kustannukset Esimerkki päätöksenteosta: useita vaihtoehtoja Professori Gelmanilla on purkillinen neljännedollareita - purkkiin ensin vedetty viiva ja sitten purkki täytetty viivaan asti kolikoilla, joten kolikoiden määrää ei ole valittu etukäteen - Prof. Gelman ei itse tiedä kolikoiden määrää - Prof. Gelman tarjoaa luokalle mahdollisuutta voittaa kaikki purkin kolikot jos luokka arvaa kolikoiden määrän oikein Slide 12 Esim9_1.m
Odottetu hyöty ja rahan hyötyfunktio? Ihmisten hyötyfunktio rahalle ei ole lineaarinen, jonka vuoksi esim. seuraavat vaihtoehdot eivät saman arvoisia - varmasti 0 tai 50% saat miljoonan ja 50% maksat miljoonan (harvalla varaa maksaa mahdollinen tappio) - varmasti 0 tai 50% saat 1.1 miljoonaa ja 50% maksat miljoonan (jälkimmäisen odotusarvo parempi, mutta riski silti iso) Slide 13 - maksat varmasti 0.42 tai pelaat rivin lottoa (Suomessa pelataan viikottain yli 10 miljoonaa riviä) - vakuutus vs. ei vakuutusta (odotusarvoisesti vakuutus ei kannata) Hyötyfunktion valinnan vaikeudesta Ihmiset huonoja arvioimaan todennäköisyyksiä (erityisesti hyvin pieniä) Epävarmuuden pelkoa eli riskin välttämistä vaikea määritellä Epävarmuuden kustannukset ovat vaikeita määritellä Hyötyjä ja kustannuksia on vaikea arvioida esim. terveydenhoidossa. Slide 14 - mitä sairauksia ja millä kustanuksilla niitä pitäisi hoitaa? - yksittäisen ihmisen hyöty on, että hän ja hänen läheisensä ovat terveitä - lääkärin hyödystä osa voi tulla bonuksina jos syntyy säästöjä, jne Paljonko ympäristön puhtaus tai maapallon lämpeneminen maksaa rahassa Usein lopullisessa päätöksenteossa on mukana niin monenlaiset ihmisarvot, että matemaattinen teoria on pulassa
Monivaiheinen päätöksenteko (luku 22.3) 95-vuotiaalla kasvain joka 90% todennäköisyydellä pahalaatuinen Tilastoista tiedetään, että - odotettu elinaika on 34.8kk jos ei ole syöpää - odotettu elinaika on 16.7kk jos syöpä ja säteilyhoito - leikkauksessa kuolee 35% tn. ja jos selviää odotettu elinaika 20.3kk Slide 15 - odotettu elinaika on 5.6 kk ilman hoitoa Mikä hoito kannattaa valita? Monivaiheinen päätöksenteko (luku 22.3) Mikä hoito kannattaa valita? - lasketaan laatupainotettu elinaika - vähennetään hoidossaoloajan epämukavuuden vuoksi 1kk Laatupainotetut elinajat - Säteilyhoito: 0.9*16.7 + 0.1*34.8.1 = 17.5kk Slide 16 - Leikkaus: 0.35*0+0.65*(0.9*20.3+0.1*34.8-1) = 13.5kk - Ei hoitoa: 0.9*5.6 + 0.1*34.8 = 8.5kk
Monivaiheinen päätöksenteko (luku 22.3) Lisätesti syövän tarkistamiseksi, bronkoskopia - 70% tn. että havaitsee syövän, jos syöpä - 2% tn. että havaitsee syövän, jos ei syöpää - 5% tn. että potilas kuolee komplikaatioihin Kannattaako tehdä lisätesti? Slide 17 - Bayesin kaavalla saadaan päivitettyä syövän todennäköisyys annettuna testin tulos - tässä tapauksessa päivitetyillä todennäköisyyksilläkin päätös olisi sama, joten lisätesti ei auta - koska lisätesti ei auta, ei sitä kannata tehdä varsinkin koska komplikaatioiden vaara Lisäelinkuukauden hinta? Mitä jos hoitojen kustannukset olisivat mukana? - kuinka paljon 95-vuotiaan odotettu lisäelinkuukausi voisi maksaa - kuinka paljon 45-vuotiaan odotettu lisäelinkuukausi voisi maksaa - kuinka paljon 5-vuotiaan odotettu lisäelinkuukausi voisi maksaa Slide 18
Laatupainotettu elinvuosi (Quality Adjusted Life-Years, QALY ) Usein pelkkien elinvuosien sijaan otetaan huomioon myös elämänlaatu - esim. toimenpiteen riski saattaa lyhentää odotettavissa olevaa elinaikaa, mutta ilman toimenpidettä elämä voi olla kivuliasta Slide 19 Elämänlaadun mittaaminen ei tietenkään helppoa - Suomessa käytössä 15D, jossa kysytyään 15 toimintakykyyn liittyväää kysymystä ja vastaukset skaalataan, painotetaan ja lasketaan yksi yhteenvetoluku - tärkeimmät tekijät ovat kyky itsenäiseen toimintaan ja kivun kokemukset Ei edellenkään ota kantaa kuinka paljon yksi QALY lisää saisi maksaa Esimerkki: kustannustehokkuus terveydenhuollossa INB incremental net benefit K acceptable cost per X X, e.g., QALY qaulity-adjusted life-years 2000 Slide 20 INB 1500 1000 500 0 500 10000 30000 50000 K
Elämän hinta? 1) Kuinka paljon pitäisi sinulle maksaa, että suostuisit kuolemaan? 2) Saat valita (a) jatkat elämistä (b) todennäköisyydellä p kuolet ja todennäköisyydellä (1- p) saat 1000 3) Onko autossasi turvatyyny? Slide 21 - turvatyyny maksaa 1000 - auto käytössä 10 vuotta - amerikkalaisen tutkimuksen mukaan turvatyyny pelastaa n. 2% tapauksista - Suomessa kuolee liikenteessä n. 300 vuodessa - oletetaan, että ajat varovasti, etkä aja humalassa - todennäköisyys, että turvatyyny pelastaa henkesi, on n. 1e-8 - odotusarvohinta hengellesi n. 100 miljardia euroa - vrt. Gelman et al. s. 566 odotusarvohinta hengelle radonmittauksissa ja -korjauksissa n. miljoona dollaria Päätösanalyysista Osittain edellä esiteltyjen vaikeuksien vuoksi päätöksenteko tehdään usein ei-formaalisti - mallintajan kannattaa silloin tarjota päätöksentekijöiden käyttöön posteriorijakaumat Jos mallintaja mukana tekemässä formaalimpaa päätösanalyysia - kannattaa tehdä herkkyysanalyysi kustannuksien ja hyötyjen valinoille Slide 22 Edellä esitetyistä vaikeuksista huolimatta, on myös useita tilanteita, joissa kustannukset tai hyödyt selkeitä - esim. pörssi- ja valuutakurssit - esim. tuotantoprosessien kustannukset - esim. luokittelutarkkuus - jne.
Päätöksenteko koesuunnittelussa Minkälainen lisäkoe toisi eniten lisäinformaatiota - suunnitelussa kokessa valitaan seuraavan kokeen kovariaatit x n+1 - millä x n+1 arvolla kiinnostavan suureen epävarmuus pienenee eniten Harjoitustehtävä 22.2 - myrkyllisyyskokeessa havaitaan, että LD50 ei tiedossa riittävän tarkasti Slide 23 - millä annoskoolla kannattaa seuraava koe tehdä, jotta LD50:n posteriorijakauman varianssi pienenee mahdollisimman paljon? näin eläimiä kuolee mahdollisimman vähän - yksinkertaistuksen vuoksi riittää rajoitus kirjassa mainittuihin annoskokoihin (saatte myös tehdä tarkemmin) Päätöksenteko koesuunnittelussa Harjoitustehtävä 22.2 - laske kullakin annoskoolla kuinka posteriori muuttuisi, jos eläin kuolisi eläin ei kuolisi Slide 24 - laske kullakin annoskoolla kuinka todennäköisesti eläin kuolisi eläin ei kuolisi - yhdistä tiedot odotetuksi hyödyksi (posteriorivarianssin pieneminen)
Mallin tarkistus ja herkkyysanalyysi Mallin tarkistus - onko mallin puutteilla havaittava vaikutus oleelliseen päättelyyn? Mallin herkkyysanalyysi - kuinka paljon päättely muuttuu, jos mallioletuksia muutetaan? Slide 25 Onko mallin tuloksissa järkeä? Käytännön ongelmissa on usein tietämystä, jota ei ole formaalisti sisällytetty malliin (likelihood ja priori) - jos mallin tulokset ristiriidassa muun tietämyksen kanssa, on syytä miettiä mallin formaalit oletukset uudestaan - esimerkiksi, jos myrkyllisyyskokeessa posteriorin mukaan myrkky parantaisi eläimien henkiinjäämistodennäköisyyttä Slide 26
Ulkoinen validointi (external validation) Verrataan mallin ennusteita uusiin havaintoihin - paras tapa - yleisesti tieteen tekemisessä käytetty tapa - jos mahdollista, ennustetaan jotakin mitä ei aiemmin mitattu vertaa esim. Einsteinin tekemät suhteellisuuteorian ennusteet Slide 27 - pahimmat mallin heikkoudet mahdollista havaita ilman ulkoista validointiakin Osa-validointi (partial validation) Ulkoisen validoinnin yksinkertaisin approksimaatio - osa havainnoista jätetään pois posterioria laskettaessa - verrataan mallin ennusteita pois jätettyihin havaintoihin Slide 28 - edut/ongelmat + yksinkertainen + suhteellisen turvallinen - vain osa havainnoista päivittää posterioria - validointi perustuu edelleen samantyyppisiin havaintoihin
Posterioriprediktiivinen tarkistus Sisäinen validointi Onko malli johdonmukainen? - mallin posterioriprediktiivisestä jakaumasta poimittujen näytteiden pitäisi muistuttaa alkuperäistä dataa Slide 29 - poimitaan posterioriprediktiivisiä näytteitä ja verrataan dataan systemaattiset poikkeamat viittavat puuteisiin mallissa - matkii ulkoista validointia tuottamalla uudet havainnot mallin avulla ongelmana datan käyttö kahteen kertaan paljastaa pahimmat ongelmat Gelmanin et al. posterioriprediktiivinen tarkistus on pragmaattinen menetelmä, ei formaali Posterioriprediktiivinen tarkistus - esimerkki Newcombin valonnopeusmittaukset - malli y N(µ, σ 2 ) - priori (µ, logσ) 1 Esim9_2.m Slide 30
Posterioriprediktiivinen tarkistus Data y Parametrit θ Slide 31 Toistettu (replicated) data y rep - oletetaan, että havaitun datan generoi prosessi, jota kuvaa hyvin malli M parametreilla θ - toistettu data havaittaisiin, jos koe toistettaisiin - korvataan "oikea" generoiva prosessi mallilla ja parametreilla θ p(y rep y, M) = p(y rep θ, M)p(θ y, M)dθ Testisuure (test quantity) tai poikkeavuusmitta (discrepancy measure) T(y, θ) - yhteenvetoluku jota käytetään vertaamaan dataa ja prediktiivisiä näytteitä Posterioriprediktiivinen tarkistus Posterioriprediktiivinen p-arvo p = Pr(T(y rep, θ) T(y, θ) y) = I T (y rep,θ) T(y,θ) p(y rep θ)p(θ y)dy rep dθ Slide 32 missä I on indikaattorifunktio - jos näytteitä (y rep l, θ l ) posterioriprediktiivisestä jakaumasta, voidaan tämä laskea helposti laskemalla suhde kuinka moni näyte toteuttaa T(y rep l, θ l ) T(y, θ l ), l = 1,..., L Posterioriprediktiivinen p-arvo (ppp-arvo) estimoi voisivatko mallin ja datan erovaisuudet olla sattumaa annettuna mallioletukset
Posterioriprediktiivinen tarkistus - esimerkki Riippumattomuus binomikokeissa - malli y N(µ, σ 2 ) - priori (µ, logσ) 1 Havainnot järjestyksessä: 1, 1, 0, 0, 0, 0, 0, 1, 1, 1, 1, 1, 0, 0, 0, 0, 0, 0, 0, 0 Slide 33 T = vaihtojen määrä sarjassa - havaittu T(y) = 3 - jos havainnot olisivat riippumattomia, mikä olisi koetta toistettaessa vaihtojen määrän jakauma? Esim9_3.m Posterioriprediktiivinen tarkistus Testisuureiden valinta - mallin parametreja vastaavia ominaisuuksia ei kannata testata, koska ne ovat sovittuneet dataan - testattava ominaisuuksia, jotka eivät mallin parametreina - eri testeillä voi olla suuret erot Slide 34 Esim9_4.m
Posterioriprediktiivinen tarkistus Monikäyttöiset (omnibus) testit - χ 2 -poikkeama (discrepancy) T(y, θ) = i (y i E(Y i θ)) 2 var(y i θ) - deviance Slide 35 T(y, θ) = 2 log p(y θ) = 2 i log p(y i θ) missä 2 johtuu historiallisesta syystä ja normaalijakaumasta Kumpikaan näistä ei huomaa mitään vikaa valonnopeusdatassa, koska ongelmallisia havaintoja on vain 2/66 - voitaisiin tutkia myös max i ( 2 log p(y i θ)) Esim9_5.m Posterioriprediktiivinen tarkistus Posterioriprediktiivisten p-arvojen tulkinta - jos p-arvo lähes 0 tai 1 viittaa siihen, että malli ei mallinna hvyin tätä datan ominaisuutta - jos p-arvo hyvin lähellä 0:a tai 1:ä, ei tarkemmalla arvolla ole väliä - tarkoitus ei ole arvioida onko malli "oikea", vaan verrata mallin ja datan eroavaisuuksia ja arvioida voisivatko erot olla sattumaa annettuna Slide 36 mallioletukset
Posterioriprediktiivinen tarkistus Useat vertailut - jos tehdään monta testiä kasvaa mahdollisuus, että joku testeistä tuotaa sattumalta p-arvon joka lähellä 0:a tai 1:ä Slide 37 - on olemassa usean vertailun korjaustermejä, mutta Gelman et al: tarkoitus ei ole hyväksyä tai hylätä mallia vaan ymmärtää sen rajoituksia realistisissa sovelluksissa koska eri testisuureiden riippuvuudet eivät ole tiedossa, ei korjaustermiä voida laskea kuitenkaan Posterioriprediktiivinen tarkistus Hyvin pieni tai iso p-arvo - kuinka mallia voisi parantaa? - esim. valonnopeusesimerkissä t-malli tai sekamalli jossa oma komponentti poikkeaville mittauksille Keskikokoinen p-arvo Slide 38 - kuinka mallin sopivuutta voisi arvioida lisää? - esim. valmennuskurssiesimerkissä yhteismallia ei voi datan perusteella hylätä, mutta hierarkkisen mallin kanssa oleelliset johtopäätökset muuttuvat paljon
Herkkysanalyysi (sensitivity analysis) Kuinka paljon erilaiset mallissa ja priorissa olevat fiksatut asiat vaikuttavat päättelyyn? - testaa vaihtoehtoisia malleja ja prioreja Slide 39 - vaihtoehtoiset mallit tai priorit voi mahdollisesti muuttaa yhdeksi malliksi, jossa hyperparametrin avulla jatkumo eri mallien välillä esim. hierarkkinen malli erillis- ja yhteismallin sijaan esim. t-jakauma fiksatun pitkähäntäisen ja normaalijakauman sijaan - robustit mallit hyviä testaamaan herkkyyttä poikkeaville havainnoille esim. t-jakauma normaalijakauman sijaan Vertaa oleellisten päättelyn tuloksia - äärikvantiilit herkempiä kuin keskiarvot tai mediaanit - extrapolointi herkempää kuin interpolointi