Tentin materiaali. Sivia: luvut 1,2, , ,5. MacKay: luku 30. Gelman, 1995: Inference and monitoring convergence

Samankaltaiset tiedostot
Luento 2. Yksiparametrisia malleja. Binomi-malli. Posteriorijakauman esittämisestä. Informatiivisista priorijakaumista. Konjugaattipriori.

Bayesilainen päätöksenteko / Bayesian decision theory

Bayesilaisen mallintamisen perusteet

Markov-ketju Monte Carlo - konvergenssidiagnostiikka (convergence diagnostics) - odotettu hyöty tai kustannus (expected utility or cost)

S Bayesilaisen mallintamisen perusteet

Luento 11. Muutama hyödyllinen Monte Carlo-menetelmä. Muutama hyödyllinen Monte Carlo-menetelmä. Mitä muuta hyödyllistä Gelman et al kirjasta löytyy

Tilastollinen päättely, 10 op, 4 ov

p(y θ, M) p(θ M)dθ p(θ y, M) = p(y M) Luento 10 Marginaaliuskottavuus Bayes-tekijä Mallin odotettu hyöty DIC (Deviance Information Criterion)

805306A Johdatus monimuuttujamenetelmiin, 5 op

Tilastotieteen aihehakemisto

- voidaan käyttä lisämään tieteellistä ymmärrystä ilmiöstä. - joidenkin havaittavien suureiden vaikutus voi olla paljon suurempi kuin toisten

Kuinka monta riippumatonta simulaationäytettä tarvitaan. - tämä varianssi on riippumaton jakauman ulottuvuuksien määrästä

- kuinka monta riippuvaa simulaationäytettä tarvitaan. - hyödyllisiä perus-mcmc-menetelmien parannuksia

Log-tiheydet - yli- ja alivuotojen välttämiseksi laskenta usein suoritettava log-tiheyksillä

Bayes-mallinnus siltana teorian ja empiirisen evidenssin välillä

p(θ 1 y) on marginaalijakauma p(θ 1 θ 2, y) on ehdollinen posteriorijakauma Viime kerralla Termejä viime kerralta Marginalisointi Marginaalijakauma

Mallin tarkistus (luku 6) - onko mallin puutteilla havaittava vaikutus oleelliseen päättelyyn?

exp Luento 3 Normaalijakauma (Gaussian) Normaalijakauma tunnetulla varianssilla Normaalijakauma tunnetulla keskiarvolla Poisson-mallli

MTTTP5, luento Kahden jakauman sijainnin vertailu (jatkoa) Tutkimustilanteita y = neliöhinta x = sijainti (2 aluetta)

Tilastollisia peruskäsitteitä ja Monte Carlo

BECS Bayesilainen mallintaminen Lyhyt englanti-suomi sanasto

Binomi Jacob Bernoulli ( ), Bayes ( ) Normaali de Moivre ( ), Laplace ( ), Gauss ( )

Bayesilaisen mallintamisen perusteet kurssin sisältö

Tutkimustiedonhallinnan peruskurssi

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

Mallin tarkistus - onko mallin puutteilla havaittava vaikutus oleelliseen päättelyyn?

Viime kerralla. Luento 6. Normaalijakauma-approksimaatio - moodi. - havaittu informaatio

exp p(y θ) = 1 2πσ θ)2 2σ 2(y y N(θ, σ 2 ) Luento 3 Normaalijakauma (Gaussian) Normaalijakauma tunnetulla varianssilla

Jos oletetaan, että sairaaloissa on eroja, kaikki potilaat eivät ole vaihtokelpoisia keskenään

Laskennallinen data-analyysi II

Epävarmuus ja sen huomioiminen hydrologisessa mallinnuksessa

MCMC-menetelmien ongelmakohtia ja ratkaisuja

Yhteistyötä sisältämätön peliteoria jatkuu

Diskreetit todennäköisyysjakaumat. Kertymäfunktio Odotusarvo Binomijakauma Poisson-jakauma

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

TEKNILLINEN KORKEAKOULU ERIKOISTYÖ. koulutusohjelma MUUTOSPISTEIDEN TUNNISTAMINEN BAYESILAISELLA ANALYYSILLA

Parametrin estimointi ja bootstrap-otanta

Mikrobikriteereiden arviointi esimerkkinä kampylobakteeri

Mallin arviointi ja valinta. Ennustevirhe otoksen sisällä, parametrimäärän valinta, AIC, BIC ja MDL

Mitä on bayesilainen päättely?

1. TODENNÄKÖISYYSJAKAUMIEN ESTIMOINTI

4.3.6 Eräitä diskreettejä Markov-kenttiä

1. TODENNÄKÖISYYSJAKAUMIEN ESTIMOINTI

Gaussiset prosessit derivaattahavainnoilla regressio-ongelmassa (valmiin työn esittely)

The Metropolis-Hastings Algorithm

805306A Johdatus monimuuttujamenetelmiin, 5 op

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

Posteriorijakauman normaalijakauma-approksimaatio. Usein posteriorijakauma lähestyy normaalijakaumaa kun n

TILASTOLLINEN OPPIMINEN

Mallipohjainen klusterointi

6. laskuharjoitusten vastaukset (viikot 10 11)

S Bayesilaisen mallintamisen perusteet

MS-A0503 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

Satunnaislukujen generointi

voidaan hylätä, pienempi vai suurempi kuin 1 %?

JOHDATUS TEKOÄLYYN TEEMU ROOS

Ryhmäfaktorianalyysi neurotiedesovelluksissa (Valmiin työn esittely) Sami Remes Ohjaaja: TkT Arto Klami Valvoja: Prof.

P(X = x T (X ) = t, θ) = p(x = x T (X ) = t) ei riipu tuntemattomasta θ:sta. Silloin uskottavuusfunktio faktorisoituu

4. Todennäköisyyslaskennan kertausta

2. Uskottavuus ja informaatio

LASKENNALLISEN TIETEEN OHJELMATYÖ: Diffuusion Monte Carlo -simulointi yksiulotteisessa systeemissä

Lisätehtäviä ratkaisuineen luentomonisteen lukuun 6 liittyen., jos otoskeskiarvo on suurempi kuin 13,96. Mikä on testissä käytetty α:n arvo?

5. laskuharjoituskierros, vko 8, ratkaisut

Bayesiläinen tilastollinen vaihtelu

JOHDATUS TEKOÄLYYN TEEMU ROOS

Johdatus todennäköisyyslaskentaan Jatkuvia jakaumia. TKK (c) Ilkka Mellin (2005) 1

Ilkka Mellin Todennäköisyyslaskenta Osa 3: Todennäköisyysjakaumia Jatkuvia jakaumia

Liite B. Suomi englanti-sanasto

MS-A0503 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

Bayesin pelit. Kalle Siukola. MS-E2142 Optimointiopin seminaari: Peliteoria ja tekoäly

Sovellettu todennäköisyyslaskenta B

MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

3.7 Todennäköisyysjakaumia

Käytetään satunnaismuuttujaa samoin kuin tilastotieteen puolella:

MAT Todennäköisyyslaskenta Tentti / Kimmo Vattulainen

Jakaumien merkitys biologisissa havaintoaineistoissa: Löytyykö ratkaisu Yleistetyistä Lineaarisista (Seka)Malleista?

Identifiointiprosessi

Luku 10. Bayesläiset estimaattorit Bayesläiset piste-estimaatit. Lasse Leskelä Aalto-yliopisto 18. lokakuuta 2017

Bayesläiset tilastolliset mallit

ORMS2020 Päätöksenteko epävarmuuden vallitessa Syksy Jatkossa ratkaisuehdotukset ovat tyypillisesti paljon lakonisempia.

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

1. TILASTOLLINEN HAHMONTUNNISTUS

P (A)P (B A). P (B) P (A B) = P (A = 0)P (B = 1 A = 0) P (B = 1) P (A = 1)P (B = 1 A = 1) P (B = 1)

Olli-Pekka Ryynänen sidonnaisuudet

JOHDATUS TEKOÄLYYN TEEMU ROOS

Johdatus tilastotieteeseen Testit laatueroasteikollisille muuttujille. TKK (c) Ilkka Mellin (2004) 1

Laskennallinen data-analyysi II

MS-C2103 Koesuunnittelu ja tilastolliset mallit (5 op)

voidaan hylätä, pienempi vai suurempi kuin 1 %?

JOHDATUS TEKOÄLYYN TEEMU ROOS

Parametristen mallien identifiointiprosessi

θ 1 θ 2 θ n y i1 y i2 y in Luento 6 Hierarkkinen malli Johdatus hierarkkisiin malleihin - joskus myös termillä multilevel model

Todennäköisyysjakaumia

MAT Todennäköisyyslaskenta Tentti / Kimmo Vattulainen

Preference Programming viitekehys: epätäydellisen preferenssi-informaation elisitointi ja mallintaminen, dominanssi

Harjoitus 8: Monte-Carlo simulointi (Matlab)

Projektin riskit, mahdollisuudet ja niiden hallinta

Transkriptio:

Tentin materiaali Sivia: luvut 1,2,3.1-3.3,4.1-4.2,5 MacKay: luku 30 Gelman, 1995: Inference and monitoring convergence Gelman & Meng, 1995: Model checking and model improvement Kalvot Harjoitustyöt

Tentin materiaali päättelyn periaatteet, peruslauseet odotusarvo, marginalisointi, prediktiivinen jakauma parametrien estimointi, binomijakauma, normaalijakauma integrointi, Laplace-approksimaatio, Monte Carlo MC, MCMC, discrete, uniform, importance, rejection, Metropolis, Gibbs random walk, convergence, burn-in, auto-correlation, thinning, how to speed up, how many samples are needed, MC error assessment todennäköisyyksien valinta, improper prior, indifference, maximum entropy, elicitation of prior information, sensitivity analysis hierarkinen malli bayesilainen päätöksenteko, toimenpide, seuraus, hyöty, kustannus, odotettu hyöty mallin tarkistus, posterioriprediktiivinen tarkistus mallin arviointi, vertailu ja valinta mallin posterioritodennäköisyys ja Bayes factor mallin odotettu hyöty

Esimerkki: oletetaan, että data on jo kerätty 1. Mieti mihin kysymykseen halutaan vastaus 2. Mieti mitä tiedät ongelmasta ja valitse malli ja priorit 3. Laske parametrien posteriorijakauma ja prediktiivisiä jakaumia - analyytisesti, analyyttisesti approksimoiden, tai MC 4. Tee mallin tarkistus ja arviointi - mahdollisesti palaa kohtaan 1. 5. Tee mallin valinta ja arvioi valitun mallin hyvyys 6. Käytä mallia

Esimerkki: dataa ei vielä kerätty 1. Mieti mihin kysymykseen haluat vastauksen 2a. Oleta yleinen koesuunnittelu, kerää data, ja mieti sitten mitä tiedät ongelmasta ja valitse malli ja priorit 2b. Mieti mitä tiedät ongelmasta ja valitse malli ja priorit, tee koesuunnittelu mallin avulla

1. Mieti mihin kysymykseen haluat vastauksen Mitä paremmin tiedät sovellusalueen sen parempi Jos yhteistyössä sovellusasiantuntija kanssa, varmista, että tiedät mihin kysymykseen asiantuntija haluaa vastauksen

2. Mieti mitä tiedät ongelmasta ja valitse malli ja priorit Mitä enemmän tiedät sen parempi A priori tietoa käyttäen valitse yksi tai useampi potentiaalinen malli Valitse mallien parametreille priorit, joko asiantuntumekusen perusteella tai laskennallisestsi mukavat todennäköisyyksien valinta, improper prior, indifference, maximum entropy, elicitation of prior information Hierarkinen malli

3. Laske parametrien posteriorijakauma ja prediktiivisiä jakaumia päättelyn periaatteet, peruslauseet parametrien estimointi integrointi, Laplace-approksimaatio, Monte Carlo

Laskenta 3. Laske parametrien posteriorijakauma ja prediktiivisiä jakaumia odotusarvo, marginalisointi, prediktiivinen jakauma integrointi, Laplace-approksimaatio, Monte Carlo MC, MCMC, discrete, uniform, importance, rejection, Metropolis, Gibbs random walk, convergence, burn-in, auto-correlation, thinning, how to speed up, how many samples are needed, MC error assessment

4. Tee mallin tarkistus ja arviointi sensitivity analysis mallin tarkistus, posterioriprediktiivinen tarkistus mallin arviointi mahdollisesti palaa kohtaan 1.

5. Tee mallin valinta ja arvioi valitun mallin hyvyys bayesilainen päätöksenteko, toimenpide, seuraus, hyöty, kustannus, odotettu hyöty mallin arviointi, vertailu ja valinta mallin posterioritodennäköisyys ja Bayes factor mallin odotettu hyöty

6. Käytä mallia bayesilainen päätöksenteko, toimenpide, seuraus, hyöty, kustannus, odotettu hyöty mahdollisesti palaa kohtaan 1.