4.2.2 Uskottavuusfunktio f Y (y 0 X = x)

Save this PDF as:
 WORD  PNG  TXT  JPG

Koko: px
Aloita esitys sivulta:

Download "4.2.2 Uskottavuusfunktio f Y (y 0 X = x)"

Transkriptio

1 Kuva 4.6: Elektroniikassa esiintyvän lämpökohinan periaate. Lämpökohinaa ε mallinnetaan additiivisella häiriöllä y = Mx + ε Uskottavuusfunktio f Y (y 0 X = x) Tarkastellaan tilastollista inversio-ongelmaa, jossa data Y on m-ulotteinen ja tuntematon X n-ulotteinen satunnaisvektori. Määritelmä 33. Olkoon y 0 R m otos satunnaisvektorista Y. Bayesin kaavassa esiintyvää funktiota x f Y (y 0 X = x) nimitetään uskottavuusfunktioksi (eng. likelihood function). Uskottavuusfunktio x f Y (y 0 X = x), missä y 0 R m on aina kiinnitetty, on n-ulotteisen muuttujan funktio, kun taas ehdollinen tntf y f Y (y X = x), missä x R n on kiinnitetty, on m-ulotteisen muuttujan funktio! Uskottavuusfunktio edustaa tuntemattoman ja datan välistä sopivuutta ja se voi sisältää mm. ulkoisista häiriöistä johtuvien epätarkkuuksien tilastollisia piirteitä (kuten sähköisessä laitteissa esiintyvän lämpökohinan vaikutusta mittaukseen) suoran teorian mallinnusvirheistä johtuvien epätarkkuuksien tilastollisia piirteitä (kuten jatkuvan tuntemattoman kahden muuttujan funktion approksimointi pikseleiden avulla eri tarkkuustasoilla tai fysikaalisen teorian epätarkkuudet). 107

2 Kuva 4.7: Kahden muuttujan funktiota f(x, y) (jonka arvo koordinaateissa (x, y) on joko 0 tai 1) approksimoidaan summalla f(x, y) n k=1 a kφ k (x, y), missä a k edustaa funktion f(x, y) approksimoitua arvoa pikselissä k, jonka indikaattorifunktio on φ k. Kuva 4.8: Refraktio eli aaltojen taipuminen epähomogeenisessa väliaineessa aiheuttaa poikkeamia suoraviivaisesta etenemisestä samoin kuin diffraktio eli aaltojen leviäminen esteen tai raon taakse. Refraktiota ja diffraktiota ilmenee mm. radiosignaalien, ultraäänen ja maanjäristysaaltojen etenemisessä. Jos esim. ultraäänen etenemistä approksimoidaan suoraviivaisena, syntyy fysiikaalisen suoran teorian ja käytetän suoran teorian välille ero. 108

3 Ulkoinen häiriö Tarkastellaan ensin tapausta, jossa ulkoiset häiriöt ε ovat additiivisia ja riippumattomia tuntemattomasta X. Merkitään Y = F (X) + ε, missä F : R n R m on jatkuva suora teoria ja satunnaisvektorilla ε on todennäköisyystiheysfunktio f ε. Satunnaisvektorin Y = F (X) + ε ehdollinen todennäköisyystiheysfunktio, kun X = x on annettu on Esimerkin 45 perusteella muotoa y f Y (y X = x) = f ε+f (x) (y) = f ε (y F (x)), (4.9) Oikealla havainnekuva häiriön ε todennäköisyystiheysfunktiosta muuttujan y funktiona y f ε (y) ja sen translaatio y f ε (y F (x)) suoran teorian arvolla F (x) = 5 yksiulotteisessa tapauksessa. Kun satunnaisvektorista Y on annettu otos y 0, niin uskottavuusfunktio on x f Y (y 0 X = x) = f ε (y 0 F (x)). Seuraavaksi tarkastellaan esimerkkejä uskottavuusfunktioista, jotka valottavat uskottavuusfunktion ja ehdollisen todennä- Kuva 4.9: köisyystiheysfunktion eroa, joka syntyy eri muutujien kiinnittämisistä. Esimerkki 47 (Suora teoria : R 2 R). Olkoon M 1 2 = (3 1) ja olkoot R 2 -arvoinen satunnaisvektori X = (X 1, X 2 ) ja satunnaismuuttuja ε N(0, 1) riippumattomia. Merkitään ( ) X1 Y = MX + ε = (3 1) + ε = 3X 1 + X 2 + ε, X 2 josta on saatu otos y 0 = 2. Silloin ehdollinen tntf f Y (y X = x) = f ε (y Mx) = 1 exp ( 12 ) y 2π Mx 2 = 1 exp ( 12 ) (y 3x 1 x 2 ) 2, 2π missä x = (x 1, x 2 ) R 2 on kiinnitetty (kuvassa 4.9 on f Y (y X = (0, 0)) sinisellä ja f Y (y X = (2, 1)) punaisella). Vastaavasti uskottavuusfunktio x = (x 1, x 2 ) f Y (y 0 X = x) = f ε (y 0 Mx) = f ε (2 3x 1 + x 2 ) = = 1 exp ( 12 ) (2 3x 1 x 2 ) 2, 2π jonka kuvaaja on alla. Myös seuraavissa esimerkeissä on kirjoitettu useita laskujen välivaiheita esille selvyyden vuoksi. 109

4 Kuva 4.10: Uskottavuusfunktio (x 1, x 2 ) f ε (2 3x 1 + x 2 ) korkeuskäyränä ja kuvana Esimerkki 48 (Suora teoria: R 2 R 2 ). Olkoon suora teoria ( ) 1 2 R 2 x Mx R 2, missä M = ja satunnaisvektorin Y otos on y = (1, 1) Mallinnetaan dataa satunnaisvektorilla Y = M X + ε. Häiriöstä ε tiedetään, että se on riippumaton tuntemattomasta ja noudattaa multinormaalijakaumaa N(0, 2I). Häiriön tntf on ( 1 f ε (y) = exp 1 ( ) y) (2π) yt = 1 ( 0 2 4π exp 14 ) y Uskottavuusfunktio on 7 kaikilla x = (x 1, x 2 ) R 2 f Y (y 0 X = x) = f ε (y 0 Mx) = 1 ( 4π exp 14 ) y 0 Mx 2 = 1 ( 4π exp 1 ) 4 ((1 x 1 2x 2 ) 2 + (1 + x 1 + 2x 2 ) 2 ) ( ) 2 1 Esimerkki 49 (Häiriön varianssin vaikutus). Olkoon M 2 2 = ja olkoot R arvoiset satunnaisvektorit X = (X 1, X 2 ) ja ε = (ε 1, ε 2 ) N(0, δi), δ > 0 riippumattomia. Merkitään ( ) ( ) ( ) ( ) 2 1 X1 ε1 2X1 + X Y = MX + ε = + = 2 + ε X 2 ε 2 3X 1 + X 2 + ε 2 7 y 0 Mx = ( ( ) ( ) ( ) x1 1 x1 2x = 2 1) 1 2 x x 1 + 2x 2 110

5 Kuva 4.11: Uskottavuusfunktio x f Y (1, 1 X = x) ei ole yksinään todennäköisyystiheysfunktio avaruudessa R 2. Kuva 4.12: Uskottavuusfunktio muuttuu, kun annetun datan y 0 arvo muuttuu: Uskottavuusfunktio x f Y ( 4, 4 X = x). 111

6 Kuva 4.13: Normittamaton posterioritntf f post (x) = cf Y (1, 1 X = x)f pr (x), kun prioritntf f pr (x) = [ 1,2] [ 1,1](x). Kuva 4.14: Normittamaton posterioritntf f post (x) = cf Y (1, 1 X = x)f pr (x), kun prioritntf f pr (x) = 1 2π exp ( 1 2 x 2). 112

7 josta on saatu otos y 0 = (1, 0). Silloin ehdollinen tntf ( 1 f Y (y X = x) = f ε (y Mx) = exp (2π) 2 δ 0 0 δ ( 12δ ) y Mx 2, = 1 2πδ exp 1 2 (y Mx)T ( δ 0 0 δ ) 1 (y Mx)) missä x R 2 on kiinnitetty. Vastaavasti uskottavuusfunktio ( x = (x 1, x 2 ) f Y (y 0 X = x) = f Y (1, 0 X = x) = 1 2πδ exp 1 ( ) ( ) ( ) ) x1 2 2δ x 2 = 1 ( 2πδ exp 1 ) 2δ ((1 2x 1 x 2 ) 2 + (3x 1 + x 2 ) 2 ), jonka kuvaaja on alla. Kuva 4.15: Uskottavuusfunktio (x 1, x 2 ) f ε ((1, 0) Mx). Vasemmalla häiriön varianssin arvo δ = 8, keskellä δ = 2 ja oikealla δ = 0.5. Uskottavuusfunktio muuttuu korkeammaksi ja kapeammaksi, kun δ pienenee. Esimerkki 50 (Tietokonekerroskuvaus). Tuntematonta massa-absorptiokerrrointa f = f(x, y ) approksimoidaan lineaariyhdisteellä f(x, y ) = n x j φ j (x, y ), x, y R 2 j=1 missä x = (x 1,..., x n ) R n sisältää tuntemattomat kertoimet ja funktiot φ j ovat tunnettuja. Mitattua häiriöistä dataa voidaan (karkeasti) mallintaa vektorilla y = (y 1,..., y m ), jonka komponentit ovat n ( ) y i = fds + ε i = φ j ds x i + ε i = (Mx) i + ε i, C i C i j=1 missä i = 1,...,, m ja satunnaisvektorin ε jakauma on N(0, δi). Tällöin päädytään tilastolliseen inversio-ongelmaan Y = MX + ε. 113

8 Kun oletetaan, että X ja ε ovat riippumattomia, niin uskottavuusfunktio on 1 f Y (y 0 X = x) = e 1 (2πδ) n 2δ y 0 Mx 2 kaikilla x R n. 2 Mallinnusvirhe Seuraavaksi sallitaan myös suoran teorian mallinnusvirheitä ja tuntemattoman approksimaatioita. Oletetaan yksinkertaisuuden vuoksi, että kaikki tntf:t ovat jatkuvia. Lause 21. Olkoon Y m-ulotteinen sv, X n-ulotteinen sv ja U k-ulotteinen sv, siten, että yhteistntf f (X,U) on positiivinen ja ehdolliset tntf f Y (y (X, U) = (x, u)) ja f U (u X = x), on annettu. Silloin ehdollinen tntf f Y (y X = x) = f Y (y (X, U) = (x, u))f U (u X = x)du. R k kun f X (x) > 0. Todistus. Meidän tulee määrätä f Y (y X = x) = f (X,Y )(x, y). f X (x) Selvästi f (X,Y ) (x, y) = f (X,Y,U) (x, y, u)du, R k missä integrandi voidaan määrätä oletuksien perusteella Bayesin kaavalla (Lause 20). Silloin f (X,Y,U)(x, y, u) f (X,U) (x, u) f Y (y X = x) = du. R f k (X,U) (x, u) f X (x) Esimerkki 51. (Approksimaatiovirhe) Tarkastellaan tilastollista inversio-ongelmaa Y = F (X) + ε, missä tuntematon sv X ja häiriö ε ovat riippumattmia. Laskennallisista syistä korkeaulotteista tuntematonta X approksimoidaan matalaulotteisimmilla vektoreilla. Otetaan approksimaatioksi tuntemattoman sv X ortogonaalinen projektio X n = P n X jollekin n-ulotteiselle aliavaruudelle missä n < N (ja myös m < N) Voimme esittää suoran teorian muodossa jolloin data toteuttaa yhtälön F (X) = F (X n ) + (F (X) F (X n )) =: F (X n ) + U, Y = F (X) + ε = F (X n ) + U + ε. Voimme kirjoittaa Lauseen 21 oletuksilla uskottavuusfunktion laskennallisesti edullisemmalle tuntemattomalle X n muodossa f Y (y X n = x) = f U (u X n = x)f ε (y F (x) u)du, (4.10) R m 114

9 edellyttäen, että f U (u X n = x) on saatavilla. Integraali (4.10) on usein työläs käsiteltävä. Eräs approksimaatio on korvata U samoin jakautuneella satunnaismuuttujalla Ũ, joka on riippumaton satunnaisvektorista X. Kun priorijakauma on annettu, niin m-ulotteisen satunnaisvektorin Ũ + ε jakauma on mahdollista määrätä. Tällöin ehdollinen tntf saa muodon f Y (y X n = x) = f ε+ Ũ (y F (x)). Esimerkki 52. (Suoran teorian epätarkkuus) Olkoon suora teoria F : R n R m lineaarinen kuvaus, jonka matriisi M = M σ riippuu jatkuvasti parametrista σ R, jota ei tunneta tarkasti. Kuvan terävöittämisesimerkin (Luku 1.2) sumentamiskuvauksessa m kl = C kl n e ( k i 2 /n 2 + l j 2 /n 2 )/2σ 2 m ij i,j=1 on tällainen parametri. Tällöin tuntematonta parametria mallinnetaan tilastollisesti. Asetetaan parametrille σ todennäköisyysjakauma siten, että σ, X ja ε ovat keskenään riippumattomia. Tällöin Y = M σ X + ε = G(σ, X, ε) on satunnaisvektori, sillä kuvaus on jatkuva. Erityisesti Lauseen 19 nojalla G : R R n R m (s, x, z) M σ x + z f Y (y (X, σ) = (x, s)) = f G(s,x,ε) (y) = f ε (y M s x). Lauseen 21 oletuksilla f Y (y X = x) = f ε (y M s x)f σ (s)ds. R m Priori f pr (x) Prioritntf edustaa tuntemattomasta saatavilla olevaa etukäteistietoa ja kuvailee myös käsityksemme tiedon puutteesta. Voimme kysyä, kuinka prioritntf muodostetaan etukäteistiedon perusteella? Oletetaan, että tuntematon vektori x R n kuvaa funktion g arvoja esimerkiksi joissakin neliön [0, 1] [0, 1] pisteissä eli missä t i [0, 1] [0, 1] kun i = 1,..., n. x i = g(t i ), Mahdollista prioritietoa: 115

10 Funktio g Vektori x Funktion g jotkin arvot. Vektorin x jotkin komponentit Esim. reuna-arvot tunnetaan tarkasti x i tunnetaan tarkasti tai tai epätarkasti. epätarkasti. Funktion g sileys. Vektorin x naapurikomponenttien käytös. Funktion g arvojoukko. Vektorin x komponenttien x i arvojoukko. Esim g 0, monotonisuus Esim. x i 0, x i x i+1 Funktion g symmetriaominaisuudet. Vektorin x symmetriaominaisuudet. Muut funktiota g sitovat yhtälöt. Vektorin komponentteja sitovat muut Esim. jos g : R 3 R 3 on yhtälöt. magneettikenttä, niin g 0. Mahdollisia tilastollisia malleja: Tuntematon vektori x R n Tuntemattoman tilastollinen malli X : Ω R n Vektorin x komponentit X i = m i + Z i, missä sv. Z i jakauma kuvaa x i tunnetaan arvon m i epätarkkuutta epätarkasti. Vektorin x virittäjävektorit tunnetaan. X = n i=1 Z ie i Esim. x = n i=1 a ie i, n n. missä sm:n Z i jakauma edustaa kertoimiin liittyvää epävarmuutta. Esim. f Zi = f Zj kun i j. Vektorin x naapurikomponenttien käytös. Satunnaisvektorin X naapurikomponenttien riiippuvuus. Satunnaisvektorin X naapurikomponenttien yhteisjakaumat Vektorin x komponenttien x i arvojoukko. Esim. X i = X i. Esim. x i Erilaisia priorijakaumia Olkoon X : Ω R n satunnaisvektori, joka mallintaa inversio-ongelman tuntematonta vektoria. Merkitään funktiolla f pr : R n [0, ) satunnaisvektorinx tntf. Tarkastellaan muutamia vaihtoehtoja Tasainen jakauma Olkoon B R n suljettu ja rajoitettu suorakulmainen särmiö B = {x R n : a i x i b i, i = 1,.., n}, missä a i < b i kun i = 1,.., n. Satunnaisvektorilla X on tasainen jakauma joukossa B jos f pr (x) = 1 B 1 B(x), missä C := C dx on integraali yli suorakulmaisen särmiön C Rn. 116

11 Tiedetään varmasti, että tuntematon kuuluu joukkoon B ja tuntemattoman i:s komponentti kuuluu välille [a i, b i ]. Kun B on suorakulmainen särmiö, niin satunnaisvektorin X eri komponentit ovat riippumattomia.. Tasainen priorijakauma ilmaisee lähes täydellistä epävarmuutta tuntemattoman vektorin komponenttien arvoista joukossa B: tiedämme että tuntematon kuuluu joukkoon B. Piste. Joukon B on oltava rajoitettu, jotta f pr on tntf. Posteriorijakauman tntf f post (x) = f Y (y 0 X = x)1 B (x) f Y (y) B on joukkoon B rajoitettu ja uudelleen normitettu uskottavuusfunktio L2-priori Satunnaisvektorilla X = (X 1,..., X n ) on L2-priori, jos f pr (x) = ( α π ) n 2 e α x 2, x R n Komponentit X k, k = 1,..., n ovat toisistaan riippumattomia ja normaalijakautuneita. Komponentin X k, 1 k n priorijakauma on symmetrinen: negatiiviset ja positiiviset arvot ovat yhtä todennäköisiä. Parametrin α valinta perustuu siihen kuinka varmasti uskomme tuntematoman komponenttien saavan suurehkoja arvoja. Mitä suurempi α, sitä epätodennäköisenpiä suurehkot arvot ovat. On mahdollista määritellä myös L2-priori odotusarvolla m R n (Harjoitustehtävä) 117

12 alpha=0.5 alpha=1 alpha= Kuva 4.16: 1-ulotteisen L2-priorin tntf. Kuva 4.17: Satunnaisvektorin X = (X 1, X 2, X 3 ) L2-priori. Punaisella on merkitty yksi otos (x 1, x 2, x 3 ) satunnaisvektorista X L1-priori 118

13 alpha=0.5 alpha=1 alpha= Kuva 4.18: 1-ulotteisen L1-jakauman tntf. Palautetaan mieleen, että L1-normi x 1 = n x i, kun x R n. Satunnaisvektorilla X = (X 1,..., X n ) on L1-priori, jos ( α ) n f pr (x) = e α x 1, kaikilla x R n. 2 Komponentit X k, k = 1,..., n ovat keskenään riippumattomia. i=1 Tntf f Xk, 1 k n, on symmetrinen origon suhteen (jolloin prioriodotusarvo on nollavektori). Parametrin α valinta perustuu siihen kuinka varmasti uskomme tuntematoman komponenttien saavan suurehkoja arvoja. Mitä suurempi α, sitä epätodennäköisenpia suurehkot arvot ovat Cauchy-priori Satunnaisvektorilla X = (X 1,..., X n ) on Cauchy-priori jos kun x R n. ( α ) n n 1 f pr (x) = π 1 + α 2 x 2 i 119 i=1

14 alpha=0.5 alpha=1 alpha= Kuva 4.19: Cauchy-priorin tntf. Komponentit X k, k = 1,..., n ovat riippumattomia. Tntf f Xk, 1 k n on symmetrinen origon suhteen Ei odotusarvoa (suuret häntätodennäköisyydet). Kuvaa parhaiten tilannetta, jossa suurin osa komponenttien arvoista on lähellä nollaa, mutta joukossa on muutamia suurehkoja arvoja Positiivisuusrajoitus Jos tiedetään, että tuntemattoman X = (X 1,..., X n ) komponentit X k ovat ei-negatiisia, niin 1. Käytetään rajoitettua ja uudelleen normitettua tntf:ta f pr (x) = cf + (x)f X (x) missä f + (x) = { 1, x i 0 i = 1,.., n 0 muulloin. 2. Käytetään sopivaa positiivisuusmuunnosta tunnetusta satunnaismuutujasta, kuten X k = exp(x k) kaikilla k = 1,..., n. tai X k = X k kaikilla k = 1,..., n. 120

P (X B) = f X (x)dx. xf X (x)dx. g(x)f X (x)dx.

P (X B) = f X (x)dx. xf X (x)dx. g(x)f X (x)dx. Yhteenveto: Satunnaisvektorit ovat kuvauksia tn-avaruudelta seillaiselle avaruudelle, johon sisältyy satunnaisvektorin kaikki mahdolliset reaalisaatiot. Satunnaisvektorin realisaatio eli otos on jokin

Lisätiedot

4.3.6 Eräitä diskreettejä Markov-kenttiä

4.3.6 Eräitä diskreettejä Markov-kenttiä 0.4 0.35 Gauss l1 Cauchy 0.3 0.25 0.2 0.15 0.1 0.05 0 10 8 6 4 2 0 2 4 6 8 10 Kuva 4.20: L2-priorin tnft, Cauchy-priorin tntf kun α = α = 2. 2π π 2π ja L1-priorin tntf kun 4.3.6 Eräitä diskreettejä Markov-kenttiä

Lisätiedot

4.0.2 Kuinka hyvä ennuste on?

4.0.2 Kuinka hyvä ennuste on? Luonteva ennuste on käyttää yhtälöä (4.0.1), jolloin estimaattori on muotoa X t = c + φ 1 X t 1 + + φ p X t p ja estimointivirheen varianssi on σ 2. X t }{{} todellinen arvo Xt }{{} esimaattori = ε t Esimerkki

Lisätiedot

9. Tila-avaruusmallit

9. Tila-avaruusmallit 9. Tila-avaruusmallit Aikasarjan stokastinen malli ja aikasarjasta tehdyt havainnot voidaan esittää joustavassa ja monipuolisessa muodossa ns. tila-avaruusmallina. Useat aikasarjat edustavat dynaamisia

Lisätiedot

Sallitut apuvälineet: MAOL-taulukot, kirjoitusvälineet, laskin sekä itse laadittu, A4-kokoinen lunttilappu. f(x, y) = k x y, kun 0 < y < x < 1,

Sallitut apuvälineet: MAOL-taulukot, kirjoitusvälineet, laskin sekä itse laadittu, A4-kokoinen lunttilappu. f(x, y) = k x y, kun 0 < y < x < 1, Todennäköisyyslaskenta, 2. kurssikoe 7.2.22 Sallitut apuvälineet: MAOL-taulukot, kirjoitusvälineet, laskin sekä itse laadittu, A4-kokoinen lunttilappu.. Satunnaismuuttujien X ja Y yhteistiheysfunktio on

Lisätiedot

Tilastolliset inversio-ongelmat

Tilastolliset inversio-ongelmat Luku 4 Tilastolliset inversio-ongelmat Tilastollisen inversio-ongelman ratkaisu ei niinkään vastaa kysymykseen "mikä tuntematon vektori x 0 on"vaan pikemminkin kysymykseen "mitä tiedämme tuntemattomasta

Lisätiedot

Lause 4.2. Lineearinen pienimmän keskineliövirheen estimaattoi on lineaarinen projektio.

Lause 4.2. Lineearinen pienimmän keskineliövirheen estimaattoi on lineaarinen projektio. Määritelmä 4.3. Estimaattoria X(Y ) nimitetään lineaariseksi projektioksi, jos X on lineaarinen kuvaus ja E[(X X(Y )) Y] 0 }{{} virhetermi Lause 4.2. Lineearinen pienimmän keskineliövirheen estimaattoi

Lisätiedot

3.2.2 Tikhonovin regularisaatio

3.2.2 Tikhonovin regularisaatio 3 Tikhonovin regularisaatio Olkoon x 0 R n tuntematon, M R m n teoriamatriisi ja y Mx + ε R m (316 annettu data Häiriöherkässä ongelmassa pienimmän neliösumman miniminormiratkaisu x M + y Q N (M x + M

Lisätiedot

Moniulotteisia todennäköisyysjakaumia

Moniulotteisia todennäköisyysjakaumia Ilkka Mellin Todennäköisyyslaskenta Osa 3: Todennäköisyysjakaumia Moniulotteisia todennäköisyysjakaumia TKK (c) Ilkka Mellin (007) 1 Moniulotteisia todennäköisyysjakaumia >> Multinomijakauma Kaksiulotteinen

Lisätiedot

Kannan vektorit siis virittävät aliavaruuden, ja lisäksi kanta on vapaa. Lauseesta 7.6 saadaan seuraava hyvin käyttökelpoinen tulos:

Kannan vektorit siis virittävät aliavaruuden, ja lisäksi kanta on vapaa. Lauseesta 7.6 saadaan seuraava hyvin käyttökelpoinen tulos: 8 Kanta Tässä luvussa tarkastellaan aliavaruuden virittäjävektoreita, jotka muodostavat lineaarisesti riippumattoman jonon. Merkintöjen helpottamiseksi oletetaan luvussa koko ajan, että W on vektoreiden

Lisätiedot

Likimääräisratkaisut ja regularisaatio

Likimääräisratkaisut ja regularisaatio Luku 3 Likimääräisratkaisut ja regularisaatio Käytännön inversio-ongelmissa annettu data y ei aina ole tarkkaa, vaan sisältää häiriöitä. Tuntemattomasta x on annettu häiriöinen data y F (x + }{{}}{{} ε.

Lisätiedot

8. Muita stokastisia malleja 8.1 Epölineaariset mallit ARCH ja GARCH

8. Muita stokastisia malleja 8.1 Epölineaariset mallit ARCH ja GARCH 8. Muita stokastisia malleja 8.1 Epölineaariset mallit ARCH ja GARCH Osa aikasarjoista kehittyy hyvin erityyppisesti erilaisissa tilanteissa. Esimerkiksi pörssikurssien epävakaus keskittyy usein lyhyisiin

Lisätiedot

Vapaus. Määritelmä. jos c 1 v 1 + c 2 v c k v k = 0 joillakin c 1,..., c k R, niin c 1 = 0, c 2 = 0,..., c k = 0.

Vapaus. Määritelmä. jos c 1 v 1 + c 2 v c k v k = 0 joillakin c 1,..., c k R, niin c 1 = 0, c 2 = 0,..., c k = 0. Vapaus Määritelmä Oletetaan, että v 1, v 2,..., v k R n, missä n {1, 2,... }. Vektorijono ( v 1, v 2,..., v k ) on vapaa eli lineaarisesti riippumaton, jos seuraava ehto pätee: jos c 1 v 1 + c 2 v 2 +

Lisätiedot

Esimerkki 19. Esimerkissä 16 miniminormiratkaisu on (ˆx 1, ˆx 2 ) = (1, 0).

Esimerkki 19. Esimerkissä 16 miniminormiratkaisu on (ˆx 1, ˆx 2 ) = (1, 0). Esimerkki 9 Esimerkissä 6 miniminormiratkaisu on (ˆx, ˆx (, 0 Seuraavaksi näytetään, että miniminormiratkaisuun siirtyminen poistaa likimääräisongelman epäyksikäsitteisyyden (mutta lisääntyvän ratkaisun

Lisätiedot

Vapaus. Määritelmä. jos c 1 v 1 + c 2 v c k v k = 0 joillakin c 1,..., c k R, niin c 1 = 0, c 2 = 0,..., c k = 0.

Vapaus. Määritelmä. jos c 1 v 1 + c 2 v c k v k = 0 joillakin c 1,..., c k R, niin c 1 = 0, c 2 = 0,..., c k = 0. Vapaus Määritelmä Oletetaan, että v 1, v 2,..., v k R n, missä n {1, 2,... }. Vektorijono ( v 1, v 2,..., v k ) on vapaa eli lineaarisesti riippumaton, jos seuraava ehto pätee: jos c 1 v 1 + c 2 v 2 +

Lisätiedot

Vapaus. Määritelmä. Vektorijono ( v 1, v 2,..., v k ) on vapaa eli lineaarisesti riippumaton, jos seuraava ehto pätee:

Vapaus. Määritelmä. Vektorijono ( v 1, v 2,..., v k ) on vapaa eli lineaarisesti riippumaton, jos seuraava ehto pätee: Vapaus Määritelmä Oletetaan, että v 1, v 2,..., v k R n, missä n {1, 2,... }. Vektorijono ( v 1, v 2,..., v k ) on vapaa eli lineaarisesti riippumaton, jos seuraava ehto pätee: jos c 1 v 1 + c 2 v 2 +

Lisätiedot

Johdatus todennäköisyyslaskentaan Moniulotteisia todennäköisyysjakaumia. TKK (c) Ilkka Mellin (2005) 1

Johdatus todennäköisyyslaskentaan Moniulotteisia todennäköisyysjakaumia. TKK (c) Ilkka Mellin (2005) 1 Johdatus todennäköisyyslaskentaan Moniulotteisia todennäköisyysjakaumia TKK (c) Ilkka Mellin (005) 1 Moniulotteisia todennäköisyysjakaumia Multinomijakauma Kaksiulotteinen normaalijakauma TKK (c) Ilkka

Lisätiedot

Todennäköisyyslaskennan ja tilastotieteen peruskurssi Esimerkkikokoelma 3

Todennäköisyyslaskennan ja tilastotieteen peruskurssi Esimerkkikokoelma 3 Todennäköisyyslaskennan ja tilastotieteen peruskurssi Esimerkkikokoelma 3 Aiheet: Satunnaisvektorit ja moniulotteiset jakaumat Tilastollinen riippuvuus ja lineaarinen korrelaatio Satunnaisvektorit ja moniulotteiset

Lisätiedot

Numeeriset menetelmät TIEA381. Luento 8. Kirsi Valjus. Jyväskylän yliopisto. Luento 8 () Numeeriset menetelmät / 35

Numeeriset menetelmät TIEA381. Luento 8. Kirsi Valjus. Jyväskylän yliopisto. Luento 8 () Numeeriset menetelmät / 35 Numeeriset menetelmät TIEA381 Luento 8 Kirsi Valjus Jyväskylän yliopisto Luento 8 () Numeeriset menetelmät 11.4.2013 1 / 35 Luennon 8 sisältö Interpolointi ja approksimointi Funktion approksimointi Tasainen

Lisätiedot

4.3 Moniulotteinen Riemannin integraali

4.3 Moniulotteinen Riemannin integraali 4.3 Moniulotteinen Riemannin integraali Tässä luvussa opitaan miten integroidaan usean muuttujan reaaliarvoista tai vektoriarvoista funktiota, millaisten joukkojen yli jatkuvaa funktiota voi integroida,

Lisätiedot

P(X = x T (X ) = t, θ) = p(x = x T (X ) = t) ei riipu tuntemattomasta θ:sta. Silloin uskottavuusfunktio faktorisoituu

P(X = x T (X ) = t, θ) = p(x = x T (X ) = t) ei riipu tuntemattomasta θ:sta. Silloin uskottavuusfunktio faktorisoituu 1. Tyhjentävä tunnusluku (sucient statistics ) Olkoon (P(X = x θ) : θ Θ) todennäköisyysmalli havainnolle X. Datan funktio T (X ) on Tyhjentävä tunnusluku jos ehdollinen todennäköisyys (ehdollinen tiheysfunktio)

Lisätiedot

Ilkka Mellin Todennäköisyyslaskenta. Osa 2: Satunnaismuuttujat ja todennäköisyysjakaumat. Momenttiemäfunktio ja karakteristinen funktio

Ilkka Mellin Todennäköisyyslaskenta. Osa 2: Satunnaismuuttujat ja todennäköisyysjakaumat. Momenttiemäfunktio ja karakteristinen funktio Ilkka Mellin Todennäköisyyslaskenta Osa : Satunnaismuuttujat ja todennäköisyysjakaumat Momenttiemäfunktio ja karakteristinen funktio TKK (c) Ilkka Mellin (7) 1 Momenttiemäfunktio ja karakteristinen funktio

Lisätiedot

Moniulotteisia todennäköisyysjakaumia. Moniulotteisia todennäköisyysjakaumia. Moniulotteisia todennäköisyysjakaumia: Mitä opimme?

Moniulotteisia todennäköisyysjakaumia. Moniulotteisia todennäköisyysjakaumia. Moniulotteisia todennäköisyysjakaumia: Mitä opimme? TKK (c) Ilkka Mellin (4) Moniulotteisia todennäköisyysjakaumia Johdatus todennäköisyyslaskentaan Moniulotteisia todennäköisyysjakaumia TKK (c) Ilkka Mellin (4) Moniulotteisia todennäköisyysjakaumia: Mitä

Lisätiedot

MS-A0305 Differentiaali- ja integraalilaskenta 3 Luento 8: Divergenssi ja roottori. Gaussin divergenssilause.

MS-A0305 Differentiaali- ja integraalilaskenta 3 Luento 8: Divergenssi ja roottori. Gaussin divergenssilause. MS-A0305 Differentiaali- ja integraalilaskenta 3 Luento 8: Divergenssi ja roottori. Gaussin divergenssilause. Antti Rasila Aalto-yliopisto Syksy 2015 Antti Rasila (Aalto-yliopisto) MS-A0305 Syksy 2015

Lisätiedot

1 Sisätulo- ja normiavaruudet

1 Sisätulo- ja normiavaruudet 1 Sisätulo- ja normiavaruudet 1.1 Sisätuloavaruus Määritelmä 1. Olkoon V reaalinen vektoriavaruus. Kuvaus : V V R on reaalinen sisätulo eli pistetulo, jos (a) v w = w v (symmetrisyys); (b) v + u w = v

Lisätiedot

1. TILASTOLLINEN HAHMONTUNNISTUS

1. TILASTOLLINEN HAHMONTUNNISTUS 1. TILASTOLLINEN HAHMONTUNNISTUS Tilastollisissa hahmontunnistusmenetelmissä piirteitä tarkastellaan tilastollisina muuttujina Luokittelussa käytetään hyväksi seuraavia tietoja: luokkien a priori tn:iä,

Lisätiedot

Satunnaismuuttujien muunnokset ja niiden jakaumat

Satunnaismuuttujien muunnokset ja niiden jakaumat Ilkka Mellin Todennäköisyyslaskenta Osa 2: Satunnaismuuttujat ja todennäköisyysjakaumat Satunnaismuuttujien muunnokset ja niiden jakaumat TKK (c) Ilkka Mellin (2007) 1 Satunnaismuuttujien muunnokset ja

Lisätiedot

Inversio-ongelmien laskennallinen peruskurssi Luento 2

Inversio-ongelmien laskennallinen peruskurssi Luento 2 Inversio-ongelmien laskennallinen peruskurssi Luento 2 Kevät 2012 1 Lineaarinen inversio-ongelma Määritelmä 1.1. Yleinen (reaaliarvoinen) lineaarinen inversio-ongelma voidaan esittää muodossa m = Ax +

Lisätiedot

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi 5A Bayeslainen tilastollinen päättely Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Lukuvuosi

Lisätiedot

MS-A0503 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

MS-A0503 Todennäköisyyslaskennan ja tilastotieteen peruskurssi MS-A0503 Todennäköisyyslaskennan ja tilastotieteen peruskurssi 5B Frekventistiset vs. bayeslaiset menetelmät Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto

Lisätiedot

1. Jatketaan luentojen esimerkkiä 8.3. Oletetaan kuten esimerkissä X Y Bin(Y, θ) Y Poi(λ) λ y. f X (x) (λθ)x

1. Jatketaan luentojen esimerkkiä 8.3. Oletetaan kuten esimerkissä X Y Bin(Y, θ) Y Poi(λ) λ y. f X (x) (λθ)x HY, MTL / Matemaattisten tieteiden kandiohjelma Todennäköisyyslaskenta IIb, syksy 017 Harjoitus 5 Ratkaisuehdotuksia Tehtäväsarja I 1. Jatketaan luentojen esimerkkiä 8.3. Oletetaan kuten esimerkissä X

Lisätiedot

Määritelmä 17. Olkoon Ω joukko ja Σ sen jokin σ-algebra. Kuvaus P : Σ [0, 1] on todennäköisyysmitta (eng. probability measure), jos

Määritelmä 17. Olkoon Ω joukko ja Σ sen jokin σ-algebra. Kuvaus P : Σ [0, 1] on todennäköisyysmitta (eng. probability measure), jos 0.02 0.04 0.06 0.08 f 0 5 0 5 0 Temperature Kuva 5.2: Tntf:n f kuvaaja: Lämpötilat välillä [5, 0] näyttävät epätodennäköisiltä. Lämpötila -2 näyttäisi todennäköisimmältä, mutta jakauma on leveä. Tämä heijastaa

Lisätiedot

Ortogonaaliprojektio äärellisulotteiselle aliavaruudelle

Ortogonaaliprojektio äärellisulotteiselle aliavaruudelle Ortogonaaliprojektio äärellisulotteiselle aliavaruudelle Olkoon X sisätuloavaruus ja Y X äärellisulotteinen aliavaruus. Tällöin on olemassa lineaarisesti riippumattomat vektorit y 1, y 2,..., yn, jotka

Lisätiedot

Kuvaus. Määritelmä. LM2, Kesä /160

Kuvaus. Määritelmä. LM2, Kesä /160 Kuvaus Määritelmä Oletetaan, että X ja Y ovat joukkoja. Kuvaus eli funktio joukosta X joukkoon Y on sääntö, joka liittää jokaiseen joukon X alkioon täsmälleen yhden alkion, joka kuuluu joukkoon Y. Merkintä

Lisätiedot

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi MS-A050 Todennäköisyyslaskennan ja tilastotieteen peruskurssi B Satunnaismuuttujat ja todennäköisyysjakaumat Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto

Lisätiedot

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi 5A Tilastollisen merkitsevyyden testaus (+ jatkuvan parametrin Bayes-päättely) Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden

Lisätiedot

Ominaisvektoreiden lineaarinen riippumattomuus

Ominaisvektoreiden lineaarinen riippumattomuus Ominaisvektoreiden lineaarinen riippumattomuus Lause 17 Oletetaan, että A on n n -matriisi. Oletetaan, että λ 1,..., λ m ovat matriisin A eri ominaisarvoja, ja oletetaan, että v 1,..., v m ovat jotkin

Lisätiedot

7 Vapaus. 7.1 Vapauden määritelmä

7 Vapaus. 7.1 Vapauden määritelmä 7 Vapaus Kuten edellisen luvun lopussa mainittiin, seuraavaksi pyritään ratkaisemaan, onko annetussa aliavaruuden virittäjäjoukossa tarpeettomia vektoreita Jos tällaisia ei ole, virittäjäjoukkoa kutsutaan

Lisätiedot

Kuva 3.1: Näyte Gaussisesta valkoisest kohinasta ε t N(0, 1) Aika t

Kuva 3.1: Näyte Gaussisesta valkoisest kohinasta ε t N(0, 1) Aika t Kuva 3.1: Näyte Gaussisesta valkoisest kohinasta ε t N(0, 1) Valkoinen kohina ε t 2 1 0 1 2 Voimme tehdä saman laskun myös yleiselle välille [ a, a], missä 0 < a

Lisätiedot

JAKSO 2 KANTA JA KOORDINAATIT

JAKSO 2 KANTA JA KOORDINAATIT JAKSO 2 KANTA JA KOORDINAATIT Kanta ja dimensio Tehtävä Esittele vektoriavaruuden kannan määritelmä vapauden ja virittämisen käsitteiden avulla ja anna vektoriavaruuden dimension määritelmä Esittele Lause

Lisätiedot

Testejä suhdeasteikollisille muuttujille

Testejä suhdeasteikollisille muuttujille Ilkka Mellin Tilastolliset menetelmät Osa 3: Tilastolliset testit Testejä suhdeasteikollisille muuttujille TKK (c) Ilkka Mellin (007) 1 Testejä suhdeasteikollisille muuttujille >> Testit normaalijakauman

Lisätiedot

Johdatus todennäköisyyslaskentaan Momenttiemäfunktio ja karakteristinen funktio. TKK (c) Ilkka Mellin (2005) 1

Johdatus todennäköisyyslaskentaan Momenttiemäfunktio ja karakteristinen funktio. TKK (c) Ilkka Mellin (2005) 1 Johdatus todennäköisyyslaskentaan Momenttiemäfunktio ja karakteristinen funktio TKK (c) Ilkka Mellin (5) 1 Momenttiemäfunktio ja karakteristinen funktio Momenttiemäfunktio Diskreettien jakaumien momenttiemäfunktioita

Lisätiedot

BM20A5800 Funktiot, lineaarialgebra ja vektorit Harjoitus 4, Syksy 2016

BM20A5800 Funktiot, lineaarialgebra ja vektorit Harjoitus 4, Syksy 2016 BM20A5800 Funktiot, lineaarialgebra ja vektorit Harjoitus 4, Syksy 2016 1. Hahmottele karkeasti funktion f : R R 2 piirtämällä sen arvoja muutamilla eri muuttujan arvoilla kaksiulotteiseen koordinaatistoon

Lisätiedot

Selvästi. F (a) F (y) < r x d aina, kun a y < δ. Kolmioepäyhtälön nojalla x F (y) x F (a) + F (a) F (y) < d + r x d = r x

Selvästi. F (a) F (y) < r x d aina, kun a y < δ. Kolmioepäyhtälön nojalla x F (y) x F (a) + F (a) F (y) < d + r x d = r x Seuraavaksi tarkastellaan C 1 -sileiden pintojen eräitä ominaisuuksia. Lemma 2.7.1. Olkoon S R m sellainen C 1 -sileä pinta, että S on C 1 -funktion F : R m R eräs tasa-arvojoukko. Tällöin S on avaruuden

Lisätiedot

Vektorien pistetulo on aina reaaliluku. Esimerkiksi vektorien v = (3, 2, 0) ja w = (1, 2, 3) pistetulo on

Vektorien pistetulo on aina reaaliluku. Esimerkiksi vektorien v = (3, 2, 0) ja w = (1, 2, 3) pistetulo on 13 Pistetulo Avaruuksissa R 2 ja R 3 on totuttu puhumaan vektorien pituuksista ja vektoreiden välisistä kulmista. Kuten tavallista, näiden käsitteiden yleistäminen korkeampiulotteisiin avaruuksiin ei onnistu

Lisätiedot

Lineaarialgebra ja matriisilaskenta II. LM2, Kesä /141

Lineaarialgebra ja matriisilaskenta II. LM2, Kesä /141 Lineaarialgebra ja matriisilaskenta II LM2, Kesä 2012 1/141 Kertausta: avaruuden R n vektorit Määritelmä Oletetaan, että n {1, 2, 3,...}. Avaruuden R n alkiot ovat jonoja, joissa on n kappaletta reaalilukuja.

Lisätiedot

MS-A0202 Differentiaali- ja integraalilaskenta 2 (SCI) Luento 4: Ketjusäännöt ja lineaarinen approksimointi

MS-A0202 Differentiaali- ja integraalilaskenta 2 (SCI) Luento 4: Ketjusäännöt ja lineaarinen approksimointi MS-A0202 Differentiaali- ja integraalilaskenta 2 (SCI) Luento 4: Ketjusäännöt ja lineaarinen approksimointi Antti Rasila Aalto-yliopisto Syksy 2015 Antti Rasila (Aalto-yliopisto) MS-A0202 Syksy 2015 1

Lisätiedot

Maximum likelihood-estimointi Alkeet

Maximum likelihood-estimointi Alkeet Maximum likelihood-estimointi Alkeet Keijo Ruotsalainen Oulun yliopisto, Teknillinen tiedekunta Matematiikan jaos Maximum likelihood-estimointi p.1/20 Maximum Likelihood-estimointi satunnaismuuttujan X

Lisätiedot

Polkuintegraali yleistyy helposti paloitain C 1 -poluille. Määritelmä Olkoot γ : [a, b] R m paloittain C 1 -polku välin [a, b] jaon

Polkuintegraali yleistyy helposti paloitain C 1 -poluille. Määritelmä Olkoot γ : [a, b] R m paloittain C 1 -polku välin [a, b] jaon Polkuintegraali yleistyy helposti paloitain C 1 -poluille. Määritelmä 4.1.3. Olkoot : [a, b] R m paloittain C 1 -polku välin [a, b] jaon P = {a = t 1 < < t k = b} ja joukko D R m sellainen, että ([a, b])

Lisätiedot

Johdatus todennäköisyyslaskentaan Satunnaismuuttujien muunnokset ja niiden jakaumat. TKK (c) Ilkka Mellin (2004) 1

Johdatus todennäköisyyslaskentaan Satunnaismuuttujien muunnokset ja niiden jakaumat. TKK (c) Ilkka Mellin (2004) 1 Johdatus todennäköisyyslaskentaan Satunnaismuuttujien muunnokset ja niiden jakaumat TKK (c) Ilkka Mellin (2004) 1 Satunnaismuuttujien muunnokset ja niiden jakaumat Satunnaismuuttujien muunnosten jakaumat

Lisätiedot

MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi 5A Bayeslainen tilastollinen päättely Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy

Lisätiedot

Todennäköisyyden ominaisuuksia

Todennäköisyyden ominaisuuksia Todennäköisyyden ominaisuuksia 0 P(A) 1 (1) P(S) = 1 (2) A B = P(A B) = P(A) + P(B) (3) P(A) = 1 P(A) (4) P(A B) = P(A) + P(B) P(A B) (5) Tapahtuman todennäköisyys S = {e 1,..., e N }. N A = A. Kun alkeistapaukset

Lisätiedot

Todennäköisyyslaskun kertaus. Vilkkumaa / Kuusinen 1

Todennäköisyyslaskun kertaus. Vilkkumaa / Kuusinen 1 Todennäköisyyslaskun kertaus Vilkkumaa / Kuusinen 1 Satunnaismuuttujat ja todennäköisyysjakaumat Vilkkumaa / Kuusinen 2 Motivointi Kokeellisessa tutkimuksessa tutkittaviin ilmiöihin liittyvien havaintojen

Lisätiedot

4.3.7 Epäoleellinen integraali

4.3.7 Epäoleellinen integraali Esimerkki 4.3.16. (Lineaarinen muuttujien vaihto) Olkoot A R m sellainen kompakti joukko, että A on nollajoukko. Olkoon M R m m säännöllinen matriisi (eli det(m) 0) ja f : R m R jatkuva funktio. Tehdään

Lisätiedot

Likimääräisratkaisut ja regularisaatio

Likimääräisratkaisut ja regularisaatio 48 Luku 4 Likimääräisratkaisut ja regularisaatio Ryhdytään tarkastelemaan klassisia approksimatiivisia ratkaisumenetelmiä huonosti asetetuille tai häiriöherkille äärellisulotteisille lineaarisille ongelmille

Lisätiedot

Matriisilaskenta, LH4, 2004, ratkaisut 1. Hae seuraavien R 4 :n aliavaruuksien dimensiot, jotka sisältävät vain

Matriisilaskenta, LH4, 2004, ratkaisut 1. Hae seuraavien R 4 :n aliavaruuksien dimensiot, jotka sisältävät vain Matriisilaskenta LH4 24 ratkaisut 1 Hae seuraavien R 4 :n aliavaruuksien dimensiot jotka sisältävät vain a) Kaikki muotoa (a b c d) olevat vektorit joilla d a + b b) Kaikki muotoa (a b c d) olevat vektorit

Lisätiedot

Numeeriset menetelmät TIEA381. Luento 6. Kirsi Valjus. Jyväskylän yliopisto. Luento 6 () Numeeriset menetelmät / 33

Numeeriset menetelmät TIEA381. Luento 6. Kirsi Valjus. Jyväskylän yliopisto. Luento 6 () Numeeriset menetelmät / 33 Numeeriset menetelmät TIEA381 Luento 6 Kirsi Valjus Jyväskylän yliopisto Luento 6 () Numeeriset menetelmät 4.4.2013 1 / 33 Luennon 6 sisältö Interpolointi ja approksimointi Polynomi-interpolaatio: Vandermonden

Lisätiedot

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi MS-A050 Todennäköisyyslaskennan ja tilastotieteen peruskurssi B Satunnaismuuttujat ja todennäköisyysjakaumat Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto

Lisätiedot

Generointi yksinkertaisista diskreeteistä jakaumista

Generointi yksinkertaisista diskreeteistä jakaumista S-38.148 Tietoverkkojen simulointi / Satunnaismuuttujien generointi 1(18) Generointi yksinkertaisista diskreeteistä jakaumista Seuraavassa U, U 1,..., U n tarkoittavat riippumattomia U(0,1)-jakautuneita

Lisätiedot

Vektoreiden virittämä aliavaruus

Vektoreiden virittämä aliavaruus Vektoreiden virittämä aliavaruus Määritelmä Oletetaan, että v 1, v 2,... v k R n. Näiden vektoreiden virittämä aliavaruus span( v 1, v 2,... v k ) tarkoittaa kyseisten vektoreiden kaikkien lineaarikombinaatioiden

Lisätiedot

Kohdeyleisö: toisen vuoden teekkari

Kohdeyleisö: toisen vuoden teekkari Julkinen opetusnäyte Yliopisto-opettajan tehtävä, matematiikka Klo 8:55-9:15 TkT Simo Ali-Löytty Aihe: Lineaarisen yhtälöryhmän pienimmän neliösumman ratkaisu Kohdeyleisö: toisen vuoden teekkari 1 y y

Lisätiedot

1. TODENNÄKÖISYYSJAKAUMIEN ESTIMOINTI

1. TODENNÄKÖISYYSJAKAUMIEN ESTIMOINTI 1. TODENNÄKÖISYYSJAKAUMIEN ESTIMOINTI Edellä esitelty Bayesiläinen luokittelusääntö ( Bayes Decision Theory ) on optimaalinen tapa suorittaa luokittelu, kun luokkien tnjakaumat tunnetaan Käytännössä tnjakaumia

Lisätiedot

Luku 10. Bayesläiset estimaattorit Bayesläiset piste-estimaatit. Lasse Leskelä Aalto-yliopisto 18. lokakuuta 2017

Luku 10. Bayesläiset estimaattorit Bayesläiset piste-estimaatit. Lasse Leskelä Aalto-yliopisto 18. lokakuuta 2017 Luku 1 Bayesläiset estimaattorit Lasse Leskelä Aalto-yliopisto 18. lokakuuta 217 1.1 Bayesläiset piste-estimaatit Tarkastellaan datalähdettä, joka tuottaa tiheysfunktion f(x θ) mukaan jakautuneita riippumattomia

Lisätiedot

Taustatietoja ja perusteita

Taustatietoja ja perusteita Taustatietoja ja perusteita Vektorit: x R n pystyvektoreita, transpoosi x T Sisätulo: x T y = n i=1 x i y i Normi: x = x T x = ni=1 x 2 i Etäisyys: Kahden R n :n vektorin välinen etäisyys x y 1 Avoin pallo:

Lisätiedot

Johdatus todennäköisyyslaskentaan Normaalijakaumasta johdettuja jakaumia. TKK (c) Ilkka Mellin (2005) 1

Johdatus todennäköisyyslaskentaan Normaalijakaumasta johdettuja jakaumia. TKK (c) Ilkka Mellin (2005) 1 Johdatus todennäköisyyslaskentaan Normaalijakaumasta johdettuja jakaumia TKK (c) Ilkka Mellin (2005) 1 Normaalijakaumasta johdettuja jakaumia Johdanto χ 2 -jakauma F-jakauma t-jakauma TKK (c) Ilkka Mellin

Lisätiedot

LUKU 3. Ulkoinen derivaatta. dx i 1. dx i 2. ω i1,i 2,...,i k

LUKU 3. Ulkoinen derivaatta. dx i 1. dx i 2. ω i1,i 2,...,i k LUKU 3 Ulkoinen derivaatta Olkoot A R n alue k n ja ω jatkuvasti derivoituva k-muoto alueessa A Muoto ω voidaan esittää summana ω = ω i1 i 2 i k dx i 1 dx i 2 1 i 1

Lisätiedot

Mallipohjainen klusterointi

Mallipohjainen klusterointi Mallipohjainen klusterointi Marko Salmenkivi Johdatus koneoppimiseen, syksy 2008 Luentorunko perjantaille 5.12.2008 Johdattelua mallipohjaiseen klusterointiin, erityisesti gaussisiin sekoitemalleihin Uskottavuusfunktio

Lisätiedot

MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi 3A Satunnaismuuttujien summa ja keskihajonta Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto

Lisätiedot

Vektorianalyysi I MAT Luennoitsija: Ritva Hurri-Syrjänen Luentoajat: ti: 14:15-16:00, to: 12:15-14:00 Helsingin yliopisto 21.

Vektorianalyysi I MAT Luennoitsija: Ritva Hurri-Syrjänen Luentoajat: ti: 14:15-16:00, to: 12:15-14:00 Helsingin yliopisto 21. Vektorianalyysi I MAT21003 Luennoitsija: Ritva Hurri-Syrjänen Luentoajat: ti: 14:15-16:00, to: 12:15-14:00 Helsingin yliopisto 21. syyskuuta 2017 1 Sisältö 1 Euklidinen avaruus 3 1.1 Euklidinen avaruus

Lisätiedot

Insinöörimatematiikka D

Insinöörimatematiikka D Insinöörimatematiikka D M. Hirvensalo mikhirve@utu.fi V. Junnila viljun@utu.fi Matematiikan ja tilastotieteen laitos Turun yliopisto 2015 M. Hirvensalo mikhirve@utu.fi V. Junnila viljun@utu.fi Luentokalvot

Lisätiedot

Mat Sovellettu todennäköisyyslasku A. Moniulotteiset jakaumat. Avainsanat:

Mat Sovellettu todennäköisyyslasku A. Moniulotteiset jakaumat. Avainsanat: Mat-.9 Sovellettu todennäköisyyslasku A Mat-.9 Sovellettu todennäköisyyslasku A / Ratkaisut Aiheet: Avainsanat: Moniulotteiset jakaumat Diskreetti jakauma, Ehdollinen jakauma, Ehdollinen odotusarvo, Jatkuva

Lisätiedot

Tilastollinen testaus. Vilkkumaa / Kuusinen 1

Tilastollinen testaus. Vilkkumaa / Kuusinen 1 Tilastollinen testaus Vilkkumaa / Kuusinen 1 Motivointi Viime luennolla: havainnot generoineen jakauman muoto on usein tunnettu, mutta parametrit tulee estimoida Joskus parametreista on perusteltua esittää

Lisätiedot

peitteestä voidaan valita äärellinen osapeite). Äärellisen monen nollajoukon yhdiste on nollajoukko.

peitteestä voidaan valita äärellinen osapeite). Äärellisen monen nollajoukon yhdiste on nollajoukko. Esimerkki 4.3.9. a) Piste on nollajoukko. Suoran rajoitetut osajoukot ovat avaruuden R m, m 2, nollajoukkoja. Samoin suorakaiteiden reunat koostuvat suoran kompakteista osajoukoista. b) Joukko = Q m [0,

Lisätiedot

7. Tasaisen rajoituksen periaate

7. Tasaisen rajoituksen periaate 18 FUNKTIONAALIANALYYSIN PERUSKURSSI 7. Tasaisen rajoituksen periaate Täydellisyydestä puristetaan maksimaalinen hyöty seuraavan Bairen lauseen avulla. Bairen lause on keskeinen todistettaessa kahta funktionaalianalyysin

Lisätiedot

= X s + IE[X t X s ] = 0, s ja sitä, että ehdollinen odotusarvo on tavallinen odotusarvo silloin, kun satunnaismuuttuja

= X s + IE[X t X s ] = 0, s ja sitä, että ehdollinen odotusarvo on tavallinen odotusarvo silloin, kun satunnaismuuttuja 44 E. VALKEILA 6. Geometrinen Brownin liike 6.1. Brownin liike ja Iton kaava. Tavoitteena on mallintaa osakkeen tuottoa jatkuvassa ajassa. Jos (S t ) t T on osakkeen hintaprosessi, niin tuotolla tarkoitetaan

Lisätiedot

Luento 8: Epälineaarinen optimointi

Luento 8: Epälineaarinen optimointi Luento 8: Epälineaarinen optimointi Vektoriavaruus R n R n on kaikkien n-jonojen x := (x,..., x n ) joukko. Siis R n := Määritellään nollavektori 0 = (0,..., 0). Reaalisten m n-matriisien joukkoa merkitään

Lisätiedot

Parametrien estimointi sovellettuna Pandora-instrumentin mittauksiin

Parametrien estimointi sovellettuna Pandora-instrumentin mittauksiin TAMPEREEN YLIOPISTO Pro gradu -tutkielma Emmihenna Jääskeläinen Parametrien estimointi sovellettuna Pandora-instrumentin mittauksiin Matematiikan ja tilastotieteen laitos Matematiikka Toukokuu 2012 Tampereen

Lisätiedot

e int) dt = 1 ( 2π 1 ) (0 ein0 ein2π

e int) dt = 1 ( 2π 1 ) (0 ein0 ein2π Matematiikan ja tilastotieteen laitos Funktionaalianalyysin peruskurssi Kevät 9) Harjoitus 7 Ratkaisuja Jussi Martin). E Hilbert avaruus L [, π]) ja gt) := t, t [, π]. Määrää funktion g Fourier kertoimet

Lisätiedot

MS-A0204 Differentiaali- ja integraalilaskenta 2 (ELEC2) Luento 9: Muuttujanvaihto taso- ja avaruusintegraaleissa

MS-A0204 Differentiaali- ja integraalilaskenta 2 (ELEC2) Luento 9: Muuttujanvaihto taso- ja avaruusintegraaleissa MS-A24 Differentiaali- ja integraalilaskenta 2 (ELEC2) Luento 9: Muuttujanvaihto taso- ja avaruusintegraaleissa Antti Rasila Matematiikan ja systeemianalyysin laitos Aalto-yliopisto Kevät 216 Antti Rasila

Lisätiedot

Sisätuloavaruudet. 4. lokakuuta 2006

Sisätuloavaruudet. 4. lokakuuta 2006 Sisätuloavaruudet 4. lokakuuta 2006 Tässä esityksessä vektoriavaruudet V ja W ovat kompleksisia ja äärellisulotteisia. Käydään ensin lyhyesti läpi määritelmiä ja perustuloksia. Merkitään L(V, W ) :llä

Lisätiedot

Dynaamiset regressiomallit

Dynaamiset regressiomallit MS-C2128 Ennustaminen ja Aikasarja-analyysi, Heikki Seppälä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2015 Viikko 6: 1 Kalmanin suodatin Aiemmin käsitellyt

Lisätiedot

IV. TASAINEN SUPPENEMINEN. f(x) = lim. jokaista ε > 0 ja x A kohti n ε,x N s.e. n n

IV. TASAINEN SUPPENEMINEN. f(x) = lim. jokaista ε > 0 ja x A kohti n ε,x N s.e. n n IV. TASAINEN SUPPENEMINEN IV.. Funktiojonon tasainen suppeneminen Olkoon A R joukko ja f n : A R funktio, n =, 2, 3,..., jolloin jokaisella x A muodostuu lukujono f x, f 2 x,.... Jos tämä jono suppenee

Lisätiedot

Osa 2: Otokset, otosjakaumat ja estimointi

Osa 2: Otokset, otosjakaumat ja estimointi Ilkka Mellin Tilastolliset menetelmät Osa 2: Otokset, otosjakaumat ja estimointi Estimointi TKK (c) Ilkka Mellin (2007) 1 Estimointi >> Todennäköisyysjakaumien parametrit ja niiden estimointi Hyvän estimaattorin

Lisätiedot

pitkittäisaineistoissa

pitkittäisaineistoissa Puuttuvan tiedon käsittelystä p. 1/18 Puuttuvan tiedon käsittelystä pitkittäisaineistoissa Tapio Nummi tan@uta.fi Matematiikan, tilastotieteen ja filosofian laitos Tampereen yliopisto Puuttuvan tiedon

Lisätiedot

1. Normi ja sisätulo

1. Normi ja sisätulo Kurssimateriaalia K3/P3-kursille syksyllä 3 83 Heikki Apiola Sisältää otteita Timo Eirolan L3-kurssin lineaarialgebramonisteesta, jonka lähdekoodin Timo on ystävällisesti antanut käyttööni Normi ja sisätulo

Lisätiedot

MS-C1340 Lineaarialgebra ja

MS-C1340 Lineaarialgebra ja MS-C1340 Lineaarialgebra ja differentiaaliyhtälöt Matriisinormi, häiriöalttius Riikka Kangaslampi Kevät 2017 Matematiikan ja systeemianalyysin laitos Aalto-yliopisto Matriisinormi Matriisinormi Matriiseille

Lisätiedot

Sovellettu todennäköisyyslaskenta B

Sovellettu todennäköisyyslaskenta B Sovellettu todennäköisyyslaskenta B Antti Rasila 18. lokakuuta 2007 Antti Rasila () TodB 18. lokakuuta 2007 1 / 19 1 Tilastollinen aineisto 2 Tilastollinen malli Yksinkertainen satunnaisotos 3 Otostunnusluvut

Lisätiedot

Pienimmän neliösumman menetelmä

Pienimmän neliösumman menetelmä Pienimmän neliösumman menetelmä Keijo Ruotsalainen Division of Mathematics Funktion sovitus Datapisteet (x 1,...,x n ) Annettu data y i = f(x i )+η i, missä f(x) on tuntematon funktio ja η i mittaukseen

Lisätiedot

Estimointi. Vilkkumaa / Kuusinen 1

Estimointi. Vilkkumaa / Kuusinen 1 Estimointi Vilkkumaa / Kuusinen 1 Motivointi Tilastollisessa tutkimuksessa oletetaan jonkin jakauman generoineen tutkimuksen kohteena olevaa ilmiötä koskevat havainnot Tämän mallina käytettävän todennäköisyysjakauman

Lisätiedot

Kertausta: avaruuden R n vektoreiden pistetulo

Kertausta: avaruuden R n vektoreiden pistetulo Kertausta: avaruuden R n vektoreiden pistetulo Määritelmä Vektoreiden v R n ja w R n pistetulo on v w = v 1 w 1 + v 2 w 2 + + v n w n. Huom. Pistetulo v w on reaaliluku! LM2, Kesä 2012 227/310 Kertausta:

Lisätiedot

Väliestimointi (jatkoa) Heliövaara 1

Väliestimointi (jatkoa) Heliövaara 1 Väliestimointi (jatkoa) Heliövaara 1 Bernoulli-jakauman odotusarvon luottamusväli 1/2 Olkoon havainnot X 1,..., X n yksinkertainen satunnaisotos Bernoulli-jakaumasta parametrilla p. Eli X Bernoulli(p).

Lisätiedot

Gaussin lause eli divergenssilause 1

Gaussin lause eli divergenssilause 1 80 VEKTOIANALYYI Luento 1 8. Gaussin lause eli divergenssilause 1 A 16.4 Kurssin jäljellä olevassa osassa käymme läpi joukon fysiikan kannalta tärkeitä vektorikenttien integrointia koskevia tuloksia, nimittäin

Lisätiedot

805324A (805679S) Aikasarja-analyysi Harjoitus 3 (2016)

805324A (805679S) Aikasarja-analyysi Harjoitus 3 (2016) 805324A (805679S) Aikasarja-analyysi Harjoitus 3 (2016) Tavoitteet (teoria): Hallita multinormaalijakauman määritelmä. Ymmärtää likelihood-funktion ja todennäköisyystiheysfunktion ero. Oppia kirjoittamaan

Lisätiedot

F dr = F NdS. VEKTORIANALYYSI Luento Stokesin lause

F dr = F NdS. VEKTORIANALYYSI Luento Stokesin lause 91 VEKTORIANALYYI Luento 13 9. tokesin lause A 16.5 tokesin lause on kuin Gaussin lause, mutta yhtä dimensiota alempana: se liittää toisiinsa kentän derivaatasta pinnan yli otetun integraalin ja pinnan

Lisätiedot

MS-A0305 Differentiaali- ja integraalilaskenta 3 Luento 3: Vektorikentät

MS-A0305 Differentiaali- ja integraalilaskenta 3 Luento 3: Vektorikentät MS-A0305 Differentiaali- ja integraalilaskenta 3 Luento 3: Vektorikentät Antti Rasila Matematiikan ja systeemianalyysin laitos Aalto-yliopisto Syksy 2016 Antti Rasila (Aalto-yliopisto) MS-A0305 Syksy 2016

Lisätiedot

Epäyhtälöt ovat yksi matemaatikon voimakkaimmista

Epäyhtälöt ovat yksi matemaatikon voimakkaimmista 6 Epäyhtälöitä Epäyhtälöt ovat yksi matemaatikon voimakkaimmista työvälineistä. Yhtälö a = b kertoo sen, että kaksi ehkä näennäisesti erilaista asiaa ovat samoja. Epäyhtälö a b saattaa antaa keinon analysoida

Lisätiedot

LUKU 10. Yhdensuuntaissiirto

LUKU 10. Yhdensuuntaissiirto LUKU hdensuuntaissiirto Olkoot (M, N) suunnistettu pinta, p M ja v p R 3 p annettu vektori pisteessä p (vektorin v p ei tarvitse olla pinnan M tangenttivektori). Tällöin vektori (v p N(p)) N(p) on vektorin

Lisätiedot

Ristitulolle saadaan toinen muistisääntö determinantin avulla. Vektoreiden v ja w ristitulo saadaan laskemalla determinantti

Ristitulolle saadaan toinen muistisääntö determinantin avulla. Vektoreiden v ja w ristitulo saadaan laskemalla determinantti 14 Ristitulo Avaruuden R 3 vektoreille voidaan määritellä pistetulon lisäksi niin kutsuttu ristitulo. Pistetulosta poiketen ristitulon tulos ei ole reaaliluku vaan avaruuden R 3 vektori. Ristitulosta on

Lisätiedot

Epälineaaristen yhtälöiden ratkaisumenetelmät

Epälineaaristen yhtälöiden ratkaisumenetelmät Epälineaaristen yhtälöiden ratkaisumenetelmät Keijo Ruotsalainen Division of Mathematics Perusoletus Lause 3.1 Olkoon f : [a, b] R jatkuva funktio siten, että f(a)f(b) < 0. Tällöin funktiolla on ainakin

Lisätiedot

HY, MTL / Matemaattisten tieteiden kandiohjelma Todennäköisyyslaskenta IIb, syksy 2017 Harjoitus 1 Ratkaisuehdotuksia

HY, MTL / Matemaattisten tieteiden kandiohjelma Todennäköisyyslaskenta IIb, syksy 2017 Harjoitus 1 Ratkaisuehdotuksia HY, MTL / Matemaattisten tieteiden kandiohjelma Todennäköisyyslaskenta IIb, syksy 07 Harjoitus Ratkaisuehdotuksia Tehtäväsarja I Osa tämän viikon tehtävistä ovat varsin haastavia, joten ei todellakaan

Lisätiedot