Luento Otosavaruus, tapahtuma. Otosavaruus (sample space) on kaikkien mahdollisten alkeistapahtumien (sample) ω joukko.

Samankaltaiset tiedostot
Luento Otosavaruus, tapahtuma. Otosavaruus (sample space) on kaikkien mahdollisten alkeistapahtumien (sample) ω joukko.

Olkoot X ja Y riippumattomia satunnaismuuttujia, joiden odotusarvot, varianssit ja kovarianssi ovat

Todennäköisyysjakaumat 1/5 Sisältö ESITIEDOT: todennäköisyyslaskenta, määrätty integraali

4. Todennäköisyyslaskennan kertausta

STOKASTISET DIFFERENTIAALIYHTÄLÖT 7

Johdatus todennäköisyyslaskentaan Momenttiemäfunktio ja karakteristinen funktio. TKK (c) Ilkka Mellin (2005) 1

Ilkka Mellin Todennäköisyyslaskenta. Osa 2: Satunnaismuuttujat ja todennäköisyysjakaumat. Momenttiemäfunktio ja karakteristinen funktio

V. POTENSSISARJAT. V.1. Abelin lause ja potenssisarjan suppenemisväli. a k (x x 0 ) k M

Inversio-ongelmien laskennallinen peruskurssi Luento 7

Luento 2. S Signaalit ja järjestelmät 5 op TKK Tietoliikenne Laboratorio 1. Jean Baptiste Joseph Fourier ( )

MS-A0402 Diskreetin matematiikan perusteet Esimerkkejä ym., osa I

[ ] [ 2 [ ] [ ] ( ) [ ] Tehtävä 1. ( ) ( ) ( ) ( ) ( ) ( ) 2( ) = 1. E v k 1( ) R E[ v k v k ] E e k e k e k e k. e k e k e k e k.

Tehtävä 2 Todista luennoilla annettu kaava: jos lukujen n ja m alkulukuesitykset. ja m = k=1

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

Sattuman matematiikkaa III

Otosavaruus ja todennäköisyys Otosavaruus Ë on joukko, jonka alkiot ovat kokeen tulokset Tapahtuma on otosavaruuden osajoukko

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

M 2 M = sup E M 2 t. E X t = lim. niin martingaalikonvergenssilauseen oletukset ovat voimassa, eli löydämme satunnaismuuttujan M, joka toteuttaa ehdon

Vakuutusmatematiikan sovellukset klo 9-15

TODENNÄKÖISYYSLASKUN KERTAUS Peruskäsitteitä

Satunnaismuuttujien muunnokset ja niiden jakaumat

Todennäköisyyden ominaisuuksia

3. Markovin prosessit ja vahva Markovin ominaisuus

MAT Todennäköisyyslaskenta Tentti / Kimmo Vattulainen

P (X B) = f X (x)dx. xf X (x)dx. g(x)f X (x)dx.

Todennäköisyyslaskun kertaus. Heliövaara 1

Johdatus todennäköisyyslaskentaan Satunnaismuuttujien muunnokset ja niiden jakaumat. TKK (c) Ilkka Mellin (2004) 1

Todennäköisyyslaskennan ja tilastotieteen peruskurssi Esimerkkikokoelma 3

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

MS-A0402 Diskreetin matematiikan perusteet

JATKUVAT JAKAUMAT Laplace-muunnos (Laplace-Stieltjes-muunnos)

Tilastomatematiikka Kevät 2008

4.0.2 Kuinka hyvä ennuste on?

Moniulotteiset satunnaismuuttujat ja jakaumat

funktiojono. Funktiosarja f k a k (x x 0 ) k

JOHDATUS LUKUTEORIAAN (syksy 2017) HARJOITUS 1, MALLIRATKAISUT

Todennäköisyyslaskenta IIa, syys lokakuu 2019 / Hytönen 1. laskuharjoitus, ratkaisuehdotukset

Ilkka Mellin Todennäköisyyslaskenta Osa 3: Todennäköisyysjakaumia Moniulotteisia todennäköisyysjakaumia

Luento 11. Stationaariset prosessit

2 exp( 2u), kun u > 0 f U (u) = v = 3 + u 3v + uv = u. f V (v) dv = f U (u) du du f V (v) = f U (u) dv = f U (h(v)) h (v) = f U 1 v (1 v) 2

4.1. Olkoon X mielivaltainen positiivinen satunnaismuuttuja, jonka odotusarvo on

Insinöörimatematiikka D

Mat Sovellettu todennäköisyyslasku A. Moniulotteiset jakaumat. Avainsanat:

2 Taylor-polynomit ja -sarjat

III. SARJATEORIAN ALKEITA. III.1. Sarjan suppeneminen. x k = x 1 + x 2 + x ,

Poisson-prosessien ominaisuuksia ja esimerkkilaskuja

Todennäköisyyslaskun kertaus. Vilkkumaa / Kuusinen 1

HY, MTO / Matemaattisten tieteiden kandiohjelma Tilastollinen päättely II, kevät 2018 Harjoitus 6A Ratkaisuehdotuksia.

Johda jakauman momenttiemäfunktio ja sen avulla jakauman odotusarvo ja varianssi.

Sallitut apuvälineet: MAOL-taulukot, kirjoitusvälineet, laskin sekä itse laadittu, A4-kokoinen lunttilappu. f(x, y) = k x y, kun 0 < y < x < 1,

Moniulotteisia todennäköisyysjakaumia

Johdatus todennäköisyyslaskentaan Moniulotteiset satunnaismuuttujat ja todennäköisyysjakaumat. TKK (c) Ilkka Mellin (2005) 1

Lisää Diskreettejä jakaumia Lisää Jatkuvia jakaumia Normaalijakaumasta johdettuja jakaumia

3. Teoriaharjoitukset

5. laskuharjoituskierros, vko 8, ratkaisut

Ilkka Mellin Todennäköisyyslaskenta Osa 2: Satunnaismuuttujat ja todennäköisyysjakaumat Moniulotteiset satunnaismuuttujat ja jakaumat

Satunnaismuuttujat Satunnaismuuttuja kuvaa kokeen tuloksen reaaliakselille Satunnaismuuttuja on siis funktio X(s) joka saa reaalisia arvoja Koe s

3. laskuharjoituskierros, vko 6, ratkaisut

MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

MS-A0503 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

(b) Tarkista integroimalla, että kyseessä on todella tiheysfunktio.

Nämä ovat siis minimivaatimukset, enemmänkin saa ja suositellaan

Ilkka Mellin Todennäköisyyslaskenta Osa 3: Todennäköisyysjakaumia Jatkuvia jakaumia

Mat Sovellettu todennäköisyyslasku A

Luento 11. Stationaariset prosessit

1. YKSISUUNTAINEN VARIANSSIANALYYSI: AINEISTON ESITYSMUODOT

Johdatus todennäköisyyslaskentaan Moniulotteisia todennäköisyysjakaumia. TKK (c) Ilkka Mellin (2005) 1

30A02000 Tilastotieteen perusteet

Todennäköisyyslaskenta IIa, syys lokakuu 2019 / Hytönen 3. laskuharjoitus, ratkaisuehdotukset

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

SYMBOLIVIRHETODENNÄKÖISYYDESTÄ BITTIVIRHETODENNÄKÖISYYTEEN

8.1 Ehdolliset jakaumat

031021P Tilastomatematiikka (5 op) viikko 2

8. Muita stokastisia malleja 8.1 Epölineaariset mallit ARCH ja GARCH

x 4 e 2x dx Γ(r) = x r 1 e x dx (1)

J1 (II.6.9) J2 (X.5.5) MATRIISILASKENTA(TFM) MALLIT AV 6

Johdatus lukuteoriaan Harjoitus 1 syksy 2008 Eemeli Blåsten. Ratkaisuehdotelma

Harjoitus 2: Matlab - Statistical Toolbox

4.3 Erillisten joukkojen yhdisteet

TAMPEREEN YLIOPISTO Pro gradu -tutkielma. Hannu Pajula. Stirlingin luvuista

IV. TASAINEN SUPPENEMINEN. f(x) = lim. jokaista ε > 0 ja x A kohti n ε,x N s.e. n n

8.1 Ehdolliset jakaumat

Joulukuun vaativammat valmennustehtävät ratkaisut

Olkoon R S otosavaruuksien R ja S karteesinen tulo: Satunnaismuuttujien X ja Y järjestetty pari (X, Y) määrittelee kaksiulotteisen satunnaismuuttujan:

Esimerkki 1 Ratkaise differentiaaliyhtälö

Satunnaismuuttujien summa ja keskiarvo

1. Kuusisivuista noppaa heitetään, kunnes saadaan silmäluku 5 tai 6. Olkoon X niiden heittojen lukumäärä, joilla tuli 1, 2, 3 tai 4.

4.2.2 Uskottavuusfunktio f Y (y 0 X = x)

Lause 4.2. Lineearinen pienimmän keskineliövirheen estimaattoi on lineaarinen projektio.

MS-A0503 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

Talousmatematiikan perusteet

6. Sovelluksia stokastiselle integroinnille

5. Stokastiset prosessit (1)

Vastaavasti voidaan määritellä korkeamman kertaluvun autoregressiiviset prosessit.

ABTEKNILLINEN KORKEAKOULU

Moniulotteiset satunnaismuuttujat ja todennäköisyysjakaumat. Moniulotteiset satunnaismuuttujat ja todennäköisyysjakaumat

Eksponentti- ja logaritmiyhtälö

Kurssilla esitetään lyhyt katsaus niihin todennäköisyyden ja satunnaisprosessien peruskäsitteisiin ja -ominaisuuksiin, joita tarvitaan digitaalisten

Suodatus ja näytteistys, kertaus

Sovellettu todennäköisyyslaskenta B

Transkriptio:

Luento 0 odennäöisyyslasentaa Otosavaruus, tapahtuma ja todennäöisyys Ehdollinen todennäöisyys, tilastollinen riippumattomuus, Bayesin teoreema, oonaistodennäöisyys Odotusarvo, varianssi, momentti Stoastiset prosessit Stationäärisyys ja ergodisuus 30..006 Otosavaruus, tapahtuma Otosavaruus (sample space) on aiien mahdollisten aleistapahtumien (sample) ω jouo. Esim.. Nopanheitto Ω= {,,3, 4,5, 6} Esim.. Lähetyspusurissa olevien paettien luumäärä Ω = { 0,,,... } = Esim. 3. Puhelinestoaia Ω = { x x> 0} apahtumat A, BC,,... (events) ovat otosavaruuden mitallisia osajouoja ABC,,,... Ω Mahdoton tapahtuma esitetään tyhjällä jouolla Varma tapahtuma esitetään oo otosavaruudella Ω Esim.. Nopan silmäluu on seitsemän A = Esim.. Pusurissa ei ole paetteja A = { 0} Esim. 3. Puhelu estää oreintaan 0 s { 0 0} A= x < x< 30..006 Ω

Otosavaruus, tapahtuma Yhdiste (union) A B Leiaus (intersection) A B c Komplementti (complement) A = { ω Ωω A} apahtumat ovat toisensa poissulevia (disjoint), jos A B = Kooelma { B i } tapahtumia muodostaa tapahtuman ositusen (partition), jos Bi B j = Bj = A j A B B B3 B4 Ω Ω A A B B c A Ω A B 30..006 3 odennäöisyys apahtuman todennäöisyys on sitä vastaavan jouon mitta Pr : I [ 0,], missä Ion aiien tapahtumien yhdiste. i) Pr Ω = { } = { A B} = { A} + { B} { A B} ii) Pr 0 iii) Pr Pr Pr Pr c { A } = { Ω A} = { Ω} { A} = { A} = { Bj} A= Bj Bi Bj = iv) Pr Pr \ Pr Pr Pr iv) Pr A Pr,, Ehdollinen todennäöisyys j { A B} Pr{ B} Pr Pr AB = Pr AB Pr B = Pr BA Pr A j 30..006 4

odennäöisyys Koonaistodennäöisyys Oloon { B i } otosavaruuden Ω ositus ällöin { Bi A} on tapahtuman A ositus: A = A Bj ja j Pr A = Pr A B Ω j j Ehdollisen todennäöisyyden lauseeesta saadaan Pr{ A Bj} Pr{ ABj} = Pr B { j} B B Pr A Bj = Pr A Bj Pr Bj B3 B4 Koonaistodennäöisyys voidaan siis irjoittaa muotoon Pr{ A} = Pr{ ABj} Pr{ Bj} j 30..006 5 A Bayesin aava Oloon { B i } otosavaruuden Ω ositus; tällöin Pr{ A Bi} Pr{ ABi} = Pr{ Bi} Pr{ A B} Pr Pr i ABi { Bi} Pr{ Bi A} = Pr{ Bi A} = Pr{ A} Pr A Bj Pr Bj j Pr{ A} Pr{ A Bj} Pr{ Bj} = j a priori todennäöisyys a posteriori todennäöisyys Pr Pr { A Bi } { Bi A} 30..006 6 3

ilastollinen riippumattomuus Määritelmä: A ja B ovat riippumattomia (independent), jos Pr A B = Pr A Pr B Oloon A ja Bbe riippumattomia tapahtumia, tällöin Pr{ A B} Pr{ A} Pr{ B} Pr{ AB} = = = Pr{ A} Pr{ B} Pr{ B} Pr{ A B} Pr{ A} Pr{ B} Pr{ BA} = = = Pr{ B} Pr{ A} Pr{ A} 30..006 7 Esimeri. Binäärinen siirtoanava Valitaan lähetettävä bitti satunnaisesti Pr{ lähetettävä bitti on } = Pr{ lähetettävä bitti on 0} = q Bittivirhetodennäöisyys Pr{ bittivirhe} = p 0 -p p 0 p -p Oiein ja virheellisesti lähetettyjen bittien todennäöisyydet Pr vastaanotetaan lähetty 0 = Pr bittivirhe = p Pr vastaanotetaan lähetty = Pr bittivirhe = p Kuina hyvin voimme luottaa vastaanottimeen? Pr{ lähetetty vastaanotettu } =? 30..006 8 4

Esimeri. Binäärinen siirtoanava Sovelletaan Bayesin aavaa Pr{ vastaanotettu lähetetty } Pr{ lähetetty } = Pr{ vastaanotettu lähetetty } Pr{ lähetetty } + Pr{ vastaanotettu lähetetty 0} Pr{ lähetetty 0} Pr lähetetty vastaanotettu ( ) p q = p q+ p( q) Jos molemmat bitit yhtätodennäöisiä Pr lähetettävä bitti on = Pr lähetettävä bitti on 0 = q = 0.5 Pr lähetetty vastaanotettu = Pr vastaanotettu lähetetty = p Jos bitti 0 on asiertaa niin todennäöinen uin Pr lähetettävä bitti on = q = / 3 Pr{ lähetetty vastaanotettu } = p + p 30..006 9 Satunaismuttujat Disreetti satunnaismuuttuja X voi saada vain arvoja jota uuluvat numeroituvaan Esim. X { 0,,,..., } Jatuva satunnaismuuttuja X voi saada saada arvoja ei numeroituvasta jouosta. PX Esim. ( x) X x 0< x< Kertymäfuntio PX ( x) = Pr{ X x} iheysfuntio (jaauma) 0 d p( x) = PX ( x) p( x) dx odennäöisyys x Pr( x X x ) = p( x) dx 0 0 30..006 x 0 0 5

Pistejaauma Pistejaauma on tapa esittää disreetti jaauma δ p( x) = Pr X = x x x X P x px = δ ( x) + δ ( x ) 0 0 Esim. Nopan heiton pistejaauma 6 6 p( x) = Pr X = x x = x 6 δ δ = = 30..006 unnusluuja Odotusarvo (expected value) Jatuvalle jaaumalle μ X = E { X} = xp( x) dx Pistejaaumalle (disreeteille satunnaisluvuille) X Varianssi (variance) Jatuvalle jaaumalle Pistejaaumalle { X} xpr{ X x} μ = E = = x Ω σ X = var X = E X E X = x E X p( x) dx σ X = var = E = Pr = 30..006 x Ω X X E X X E X X x 6

unnusluuja Kesihajonta (standard deviation) σ = Kovarianssi (covariance) Korrelaatioerroin (correlation coeffisient) ρ Momentti (moment) m xy X X = = var{ X} cov( XY, ) = E{ ( X E{ X} )( Y EY )} {( X { X} )( Y { Y} )} ( X { X} ) ( Y Y ) E E E { } { } E E E E E{ X } 30..006 3 Bernolli-jaauma Kuvaa ysittäistä satunnaisoetta, jona tulosena on onnistumenen todennäöisyydellä p tai epäonnistuminen todennäöisyydellä -p. Pistetodennäöisyydet Pr{ X = } = p, Pr{ X = 0} = p Odotusarvo E X = Pr X = + 0Pr X = 0 = p { X} = ( X { X} ) var E E { X } ( { X} ) p( p) = E E = 30..006 4 7

Binomijaauma Onnistumisien luumäärä n:ssä perättäisessä toisistaan riippumattomissa oeessa. X 0,,,..., n Pistetodennäöisyydet n Pr{ X = } = p ( p) Kertymäfuntio n n Pr X = p p = 0 Odotusarvo n E X = Pr X = = np = 0 Varianssi p var{ X} = p n n n n! Binomiteijä = ( n )!! (binomial coefficient) n! = i i... in Kertoma (factorial) 30..006 5 Poisson-jaauma arastellaan Binomijaaumaa un n asvaa rajatta Oloon 0.9 a=0.5 a a= p =, 0< a< n 0.8 n ällöin n! a a 0.4 Pr{ X = } = l ( n )!! n n n ( n + )( n + )... n a a a a a, e = n n! n n! Kosa ( n )( n ) n n n a a e n 30..006 6 n + +... +... +... = n n n Cumulative PDF 0.7 0.6 0.5 0.3 0 3 4 5 6 7 8 9 0 8

Poisson jaauma Oletusarvo E a X = X = = e! Pr = 0 =! (! ) = i = = 0!. momentti a a a a a a E X = e = e = ae +!!! a a a a a a a = ae = ae = ae = a Varianssi ae e a a E{ ( { }) } E E{ } e a e x x = = 0! = 0 = = a a a a a a = ae ( + ) = ae e + = a a + = 0! = 0! = 0! X E X = X X = a a+ a = a Maclaurin sarja 30..006 7 Poisson jaauma Esimeri. Uusia puheluita saapuu puhelinvaihteeseen Poisson jaautuneesti intensiteetillä λ puhelua minuutissa. Rataise ahden perättäisen saapuvan puhelun aiaeron jaauma. Ajassa t saapuu puhelua todennäöisyydellä ( λt) λt Pr { X = t ; } = e! Saapumisaiojen ero on pienempi uin t, jos ajassa t saapuu vähintään ysi pyhelu Pr{ t} = Pr{ X = 0; t} = e λt Jaauma saadaan derivoimalla: d t pt () = Pr{ t} =λe λ dt 30..006 8 9

Esponenttijaauma Jaauma p x = x λe λ Kertymäfuntio x 0 0 x < 0 λx Pr X x = e, x 0 p(x).8.6.4. 0.8 0.6 0.4 0. λ= λ= λ=/ 0 0 3 4 5 6 7 8 9 0 x Muistittomuus Pr, Pr > + > = ( X x y X x) { > + } { > } λ( x+ y) { X > x+ y X > x} Pr{ X > x} Pr X x y e λ y = = = e = Pr X > y λx Pr X x e 30..006 9 Jaauma asajaauma a x b px = b a, 0 muutoin a< b Odotusarvo b x b a ( b a)( b+ a) E{ X} = dx = = = ( b + a) b a b a b a a b 3 3 x b a ( b a)( b + ab+ a ) E{ X } = dx = = = b a 3 b a 3 b a 3 b + ab + a a ( b a) 4 3 var{ X} = ( b a) ( b + ab+ a ) ( b + ab+ b ) = 30..006 0 0

Kvantisointivirhe arastellaan signaalin A/D-muunnosta äyttäen tasavälistä vantisointia Kun vantisointitasojen luumäärä on riittävän suuri, voidaan atsoa että signaalin on Δx suuruisella välillä tasan jaautunut riippumatta siitä, miä on oo signaalin todennäöisyysjaauma. Kvantisointivirhe y ε=y-x on tasajaautunut välille (0,Δx) E{ε}= Δx/ var{ε}= Δx / x Δ x 30..006 erminen ohina metalli johtimissa Johtuu varautuneiden partielien (eletronien) satunnaisesta liieestä johtavassa aineessa. Oloon lämpötila Kelviniä ja johtimen resistanssi R Ohmia, tällöin eletronien liie saa aiaan Normaalijaautuneen jännitteen jona u esiarvo on 0V ja varianssi on lämpötila π E u = R.9 0 R Bolzmannin vaio 3h h Planin vaio neliövolttia. 30..006

Normaalijaauma N( μ, σ ) Jaauma p( x) = e πσ ( x μ ) σ Odotusarvo E{ X} = μ Varianssi var{ X} = σ Kertymäfuntio x ( x μ ) σ Pr{ X x} = e dx πσ p(x) 0.4 0.35 0.3 0.5 0. 0.5 0. 0.05 σ = σ = σ = 4 0-0 -8-6 -4-0 4 6 8 0 x 30..006 3 Satunnaisluujen summa arastellaan ahden satunnaisluvun summaa Y = X + X joiden ertymäfuntiot ja todennäöisyystiheydet ovat Pr { X x} = Px ( x) Pr { X x} = Px ( x) d d P x( x ) = p x( x ) P x( x ) = p x( x ) dx dx Rataistaan ensin ehdollinen todennäöisyys Pr Y y X = x = Pr X y x = F( y x ) Koonaistodennäöisyys saadaan integroimalla :n jaauman yli { Y y} = Px y x px x dx Pr iheysfuntio saadaan tästä derivoimalla d Py( y) = Pr { Y y} = px ( y x) px( x) dx dy 30..006 4 X Konvoluutio integraali

Keseinen raja-arvo lause (Central limit theorem) Oloon X,X,,X N jouo riippumattomia satunnaissuureita. Satunnaissuure X i :n todennäöisyystiheys p i (x) voi olla mielivaltainen unhan sen odotusarvo μ i ja varianssi σ i ovat rajoitettuja. Summa N X i μ i Z N = i= σ i lähestyy N(0,) jaaumaa un N. limn Pr Z N < x =Φ( x) x t Φ ( x) = e dt π 30..006 5 Keseinen raja-arvo lause arastellaan N tasajaautuneen U(0,) muuttujan summan todennäöisyystiheyttä 0.9 0.8 0.7 0.6 N= N= N=3 0.5 0.4 N=8 0.3 0. 0. 0 0 3 4 5 6 7 8 30..006 6 3

Normalisoitu Normaalijaauma auluoista löytyy y N(0,) t Φ ( y) = e dt π Yleisestä tapausesta päästään tähän muuttuhjan vaihdolla x μ y = σ Usein tarvitaan häntätodennäöisyyttä (tail probability) y Q( y) = Pr{ Y > y} = Pr{ Y y} = e dy π y 30..006 7 Normalisoitu Normaalijaauma 0 0 y Q( x) = e dy π x 0-0 - 0-3 Q(x) 0-4 0-5 0-6 0-7 0 0.5.5.5 3 3.5 4 4.5 5 30..006 x 8 4

Komplesinen normaalijaauma arasellaan satunnaissuuretta i z = x+ iy = re φ xy, ~ N( 0, σ ) * Satunnaissuure u = zz = x + y on exponenttijaautunut pu exp, 0 σ σ u = u Satunnaissuure r = z = x + y on Rayleigh-jaautunut r pr () = exp r, 0 r σ σ Satunnaissuure φ on tasajaautunut p( φ) =, 0 φ π π y r θ x 30..006 9 Log-normaalijaauma Oloon X normaalijaautunut satunnaismuuttuja, tällöin X Y = e α, α > 0 on log-normaalijaautunut. Eli, Y:n logaritmi on normaali jaautunut. α X Pr{ e < y} = Pr X < ln y = PX ln y α α 0.7 py( y) = px ln y, y > 0 0.6 α y α 0.5 0.4 p(x) 0.3 0. 0. 0 0 3 4 5 6 7 8 9 0 x 30..006 30 5

Jaauma a ab px =, b> 0, x> b a x + a muoto parametri (shape parameter) b saalaus parametri (scale parameter) Kertymä b Pr{ X < x} = x, x b Odotusarvo ab a > E{ X} = a a Varianssi ab a > var{ X} = ( a ) ( a ) a Pareto-jaauma a 0 3 4 5 6 7 8 9 0 30..006 3 3.5.5 0.5 b= b=5 Pareto-jaauma on ns. pasuhäntäinen (heavy tailed) jaauma. a= a= a=3 Yhteisjaauma Oloon X ja X satunnaismuuttujia. odennäöisyyttä tapahtumalle X < x meritään Pr { X < x, X < x} X < x Kertymäfuntio (, ) = Pr { <, < } P x x X x X x Yhteisjaauma p x, x = P x, x x x odennäöisyys x x Pr x < X < x, x < X < x = p( x, x ) dx dx 0 0 x0 x0 Yleistäminen N:lle muuttujalle on triviaalia. 30..006 3 6

Ehdollinen todennäöisyys Ehdollinen todennäöisyys Pr { x0 < X < x, x0 < X < x} Pr{ x0 < X < x x0 < X < x} = Pr{ x < X < x } = x x x0 x0 x x0 (, ) p x x dxdx p x dx Ehdollinen jaauma px ( x) = Pr X < x X < x = x x x (, ) 0 p x x dx p x dx 30..006 33 Yhteisjaauma Esimeri: -dimensioinen Gaussinen jaauma p( x, x ) = exp + ( ρ ) ( x η) ρ( x η)( x η) ( x η) σ σ σ σ πσσ ρ x η (, ) p x x = c { x } = η { x } = η {( x ) } {( x ) } E, E E η = σ, E η = σ {} E x η x η = ρ σ σ { = x} E x x η x Jos ρ = 0, niin satunnaismuuttujat ovat riippumattomia. Jos ρ =, niin x = ax + b, a, b 30..006 34 7

Stoastiset prosessit Stoastinen prosessi on jouo satunnaismuuttujia { Xt (, ω), t, ω Ω}, jota indesoi reaaliarvoinen parametri t (yleensä aia) Indesijouoa t utsutaan prosessin parametriavaruudesi. Joainen ysittäinen satunnaismuuttuja on uvaus otosavaruudesta reaali- (tai omplesi-) tasoon. Aleistapausta ω vastaavaa parametrisoitua jouoa utsutaan satunnaisluvun X() t realisaatiosi/trajetorisi/polusi. Usein äytetään laisaa notatiota ja samaistetaan stoastinen prosessi sen realisaatioon. 30..006 35 Stoastiset prosessit ila-avaruus (state-space) on X() t :n mahdollisten luujen jouo. (vrt. satunnaisluvun otosavaruus) ila-avaruus on disreetti, jos tilojen luumäärä on rajallinen tai numeroituva Disreettitilainen/Disreettiaiainen prosessi/sevenssi/etju(chain) { X( t )}, t { t0, t, t,... } ila-avaruus on jatuva, jos aiaindesi uuluu einumeroituvaan jatuvaan jouoon Jatuvatilainen/Jatuva-aiainen prosessi X(), t t (0, ] 30..006 36 8

Stoastiset prosessit ilastolliset ominaisuudet ovat ajan funtioita Kertymäfuntio P xt ; = Pr X( t) x X iheysfuntio d px x; t = PX x; t dx 30..006 37 Odotusarvo Autoorrelaatio Ristiorrelaatio Stoastiset prosessit η x () t = E X() t = xp( x,) t dx * φ xx ( t, t ) = E X( t ) X ( t ) = x x p x, x, t, t dxdx * φ xy ( t, t ) = E X( t ) Y ( t ) = xyp x, y; t, t dxdy Autoovarianssi * Cxx( t, t) = E{ ( X( t) E{ X( t) })( X( t) E{ X( t) }) } = φxx ( t, t) ηx ( t) ηx ( t) Ristiovarianssi * Cxy ( t, t) = E{ ( X( t) E{ X( t) })( Y( t) E{ Y( t) }) } = φxy ( t, t) ηx ( t) ηy ( t) 30..006 38 9

Stationaariset prosessit Kasi stoastista eivät orreloi, jos * * φ ( t, t ) = E X( t ) Y ( t ) = E X( t ) E Y ( t ) = η ( t) η ( t) xy x y Cov ( t, t xy ) = 0 Kasi stoasista prosessia ovat ortogonaalisia, jos φ xy ( t, t) = 0 Jos stoastisten prosessien välillä on lineaarinen riippuvuussuhde yt () = axt () + b φ ( t, t ) = aφ ( t, t ) + bη ( t ) xy xx x ρ Cov ( t, t ) xy = = φxx ( t, t) φyy ( t, t) Korrelaatioerroin 30..006 39 Poisson prosessi arastellaan saapumis prosessia, jossa asiaaita saapuu intensiteetillä λ siten, että aiavälissä (0,t) saapuu asiaasta todennäöisyydellä ( λt) λt Pr { Xt = } = e! Saapuneiden asiaaiden oonaismäärä Xt () on stoastinen prosessi X (0) = 0 x() t. ja. momentit ( λt) λt ηx() t = E{ X() t } = e = λt = 0 ( λt)! λt λ = 0! { } = λ ( ) E X t X t t t λ E X () t = e = t + t a+ η x () t 30..006 40 0

Poisson prosessi Autoorrelaatio φ ( ) = E ( X( t) X(0) ) + E{ X( t) X(0) } E{ X( t) X( t) } xx ( t, t) = E Xt ( ) Xt ( ) = E Xt ( ) X(0) Xt ( ) X(0) + Xt ( ) Xt ( ), t t = λ t + λ t + λ t λ t t = λ t + λ t t Muuttuja Xt ( ) Xt ( ) on riippumaton Xt ( ) Xt ( 0) :sta. t 0 Xt Xt 0 t Xt Xt t 30..006 4 N-dimensioiset stoastiset prosessit Yhteisjaauma ja ertymäfuntio p xt ; = p x, x,..., x ; t, t,..., t ( n n) ( xt ; ) = Pr {,,..., } P X t x X t x X t x X n n..., x [... ] X= X t X t X tn = x x x t = [ t t... t ] Jos X t :t riippumattomia, niin n n ( xt ; ) = (, ) X( xt ; ) = Pr{ } p p x t P X t x = = Jos satunnaissevenssi on stationaarinen P ( x;t + τ ) = P ( x;t) X X n n 30..006 4

Stationaariset prosessit Stationaarisuus (wide sense stationarity): ilastolliset ominaisuudet ajasta riippumattomia. mx = E{ x() t } = xp( x) dx * φ ( t, t ) = φ ( τ) = E x( t) x ( t τ) = x x p x, x ; τ dxdx, t t = τ xx xx Ergodisuus: ilastolliset ominaisuudet voidaan määrttää ysittäisestä realisaatiosta. => Aiaesiarvo vastaa oletusarvoa. lim x( tdt ) = E{ xt } = mx Riippumattomuus (independency): * var { X( t) }, t = t E {( X( t) E { X( t) })( X( t) E { X( t) }) } = 0, t t Stoastisen prosessin tiheysfuntio saadaan eri ajan hetille määriteltyjen todennäöisyystiheysien tulona. 30..006 43 Valoinen ohina arastellaan stationaarista normaalijaautunutta prosessia. ällöin x () t p( x() t ) = e σ πσ φ x ( t) + x ( t) * σ xx ( t, t) = E{ x( t) x ( t) } = x( t) x( t) e dx( t ) dx( t), τ = t t πσ x ( t) + x ( t+ τ ) * σ φxx ( τ) E{ x( t) x ( t τ) } x( t) x( t τ) e dx( t ) dx( t τ) πσ = = + = + + 0 τ 0 = σ τ = 0 N(0, σ ) 30..006 44 σ δ τ τ

Valoinen ohina Johtuu varautuneiden partielien (eletronien) satunnaisesta liieestä johtavassa aineessa. Oloon lämpötila Kelviniä ja johtimen resistanssi R Ohmia, tällöin eletronien liie saa aiaan Normaalijaautuneen jännitteen jona u esiarvo on 0V ja varianssi on lämpötila π E u = R.9 0 R Bolzmannin vaio 3h h Planin vaio neliövolttia. 30..006 45 Stoastiset prosessit Esimeri: Valoisen ohinan aiaesiarvo t xt () = ztdt () t t E { xt } = E { zt } dt 0 = t t t+ τ φxx( τ) = E { x( txt ) ( + τ) } = E { zt zt } dtdt t t + τ t t+ τ = ( t t) dtdt σδ t t + τ ( τ ) σ σ τ < = dt = t { t, t} { t + τ, t+ τ} 0 muutoin φ xx τ 30..006 46 σ t τ τ t + τ t + τ t 3

Sylostationäärinen prosessi Prosessi on sylostationäärinen jos sen autoorrelaatiofuntio on periodinen φ ( t+ τ +, t+ ) = φ ( t+ τ, t) xx jasonaia Kesimääräinen autoorrelaatio φxx( τ) = φxx ( t+ τ, t) dt xx 30..006 47 Stoastiset prosessit Esimeri: arastellaan binäärisevenssiä { bn, n =,,..., }, jossa arvot 0 ja ovat yhtä todennäöisiä ja niiden arvot ovat toisistaan riippumattomia. Pr{ bn = } = Pr{ bn = 0} = 0.5 Määritellään uvaus bitistä "jännitetasosi" In = bn E{ In} = Pr i { bn = 0} + Pr i { bn = } = 0 = 0 φ II = E{ InIn+ } = 0 0 30..006 48 4

Sylostationäärinen prosessi Esimeri. Jono satunnaisia toisistaan rippumattomia bittejä Pr{ I = } = Pr{ I = } = 0 l E{ IIl} = = l x() t = I g( t ) x() t = gt () = 0 0 t muutoin 30..006 49 t τ ( + ) t φxx ( tt, + τ) = E{ xtxt ( + τ) } =, t ( + ) 0 muutoin φxx ( tt, + τ ) t t + τ t = t = + t = + τ Sylostationäärinen prosessi Periodiselle signaalille pätee φ ( τ ) = φ ( t+ τ, t) dt = φ ( t+ τ, t) dt xx xx xx 0 φxx ( tt, + τ ) t = 0 t = t = φxx ( tt, + τ ) τ τ 30..006 50 5

Sylostationäärinen prosessi Systemaattinen tapa x() t = I g( t ) = φxx (, tt+ τ) = E{ xtxt () ( + τ) } = E IIgt l ( gt ) ( l) = l= = E I I g( t ) g( t+ τ l) = l= l = E I I g( t ) g( t+ τ ( + m) ) = m= + m = φ ( mgt ) ( gt ) ( + τ ( + m ) ) = m= II 30..006 5 Sylostationäärinen prosessi Määritellään pulssin autoorrelaatio * gg = g( tg ) ( t+ ) dt Kesimääräinen autoorrelaatio φxx ( τ) = φxx ( t+ τ, t) dt = = φii ( m) g( t) g( t+ τ m) dt m= = = φ ( m) φ ( τ m) m= II φ τ τ gg Konvoluutio 30..006 5 6