Johdatus todennäköisyyslaskentaan Satunnaismuuttujien muunnokset ja niiden jakaumat. TKK (c) Ilkka Mellin (2004) 1

Johdatus todennäköisyyslaskentaan Satunnaismuuttujien muunnokset ja niiden jakaumat TKK (c) Ilkka Mellin (2004) 1

Satunnaismuuttujien muunnokset ja niiden jakaumat Satunnaismuuttujien muunnosten jakaumat Kaksiulotteisten satunnaismuuttujien muunnosten jakaumat Riippumattomien satunnaismuuttujien summan jakauma Riippumattomien satunnaismuuttujien osamäärän jakauma Satunnaismuuttujien minimin ja maksimin jakaumat TKK (c) Ilkka Mellin (2004) 2

Satunnaismuuttujien muunnokset ja niiden jakaumat: Mitä opimme? 1/3 Tässä luvussa tarkastellaan seuraavia ongelmia: (i) (ii) (iii) Jos satunnaismuuttujan jakauma tunnetaan, mitä voidaan sanoa sen muunnoksen jakaumasta? Jos satunnaismuuttujien jakaumat tunnetaan, mitä voidaan sanoa niiden summan jakaumasta? Jos satunnaismuuttujien jakaumat tunnetaan, mitä voidaan sanoa niiden minimin ja maksimin jakaumasta? Ei ole mahdollista löytää yleistä tulosta, joka antaa satunnaismuuttujan mielivaltaisen muunnoksen jakauman (ongelma (i)), mutta ongelma (i) voidaan ratkaista monissa erikoistilanteissa esittämällä lisäehtoja, jotka rajoittavat sallittujen muunnosten luokkaa. TKK (c) Ilkka Mellin (2004) 3

Satunnaismuuttujien muunnokset ja niiden jakaumat: Mitä opimme? 2/3 Ongelmalle (i) löytyy ratkaisu, jos rajoitutaan muunnoksiin, joilla on käänteismuunnos. Kahden riippumattoman satunnaismuuttujan summan ja osamäärän jakaumat saadaan erikoistapauksena ongelman (i) ratkaisusta kaksiulotteisten satunnaismuuttujien tapauksessa. Useamman satunnaismuuttujan summan jakauma (ongelma (ii)) voidaan löytää käyttämällä apuna momenttiemäfunktiota; lisätietoja momenttiemäfunktiosta: ks. lukua Momenttiemäfunktio ja karakteristinen funktio. Ongelma (iii) voidaan ratkaista käyttämällä pelkästään kertymä- ja tiheysfunktion määritelmiä. TKK (c) Ilkka Mellin (2004) 4

Satunnaismuuttujien muunnokset ja niiden jakaumat: Mitä opimme? 3/3 Sovelluksina esitettävälle teorialle tässä luvussa johdetaan mm. χ 2 -, F- ja t-jakaumien tiheysfunktioiden lausekkeet (jakaumien määrittely: ks. lukua Normaalijakaumasta johdettuja jakaumia). Lisäksi tarkastellaan mm. seuraavia esimerkkejä: satunnaismuuttujan lineaarimuunnoksen jakauma erikoistapauksenaan normaalijakautuneen satunnaismuuttujan lineaarimuunnoksen jakauma (ks. lukua Jatkuvia jakaumia) Bernoulli- ja binomijakautuneiden satunnaismuuttujien summan jakauma (ks. lukua Diskreettejä jakaumia) Poisson-jakautuneiden satunnaismuuttujien summan jakauma (ks. lukua Diskreettejä jakaumia) normaalijakautuneiden satunnaismuuttujien summan jakauma (ks. lukua Jatkuvia jakaumia) TKK (c) Ilkka Mellin (2004) 5

Satunnaismuuttujien muunnokset ja niiden jakaumat: Esitiedot Esitiedot: ks. seuraavia lukuja: Satunnaismuuttujat ja todennäköisyysjakaumat Jakaumien tunnusluvut Diskreettejä jakaumia Jatkuvia jakaumia Normaalijakaumasta johdettuja jakaumia Moniulotteiset satunnaismuuttujat ja todennäköisyysjakaumat Momenttiemäfunktio ja karakteristinen funktio TKK (c) Ilkka Mellin (2004) 6

Satunnaismuuttujien muunnokset ja niiden jakaumat: Lisätiedot Esitettyä teoriaa sovelletaan mm. satunnaismuuttujien lineaarimuunnoksien ja riippumattomien satunnaismuuttujien summien jakaumia koskevissa tarkasteluissa seuraavissa luvuissa: Diskreettejä jakaumia Jatkuvia jakaumia Normaalijakaumasta johdettuja jakaumia TKK (c) Ilkka Mellin (2004) 7

Satunnaismuuttujien muunnokset ja niiden jakaumat >> Satunnaismuuttujien muunnosten jakaumat Kaksiulotteisten satunnaismuuttujien muunnosten jakaumat Riippumattomien satunnaismuuttujien summan jakauma Riippumattomien satunnaismuuttujien osamäärän jakauma Satunnaismuuttujien minimin ja maksimin jakaumat TKK (c) Ilkka Mellin (2004) 8

Satunnaismuuttujien muunnosten jakaumat Avainsanat Aidosti monotoninen muunnos Cauchyn jakauma Ei-monotoninen muunnos Kertymäfunktio χ 2 (1)-jakauma Käänteismuunnos Lineaarimuunnos Muunnos Satunnaismuuttuja Studentin t-jakauma Tiheysfunktio Todennäköisyysjakauma TKK (c) Ilkka Mellin (2004) 9

Satunnaismuuttujien muunnosten jakaumat Lineaarimuunnoksen jakauma Olkoon X jatkuva satunnaismuuttuja, jonka tiheysfunktio on f X (x) Muodostetaan satunnaismuuttujan X lineaarimuunnos Y = a + bx jossa a ja b 0 ovat vakioita. Satunnaismuuttujan Y tiheysfunktio on 1 y a fy( y) = fx b b TKK (c) Ilkka Mellin (2004) 10

Satunnaismuuttujien muunnosten jakaumat Lineaarimuunnoksen jakauma: Kommentti Satunnaismuuttujan X lineaarimuunnoksen Y = a + bx (a ja b 0 vakioita) jakauma on aina samaa tyyppiä kuin satunnaismuuttujan X jakauma. TKK (c) Ilkka Mellin (2004) 11

Satunnaismuuttujien muunnosten jakaumat Lineaarimuunnoksen jakauma: Todistus 1/4 Olkoon jatkuvan satunnaismuuttujan X tiheysfunktio f X (x). Olkoon Y = a + bx jossa a ja b 0 ovat vakioita. Muodostetaan ensin satunnaismuuttujan Y kertymäfunktio, josta satunnaismuuttujan Y tiheysfunktio saadaan derivoimalla. Jaetaan tarkastelu kahteen osaan: (i) b > 0 (ii) b < 0 TKK (c) Ilkka Mellin (2004) 12

Satunnaismuuttujien muunnosten jakaumat Lineaarimuunnoksen jakauma: Todistus 2/4 Jos b > 0, satunnaismuuttujan Y = a + bx kertymäfunktio on F ( y) = Pr( Y y) = Pr( a+ bx y) Y y a = Pr X b y a = FX b Derivoimalla satunnaismuuttujan Y tiheysfunktioksi saadaan d d y a fy( y) = FY( y) = FX dy dy b 1 y a = f X b b TKK (c) Ilkka Mellin (2004) 13

Satunnaismuuttujien muunnosten jakaumat Lineaarimuunnoksen jakauma: Todistus 3/4 Jos b < 0, satunnaismuuttujan Y = a + bx kertymäfunktio on F ( y) = Pr( Y y) = Pr( a+ bx y) Y y a = Pr X b y a = 1 Pr X b y a = 1 FX b Derivoimalla satunnaismuuttujan Y tiheysfunktioksi saadaan d d y a fy( y) = FY( y) = FX dy dy b 1 y a = f X b b TKK (c) Ilkka Mellin (2004) 14

Satunnaismuuttujien muunnosten jakaumat Lineaarimuunnoksen jakauma: Todistus 4/4 Kalvoilla 2/4 ja 3/4 johdetut kaavat satunnaismuuttujan Y tiheysfunktiolle f Y (y) voidaan yhdistää yhdeksi kaavaksi: Satunnaismuuttujan Y = a + bx tiheysfunktio on kaikille b 0: 1 y a fy( y) = fx b b TKK (c) Ilkka Mellin (2004) 15

Satunnaismuuttujien muunnosten jakaumat Välillä (0,1) jatkuvaa tasaista jakaumaa noudattavan satunnaismuuttujan lineaarimuunnoksen jakauma Oletetaan, että satunnaismuuttuja X noudattaa jatkuvaa tasaista jakaumaa (ks. lukua Jatkuvia jakaumia) välillä (0,1): X ~ Uniform(0,1) Satunnaismuuttujan X tiheysfunktio on fx ( x) = 1,0 x 1 Olkoon Y = a + bx (a ja b > 0 vakioita) Satunnaismuuttujan Y tiheysfunktioksi saadaan 1 fy ( y) =, a y a+ b b Siten Y noudattaa jatkuvaa tasaista jakaumaa välillä (a, a + b): Y ~ Uniform(a, a + b) TKK (c) Ilkka Mellin (2004) 16

Satunnaismuuttujien muunnosten jakaumat Standardoitua normaalijakaumaa noudattavan satunnaismuuttujan lineaarimuunnoksen jakauma Oletetaan, että satunnaismuuttuja X noudattaa standardoitua normaalijakaumaa (ks. lukua Jatkuvia jakaumia): X ~N(0, 1) Satunnaismuuttujan X tiheysfunktio on 1 1 fx ( x) = exp x 2π 2 Olkoon Y = a + bx (a ja b 0 vakioita) Satunnaismuuttujan Y tiheysfunktioksi saadaan 2 1 1 y a fy ( y) = exp b 2π 2 b Siten Y noudattaa normaalijakaumaa parametrein a ja b 2 : Y ~N(a, b 2 ) 2 TKK (c) Ilkka Mellin (2004) 17

Satunnaismuuttujien muunnosten jakaumat Normaalijakaumaa noudattavan satunnaismuuttujan lineaarimuunnoksen jakauma Oletetaan, että satunnaismuuttuja X noudattaa normaalijakaumaa parametrein µ ja σ 2 (ks. lukua Jatkuvia jakaumia): X ~N(µ, σ 2 ) Satunnaismuuttujan X tiheysfunktio on 2 1 1 x µ fx ( x) = exp σ 2π 2 σ Olkoon Y = a + bx (a ja b 0 vakioita) Satunnaismuuttujan Y tiheysfunktioksi saadaan 2 1 1 y a bµ fy ( y) = exp b σ 2π 2 bσ Siten Y noudattaa normaalijakaumaa parametrein a + bµ ja b 2 σ 2 : Y ~N(a + bµ, b 2 σ 2 ) TKK (c) Ilkka Mellin (2004) 18

Satunnaismuuttujien muunnosten jakaumat Monotonisten muunnosten jakaumat Olkoon X jatkuva satunnaismuuttuja, jonka tiheysfunktio on f X (x) Muodostetaan satunnaismuuttujan X muunnos Y = h(x) jossa funktio h on aidosti monotoninen ja jatkuvasti derivoituva. Satunnaismuuttujan Y tiheysfunktio on 1 1 dh ( y) fy( y) = fx( h ( y)) dy TKK (c) Ilkka Mellin (2004) 19

Satunnaismuuttujien muunnosten jakaumat Monotonisten muunnosten jakaumat: Todistus 1/4 Olkoon jatkuva satunnaismuuttujan X tiheysfunktio f X (x). Olkoon Y = h(x) jossa h on aidosti monotoninen ja jatkuvasti derivoituva funktio. Tällöin satunnaismuuttujan Y kertymäfunktio on F ( y) = Pr( Y y) = Pr( h( X) y) Jaetaan tarkastelu kahteen osaan: (i) (ii) Y Funktio h on aidosti vähenevä. Funktio h on aidosti kasvava. TKK (c) Ilkka Mellin (2004) 20

Satunnaismuuttujien muunnosten jakaumat Monotonisten muunnosten jakaumat: Todistus 2/4 Oletetaan ensin, että funktio h on aidosti vähenevä. Koska funktio h oletettiin aidosti väheneväksi, sillä on käänteisfunktio h 1, joka myös on aidosti vähenevä. Siten satunnaismuuttujan Y kertymäfunktio on F ( y) = Pr( Y y) = Pr( h( X) y) Y = 1 1 Pr( h ( h( X)) h ( y)) = 1 Pr( X h ( y)) = 1 1 Pr( X h ( y)) = 1 1 FX ( h ( y)) TKK (c) Ilkka Mellin (2004) 21

Satunnaismuuttujien muunnosten jakaumat Monotonisten muunnosten jakaumat: Todistus 3/4 Derivoimalla satunnaismuuttujan Y kertymäfunktion lauseke saadaan satunnaismuuttujan Y tiheysfunktioksi d d f y F y F h y dy dy 1 Y( ) = Y( ) = X( ( )) 1 1 dh ( y) = fx( h ( y)) dy Koska funktion h käänteisfunktio h 1 oletettiin aidosti väheneväksi, niin dh 1 ( y) < 0 dy Voimme siis kirjoittaa: f ( y) = f ( h ( y)) Y X 1 1 dh ( y) dy TKK (c) Ilkka Mellin (2004) 22

Satunnaismuuttujien muunnosten jakaumat Monotonisten muunnosten jakaumat: Todistus 4/4 Jos funktio h on aidosti kasvava, myös käänteisfunktio h 1 on aidosti kasvava, jolloin dh 1 ( y) dy > 0 Siten myös tässä tapauksessa pätee 1 1 dh ( y) fy( y) = fx( h ( y)) dy TKK (c) Ilkka Mellin (2004) 23

Satunnaismuuttujien muunnosten jakaumat Lineaarimuunnos monotonisena muunnoksena Olkoon X jatkuva satunnaismuuttuja, jonka tiheysfunktio on f X (x) Muodostetaan satunnaismuuttujan X lineaarimuunnos Y = a + bx jossa a ja b 0 ovat vakioita. Satunnaismuuttujan Y tiheysfunktio on 1 y a fy( y) = fx b b TKK (c) Ilkka Mellin (2004) 24

Satunnaismuuttujien muunnosten jakaumat Lineaarimuunnos monotonisena muunnoksena: Todistus Olkoon jatkuvan satunnaismuuttujan X tiheysfunktio f X (x). Olkoon Y = a + bx (a ja b 0 vakioita) Tällöin y = h( x) = a+ bx, b 0 joten = ( ) = 1 x h y dh( x) dx = b y a b 1 1 dh ( y) 1 y a fy( y) = fx( h ( y)) = fx dy b b TKK (c) Ilkka Mellin (2004) 25

Satunnaismuuttujien muunnosten jakaumat Cauchyn jakauma Oletetaan, että satunnaismuuttuja X noudattaa jatkuvaa tasaista jakaumaa (ks. lukua Jatkuvia jakaumia) välillä ( π/2, +π/2): X ~ Uniform( π/2, +π/2) Muodostetaan satunnaismuuttujan X muunnos Y = tan(x) Satunnaismuuttujan Y tiheysfunktio on fy 1 1 ( y) = π 1+ y 2 Satunnaismuuttujan Y jakaumaa kutsutaan Cauchyn jakaumaksi. TKK (c) Ilkka Mellin (2004) 26

Satunnaismuuttujien muunnosten jakaumat Cauchyn jakauma: Tiheysfunktion johto 1/2 Oletetaan, että satunnaismuuttuja X noudattaa jatkuvaa tasaista jakaumaa välillä ( π/2, +π/2), jolloin sen tiheysfunktio on f X (x) = 1/π, π/2 x +π/2 Olkoon Muunnos Y = h(x) = tan(x) y = h(x) = tan(x) on aidosti kasvava ja sen käänteismuunnoksen x = h 1 (y) = arctan(y) derivaatta on 1 dh y d y ( ) arctan( ) 1 = = dy dy 1 + y 2 TKK (c) Ilkka Mellin (2004) 27

Satunnaismuuttujien muunnosten jakaumat Cauchyn jakauma: Tiheysfunktion johto 2/2 Siten satunnaismuuttujan Y = tan(x) tiheysfunktioksi saadaan 1 1 dh ( y) 1 1 fy( y) = fx( h ( y)) = 2 dy π 1+ y Satunnaismuuttujan Y jakaumaa kutsutaan Cauchyn jakaumaksi. TKK (c) Ilkka Mellin (2004) 28

Satunnaismuuttujien muunnosten jakaumat Cauchyn jakauma ja Studentin t-jakauma Voidaan osoittaa, että Cauchyn jakauma on sama kuin Studentin t-jakauma yhdellä vapausasteella (ks. lukua Normaalijakaumasta johdettuja jakaumia) eli, jos ja niin X ~ Uniform( π/2, +π/2) Y = tan(x) Y ~ t(1) Huomautus: Cauchyn jakaumalla ei ole momentteja eli sillä ei ole edes odotusarvoa. TKK (c) Ilkka Mellin (2004) 29

Satunnaismuuttujien muunnosten jakaumat Ei-monotonisten muunnosten jakaumat Jos satunnaismuuttujaan sovelletaan ei-monotonista muunnosta, ei ole mahdollista löytää yleistä muunnoksen jakaumaa ja sen tiheysfunktiota koskevaa tulosta. Ei-monotonisten muunnosten tapauksessa joudutaan tarkastelu tekemään tapauskohtaisesti. Seuraavassa tarkastellaan esimerkkinä χ 2 (1)-jakauman (ks. lukua Normaalijakaumasta johdettuja jakaumia) tiheysfunktion johtoa. TKK (c) Ilkka Mellin (2004) 30

Satunnaismuuttujien muunnosten jakaumat χ 2 (1)-jakauma Oletetaan, että satunnaismuuttuja X noudattaa standardoitua normaalijakaumaa: X ~ N(0, 1) Määritellään satunnaismuuttuja Y = X 2 Satunnaismuuttuja Y noudattaa χ 2 -jakauman määritelmän mukaan χ 2 -jakaumaa yhdellä vapausasteella: Y ~ χ 2 (1) Satunnaismuuttujan Y tiheysfunktio on 1 y 1 2 2 fy ( y) = y e 2π TKK (c) Ilkka Mellin (2004) 31

Satunnaismuuttujien muunnosten jakaumat χ 2 (1)-jakauma: Tiheysfunktion johto 1/2 Oletetaan, että satunnaismuuttuja X noudattaa standardoitua normaalijakaumaa: Tällöin X ~N(0, 1) Y = X 2 ~ χ 2 (1) Olkoon Φ( ) standardoidun normaalijakauman N(0, 1) kertymäfunktio. Satunnaismuuttujan Y = X 2 kertymäfunktio on F y Y y X y 2 Y ( ) = Pr( ) = Pr( ) = Pr( X y) = Pr( y X + y) =Φ( y) Φ( y) = 2 Φ( y) 1 TKK (c) Ilkka Mellin (2004) 32

Satunnaismuuttujien muunnosten jakaumat χ 2 (1)-jakauma: Tiheysfunktion johto 2/2 Standardoidun normaalijakauman N(0, 1) tiheysfunktio on 1 2 d 1 x 2 Φ ( x) = Φ ( x) = e dx 2π jossa Φ( ) on standardoidun normaalijakauman N(0, 1) kertymäfunktio. Siten satunnaismuuttujan Y = X 2 ~ χ 2 (1) tiheysfunktioksi saadaan d d fy( y) = FY( y) = 2 Φ( y) 1 dy dy =Φ ( y) = 1 y 2π 1 y 1 y 2 2 e TKK (c) Ilkka Mellin (2004) 33

Satunnaismuuttujien muunnokset ja niiden jakaumat Satunnaismuuttujien muunnosten jakaumat >> Kaksiulotteisten satunnaismuuttujien muunnosten jakaumat Riippumattomien satunnaismuuttujien summan jakauma Riippumattomien satunnaismuuttujien osamäärän jakauma Satunnaismuuttujien minimin ja maksimin jakaumat TKK (c) Ilkka Mellin (2004) 34

Kaksiulotteisten satunnaismuuttujien muunnosten jakaumat Avainsanat Boxin ja Müllerin muunnos Jacobin determinantti Käänteismuunnos Muunnos Normaalijakauma Satunnaisluvut Satunnaismuuttuja Tasainen jakauma Tiheysfunktio Todennäköisyysjakauma TKK (c) Ilkka Mellin (2004) 35

Kaksiulotteisten satunnaismuuttujien muunnosten jakaumat Bijektiivisten muunnosten jakaumat 1/3 Olkoot X ja Yjatkuviasatunnaismuuttuja, joiden yhteisjakauman tiheysfunktio on f XY (x, y) Määritellään satunnaismuuttujat U = g(x, Y) V = h(x, Y) Tehdään muunnoksesta u = g( x, y) () v = h( x, y) seuraavalla kalvolla esitettävät oletukset. TKK (c) Ilkka Mellin (2004) 36

Kaksiulotteisten satunnaismuuttujien muunnosten jakaumat Bijektiivisten muunnosten jakaumat 2/3 Oletukset muunnoksesta ( ): (i) Muuttujat x ja y voidaan ratkaista yhtälöryhmästä ( ) yksikäsitteisesti muuttujien u ja v funktioina. (ii) Funktioilla g ja h on jatkuvat osittaisderivaatat muuttujien x ja y suhteen. (iii) Muunnoksen ( ) Jacobin determinantti on nollasta poikkeava alueella, jossa tiheysfunktio f XY (x, y) on positiivinen: ( uv, ) u v u v = 0 ( xy, ) x y y x kaikille x ja y, joille f XY (x, y) > 0. TKK (c) Ilkka Mellin (2004) 37

Kaksiulotteisten satunnaismuuttujien muunnosten jakaumat Bijektiivisten muunnosten jakaumat 3/3 Jos oletukset (i)-(iii) pätevät, satunnaismuuttujien U ja V yhteisjakauman tiheysfunktio on ( uv, ) fuv ( u, v) = fxy ( x, y) ( xy, ) jossa x ja y ratkaistaan kalvon 1/3 yhtälöryhmästä ( ). 1 TKK (c) Ilkka Mellin (2004) 38

Kaksiulotteisten satunnaismuuttujien muunnosten jakaumat Normaalijakauman generointi jatkuvasta tasaisesta jakaumasta 1/2 Oletetaan, että satunnaismuuttujat X ja Y ovat riippumattomia ja noudattavat jatkuvaa tasaista jakaumaa (ks. lukua Jatkuvia jakaumia) välillä (0, 1): X ~ Uniform(0, 1) Y ~ Uniform(0, 1) X Y Määritellään satunnaismuuttujat U = cos(2 π X) 2log( Y) V = sin(2 π X) 2log( Y) TKK (c) Ilkka Mellin (2004) 39

Kaksiulotteisten satunnaismuuttujien muunnosten jakaumat Normaalijakauman generointi jatkuvasta tasaisesta jakaumasta 2/2 Satunnaismuuttujat U ja V ovat riippumattomia ja noudattavat standardoitua normaalijakaumaa (ks. lukua Jatkuvia jakaumia): U ~ N(0, 1) V ~ N(0, 1) U V TKK (c) Ilkka Mellin (2004) 40

Kaksiulotteisten satunnaismuuttujien muunnosten jakaumat Normaalijakauman generointi jatkuvasta tasaisesta jakaumasta: Todistus 1/5 Oletetaan, että satunnaismuuttujat X ja Y ovat riippumattomia ja noudattavat jatkuvaa tasaista jakaumaa välillä (0, 1): X Y Olkoot X ~ Uniform(0, 1) Y ~ Uniform(0, 1) U = cos(2 π X) 2log( Y) V = sin(2 π X) 2log( Y) Tarkastellaan yhtälöryhmää u = cos(2 π x) 2log( y) () v = sin(2 π x) 2log( y) TKK (c) Ilkka Mellin (2004) 41

Kaksiulotteisten satunnaismuuttujien muunnosten jakaumia Normaalijakauman generointi jatkuvasta tasaisesta jakaumasta: Todistus 2/5 Yhtälöryhmän u = cos(2 π x) 2log( y) () v = sin(2 π x) 2log( y) ratkaisut muuttujien x ja y suhteen saadaan yhtälöistä u cos(2 π x) = 2 2 u + v v sin(2 π x) = 2 2 u + v 1 2 2 y = exp ( u + v ) 2 TKK (c) Ilkka Mellin (2004) 42

Kaksiulotteisten satunnaismuuttujien muunnosten jakaumia Normaalijakauman generointi jatkuvasta tasaisesta jakaumasta: Todistus 3/5 Muunnoksen ( ) Jacobin determinantti on ( uv, ) u v u v = ( xy, ) x y y x 2π = y Koska y > 0, niin ( uv, ) ( xy, ) sin(2 π x) = 2πsin(2 πx) 2log( y) y 2log( y) 0 cos(2 π x) 2πcos(2 πx) 2log( y) y 2log( y) TKK (c) Ilkka Mellin (2004) 43

Kaksiulotteisten satunnaismuuttujien muunnosten jakaumia Normaalijakauman generointi jatkuvasta tasaisesta jakaumasta: Todistus 4/5 Satunnaismuuttujien X ja Y yhteisjakauman tiheysfunktio on f XY (x, y) = 1, 0 < x < 1, 0 < y < 1 Siten satunnaismuuttujien U ja V yhteisjakauman tiheysfunktio on 1 ( uv, ) y fuv ( u, v) = fxy ( x, y) =,0< x< 1,0< y< 1 ( xy, ) 2π Sijoittamalla tähän x ja y lausuttuna muuttujien u ja v funktiona saadaan 1 1 2 2 fuv ( u, v) = exp ( u + v ) 2π 2 TKK (c) Ilkka Mellin (2004) 44

Kaksiulotteisten satunnaismuuttujien muunnosten jakaumia Normaalijakauman generointi jatkuvasta tasaisesta jakaumasta: Todistus 5/5 Nyt 1 1 2π 2 1 1 2 1 1 2 = exp u exp v 2π 2 2π 2 = f ( u) f ( v) 2 2 ( ) fuv ( u, v) = exp ( u + v ) U V jossa f U (u) ja f V (v) ovat standardoidun normaalijakauman N(0, 1) tiheysfunktioita. Koska satunnaismuuttujien U ja V yhteisjakauman tiheysfunktio voidaan esittää satunnaismuuttujien U ja V reunajakaumien tiheysfunktioiden tulona, satunnaismuuttujat U ja V ovat riippumattomia. Yhtälöstä( ) nähdään lisäksi se, että satunnaismuuttujat U ja V noudattavat standardoitua normaalijakaumaa N(0, 1). TKK (c) Ilkka Mellin (2004) 45

Kaksiulotteisten satunnaismuuttujien muunnosten jakaumia Normaalijakauman generointi jatkuvasta tasaisesta jakaumasta: Kommentteja Muunnosta u = cos(2 π x) 2log( y) () v = sin(2 π x) 2log( y) kutsutaan tavallisesti Boxin ja Müllerin muunnokseksi. Boxin ja Müllerin muunnos tarjoaa erään keinon generoida normaalijakautuneita satunnaislukuja tasaista jakaumaa välillä (0, 1) noudattavista satunnaisluvuista. TKK (c) Ilkka Mellin (2004) 46

Satunnaismuuttujien muunnokset ja niiden jakaumat Satunnaismuuttujien muunnosten jakaumat Kaksiulotteisten satunnaismuuttujien muunnosten jakaumat >> Riippumattomien satunnaismuuttujien summan jakauma Riippumattomien satunnaismuuttujien osamäärän jakauma Satunnaismuuttujien minimin ja maksimin jakaumat TKK (c) Ilkka Mellin (2004) 47

Riippumattomien satunnaismuuttujien summan jakauma Avainsanat Binomijakauma Jacobin determinantti Kertymäfunktio χ 2 -jakauma Momenttiemäfunktio Normaalijakauma Poisson-jakauma Satunnaismuuttuja Satunnaismuuttujien summan jakauma Tiheysfunktio Todennäköisyysjakauma TKK (c) Ilkka Mellin (2004) 48

Riippumattomien satunnaismuuttujien summan jakauma Satunnaismuuttujien riippumattomuus Olkoot X ja Y riippumattomia ja jatkuvia satunnaismuuttujia. Tällöin niiden yhteisjakauman tiheysfunktio f XY (x, y) voidaan esittää satunnaismuuttujien X ja Y reunajakaumien tiheysfunktioiden f X (x) ja f Y (y) tulona: f XY (x, y) = f X (x)f Y (y) TKK (c) Ilkka Mellin (2004) 49

Riippumattomien satunnaismuuttujien summan jakauma Riippumattomien satunnaismuuttujien summan jakauma Olkoot X ja Y riippumattomia ja jatkuvia satunnaismuuttujia, joiden tiheysfunktiot ovat f X (x) ja f Y (y). Muodostetaan satunnaismuuttujien X ja Y summa U = X + Y Satunnaismuuttujan U tiheysfunktio on + fu( u) = fy( u x) fx( x) dx TKK (c) Ilkka Mellin (2004) 50

Riippumattomien satunnaismuuttujien summan jakauma Riippumattomien satunnaismuuttujien summan jakauma: Todistus 1/3 Olkoot X ja Y riippumattomia ja jatkuvia satunnaismuuttujia, joiden tiheysfunktiot ovat f X (x) ja f Y (y). Koska satunnaismuuttujat X ja Y ovat riippumattomia, Olkoot f XY (x, y) = f Y (y)f X (x) U = X + Y V = X Satunnaismuuttujien X ja Y summan jakauma saadaan määräämällä satunnaismuuttujan U reunajakauma satunnaismuuttujien U ja V yhteisjakaumasta. TKK (c) Ilkka Mellin (2004) 51

Riippumattomien satunnaismuuttujien summan jakauma Riippumattomien satunnaismuuttujien summan jakauma: Todistus 2/3 Tarkastellaan muunnosta u = x+ y () v = x Muunnoksen ( ) käänteismuunnos: y = u v x = v Muunnoksen ( ) Jacobin determinantti: ( uv, ) u v u v = ( xy, ) x y y x = 10 11 = 1 0 TKK (c) Ilkka Mellin (2004) 52

Riippumattomien satunnaismuuttujien summan jakauma Riippumattomien satunnaismuuttujien summan jakauma: Todistus 3/3 Siten satunnaismuuttujien U = X + Y ja V = X yhteisjakauman tiheysfunktio on 1 ( uv, ) fuv ( u, v) = fxy ( x, y) ( xy, ) = f ( x) f ( y) 1 X = f () v f ( u v) X Y Y Summan U = X + Y tiheysfunktio saadaan tästä satunnaismuuttujan U reunajakauman tiheysfunktiona: + + f ( u) = f ( u, v) dv= f ( v) f ( u v) dv U UV X Y + = f ( x) f ( u x) dx X Y TKK (c) Ilkka Mellin (2004) 53

Riippumattomien satunnaismuuttujien summan jakauma χ 2 -jakauma 1/3 Tarkastellaan riippumattomien satunnaismuuttujien summan jakaumaa koskevan yleisen tuloksen sovelluksena χ 2 -jakauman (ks. lukua Normaalijakaumasta johdettuja jakaumia) tiheysfunktion lausekkeen johtoa. TKK (c) Ilkka Mellin (2004) 54

Riippumattomien satunnaismuuttujien summan jakauma χ 2 -jakauma 2/3 Oletetaan, että satunnaismuuttujat X 1, X 2,, X n ovat riippumattomia ja noudattavat standardoitua normaalijakaumaa: X 1, X 2,, X n X i ~ N(0, 1), i = 1, 2,, n Määritellään satunnaismuuttuja Y = X + X +! + X n Satunnaismuuttuja Y n noudattaa χ 2 -jakauman määritelmän mukaan χ 2 -jakaumaa n:llä vapausasteella: Y n ~ χ 2 (n) 2 2 2 1 2 n TKK (c) Ilkka Mellin (2004) 55

Riippumattomien satunnaismuuttujien summan jakauma χ 2 -jakauma 3/3 Satunnaismuuttujan Yn tiheysfunktio on 1 1 n 1 y 2 2 f ( y) = C y e n χ 2 ( n) n Normeerausvakio C n saadaan kaavasta 1 Cn = 1 n 2 n 2 Γ 2 jossa Γ( ) on Eulerin gammafunktio: z 1 t z t e dt Γ ( ) = 0 TKK (c) Ilkka Mellin (2004) 56

Riippumattomien satunnaismuuttujien summan jakauma χ 2 -jakauma: Tiheysfunktion johto 1/10 Oletetaan, että satunnaismuuttujat X 1, X 2,, X n ovat riippumattomia ja noudattavat standardoitua normaalijakaumaa: Tällöin X 1, X 2,, X n X i ~ N(0, 1), i = 1, 2,, n 2 2 2 2 Yn = X1 + X2 +! + Xn χ ( n) Käytetään satunnaismuuttujan Y n tiheysfunktion lausekkeen 1 1 n 1 y 2 2 f ( y) = C y e n n perustelemiseen täydellistä induktiota ja yleistä tulosta riippumattomien satunnaismuuttujien summan jakaumalle. TKK (c) Ilkka Mellin (2004) 57

Riippumattomien satunnaismuuttujien summan jakauma χ 2 -jakauma: Tiheysfunktion johto 2/10 Olkoon n = 1. Tässä luvussa on jo todettu (ks. kappaletta Satunnaismuuttujien muunnosten jakaumat), että 2 2 Y1 = X1 χ (1) ja satunnaismuuttujan Y 1 tiheysfunktio on 1 1 1 y 2 2 f1( y) = y e 2π Koska 1 1 C1 = = 1 2 1 2π 2 Γ 2 satunnaismuuttujan 2 2 2 2 Yn = X1 + X2 +! + Xn χ ( n) tiheysfunktion lauseke pätee, kun n = 1. TKK (c) Ilkka Mellin (2004) 58

Riippumattomien satunnaismuuttujien summan jakauma χ 2 -jakauma: Tiheysfunktion johto 3/10 Tarkastellaan seuraavaksi tapausta n = 2. Koska satunnaismuuttujat X 1 ja X 2 on oletettu riippumattomiksi, myös 2 2 satunnaismuuttujat X ja X ovat riippumattomia. 1 2 Siten voimme soveltaa satunnaismuuttujaan Y = X + X χ 2 2 2 2 1 2 (2) riippumattomien satunnaismuuttujien summan tiheysfunktion kaavaa: + 2 1 1 2 0 jossa C on muuttujan y suhteen vakio. 2 1 1 1 1 ( y z) z 2 2 2 2 f ( y) = f ( y z) f ( z) dz = C ( y z) e z e dz 2 1 1 1 y 2 2 2 = Ce ( y z) z dz 0 TKK (c) Ilkka Mellin (2004) 59

Riippumattomien satunnaismuuttujien summan jakauma χ 2 -jakauma: Tiheysfunktion johto 4/10 Tapaus n = 2 jatkuu... Sijoituksella z = yt integraali 2 2 1 1 1 y 2 2 2 f ( y) = C e ( y z) z dz saadaan muokatuksi muotoon 2 2 2 2 0 1 1 1 y 2 2 2 f ( y) = C e ( y yt) ( yt) ydt 0 1 1 1 y 2 2 2 = Ce (1 t) t dt = Ce 0 1 y 2 0 1 1 jossa 2 2 C2 = C 2 (1 t) t dt on muuttujan y suhteen vakio. TKK (c) Ilkka Mellin (2004) 60

Riippumattomien satunnaismuuttujien summan jakauma χ 2 -jakauma: Tiheysfunktion johto 5/10 Tapaus n = 2 jatkuu... Siten satunnaismuuttujan 2 2 2 2 Yn = X1 + X2 +! + Xn χ ( n) tiheysfunktion lauseke pätee, kun n = 2: 1 1 n 1 y 2 2 f ( y) = C y e n n f ( y) = C e 2 2 1 y 2 TKK (c) Ilkka Mellin (2004) 61

Riippumattomien satunnaismuuttujien summan jakauma χ 2 -jakauma: Tiheysfunktion johto 6/10 Induktio-askel n 1 n. Induktio-oletus: Satunnaismuuttujan 2 2 2 2 Yn 1 = X1 + X2 +! + Xn 1 χ ( n 1) tiheysfunktio on n 1 n 1 1 1 ( n 1) 1 y 2 2 f ( y) = C y e TKK (c) Ilkka Mellin (2004) 62

Riippumattomien satunnaismuuttujien summan jakauma χ 2 -jakauma: Tiheysfunktion johto 7/10 Induktio-askel n 1 n jatkuu Koska satunnaismuuttujat X 1, X 2,, X n on oletettu riippumattomiksi, myös satunnaismuuttujat Yn = X + X +! + X 2 ja ovat riippumattomia. X n Siten voimme soveltaa satunnaismuuttujaan 2 2 2 2 2 2 Yn = Yn 1+ Xn = X1 + X2 +! + Xn 1 + Xn χ ( n) riippumattomien satunnaismuuttujien summan tiheysfunktion kaavaa: + n 1 n 1 n 0 jossa C on muuttujan y suhteen vakio. 1 1 1 1 ( y z) ( n 1) 1 z 2 2 2 2 f ( y) = f ( y z) f ( z) dz= C ( y z) e z e dz n 1 1 1 3 y n 2 2 2 2 = Ce ( y z) z dz n 0 2 2 2 1 1 2 n 1 TKK (c) Ilkka Mellin (2004) 63

Riippumattomien satunnaismuuttujien summan jakauma χ 2 -jakauma: Tiheysfunktion johto 8/10 Induktio-askel n 1 n jatkuu Sijoituksella z = yt integraali saadaan muokatuksi muotoon 1 1 1 3 y n 2 2 2 2 f ( y) = C e ( y yt) ( yt) ydz n n 0 1 1 1 1 3 n 1 y n 2 2 2 2 2 = Cy e (1 t) t dt n = Cy n 1 1 1 3 y n 2 2 2 2 f ( y) = C e ( y z) z dz n n 0 1 1 n 1 y 2 2 e 0 1 1 3 n jossa 2 2 2 C = C (1 t) t dt on muuttujan y suhteen vakio. n n 0 TKK (c) Ilkka Mellin (2004) 64

Riippumattomien satunnaismuuttujien summan jakauma χ 2 -jakauma: Tiheysfunktion johto 9/10 Induktiopäättely jatkuu... Yhdistämällä kalvojen 2/10-8/10 tulokset nähdään, että satunnaismuuttujan 2 2 2 2 Yn = X1 + X2 +! + Xn χ ( n) tiheysfunktion lauseke 1 1 n 1 y 2 2 f ( y) = C y e n pätee kaikille n = 1, 2, 3, n TKK (c) Ilkka Mellin (2004) 65

Riippumattomien satunnaismuuttujien summan jakauma χ 2 -jakauma: Tiheysfunktion johto 10/10 Määrätään vielä normeerausvakio C n. Todetaan ensin, että tiheysfunktio f n toteuttaa seuraavan ehdon: n n 0 0 1 1 1 2 n y 2 f ( y) dy = C y e dy = 1 Sijoituksella y = 2t tämä integraali saadaan muokatuksi muotoon 1 1 1 2 n n 2 n 0 t 2 C t e dt = 1 Siten normeerausvakion C n arvoksi saadaan 1 Cn = 1 n 2 n 2 Γ 2 jossa Γ( ) on Eulerin gammafunktio: z 1 t Γ ( z) = t e dt 0 TKK (c) Ilkka Mellin (2004) 66

Riippumattomien satunnaismuuttujien summan jakauma Momenttiemäfunktio Olkoon X satunnaismuuttuja. Oletetaan, että odotusarvo m X (t) = E(e tx ) on olemassa kaikille t ( h, +h) jossa h > 0 on vakio. Tällöin funktiota m X (t) kutsutaan satunnaismuuttujan X ja sen jakauman momenttiemäfunktioksi eli momentit generoivaksi funktioksi. Lisätietoja: ks. lukua Momenttiemäfunktio ja karakteristinen funktio. TKK (c) Ilkka Mellin (2004) 67

Riippumattomien satunnaismuuttujien summan jakauma Riippumattomien satunnaismuuttujien summan momenttiemäfunktio Olkoot X 1, X 2,, X n riippumattomia satunnaismuuttujia, joiden momenttiemäfunktiot ovat m 1 (t), m 2 (t),, m n (t) Tällöin summan X = X 1 + X 2 + + X n momenttiemäfunktio on satunnaismuuttujien X 1, X 2,, X n momenttiemäfunktioiden tulo: m X (t) = m 1 (t)m 2 (t) m n (t) TKK (c) Ilkka Mellin (2004) 68

Riippumattomien satunnaismuuttujien summan jakauma Bernoulli-jakaumaa noudattavien satunnaismuuttujien summan jakauma Olkoot X 1, X 2,, X n riippumattomia satunnaismuuttujia, jotka noudattavat samaa Bernoulli-jakaumaa parametrilla p: X 1, X 2,, X n X i ~ Bernoulli(p), i = 1, 2,, n Tällöin satunnaismuuttujien X 1, X 2,, X n summa Y = X 1 + X 2 + + X n noudattaa binomijakaumaa (ks. lukua Diskreettejä jakaumia) parametrein (n, p): Y ~ Bin(n, p) TKK (c) Ilkka Mellin (2004) 69

Riippumattomien satunnaismuuttujien summan jakauma Bernoulli-jakaumaa noudattavien satunnaismuuttujien summan jakauma: Perustelu 1/2 Oletetaan, että X 1, X 2,, X n X i ~ Bernoulli(p), i = 1, 2,, n Tällöin satunnaismuuttujien X 1, X 2,, X n momenttiemäfunktio on muotoa m () t = q+ pe t, i = 1,2,, n i Lisätietoja: ks. lukua Momenttiemäfunktio ja karakteristinen funktio. Muodostetaan satunnaismuuttujien X 1, X 2,, X n summa: Y = X 1 + X 2 + + X n TKK (c) Ilkka Mellin (2004) 70

Riippumattomien satunnaismuuttujien summan jakauma Bernoulli-jakaumaa noudattavien satunnaismuuttujien summan jakauma: Perustelu 2/2 Riippumattomien satunnaismuuttujien summan momenttiemäfunktiota koskevan tuloksen mukaan satunnaismuuttujan Y = X 1 + X 2 + + X n momenttiemäfunktio on m () t = m () t m () t! m () t Y 1 2 t t t = ( q+ pe )( q+ pe )!( q+ pe ) t n = ( q+ pe ) Koska m Y (t) on binomijakauman Bin(n, p) momenttiemäfunktio, niin Y = X 1 + X 2 + + X k ~ Bin(n, p) n TKK (c) Ilkka Mellin (2004) 71

Riippumattomien satunnaismuuttujien summan jakauma Binomijakaumaa noudattavien satunnaismuuttujien summan jakauma Olkoot X 1, X 2,, X k riippumattomia satunnaismuuttujia, jotka noudattavat binomijakaumia parametrein (n 1, p), (n 2, p),, (n k, p): X 1, X 2,, X k X i ~ Bin(n i, p), i = 1, 2,, k Tällöin satunnaismuuttujien X 1, X 2,, X k summa Y = X 1 + X 2 + + X k noudattaa binomijakaumaa (ks. lukua Diskreettejä jakaumia) parametrein (n 1 + n 2 + + n k, p): Y ~ Bin(n 1 + n 2 + + n k, p) TKK (c) Ilkka Mellin (2004) 72

Riippumattomien satunnaismuuttujien summan jakauma Binomijakaumaa noudattavien satunnaismuuttujien summan jakauma: Perustelu 1/2 Oletetaan, että X 1, X 2,, X k X i ~ Bin(n i, p), i = 1, 2,, k Tällöin satunnaismuuttujien X 1, X 2,, X k momenttiemäfunktiot ovat muotoa t m () t = ( q+ pe ) n i, i = 1,2,, k i Lisätietoja: ks. lukua Momenttiemäfunktio ja karakteristinen funktio. Muodostetaan satunnaismuuttujien X 1, X 2,, X k summa: Y = X 1 + X 2 + + X k TKK (c) Ilkka Mellin (2004) 73

Riippumattomien satunnaismuuttujien summan jakauma Binomijakaumaa noudattavien satunnaismuuttujien summan jakauma: Perustelu 2/2 Riippumattomien satunnaismuuttujien summan momenttiemäfunktiota koskevan tuloksen mukaan satunnaismuuttujan Y = X 1 + X 2 + + X k momenttiemäfunktio on m () t = m () t m () t! m () t Y 1 2 = + + + k t n1 t n2 t nk ( q pe ) ( q pe )!( q pe ) t n1+ n2+! + nk = ( q+ pe ) Koska m Y (t) on binomijakauman Bin(n 1 + n 2 + + n k, p) momenttiemäfunktio, niin Y = X 1 + X 2 + + X k ~ Bin(n 1 + n 2 + + n k, p) TKK (c) Ilkka Mellin (2004) 74

Riippumattomien satunnaismuuttujien summan jakauma Poisson-jakaumaa noudattavien satunnaismuuttujien summan jakauma Olkoot X 1, X 2,, X k riippumattomia satunnaismuuttujia, jotka noudattavat Poisson-jakaumia parametrein λ 1, λ 2,, λ k : X 1, X 2,, X k X i ~ Poisson(λ i ), i = 1, 2,, k Tällöin satunnaismuuttujien X 1, X 2,, X k summa Y = X 1 + X 2 + + X k noudattaa Poisson-jakaumaa (ks. lukua Diskreettejä jakaumia) parametrilla λ 1 + λ 2 + + λ k : Y ~ Poisson(λ 1 + λ 2 + + λ k ) TKK (c) Ilkka Mellin (2004) 75

Riippumattomien satunnaismuuttujien summan jakauma Poisson-jakaumaa noudattavien satunnaismuuttujien summan jakauma: Perustelu 1/2 Oletetaan, että X 1, X 2,, X k X i ~ Poisson(λ i ), i = 1, 2,, k Tällöin satunnaismuuttujien X 1, X 2,, X k momenttiemäfunktiot ovat muotoa i ( e 1) m () t e λ t =, i = 1,2,, k i Lisätietoja: ks. lukua Momenttiemäfunktio ja karakteristinen funktio. Muodostetaan satunnaismuuttujien X 1, X 2,, X k summa: Y = X 1 + X 2 + + X k TKK (c) Ilkka Mellin (2004) 76

Riippumattomien satunnaismuuttujien summan jakauma Poisson-jakaumaa noudattavien satunnaismuuttujien summan jakauma: Perustelu 2/2 Riippumattomien satunnaismuuttujien summan momenttiemäfunktiota koskevan tuloksen mukaan satunnaismuuttujan Y = X 1 + X 2 + + X k momenttiemäfunktio on m () t = m () t m () t! m () t Y = 1 2 t 1 e λ2 t λ ( 1) ( e 1) λk ( e 1) e e! e t k ( λ1+ λ2+! + λ1)( e 1) = e Koska m Y (t) on Poisson-jakauman Poisson(λ 1 + λ 2 + + λ k ) momenttiemäfunktio, niin Y = X 1 + X 2 + + X k ~ Poisson(λ 1 + λ 2 + + λ k ) t TKK (c) Ilkka Mellin (2004) 77

Riippumattomien satunnaismuuttujien summan jakauma Normaalijakaumaa noudattavien satunnaismuuttujien summan jakauma Olkoot X 1, X 2,, X k riippumattomia satunnaismuuttujia, jotka noudattavat 2 2 2 normaalijakaumia parametrein ( µ, σ ),( µ, σ ),,( µ, σ ): X 1, X 2,, X k 2 X N( µ, σ ), i = 1, 2,, k i i i 1 1 2 2 Tällöin satunnaismuuttujien X 1, X 2,, X k summa Y = X 1 + X 2 + + X k noudattaa normaalijakaumaa (ks. lukua Jatkuvia jakaumia) 2 2 2 parametrein ( µ + µ +! + µ, σ + σ +! + σ ): 1 2 k 1 2 2 2 2 1+ 2 + + k 1 + 2 + + k Y N( µ µ! µ, σ σ! σ ) k k k TKK (c) Ilkka Mellin (2004) 78

Riippumattomien satunnaismuuttujien summan jakauma Normaalijakaumaa noudattavien satunnaismuuttujien summan jakauma: Perustelu 1/2 Oletetaan, että X 1, X 2,, X k 2 X i N( µ i, σ i ), i = 1, 2,, k Tällöin satunnaismuuttujien X 1, X 2,, X k momenttiemäfunktiot ovat muotoa 1 2 2 m () t = exp( µ t+ σ t ), i = 1,2,, k i i 2 i Lisätietoja: ks. lukua Momenttiemäfunktio ja karakteristinen funktio. Muodostetaan satunnaismuuttujien X 1, X 2,, X k summa: Y = X 1 + X 2 + + X k TKK (c) Ilkka Mellin (2004) 79

Riippumattomien satunnaismuuttujien summan jakauma Normaalijakaumaa noudattavien satunnaismuuttujien summan jakauma: Perustelu 2/2 Riippumattomien satunnaismuuttujien summan momenttiemäfunktiota koskevan tuloksen mukaan satunnaismuuttujan Y = X 1 + X 2 + + X k momenttiemäfunktio on m () t = m () t m () t! m () t Y 1 2 k = exp( µ t+ σ t )exp( µ t+ σ t )! exp( µ t+ σ t ) 1 2 2 1 2 2 1 2 2 1 2 1 2 2 2 k 2 k 1 2 2 2 2 = exp(( µ 1+ µ 2 +! + µ k) t+ 2 ( σ1 + σ2 +! + σk) t ) Koska m Y (t) on normaalijakauman 2 2 2 N( µ + µ +! + µ, σ + σ +! + σ ) momenttiemäfunktio, niin 1 2 k 1 2 k 2 2 2 Y = X1+ X2 +! + X k µ 1+ µ 2 +! + µ k σ1 + σ2 +! + σk N(, ) TKK (c) Ilkka Mellin (2004) 80

Satunnaismuuttujien muunnokset ja niiden jakaumat Satunnaismuuttujien muunnosten jakaumat Kaksiulotteisten satunnaismuuttujien muunnosten jakaumat Riippumattomien satunnaismuuttujien summan jakauma >> Riippumattomien satunnaismuuttujien osamäärän jakauma Satunnaismuuttujien minimin ja maksimin jakaumat TKK (c) Ilkka Mellin (2004) 81

Riippumattomien satunnaismuuttujien osamäärän jakauma Avainsanat F-jakauma Jacobin determinantti Kertymäfunktio Normaalijakauma Satunnaismuuttuja Satunnaismuuttujien osamäärän jakauma Studentin t-jakauma Tiheysfunktio Todennäköisyysjakauma TKK (c) Ilkka Mellin (2004) 82

Riippumattomien satunnaismuuttujien osamäärän jakauma Satunnaismuuttujien riippumattomuus Olkoot X ja Y riippumattomia ja jatkuvia satunnaismuuttujia. Tällöin niiden yhteisjakauman tiheysfunktio f XY (x, y) voidaan esittää satunnaismuuttujien X ja Y reunajakaumien tiheysfunktioiden f X (x) ja f Y (y) tulona: f XY (x, y) = f X (x)f Y (y) TKK (c) Ilkka Mellin (2004) 83

Riippumattomien satunnaismuuttujien osamäärän jakauma Riippumattomien satunnaismuuttujien osamäärän jakauma Olkoot X ja Y > 0 riippumattomia ja jatkuvia satunnaismuuttujia, joiden tiheysfunktiot ovat f X (x) ja f Y (y). Määritellään satunnaismuuttuja U = X / Y Osamäärän U = X / Y tiheysfunktio on + fu( u) = yf X( uy) fy( y) dy TKK (c) Ilkka Mellin (2004) 84

Riippumattomien satunnaismuuttujien osamäärän jakauma Riippumattomien satunnaismuuttujien osamäärän jakauma: Todistus 1/3 Olkoot X ja Y > 0 riippumattomia ja jatkuvia satunnaismuuttujia, joiden tiheysfunktiot ovat f X (x) ja f Y (y). Koska satunnaismuuttujat X ja Y ovat riippumattomia, Olkoot f XY (x, y) = f Y (y)f X (x) U = X / Y V = Y Satunnaismuuttujien X ja Y osamäärän jakauma saadaan määräämällä satunnaismuuttujan U reunajakauma satunnaismuuttujien U ja V yhteisjakaumasta. TKK (c) Ilkka Mellin (2004) 85

Riippumattomien satunnaismuuttujien osamäärän jakauma Riippumattomien satunnaismuuttujien osamäärän jakauma: Todistus 2/3 Tarkastellaan muunnosta u = x y () v = y Muunnoksen ( ) käänteismuunnos: x= uv y = v Muunnoksen ( ) Jacobin determinantti: ( uv, ) u v u v = ( xy, ) x y y x 1 x = 1 2 0 y y = 1 y 0 TKK (c) Ilkka Mellin (2004) 86

Riippumattomien satunnaismuuttujien osamäärän jakauma Riippumattomien satunnaismuuttujien osamäärän jakauma: Todistus 3/3 Siten satunnaismuuttujien U = X / Y ja V = Y yhteisjakauman tiheysfunktio on 1 ( uv, ) fuv ( u, v) = fxy ( x, y) ( xy, ) = f ( x) f ( y) y X X Y = vf ( uv) f ( v) Y Osamäärän U = X / Y tiheysfunktio saadaan tästä satunnaismuuttujan U reunajakauman tiheysfunktiona: + + f ( u) = f ( uvdv, ) = vf ( uv) f ( vdv ) U UV X Y = + yf ( uy) f ( y) dy X Y TKK (c) Ilkka Mellin (2004) 87

Riippumattomien satunnaismuuttujien osamäärän jakauma F-jakauma 1/4 Tarkastellaan riippumattomien satunnaismuuttujien osamäärän jakaumaa koskevan yleisen tuloksen sovelluksena F-jakauman (ks. lukua Normaalijakaumasta johdettuja jakaumia) tiheysfunktion lausekkeen johtoa. Oletetaan, että satunnaismuuttujat X 1, X 2,, X m, Y 1, Y 2,, Y n ovat riippumattomia ja noudattavat standardoitua normaalijakaumaa: X 1, X 2,, X m, Y 1, Y 2,, Y n X i ~ N(0, 1), i = 1, 2,, m Y i ~ N(0, 1), i = 1, 2,, n TKK (c) Ilkka Mellin (2004) 88

Riippumattomien satunnaismuuttujien osamäärän jakauma F-jakauma 2/4 Määritellään satunnaismuuttujat X = X + X +! + X 2 2 2 Y = Y1 + Y2 +! + Yn Satunnaismuuttujat X ja Y ovat riippumattomia ja χ 2 - jakauman määritelmän mukaan X noudattaa χ 2 -jakaumaa m:llä vapausasteella ja Y noudattaa χ 2 -jakaumaa n:llä vapausasteella: X Y X 2 χ ( m) 2 χ ( n) Y 2 2 2 1 2 m TKK (c) Ilkka Mellin (2004) 89

Riippumattomien satunnaismuuttujien osamäärän jakauma F-jakauma 3/4 Määritellään satunnaismuuttuja X / m n X F = Y / n = m Y jossa siis X 2 χ ( m) 2 Y χ ( n) X Y Satunnaismuuttuja F noudattaa F-jakauman määritelmän mukaan F-jakaumaa vapausastein m ja n: F ~ F(m, n) TKK (c) Ilkka Mellin (2004) 90

Riippumattomien satunnaismuuttujien osamäärän jakauma F-jakauma 4/4 Satunnaismuuttujan F ~ F(m, n) tiheysfunktio on m+ n Γ m m 2 m 1 2 m ff ( y) = y 1 y m n + n n Γ Γ 2 2 jossa Γ( ) on Eulerin gammafunktio: z 1 t z t e dt Γ ( ) = 0 m+ n 2 2 TKK (c) Ilkka Mellin (2004) 91

Riippumattomien satunnaismuuttujien osamäärän jakauma F-jakauma: Tiheysfunktion johto 1/6 Määritellään satunnaismuuttuja n X F = m Y jossa 2 2 X χ ( m), Y χ ( n), X Y Tällöin F ~ F(m, n) Käytetään satunnaismuuttujan F tiheysfunktion lausekkeen m+ n Γ m m+ n m 2 m 2 1 2 2 m ff ( y) = y 1 y m n + n n Γ Γ 2 2 perustelemiseen yleistä tulosta riippumattomien satunnaismuuttujien osamäärän jakaumalle. TKK (c) Ilkka Mellin (2004) 92

Riippumattomien satunnaismuuttujien osamäärän jakauma F-jakauma: Tiheysfunktion johto 2/6 Määritellään satunnaismuuttuja X Z = Y jossa 2 2 X χ ( m), Y χ ( n), X Y χ 2 (n)-jakauman tiheysfunktio on muotoa (ks. kappaletta Riippumattomien satunnaismuuttujien summan jakauma): 1 n 2 1 1 n 1 y 2 2 f ( y) = C y e n C n = 2 z 1 t z t e dt Γ ( ) = 0 n 1 n Γ 2 TKK (c) Ilkka Mellin (2004) 93

Riippumattomien satunnaismuuttujien osamäärän jakauma F-jakauma: Tiheysfunktion johto 3/6 Riippumattomien satunnaismuuttujien osamäärän tiheysfunktion kaavan mukaan satunnaismuuttujan Z = X/Y tiheysfunktio on + Z X Y m n 0 m 1 n 1 1 zy 1 y 2 2 2 2 f ( z) = yf ( zy) f ( y) dy= C C y( zy) e y e dy m n 1 1 1 (1 + z) y 2 2 2 = CC yzy ( ) y e dy Kun integraalissa tehdään sijoitus (1 + y)z = t, saadaan 0 m n 0 m n 1 1 1 2 2 t 2 t t t 1 fz( z) = CmCn z e dt 1+ z 1+ z 1+ z 1+ z m m+ n 1 1 1 ( m+ m) 1 t 2 2 2 2 = CCz (1 + z) t e dt m n 0 TKK (c) Ilkka Mellin (2004) 94

Riippumattomien satunnaismuuttujien osamäärän jakauma F-jakauma: Tiheysfunktion johto 4/6 Satunnaismuuttujan Z = X/Y tiheysfunktion lausekkeen integraalin m m+ n 1 1 1 ( m+ m) 1 t 2 2 2 2 fz( z) = CmCnz (1 + z) t e dt 0 1 1 ( m+ m) 1 t 2 2 t e dt integroitava on χ 2 (m + n)-jakauman tiheysfunktion ydin. Siten 0 1 1 ( m+ m) 1 t 2 2 t e dt 1 = C m+ n 0 TKK (c) Ilkka Mellin (2004) 95

Riippumattomien satunnaismuuttujien osamäärän jakauma F-jakauma: Tiheysfunktion johto 5/6 Sijoittamalla vakioiden C m, C n ja C m + n lausekkeet paikoilleen saadaan satunnaismuuttujan Z = X/Y tiheysfunktioksi m+ n m m+ n Γ m m+ n CC 1 1 m n 2 2 2 2 2 fz ( z) = z (1 + z) = z (1 + z) C m n m+ n Γ Γ 2 2 Satunnaismuuttujan n X F = Fmn (, ) m Y saadaan satunnaismuuttujan Z = X/Y tiheysfunktiosta lineaarimuunnoksella F = n m Z TKK (c) Ilkka Mellin (2004) 96

Riippumattomien satunnaismuuttujien osamäärän jakauma F-jakauma: Tiheysfunktion johto 6/6 Soveltamalla satunnaismuuttujan lineaarimuunnoksen tiheysfunktion kaavaa (ks. kappaletta Satunnaismuuttujien muunnosten jakaumat) saadaan F(m, n)-jakauman tiheysfunktioksi m+ n Γ m m+ n m 2 m 2 1 m 2 2 ff ( y) = y 1 y m n + n n Γ Γ 2 2 TKK (c) Ilkka Mellin (2004) 97

Riippumattomien satunnaismuuttujien osamäärän jakauma t-jakauma 1/4 Oletetaan, että satunnaismuuttujat X, Y 1, Y 2,, Y n ovat riippumattomia ja noudattavat standardoitua normaalijakaumaa: X, Y 1, Y 2,, Y n X ~ N(0, 1) Y i ~ N(0, 1), i = 1, 2,, n TKK (c) Ilkka Mellin (2004) 98

Riippumattomien satunnaismuuttujien osamäärän jakauma t-jakauma 2/4 Määritellään satunnaismuuttuja 2 2 2 Y = Y + Y +! + Y Satunnaismuuttujat X ja Y ovat riippumattomia, X noudattaa standardoitua normaalijakaumaa N(0, 1) ja Y noudattaa χ 2 -jakauman määritelmän mukaan χ 2 -jakaumaa n:llä vapausasteella: X Y X Y 1 2 n N(0,1) 2 χ ( n) TKK (c) Ilkka Mellin (2004) 99

Riippumattomien satunnaismuuttujien osamäärän jakauma t-jakauma 3/4 Määritellään satunnaismuuttuja t = X = Y / n n jossa siis X X Y Satunnaismuuttuja t noudattaa t-jakauman määritelmän mukaan Studentin t-jakaumaa vapausastein n (ks. lukua Normaalijakaumasta johdettuja jakaumia): t ~ t(n) N(0,1) 2 Y χ ( n) X Y TKK (c) Ilkka Mellin (2004) 100

Riippumattomien satunnaismuuttujien osamäärän jakauma t-jakauma 4/4 Satunnaismuuttujan t ~ t(n) tiheysfunktio on n + 1 Γ 1 2 1 2 ft ( y) = 1 y nπ n + n Γ 2 jossa Γ( ) on Eulerin gammafunktio: z 1 t z t e dt Γ ( ) = 0 n+ 1 2 TKK (c) Ilkka Mellin (2004) 101

Riippumattomien satunnaismuuttujien osamäärän jakauma t-jakauma: Tiheysfunktion johto 1/4 Määritellään satunnaismuuttuja X t = n Y jossa Tällöin 2 X N(0,1), Y χ ( n), X Y t ~ t(n) Käytetään satunnaismuuttujan t tiheysfunktion lausekkeen n + 1 Γ n+ 1 1 2 1 2 2 ft ( y) = 1 y nπ n + n Γ 2 perustelemisessa hyväksi sitä, että t 2 ~ F(1, n) TKK (c) Ilkka Mellin (2004) 102

Riippumattomien satunnaismuuttujien osamäärän jakauma t-jakauma: Tiheysfunktion johto 2/4 Jakauman F(1, n) tiheysfunktio on n + 1 Γ 1 2 1 1 1 2 ff ( z) = z 1 z 1 n + n n Γ π Γ 2 2 n + 1 Γ 1 2 1 1 = 1 z nπ n + z n Γ 2 1 n+ 1 2 2 n+ 1 2 TKK (c) Ilkka Mellin (2004) 103

Riippumattomien satunnaismuuttujien osamäärän jakauma t-jakauma: Tiheysfunktion johto 3/4 Koska jossa t = z z ~ F(1, n) pätee seuraava tulos, kun y > 0: Pr(0 t y) = Pr(0 t y) 1 2 1 2 2 2 Pr(0 t y ) = 1 2 2 Pr(0 z y ) = 1 2 = 2 F ( F y ) jossa F F on jakauman F(1, n) kertymäfunktio. TKK (c) Ilkka Mellin (2004) 104

Riippumattomien satunnaismuuttujien osamäärän jakauma t-jakauma: Tiheysfunktion johto 4/4 Derivoimalla yhtälö 1 2 Pr(0 t y) = 2 FF ( y ) saadaan satunnaismuuttujan t tiheysfunktioksi, kun y > 0: 2 f ( y) = yf ( y ) t F Siten jakauman t(n) tiheysfunktioksi saadaan lopulta n + 1 Γ n+ 1 1 2 1 2 2 ft ( y) = 1 y nπ n + n Γ 2 TKK (c) Ilkka Mellin (2004) 105

Satunnaismuuttujien muunnokset ja niiden jakaumat Satunnaismuuttujien muunnosten jakaumat Kaksiulotteisten satunnaismuuttujien muunnosten jakaumat Riippumattomien satunnaismuuttujien summan jakauma Riippumattomien satunnaismuuttujien osamäärän jakauma >> Satunnaismuuttujien minimin ja maksimin jakaumat TKK (c) Ilkka Mellin (2004) 106

Satunnaismuuttujien minimin ja maksimin jakaumat Avainsanat Eksponenttijakauma Kertymäfunktio Maksimi Minimi Satunnaismuuttuja Tiheysfunktio Todennäköisyysjakauma TKK (c) Ilkka Mellin (2004) 107

Satunnaismuuttujien minimin ja maksimin jakaumat Satunnaismuuttujien minimin jakauma 1/2 Oletetaan, että satunnaismuuttujat X 1, X 2,, X n ovat riippumattomia ja noudattavat samaa jakaumaa, jonka kertymäfunktio on F(x): X 1, X 2,, X n X i ~ F(x), i = 1, 2,, n Olkoon satunnaismuuttuja X (1) satunnaismuuttujien X 1, X 2,, X n minimi: X (1) =min{x 1, X 2,, X n } TKK (c) Ilkka Mellin (2004) 108

Satunnaismuuttujien minimin ja maksimin jakaumat Satunnaismuuttujien minimin jakauma 2/2 Satunnaismuuttujan X (1) =min{x 1, X 2,, X n } kertymäfunktio on F (1) = 1 [1 F(x)] n Jos satunnaismuuttujat X 1, X 2,, X n ovat lisäksi jatkuvia ja niiden tiheysfunktio on f(x) = F (x) niin satunnaismuuttujan X (1) =min{x 1, X 2,, X n } tiheysfunktio on f (1) = n[1 F(x)] n 1 f(x) TKK (c) Ilkka Mellin (2004) 109

Satunnaismuuttujien minimin ja maksimin jakaumat Satunnaismuuttujien minimin jakauma: Perustelu 1/3 Oletetaan, että Olkoon X 1, X 2,, X n X i ~ F(x), i = 1, 2,, n X (1) =min{x 1, X 2,, X n } TKK (c) Ilkka Mellin (2004) 110

Satunnaismuuttujien minimin ja maksimin jakaumat Satunnaismuuttujien minimin jakauma: Perustelu 2/3 Soveltamalla kertymäfunktion määritelmää, komplementtitodennäköisyyden kaavaa ja satunnaismuuttujien X 1, X 2,, X n riippumattomuutta satunnaismuuttujan X (1) =min{x 1, X 2,, X n } kertymäfunktioksi saadaan: F ( x) = Pr( X x) (1) (1) = 1 Pr( X > x) (1) = 1 Pr( X > x ja X > x ja ja X > x) 1 2 = 1 Pr( X > x)pr( X > x)! Pr( X > x) 1 2 = 1 [1 Pr( X x)][1 Pr( X x)]![1 Pr( X x)] 1 2 = 1 [1 F( x)][1 F( x)]![1 F( x)] = 1 [1 F( x)] n n n n TKK (c) Ilkka Mellin (2004) 111

Satunnaismuuttujien minimin ja maksimin jakaumat Satunnaismuuttujien minimin jakauma: Perustelu 3/3 Oletetaan lisäksi, että satunnaismuuttujat X 1, X 2,, X n ovat jatkuvia ja niiden tiheysfunktio on f(x) = F (x) Tällöin satunnaismuuttujan X (1) =min{x 1, X 2,, X n } tiheysfunktio saadaan derivoimalla satunnaismuuttujan X (1) kertymäfunktion lauseke: d n f(1) ( x) = F (1) ( x) = {1 [1 F( x)] } dx n 1 = n[1 F( x)] [ F ( x)] n 1 [1 ( )] ( ) = n F x f x TKK (c) Ilkka Mellin (2004) 112

Satunnaismuuttujien minimin ja maksimin jakaumat Satunnaismuuttujien minimin jakauma: Eksponenttijakauma 1/2 Oletetaan, että riippumattomat satunnaismuuttujat X 1, X 2,, X n noudattavat samaa eksponenttijakaumaa (ks. lukua Jatkuvia jakaumia) parametrinaan λ : X 1, X 2,, X n X i ~ Exp(λ), i = 1, 2,, n Satunnaismuuttujien X 1, X 2,, X n kertymäfunktio: F( x) = 1 e λx Satunnaismuuttujien X 1, X 2,, X n tiheysfunktio: f( x) = F ( x) = e λx λ TKK (c) Ilkka Mellin (2004) 113

Satunnaismuuttujien minimin ja maksimin jakaumat Satunnaismuuttujien minimin jakauma: Eksponenttijakauma 2/2 Määritellään satunnaismuuttuja X (1) =min{x 1, X 2,, X n } Satunnaismuuttujan X (1) kertymäfunktio: λ F ( x) = 1 [1 F( x)] = 1 [1 (1 e )] (1) nλx = 1 e Satunnaismuuttujan X (1) tiheysfunktio: d nλ x f(1) ( x) = F (1) ( x) = (1 e ) dx nλ x = nλe Siten samaa eksponenttijakaumaa Exp(λ) noudattavien satunnaismuuttujien X 1, X 2,, X n minimi X (1) noudattaa eksponenttijakaumaa parametrinaan nλ : X (1) ~ Exp(nλ) n x n TKK (c) Ilkka Mellin (2004) 114

Satunnaismuuttujien minimin ja maksimin jakaumat Satunnaismuuttujien maksimin jakauma 1/2 Oletetaan, että satunnaismuuttujat X 1, X 2,, X n ovat riippumattomia ja noudattavat samaa jakaumaa, jonka kertymäfunktio on F(x): X 1, X 2,, X n X i ~ F(x), i = 1, 2,, n Olkoon satunnaismuuttuja X (n) satunnaismuuttujien X 1, X 2,, X n maksimi: X (n) =max{x 1, X 2,, X n } TKK (c) Ilkka Mellin (2004) 115

Satunnaismuuttujien minimin ja maksimin jakaumat Satunnaismuuttujien maksimin jakauma 2/2 Satunnaismuuttujan X (n) =max{x 1, X 2,, X n } kertymäfunktio on F (n) = [F(x)] n Jos satunnaismuuttujat X 1, X 2,, X n ovat lisäksi jatkuvia ja niiden tiheysfunktio on f(x) = F (x) niin satunnaismuuttujan X (n) =max{x 1, X 2,, X n } tiheysfunktio on f (n) = n[f(x)] n 1 f(x) TKK (c) Ilkka Mellin (2004) 116

Satunnaismuuttujien minimin ja maksimin jakaumat Satunnaismuuttujien maksimin jakauma: Perustelu 1/3 Oletetaan, että Olkoon X 1, X 2,, X n X i ~ F(x), i = 1, 2,, n X (n) = max{x 1, X 2,, X n } TKK (c) Ilkka Mellin (2004) 117

Satunnaismuuttujien minimin ja maksimin jakaumat Satunnaismuuttujien maksimin jakauma: Perustelu 2/3 Soveltamalla kertymäfunktion määritelmää ja satunnaismuuttujien X 1, X 2,, X n riippumattomuutta satunnaismuuttujan X (n) = max{x 1, X 2,, X n } kertymäfunktioksi saadaan: F ( x) = Pr( X x) ( n) ( n) = Pr( X xjax xja jax x) 1 2 = Pr( X x)pr( X x)! Pr( X x) = [ F( x)] 1 2 = F( x) F( x)! F( x) n n n TKK (c) Ilkka Mellin (2004) 118

Satunnaismuuttujien minimin ja maksimin jakaumat Satunnaismuuttujien maksimin jakauma: Perustelu 3/3 Oletetaan lisäksi, että satunnaismuuttujat X 1, X 2,, X n ovat jatkuvia ja niiden tiheysfunktio on f(x) = F (x) Tällöin satunnaismuuttujan X (n) =max{x 1, X 2,, X n } tiheysfunktio saadaan derivoimalla satunnaismuuttujan X (n) kertymäfunktion lauseke: d n f( n) ( x) = F ( n) ( x) = [ F( x)] dx n 1 = nfx [ ( )] F ( x) = nfx f x n 1 [ ( )] ( ) TKK (c) Ilkka Mellin (2004) 119

Satunnaismuuttujien minimin ja maksimin jakaumat Satunnaismuuttujien maksimin jakauma: Eksponenttijakauma 1/2 Oletetaan, että riippumattomat satunnaismuuttujat X 1, X 2,, X n noudattavat samaa eksponenttijakaumaa (ks. lukua Jatkuvia jakaumia) parametrinaan λ : X 1, X 2,, X n X i ~ Exp(λ), i = 1, 2,, n Satunnaismuuttujien X 1, X 2,, X n kertymäfunktio: F( x) = 1 e λx Satunnaismuuttujien X 1, X 2,, X n tiheysfunktio: f( x) = F ( x) = e λx λ TKK (c) Ilkka Mellin (2004) 120

Satunnaismuuttujien minimin ja maksimin jakaumat Satunnaismuuttujien maksimin jakauma: Eksponenttijakauma 2/2 Määritellään satunnaismuuttuja X (n) =max{x 1, X 2,, X n } Satunnaismuuttujan X (n) kertymäfunktio: n x n F ( x) = [ F( x)] = (1 e λ ) ( n) Satunnaismuuttujan X (n) tiheysfunktio: d λx n f( n) ( x) = F ( n) ( x) = (1 e ) dx = nλe (1 e ) λx λx n 1 Siten samaa eksponenttijakaumaan Exp(λ) noudattavien satunnaismuuttujien X 1, X 2,, X n maksimi X (n) ei noudata mitään tavanomaista jakaumaa toisin kuin niiden minimi X (1), joka noudattaa eksponenttijakaumaa parametrinaan nλ. TKK (c) Ilkka Mellin (2004) 121