Todennäköisyyslaskennan ja tilastotieteen peruskurssi Esimerkkikokoelma 3

Todennäköisyyslaskennan ja tilastotieteen peruskurssi Esimerkkikokoelma 3 Aiheet: Satunnaisvektorit ja moniulotteiset jakaumat Tilastollinen riippuvuus ja lineaarinen korrelaatio Satunnaisvektorit ja moniulotteiset todennäköisyysjakaumat Satunnaisvektori on järjestetty lista ( 1,..., n ) reaaliarvoisia perusjoukolla S määriteltyjä satunnaismuuttujia eli mitallinen kuvaus perusjoukosta S n-ulotteiseen reaaliavaruuteen R n. Satunnaisvektorin ( 1,..., n ) jakauma eli satunnaismuuttujien 1,..., n yhteisjakauma B Pr( ( 1,..., n ) B ) kertoo, millä todennäköisyydellä vektori ( 1,..., n ) kuuluu joukkoon B. Satunnaismuuttujien 1,..., n yhteisjakauma on joukon R n todennäköisyysjakauma. hteisjakauman i:s reunajakauma on satunnaismuuttujan i jakauma. Kaksiulotteisen jakauman reunajakaumat Jatkossa rajoitutaan kaksiulotteisiin satunnaisvektoreihin (,), sillä niistä voi puhua ja kirjoittaa ilman hankalia indeksimerkintöjä. Käytännön tilanteissa on helppo päätellä, miten kaksiulotteisille satunnaisvektoreille ja jakaumille johdetut tulokset yleistyvät usampiulotteisiin tapauksiin. Kaksiulotteisen satunnaisvektorin (,) jakauma eli satunnaismuuttujien ja yhteisjakauma B P (B) = Pr( (,) B ) kertoo, millä todennäköisyydellä vektori eli lukupari (,) kuuluu joukkoon B. llä määritelty P on avaruuden R todennäköisyysjakauma. Jakauman P ensimmäinen reunajakauma A P (A R) = Pr( (,) A R ) = Pr( A ) kertoo, millä todennäköisyydellä satunnaisluku kuuluu joukkoon A, ja toinen reunajakauma A P (R A) = Pr( (,) R A) = Pr( A ) kertoo, millä todennäköisyydellä satunnaisluku kuuluu joukkoon A. Satunnaismuuttujien ja jakaumat ovat siis samat kuin yhteisjakauman P reunajakaumat. Diskreettien satunnaismuuttujien yhteisjakauma Satunnaisvektori (,) on diskreetti, jos sen komponentit ovat diskreettejä satunnaismuuttujia eli niiden arvojoukot voidaan numeroida äärellisenä tai äärettömänä listana. Diskreetin satunnaisvektorin (,) jakauma eli satunnaismuuttujien ja yhteisjakauma voidaan määrittää funktiosta käyttämällä kaavaa f (x,y) = Pr(=x, =y) L Leskelä, I Mellin, M Kibble (015) 1/3

Pr((, ) B)) = f(x, y). ( x,y) B llämääritelty funktio f on diskreettien satunnaismuuttujien ja yhteisjakauman pistetodennäköisyysfunktio eli :n ja :n yhteispistetodennäköisyysfunktio. Diskreetin yhteisjakauman reunajakaumat Pistetodennäköisyysfunktion f (x,y) reunapistetodennäköisyysfunktiot määritellään kaavoilla f (x) = f (x, y), y f ( y) = f (x, y). x Jos f on diskreettien satunnaismuuttujien ja yhteispistetodennäköisyysfunktio, niin tällöin sitä vastaavat reunapistetodennäköisyysfunktiot f ja f ovat :n ja :n pistetodennäköisyysfunktiot, eli pätee ja Pr(=x) = f (x) = f (x, y) Pr(=y) = f ( y) = f (x, y). y x Huom. Kahden diskreetin satunnaismuuttujan yhteisjakauma on aina diskreetti Jatkuvien satunnaislukujen yhteisjakauma Satunnaisvektori (,) on jatkuva, jos sen jakauma eli satunnaislukujen ja yhteisjakauma voidaan esittää funktion f (x,y) 0 integraalina avulla muodossa Pr(a b ja c d) = b a d c f (x, y)dy dx Funktio f on satunnaisvektorin (,) tiheysfunktio eli satunnaislukujen ja yhteistiheysfunktio. Jatkuvan yhteisjakauman reunajakaumat Tiheysfunktion f (x,y) reunatiheysfunktiot määritellään kaavoilla ja + f ( x) = f ( x, y) dy f ( y) = f ( x, y) dx. + L Leskelä, I Mellin, M Kibble (015) /3

Jatkuvan satunnaisvektorin (,) komponentit ovat jatkuvia satunnaislukuja. Jos satunnaisluvuilla ja on on yhteistiheysfunktio f, niin tällöin sitä vastaavat reunatiheysfunktiot f ja f ovat :n ja :n tiheysfunktioita. Huom. Toisin kuin diskreetissä tapauksessa, kahden jatkuvan satunnaisluvun yhteisjakauma ei aina ole jatkuva. Satunnaisvektorin kertymäfunktio Kaksiulotteisen satunnaisvektorin (,) kertymäfunktio eli :n ja :n yhteiskertymäfunktio F (, x y) = Pr( x ja y) kertoo todennäköisyyden tapahtumalle: on enintään x ja enintään y. Diskreetin satunnaisvektorin kertymäfunktio Diskreetin satunnaisvektorin (,) kertymäfunktio saadaan määritettyä :n ja :n yhteispistetodennäköisyysfunktiosta kaavalla F ( x, y) Pr( x ja y) f ( x, y ) = =. i i xi x yi y Jatkuvan satunnaisvektorin kertymäfunktio Jatkuvan satunnaisvektorin (,) kertymäfunktio saadaan määritettyä :n ja :n yhteistiheysfunktion avulla kaavasta x y F ( x, y) Pr( x ja y) f ( u, v) dvdu = =. Satunnaismuuttujien tilastollinen riippumattomuus Satunnaismuuttujat ja ovat riippumattomat, jos tapahtumat { A} ja { B} ovat riippumattomat kaikilla A ja B, eli pätee Pr( A, B) = Pr( A) Pr( B). Satunnaislukujen ja riippumattomuus voidaan selvittää yhteiskertymäfunktiosta F (x, y) seuraavasti: ja ovat riippumattomat jos ja vain jos F (x, y) = F (x)f (y) kaikilla x,y, missä F (x) ja F (y) :n ja :n kertymäfunktiot. Diskreettien satunnaismuuttujien ja riippumattomuus voidaan selvittää yhteispistetodennäköisyysfunktiosta f (x, y) seuraavasti: ja ovat riippumattomat jos ja vain jos f (x, y) = f (x)f (y) kaikilla x, y, missä f (x) ja f (y) ovat :n ja :n pistetodennäköisyysfunktiot. L Leskelä, I Mellin, M Kibble (015) 3/3

Jatkuvien satunnaislukujen ja, joilla on yhteistiheysfunktio f (x, y), riippumattomuus voidaan selvittää yhteispistetodennäköisyysfunktiosta f (x, y) seuraavasti: ja ovat riippumattomat jos ja vain jos f (x, y) = f (x)f (y) kaikilla x, y, missä f (x) ja f (y) ovat :n ja :n tiheysfunktiot. Diskreetin satunnaisvektorin muunnoksen odotusarvo Olkoon f (x, y) diskreettien satunnaismuuttujien ja yhteispistetodennäköisyysfunktio ja olkoon g :!! funktio. Tällöin satunnaisluvun g(, ) odotusarvo on E( g (, )) gxyf (, ) ( xy, ) =. x y Jatkuvan satunnaisvektorin muunnoksen odotusarvo Olkoon f (x,y) satunnaismuuttujien ja yhteistiheysfunktio ja olkoon g :!! funktio. Tällöin satunnaisluvun g(,) odotusarvo on + + E( g(, )) g( x, y) f ( x, y) dydx =. Odotusarvo ja riippumattomuus Jos satunnaisluvut ja ovat riippumattomat, niin tulon odotusarvo on odotusarvojen tulo: Huomautus: E( ) = E( ) E( ) = µ µ. Käänteinen ei päde: Siitä, että E( ) = E( ) E( ) = µ µ ei yleisesti seuraa, että satunnaismuuttujat ja ovat riippumattomia. Kovarianssi Olkoot satunnaislukujen ja odotusarvot E( ) = µ E( ) = µ. Satunnaismuuttujien ja kovarianssi on Erityisesti Cov(, ) = σ = E[( µ )( µ )]. L Leskelä, I Mellin, M Kibble (015) 4/3

Cov(, ) = Var( ) = σ Cov(, ) = Var( ) = σ Kovarianssin kaava voidaan kirjoittaa seuraaviin yhtäpitäviin muotoihin: Cov(, ) = E[( µ )( µ )] = E( ) µ µ = E( ) E( ) E( ) Jos diskreeteillä satunnaisluvuilla ja on yhteispistetodennäköisyysfunktio f (x,y),. x y Cov(, ) = ( x µ )( y µ ) f ( xy, ) Jos jatkuvilla satunnaisluvuilla ja on yhteistiheysfunktio f (x,y), + +. Cov(, ) = ( x µ )( y µ ) f ( xydxdy, ) Kovarianssin ominaisuudet Jos Cov(, ) = σ = 0, niin sanomme, että satunnaismuuttujat ja ovat lineaarisesti korreloimattomia. Jos satunnaismuuttujat ja ovat tilastollisesti riippumattomia, niin ne ovat lineaarisesti korreloimattomia. Sen sijaan käänteinen ei päde: Siitä, että satunnaismuuttujat ja ovat lineaarisesti korreloimattomia, ei seuraa, että satunnaismuuttujat ja ovat riippumattomia. Olkoot satunnaismuuttujien ja varianssit ja kovarianssi Tällöin Jos niin Var( ) = σ Var( ) = σ Cov(, ) = σ. Var( ) Var( ) Var( ) Cov(, ) σ σ σ ± = + ± = + ±. Cov(, ) = σ = 0, Var( ) Var( ) Var( ) σ σ ± = + = +. Pearsonin korrelaatiokerroin Olkoon satunnaisluvuilla ja seuraavat odotusarvot, varianssit ja kovarianssi: E( ) = µ Var( ) = D ( ) = σ E( ) = µ Var( ) = D ( ) = σ Cov(, ) = E[( µ )( µ )] = σ L Leskelä, I Mellin, M Kibble (015) 5/3

Satunnaismuuttujien ja Pearsonin korrelaatiokerroin on Cov(, ) Cov(, ) σ Cor(, ) = ρ = = = Var( ) Var( ) D( ) D( ) σ σ Korrelaatiokertoimen ominaisuudet Huomaa, että täsmälleen silloin, kun Jos siis Cor(, ) = ρ = 0 Cov(, ) = σ = 0. Cor(, ) = ρ = 0, niin satunnaismuuttujat ja ovat lineaarisesti korreloimattomia. Olkoon satunnaismuuttujien ja Pearsonin korrelaatiokerroin Cor(, ). Tällöin (i) 1 Cor(, ) + 1 (ii) Jos satunnaismuuttujat ja ovat riippumattomia, niin Cor(, ) = 0 (iii) Cor(, ) =± 1 jos ja vain jos = α + β, missä α ja β ovat reaalisia vakioita ja β 0. Lisäksi vakion β merkki on sama kuin korrelaation Cor(, ) merkki. Siten Pearsonin korrelaatiokerroin ρ mittaa satunnaismuuttujien ja lineaarisen riippuvuuden voimakkuutta: Mitä suurempi on korrelaatiokertoimen itseisarvo ρ, sitä voimakkaammin satunnaismuuttujat ja riippuvat lineaarisesti toisistaan. Lineaarimuunnokset ja kaksiulotteisen jakauman tunnusluvut Olkoot satunnaismuuttujilla ja seuraavat odotusarvot, varianssit ja kovarianssi: Olkoot W = a+ b Z = c+ d E( ) = µ Var( ) = σ E( ) = µ Var( ) = σ Cov(, ) = E[( µ )( µ )] = σ L Leskelä, I Mellin, M Kibble (015) 6/3

missä a, b, c, d ovat reaalisia vakioita. Tällöin E( W) = a+ be( ) = a+ bµ E( Z) = c+ de( ) = c+ dµ Var( W) = b Var( ) = b σ Var( Z) = d Var( ) = d σ Cov( W, Z) = bdcov(, ) = bdσ Cor( W, Z) = sgn( bd)cor(, ) = sgn( bd) ρ Ehdolliset jakaumat Olkoon satunnaismuuttujien ja yhteistiheysfunktio (vast. yhteispistetodennäköisyysfunktio) f (x, y) ja satunnaismuuttujien ja tiheysfunktiot (pistetodennäköisyysfunktiot) f (x) ja f (x). Satunnaismuuttujan ehdollinen tiheysfunktio (vast. pistetodennäköisyysfunktio) satunnaismuuttujan suhteen (ehdolla = y) on f ( x, y) f ( x y) =, jos f ( y) 0 f ( y) >. Ehdolliset jakaumat ja riippumattomuus Jos ja ovat riippumattomat, satunnaismuuttujan ehdollinen jakauma :n suhteen yhtyy satunnaismuuttujan jakaumaan: f ( x y) = f ( x), jos f ( y) > 0. Diskreetin satunnaisvektorin ehdolliset odotusarvot Olkoot satunnaismuuttujat ja diskreettejä. Satunnaismuuttujan ehdollinen odotusarvo satunnaismuuttujan suhteen (ehdolla =y) on ehdollisen jakauman odotusarvo E( y) xf ( xy) = =. Jatkuvan satunnaisvektorin ehdolliset odotusarvot Olkoon (,) jatkuva satunnaisvektori. x Satunnaismuuttujan ehdollinen odotusarvo satunnaismuuttujan suhteen (ehdolla =y) on ehdollisen jakauman odotusarvo + E( = y) = xf ( x y) dx. Ehdolliset odotusarvot ja riippumattomuus Jos ja ovat riippumattomat, ehdolliset odotusarvot yhtyvät tavallisiin odotusarvoihin. Jos siis ja ovat riippumattomat, niin L Leskelä, I Mellin, M Kibble (015) 7/3

Regressiofunktiot E( = y) = E( ) E( = x) = E( ) Tarkastellaan satunnaisluvun ehdollista odotusarvoa E( = y) ehtomuuttujan arvojen y funktiona. Tätä funktiota kutsutaan :n regressiofunktioksi ehtomuuttujan suhteen. llämääritelty regressiofunktio määrittelee regressiokäyrän x= g ( ) E( ) y y = = y. Moniulotteisia jakaumia Kaksiulotteinen normaalijakauma Jatkuva satunnaisvektori (, ) noudattaa kaksiulotteista normaalijakaumaa, jos sen tiheysfunktio on missä ja Merkintä: 1 1 f(, x y) = exp Q(, x y), πσ 1 (1 ) σ ρ ρ x µ x µ y µ y µ Qxy (, ) = ρ + σ σ σ σ < µ <+ σ > 0 < µ <+ σ > 0 1 ρ + 1 (, ): ( µ, µ, σ, σ, ρ) llämääritelty funktio Q(x, y) määrää tiheysfunktion tasa-arvokäyrät. Kaikki tasa-arvokäyrät ovat ellipsejä, joiden yhtälöt voidaan ilmaista muodossa missä c on vakio. x µ x µ y µ y µ Qxy (, ) = ρ + = c σ σ σ σ Kaksiulotteisen normaalijakauman tiheysfunktion parametreina ovat satunnaismuuttujien ja odotusarvot, varianssit ja korrelaatio: Satunnaismuuttujien ja odotusarvot ovat µ = E( ) µ = E( ) satunnaismuuttujien ja varianssit ovat L Leskelä, I Mellin, M Kibble (015) 8/3

σ = Var( ) = E ( µ ) σ = Var( ) = E ( µ ) ja satunnaismuuttujien ja Pearsonin korrelaatiokerroin on missä ρ σ = Cor(, ) =, σ σ [ ] σ = Cov(, ) = E ( µ )( µ ) on satunnaismuuttujien ja kovarianssi. Kaksiulotteista normaalijakaumaa noudattavan satunnaisvektorin (, ) odotusarvovektori on µ µ = µ ja kovarianssimatriisi on Σ σ σ σ ρσσ = σ σ = ρσσ σ. Kaksiulotteisen normaalijakauman reunajakaumat ovat yksiulotteisia normaalijakaumia: : : N( µ, σ) N( µ, σ) Kaksiulotteisen normaalijakauman tapauksessa satunnaismuuttujien ja lineaarisesti korreloimattomuudesta seuraa niiden riippumattomuus. Muista, että riippumattomuudesta aina seuraa korreloimattomuus, mutta yleisesti käänteinen ei päde. Kaksiulotteisen normaalijakauman ehdolliset jakaumat ovat yksiulotteisia normaalijakaumia: Ehdollinen odotusarvo ( ) : N( µ + β ( y µ ), σ (1 ρ)), β = ρ ( ) : N( + ( x ), (1 )), = σ σ σ µ β µ σ ρ β ρ σ E( = y) = µ + β ( y µ ) on muuttujan regressiofunktio muuttujan suhteen. lläolevan funktion määrittämän suoran σ kulmakerroin on β = ρ ja suora kulkee pisteen (µ, µ ) kautta. σ Huomaa, että regressiosuorien kulmakertoimet β ja β toteuttavat yhtälön β β = ρ. L Leskelä, I Mellin, M Kibble (015) 9/3

Kaksiulotteisen normaalijakauman tapauksessa satunnaismuuttujien ja Pearsonin korrelaatiokerroin on σ σ σ = ρ = ρ = σ σ σ ja ehdolliset varianssit ovat σ = σ (1 ρ ) σ = σ (1 ρ ) L Leskelä, I Mellin, M Kibble (015) 10/3

Esimerkki 6.1 Heitetään kahta symmetristä noppaa ja määritellään satunnaismuuttujat Määrää: (a) (b) (c) (d) (e) = 1. nopan heiton tulos =. nopan heiton tulos Z = Satunnaismuuttujien ja Z yhteisjakauma. Satunnaismuuttujien ja Z jakaumat. Satunnaismuuttujan Z odotusarvo. Satunnaismuuttujan Z varianssi. Satunnaismuuttujien ja Z kovarianssi. (f) Satunnaismuuttujan Z ehdollinen jakauma ehdolla =. (g) Satunnaismuuttujan ehdollinen jakauma ehdolla Z = 3. (h) Satunnaismuuttujan Z ehdollinen odotusarvo ehdolla. Esimerkki 6.1 Mitä opimme? Esimerkissä 6.1. tarkastellaan diskreettien satunnaismuuttujien yhteisjakaumaa, tunnuslukuja sekä ja ehdollisia jakaumia. Esimerkki 6.1 Ratkaisu (a) Satunnaismuuttujien ja pistetodennäköisyysfunktiot f (i) = Pr( = i), i = 1,, 3, 4, 5, 6 f (i) = Pr( = i), i = 1,, 3, 4, 5, 6 voidaan esittää seuraavana taulukkona: i 1 3 4 5 6 f (i) 1/6 1/6 1/6 1/6 1/6 1/6 f (i) 1/6 1/6 1/6 1/6 1/6 1/6 Määritetään seuraavaksi heittotulosten erotuksen Z = jakauma. Satunnaismuuttujan Z mahdolliset arvot ovat 5, 4, 3,, 1, 0, +1, +, +3, +4, +5 Muodostetaan aputaulukko, joka esittää kaikkia mahdollisia tapoja, joilla erotuksen Z = mahdolliset arvot voivat syntyä: L Leskelä, I Mellin, M Kibble (015) 11/3

Erotus Tulos 1. nopan heitosta = Z = 1 3 4 5 6 1 0 1 3 4 5 Tulos 1 0 1 3 4. nopan 3 1 0 1 3 heitosta 4 3 1 0 1 = 5 4 3 1 0 1 6 5 4 3 1 0 Satunnaismuuttujan Z = pistetodennäköisyysfunktio f Z (k) = Pr(Z = k), k = 5, 4, 3,, 1, 0, +1, +, +3, +4, +5 voidaan lukea suoraan tästä aputaulukosta. Tulos voidaan esittää seuraavana taulukkona: k 5 4 3 1 0 1 3 4 5 f Z (k) 1/36 /36 3/36 4/36 5/36 6/36 5/36 4/36 3/36 /36 1/36 Esimerkiksi 3 voi tulla erotuksen Z = arvoksi täsmälleen kolmella eri tavalla: Tapaus 1: = 1, = 4, Z = = 3 Tapaus : =, = 5, Z = = 3 Tapaus 3: = 3, = 6, Z = = 3 L Leskelä, I Mellin, M Kibble (015) 1/3

Satunnaismuuttujien ja Z = yhteispistetodennäköisyysfunktio f Z (i, k) = Pr( = i ja Z = k) voidaan esittää seuraavana taulukkona: f Z (i, k) Tulos 1. nopan heitosta = = i 1 3 4 5 6 5 0 0 0 0 0 1/36 4 0 0 0 0 1/36 1/36 3 0 0 0 1/36 1/36 1/36 0 0 1/36 1/36 1/36 1/36 Z 1 0 1/36 1/36 1/36 1/36 1/36 = 0 1/36 1/36 1/36 1/36 1/36 1/36 = k 1 1/36 1/36 1/36 1/36 1/36 0 1/36 1/36 1/36 1/36 0 0 3 1/36 1/36 1/36 0 0 0 4 1/36 1/36 0 0 0 0 5 1/36 0 0 0 0 0 Esimerkiksi f Z (, 4) = Pr( = ja Z = 4) = 0, koska silmälukujen erotukseksi ei voi tulla 4, jos 1. nopalla on saatu silmäluku. Edelleen f Z (3, 1) = Pr( = 3 ja Z = 1) = 1/36, koska tulos { = 3 ja Z = 1} voi syntyä täsmälleen yhdellä tavalla: = 3 ja = 4. L Leskelä, I Mellin, M Kibble (015) 13/3

(b) Satunnaismuuttujien ja Z jakaumat saadaan laskemalla yhteisjakaumaa kuvaavan taulukon rivi- ja sarakesummat: f Z (i,k) Tulos 1. nopan heitosta = = i 1 3 4 5 6 Summa 5 0 0 0 0 0 1/36 1/36 4 0 0 0 0 1/36 1/36 /36 3 0 0 0 1/36 1/36 1/36 3/36 0 0 1/36 1/36 1/36 1/36 4/36 Z 1 0 1/36 1/36 1/36 1/36 1/36 5/36 = 0 1/36 1/36 1/36 1/36 1/36 1/36 6/36 = k 1 1/36 1/36 1/36 1/36 1/36 0 5/36 1/36 1/36 1/36 1/36 0 0 4/36 3 1/36 1/36 1/36 0 0 0 3/36 4 1/36 1/36 0 0 0 0 /36 5 1/36 0 0 0 0 0 1/36 Summa 1/6 1/6 1/6 1/6 1/6 1/6 1 (c) Satunnaismuuttujan odotusarvo on 6 1 1 1 E( ) = ipr( = i) = i = (1 + + 3+ 4 + 5 + 6) = = 3.5 6 6 6. i i= 1 Vastaavasti satunnaismuuttujan odotusarvo on E() = 1/6 = 3.5. leisesti pätee: E( ) = E() E(). Siten erotuksen Z = odotusarvo on E(Z) = E( ) = E() E() = 0. (d) Satunnaismuuttujan toinen momentti on 6 1 1 91 E( ) = i Pr( = i) = i = (1 + + 3 + 4 + 5 + 6 ) = = 15.17 6 6 6. i i= 1 Koska (c)-kohdan mukaan E() = 1/6 = 3.5, niin satunnaismuuttujan varianssi on L Leskelä, I Mellin, M Kibble (015) 14/3

91 1 35 Var( ) = E[ E( )] = E( ) [E( )] =.917 6 = = 6. 1 Vastaavasti satunnaismuuttujan varianssi on Var() = 35/1 =.917. Koska satunnaismuuttujat ja ovat riippumattomat, niin Var(Z) = Var( ) = Var() + Var() = 35/6 = 5.833. (e) Todistetaan ensin seuraava aputulos: Cov(, ) = Var() Cov(, ) Koska kovarianssi ja varianssi ovat invariantteja siirron suhteen eli ja Cov(U + a, V + b) = Cov(U, V) Var(U + a) = Var(U) kaikille reaalisille vakioille a ja b, niin voimme olettaa todistuksen yleisyyden kärsimättä, että Siten E() = E() = 0. Cov(, ) = E[( )] = E[ ] = E( ) E() = Var() Cov(, ). Koska satunnaismuuttujat ja ovat tässä riippumattomia, niin Cov(, ) = 0. Siten satunnaismuuttujien ja Z = kovarianssiksi saadaan Cov(, Z) = Var() = 35/1 =.917. (f) Satunnaismuuttujan Z ehdollisten jakaumien, kun ehtomuuttujana on, pistetodennäköisyysfunktiot saadaan kaavalla f Z (k i) = f Z (i,k) f (i), i =1,,,6, k = 5, 4,,4,5 L Leskelä, I Mellin, M Kibble (015) 15/3

Ehdollisten jakaumien pistetodennäköisyysfunktiot voidaan esittää seuraavana taulukkona, jossa ehdolliset jakaumat ovat sarakkeina: f Z (k i) Tulos 1. nopan heitosta = = i 1 3 4 5 6 5 0 0 0 0 0 1/6 4 0 0 0 0 1/6 1/6 3 0 0 0 1/6 1/6 1/6 0 0 1/6 1/6 1/6 1/6 Z 1 0 1/6 1/6 1/6 1/6 1/6 = 0 1/6 1/6 1/6 1/6 1/6 1/6 = k 1 1/6 1/6 1/6 1/6 1/6 0 1/6 1/6 1/6 1/6 0 0 3 1/6 1/6 1/6 0 0 0 4 1/6 1/6 0 0 0 0 5 1/6 0 0 0 0 0 Lihavoitu sarake taulukossa esittää satunnaismuuttujan Z = ehdollista jakaumaa ehdolla =. Esimerkiksi, jos x = ja z = 4, niin f Z (4 ) = f Z (,4) f () = 0 1 6 = 0. Edelleen, jos x = ja z =, niin f Z ( ) = f Z (, ) f () = 1 36 1 6 = 1 6. Ehdolliset pistetodennäköisyydet saadaan jakamalla (b)-kohdassa esitetyn taulukon solutodennäköisyydet satunnaismuuttujan pistetodennäköisyyksillä. (g) Satunnaismuuttujan ehdollisten jakaumien, kun ehtomuuttujana on Z, pistetodennäköisyysfunktiot, saadaan kaavalla f Z (i k) = f Z (i,k) f Z (k), i =1,,,6, k = 5, 4,,4,5 Ehdollisten jakaumien pistetodennäköisyysfunktiot voidaan esittää seuraavana taulukkona, jossa ehdolliset jakaumat ovat riveinä: L Leskelä, I Mellin, M Kibble (015) 16/3

f Z(i k) 1. nopan heiton tulos = i 1 3 4 5 6 Summa 5 0 0 0 0 0 1 1 4 0 0 0 0 1/ 1/ 1 3 0 0 0 1/3 1/3 1/3 1 0 0 1/4 1/4 1/4 1/4 1 Z 1 0 1/5 1/5 1/5 1/5 1/5 1 = 0 1/6 1/6 1/6 1/6 1/6 1/6 1 = k 1 1/5 1/5 1/5 1/5 1/5 0 1 1/4 1/4 1/4 1/4 0 0 1 3 1/3 1/3 1/3 0 0 0 1 4 1/ 1/ 0 0 0 0 1 5 1 0 0 0 0 0 1 Lihavoitu rivi taulukossa esittää satunnaismuuttujan ehdollista jakaumaa ehdolla Z = 3. Esimerkiksi, jos x = ja z = 4, niin f Z ( 4) = f Z (,4) f Z (4) = 0 36 = 0. Edelleen, jos x = ja z =, niin f Z ( ) = f Z (, ) f Z ( ) = 1 36 4 36 = 1 4. Ehdollisten jakaumien pistetodennäköisyydet saadaan jakamalla (b)-kohdassa esitetyn taulukon solutodennäköisyydet satunnaismuuttujan Z pistetodennäköisyyksillä. (h) Kohdan (f) taulukosta (laskemalla tai symmetria-argumentin perusteella) saadaan satunnaismuuttujan Z ehdolliset odotusarvot satunnaismuuttujan suhteen E(Z =i) = zf Z (k i) helposti esitettyä seuraavana taulukkona: = i 1 3 4 5 6 E(Z = i).5 1.5 0.5 0.5 1.5.5 Esimerkiksi, jos =, niin L Leskelä, I Mellin, M Kibble (015) 17/3

5 1 1 3 E( Z = ) = kpr( Z = k = ) = k = = 1.5 6. k= 5 k= 4 Esimerkki 6. Olkoon satunnaismuuttujien ja yhteisjakauman pistetodennäköisyysfunktio Määrää: (a) (b) (c) (d) (e) Pr( = = 3) = Pr( = 1 = 1) = Pr( = 1 = 1) = Pr( = 1 = ) = 1/4. Satunnaismuuttujien ja jakaumat. Satunnaismuuttujien ja odotusarvot, varianssit ja keskihajonnat. Satunnaismuuttujien ja kovarianssi. Satunnaismuuttujien ja Pearsonin korrelaatiokerroin. Satunnaismuuttujan ehdolliset jakaumat. (f) Satunnaismuuttujan ehdollinen odotusarvo ehdolla. Esimerkki 6. Mitä opimme? Esimerkissä 6. tarkastellaan diskreettien satunnaismuuttujien yhteisjakaumaa, ehdollisia jakaumia sekä tunnuslukuja. Esimerkki 6. Ratkaisu (a) Satunnaismuuttujien ja yhteispistetodennäköisyysfunktio f (x, y) = Pr( = x ja = y) voidaan esittää seuraavana taulukkona: f (x, y) y x 1 1 3 0 0 1/4 1 1/4 1/4 0 1/4 0 0 Satunnaismuuttujien ja jakaumien f (x) = Pr( = x) = y f (x, y) f (y) = Pr( = y) = x f (x, y) pistetodennäköisyysfunktiot saadaan yhteispistetodennäköisyysfunktiota esittävästä taulukosta rivi- ja sarakesummina: L Leskelä, I Mellin, M Kibble (015) 18/3

f (x, y) x f (y) 1 1 3 0 0 1/4 1/4 y 1 1/4 1/4 0 1/ 1/4 0 0 1/4 f (x) 1/ 1/4 1/4 1 (b) Satunnaismuuttujan odotusarvo on 1 1 1 1 E( ) = xpr( = x) = 1 + 1 + = = 0.5. 4 4 4 x Satunnaismuuttujan toinen momentti on 1 1 1 7. 4 4 4 E( ) = x Pr( = x) = ( 1) + 1 + = = 1.75 x Satunnaismuuttujan varianssi on 7 1 7 Var( ) = D ( ) = E[ E( )] = E( ) [E( )] = 1.6875 4 = = 4. 16 Satunnaismuuttujan keskihajonta on 7 D( ) = = 1.990. 16 Satunnaismuuttujan odotusarvo on 1 1 1 3 E( ) = ypr( = y) = + 1 + 3 = = 0.75. 4 4 4 y Satunnaismuuttujan toinen momentti on 1 1 1 15. 4 4 4 E( ) = y Pr( = y) = ( ) + 1 + 3 = = 3.75 y Satunnaismuuttujan varianssi on 15 3 51 Var( ) = D ( ) = E[ E( )] = E( ) [E( )] = 3.1875 4 = = 4. 16 L Leskelä, I Mellin, M Kibble (015) 19/3

Satunnaismuuttujan keskihajonta on 51 D( ) = = 1.7854. 16 (c) Määrätään ensin E( ) = xy Pr( = x, = y) x y 1 1 1 1 = ( 1) ( ) + ( 1) 1 + 1 1 + 3 = 4 4 4 4 Satunnaismuuttujien ja kovarianssi on Cov(, ) = E[( E( ))( E( ))] = E( ) E( ) E( ) 1 3 9 = = = 1.815 4 4 16 (d) Satunnaismuuttujien ja Pearsonin korrelaatiokerroin on 9 Cov(, ) 16 9 9 Cor(, ) = 0.78150 D( ) D( ) = 7 51 = 7 51 = 9 17 =. 16 16 (e) Muodostetaan satunnaismuuttujan ehdollisten jakaumien pistetodennäköisyysfunktiot, kun ehtomuuttujana on : f ( y x) = f ( y, x). f (x) x = 1: y 1 3 f (y -1) 1/ 1/ 0 x = 1: y 1 3 f (y 1) 0 1 0 L Leskelä, I Mellin, M Kibble (015) 0/3

x = : y 1 3 f (y ) 0 0 1 Ehdollisten jakaumien pistetodennäköisyydet saadaan jakamalla (a)-kohdassa esitetyn taulukon solutodennäköisyydet satunnaismuuttujan pistetodennäköisyyksillä. (f) Ehdolliset odotusarvot E( = x) = yf (y x) saadaan kohdasta (e): x 1 1 E( = x) 1/ 1 3 Esimerkiksi: 1 1 1 E( = 1) = ypr( = y = 1) = + 1 + 3 0 =. y Esimerkki 6.3 Olkoon satunnaismuuttujilla ja yhteistiheysfunktio f(x, y) = C(x + y), 0 x 1, 0 y 1, missä C on vakio. Määrää: (a) Vakio C. (b) Pr( ) (c) (d) (e) Satunnaismuuttujien ja jakaumat. Ovatko ja riippumattomia? Satunnaismuuttujan ehdollinen tiheysfunktio :n suhteen. Ehdollinen odotusarvo E( ). Esimerkki 6.3 Mitä opimme? Esimerkissä 6.3 tarkastellaan jatkuvien satunnaismuuttujien yhteisjakaumaa, ehdollisia jakaumia sekä tunnuslukuja. L Leskelä, I Mellin, M Kibble (015) 1/3

Esimerkki 6.3 Ratkaisu (a) Koska kaikille jatkuvien kaksiulotteisten jakaumien tiheysfunktioille f (x, y) pätee + + f ( x, y) dydx 1, niin saamme vakion C määräämiseksi yhtälön 1 1 1 1 1 C ( x + y) dydx = C xy + y dx 0 0 0 1 0 1 = C x + dx 1 1 = + C x x 1 1 = C + = C = 1 Ratkaisuksi saadaan C = 1. Siten satunnaismuuttujien ja yhteistiheysfunktio on f(x, y) = x + y, 0 x 1, 0 y 1. 1 0 0 (b) Integroimalla saadaan: ( ) 1 x Pr = ( x + y) dydx 0 0 1 0 1 0 1 0 x 1 xy y dx = + 1 = + = 3 0 x x dx x dx 1 3 = x = 1 1 0 (c) Satunnaismuuttujan tiheysfunktio on yhteistiheysfunktion reunatiheysfunktio + 1 1 f( x) f( x, y) dy ( x y) dy xy y x 0 0 1 1 = = + = + = +. L Leskelä, I Mellin, M Kibble (015) /3

Vastaavalla tavalla satunnaismuuttujan tiheysfunktioksi saadaan 1 f ( y) = y+. Satunnaismuuttujat ja eivät ole riippumattomia, koska 1 1 1 f( x) f( y) = xy+ x+ y+ x+ y = f( x, y). 4 (d) Satunnaismuuttujan ehdollinen tiheysfunktio :n suhteen on f (x y) = f (x, y) (x + y) = f ( y) y +1. Satunnaismuuttujan ehdollinen tiheys ehdolla = y riippuu y:stä, jolloin esimerkiksi myös sen ehdollinen odotusarvo riippuu y:stä. Tämä on ymmärrettävää, koska satunnaismuuttujat ja eivät ole riippumattomia. (e) Satunnaismuuttujan ehdollinen odotusarvo, kun ehtomuuttujana on, on + 1 (x + y) E( ) = xf (x y)dx = x (y +1) dx = y +1 1 0 0 (x + xy) dx $ 1 = y +1 3 x3 + 1 ' & x y) % ( 1 0 1 3y + = 3 y + 1 Satunnaismuuttujan ehdollinen odotusarvo ehdolla = y eli satunnaismuuttujan regressiofunktio :n suhteen riippuu y:stä. Tämä on ymmärrettävää, koska ja eivät ole riippumattomia. Esimerkki 6.4 Olkoon diskreetin satunnaisvektorin (,) pistetodennäköisyysfunktio (a) (b) Pr( = +1, = 0) = Pr( = 0, = +1) = Pr( = 1, = 0) = Pr( = 0, = 1) = 1/4. Ovatko ja lineaarisesti korreloituneet? Ovatko ja tilastollisesti riippuvat? Selitä saamasi tulos. Esimerkki 6.4 Mitä opimme? Riippumattomat satunnaismuuttujat ovat aina lineaarisesti korreloimattomia, mutta lineaarisesta korreloimattomuudesta ei välttämättä seuraa tilastollinen riippumattomuus. L Leskelä, I Mellin, M Kibble (015) 3/3

Esimerkki 6.4 Ratkaisu Satunnaisvektorin (,) pistetodennäköisyysfunktio f (x, y) = Pr( = x ja = y) voidaan esittää seuraavana taulukkona: p xy 1 0 1 p. y 1 0 1/4 0 1/4 0 1/4 0 1/4 1/ 1 0 1/4 0 1/4 p x. 1/4 1/ 1/4 1 (a) (b) Todetaan ensin, että E() = E() = 0. Siten satunnaismuuttujien ja kovarianssi on Cov(, ) = ( x E( ))( y E( )) Pr( = x, = y) x y = xy Pr( = x, = y) x y 1 = [ ( + 1) 0 + 0 ( + 1) + ( 1) 0 + 0 ( 1) ] = 0 4 Koska kovarianssi on nolla, on myös :n ja :n Pearsonin korrelaatiokerron nolla. Satunnaismuuttujat ja ovat siten lineaarisesti korreloimattomia. ja ovat silti tilastollisesti riippuvat, koska esimerkiksi Pr(=1,=1) = 0 mutta Pr(=1)Pr(=1) = 1/16. Selitys: Tilastollisesti riippumattomat satunnaismuuttujat ovat aina lineaarisesti korreloimattomia, mutta myös tilastollisesti riippuvat satunnaismuuttujat voivat olla lineaarisesti korreloimattomia, jos satunnaismuttujien välinen riippuvuus on luonteeltaa epälineaarista. Tämän tehtävän tapauksessa satunnaisvektorin (,) arvot ovat yksikköympyrän x + y = 1 kehällä. Esimerkki 6.5 Oletetaan, että satunnaisvektori (, ) noudattaa kaksiulotteista normaalijakaumaa seuraavin parametrein: L Leskelä, I Mellin, M Kibble (015) 4/3

E( ) = 1 E( ) =+ 1 Var( ) = 4 Var( ) = 5 Cov(, ) = 5 Määrää: (a) Satunnaismuuttujien ja jakaumat. (b) Pearsonin korrelaatio Cor(, ). (c) Satunnaismuuttujan ehdollinen jakauma :n suhteen. (d) Satunnaismuuttujan ehdollinen jakauma :n suhteen. Esimerkki 6.5 Mitä opimme? Esimerkissä 6.5 tarkastellaan kaksiulotteisen normaalijakauman ominaisuuksia. Esimerkki 6.5 Ratkaisu Oletuksen mukaan E( ) = µ = 1 E( ) = µ =+ 1 Var( ) = D ( ) = σ = 4 Var( ) = D ( ) = σ = 5 Cov(, ) = σ = 5 L Leskelä, I Mellin, M Kibble (015) 5/3

(a) Koska satunnaisvektori (, ) noudattaa kaksiulotteista normaalijakaumaa, niin satunnaismuuttujien ja jakaumat ovat normaalijakautuneita: missä ja missä ~ N(E(), Var()) E( ) = µ = 1 Var( ) = D ( ) = σ = 4 ~ N(E(), Var()) E( ) = µ =+ 1 Var( ) = D ( ) = σ = 5 (b) Määritelmän mukaan satunnaismuuttujien ja Pearsonin korrelaatiokerroin on ρ Cov(, ) σ 5 1 = Cor(, ) = = = = = 0.5 D( ) D( ) σ σ 5 (c) Koska satunnaisvektori (, ) noudattaa kaksiulotteista normaalijakaumaa, niin satunnaismuuttujan ehdollinen jakauma :n suhteen on normaalijakauma: ~ N(E( ), Var( )). Kaksiulotteisen normaalijakauman tapauksessa satunnaismuuttujan ehdollinen odotusarvo on ehtomuuttujan arvojen funktiona lineaarinen: σ 1 1 4 E( = y) = µ + ρ ( y µ ) = 1 ( y 1) = y. σ 5 5 5 Vaikka satunnaismuuttujan ehdollinen odotusarvo :n suhteen riippuu ehtomuuttujan arvoista (koska ρ 0), niin satunnaismuuttujan ehdollinen varianssi :n suhteen ei riipu ehtomuuttujan arvoista: " " Var( = y) = (1 ρ )σ = 1 $ 1% % $ $ # & ' ' ' 4 = 3 # & 4 4 = 3. (d) Koska satunnaisvektori (, ) noudattaa kaksiulotteista normaalijakaumaa, niin satunnaismuuttujan ehdollinen jakauma :n suhteen on normaalijakauma: ~ N(E( ), Var( )) Kaksiulotteisen normaalijakauman tapauksessa :n ehdollinen odotusarvo :n suhteen on :n arvojen funktiona lineaarinen: σ 1 5 5 1 E( = x) = µ + ρ ( x µ ) = 1 ( x+ 1) = x. σ 4 4 L Leskelä, I Mellin, M Kibble (015) 6/3

Vaikka satunnaismuuttujan ehdollinen odotusarvo :n suhteen riippuu ehtomuuttujan arvoista (koska ρ 0), niin satunnaismuuttujan ehdollinen varianssi ei riipu ehtomuuttujan arvoista: " " Var( = x) = (1 ρ )σ = 1 $ 1% % $ $ # & ' ' ' 5 = 3 # & 4 5 = 75 4 =18.75. Esimerkki 6.6 Oletetaan, että satunnaisvektori (, ) noudattaa kaksiulotteista normaalijakaumaa parametrein Määrää: (a) (b) (c) E( ) = E( ) = 5 Var( ) = 5 Var( ) = 4 Cov(, ) = 8 Pearsonin korrelaatiokerroin Cor(, ). Satunnaismuuttujan ehdollinen odotusarvo :n suhteen. Satunnaismuuttujan ehdollinen varianssi :n suhteen. Esimerkki 6.6 Mitä opimme? Esimerkissä 6.6 tarkastellaan kaksiulotteisen normaalijakauman ominaisuuksia. Esimerkki 6.6 Ratkaisu (a) Satunnaismuuttujien ja Pearsonin korrelaatiokerroin on ρ Cov(, ) σ 8 4 = Cor(, ) = = = = = 0.8. D( ) D( ) σ σ 5 5 (b) Satunnaismuuttujan ehdollinen odotusarvo, kun ehtomuuttujana on, on σ 4 8 109 E( = x) = µ + ρ ( x µ ) = 5 + ( x ) = x+. σ 5 5 5 5 Satunnaismuuttujan ehdollinen odotusarvo :n suhteen on lineaarinen. L Leskelä, I Mellin, M Kibble (015) 7/3

(c) Satunnaismuuttujan ehdollinen varianssi, kun ehtomuuttujana on, on " " Var( = y) = (1 ρ )σ = 1 $ 4% % $ $ # 5& ' ' ' 5 = 9 5 = 9. # & 5 Satunnaismuuttujan ehdollinen varianssi ei riipu ehtomuuttujan arvoista. Esimerkki 6.7 Oletetaan, että satunnaisvektori (, ) noudattaa kaksiulotteista normaalijakaumaa parametrein (a) (b) (c) µ = E( ) = 1 µ = E( ) = 1 σ = Var( ) = 1 σ = Var( ) = 1 ρ = Cor(, ) = 0.8 Määritä satunnaisvektorin (, ) kovarianssimatriisi. Määritä satunnaismuuttujien ja jakaumat. Määritä satunnaismuuttujien ja ehdolliset jakaumat toistensa suhteen. Esimerkki 6.7. Mitä opimme? Esimerkissä 6.7 tarkastellaan kaksiulotteisen normaalijakauman ominaisuuksia. Esimerkki 6.7 Ratkaisu (a) Koska satunnaismuuttujien ja kovarianssi on σ = ρσσ = 0.8 1 1 = 0.8, niin satunnaisvektorin (, ) kovarianssimatriisi on! σ σ $ # & "# σ σ %& =! 1 0.8 $ "# 0.8 1 %&. (b) Satunnaismuuttujien ja jakaumat ovat yksiulotteisia normaalijakaumia: : : N( µ, σ) = N( 1,1) N( µ, σ) = N(1,1) (c) Satunnaismuuttujan ehdollinen jakauma :n suhteen on yksiulotteinen normaalijakauma: Koska ( ) : N( µ + β ( x µ ), σ(1 ρ)), β = σρ / σ β = σ ρ /σ = 1 0.8/1 = 0.8, L Leskelä, I Mellin, M Kibble (015) 8/3

niin Lisäksi E( ) = µ + β ( x µ ) = 1+ 0.8 ( x 1). σ = σ (1 ρ ) = 1 (1 0.8 ) = 0.36. Satunnaismuuttujan ehdollinen jakauma :n suhteen on yksiulotteinen normaalijakauma: Koska niin Lisäksi ( ) : N( µ + β ( y µ ), σ (1 ρ)), β = σ ρ / σ β = σ ρ /σ = 1 0.8/1 = 0.8, E( ) = µ + β ( y µ ) = 1+ 0.8 ( y+ 1). σ = σ (1 ρ ) = 1 (1 0.8 ) = 0.36. Ehdollinen odotusarvo E( ) määrää suoran y= µ + β ( x µ ) = 0.8x 1.8 Ehdollinen odotusarvo E( ) määrää suoran x= µ + β ( y µ ) = 0.8y+ 1.8 Molemmat suorat kulkevat pisteen kautta. (µ, µ ) = (+1, 1) Esimerkki 6.8 Oletetaan, että satunnaisvektori (, ) noudattaa kaksiulotteista normaalijakaumaa. Olkoon 5y = 6x 17 satunnaismuuttujan regressiosuora satunnaismuuttujan suhteen ja 15x= 8y+ 38 satunnaismuuttujan regressiosuora satunnaismuuttujan suhteen. (a) Määrää satunnaismuuttujien ja odotusarvot. (b) Määrää satunnaismuuttujien ja Pearsonin korrelaatiokerroin. L Leskelä, I Mellin, M Kibble (015) 9/3

(c) (d) Määrää satunnaismuuttujan ehdollinen varianssi satunnaismuuttujan arvojen suhteen, jos satunnaismuuttujan varianssi on 9. Määrää satunnaismuuttujan varianssi ja ehdollinen varianssi satunnaismuuttujan arvojen suhteen, jos satunnaismuuttujan varianssi on 9. Esimerkki 6.8 Mitä opimme? Esimerkissä 6.8 tarkastellaan kaksiulotteisen normaalijakauman ominaisuuksia. Esimerkki 6.8 Ratkaisu (a) Koska sekä satunnaismuuttujan regressiosuora :n suhteen että satunnaismuuttujan regressiosuora :n suhteen kulkevat odotusarvojen E() = µ E() = µ määräämän pisteen (µ, µ ) kautta, saadaan odotusarvot määräämällä suorien 5y = 6x 17 15x= 8y+ 38 leikkauspiste. Tämä piste on (, 1), joten E() = µ = 1, E() = µ =. L Leskelä, I Mellin, M Kibble (015) 30/3

(b) Suorien yhtälöistä nähdään, että σ β ρ σ β = = 6 5 σ 8 = ρ = σ 15 Siten satunnaismuuttujien ja Pearsonin korrelaatiokertoimen neliö on 6 8 48 ρ = β β = = = 0.64, 5 15 75 joten satunnaismuuttujien ja Pearsonin korrelaatiokerroin on ρ = 0.8. Korrelaatiokerroin on positiivinen, koska regressiosuorien kulmakertoimet β ja β ovat positiivisia. (c) Koska σ = 9, niin satunnaismuuttujan ehdollinen varianssi satunnaismuuttujan arvojen suhteen on σ = (1 ρ) σ = (1 0.64) 9 = 3.4. Huomaa, että satunnaismuuttujan ehdollinen varianssi satunnaismuuttujan arvojen suhteen on vakio eli se ei riipu ehtomuuttujan arvoista. (d) Tehtävän asettelun mukaan 8 β =, 15 (b)-kohdan mukaan ρ = 0.8, ja lisäksi olemme olettaneet, että Koska σ = 9. β σ = ρ, σ niin saamme yhtälön σ 8 = 0.8, 15 3 L Leskelä, I Mellin, M Kibble (015) 31/3

josta satunnaismuuttujan keskihajonta σ saadaan ratkaisuksi. Ratkaisuksi saadaan σ =. Siten satunnaismuuttujan varianssi on σ = 4. Satunnaismuuttujan ehdollinen varianssi muuttujan arvojen suhteen on σ = (1 ρ) σ = (1 0.64) 4 = 1.44. Huomaa, että satunnaismuuttujan ehdollinen varianssi satunnaismuuttujan arvojen suhteen on vakio eli se ei riipu ehtomuuttujan y arvoista. L Leskelä, I Mellin, M Kibble (015) 3/3