Johdatus todennäköisyyslaskentaan Jakaumien tunnusluvut. TKK (c) Ilkka Mellin (2005) 1

Transkriptio

1 Johdatus todennäköisyyslaskentaan Jakaumien tunnusluvut TKK (c) Ilkka Mellin (2005) 1

2 Jakaumien tunnusluvut Odotusarvo Varianssi Markovin ja Tshebyshevin epäyhtälöt Momentit Vinous ja huipukkuus Kvantiilit Moodi Suurten lukujen laki TKK (c) Ilkka Mellin (2005) 2

3 Jakaumien tunnusluvut: Mitä opimme? 1/2 Tarkastelemme tässä luvussa todennäköisyysjakaumien kuvaamista erilaisten tunnuslukujen avulla. Tunnusluvuista tärkein on todennäköisyysjakauman todennäköisyysmassan painopistettä kuvaava ja siksi jakauman sijaintiparametrina käytettävä odotusarvo. Jakauman todennäköisyysmassan hajaantuneisuutta (tai keskittyneisyyttä) sen painopisteen suhteen kuvataan varianssilla tai standardipoikkeamalla. Odotusarvo ja varianssi voidaan määritellä todennäköisyysjakauman 1. ja 2. momentin avulla. Jakauman vinouden tai huipukkuuden tarkastelu vaatii korkeampien momenttien määrittelemistä. Tarkastelemme lisäksi jakauman kvantiileja sekä moodia. TKK (c) Ilkka Mellin (2005) 3

4 Jakaumien tunnusluvut: Mitä opimme? 2/2 Esitämme tässä luvussa myös monikäyttöiset Markovin ja Tshebyshevin epäyhtälöt. Markovin ja Tshebyshevin epäyhtälöiden avulla voidaan arvioida todennäköisyysjakauman todennäköisyysmassan määrää jakauman häntäalueilla. Esitämme tässä luvussa myös usean riippumattoman satunnaismuuttujan aritmeettisen keskiarvon asymptoottista käyttäytymisestä koskevan suurten lukujen lain. TKK (c) Ilkka Mellin (2005) 4

5 Jakaumien tunnusluvut: Esitiedot Esitiedot: ks. seuraavaa lukua: Satunnaismuuttujat ja todennäköisyysjakaumat TKK (c) Ilkka Mellin (2005) 5

6 Jakaumien tunnusluvut: Lisätiedot Tässä luvussa tarkastellaan myös satunnaismuuttujien summan odotusarvoa ja varianssia. Tarkkaan ottaen tämä vaatii täsmennyksekseen moniulotteisten satunnaismuuttujien tarkastelua; ks. lukua Moniulotteiset satunnaismuuttujat ja todennäköisyysjakaumat TKK (c) Ilkka Mellin (2005) 6

7 Jakaumien tunnusluvut >> Odotusarvo Varianssi Markovin ja Tshebyshevin epäyhtälöt Momentit Vinous ja huipukkuus Kvantiilit Moodi Suurten lukujen laki TKK (c) Ilkka Mellin (2005) 7

8 Odotusarvo Avainsanat Diskreetin jakauman odotusarvo Jatkuvan jakauman odotusarvo Odotusarvo Painopiste Sijaintiparametri Satunnaismuuttujien summan odotusarvo Todennäköisyysmassa TKK (c) Ilkka Mellin (2005) 8

9 Odotusarvo Johdatteleva esimerkki: Arpajaiset 1/7 Olkoon arpajaisissa 1000 arpaa. Arpanumerot: 1, 2,, Voitonjako: Voitot (mk) Voittoja (kpl) TKK (c) Ilkka Mellin (2005) 9

10 Odotusarvo Johdatteleva esimerkki: Arpajaiset 2/7 Arvotaan voittonumerot seuraavalla tavalla: (1) Kirjoitetaan arpanumerot lipukkeille. (2) Pannaan lipukkeet uurnaan. (3) Poimitaan uurnasta satunnaisesti 111 arpaa: 100 ensimmäistä saa voittona 20 mk 10 seuraavaa saa voittona 100 mk Viimeinen saa voittona 1000 mk Voitot yhteensä (mk): = 4000 Voitto yhtä ostettua arpaa kohden eli voitto/arpa (mk): 4000/1000 = 4 TKK (c) Ilkka Mellin (2005) 10

11 Odotusarvo Johdatteleva esimerkki: Arpajaiset 3/7 Voitto/arpa voidaan laskea myös toisella tavalla. Arpanumerot: 1, 2,, Voitonjako: Voitot (mk) Voittoja (kpl) Voitto/arpa (mk): = = 4 TKK (c) Ilkka Mellin (2005) 11

12 Odotusarvo Johdatteleva esimerkki: Arpajaiset 4/7 Voitto/arpa saadaan siis laskutoimituksella = jossa voitto/arpa on laskettu voittojen painotettuna summana, jossa painoina on käytetty voittojen todennäköisyyksiä: 1 Pr(Voitto = 1000) = = Pr(Voitto = 100) = = Pr(Voitto = 20) = = Pr(Voitto = 0) = = TKK (c) Ilkka Mellin (2005) 12

13 Odotusarvo Johdatteleva esimerkki: Arpajaiset 5/7 Siten suure voitto/arpa on laskettu kaavalla xipi jossa x i = voitto p i = on voiton x i todennäköisyys Suuretta voitto/arpa kutsutaan todennäköisyyslaskennassa voiton odotusarvoksi. Voiton odotusarvo on odotettavissa oleva voitto, jos ostaa yhden arvan. Voiton odotusarvolle voidaan antaa seuraava tulkinta: Jos ostetaan useita arpoja, voiton odotusarvo kertoo keskimääräisen voiton yhtä arpaa kohden. TKK (c) Ilkka Mellin (2005) 13

14 Odotusarvo Johdatteleva esimerkki: Arpajaiset 6/7 Arpominen on satunnaisilmiö. Määritellään satunnaismuuttuja X = voitto. Satunnaismuuttujan X mahdolliset arvot x i (voitot) ja niiden todennäköisyydet p i : x i Pr(X = x i ) = p i / / / /1000 Huomautus: Huomaa, että tulosvaihtoehto 0 mk ja sen todennäköisyys on otettava mukaan! TKK (c) Ilkka Mellin (2005) 14

15 Odotusarvo Johdatteleva esimerkki: Arpajaiset 7/7 Satunnaismuuttujan Xarvotx i ja niiden todennäköisyydet Pr(X = x i ) = p i määrittelevät diskreetin todennäköisyysjakauman. Lauseke x p = x Pr( X = x ) i i i i määrittelee diskreetin satunnaismuuttujan X odotusarvon. Huomautus: Odotusarvo määritellään seuraavassa erikseen diskreeteille ja jatkuville jakaumille. TKK (c) Ilkka Mellin (2005) 15

16 Odotusarvo Diskreetin jakauman odotusarvo: Määritelmä Olkoon X diskreetti satunnaismuuttuja. Olkoon {x 1, x 2, x 3, } satunnaismuuttujan X tulosvaihtoehtojen eli arvojen joukko. Olkoon satunnaismuuttujan X pistetodennäköisyysfunktio f(x i ) = Pr(X = x i ) = p i, i = 1, 2, 3, Satunnaismuuttujan X odotusarvo on vakio E( X ) = µ = x Pr( X = x ) = x f( x ) X i i i i i i Sanomme, että satunnaismuuttujan X odotusarvo E(X) on sen jakauman odotusarvo, joka kuvaa satunnaismuuttujaan X liittyviä todennäköisyyksiä. TKK (c) Ilkka Mellin (2005) 16

17 Odotusarvo Diskreetin jakauman odotusarvo: Kommentteja Vaikka satunnaismuuttujan saama arvo vaihtelee satunnaisesti koetoistosta toiseen, satunnaismuuttuja saa keskimäärin arvoja, jotka vaihtelevat sen odotusarvon ympärillä. Jos jakaumalla on odotusarvo, se on jakauman todennäköisyysmassan painopiste. Diskreetin jakauman odotusarvon ei tarvitse kuulua ko. satunnaismuuttujan tulosvaihtoehtojen joukkoon. Nopanheiton tuloksen odotusarvo on 3.5 (ks. >), mikä ei esiinny mahdollisten tulosvaihtoehtojen joukossa. TKK (c) Ilkka Mellin (2005) 17

18 Odotusarvo Diskreetin jakauman odotusarvo: Esimerkki nopanheitosta Nopanheittoon liittyvän diskreetin tasaisen jakauman pistetodennäköisyysfunktio on muotoa 1 Pr( X = i) =, i= 1,2,3,4,5,6 6 Satunnaismuuttujan X odotusarvo: E( X ) = ipr( X = i) = i i= 1 i= = = 6 6 = Pistetodennäköisyysfunktio E(X) = 3.5 TKK (c) Ilkka Mellin (2005) 18

19 Odotusarvo Diskreetin jakauman odotusarvo: Esimerkki onnenpyörästä 1/2 Olkoon diskreetin satunnaismuuttujan X pistetodennäköisyysfunktio muotoa Pr(X = 1) = 0.3 Pr(X = 2) = 0.25 Pr(X = 3) = 0.2 Pr(X = 4) = 0.15 Pr(X = 5) = 0.1 Pistetodennäköisyysfunktio liittyy luvussa Satunnaismuuttujat ja todennäköisyysjakaumat käsiteltyyn esimerkkiin onnenpyörästä Pistetodennäköisyysfunktio TKK (c) Ilkka Mellin (2005) 19

20 Odotusarvo Diskreetin jakauman odotusarvo: Esimerkki onnenpyörästä 2/2 Satunnaismuuttujan X odotusarvo: 5 E( X) = ipr( X = i) i= 1 = = Pistetodennäköisyysfunktio E(X) = 2.5 TKK (c) Ilkka Mellin (2005) 20

21 Odotusarvo Jatkuvan jakauman odotusarvo: Määritelmä Olkoon X on jatkuva satunnaismuuttuja. Olkoon satunnaismuuttujan X tiheysfunktio f(x). Satunnaismuuttujan X odotusarvo on vakio + E( X ) = µ X = xf ( x) dx Sanomme, että satunnaismuuttujan X odotusarvo E(X) on sen jakauman odotusarvo, joka kuvaa satunnaismuuttujaan X liittyviä todennäköisyyksiä. TKK (c) Ilkka Mellin (2005) 21

22 Odotusarvo Jatkuvan jakauman odotusarvo: Kommentteja Vaikka satunnaismuuttujan saama arvo vaihtelee satunnaisesti koetoistosta toiseen, satunnaismuuttuja saa keskimäärin arvoja, jotka vaihtelevat sen odotusarvon ympärillä. Jos jakaumalla on odotusarvo, se on jakauman todennäköisyysmassan painopiste. Jatkuvan jakauman odotusarvo kuuluu aina ko. satunnaismuuttujan tulosvaihtoehtojen joukkoon. TKK (c) Ilkka Mellin (2005) 22

23 Odotusarvo Jatkuvan jakauman odotusarvo: Esimerkki tasaisesta jakaumasta Jatkuvan tasaisen jakauman tiheysfunktio on 1, a x b f( x) = b a 0, muulloin Jakauman odotusarvo on + E( X) = xf( x) dx b 1 = x dx b a a b = 2 x b a a = ( b+ a)/2 = a+ ( b a)/2 Jatkuva tasainen jakauma 1/(b-a) a b E(X) = a + (b a)/2 TKK (c) Ilkka Mellin (2005) 23

24 Odotusarvo Jatkuvan jakauman odotusarvo: Esimerkki kolmiojakaumasta Erään kolmiojakauman tiheysfunktio on 1 2 x+ 1, 0 x 2 f( x) = 0, muulloin Jakauman odotusarvo on + E( X) = xf( x) dx ( 1) = x x+ dx x 2x 0 = + = Kolmiojakauma E(X) = 2/3 TKK (c) Ilkka Mellin (2005) 24

25 Odotusarvo Jatkuvan jakauman odotusarvo: Esimerkki normaalijakaumasta Normaalijakauman tiheysfunktio on 1 x µ f( x) = exp σ 2π σ Normaalijakauman tiheysfunktio on symmetrinen suoran x = µ suhteen. Voidaan osoittaa, että normaalijakauman odotusarvo E(x) = µ ks. lukua Jatkuvia jakaumia. 2 Normaalijakauma E(X) = µ TKK (c) Ilkka Mellin (2005) 25

26 Odotusarvo Odotusarvon olemassaolo Jakaumalla ei välttämättä ole odotusarvoa. Odotusarvon olemassaololla tarkoitetaan diskreetin jakauman tapauksessa sitä, että xi f( x i) < i ja jatkuvan jakauman tapauksessa sitä, että + x f( x) dx < TKK (c) Ilkka Mellin (2005) 26

27 Odotusarvo Odotusarvo ja todennäköisyysmassan painopiste Jos jakaumalla on odotusarvo, se yhtyy aina ko. jakauman todennäköisyysmassan painopisteeseen. Olkoon E(X) = µ satunnaismuuttujan X odotusarvo. Jos satunnaismuuttujan X jakauma on symmetrinen suoran x = a suhteen, niin E(X) = µ = a TKK (c) Ilkka Mellin (2005) 27

28 Odotusarvo Vakion odotusarvo Olkoon a ei-satunnainen vakio. Vakion odotusarvo on vakio itse: E( a) = a Kommentti: Vakio ei vaihtele koetoistosta toiseen. TKK (c) Ilkka Mellin (2005) 28

29 Odotusarvo Vakion odotusarvo: Perustelu Väite: Vakiolle a pätee E(a) = a Perustelu jatkuvan jakauman tapauksessa: + + E( a) = af( x) dx = a f( x) dx = a 1 = a TKK (c) Ilkka Mellin (2005) 29

30 Odotusarvo Lineaarimuunnoksen odotusarvo Olkoon satunnaismuuttujan X odotusarvo E(X). Satunnaismuuttujan X lineaarimuunnoksen Y = a + bx (a ja bvakioita) odotusarvo E(Y) saadaan soveltamalla ko. lineaarimuunnosta odotusarvoon E(X): E( Y) = a+ be( X) TKK (c) Ilkka Mellin (2005) 30

31 Odotusarvo Lineaarimuunnoksen odotusarvo: Perustelu Väite: Lineaarimuunnokselle Y = a + bx pätee E(Y) = a + be(x). Perustelu jatkuvan jakauman tapauksessa: E( Y) = E( a+ bx) = ( a+ bx) f( x) dx = a f( xdx ) + b xf( xdx ) = a+ be( X) TKK (c) Ilkka Mellin (2005) 31

32 Odotusarvo Lineaarimuunnoksen odotusarvo: Kommentteja Satunnaismuuttujan X kertominen vakiolla b merkitsee satunnaismuuttujan X saamien arvojen mittakaavan muuttamista. Satunnaismuuttujan X saamien arvojen mittakaavan muuttaminen verrannollisuuskertoimella b muuttaa satunnaismuuttujan X jakauman todennäköisyysmassan painopistettä samalla kertoimella. Vakion a lisääminen satunnaismuuttujaan X merkitsee satunnaismuuttujan X jakauman todennäköisyysmassan siirtoa. Todennäköisyysmassan siirtäminen vakion a verran siirtää todennäköisyysmassan painopistettä saman verran. TKK (c) Ilkka Mellin (2005) 32

33 Odotusarvo Odotusarvo jakauman sijaintiparametrina 1/2 Koska odotusarvolla on fysikaalinen tulkinta todennäköisyysmassan painopisteenä, odotusarvoa voidaan kutsua jakauman sijaintiparametriksi. Oletetaan, että satunnaismuuttujien X ja Y tiheysfunktiot yksihuippuisia ja symmetrisiä painopisteensä suhteen. Tällöin satunnaismuuttujan X todennäköisyysmassan pääosa sijaitsee vasemmalla satunnaismuuttujan Y todennäköisyysmassan pääosasta, jos ja vain jos E(X) < E(Y) ks. havainnollistusta 1 >. TKK (c) Ilkka Mellin (2005) 33

34 Odotusarvo Odotusarvo jakauman sijaintiparametrina 2/2 Myös jos jakauma on yksihuippuinen, mutta vino, odotusarvo kuvaa luontevalla tavalla jakauman todennäköisyysmassan pääosan sijaintia; ks. havainnollistusta 2 >. Sen sijaan, jos jakauma on monihuippuinen, jakauman todennäköisyysmassan pääosien ei tarvitse olla lähellä odotusarvoa; ks. havainnollistusta 3 >. TKK (c) Ilkka Mellin (2005) 34

35 Odotusarvo Odotusarvo jakauman sijaintiparametrina: Havainnollistus 1 Kuva oikealla esittää kolmen normaalijakauman N 1, N 2 ja N 3 tiheysfunktioita f 1, f 2 ja f 3. Tiheysfunktiot f 1, f 2 ja f 3 ovat yksihuippuisia ja symmetrisiä suorien x = µ 1, x = µ 2 ja x = µ 3 suhteen. Jakaumat N 2 ja N 3 on saatu siirtämällä jakauman N 1 todennäköisyysmassaa oikealle. Jakaumien N 1, N 2 ja N 3 odotusarvot µ 1, µ 2 ja µ 3 toteuttavat epäyhtälöt Jakaumien N 1, N 2 ja N 3 tiheysfunktiot f 1 f 2 f 3 µ 1 µ 2 µ 3 µ 1 < µ 2 < µ 3 TKK (c) Ilkka Mellin (2005) 35

36 Odotusarvo Odotusarvo jakauman sijaintiparametrina: Havainnollistus 2 Kuva oikealla esittää kahden eksponenttijakauman E 1 ja E 2 tiheysfunktioita f 1 ja f 2. Tiheysfunktiot f 1 ja f 2 ovat yksihuippuisia ja epäsymmetrisiä. Jakauman E 1 todennäköisyysmassa on keskittynyt jakauman E 2 todennäköisyysmassaa voimakkaammin origon lähelle. Jakaumien E 1 ja E 2 odotusarvot µ 1 ja µ 2 toteuttavat epäyhtälön Jakaumien E 1 ja E 2 tiheysfunktiot f 1 f 2 0 µ 1 µ 2 µ 1 < µ 2 TKK (c) Ilkka Mellin (2005) 36

37 Odotusarvo Odotusarvo jakauman sijaintiparametrina: Havainnollistus 3 Kuva oikealla esittää erään sekoitetun normaalijakauman N tiheysfunktiota f. Tiheysfunktio f on kaksihuippuinen ja symmetrinen suoran x = µ suhteen. Jakauman N todennäköisyysmassalla on vaaka-akselilla kaksi keskittymää. Jakauman N odotusarvo µ on todennäköisyysmassojen keskittymien välissä. Jakauman N tiheysfunktio µ TKK (c) Ilkka Mellin (2005) 37

38 Odotusarvo Summan ja erotuksen odotusarvo Satunnaismuuttujien X ja Y summan X + Y odotusarvo on E( X + Y) = E( X) + E( Y) Satunnaismuuttujien X ja Y erotuksen X Y odotusarvo on E( X Y) = E( X) E( Y) Tämä merkitsee sitä, että odotusarvo on lineaarinen operaattori. Huomautus: Todistus vaatii kaksiulotteisten satunnaismuuttujien määrittelemistä ja esitetään luvussa Moniulotteiset satunnaismuuttujat ja todennäköisyysjakaumat. TKK (c) Ilkka Mellin (2005) 38

39 Odotusarvo Summan odotusarvo: Yleistys Olkoot X i, i = 1, 2,, n satunnaismuuttujia ja a i, i = 1, 2,, n vakioita. Satunnaismuuttujien X i, i = 1, 2,, n painotetun summan a i X i odotusarvo on n n E ax i i = aie( Xi) i= 1 i= 1 TKK (c) Ilkka Mellin (2005) 39

40 Odotusarvo Diskreetin satunnaismuuttujan funktion odotusarvo: Määritelmä Olkoon X diskreetti satunnaismuuttuja, jonka pistetodennäköisyysfunktio on f(x i ) = Pr(X = x i ) = p i, i = 1, 2, 3, Olkoon g reaaliarvoinen funktio. Satunnaismuuttujan g(x) odotusarvo on vakio E( g( X)) µ g( x ) f( x ) = = g ( X) i i i TKK (c) Ilkka Mellin (2005) 40

41 Odotusarvo Jatkuvan satunnaismuuttujan funktion odotusarvo: Määritelmä Olkoon X jatkuva satunnaismuuttuja, jonka tiheysfunktio on f(x) Olkoon g reaaliarvoinen funktio. Satunnaismuuttujan g(x) odotusarvo on vakio + = µ g( X) = E( g( X)) g( x) f( x) dx TKK (c) Ilkka Mellin (2005) 41

42 Jakaumien tunnusluvut Odotusarvo >> Varianssi Markovin ja Tshebyshevin epäyhtälöt Momentit Vinous ja huipukkuus Kvantiilit Moodi Suurten lukujen laki TKK (c) Ilkka Mellin (2005) 42

43 Varianssi Avainsanat Diskreetin jakauman varianssi Empiirinen jakauma Hajontaparametri Jatkuvan jakauman varianssi Odotusarvo Painopiste Satunnaismuuttujien summan varianssi Sijaintiparametri Standardipoikkeama Todennäköisyysmassan hajaantuneisuus Todennäköisyysmassan keskittyneisyys Varianssi TKK (c) Ilkka Mellin (2005) 43

44 Varianssi Varianssi: Yleinen määritelmä Olkoon satunnaismuuttujan X odotusarvo E( X ) = µ X Satunnaismuuttujan X varianssi on vakio D( X) = Var( X) = σ = E( X µ ) X X Satunnaismuuttujan X varianssi on satunnaismuuttujan X omasta odotusarvostaan µ X määrätyn poikkeaman neliön odotusarvo. TKK (c) Ilkka Mellin (2005) 44

45 Varianssi Diskreetin jakauman varianssi Olkoon X diskreetti satunnaismuuttuja. Olkoon {x 1, x 2, } satunnaismuuttujan Xtulosvaihtoehtojen eli arvojen joukko. Olkoon satunnaismuuttujan X pistetodennäköisyysfunktio f(x i ) = Pr(X = x i ) = p i, i = 1, 2, Tällöin satunnaismuuttujan X varianssi on vakio D( X ) = Var( X) = σ = ( x µ ) p X i X i i TKK (c) Ilkka Mellin (2005) 45

46 Varianssi Jatkuvan jakauman varianssi Olkoon X on jatkuva satunnaismuuttuja. Olkoon satunnaismuuttujan X tiheysfunktio f(x). Tällöin satunnaismuuttujan X varianssi on vakio D( ) = Var( ) = σ X = ( µ X) ( ) X X x f x dx TKK (c) Ilkka Mellin (2005) 46

47 Varianssi Varianssin olemassaolo Jakaumalla ei välttämättä ole varianssia. Varianssin olemassaololla tarkoitetaan sitä, että varianssin määrittelevä summa (diskreetin jakauman tapauksessa) tai integraali (jatkuvan jakauman tapauksessa) on äärellinen. TKK (c) Ilkka Mellin (2005) 47

48 Varianssi Varianssin määritelmä: Kommentteja Varianssi kuvaa todennäköisyysmassan hajaantuneisuutta tai mikä on sama asia keskittyneisyyttä jakauman painopisteen suhteen. Jos Var(X) > Var(Y) niin satunnaismuuttujan X todennäköisyysmassa on hajaantunut voimakkaammin oman painopisteeseensä suhteen kuin satunnaismuuttujan Y todennäköisyysmassa oman painopisteeseensä suhteen. Koska varianssi kuvaa todennäköisyysmassan hajaantuneisuutta, sitä voidaan kutsua hajontaparametriksi. TKK (c) Ilkka Mellin (2005) 48

49 Varianssi Varianssi jakauman hajaantuneisuuden mittana: Esimerkki normaalijakaumista 1/2 Kuva oikealla esittää kolmen normaalijakauman N 1, N 2 ja N 3 tiheysfunktioita f 1, f 2 ja f 3. Kaikilla jakaumilla on sama odotusarvo µ. Tiheysfunktiot f 1, f 2 ja f 3 ovat yksihuippuisia ja symmetrisiä suoran x = µ suhteen. Jakaumien N 1, N 2 ja N 3 tiheysfunktiot f 1 f 2 f 3 µ TKK (c) Ilkka Mellin (2005) 49

50 Varianssi Varianssi jakauman hajaantuneisuuden mittana: Esimerkki normaalijakaumista 2/2 Jakauman N 1 todennäköisyysmassa on keskittynein, kun taas jakauman N 3 todennäköisyysmassa on hajaantunein. Jakaumien varianssit toteuttavat epäyhtälöt: Var(X 1 ) < Var(X 2 ) < Var(X 3 ) Jakaumien N 1, N 2 ja N 3 tiheysfunktiot f 1 f 2 f 3 µ TKK (c) Ilkka Mellin (2005) 50

51 Varianssi Varianssi: Toinen laskukaava Olkoon satunnaismuuttujan X odotusarvo E( X ) = µ Satunnaismuuttujan X varianssi voidaan laskea myös kaavalla 2 Var( X ) = α 2 µ jossa 2 α 2 = E( X ) on satunnaismuuttujan Xtoinen(origo-) momentti. TKK (c) Ilkka Mellin (2005) 51

52 Varianssi Varianssin toinen laskukaava: Perustelu Olkoot satunnaismuuttujan Xodotusarvo E( X ) = µ ja toinen momentti 2 E( X ) = α Satunnaismuuttujan X varianssi on Var( X) = E( X µ ) 2 = X X E( 2 µ µ ) 2 2 = E( X ) 2µ E( X) + E( µ ) 2 = α 2µ µ + µ 2 2 = α µ 2 TKK (c) Ilkka Mellin (2005) 52

53 Varianssi Standardipoikkeama: Määritelmä Olkoon satunnaismuuttujan X odotusarvo E( X ) = µ X Satunnaismuuttujan X standardipoikkeama on vakio D( X) = σ = E( X µ ) X Standardipoikkeamaa käytetään samaan tapaan kuin varianssia todennäköisyysmassan hajaantuneisuuden (keskittyneisyyden) mittana. Standardipoikkeama on toisin kuin varianssi samoissa mittayksiköissä kuin odotusarvo. X 2 TKK (c) Ilkka Mellin (2005) 53

54 Varianssi Diskreetin jakauman varianssi: Esimerkki nopanheitosta 1/2 Nopanheiton tulosta satunnaisilmiönä kuvaavan diskreetin tasaisen jakauman pistetodennäköisyysfunktio: 1 P( X = i) =, i = 1,2,3,4,5,6 6 Satunnaismuuttujan X odotusarvo: E( X) = µ = ipr( X = i) = i = = 3.5 i= 1 i= Satunnaismuuttujan X toinen momentti: E( X ) = α2 = i Pr( X = i) = i i= 1 i= = = 6 6 TKK (c) Ilkka Mellin (2005) 54

55 Varianssi Diskreetin jakauman varianssi: Esimerkki nopanheitosta 2/2 Satunnaismuuttujan X varianssi: Var( X) = D ( X) = σ = α 2 µ = = Satunnaismuuttujan X standardipoikkeama eli keskihajonta: D( X ) = σ = TKK (c) Ilkka Mellin (2005) 55

56 Varianssi Diskreetin jakauman odotusarvo ja varianssi: Laskujen järjestäminen 1/5 Nopanheiton tulosta satunnaisilmiönä kuvaavan diskreetin tasaisen jakauman odotusarvon ja varianssin määräämistä varten tarvittavat laskutoimitukset voidaan järjestää seuraavan taulukon muotoon: Keskiarvo Varianssi 1 Varianssi i x i p i x i p i 2 x i x 2 i p i x i µ (x i µ) 2 (x i µ) 2 p i 1 1 1/6 1/6 1 1/ / /6 2/6 4 4/ / /6 3/6 9 9/ / /6 4/ / / /6 5/ / / /6 6/ / /24 Σ / / /24 TKK (c) Ilkka Mellin (2005) 56

57 Varianssi Diskreetin jakauman odotusarvo ja varianssi: Laskujen järjestäminen 2/5 Taulukon rivillä Σ on sarakesummat riveiltä 1-6: Sarake 2: x = 21 Sarake 3: p = 1 Sarake 4: xp = µ = 21/ 6 = Sarake 5: xi = 91 2 Sarake 6: xi pi = 2 = 91/ 6 = ( xi µ ) ( xi µ ) ( x ) Sarake 7: = 0 Sarake 8: = 17.5 i i i i pi Sarake 9: µ = σ = 70/ 24 = i α TKK (c) Ilkka Mellin (2005) 57

58 Varianssi Diskreetin jakauman odotusarvo ja varianssi: Laskujen järjestäminen 3/5 Satunnaismuuttujan X odotusarvon määräämistä varten tarvittavat laskutoimitukset on suoritettu sarakkeissa 2-4. Odotusarvo saadaan rivin Σ sarakkeesta 4: E( X) = µ = x p = 21/ 6 = 3.5 i i TKK (c) Ilkka Mellin (2005) 58

59 Varianssi Diskreetin jakauman odotusarvo ja varianssi: Laskujen järjestäminen 4/5 Satunnaismuuttujan X varianssi voidaan määrätä kahdella eri tavalla: Kaava 1: jossa Kaava 2: 2 Var( X ) = α µ jossa µ on kuten kaavassa 1. 2 α2 = E( X ) = µ = E( X ) = i x p 2 2 i xp i i ( ) 2 µ σ µ 2 2 Var( X ) = E( X ) = = xi pi TKK (c) Ilkka Mellin (2005) 59

60 Varianssi Diskreetin jakauman odotusarvo ja varianssi: Laskujen järjestäminen 5/5 Kaavan 1 vaatimat laskutoimitukset on tehty sarakkeissa 2-4 ja 5-6: E( X) = µ = x p = 21/ 6 = 3.5 i E( X ) = α = x p = 91/ 6 = i i i Kaavan 1 mukaan Var( X ) = α 2 µ = = = Kaavan 2 vaatimat laskutoimitukset on tehty sarakkeissa 2-4 ja 7-9: Var( X) = E( X µ ) = σ = ( xi µ ) pi = = Kaavan 2 soveltaminen on siinä mielessä monimutkaisempaa kuin kaavan 1 soveltaminen, että kaavassa 2 on erotuksien (x i µ) määräämiseksi ensin määrättävä odotusarvo µ TKK (c) Ilkka Mellin (2005) 60

61 Varianssi Jatkuvan jakauman odotusarvo ja varianssi: Esimerkki tasaisesta jakaumasta 1/2 Erään jatkuvan tasaisen jakauman tiheysfunktio: 1, 0 x b f( x) = b 0, muulloin Satunnaismuuttujan X odotusarvo: b E( X) = µ = xf( x) dx= x dx= x b = 2b Satunnaismuuttujan X toinen momentti: + b + b 3 b x b = α2 = = = b 3b = E( X ) x f( x) dx x dx b TKK (c) Ilkka Mellin (2005) 61

62 Varianssi Jatkuvan jakauman odotusarvo ja varianssi: Esimerkki tasaisesta jakaumasta 2/2 Satunnaismuuttujan X varianssi: Satunnaismuuttujan X standardipoikkeama: b b b Var( X) = D ( X) = σ = α 2 µ = = b b D( X ) = σ = = TKK (c) Ilkka Mellin (2005) 62

63 Varianssi Vakion varianssi Olkoon a ei-satunnainen vakio. Vakion varianssi on nolla: Var( a ) = 0 Tulkinta: Vakio ei vaihtele satunnaiskokeesta toiseen. TKK (c) Ilkka Mellin (2005) 63

64 Varianssi Vakion varianssi: Perustelu Väite: Vakiolle a pätee Var(a) = 0 Perustelu: ( ) 2 2 Var( a) = E a E( a) = E( a a) = E(0) = 0 koska vakiolle a pätee: E(a) = a TKK (c) Ilkka Mellin (2005) 64

65 Varianssi Lineaarimuunnoksen varianssi Olkoon satunnaismuuttujan X varianssi Var(X). Satunnaismuuttujan X lineaarimuunnoksen Y = a + bx (a ja b vakiota) varianssi on 2 Var( Y) = b Var( X) TKK (c) Ilkka Mellin (2005) 65

66 Varianssi Lineaarimuunnoksen varianssi: Perustelu Väite: Lineaarimuunnokselle Y = a + bx pätee Var(Y) = b 2 Var(X). Perustelu: [ a bx a b X ] [ bx b X 2 ] E[ E( 2 )] 2 b X X 2 ( ) Var( Y ) = Var( a + bx ) = E ( a + bx ) E a + bx 2 = E + E( ) = E E( ) = = b Var( X) 2 TKK (c) Ilkka Mellin (2005) 66

67 Varianssi Lineaarimuunnoksen varianssi: Kommentteja Satunnaismuuttujan X kertominen vakiolla b merkitsee satunnaismuuttujan X saamien arvojen mittakaavan muuttamista. Satunnaismuuttujan X saamien arvojen mittakaavan muuttaminen verrannollisuuskertoimella b muuttaa satunnaismuuttujan X varianssia kertoimella b 2. Vakion a lisääminen satunnaismuuttujaan X merkitsee satunnaismuuttujan X jakauman todennäköisyysmassan siirtoa. Todennäköisyysmassan siirtäminen ei muuta todennäköisyysmassan hajaantuneisuutta. TKK (c) Ilkka Mellin (2005) 67

68 Varianssi Standardointi Olkoon X satunnaismuuttuja, jonka odotusarvo E(X) = µ ja varianssi D 2 (X) = σ 2. Tällöin standardoidun satunnaismuuttujan X µ Z = σ odotusarvo E( Z ) = 0 ja varianssi 2 D( Z ) = 1 TKK (c) Ilkka Mellin (2005) 68

69 Varianssi Standardointi: Perustelu Olkoot E(X) = µ ja D 2 (X) = σ 2. Standardoidaan satunnaismuuttuja X: X µ Z = σ Tällöin 1 µ 1 µ 1 µ E( Z) = E X = E( X) = µ = 0 σ σ σ σ σ σ µ D( Z) = D X = D( X) = σ = σ σ σ σ TKK (c) Ilkka Mellin (2005) 69

70 Varianssi Summan ja erotuksen varianssi 1/2 Oletetaan, että satunnaismuuttujat X ja Y ovat riippumattomia. Tarkastellaan satunnaismuuttujien X ja YsummanX+ Y ja erotuksen X Y varianssia. Huomautus: Satunnaismuuttujien X ja Y riippumattomuudella tarkoitetaan seuraavaa: Se, mitä arvoja satunnaismuuttuja X saa, ei saa riippua siitä, mitä arvoja satunnaismuuttuja Y saa ja kääntäen, se, mitä arvoja satunnaismuuttuja Y saa, ei saa riippua siitä, mitä arvoja satunnaismuuttuja X saa; käsite täsmennetään luvussa Moniulotteiset satunnaismuuttujat ja todennäköisyysjakaumat. TKK (c) Ilkka Mellin (2005) 70

71 Varianssi Summan ja erotuksen varianssi 2/2 Riippumattomien satunnaismuuttujien X ja Y summan X + Y varianssi on Var( X + Y) = Var( X) + Var( Y) Riippumattomien satunnaismuuttujien X ja Y erotuksen X Y varianssi on Var( X Y) = Var( X) + Var( Y) Huomautus: Todistus vaatii kaksiulotteisen satunnaismuuttujan määrittelemistä ja esitetään luvussa Moniulotteiset satunnaismuuttujat ja todennäköisyysjakaumat. TKK (c) Ilkka Mellin (2005) 71

72 Varianssi Summan ja erotuksen varianssi: Kommentteja Oletetaan, että satunnaismuuttujat X ja Y ovat riippumattomia. Tällöin satunnaismuuttujien X ja Ysummanja erotuksen varianssille pätee Var( X ± Y) = Var( X) + Var( Y) Huomaa: Var( X Y) Var( X) Var( Y) D( X + Y) D( X) + D( Y) D( X Y) D( X) D( Y) TKK (c) Ilkka Mellin (2005) 72

73 Varianssi Summan varianssi: Yleistys Olkoot satunnaismuuttujat X i, i = 1, 2,, n riippumattomia ja a i, i = 1, 2,, n vakioita. Tällöin satunnaismuuttujien X i, i = 1, 2,, n painotetun summan a i X i varianssi on = n n 2 Var ax i i ai Var( Xi) i= 1 i= 1 TKK (c) Ilkka Mellin (2005) 73

74 Varianssi Empiirinen jakauma 1/3 Oletetaan, että diskreetin satunnaismuuttujan X mahdolliset arvot ovat x i, i = 1, 2,, n Liitetään satunnaismuuttujan X arvoihin symmetriset todennäköisyydet 1 Pr( X = xi) = pi =, i= 1,2,, n n Otannan perustyypissä, yksinkertaisessa satunnaisotannassa, havaintoarvot x i noudattavat tätä, ns. empiiristä jakaumaa. TKK (c) Ilkka Mellin (2005) 74

75 Varianssi Empiirinen jakauma 2/3 Suoraan diskreetin satunnaismuuttujan odotusarvon ja varianssin määritelmistä saadaan: n n 1 E( X) = µ = xipi = xi = x i= 1 n i= 1 n n E( X ) = α2 = xi pi = xi i= 1 n i= 1 n n 1 Var( X ) = D ( X) = σ = ( xi µ ) pi = ( xi x) n i= 1 i= 1 TKK (c) Ilkka Mellin (2005) 75

76 Varianssi Empiirinen jakauma 3/3 Huomaa, että odotusarvo n 1 E( X ) = µ = x = xi n i= 1 on lukujen x i aritmeettinen keskiarvo ja n 1 Var( X ) = D ( X) = σ = ( xi x) n i= 1 on lukujen x i ns. otosvarianssi TKK (c) Ilkka Mellin (2005) 76

77 Varianssi Aritmeettisen keskiarvon odotusarvo ja varianssi 1/2 Olkoot X i, i = 1, 2,, n riippumattomia satunnaismuuttujia. Oletetaan lisäksi, että satunnaismuuttujilla X i, i = 1, 2,, n on sama odotusarvo ja varianssi: Olkoon 2 2 E( i) = µ, D ( i) = σ, = 1,2,, X X X i n 1 n X i n i = 1 = satunnaismuuttujien X i, i = 1, 2,, n aritmeettinen keskiarvo. TKK (c) Ilkka Mellin (2005) 77

78 Varianssi Aritmeettisen keskiarvon odotusarvo ja varianssi 2/2 Tällöin E( X ) = X 2 D( ) µ σ = n Huomautuksia: 2 Satunnaismuuttujien X i aritmeettisen keskiarvon odotusarvo on sama kuin yksittäisten muuttujien yhteinen odotusarvo. Satunnaismuuttujien X i aritmeettinen keskiarvo vaihtelee varianssilla mitattuna vähemmän kuin muuttujat itse. TKK (c) Ilkka Mellin (2005) 78

79 Varianssi Aritmeettisen keskiarvon odotusarvo ja varianssi: Perustelu Olkoot X i, i = 1, 2,, n riippumattomia satunnaismuuttujia, joille 2 2 E( i) = µ, D ( i) = σ, = 1,2,, X X i n Tällöin E( X) = E Xi E Xi E( Xi) n = i n = i n i 1 1 = µ = nµ = µ n i n D( X ) = D X = D X = D X ( ) i 2 i 2 i n i n i n i σ = σ nσ 2 = = 2 n i n n TKK (c) Ilkka Mellin (2005) 79

80 Jakaumien tunnusluvut Odotusarvo Varianssi >> Markovin ja Tshebyshevin epäyhtälöt Momentit Vinous ja huipukkuus Kvantiilit Moodi Suurten lukujen laki TKK (c) Ilkka Mellin (2005) 80

81 Markovin ja Tshebyshevin epäyhtälöt Avainsanat Markovin epäyhtälö Odotusarvo Tshebyshevin epäyhtälö Varianssi TKK (c) Ilkka Mellin (2005) 81

82 Markovin ja Tshebyshevin epäyhtälöt Markovin epäyhtälö Olkoon g(x) satunnaismuuttujan X positiivinen reaaliarvoinen funktio, jonka odotusarvo on E(g(X)) Tällöin jokaiselle reaaliselle vakiolle a > 0 pätee Markovin epäyhtälö ( g X a) Pr ( ) E( g( X)) a TKK (c) Ilkka Mellin (2005) 82

83 Markovin ja Tshebyshevin epäyhtälöt Markovin epäyhtälö: Todistus Todistamme Markovin epäyhtälön jatkuvien satunnaismuuttujien tapauksessa. Olkoon g(x) satunnaismuuttujan X positiivinen reaaliarvoinen funktio, jonka odotusarvo on E(g(X)). Olkoon satunnaismuuttujan X tiheysfunktio f(x) ja olkoon a >0 vakio. Markovin epäyhtälö saadaan epäyhtälöketjusta jossa + E( g( X)) = g( x) f( x) dx a S f( x) dx = apr( g( X) a) { ( ) } S = x g x a TKK (c) Ilkka Mellin (2005) 83

84 Markovin ja Tshebyshevin epäyhtälöt Markovin epäyhtälö: Kommentteja 1/2 Markovin epäyhtälön E( g( X)) Pr ( g( X) a) a mukaan todennäköisyys sille, että mielivaltaisen satunnaismuuttujan X (jolle odotusarvo E(g(X)) on olemassa) positiivinen funktio g(x) saa suurempia arvoja kuin a > 0, on korkeintaan E( ( )) g X a TKK (c) Ilkka Mellin (2005) 84

85 Markovin ja Tshebyshevin epäyhtälöt Markovin epäyhtälö: Kommentteja 2/2 Markovin epäyhtälön erikoistapauksena saadaan positiivisille satunnaismuuttujille X epäyhtälö E( X ) Pr( X a) a jossa a > 0. Siten mielivaltaisen positiivisen satunnaismuuttujan (jonka odotusarvo E(X) on olemassa) todennäköisyysjakauman todennäköisyysmassasta korkeintaan E( X ) 100 % a on etäisyyttä a > 0 kauempana origosta. TKK (c) Ilkka Mellin (2005) 85

86 Markovin ja Tshebyshevin epäyhtälöt Tshebyshevin epäyhtälö Olkoon X satunnaismuuttuja, jonka odotusarvo on E(X) = µ ja varianssi on Var(X) = σ 2 Tällöin pätee Tshebyshevin epäyhtälö 1 k ( µ σ) 2 Pr X k TKK (c) Ilkka Mellin (2005) 86

87 Markovin ja Tshebyshevin epäyhtälöt Tshebyshevin epäyhtälö: Todistus Todistamme Tshebyshevin epäyhtälön jatkuvien satunnaismuuttujien tapauksessa. Olkoon X jatkuva satunnaismuuttuja. Olkoon satunnaismuuttujan X tiheysfunktio f(x), sen odotusarvo E(X) = µ ja varianssi Var(X) = σ 2 sekä olkoon k > 0 vakio. Tshebyshevin epäyhtälö seuraa Markovin epäyhtälöstä E( g( X )) Pr ( g( X) a) a valitsemalla 2 gx ( ) = ( x µ ) ; µ = E( X) σ ; σ Var( ) E[ ( )] a= k = X = g X TKK (c) Ilkka Mellin (2005) 87

88 Markovin ja Tshebyshevin epäyhtälöt Tshebyshevin epäyhtälö: Kommentteja 1/3 Tshebyshevin epäyhtälön 1 Pr( X µ kσ) 2 k mukaan mielivaltaisen satunnaismuuttujan X (jonka odotusarvo E(X) = µ ja varianssi Var(X) = σ 2 ovat olemassa) todennäköisyysmassasta korkeintaan % 2 k on etäisyyttä kσ kauempana jakauman painopisteestä µ. TKK (c) Ilkka Mellin (2005) 88

89 Markovin ja Tshebyshevin epäyhtälöt Tshebyshevin epäyhtälö: Kommentteja 2/3 Jos X on mielivaltainen satunnaismuuttuja, jolla on odotusarvo ja varianssi, Tshebyshevin epäyhtälö antaa absoluuttisen ylärajan satunnaismuuttujan X todennäköisyysjakauman häntäalueiden todennäköisyysmassan osuudelle. Jos satunnaismuuttujan X jakauma spesifioidaan tarkemmin, häntäalueiden todennäköisyysmassan osuudesta voidaan antaa tarkempia arvioita. TKK (c) Ilkka Mellin (2005) 89

90 Markovin ja Tshebyshevin epäyhtälöt Tshebyshevin epäyhtälö: Kommentteja 3/3 Esimerkki: Tshebyshevin epäyhtälön mukaan kaikille satunnaismuuttujille X, joilla on odotusarvo E(X) = µ ja varianssi Var(X) = σ 2, pätee 1 Pr( X µ 3σ) 9 Jos tiedämme, että X noudattaa normaalijakaumaa (ks. lukua Jatkuvia jakaumia), saadaan (esimerkiksi normaalijakaumien taulukoiden avulla) tarkempi tulos: ( X µ σ) Pr % TKK (c) Ilkka Mellin (2005) 90

91 Jakaumien tunnusluvut Odotusarvo Varianssi Markovin ja Tshebyshevin epäyhtälöt >> Momentit Vinous ja huipukkuus Kvantiilit Moodi Suurten lukujen laki TKK (c) Ilkka Mellin (2005) 91

92 Momentit Avainsanat Keskusmomentit Momentit Odotusarvo Origomomentit TKK (c) Ilkka Mellin (2005) 92

93 Momentit Origomomentit Olkoon X satunnaismuuttuja. Tällöin satunnaismuuttujan X k odotusarvo k E( X ) = α k on satunnaismuuttujan X k. momentti eli k. momentti origon suhteen. TKK (c) Ilkka Mellin (2005) 93

94 Momentit Origomomentit: Erikoistapauksia Olkoon k E( X ) = α k satunnaismuuttujan X k. momentti Erityisesti: α0 = 1 α 1 = E( X ) = µ Siten satunnaismuuttujan X 1. momentti on satunnaismuuttujan X odotusarvo. TKK (c) Ilkka Mellin (2005) 94

95 Momentit Keskusmomentit Olkoon X satunnaismuuttuja, jonka odotusarvo on E( X ) = µ Tällöin satunnaismuuttujan ( X µ ) k odotusarvo E ( X µ ) k = µ k on satunnaismuuttujan X k. keskusmomentti eli k. momentti painopisteen µ suhteen. TKK (c) Ilkka Mellin (2005) 95

96 Momentit Keskusmomentit: Erikoistapauksia Olkoon E ( X µ ) k = µ k satunnaismuuttujan X k. keskusmomentti eli k. momentti painopisteen µ suhteen. Erityisesti: µ = µ 2 = E ( X µ ) = σ = Var( X) = D ( X) Siten satunnaismuuttujan X 1. keskusmomentti häviää aina ja 2. keskusmomentti on satunnaismuuttujan X varianssi. TKK (c) Ilkka Mellin (2005) 96

97 Momentit Momenttien olemassaolo Satunnaismuuttujan X k. origomomentti on olemassa, jos k E( X ) < Satunnaismuuttujan X k. keskusmomentti on olemassa, jos vastaava origomomentti on olemassa. Voidaan osoittaa, että jos n E( X ) < jollekin n, niin k E( X ) < kaikille k < n Jos siis satunnaismuuttujalla on n. origomomentti, sillä on myös kaikki alempien kertalukujen momentit. TKK (c) Ilkka Mellin (2005) 97

98 Jakaumien tunnusluvut Odotusarvo Varianssi Markovin ja Tshebyshevin epäyhtälöt Momentit >> Vinous ja huipukkuus Kvantiilit Moodi Suurten lukujen laki TKK (c) Ilkka Mellin (2005) 98

99 Vinous ja huipukkuus Avainsanat Huipukkuus Keskusmomentit Odotusarvo Origomomentit Vinous TKK (c) Ilkka Mellin (2005) 99

100 Vinous ja huipukkuus Momentit Olkoon on k α k = E( X ), k = 1,2,3, satunnaismuuttujan X k. origomomentti. Olkoon k µ k = E ( X α1), k = 1,2,3, satunnaismuuttujan X k. keskusmomentti. Huomaa: α = E( X ) = µ 1 µ 2 = X µ = X 2 E ( ) Var( ) TKK (c) Ilkka Mellin (2005) 100

101 Vinous ja huipukkuus Vinous Tunnuslukua µ 3 γ = µ käytetään todennäköisyysjakaumien vinouden mittana. TKK (c) Ilkka Mellin (2005) 101

102 Vinous ja huipukkuus Todennäköisyysjakaumien vinous Jos todennäköisyysjakauman pistetodennäköisyys- tai tiheysfunktio on yksihuippuinen, pätee seuraava: γ 1 < 0: Jakauma on negatiivisesti vino eli vino vasemmalle, jolloin jakauman vasen häntä on pitempi kuin oikea häntä. γ 1 = 0: Jakauma on symmetrinen. γ 1 > 0: Jakauma on positiivisesti vino eli vino oikealle, jolloin jakauman oikea häntä on pitempi kuin vasen häntä. Huomautus: Normaalijakaumalle γ 1 = 0. TKK (c) Ilkka Mellin (2005) 102

103 Vinous ja huipukkuus Todennäköisyysjakaumien vinous: Havainnollistus Alla on kuvattuna kolme yksihuippuista tiheysfunktiota. 10 χ 2 (5) N(0,1) χ 2 (5) γ 1 < 0: Jakauma on negatiivisesti vino eli vino vasemmalle. γ 1 = 0: Jakauma on symmetrinen. γ 1 > 0: Jakauma on positiivisesti vino eli vino oikealle. TKK (c) Ilkka Mellin (2005) 103

104 Vinous ja huipukkuus Huipukkuus Tunnuslukua µ 4 γ 2 = 3 2 µ 2 käytetään todennäköisyysjakaumien huipukkuuden mittana. TKK (c) Ilkka Mellin (2005) 104

105 Vinous ja huipukkuus Todennäköisyysjakaumien huipukkuus Jos todennäköisyysjakauman pistetodennäköisyys- tai tiheysfunktio on yksihuippuinen, pätee seuraava: γ 2 > 0: Jakauma on huipukas (normaalijakaumaan verrattuna). γ 2 < 0: Jakauma on laakea (normaalijakaumaan verrattuna). Huomautus: Normaalijakaumalle γ 2 = 0. TKK (c) Ilkka Mellin (2005) 105

106 Jakaumien tunnusluvut Odotusarvo Varianssi Markovin ja Tshebyshevin epäyhtälöt Momentit Vinous ja huipukkuus >> Kvantiilit Moodi Suurten lukujen laki TKK (c) Ilkka Mellin (2005) 106

107 Kvantiilit Avainsanat Desiili Kertymäfunktio Kvantiili Kvartiili Mediaani Prosenttipiste TKK (c) Ilkka Mellin (2005) 107

108 Kvantiilit Kvantiilin määritelmä Olkoon X satunnaismuuttuja. Olkoon lisäksi 0 < p < 1 Jos luku x p toteuttaa ehdot Pr(X x p ) p Pr(X x p ) 1 p sanomme, että x p on satunnaismuuttujan X ja sen jakauman kvantiili kertalukua p. Kvantiili x p toteuttaa siis epäyhtälöt Pr(X < x p ) p Pr(X x p ) TKK (c) Ilkka Mellin (2005) 108

109 Kvantiilit Kvantiilin määritelmä: Kommentteja Kvantiilit voidaan määrätä myös sellaisille satunnaismuuttujille, joilla ei ole momentteja. Kvantiilit eivät välttämättä ole yksikäsitteisiä: (i) Diskreettien satunnaismuuttujien kvantiilit ovat usein monikäsitteisiä. (ii) Jatkuvien satunnaismuuttujien kvantiilit ovat yksikäsitteisiä; ks. seuraavaa kalvoa. TKK (c) Ilkka Mellin (2005) 109

110 Kvantiilit Jatkuvan satunnaismuuttujan kvantiilit Olkoon F(x) = Pr(X x) jatkuvan satunnaismuuttujan X kertymäfunktio. Tällöin satunnaismuuttujan X kvantiili x p toteuttaa yhtälön F(x p ) = p Kvantiili x p jakaa satunnaismuuttujan X jakauman todennäköisyysmassan kahteen osaan niin, että massasta p 100 % on kvantiilista x p vasemmalla ja (1 p) 100 % on kvantiilista x p oikealla. TKK (c) Ilkka Mellin (2005) 110

111 Kvantiilit Jatkuvan satunnaismuuttujan kvantiilit: Esimerkki 1/2 Kuva oikealla esittää standardoidun normaalijakauman N(0, 1) kertymäfunktiota Φ(z). Standardoidun normaalijakauman N(0, 1) taulukoiden mukaan: Φ (0.52) = Pr( Z 0.52) 0.7 Siten x N(0, 1)-jakauman kertymäfunktio TKK (c) Ilkka Mellin (2005) 111

112 Kvantiilit Jatkuvan satunnaismuuttujan kvantiilit: Esimerkki 2/2 Kuva oikealla esittää standardoidun normaalijakauman N(0, 1) tiheysfunktiota. Standardoidun normaalijakauman N(0, 1) taulukoiden mukaan: Alueen A pinta-ala = Siten x f Z ( z) dz = Pr( Z 0.52) N(0, 1)-jakauman tiheysfunktio A TKK (c) Ilkka Mellin (2005) 112

113 Kvantiilit Kvantiilit ja tilastolliset taulukot Useimmissa todennäköisyyslaskennan ja tilastotieteen oppikirjoissa on taulukoituna keskeisten tilastollisessa päättelyssä käytettävien jatkuvien jakaumien kvantiileja x p ja niitä vastaavia todennäköisyyksiä p. Useimmissa tilastollisissa tietokoneohjelmissa on aliohjelmia, jotka laskevat tavallisimpien jatkuvien jakaumien kvantiileja x p ja niitä vastaavia todennäköisyyksiä p. Lisätietoja: ks. lukua Normaalijakaumasta johdettuja jakaumia. TKK (c) Ilkka Mellin (2005) 113

114 Kvantiilit Prosenttipisteet Jos p on muotoa p = q/100, q = 1, 2,, 99 kvantiilia x p kutsutaan q. prosenttipisteeksi. Jatkuvan satunnaismuuttujan tapauksessa q. prosenttipiste jakaa jakauman todennäköisyysmassan kahteen osaan niin, että massasta q % on q. prosenttipisteestä vasemmalla ja (100 q)% on q. prosenttipisteestä oikealla. TKK (c) Ilkka Mellin (2005) 114

115 Kvantiilit Desiilit Jos p on muotoa p = 10 q/100, q = 1, 2,, 9 kvantiilia x p kutsutaan q. desiiliksi. Jatkuvan satunnaismuuttujan tapauksessa q. desiili jakaa jakauman todennäköisyysmassan kahteen osaan niin, että massasta 10 q % on q. desiilistä vasemmalla ja ( q) % on q. desiilistä oikealla. TKK (c) Ilkka Mellin (2005) 115

116 Kvantiilit Kvartiilit 1/2 Jos p on muotoa p = 25 q/100, q = 1, 2, 3 kvantiilia x p kutsutaan q. kvartiiliksi. Jatkuvan satunnaismuuttujan tapauksessa q. kvartiili jakaa satunnaismuuttujan X jakauman todennäköisyysmassan kahteen osaan niin, että massasta 25 q % on q. kvartiilista vasemmalla ja ( q) % on q. kvartiilista oikealla. TKK (c) Ilkka Mellin (2005) 116

117 Kvantiilit Kvartiilit 2/2 Kvartiileja merkitään tavallisesti symboleilla Q 1, Q 2, Q 3 ja sanotaan, että Q 1 = alakvartiili Q 2 = keskikvartiili Q 3 = yläkvartiili Jatkuvan satunnaismuuttujan tapauksessa kvartiilit jakavat jakauman todennäköisyysmassan neljään yhtä suureen osaan: 25 % massasta on kvartiilista Q 1 vasemmalle 25 % massasta on kvartiilien Q 1 ja Q 2 välissä 25 % massasta on kvartiilien Q 2 ja Q 3 välissä 25 % massasta on kvartiilista Q 3 oikealle TKK (c) Ilkka Mellin (2005) 117

118 Kvantiilit Mediaani Jos p = 0.5 kvantiilia x p kutsutaan mediaaniksi. Mediaania merkitään tavallisesti symbolilla Me. Jatkuvan satunnaismuuttujan tapauksessa mediaani Me jakaa jakauman todennäköisyysmassan kahteen yhtä suureen osaan niin, että massasta 50 % on mediaanista vasemmalla ja 50 % on mediaanista oikealla. TKK (c) Ilkka Mellin (2005) 118

119 Kvantiilit Mediaani: Kommentteja Jakauman mediaani ei välttämättä ole yksikäsitteinen. Jakauman mediaani yhtyy jakauman 50. prosenttipisteeseen, 5. desiiliin ja keskikvartiiliin Q 2. Mediaani voidaan määrätä myös sellaisille satunnaismuuttujille, joilla ei ole odotusarvoa. Jos satunnaismuuttujan X jakauma on symmetrinen suoran x = a suhteen, niin jakauman mediaani yhtyy pisteeseen a: Me = a Jos symmetrisellä jakaumalla on odotusarvo E(X) = µ, niin jakauman mediaani yhtyy pisteeseen µ: Me = µ TKK (c) Ilkka Mellin (2005) 119

120 Kvantiilit Mediaani: Esimerkki Kuva oikealla esittää eksponenttijakauman Exp(1) tiheysfunktiota x f( x) = e, x 0 välillä [0, 4]. Jakauman mediaani saadaan ratkaisemalla yhtälö x t e dt 0 = e t x = 1 e = 0.5 x:n suhteen. Siten Me = x = log(2) 0.69 x Exp(1)-jakauman tiheysfunktio 50 % 50 % Me TKK (c) Ilkka Mellin (2005) 120

121 Jakaumien tunnusluvut Odotusarvo Varianssi Markovin ja Tshebyshevin epäyhtälöt Momentit Vinous ja huipukkuus Kvantiilit >> Moodi Suurten lukujen laki TKK (c) Ilkka Mellin (2005) 121

122 Moodi Avainsanat Maksimi Moodi TKK (c) Ilkka Mellin (2005) 122

123 Moodi Diskreetin satunnaismuuttujan moodi Olkoon X diskreetti satunnaismuuttuja, jonka pistetodennäköisyysfunktio on f(x) = Pr(X = x) Piste Mo on diskreetin satunnaismuuttujan X ja sen jakauman moodi, jos pistetodennäköisyysfunktio f(x) saavuttaa maksiminsa pisteessä x = Mo: f ( Mo) = max f ( x) x TKK (c) Ilkka Mellin (2005) 123

124 Moodi Diskreetin satunnaismuuttujan moodi: Esimerkki Kuva oikealla esittää binomijakauman Bin(12, 1/3) pistetodennäköisyysfunktiota x 12 x f( x) = x 3 3 Jakauman moodi Mo on pisteessä x= Bin(12,1/3)-jakauman tiheysfunktio Mo TKK (c) Ilkka Mellin (2005) 124

125 Moodi Jatkuvan satunnaismuuttujan moodi Olkoon X jatkuva satunnaismuuttuja, jonka tiheysfunktio on f(x) Piste Mo on jatkuvan satunnaismuuttujan X ja sen jakauman moodi, jos tiheysfunktio f(x) saavuttaa maksiminsa pisteessä x = Mo: f ( Mo) = max f ( x) x TKK (c) Ilkka Mellin (2005) 125

126 Moodi Jatkuvan satunnaismuuttujan moodi: Esimerkki Kuva oikealla esittää erään sekoitetun normaalijakauman N tiheysfunktiota f. Tiheysfunktio f on kaksihuippuinen ja symmetrinen suoran x = µ suhteen. Jakaumalla N on kaksi lokaalia moodia Mo 1 ja Mo 2. Jakauman N tiheysfunktio Mo 1 µ Mo 2 TKK (c) Ilkka Mellin (2005) 126

127 Moodi Satunnaismuuttujan moodi: Kommentteja Jakauman moodi ei välttämättä ole yksikäsitteinen; ks. edellistä kalvoa. Moodi voidaan määrätä myös sellaisille satunnaismuuttujille, joilla ei ole odotusarvoa. TKK (c) Ilkka Mellin (2005) 127

128 Jakaumien tunnusluvut Odotusarvo Varianssi Markovin ja Tshebyshevin epäyhtälöt Momentit Vinous ja huipukkuus Kvantiilit Moodi >> Suurten lukujen laki TKK (c) Ilkka Mellin (2005) 128

129 Suurten lukujen laki Avainsanat Asymptoottinen käyttäytyminen Aritmeettinen keskiarvo Odotusarvo Stokastinen konvergenssi Suurten lukujen laki Tilastollinen stabiliteetti Varianssi TKK (c) Ilkka Mellin (2005) 129

130 Suurten lukujen laki Suurten lukujen laki: Formulointi Olkoon X i, i = 1, 2, 3, jono riippumattomia satunnaismuuttujia, joilla on sama odotusarvo ja varianssi: E(X i ) = µ, D 2 (X i ) = σ 2, i = 1, 2, 3, Määritellään satunnaismuuttujien X i, i = 1, 2,, n aritmeettinen keskiarvo: X n Tällöin pätee (heikko) suurten lukujen laki: ( X µ ε ) lim Pr > = 0 n + 1 n n i = 1 = X n i TKK (c) Ilkka Mellin (2005) 130

131 Suurten lukujen laki Suurten lukujen laki: Kommentteja 1/2 Suurten lukujen laille esitetään todistus luvussa Konvergenssikäsitteet ja raja-arvolauseet. Suurten lukujen laki ilmaistaan usein sanoin seuraavasti: Samoin jakautuneiden satunnaismuuttujien aritmeettinen keskiarvo lähestyy muuttujien lukumäärän kasvaessa muuttujien yhteistä odotusarvoa sellaisella tavalla, että poikkeamien todennäköisyys satunnaismuuttujien yhteisestä odotusarvosta lähestyy lukua nolla eli poikkeamat tulevat yhä harvinaisemmiksi. Suurten lukujen lakia voidaan pitää matemaattisena formulointina tilastollisen stabiliteetin käsitteelle. TKK (c) Ilkka Mellin (2005) 131

132 Suurten lukujen laki Suurten lukujen laki: Kommentteja 2/2 Tässä formuloitua suurten lukujen lakia kutsutaan heikoksi suurten lukujen laiksi. Suurten lukujen laki koskee satunnaismuuttujien asymptoottista käyttäytymistä samaan tapaan kuin luvussa Jatkuvia jakaumia esitettävä keskeinen rajaarvolause. Suurten lukujen laissa esiintyvä rajakäyttäytymisen muoto on esimerkki stokastiikan konvergenssikäsitteistä; ks. lukua Konvergenssikäsitteet ja raja-arvolauseet. Suurten lukujen laista on olemassa yleisempiä muotoja, joissa voidaan lieventää samoinjakautuneisuus-ja riippumattomuusoletuksia. TKK (c) Ilkka Mellin (2005) 132