MS-A0503 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

Transkriptio

1 MS-A0503 Todennäköisyyslaskennan ja tilastotieteen peruskurssi 3A Normaaliapproksimaatio Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Lukuvuosi Periodi III

2 Sisältö Summan keskihajonta Normaaliapproksimaatio

3 Mitä suurten lukujen laki kertoo (ja mitä ei)? Keskiarvo suuresta määrästä riippumattomia X :n tavoin jakautuneita satunnaislukuja (odotusarvo µ, keskihajonta σ) on likimain 1 n n X i µ (tn:llä 1). i=1 Suurten lukujen laki ei kerro: Kuinka tarkka tämä approksimaatio on? Miten σ vaikuttaa approksimaation tarkkuuteen? Approksimaation tarkkuutta voidaan mitata laskemalla ( ) ( 1 n n ) SD X i = 1 n n SD X i. i=1 i=1 Tarvitaan laskukaava summan keskihajonnalle/varianssille.

4 Summan keskihajonta Laske σ X +Y = SD(X + Y ), kun tunnetaan odotusarvot µ X = 1 ja µ Y = 1 sekä keskihajonnat σ X = 2 ja σ Y = 3. Ratkaisu Kovarianssin lineaarisuudesta Var(X + Y ) = Cov(X + Y, X + Y ) = Cov(X, X ) + Cov(Y, X ) + Cov(X, Y ) + Cov(Y, Y ) = Var(X ) + 2 Cov(X, Y ) + Var(Y ), joten SD(X + Y ) = σ 2 X + 2 Cor(X, Y ) σ X σ Y + σ 2 Y. Summan keskihajontaa ei voi laskea tuntematta korrelaatiota. Koska 1 Cor(X, Y ) 1, saadaan yo. kaavasta estimaatit σ X σ Y SD(X + Y ) σ X + σ Y, eli 1 σ X +Y 5. Jos X ja Y ovat riippumattomat, pätee Cor(X, Y ) = 0 ja σ X +Y = σ 2 X + σ2 Y =

5 Summan keskihajonta: Yleinen tapaus Fakta Satunnaislukujen X 1,..., X n summan keskihajonta saadaan kaavasta ( ) SD X i = σi 2 + σ i σ j ρ i,j, i i i missä σ i = SD(X i ) ja ρ i,j = Cor(X i, X j ). Jos X 1,..., X n ovat riippumattomia (ρ i,j = 0) ja samoin jakautuneita (µ i = µ ja σ i = σ), niin ( n ) SD X i = n σi 2 = nσ 2 = σ n. i=1 i=1 j i

6 Summan keskihajonta: Todistus Kovarianssin lineaarisuudesta ( ) ( Var X i = Cov X i, ) X j i i j = Cov(X i, X j ) i j ( = i Cov(X i, X i ) + j i Cov(X i, X j ) ) joten ( ) SD X i i = = i = i Var(X i ) + Cov(X i, X j ) i j i σi 2 + σ i σ j ρ i,j, i j i ( ) Var X i = σi 2 + i i i j i σ i σ j ρ i,j.

7 Summan keskihajonta: Riippumattomat termit Fakta Riippumattomien satunnaislukujen X 1,..., X n summan keskihajonta saadaan kaavasta ( n ) SD X i = n σi 2 = σ n, i=1 kun σ i = σ kaikilla i = 1,..., n. Todistus. Tulos seuraa suoraan summan keskihajonnan kaavasta, sillä ρ i,j = Cor(X i, Y j ) = 0 kaikilla i j, kun X 1,..., X n ovat toisistaan stokastisesti riippumattomat. i=1

8 Summan odotusarvo ja keskihajonta: Yhteenveto Satunnaislukujen X 1,..., X n summan odotusarvo ja keskihajonta, kun µ i = E(X i ), σ i = SD(X i ) ja ρ i,j = Cor(X i, X j ): Summan termit E( i X i) SD( i X i) Yleiset i µ i i σ2 i + i j i σ iσ j ρ i,j Riippumattomat i µ i i σ2 i Riippumattomat ja samoin jakautuneet µn σ n

9 Esim. Noppapeli Pelataan n kierrosta noppapeliä. Laske kertyneen tuoton S n = X X n odotusarvo ja keskihajonta, n = 10, 100, Yhden kierroksen tuoton odotusarvo on µ = 3.5 ja keskihajonta σ = E ( X 2 i ) µ 2 = 1 6 ( ) (3.5) Riippumattomat kierrokset = E(S n ) = µn ja SD(S n ) = σ n E(S 10 ) = 35 E(S 100 ) = 350 E(S 1000 ) = 3500 SD(S 10 ) 5.4 SD(S 100 ) 17 SD(S 1000 ) 54

10 Esim. Noppapeli 100 kierroksen tuotto on odotusarvoltaan µ 100 = 350 ja keskihajonnaltaan σ Chebyshevin epäyhtälö: P(S 100 = 350 ± 34) 75% Noppapelin 100 pelikierroksen tuotto on siis melko todennäköisesti (tn 75%) välillä EUR.

11 Esimerkki: Lentoyhtiö 300 lentolippua myydään lennolle, jossa on 290 matkustajapaikkaa. Arviolta 5% lipun ostaneista jää saapumatta lennolle, toisistaan riippumattomasti. Millä tn kaikki saapujat mahtuvat lennolle? Lennolle saapuvien lukumäärä on N = X X 300, missä { 1, jos lentolipun i ostaja saapuu lennolle, X i = 0, muuten. Koska µ X = E(X i ) = 0.95 ja σ X = SD(X i ) = µ(1 µ) 0.22, saadaan µ N = µ X 300 = 285 ja σ N = σ X Chebyshevin epäyhtälö P(N [280, 290]) P(N = µ N ± 1.32σ N ) %. takaa, että kaikki mahtuvat lennolle vähintään tn:llä 42.6%. (Tämä kuulostaa pessimistiseltä arviolta?)

12 Lentoyhtiö: Tarkka jakauma Millainen on lennolle saapuvien lukumäärän N tarkka jakauma? N = X X 300 Satunnaismuuttujan N arvojoukko on {0, 1, 2,..., 300}. P(N = 0) = (1 0.95) = P(N = k) = ( 300 k ) (1 0.95) 300 k 0.95 k N noudattaa binomijakaumaa parametrein n = 300 ja p = Pienet N:n arvot ovat (yli)tähtitieteellisen epätodennäköisiä R:llä saadaan tarkka arvo P(X 290) = pbinom(290,300,0.95) 93.5% ja P(X [280, 290]) = pbinom(290,300,0.95) - pbinom(279,300,0.95) 85.7%.

13 Lentoyhtiö: Simuloitu jakauma Simuloidaan N:n tavoin Bin(300, 0.95)-jakautuneita satunnaislukuja kappaletta ja piirretään histogrammi

14 100 noppaa vs. 300 lentolippua Nopanheittojen summan ja saapuvien lentomatkustajien lukumäärän jakaumat ovat likimain samanmuotoiset: riippumattoman nopanheiton summa 300 riippumattoman indikaattorimuuttujan summa Tämä ei ole sattumaa!

15 Sisältö Summan keskihajonta Normaaliapproksimaatio

16 Normaaliapproksimaatio Fakta (Keskeinen raja-arvolause) Jos X 1,..., X n ovat riippumattomia ja samoin jakautuneita satunnaislukuja odotusarvona µ ja keskihajontana σ, niin n i=1 X i µn σ n d Z noudattaa suurilla n likimain normitettua normaalijakaumaa P(Z z) = z 1 2π e t2 /2 dt. Huom Tämä on universaali luonnonlaki, sillä X i :n jakauman luonteesta (diskreetti/jatkuva, symmetrinen/vino) ei tarvitse olettaa mitään. de Moivre 1733, Laplace 1812, Lyapunov 1911, Lindeberg 1922, Turing 1934

17 Normaalijakauma Satunnaisluku Z noudattaa normaalijakaumaa odotusarvona µ ja keskihajontana σ, jos sillä on tiheysfunktio f (x) = 1 (x µ)2 e 2σ 2 2πσ 2 = dnorm(x,mu,sigma) f(x) Φ(x) -σ σ x -σ σ x Normitetun normaalijakauman (µ = 0 ja σ = 1) kertymäfunktio on Φ(z) = z 1 2π e x2 2 dx = pnorm(z)

18 Normaalijakauman normittaminen Fakta Jos X on normaalijakautunut odotusarvona µ X ja keskihajontana σ X, niin tällöin myös Y = a + bx on normaalijakautunut odotusarvona ja keskihajontana µ Y = E(a + bx ) = a + b E(X ) = a + bµ X σ Y = SD(a + bx ) = b SD(X ) = b σ X Seuraus Normitettu satunnaisluku Z = X µ X σ X noudattaa normitettua normaalijakaumaa (µ Z = 0 ja σ Z = 1).

19 Esimerkki: Älykkyysosamäärä Yhdeksäsluokkalaisten älykkyysosamäärä noudattaa likimain normaalijakaumaa (µ = 100, σ = 15). Millä tn satunnaisesti valitun yhdeksäsluokkalaisen älykkyysosamäärä on (a) yli 130? (b) välillä ? P(X > 130) = ( X µ P > σ ) = P(Z > 2) = P(Z 2) 2.3%. ( P(85 X 115) = P X µ 15 σ R: pnorm(-2); 1-2*pnorm(-1) = P( 1 Z 1) = 1 P(Z > 1) P(Z < 1) = 1 2 P(Z 1) 68%. )

20 Esimerkki: Älykkyysosamäärä Odotusarvo µ = 100, keskihajonta σ = 15 2% 14% 68% 14% 2% σ σ

21 Esimerkki: Noppapeli Millä tn 100 pelikierrokselta kertynyt tuotto on (a) välillä ? (b) yli 500 EUR? Yhden kierroksen tuoton odotusarvo µ X = 3.5 ja keskihajonta σ X 1.7. Normaaliapproksimaatio: S P(316 S ) = P = S µ X d Z. 100σX ( 2 S ) P( 2 Z 2) = 1 2 P(Z 2) 95.4%. ( ) S P(S 100 > 500) = P > P(Z > 8.82) = P(Z 8.82)

22 Esimerkki: Lentoyhtiö Millä tn kaikki lipun ostaneet mahtuvat lennolle? (Myyty 300 lippua, lennolla 290 paikkaa.) Lennolle saapuvien lukumäärä N = X X 300. Indikaattorin X i odotusarvo µ X = 0.95 ja keskihajonta σ X = Normaaliapproksimaatio: N = N 300µ X d Z. 300σX ( ) N 285 P(N 290) = P(N 290.5) = P P(Z 1.46) (Tarkka tn: pbinom(290,300,0.95) = 93.5%) = 1 P(Z 1.46) 92.8%.

23 Seuraavalla kerralla puhutaan empiiristä jakaumista...