tilastotieteen kertaus

Transkriptio

1 tilastotieteen kertaus Keskiviikon harjoitukset pidetään poikkeuksellisesti klo luokassa Y228. Heliövaara 1

2 Mitä tilastotiede on? Tilastotiede kehittää ja soveltaa menetelmiä, joiden avulla reaalimaailman ilmiöistä voidaan tehdä johtopäätöksiä tilanteissa, joissa ilmiöitä koskeviin tietoihin liittyy epävarmuutta ja satunnaisuutta. Heliövaara 2

3 Kuvailun ja päättelyn menetelmiä Kuvailun menetelmiä: - Tilastografiikka - Tilastolliset tunnusluvut - Tilastolliset mallit Päättelyn menetelmiä: - Tilastolliset mallit - Tilastollinen testaus Heliövaara 3

4 Aineiston kerääminen Kohdistuuko tutkimus koko perusjoukkoon vai vain johonkin sen osaan? - Tutkimusta kutsutaan kokonaistutkimukseksi, jos perusjoukon kaikki alkiot tutkitaan. - Tutkimusta kutsutaan otantatutkimukseksi, jos perusjoukon alkioista vain osa tutkitaan. (Otoksen valitsemiseen on useita erilaisia tapoja.) Muutetaanko tutkimuksessa aktiivisesti tutkimuksen kohteiden olosuhteita? - Tutkimus on koe, jos tutkitaan olosuhteiden muuttamisen vaikutusta tutkimuksen kohteisiin. - Jos olosuhteita ei muuteta aktiiivisesti, sanomme, että tutkimus perustuu suoriin havaintoihin Heliövaara 4

5 Kontrolloidut kokeet Kokeesta ei voida tehdä luotettavia johtopäätöksiä, ellei koe ole kontrolloitu: - Kokeessa on vertailtava vähintään kahden erilaisen käsittelyn vaikutuksia. - Käsittelyjen kohdistamisessa on käytettävä satunnaistusta. - Kokeessa on tehtävä riittävästi koetoistoja. Heliövaara 5

6 Aineistojen kuvaaminen Heliövaara 6

7 Frekvenssit ja havaintoarvojen jakauma Jos muuttuja on diskreetti, havaittujen arvojen jakaumaa kuvataan frekvessijakaumalla ja sitä vastaavalla graafisella esityksellä, joka on pylväsdiagrammi. Jos muuttuja on jatkuva, havaittujen arvojen jakaumaa kuvataan luokitellulla frekvessijakaumalla ja sitä vastaavalla graafisella esityksellä, joka on histogrammi. Histogrammissa pinta-ala vastaa frekvenssiä ja pylväsdiagrammissa korkeus. Muuttujan x mahdolliset arvot y 1,y 2,...,y m yhdessä niiden havaittujen frekvenssien f 1,f 2,...,f m kanssa muodostavat muuttujan x havaittujen arvojen x 1,x 2,...x n frekvenssijakauman. Siinä missä todennäköisyyksien summa on aina yksi, on nyt f i = n. Heliövaara 7

8 Havaintoaineiston tunnuslukuja 1/2 Aritmeettinen keskiarvo: n x = 1 n i=1 x i Otosvarianssi: s 2 = 1 n 1 n (x i x) 2 = 1 ( n n 1 i=1 i=1 x 2 i n x 2 ) Otoskeskihajonta: s = s 2 Heliövaara 8

9 Havaintoaineiston tunnuslukuja 2/2 Origomomentit: n a k = 1 n i=1 x k i Keskusmomentit: m k = 1 n n (x i x) k i=1 Heliövaara 9

10 Standardointi ja tilastollinen etäisyys Standardoitujen havaintoarvojen z i = x i x s x,i = 1, 2,...,n aritmeettinen keskiarvo ja otosvarianssi ovat z = 1 n n i=1 z i = 0 s 2 z = 1 n 1 n (z i z) 2 = 1 i=1 Havaintoarvojen x k ja x l tilastollinen etäisyys d kl on d kl = x k x l s x Heliövaara 10

11 Tunnuslukuja järjestysasteikollisille aineistolle Järjestystunnusluvut: Suuruusjärjestyksessä k. havaintoarvoa z k kutsutaan k. järjestystunnusluvuksi. Minimi ja maksimi eli pienin ja suurin arvo. Vaihteluväli ja sen pituus. Prosenttipisteet z p : p. prosenttipiste jakaa aineiston kahteen osaan: p% havainnoista on prosenttipistettä pienempiä ja loput (100 p)% suurempia. Mediaani eli Me = z 50 jakaa aineiston kahteen yhtä suureen osaan. Kvartiilit: Q 1 = z 25, Q 2 = z 50 = Me ja Q 3 = z 75. Kvartiilipoikkeama: (Q 3 Q 1 )/2 Heliövaara 11

12 Tunnuslukuja laatueroasteikollisille aineistoille Suhteelliset frekvenssit f i /n. Moodi eli tyyppiarvo eli yleisin havaintoarvo. Heliövaara 12

13 Vinous Olkoot m 2 = 1 n n (x i x) 2 m 3 = 1 n i=1 havaintoarvojen 2. ja 3. keskusmomentti. n (x i x) 3 i=1 Tunnuslukua c 1 = m 3 m 3/2 2 käytetään kuvaamaan havaintoarvojen jakauman vinoiutta. - Jos c 1 0, on havaintoarvojen jakauma symmetrinen painopisteensä suhteen. - Jos c 1 > 0, on havaintoarvojen jakauma positiivisesti vino. - Jos c 1 < 0, on havaintoarvojen jakauma negatiivisesti vino. Heliövaara 13

14 Huipukkuus Olkoot m 2 = 1 n n (x i x) 2 m 4 = 1 n i=1 havaintoarvojen 2. ja 4. keskusmomentti. n (x i x) 4 i=1 Tunnuslukua c 2 = m 4 m käytetään kuvaamaan havaintoarvojen jakauman huipukkuutta. - Normaalijakautuneella havaintoaineistolla c Jos c 2 > 0, on havaintoarvojen jakauma huipukas (Normaalijakautuneeseen havaintoaineistoon verrattuna). - Jos c 2 < 0, on havaintoarvojen jakauma laakea (Normaalijakautuneeseen havaintoaineistoon verrattuna). Heliövaara 14

15 Otos ja otosjakaumat Heliövaara 15

16 Tilastollinen aineisto Tilastollinen aineisto koostuu tutkimuksen kohteita kuvaavien muuttujien havaituista arvoista. Tilastollisissa tutkimusasetelmissa havaintoarvoihin liittyy aina epävarmuutta ja satunnaisuutta. Heliövaara 16

17 Tilastollinen malli Tilastollisella mallilla tarkoitetaan tutkimuksen kohteita kuvaavien satunnaismuuttujien todennäköisyysjakaumaa, jonka ajatellaan generoineen ko. satunnaismuuttujien havaitut arvot. Nämä todennäköisyysjakaumat riippuvat tavallisesti parametreista, joiden arvoja ei yleensä tunneta. Tilastollista mallia sovellettaessa kohdataan tavallisesti seuraavat parametreja koskevat ongelmat: - Parametrien arvoja ei tunneta ja ne on estimoitava eli arvioitava havaintoaineistosta. - Parametrien arvoista on olemassa oletuksia, joita halutaan testata havaintoaineiston antaman informaation avulla. Heliövaara 17

18 Yksinkertainen satunnaisotos Olkoot X 1,X 2,...,X n riippumattomia, identtisesti jakautuneita satunnaismuuttujia, joilla on sama pistetodennäköisyys- tai tiheysfunktio f(x). Tällöin satunnaismuuttujat X 1,X 2,...,X n muodostavat yksinkertaisen satunnaisotoksen jakaumasta f(x). Heliövaara 18

19 Havainnot ja havaintoarvot Olkoon X 1,X 2,...,X n yksinkertainen satunnaisotos jakaumasta f(x). Stunnaismuuttujia X 1,X 2,...,X n kutsutaan havainnoiksi. Kun otos on poimittu, satunnaismuuttujat X 1,X 2,...,X n saavat havaituiksi arvoikseen havaintoarvot x 1,x 2,...,x n. Heliövaara 19

20 Otostunnusluvut ja otosjakaumat Olkoon T = g(x 1,X 2,...,X n ) jokin satunnaismmuuttujien X 1,X 2,...,X n (mitallinen) funktio. Satunnaismuuttujaa T kutsutaan otostunnusluvuksi. Tunnusluvun T jakaumaa kutsutaan T :n otosjakaumaksi. Heliövaara 20

21 Aritmeettisen keskiarvon odotusarvo ja varianssi Oletetaan, että havainnot X 1,X 2,...,X n muodostavat yksinkertaisen satunnaisotoksen satunnaismuuttujan X jakaumasta, jonka odotusarvo ja varianssi ovat E(X) = µ ja V ar(x) = σ 2. Havaintojen aritmeettisen keskiarvon X odotusarvo ja varianssi ovat E( X) = µ V ar( X) = σ2 n Aritmeettisen keskiarvon standardipoikkeamaa D( X) = σ/ n kutsutaan keskiarvon keskivirheeksi. Heliövaara 21

22 Aritmeettisen keskiarvon otosjakauma, kun otos on normaalijakautunut Oletetaan, että havainnot X 1,X 2,...,X n muodostavat yksinkertaisen satunnaisotoksen normaalijakaumasta N(µ,σ 2 ). Tällöin havaintojen aritmeettinen keskiarvo X noudattaa eksaktisti normaalijakaumaa: ) X N (µ, σ2 n Standardoitu satunnaismuuttuja Z = X µ σ/ n noudattaa eksaktisti standardoitua normaalijakaumaa: Z N(0, 1) Heliövaara 22

23 Otosvarianssin odotusarvo ja varianssi Oletetaan, että havainnot X 1,X 2,...,X n muodostavat yksinkertaisen satunnaisotoksen satunnaismuuttujan X jakaumasta, jonka odotusarvo ja varianssi ovat E(X) = µ ja V ar(x) = σ 2. Havaintojen otosvarianssin s 2 odotusarvo ja varianssi ovat E(s 2 ) = σ 2 V ar(s 2 ) = 2σ4 n 1 Heliövaara 23

24 Otosvarianssin otosjakauma, kun otos on normaalijakautunut Oletetaan, että havainnot X 1,X 2,...,X n muodostavat yksinkertaisen satunnaisotoksen normaalijakaumasta N(µ,σ 2 ). Tällöin satunnaismuuttuja V = (n 1)s2 σ 2 = n i=1 ( Xi X σ ) 2 noudattaa eksaktisti χ 2 -jakaumaa vapausastein (n 1): V χ 2 (n 1) Heliövaara 24

25 Frekvenssi ja suhteellinen frekvenssi Olkoon A jokin otosavaruuden S alkioiden ominaisuus. Poimitaan otosavaruudesta yksinkertainen satunnaisotos, jonka koko on n. Ominaisuuden A omaavien alkioden lukumäärää otoksessa merkitään f :llä kutsutaan ominaisuuden A frekvenssiksi. Ominaisuuden A suhteellinen frekvenssi ˆp määritellään: ˆp = f n Heliövaara 25

26 Frekvenssien odotusarvo ja varianssi Frekvenssi f noudattaa eksaktisti binomijakaumaa parametrein n ja Pr(A) = p: f Bin(n,p) Frekvenssin f odotusarvo ja varianssi ovat siis: jossa q = 1 p. E(f) = np V ar(f) = npq, Suhteellisen frekvenssin ˆp odotusarvo ja varianssi ovat: E(ˆp) = p V ar(ˆp) = pq n Heliövaara 26

27 Suhteellisen frekvenssin normaaliapproksimaatio Suhteellinen frekvenssi ˆp noudattaa suurissa otoksissa approksimatiivisesti normaalijakaumaa: Standardoitu satunnaismuuttuja ˆp a N ( p, pq ) n Z = ˆp p pq/n noudattaa siten suurissa otoksissa standardoitua normaalijakumaa: Z a N(0, 1) Heliövaara 27

28 Estimointi Heliövaara 28

29 Estimointi Tilastollisen tutkimuksen tärkeimpiä osatehtäviä on estimoida eli arvioida tutkimuksen kohteena olevaa ilmiötä koskevat havainnot generoineen prosessin mallina käytettävän todennäköisyysjakauman tuntemattomat parametrit ilmiötä koskevien havaintojen perusteella. Havaintojen funktiota, joka tuottaa estimaatteja parametrin todelliselle arvolle, kutsutaan parametrin estimaattoriksi. Heliövaara 29

30 Estimaatti ja estimaattori Oletetaan, että satunnaismuuttuja X noudattaa todennäköisyysjakaumaa, jonka pistetodennäköisyys- tai tiheysfunktio f(x; θ) riippuu parametrista θ. Parametrin θ estimoimiseen käytetään havaintojen X 1,X 2,...,X n funktiota, eli tunnuslukua T = g(x 1,X 2,...,X n ) = ˆθ Funktiota T kutsutaan parametrin θ estimaattoriksi. Havaintoarvoista x 1,x 2,...,x n laskettua arvoa t = g(x 1,x 2,...,x n ) kutsutaan parametrin θ estimaatiksi. Heliövaara 30

31 Hyvä estimaattori Todennäköisyysjakauman parametreille on tavallisesti tarjolla useita vaihtoehtoisia estimaattoreita. Seuraavat hyvyyskriteerit täyttävä estimaattori tuottaa järkeviä arvoja estimoitavalle parametrille: - Harhattomuus - Tyhjentävyys - Tehokkuus - Tarkentuvuus Heliövaara 31

32 Piste-estimointi ja väliestimointi Todennäköisyysjakauman parametrin arvon estimointia kutsutaan piste-estimoinniksi. Parametrin estimaattiin on aina syytä liittää luottamusväliksi kutsuttu väli, joka sisältää estimoidun parametrin todellisen, mutta tuntemattoman arvon tietyllä, soveltajan valittavissa olevalla todennäköisyydellä. Luottamusvälin määräämistä kutsutaan väliestimoinniksi. Heliövaara 32

33 Luottamusvälin määritys 1/2 Oletukset: - Satunnaismuuttuja X noudattaa jakaumaa f(x; θ). - X 1,X 2,...,X n on yksinkertainen satunnaisotos jakaumasta f(x;θ). - ˆθ = ˆθ(X 1,X 2,...,X n ) on θ:n estimaattori. Valitaan luottamustaso 1 α ja määrätään satunnaismuuttujat A = A(X 1,X 2,...,X n ) Y = Y (X 1,X 2,...,X n ) siten että Pr(ˆθ A θ) = α 2 Pr(ˆθ + Y θ) = α 2 Heliövaara 33

34 Luottamusvälin määritys 2/2 Nyt todennäköisyys Pr(ˆθ A θ ˆθ + Y ) = 1 α ja väli (ˆθ A, ˆθ + Y ) on θ:n luottamusväli luottamustasolla (1 α). Jos ˆθ:n jakauma on symmetrinen, pätee A = Y luottamusväli on muotoa (ˆθ A, ˆθ + A). Heliövaara 34

35 Normaalijakautuneen estimaattorin määräämä luottamusväli, kun varianssi σ 2 tunnetaan Olkoon satunnaismuuttuja ˆθ N(µ,σ 2 ) parametrin θ estimaattori. Tällöin satunnaismuuttuja Nyt pätee Z = ˆθ µ σ Pr( z α/2 ˆθ µ σ N(0, 1). z α/2 ) = 1 α. Tästä saadaan parametrin θ (1 α) -luottamusväliksi ˆθ z α/2 σ θ ˆθ + z α/2 σ. Heliövaara 35

36 Normaalijakautuneen satunnaismuuttujan odotusarvon luottamusväli, kun varianssi σ 2 tunnetaan Olkoon X 1,...,X n yksinkertainen satunnaisotos normaalijakaumasta N(µ,σ 2 ). Oletetaan että σ 2 tunnetaan, mutta µ on tuntematon. Tällöin havaintojen aritmeettinen keskiarvo X noudattaa eksaktisti normaalijakaumaa: ) X N (µ, σ2 n Edellisen kalvon kaavasta odotusarvon µ (1 α) -luottamusväliksi saadaan X z α/2 σ n µ X + z α/2 σ n. Heliövaara 36

37 Normaalijakauman odotusarvon luottamusväli Olkoon havainnot X 1,...,X n yksinkertainen satunnaisotos normaalijakaumasta N(µ,σ 2 ) ja olkoon X = havaintojen aritmeettinen keskiarvo s 2 = havaintojen harhaton otosvarianssi n = havaintojen lukumäärä t α/2 = t-jakauman arvo merkitsevyystasolla α/2 ja vapausasteilla (n 1). Normaalijakauman odotusarvoparametrin µ luottamusväli luottamustasolla (1 α) on muotoa ( ) s s X t α/2, X + tα/2 n n Heliövaara 37

38 Otoskoon määrääminen Oletetaan, että normaalijakauman varianssi σ 2 tunnetaan. Kuinka suuri otos on otettava, jotta odotusarvolle voidaan muodostaa (1 α)-luottamusväli, jonka pituus on 2A? Odotusarvon luottamusväli luottamustasolla (1 α) on σ X ± z α/2 n. Jotta luottamusvälin pituus olisi 2A, on oltava z α/2 σ n = A, josta voidaan ratkaista tarvittava otoskoko n n = ( ) zα/2 σ 2. A Heliövaara 38