tilastotieteen kertaus Keskiviikon 24.1. harjoitukset pidetään poikkeuksellisesti klo 14-16 luokassa Y228. Heliövaara 1
Mitä tilastotiede on? Tilastotiede kehittää ja soveltaa menetelmiä, joiden avulla reaalimaailman ilmiöistä voidaan tehdä johtopäätöksiä tilanteissa, joissa ilmiöitä koskeviin tietoihin liittyy epävarmuutta ja satunnaisuutta. Heliövaara 2
Kuvailun ja päättelyn menetelmiä Kuvailun menetelmiä: - Tilastografiikka - Tilastolliset tunnusluvut - Tilastolliset mallit Päättelyn menetelmiä: - Tilastolliset mallit - Tilastollinen testaus Heliövaara 3
Aineiston kerääminen Kohdistuuko tutkimus koko perusjoukkoon vai vain johonkin sen osaan? - Tutkimusta kutsutaan kokonaistutkimukseksi, jos perusjoukon kaikki alkiot tutkitaan. - Tutkimusta kutsutaan otantatutkimukseksi, jos perusjoukon alkioista vain osa tutkitaan. (Otoksen valitsemiseen on useita erilaisia tapoja.) Muutetaanko tutkimuksessa aktiivisesti tutkimuksen kohteiden olosuhteita? - Tutkimus on koe, jos tutkitaan olosuhteiden muuttamisen vaikutusta tutkimuksen kohteisiin. - Jos olosuhteita ei muuteta aktiiivisesti, sanomme, että tutkimus perustuu suoriin havaintoihin Heliövaara 4
Kontrolloidut kokeet Kokeesta ei voida tehdä luotettavia johtopäätöksiä, ellei koe ole kontrolloitu: - Kokeessa on vertailtava vähintään kahden erilaisen käsittelyn vaikutuksia. - Käsittelyjen kohdistamisessa on käytettävä satunnaistusta. - Kokeessa on tehtävä riittävästi koetoistoja. Heliövaara 5
Aineistojen kuvaaminen Heliövaara 6
Frekvenssit ja havaintoarvojen jakauma Jos muuttuja on diskreetti, havaittujen arvojen jakaumaa kuvataan frekvessijakaumalla ja sitä vastaavalla graafisella esityksellä, joka on pylväsdiagrammi. Jos muuttuja on jatkuva, havaittujen arvojen jakaumaa kuvataan luokitellulla frekvessijakaumalla ja sitä vastaavalla graafisella esityksellä, joka on histogrammi. Histogrammissa pinta-ala vastaa frekvenssiä ja pylväsdiagrammissa korkeus. Muuttujan x mahdolliset arvot y 1,y 2,...,y m yhdessä niiden havaittujen frekvenssien f 1,f 2,...,f m kanssa muodostavat muuttujan x havaittujen arvojen x 1,x 2,...x n frekvenssijakauman. Siinä missä todennäköisyyksien summa on aina yksi, on nyt f i = n. Heliövaara 7
Havaintoaineiston tunnuslukuja 1/2 Aritmeettinen keskiarvo: n x = 1 n i=1 x i Otosvarianssi: s 2 = 1 n 1 n (x i x) 2 = 1 ( n n 1 i=1 i=1 x 2 i n x 2 ) Otoskeskihajonta: s = s 2 Heliövaara 8
Havaintoaineiston tunnuslukuja 2/2 Origomomentit: n a k = 1 n i=1 x k i Keskusmomentit: m k = 1 n n (x i x) k i=1 Heliövaara 9
Standardointi ja tilastollinen etäisyys Standardoitujen havaintoarvojen z i = x i x s x,i = 1, 2,...,n aritmeettinen keskiarvo ja otosvarianssi ovat z = 1 n n i=1 z i = 0 s 2 z = 1 n 1 n (z i z) 2 = 1 i=1 Havaintoarvojen x k ja x l tilastollinen etäisyys d kl on d kl = x k x l s x Heliövaara 10
Tunnuslukuja järjestysasteikollisille aineistolle Järjestystunnusluvut: Suuruusjärjestyksessä k. havaintoarvoa z k kutsutaan k. järjestystunnusluvuksi. Minimi ja maksimi eli pienin ja suurin arvo. Vaihteluväli ja sen pituus. Prosenttipisteet z p : p. prosenttipiste jakaa aineiston kahteen osaan: p% havainnoista on prosenttipistettä pienempiä ja loput (100 p)% suurempia. Mediaani eli Me = z 50 jakaa aineiston kahteen yhtä suureen osaan. Kvartiilit: Q 1 = z 25, Q 2 = z 50 = Me ja Q 3 = z 75. Kvartiilipoikkeama: (Q 3 Q 1 )/2 Heliövaara 11
Tunnuslukuja laatueroasteikollisille aineistoille Suhteelliset frekvenssit f i /n. Moodi eli tyyppiarvo eli yleisin havaintoarvo. Heliövaara 12
Vinous Olkoot m 2 = 1 n n (x i x) 2 m 3 = 1 n i=1 havaintoarvojen 2. ja 3. keskusmomentti. n (x i x) 3 i=1 Tunnuslukua c 1 = m 3 m 3/2 2 käytetään kuvaamaan havaintoarvojen jakauman vinoiutta. - Jos c 1 0, on havaintoarvojen jakauma symmetrinen painopisteensä suhteen. - Jos c 1 > 0, on havaintoarvojen jakauma positiivisesti vino. - Jos c 1 < 0, on havaintoarvojen jakauma negatiivisesti vino. Heliövaara 13
Huipukkuus Olkoot m 2 = 1 n n (x i x) 2 m 4 = 1 n i=1 havaintoarvojen 2. ja 4. keskusmomentti. n (x i x) 4 i=1 Tunnuslukua c 2 = m 4 m 2 2 3 käytetään kuvaamaan havaintoarvojen jakauman huipukkuutta. - Normaalijakautuneella havaintoaineistolla c 2 0. - Jos c 2 > 0, on havaintoarvojen jakauma huipukas (Normaalijakautuneeseen havaintoaineistoon verrattuna). - Jos c 2 < 0, on havaintoarvojen jakauma laakea (Normaalijakautuneeseen havaintoaineistoon verrattuna). Heliövaara 14
Otos ja otosjakaumat Heliövaara 15
Tilastollinen aineisto Tilastollinen aineisto koostuu tutkimuksen kohteita kuvaavien muuttujien havaituista arvoista. Tilastollisissa tutkimusasetelmissa havaintoarvoihin liittyy aina epävarmuutta ja satunnaisuutta. Heliövaara 16
Tilastollinen malli Tilastollisella mallilla tarkoitetaan tutkimuksen kohteita kuvaavien satunnaismuuttujien todennäköisyysjakaumaa, jonka ajatellaan generoineen ko. satunnaismuuttujien havaitut arvot. Nämä todennäköisyysjakaumat riippuvat tavallisesti parametreista, joiden arvoja ei yleensä tunneta. Tilastollista mallia sovellettaessa kohdataan tavallisesti seuraavat parametreja koskevat ongelmat: - Parametrien arvoja ei tunneta ja ne on estimoitava eli arvioitava havaintoaineistosta. - Parametrien arvoista on olemassa oletuksia, joita halutaan testata havaintoaineiston antaman informaation avulla. Heliövaara 17
Yksinkertainen satunnaisotos Olkoot X 1,X 2,...,X n riippumattomia, identtisesti jakautuneita satunnaismuuttujia, joilla on sama pistetodennäköisyys- tai tiheysfunktio f(x). Tällöin satunnaismuuttujat X 1,X 2,...,X n muodostavat yksinkertaisen satunnaisotoksen jakaumasta f(x). Heliövaara 18
Havainnot ja havaintoarvot Olkoon X 1,X 2,...,X n yksinkertainen satunnaisotos jakaumasta f(x). Stunnaismuuttujia X 1,X 2,...,X n kutsutaan havainnoiksi. Kun otos on poimittu, satunnaismuuttujat X 1,X 2,...,X n saavat havaituiksi arvoikseen havaintoarvot x 1,x 2,...,x n. Heliövaara 19
Otostunnusluvut ja otosjakaumat Olkoon T = g(x 1,X 2,...,X n ) jokin satunnaismmuuttujien X 1,X 2,...,X n (mitallinen) funktio. Satunnaismuuttujaa T kutsutaan otostunnusluvuksi. Tunnusluvun T jakaumaa kutsutaan T :n otosjakaumaksi. Heliövaara 20
Aritmeettisen keskiarvon odotusarvo ja varianssi Oletetaan, että havainnot X 1,X 2,...,X n muodostavat yksinkertaisen satunnaisotoksen satunnaismuuttujan X jakaumasta, jonka odotusarvo ja varianssi ovat E(X) = µ ja V ar(x) = σ 2. Havaintojen aritmeettisen keskiarvon X odotusarvo ja varianssi ovat E( X) = µ V ar( X) = σ2 n Aritmeettisen keskiarvon standardipoikkeamaa D( X) = σ/ n kutsutaan keskiarvon keskivirheeksi. Heliövaara 21
Aritmeettisen keskiarvon otosjakauma, kun otos on normaalijakautunut Oletetaan, että havainnot X 1,X 2,...,X n muodostavat yksinkertaisen satunnaisotoksen normaalijakaumasta N(µ,σ 2 ). Tällöin havaintojen aritmeettinen keskiarvo X noudattaa eksaktisti normaalijakaumaa: ) X N (µ, σ2 n Standardoitu satunnaismuuttuja Z = X µ σ/ n noudattaa eksaktisti standardoitua normaalijakaumaa: Z N(0, 1) Heliövaara 22
Otosvarianssin odotusarvo ja varianssi Oletetaan, että havainnot X 1,X 2,...,X n muodostavat yksinkertaisen satunnaisotoksen satunnaismuuttujan X jakaumasta, jonka odotusarvo ja varianssi ovat E(X) = µ ja V ar(x) = σ 2. Havaintojen otosvarianssin s 2 odotusarvo ja varianssi ovat E(s 2 ) = σ 2 V ar(s 2 ) = 2σ4 n 1 Heliövaara 23
Otosvarianssin otosjakauma, kun otos on normaalijakautunut Oletetaan, että havainnot X 1,X 2,...,X n muodostavat yksinkertaisen satunnaisotoksen normaalijakaumasta N(µ,σ 2 ). Tällöin satunnaismuuttuja V = (n 1)s2 σ 2 = n i=1 ( Xi X σ ) 2 noudattaa eksaktisti χ 2 -jakaumaa vapausastein (n 1): V χ 2 (n 1) Heliövaara 24
Frekvenssi ja suhteellinen frekvenssi Olkoon A jokin otosavaruuden S alkioiden ominaisuus. Poimitaan otosavaruudesta yksinkertainen satunnaisotos, jonka koko on n. Ominaisuuden A omaavien alkioden lukumäärää otoksessa merkitään f :llä kutsutaan ominaisuuden A frekvenssiksi. Ominaisuuden A suhteellinen frekvenssi ˆp määritellään: ˆp = f n Heliövaara 25
Frekvenssien odotusarvo ja varianssi Frekvenssi f noudattaa eksaktisti binomijakaumaa parametrein n ja Pr(A) = p: f Bin(n,p) Frekvenssin f odotusarvo ja varianssi ovat siis: jossa q = 1 p. E(f) = np V ar(f) = npq, Suhteellisen frekvenssin ˆp odotusarvo ja varianssi ovat: E(ˆp) = p V ar(ˆp) = pq n Heliövaara 26
Suhteellisen frekvenssin normaaliapproksimaatio Suhteellinen frekvenssi ˆp noudattaa suurissa otoksissa approksimatiivisesti normaalijakaumaa: Standardoitu satunnaismuuttuja ˆp a N ( p, pq ) n Z = ˆp p pq/n noudattaa siten suurissa otoksissa standardoitua normaalijakumaa: Z a N(0, 1) Heliövaara 27
Estimointi Heliövaara 28
Estimointi Tilastollisen tutkimuksen tärkeimpiä osatehtäviä on estimoida eli arvioida tutkimuksen kohteena olevaa ilmiötä koskevat havainnot generoineen prosessin mallina käytettävän todennäköisyysjakauman tuntemattomat parametrit ilmiötä koskevien havaintojen perusteella. Havaintojen funktiota, joka tuottaa estimaatteja parametrin todelliselle arvolle, kutsutaan parametrin estimaattoriksi. Heliövaara 29
Estimaatti ja estimaattori Oletetaan, että satunnaismuuttuja X noudattaa todennäköisyysjakaumaa, jonka pistetodennäköisyys- tai tiheysfunktio f(x; θ) riippuu parametrista θ. Parametrin θ estimoimiseen käytetään havaintojen X 1,X 2,...,X n funktiota, eli tunnuslukua T = g(x 1,X 2,...,X n ) = ˆθ Funktiota T kutsutaan parametrin θ estimaattoriksi. Havaintoarvoista x 1,x 2,...,x n laskettua arvoa t = g(x 1,x 2,...,x n ) kutsutaan parametrin θ estimaatiksi. Heliövaara 30
Hyvä estimaattori Todennäköisyysjakauman parametreille on tavallisesti tarjolla useita vaihtoehtoisia estimaattoreita. Seuraavat hyvyyskriteerit täyttävä estimaattori tuottaa järkeviä arvoja estimoitavalle parametrille: - Harhattomuus - Tyhjentävyys - Tehokkuus - Tarkentuvuus Heliövaara 31
Piste-estimointi ja väliestimointi Todennäköisyysjakauman parametrin arvon estimointia kutsutaan piste-estimoinniksi. Parametrin estimaattiin on aina syytä liittää luottamusväliksi kutsuttu väli, joka sisältää estimoidun parametrin todellisen, mutta tuntemattoman arvon tietyllä, soveltajan valittavissa olevalla todennäköisyydellä. Luottamusvälin määräämistä kutsutaan väliestimoinniksi. Heliövaara 32
Luottamusvälin määritys 1/2 Oletukset: - Satunnaismuuttuja X noudattaa jakaumaa f(x; θ). - X 1,X 2,...,X n on yksinkertainen satunnaisotos jakaumasta f(x;θ). - ˆθ = ˆθ(X 1,X 2,...,X n ) on θ:n estimaattori. Valitaan luottamustaso 1 α ja määrätään satunnaismuuttujat A = A(X 1,X 2,...,X n ) Y = Y (X 1,X 2,...,X n ) siten että Pr(ˆθ A θ) = α 2 Pr(ˆθ + Y θ) = α 2 Heliövaara 33
Luottamusvälin määritys 2/2 Nyt todennäköisyys Pr(ˆθ A θ ˆθ + Y ) = 1 α ja väli (ˆθ A, ˆθ + Y ) on θ:n luottamusväli luottamustasolla (1 α). Jos ˆθ:n jakauma on symmetrinen, pätee A = Y luottamusväli on muotoa (ˆθ A, ˆθ + A). Heliövaara 34
Normaalijakautuneen estimaattorin määräämä luottamusväli, kun varianssi σ 2 tunnetaan Olkoon satunnaismuuttuja ˆθ N(µ,σ 2 ) parametrin θ estimaattori. Tällöin satunnaismuuttuja Nyt pätee Z = ˆθ µ σ Pr( z α/2 ˆθ µ σ N(0, 1). z α/2 ) = 1 α. Tästä saadaan parametrin θ (1 α) -luottamusväliksi ˆθ z α/2 σ θ ˆθ + z α/2 σ. Heliövaara 35
Normaalijakautuneen satunnaismuuttujan odotusarvon luottamusväli, kun varianssi σ 2 tunnetaan Olkoon X 1,...,X n yksinkertainen satunnaisotos normaalijakaumasta N(µ,σ 2 ). Oletetaan että σ 2 tunnetaan, mutta µ on tuntematon. Tällöin havaintojen aritmeettinen keskiarvo X noudattaa eksaktisti normaalijakaumaa: ) X N (µ, σ2 n Edellisen kalvon kaavasta odotusarvon µ (1 α) -luottamusväliksi saadaan X z α/2 σ n µ X + z α/2 σ n. Heliövaara 36
Normaalijakauman odotusarvon luottamusväli Olkoon havainnot X 1,...,X n yksinkertainen satunnaisotos normaalijakaumasta N(µ,σ 2 ) ja olkoon X = havaintojen aritmeettinen keskiarvo s 2 = havaintojen harhaton otosvarianssi n = havaintojen lukumäärä t α/2 = t-jakauman arvo merkitsevyystasolla α/2 ja vapausasteilla (n 1). Normaalijakauman odotusarvoparametrin µ luottamusväli luottamustasolla (1 α) on muotoa ( ) s s X t α/2, X + tα/2 n n Heliövaara 37
Otoskoon määrääminen Oletetaan, että normaalijakauman varianssi σ 2 tunnetaan. Kuinka suuri otos on otettava, jotta odotusarvolle voidaan muodostaa (1 α)-luottamusväli, jonka pituus on 2A? Odotusarvon luottamusväli luottamustasolla (1 α) on σ X ± z α/2 n. Jotta luottamusvälin pituus olisi 2A, on oltava z α/2 σ n = A, josta voidaan ratkaista tarvittava otoskoko n n = ( ) zα/2 σ 2. A Heliövaara 38