10 Moniulotteinen normaalijakauma

Koko: px
Aloita esitys sivulta:

Download "10 Moniulotteinen normaalijakauma"

Transkriptio

1 10 Moniulotteinen normaalijakauma Tässä luvussa tarkastellaan normaalijakauman moniulotteista yleistystä eli moniulotteista (eli monimuuttujaista) normaalijakaumaa (engl. multivariate normal distribution). Sitä kutsutaan myös multinormaalijakaumaksi. Tutustumme tähän sovelluksissa usein esiintyvään moniulotteiseen jakaumaan. Näemme kuinka moniulotteisia jakaumia käsitellään vektori- ja matriisimerkinnöillä.

2 10.1 Standardinormaalijakauma N n (0, I ) Määritelmä 10.1 Sv:lla U = (U 1,..., U n ) on n-ulotteinen standardinormaalijakauma eli normaalijakauma N n (0, I ) täsmälleen silloin, kun sen komponentit ovat riippumattomia N(0, 1)-jakaumaa noudattavia satunnaismuuttujia.

3 10.1 Standard normal distribution N n (0, I ) Definition Random vector U = (U 1,..., U n ) has n-dimensional standard multivariate normal or N n (0, I ) distribution exactly when its components are independent standard normal random variables U i N(0, 1).

4 Standardinormaalijakauman N n (0, I ) ominaisuuksia Satunnaisvektorin U N n (0, I ) tf on f U (u) = n f Ui (u i ) = i=1 n i=1 1 2π e 1 2 u2 i = (2π) n/2 exp( 1 2 (u u 2 n)) (10.1) = (2π) n/2 exp( 1 2 u u). Sv:n U odotusarvovektori on n-dimensionen nollavektori, ja sen kovarianssimatriisi on dimensiota n n oleva yksikkömatriisi EU = 0 n, Cov U = I n n = I n. (10.2)

5 Standardinormaalijakauman momenttiemäfunktio Satunnaisvektorin U N n (0, I ) momenttiemäfunktio on ( n ) M U (t) = E exp(t U) = E exp(t i U i ) = = n E exp(t i U i ) i=1 i=1 (U 1,..., U n riippumattomia) n e 1 2 t2 i (U i N(0, 1)) i=1 = exp( 1 2 t t). (10.3)

6 Standardinormaalijakautuneen vektorin affiini muunnos Määritellään sv X kaavalla X = AU + µ, (10.4) jossa A on m n-vakiomatriisi, µ R m on vakiovektori, ja U N n ( 0, I n ). Tällöin EX = µ, Cov X = A I n A = AA. (10.5) Merkitään Σ = Cov X = AA. Sv:n X momenttiemäfunktio saadaan helpolla laskulla: M X (t) = E exp(t X) = E exp(t (AU + µ)) = exp(t µ) M U (A t) = exp(t µ t AA t) = exp(t µ t Σt) (10.8)

7 Voidaanko edellistä laskua käyttää yleisen multinormaalijakauman määritelmänä? Multinormaalijakauma voidaan määritellä edellisen laskun avulla, mikäli mielivaltainen kovarianssimatriisi Σ ensin osataan esittää tulona AA. Eräs (eikä suinkaan ainoa) mahdollisuus on ns. Choleskyn hajotelma (engl. Cholesky decomposition). Choleskyn hajotelmassa mielivaltainen symmetrinen ja positiivisesti semidefiniitti matriisi Σ esitetään tulona Σ = LL, (10.6) jossa L on alakolmiomatriisi. (Alakolmiomatriisi on neliömatriisi, jonka kaikki yläkolmion alkiot ovat nollia.) Choleskyn hajotelma on saatavilla matriisilaskennan ohjelmakirjastoissa (ja tyypillisesti ohjelmat palauttavat jälkimmäisen tekijän eli yläkolmiomatriisin L ).

8 10.2 Yleinen multinormaalijakauma Määritelmä 10.2 Sv:lla X on multinormaalijakauma, jos sillä on sama jakauma kuin satunnaisvektorilla AU + µ (10.7) jossa A on m n-vakiomatriisi, µ R m on vakiovektori, ja U N n (0, I n ) jollakin n. Määritelmästä sekä kaavoista (10.5) ja (10.8) seuraa, että EX = µ, Σ = Cov X = AA, M X (t) = exp(t µ t Σt) Yksiulotteinen N(µ, σ 2 ) on tästä erikoistapaus, sillä X N(µ, σ 2 ) (X = µ + σu, U N(0, 1)).

9 10.2 General multivariate normal distribution Definition Random vector X has multivariate normal distribution, if it is identically distributed as a random vector AU + µ (10.7) where A is m n constant matrix, µ R m is a constant vector and U N n (0, I n ) for some n. From the definition and the formulae (10.5) and (10.8) it follows that EX = µ, Σ = Cov X = AA, M X (t) = exp(t µ t Σt)

10 Lause 10.1 Määritelmästä 10.2 seuraa, että EX = µ ja Cov X = AA. Sv:n X jakauma riippuu vain sen odotusarvovektorista ja kovarianssimatriisista, ei esitysdimensiosta n eikä esitysmatriisin A muista ominaisuuksista. Kääntäen, jos µ R m on vakiovektori ja Σ R m m on positiivisesti semidefiniitti matriisi, niin on olemassa sv X, jolla on multinormaalijakauma odotusarvovektorilla µ ja kovarianssimatriisilla Σ. Todistus perustuu momenttiemäfunktion käyttöön sekä siihen tietoon, että matriisille Σ löytyy hajotelma Σ = AA.

11 Theorem From the definition 10.2 it follows that EX = µ and Cov X = AA. Moreover, the distribution of the random vector X only depends on the mean vector and the covariance matrix, and not on the dimension n nor the other properties of the matrix A appearing in the definition. Conversely, if µ R m is a constant vector and Σ R m m is positive semidefinite matrix, then there is a random vector X, with multivariate normal distribution with mean vector µ and covariance matrix Σ. Proof is based on the moment genereting function and the fact that the matrix Σ has a decomposition Σ = AA.

12 Merkintä N m (µ, Σ) Tästä lähtien multinormaalijakaumaa merkitään tunnuksella N m (µ, Σ), jossa µ on jakauman odotusarvo ja Σ sen kovarianssimatriisi. Alaindeksi m voidaan jättää pois, jos satunnaisvektorin X dimensiosta ei tarvitse pitää kirjaa.

13 Multinormaalijakauman N m (µ, Σ) simulointi Määritelmä on samalla simulointiresepti. Jos Σ on annettu symmetrinen ja positiivisesti semidefiniitti matriisi, niin ensin etsitään hajotelma (esim. Choleskyn hajotelma) Σ = AA. Tämän jälkeen simuloidaan (riippumattomasti) m arvoa (u 1,..., u m ) yksiulotteisesta jakaumasta N(0, 1). Lopuksi lasketaan x = A ũ + µ, jossa ũ = (u1,..., u n ). Tuloksena on yksi simuloitu vektori jakaumasta N m (µ, Σ). Reseptiä toistamalla saadaan simuloitua arvoja riippumattomista tätä jakaumaa noudattavista satunnaisvektoreista.

14 10.3 Affiinin muunnoksen jakauma Lause 10.2 (Multinormaalisuus säilyy affiinissa muunnoksessa) Olkoon X N m (µ, Σ), ja olkoon B R p m vakiomatriisi ja b Rp vakiovektori. Tällöin BX + b N p (Bµ + b, BΣB ). Todistus: Käytetään esitystä (10.7): BX + b d = B(AU + µ) + b = (BA)U + (Bµ + b). Määritelmän 10.2 mukaan sv:lla BX + b on multinormaalijakauma. Lisäksi E(BX + b) = BEX + b = Bµ + b, Cov(BX + b) = BΣB.

15 10.3 The distribution of affine transformation (of X) Theorem (Multinormality is preserved in affine transformations) Let X N m (µ, Σ), and let B R p m be a constant matrix and b Rp a constant vector. Then BX + b N p (Bµ + b, BΣB ). Proof: We use the representation (10.7): BX + b d = B(AU + µ) + b = (BA)U + (Bµ + b). By definition 10.2 the random vector BX + b has multivariate normal distribution. Moreover, E(BX + b) = BEX + b = Bµ + b, Cov(BX + b) = BΣB.

16 Normaalijakauman reunajakaumat Jos määritellään i:s yksikkövektori ẽi siten, että sen i:s koordinaatti on yksi ja muut koordinaatit ovat nollia, niin X i = ẽ i X. Jos sv Y koostuu sv:n X komponenteista (X i1,..., X ik ), niin Y saadaan kertomalla sv:a X vasemmalta vakiomatriisilla, jonka j:s vaakarivi on ẽij, X i1 Y =. = ẽ i 1. X. X ik ẽ i k Koska Y on affiini muunnos (peräti lineaarinen muunnos) sv:sta X, niin Yllä on multinormaalijakauma. Multinormaalijakauman kaikki reunajakaumat ovat multinormaalisia.

17 Reunajakauman parametrit Satunnaisvektorin Y = (X i1,..., X ik ) jakauman parametrit voidaan tietenkin laskea lauseen 10.2 avulla. Ne saa helpommin selville poimimalla asiaankuuluvan osa X:n jakauman parametreista, sillä EY = EX i1. µ i1 =., EX ik µ ik (Cov Y)(p, q) = (Cov Y) p,q = cov(x ip, X iq ) = Σ(i p, i q ) = Σ ip,i q

18 10.4 Tiheysfunktio Lause 10.3 (Multinormaalijakauman tiheysfunktio) Jos Σ on symmetrinen ja positiivisesti definiitti matriisi, niin jakaumalla N m (µ, Σ) on tiheysfunktio ( ) f ( x) = (2π) m/2 (det(σ)) 1/2 exp 1 2 ( x µ) Σ 1 ( x µ). Todistus onnistuu muuttujanvaihtokaavalla, kun käytetään säännöllistä m m esitysmatriisia A, jolle Σ = A A ja jonka avulla konstruoidaan X N m (µ, Σ) muodossa X = A U + µ, U N m (0, I ) (10.9)

19 10.4 Density function Theorem (The density function of multivariate normal distribution) If Σ is symmetric and positive definite matrix, then the distribution N m (µ, Σ) has a density function ( ) f ( x) = (2π) m/2 (det(σ)) 1/2 exp 1 2 ( x µ) Σ 1 ( x µ). (10.9) Proof can be done with change of variables formula, when we use a regular m m representation matrix A, such that Σ = A A. Then we construct X N m (µ, Σ) in a form X = A U + µ, U N m (0, I ) which gives the claim with change of variables.

20 Huomautuksia tiheysfunktiosta Multinormaalijakaumalla N m (µ, Σ) on tiheysfunktio täsmälleen silloin, kun Σ on positiivisesti definiitti. Jos Σ on pelkästään positiivisesti semidefiniitti, mutta ei positiivisesti definiitti, niin (lause 9.2) X :llä ei voi olla tiheysfunktiota. Myös tällainen singulaarinen multinormaalijakauma on tärkeä jakauma sovelluksissa. Lineaaristen mallien yhteydessä toisaalta sovitevektorin jakauma ja toisaalta residuaalivektorin eli jäännösvektorin jakauma ovat kumpikin singulaarisia multinormaalijakaumia.

21 10.5 Tiheysfunktion tasa-arvopinnat Moniulotteisen normaalijakauman tiheysfunktion (10.9) tasa-arvopinnat ovat m-ulotteisia ellipsoideja. Tämä nähtäisiin soveltamalla kovarianssimatriisiin ominaisarvohajotelmaa (ks. moniste)

22 10.6 Korreloimattomuus ja riippumattomuus Riippumattomat satunnaisvektorit X Y eivät korreloi, sillä cov(x, Y) = E ( X EX)(Y EY) ) = E ( X EX ) E ( (Y EY) ) = 0. Yleisesti ottaen korreloimattomuudesta ei seuraa riippumattomuus. Jos komponenteista X ja Y yhdistetyn satunnaisvektorin (X, Y) yhteisjakauma on multinormaalinen, niin tässä tapauksessa korreloimattomuudesta seuraa riippumattomuus.

23 Satunnaisvektorin kokoaminen osista Kirjataan myöhempää käyttöä varten, minkälaiset ovat osavektorien X = (X 1,..., X k ) ja Y = (Y 1,..., Y m ) multinormaalijakaumien parametrit, jos yhdistetty vektori (X, Y) noudattaa multinormaalijakaumaa N(µ, Σ). Odotusarvovektori µ koostuu osista ( ) µx µ = EZ = = µ Y ( ) EX, (10.13) EY

24 Ositettu kovarianssimatriisi Satunnaisvektorin Z = (X, Y) kovarianssimatriisi Σ = Cov Z voidaan myös osittaa vastaavasti, sillä se on cov(x 1, X 1 )... cov(x 1, X k ) cov(x 1, Y 1 )... cov(x 1, Y m).... cov(x k, X 1 )... cov(x k, X k ) cov(x k, Y 1 )... cov(x k, Y m) cov(y 1, X 1 )... cov(y 1, X k ) cov(y 1, Y 1 )... cov(y 1, Y m).... cov(y m, X 1 )... cov(y m, X k ) cov(y m, Y 1 )... cov(y m, Y m) ( ) ΣXX Σ = XY = Σ YX Σ YY Tällöin reunajakaumat ovat ( cov(x, X) cov(x, Y) cov(y, X) cov(y, Y) ) (10.14) X N(µ X, Σ XX ), Y N(µ Y, Σ YY ). (10.15)

25 Normaaliselle yhteisjakaumalle korreloimattomuus ja riippumattomuus ovat samoja asioita Lause 10.4 Jos vektorilla (X, Y) on multinormaalijakauma, niin X Y cov(x, Y) = 0. Todistuksessa tarvitaan satunnaisvektorin (X, Y) momenttiemäfunktiota, ja lausetta 9.6.

26 For normal joint distribution the uncorrelatedness and independence are the same thing Theorem If the random vector (X, Y) is multivariate normal, then X Y cov(x, Y) = 0. Proof needs the moment genereting function of random vector (X, Y) and the theorem 9.6.

27 Varoitus: normaalisuus ei ole automaattista Jos oletetaan multinormaaliset reunajakaumat X N(µ X, Σ XX ), Y N(µ Y, Σ YY ), niin yhdistetyn vektorin (X, Y) jakauma ei välttämättä ole multinormaalinen. Edes lisäehto cov(x, Y) = 0 ei auta asiaa.

28 Riippumattomien normaalijakautuneitten vektoreitten yhteisjakauma on normaalinen Lause 10.5 Jos X N(µ X, Σ XX ), Y N(µ Y, Σ YY ), ja X Y, niin vektori (X, Y) noudattaa multinormaalijakaumaa N( µ, Σ), jossa jakauman parametrit ovat ( ) ( ) µx ΣXX 0 µ =, Σ =. 0 Σ YY µ Y Todistus sujuu helposti momenttiemäfunktion avulla.

29 The joint distribution of independent normally distributed vectors is normal Theorem If X N(µ X, Σ XX ), Y N(µ Y, Σ YY ), and X Y, the the vector (X, Y) has a multivariate normal distribution N( µ, Σ), with parameters ( ) ( ) µx ΣXX 0 µ =, Σ =. 0 Σ YY µ Y Proof follows easily with moment generating function.

30 Esimerkki monimutkaisemmasta tilanteesta, jossa yhteisjakauman nähdään olevan normaalinen Olkoot X Y ja X N(µ X, Σ XX ), Y N(µ Y, Σ YY ), ja olkoot A sekä B vakiomatriiseja siten, että vektorit A X ja B Y ovat samanpituisia. Tällöin satunnaisvektorilla Z = A X + B Y on multinormaalijakauma, sillä A X + B Y = ( A B ) ( ) X Y

31 Esimerkki jatkuu Satunnaisvektorin Z = A X + B Y jakauman parametrit saadaan helpoimmin selville laskemalla suoraan vektorin odotusarvo ja kovarianssimatriisi, EZ = E(A X + B Y) = A µ X + B µ Y Cov Z = Cov(A X) + Cov(B Y) = A Σ XX A + B Σ YY B Kovarianssin laskussa käytettiin riippumattomuutta sekä esimerkkiä 9.1 X Y A X B Y

32 10.7 Ehdolliset jakaumat Lause 10.6 Olkoon (X, Y) N(µ, Σ), ja käytetään odotusarvovektorille µ ositusta (10.13), ja kovarianssimatriisille Σ ositusta (10.14). Jos osamatriisi Σ XX on säännollinen, niin sv:n Y jakauma ehdolla X = x on multinormaalinen, ja ehdollisen jakauman parametrit ovat Y (X = x) N(µ Y +Σ YX Σ 1 XX ( x µ X ), Σ YY Σ YX Σ 1 XX Σ XY ). Huomaa, että ehdollinen odotusarvo E ( Y X = x ) on argumentin x affiini funktio, ja että ehdollisen jakauman kovarianssimatriisi ei riipu pisteestä x. Todistus käydään läpi taululla.

33 10.7 Conditional distributions Theorem Let (X, Y) N(µ, Σ), and use the partition (10.13) for the mean vector µ and the partition (10.14) for the covariance matrix Σ. If the matrix Σ XX is regular, then the distribution of random vector Y given X = x is multivariate normal and the parameters of the conditional distribution are Y (X = x) N(µ Y +Σ YX Σ 1 XX ( x µ X ), Σ YY Σ YX Σ 1 XX Σ XY ). Note that the conditional mean E ( Y X = x ) is an affine function of the argument x, and that the covariance matrix of the conditional distribution does not depend on the point x.

34 10.8 Kaksiulotteinen normaalijakauma Tarkastellaan kaksiulotteisen normaalijakauman (X, Y ) N(µ, Σ) ominaisuuksia. Olkoon 1 < ρ = corr(x, Y ) < 1, ja merkitään jakauman parametrien komponentteja seuraavasti, ( ) ( ) µx σ 2 µ =, Σ = X ρσ X σ Y. µ Y ρσ X σ Y Tämän jakauman ominaisuudet (reunajakaumat, ytf, ehdolliset jakaumat jne.) saadaan selville erikoistapauksina n-ulotteisen tapauksen kaavoista. σ 2 Y

35 Joitakin tuloksia Reunajakaumat ovat X N(µ X, σ 2 X ), Y N(µ Y, σ 2 Y ). Ehdolliset jakaumat ovat Y (X = x) N(µ Y + ρ σ Y σ X (x µ X ), (1 ρ 2 )σ 2 Y ), X (Y = y) N(µ X + ρ σ X σ Y (y µ Y ), (1 ρ 2 )σ 2 X ).

36 10.9 Normaalijakauman otoskeskiarvon ja otosvarianssin yhteisjakauma Tarkastellaan sm:ia X 1,..., X n. Niiden otoskeskiarvo X ja otosvarianssi S 2 määritellään kaavoilla X = 1 n n i=1 X i, S 2 = 1 n 1 n (X i X ) 2. (10.17) i=1 Jos sm:t X i ovat riippumattomia, ja niillä on yhteinen odotusarvo µ ja yhteinen varianssi σ 2, niin helpohkoilla laskuilla voidaan näyttää, että E X = µ, ES 2 = σ 2. Ts. otoskeskiarvo ja otosvarianssi ovat vastaavien populaatioparametrien µ ja σ 2 harhattomia estimaattoreita.

37 Satunnaisotos normaalijakaumasta N(µ, σ 2 ) Oletetaan tästä lähtien, että sm:t X 1,..., X n ovat riippumattomia, ja niillä kaikilla on normaalijakauma N(µ, σ 2 ). Tällöin vektorilla (X 1,..., X n ) on multinormaalijakauma N n (m, Σ) parametreilla µ m =. = µ 1, jossa 1 = (1,..., 1) R n, µ Σ = σ 2 I n.

38 Alustavia huomioita Tämän jakson päätavoite on johtaa vektorin ( X, S 2 ) yhteisjakauma. Otoskeskiarvon reunajakauma on helppo johtaa, nimittäin X N(µ, 1 n σ2 ), sillä X on multinormaalijakautuneen vektorin X = (X 1,..., X n ) lineaarimuunnos, ja osaamme laskea sm:n X odotusarvon ja varianssin. Pian nähdään, että otosvarianssilla S 2 on sopivan skaalauksen jälkeen khiin neliön jakauma vapausasteluvulla n 1.

39 Huomio khiin neliön jakaumasta Olkoon satunnaisvektorilla Z on k-ulotteinen standardinormaalijakauma, ts. Z N k ( 0, I ). Sen pituuden neliöllä Z 2 = Z Z on khiin neliön jakauma vapausasteluvulla k, sillä Z 2 = Z Z = k i=1 Z 2 i, jossa Z i N(0, 1) riippumattomasti. Koska EZ 2 i = 1, niin E Z 2 = k.

40 Otoskeskiarvon ja -varianssin yhteisjakauma satunnaisotokselle normaalijakaumasta Lause 10.7 Olkoot X 1,..., X n N(µ, σ 2 ). Tällöin a) X N(µ, σ 2 /n), b) (n 1)S 2 /σ 2 χ 2 n 1, joten ES 2 = σ 2, c) X S 2. Todistuksesta: Kohta a todistettiin jo. Sen jälkeen todistetaan riippumattomuus (kohta c) ja lopuksi otosvarianssin reunajakauma (kohta b).

41 The joint distribution of sample mean and sample variance from the normal distribution Theorem Let X 1,..., X n N(µ, σ 2 ). Then a) X N(µ, σ 2 /n), b) (n 1)S 2 /σ 2 χ 2 n 1, so ES 2 = σ 2, c) X S 2.

42 Riippumattomuuden X S 2 todistuksen idea (c-kohta) Otoskeskiarvo X ja jäännösvektori (residuaalivektori) R X 1 X R =. X n X saadaan normaalijakautuneesta vektorista X = (X 1,..., X n ) tietyllä lineaarisella muunnoksella. X ja R osoitetaan riippumattomiksi tarkistamalla, että ne ovat korreloimattomia. Riippumattomuus X S 2 seuraa siitä, että S 2 voidaan laskea muunnoksena jäännösvektorista: S 2 = 1 n 1 R 2.

43 Todistuksen avainkaavoja (c-kohta) Määritellään n-komponenttinen vektori u kaavalla u = 1 n 1, jolloin u on ykkösvektori 1 normitettuna yksikkövektoriksi. Otoskeskiarvo voidaan esittää kaavalla X = 1 n 1 X = 1 n u X. Tästä X 1 = ( 1 n u X) n u = uu X R = X X 1 = X uu X = (I n uu )X

44 Miksi otosvarianssille tulee skaalauksen jälkeen khiin neliön jakauma (b-kohta) Välivaiheiden jälkeen skaalattu otosvarianssi (eli skaalattu jäännösvektorin pituuden neliö) saadaan ilmaistua kaavalla n 1 σ 2 S 2 = 1 σ 2 R 2 = Z 2, jossa Z N n 1 ( 0, I n 1 ). Mihin yksi vapausaste katoaa? Vastaus: Se kuluu odotusarvon µ estimointiin otoskeskiarvolla X.

45 Keskeinen idea (b-kohdan todistus) Määritellään n n neliömatriisi Q siten, että sen ensimmäinen pystyrivi on u. Muut matriisin Q pystyrivit ṽ 1,..., ṽ n 1 valitaan siten, että matriisin Q pystyrivit muodostavat yhdessä R n :n ortonormeeratun kannan. (Gramin-Shmidtin ortogonalisointi.) Tällöin Q Q = I n, ja koska Q on neliömatriisi, niin se on ortogonaalinen matriisi, eli Q 1 = Q. Kun käytetään Q:n ositusta Q = ( u V ) jossa n (n 1)-matriisin V pystyrivit ovat ṽ 1,..., ṽ n 1, niin I n = QQ = uu + VV. Tämän takia R = (I n uu )X = VV X.

46 t-jakauman määritelmä taas kerran t-jakauma vapausasteluvulla ν määritellään siten, että se on sm:n Z Y /ν jakauma, kun Z N(0, 1), Y χ 2 ν ja Z Y.

47 Tunnusluvun ( X, S 2 ) yhteisjakaumasta t-jakaumaan Satunnaismuuttuja X µ N(0, 1 n σ2 ), joten X µ σ/ n N(0, 1). Jos tuntemattoman keskihajontaparametrin σ tilalle sijoitetaan sen otosestimaatti, saadaan ns. t-testisuure T = X µ S/ n. Tämä t-testisuure voidaan esittää yhtäpitävästi kaavalla T = ( X µ)/(σ/ n) S 2 /σ 2. Tästä nähdään, että T :llä on t-jakauma n 1 vapausasteella.

48 Jakson 10.9 lopuksi Edeltävä tarkastelu saataisiin vähällä vaivalla yleistettyä kattamaan vastaava tarkastelu yleisessä lineaarisessa mallissa. Siellä varianssiparametrin harhaton estimaattori ja sovitevektori ovat riippumattomia. Sopivasti skaalattuna varianssiparametrin estimaattorilla on khiin neliön jakauma vapausasteluvulla n p, jossa p on (lineaarisesti riippumattomien) kertoimien lukumäärä. Äskeisessä lauseessa tuntemattomia kertoimia oli yksi, µ, joten p = 1. (Myös varianssiparametri on tuntematon, mutta sitä ei lasketa lineaarisen mallin kertoimeksi). Tarkemmin tätä asiaa käsitellään kurssilla Lineaariset mallit.

10 Moniulotteinen normaalijakauma

10 Moniulotteinen normaalijakauma 10 Moniulotteinen normaalijakauma Tässä luvussa tarkastellaan normaalijakauman moniulotteista yleistystä eli moniulotteista (eli monimuuttujaista) normaalijakaumaa (engl. multivariate normal distribution).

Lisätiedot

1. Jatketaan luentojen esimerkkiä 8.3. Oletetaan kuten esimerkissä X Y Bin(Y, θ) Y Poi(λ) λ y. f X (x) (λθ)x

1. Jatketaan luentojen esimerkkiä 8.3. Oletetaan kuten esimerkissä X Y Bin(Y, θ) Y Poi(λ) λ y. f X (x) (λθ)x HY, MTL / Matemaattisten tieteiden kandiohjelma Todennäköisyyslaskenta IIb, syksy 017 Harjoitus 5 Ratkaisuehdotuksia Tehtäväsarja I 1. Jatketaan luentojen esimerkkiä 8.3. Oletetaan kuten esimerkissä X

Lisätiedot

Ilkka Mellin Todennäköisyyslaskenta Osa 3: Todennäköisyysjakaumia Moniulotteisia todennäköisyysjakaumia

Ilkka Mellin Todennäköisyyslaskenta Osa 3: Todennäköisyysjakaumia Moniulotteisia todennäköisyysjakaumia Ilkka Mellin Todennäköisyyslaskenta Osa 3: Todennäköisyysjakaumia Moniulotteisia todennäköisyysjakaumia TKK (c) Ilkka Mellin (006) 1 Moniulotteisia todennäköisyysjakaumia >> Multinomijakauma Kaksiulotteinen

Lisätiedot

Moniulotteisia todennäköisyysjakaumia

Moniulotteisia todennäköisyysjakaumia Ilkka Mellin Todennäköisyyslaskenta Osa 3: Todennäköisyysjakaumia Moniulotteisia todennäköisyysjakaumia TKK (c) Ilkka Mellin (007) 1 Moniulotteisia todennäköisyysjakaumia >> Multinomijakauma Kaksiulotteinen

Lisätiedot

Johdatus todennäköisyyslaskentaan Moniulotteisia todennäköisyysjakaumia. TKK (c) Ilkka Mellin (2005) 1

Johdatus todennäköisyyslaskentaan Moniulotteisia todennäköisyysjakaumia. TKK (c) Ilkka Mellin (2005) 1 Johdatus todennäköisyyslaskentaan Moniulotteisia todennäköisyysjakaumia TKK (c) Ilkka Mellin (005) 1 Moniulotteisia todennäköisyysjakaumia Multinomijakauma Kaksiulotteinen normaalijakauma TKK (c) Ilkka

Lisätiedot

Sallitut apuvälineet: MAOL-taulukot, kirjoitusvälineet, laskin sekä itse laadittu, A4-kokoinen lunttilappu. f(x, y) = k x y, kun 0 < y < x < 1,

Sallitut apuvälineet: MAOL-taulukot, kirjoitusvälineet, laskin sekä itse laadittu, A4-kokoinen lunttilappu. f(x, y) = k x y, kun 0 < y < x < 1, Todennäköisyyslaskenta, 2. kurssikoe 7.2.22 Sallitut apuvälineet: MAOL-taulukot, kirjoitusvälineet, laskin sekä itse laadittu, A4-kokoinen lunttilappu.. Satunnaismuuttujien X ja Y yhteistiheysfunktio on

Lisätiedot

Moniulotteisia todennäköisyysjakaumia. Moniulotteisia todennäköisyysjakaumia. Moniulotteisia todennäköisyysjakaumia: Mitä opimme?

Moniulotteisia todennäköisyysjakaumia. Moniulotteisia todennäköisyysjakaumia. Moniulotteisia todennäköisyysjakaumia: Mitä opimme? TKK (c) Ilkka Mellin (4) Moniulotteisia todennäköisyysjakaumia Johdatus todennäköisyyslaskentaan Moniulotteisia todennäköisyysjakaumia TKK (c) Ilkka Mellin (4) Moniulotteisia todennäköisyysjakaumia: Mitä

Lisätiedot

Yleistä tietoa kokeesta

Yleistä tietoa kokeesta Yleistä tietoa kokeesta Kurssikoe on ma 18.12. klo 12.00-14.30 (jossakin auditorioista). Huomaa tasatunti! Seuraava erilliskoe on ke 10.1.2018 klo 10-14, johon ilmoittaudutaan Oodissa (ilmoittautumisaika

Lisätiedot

2. Multinormaalijakauma

2. Multinormaalijakauma Multinormaalijakauma 15 2. Multinormaalijakauma 2.1 Alustavaa johdattelua Monimuuttujamenetelmissä multinormaalijakaumalla on ehkä vielä keskeisempi asema kuin normaalijakaumalla yhden muuttujan tilastollisissa

Lisätiedot

Todennäköisyyslaskennan ja tilastotieteen peruskurssi Esimerkkikokoelma 3

Todennäköisyyslaskennan ja tilastotieteen peruskurssi Esimerkkikokoelma 3 Todennäköisyyslaskennan ja tilastotieteen peruskurssi Esimerkkikokoelma 3 Aiheet: Satunnaisvektorit ja moniulotteiset jakaumat Tilastollinen riippuvuus ja lineaarinen korrelaatio Satunnaisvektorit ja moniulotteiset

Lisätiedot

4.0.2 Kuinka hyvä ennuste on?

4.0.2 Kuinka hyvä ennuste on? Luonteva ennuste on käyttää yhtälöä (4.0.1), jolloin estimaattori on muotoa X t = c + φ 1 X t 1 + + φ p X t p ja estimointivirheen varianssi on σ 2. X t }{{} todellinen arvo Xt }{{} esimaattori = ε t Esimerkki

Lisätiedot

Mat Sovellettu todennäköisyyslasku A. Moniulotteiset jakaumat. Avainsanat:

Mat Sovellettu todennäköisyyslasku A. Moniulotteiset jakaumat. Avainsanat: Mat-.9 Sovellettu todennäköisyyslasku A Mat-.9 Sovellettu todennäköisyyslasku A / Ratkaisut Aiheet: Avainsanat: Moniulotteiset jakaumat Diskreetti jakauma, Ehdollinen jakauma, Ehdollinen odotusarvo, Jatkuva

Lisätiedot

Todennäköisyyslaskun kertaus. Vilkkumaa / Kuusinen 1

Todennäköisyyslaskun kertaus. Vilkkumaa / Kuusinen 1 Todennäköisyyslaskun kertaus Vilkkumaa / Kuusinen 1 Satunnaismuuttujat ja todennäköisyysjakaumat Vilkkumaa / Kuusinen 2 Motivointi Kokeellisessa tutkimuksessa tutkittaviin ilmiöihin liittyvien havaintojen

Lisätiedot

Matemaattisten tieteiden kandiohjelma / MTL Todennäköisyyslaskenta IIb Kurssikoe (kesto 2h 30 min)

Matemaattisten tieteiden kandiohjelma / MTL Todennäköisyyslaskenta IIb Kurssikoe (kesto 2h 30 min) Matemaattisten tieteiden kandiohjelma / MTL Todennäköisyyslaskenta IIb Kurssikoe 8..7 (kesto h 3 min) Sallitut apuvälineet: kirjoitusvälineet, laskin sekä käsinkirjoitettu, A4-kokoinen lunttilappu. Ei

Lisätiedot

9 Moniulotteinen jakauma

9 Moniulotteinen jakauma 9 Moniulotteinen jakauma Moniulotteisella satunnaisvektorilla voi olla useampi kuin kaksi komponenttia. Sen jakaumaa kuvaillaan samaan tapaan kuin kaksiulotteisen satunnaisvektorin jakaumaa. Suurin osa

Lisätiedot

Sallitut apuvälineet: kirjoitusvälineet, laskin sekä käsinkirjoitettu, A4-kokoinen lunttilappu ja MAOL taulukkokirjaa

Sallitut apuvälineet: kirjoitusvälineet, laskin sekä käsinkirjoitettu, A4-kokoinen lunttilappu ja MAOL taulukkokirjaa Matematiikan ja tilastotieteen laitos Todennäköisyyslaskenta II. kurssikoe 18.1.15 Sallitut apuvälineet: kirjoitusvälineet, laskin sekä käsinkirjoitettu, A4-kokoinen lunttilappu ja MAOL taulukkokirjaa

Lisätiedot

Lause 4.2. Lineearinen pienimmän keskineliövirheen estimaattoi on lineaarinen projektio.

Lause 4.2. Lineearinen pienimmän keskineliövirheen estimaattoi on lineaarinen projektio. Määritelmä 4.3. Estimaattoria X(Y ) nimitetään lineaariseksi projektioksi, jos X on lineaarinen kuvaus ja E[(X X(Y )) Y] 0 }{{} virhetermi Lause 4.2. Lineearinen pienimmän keskineliövirheen estimaattoi

Lisätiedot

031021P Tilastomatematiikka (5 op) viikko 7

031021P Tilastomatematiikka (5 op) viikko 7 0302P Tilastomatematiikka (5 op) viikko 7 Jukka Kemppainen Mathematics Division Yhteisjakauma Edellä on tarkasteltu yksiulotteista satunnaismuuttujaa. Sovelluksissa joudutaan usein tarkastelemaan samanaikaisesti

Lisätiedot

Moniulotteiset satunnaismuuttujat ja jakaumat

Moniulotteiset satunnaismuuttujat ja jakaumat Todennäköisyyslaskenta Osa 2: Satunnaismuuttujat ja todennäköisyysjakaumat Moniulotteiset satunnaismuuttujat ja jakaumat KE (2014) 1 Moniulotteiset satunnaismuuttujat ja todennäköisyysjakaumat >> Kaksiulotteiset

Lisätiedot

0 3 y4 dy = 3 y. 15x 2 ydx = 15. f Y (y) = 5y 4 1{0 y 1}.

0 3 y4 dy = 3 y. 15x 2 ydx = 15. f Y (y) = 5y 4 1{0 y 1}. HY, MTL / Matemaattisten tieteiden kandiohjelma Todennäköisyyslaskenta IIb, syksy 18 Harjoitus Ratkaisuehdotuksia Tehtäväsar I 1. Satunnaismuuttujilla X Y on tkuva yhteiskauma yhteistiheysfunktiolla f

Lisätiedot

Johdatus tilastotieteeseen Testit suhdeasteikollisille muuttujille. TKK (c) Ilkka Mellin (2004) 1

Johdatus tilastotieteeseen Testit suhdeasteikollisille muuttujille. TKK (c) Ilkka Mellin (2004) 1 Johdatus tilastotieteeseen Testit suhdeasteikollisille muuttujille TKK (c) Ilkka Mellin (004) 1 Testit suhdeasteikollisille muuttujille Testit normaalijakauman parametreille Yhden otoksen t-testi Kahden

Lisätiedot

8.1 Ehdolliset jakaumat

8.1 Ehdolliset jakaumat 8 Ehdollinen jakauma Tämän kappaleen tärkeitä käsitteitä: Ehdollinen jakauma; ehdollinen ptnf/tf. Kertolaskusääntö eli ketjusääntö yhteisjakauman esittämiseksi. Ehdollinen odotusarvo ja ehdollinen varianssi.

Lisätiedot

Epäyhtälöt ovat yksi matemaatikon voimakkaimmista

Epäyhtälöt ovat yksi matemaatikon voimakkaimmista 6 Epäyhtälöitä Epäyhtälöt ovat yksi matemaatikon voimakkaimmista työvälineistä. Yhtälö a = b kertoo sen, että kaksi ehkä näennäisesti erilaista asiaa ovat samoja. Epäyhtälö a b saattaa antaa keinon analysoida

Lisätiedot

Olkoon R S otosavaruuksien R ja S karteesinen tulo: Satunnaismuuttujien X ja Y järjestetty pari (X, Y) määrittelee kaksiulotteisen satunnaismuuttujan:

Olkoon R S otosavaruuksien R ja S karteesinen tulo: Satunnaismuuttujien X ja Y järjestetty pari (X, Y) määrittelee kaksiulotteisen satunnaismuuttujan: Mat-.6 Sovellettu todennäköisslaskenta B Mat-.6 Sovellettu todennäköisslaskenta B / Ratkaisut Aiheet: Moniulotteiset satunnaismuuttujat ja todennäköissjakaumat Moniulotteisia jakaumia Avainsanat: Diskreetti

Lisätiedot

TKK @ Ilkka Mellin (2008) 1/5

TKK @ Ilkka Mellin (2008) 1/5 Mat-1.2620 Sovellettu todennäköisyyslaskenta B / Tehtävät Demo-tehtävät: 1, 3, 6, 7 Pistetehtävät: 2, 4, 5, 9 Ylimääräiset tehtävät: 8, 10, 11 Aiheet: Moniulotteiset jakaumat Avainsanat: Diskreetti jakauma,

Lisätiedot

3.1 Kaksiulotteinen satunnaisvektori ja sen jakauma

3.1 Kaksiulotteinen satunnaisvektori ja sen jakauma 3 Yhteisjakauma Kappaleessa 2 tarkastelimme aina yhtä satunnaismuuttujaa kerrallaan. Tässä kappaleessa näemme, miten aikaisemmat käsitteet yleistyvät siihen tilanteeseen, jossa samalla perusjoukolla on

Lisätiedot

7 Kaksiulotteinen jakauma

7 Kaksiulotteinen jakauma 7 Kaksiulotteinen jakauma Diskreetti kaksiulotteinen jakauma ks. luku 3. Uutta asiaa tässä kappaleessa: jatkuva kaksiulotteinen jakauma satunnaisvektorin muunnoksen odotusarvo odotusarvovektori ja kovarianssimatriisi

Lisätiedot

3 Yleistä estimointiteoriaa. Olemme perehtuneet jo piste-estimointiin su-estimoinnin kautta Tässä luvussa tarkastellaan piste-estimointiin yleisemmin

3 Yleistä estimointiteoriaa. Olemme perehtuneet jo piste-estimointiin su-estimoinnin kautta Tässä luvussa tarkastellaan piste-estimointiin yleisemmin 3 Yleistä estimointiteoriaa Olemme perehtuneet jo piste-estimointiin su-estimoinnin kautta Tässä luvussa tarkastellaan piste-estimointiin yleisemmin 3.1 Johdanto Tähän mennessä olemme tarkastelleet estimointia

Lisätiedot

Tilastollinen päättömyys, kevät 2017 Harjoitus 6B

Tilastollinen päättömyys, kevät 2017 Harjoitus 6B Tilastollinen päättömyys, kevät 7 Harjoitus 6B Heikki Korpela 8. helmikuuta 7 Tehtävä. Monisteen teht. 6... Olkoot Y,..., Y 5 Nµ, σ, ja merkitään S 5 i Y i Y /4. Näytä, että S/σ on saranasuure eli sen

Lisätiedot

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi. Viikko 3. Kaksiulotteiset satunnaismuuttujat

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi. Viikko 3. Kaksiulotteiset satunnaismuuttujat .9. Kaksiulotteiset satunnaismuuttujat MS-A Todennäköisslaskennan ja tilastotieteen peruskurssi Viikko Moniulotteiset satunnaismuuttujat sekä niiden jakaumat ja tunnusluvut; Moniulotteisia jakaumia Usein

Lisätiedot

Satunnaismuuttujien muunnokset ja niiden jakaumat

Satunnaismuuttujien muunnokset ja niiden jakaumat Ilkka Mellin Todennäköisyyslaskenta Osa 2: Satunnaismuuttujat ja todennäköisyysjakaumat Satunnaismuuttujien muunnokset ja niiden jakaumat TKK (c) Ilkka Mellin (2007) 1 Satunnaismuuttujien muunnokset ja

Lisätiedot

Johdatus todennäköisyyslaskentaan Satunnaismuuttujien muunnokset ja niiden jakaumat. TKK (c) Ilkka Mellin (2004) 1

Johdatus todennäköisyyslaskentaan Satunnaismuuttujien muunnokset ja niiden jakaumat. TKK (c) Ilkka Mellin (2004) 1 Johdatus todennäköisyyslaskentaan Satunnaismuuttujien muunnokset ja niiden jakaumat TKK (c) Ilkka Mellin (2004) 1 Satunnaismuuttujien muunnokset ja niiden jakaumat Satunnaismuuttujien muunnosten jakaumat

Lisätiedot

Sovellettu todennäköisyyslaskenta B

Sovellettu todennäköisyyslaskenta B Sovellettu todennäköisyyslaskenta B Antti Rasila 30. lokakuuta 2007 Antti Rasila () TodB 30. lokakuuta 2007 1 / 23 1 Otos ja otosjakaumat (jatkoa) Frekvenssi ja suhteellinen frekvenssi Frekvenssien odotusarvo

Lisätiedot

MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi 3A Satunnaismuuttujien summa ja keskihajonta Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto

Lisätiedot

Tilastomatematiikka Kevät 2008

Tilastomatematiikka Kevät 2008 Tilastomatematiikka Kevät 2008 Keijo Ruotsalainen Oulun yliopisto, Teknillinen tiedekunta Matematiikan jaos Tilastomatematiikka p.1/19 4.3 Varianssi Satunnaismuuttuja on neliöintegroituva, jos odotusarvo

Lisätiedot

3.1 Kaksiulotteinen satunnaisvektori ja sen jakauma

3.1 Kaksiulotteinen satunnaisvektori ja sen jakauma 3 Yhteisjakauma Kappaleessa 2 tarkastelimme aina yhtä satunnaismuuttujaa kerrallaan. Tässä kappaleessa näemme, miten aikaisemmat käsitteet yleistyvät siihen tilanteeseen, jossa samalla perusjoukolla on

Lisätiedot

7 Kaksiulotteinen jakauma

7 Kaksiulotteinen jakauma 7 Kaksiulotteinen jakauma Diskreetti kaksiulotteinen jakauma ks. luku 3. Uutta asiaa tässä kappaleessa: jatkuva kaksiulotteinen jakauma satunnaisvektorin muunnoksen odotusarvo odotusarvovektori ja kovarianssimatriisi

Lisätiedot

Johdatus todennäköisyyslaskentaan Moniulotteiset satunnaismuuttujat ja todennäköisyysjakaumat. TKK (c) Ilkka Mellin (2005) 1

Johdatus todennäköisyyslaskentaan Moniulotteiset satunnaismuuttujat ja todennäköisyysjakaumat. TKK (c) Ilkka Mellin (2005) 1 Johdatus todennäköisyyslaskentaan Moniulotteiset satunnaismuuttujat ja todennäköisyysjakaumat TKK (c) Ilkka Mellin (2005) 1 Moniulotteiset satunnaismuuttujat ja todennäköisyysjakaumat Kaksiulotteiset todennäköisyysjakaumat

Lisätiedot

Johdatus tilastotieteeseen Testit suhdeasteikollisille muuttujille. TKK (c) Ilkka Mellin (2005) 1

Johdatus tilastotieteeseen Testit suhdeasteikollisille muuttujille. TKK (c) Ilkka Mellin (2005) 1 Johdatus tilastotieteeseen Testit suhdeasteikollisille muuttujille TKK (c) Ilkka Mellin (005) 1 Testit suhdeasteikollisille muuttujille Testit normaalijakauman parametreille Yhden otoksen t-testi Kahden

Lisätiedot

4.2.2 Uskottavuusfunktio f Y (y 0 X = x)

4.2.2 Uskottavuusfunktio f Y (y 0 X = x) Kuva 4.6: Elektroniikassa esiintyvän lämpökohinan periaate. Lämpökohinaa ε mallinnetaan additiivisella häiriöllä y = Mx + ε. 4.2.2 Uskottavuusfunktio f Y (y 0 X = x) Tarkastellaan tilastollista inversio-ongelmaa,

Lisätiedot

Tilastollinen aineisto Luottamusväli

Tilastollinen aineisto Luottamusväli Tilastollinen aineisto Luottamusväli Keijo Ruotsalainen Oulun yliopisto, Teknillinen tiedekunta Matematiikan jaos Tilastollinen aineisto p.1/20 Johdanto Kokeellisessa tutkimuksessa tutkittavien suureiden

Lisätiedot

Ilkka Mellin Todennäköisyyslaskenta Osa 2: Satunnaismuuttujat ja todennäköisyysjakaumat Moniulotteiset satunnaismuuttujat ja jakaumat

Ilkka Mellin Todennäköisyyslaskenta Osa 2: Satunnaismuuttujat ja todennäköisyysjakaumat Moniulotteiset satunnaismuuttujat ja jakaumat Ilkka Mellin Todennäköisyyslaskenta Osa 2: Satunnaismuuttujat ja todennäköisyysjakaumat Moniulotteiset satunnaismuuttujat ja jakaumat TKK (c) Ilkka Mellin (2006) 1 Moniulotteiset satunnaismuuttujat ja

Lisätiedot

Johdatus todennäköisyyslaskentaan Momenttiemäfunktio ja karakteristinen funktio. TKK (c) Ilkka Mellin (2005) 1

Johdatus todennäköisyyslaskentaan Momenttiemäfunktio ja karakteristinen funktio. TKK (c) Ilkka Mellin (2005) 1 Johdatus todennäköisyyslaskentaan Momenttiemäfunktio ja karakteristinen funktio TKK (c) Ilkka Mellin (5) 1 Momenttiemäfunktio ja karakteristinen funktio Momenttiemäfunktio Diskreettien jakaumien momenttiemäfunktioita

Lisätiedot

Luku 1. Yhden selittäjän lineaarinen regressio. 1.1 Regressiomalli

Luku 1. Yhden selittäjän lineaarinen regressio. 1.1 Regressiomalli Luku 1 Yhden selittäjän lineaarinen regressio Tämä luku on tiivistelmä Jørgensenin kirjan luvusta 1. Tässä luvussa käsitellään yksinkertaisilla tarkasteluilla yhden selittäjän lineaarista regressiota,

Lisätiedot

Estimointi. Vilkkumaa / Kuusinen 1

Estimointi. Vilkkumaa / Kuusinen 1 Estimointi Vilkkumaa / Kuusinen 1 Motivointi Tilastollisessa tutkimuksessa oletetaan jonkin jakauman generoineen tutkimuksen kohteena olevaa ilmiötä koskevat havainnot Tämän mallina käytettävän todennäköisyysjakauman

Lisätiedot

Kannan vektorit siis virittävät aliavaruuden, ja lisäksi kanta on vapaa. Lauseesta 7.6 saadaan seuraava hyvin käyttökelpoinen tulos:

Kannan vektorit siis virittävät aliavaruuden, ja lisäksi kanta on vapaa. Lauseesta 7.6 saadaan seuraava hyvin käyttökelpoinen tulos: 8 Kanta Tässä luvussa tarkastellaan aliavaruuden virittäjävektoreita, jotka muodostavat lineaarisesti riippumattoman jonon. Merkintöjen helpottamiseksi oletetaan luvussa koko ajan, että W on vektoreiden

Lisätiedot

P (X B) = f X (x)dx. xf X (x)dx. g(x)f X (x)dx.

P (X B) = f X (x)dx. xf X (x)dx. g(x)f X (x)dx. Yhteenveto: Satunnaisvektorit ovat kuvauksia tn-avaruudelta seillaiselle avaruudelle, johon sisältyy satunnaisvektorin kaikki mahdolliset reaalisaatiot. Satunnaisvektorin realisaatio eli otos on jokin

Lisätiedot

8.1 Ehdolliset jakaumat

8.1 Ehdolliset jakaumat 8 Ehdollinen jakauma Tämän kappaleen tärkeitä käsitteitä: Ehdollinen jakauma; ehdollinen ptnf/tf. Kertolaskusääntö eli ketjusääntö yhteisjakauman esittämiseksi. Ehdollinen odotusarvo ja ehdollinen varianssi.

Lisätiedot

Testejä suhdeasteikollisille muuttujille

Testejä suhdeasteikollisille muuttujille Ilkka Mellin Tilastolliset menetelmät Osa 3: Tilastolliset testit Testejä suhdeasteikollisille muuttujille TKK (c) Ilkka Mellin (007) 1 Testejä suhdeasteikollisille muuttujille >> Testit normaalijakauman

Lisätiedot

Odotusarvo. Odotusarvon ominaisuuksia Satunnaismuuttujien ominaisuuksia 61

Odotusarvo. Odotusarvon ominaisuuksia Satunnaismuuttujien ominaisuuksia 61 3.3. Satunnaismuuttujien ominaisuuksia 61 Odotusarvo Määritelmä 3.5 (Odotusarvo) Olkoon X diskreetti satunnaismuuttuja, jonka arvojoukko on S ja todennäköisyysfunktio f X (x). Silloin X:n odotusarvo on

Lisätiedot

2. Teoriaharjoitukset

2. Teoriaharjoitukset 2. Teoriaharjoitukset Demotehtävät 2.1 Todista Gauss-Markovin lause. Ratkaisu. Oletetaan että luentokalvojen standardioletukset (i)-(v) ovat voimassa. Huomaa että Gauss-Markovin lause ei vaadi virhetermien

Lisätiedot

Tässä luvussa mietimme, kuinka paljon aineistossa on tarpeellista tietoa Sivuamme kysymyksiä:

Tässä luvussa mietimme, kuinka paljon aineistossa on tarpeellista tietoa Sivuamme kysymyksiä: 4. Tyhjentyvyys Tässä luvussa mietimme, kuinka paljon aineistossa on tarpeellista tietoa Sivuamme kysymyksiä: Voidaanko päätelmät perustaa johonkin tunnuslukuun t = t(y) koko aineiston y sijasta? Mitä

Lisätiedot

Jos nyt on saatu havaintoarvot Ü ½ Ü Ò niin suurimman uskottavuuden

Jos nyt on saatu havaintoarvot Ü ½ Ü Ò niin suurimman uskottavuuden 1.12.2006 1. Satunnaisjakauman tiheysfunktio on Ü µ Üe Ü, kun Ü ja kun Ü. Määritä parametrin estimaattori momenttimenetelmällä ja suurimman uskottavuuden menetelmällä. Ratkaisu: Jotta kyseessä todella

Lisätiedot

3.6 Su-estimaattorien asymptotiikka

3.6 Su-estimaattorien asymptotiikka 3.6 Su-estimaattorien asymptotiikka su-estimaattorit ovat usein olleet puutteellisia : ne ovat usein harhaisia ja eikä ne välttämättä ole täystehokkaita asymptoottisilta ominaisuuksiltaan ne ovat yleensä

Lisätiedot

8. Muita stokastisia malleja 8.1 Epölineaariset mallit ARCH ja GARCH

8. Muita stokastisia malleja 8.1 Epölineaariset mallit ARCH ja GARCH 8. Muita stokastisia malleja 8.1 Epölineaariset mallit ARCH ja GARCH Osa aikasarjoista kehittyy hyvin erityyppisesti erilaisissa tilanteissa. Esimerkiksi pörssikurssien epävakaus keskittyy usein lyhyisiin

Lisätiedot

Vapaus. Määritelmä. jos c 1 v 1 + c 2 v c k v k = 0 joillakin c 1,..., c k R, niin c 1 = 0, c 2 = 0,..., c k = 0.

Vapaus. Määritelmä. jos c 1 v 1 + c 2 v c k v k = 0 joillakin c 1,..., c k R, niin c 1 = 0, c 2 = 0,..., c k = 0. Vapaus Määritelmä Oletetaan, että v 1, v 2,..., v k R n, missä n {1, 2,... }. Vektorijono ( v 1, v 2,..., v k ) on vapaa eli lineaarisesti riippumaton, jos seuraava ehto pätee: jos c 1 v 1 + c 2 v 2 +

Lisätiedot

2 exp( 2u), kun u > 0 f U (u) = v = 3 + u 3v + uv = u. f V (v) dv = f U (u) du du f V (v) = f U (u) dv = f U (h(v)) h (v) = f U 1 v (1 v) 2

2 exp( 2u), kun u > 0 f U (u) = v = 3 + u 3v + uv = u. f V (v) dv = f U (u) du du f V (v) = f U (u) dv = f U (h(v)) h (v) = f U 1 v (1 v) 2 HY, MTO / Matemaattisten tieteiden kandiohjelma Todennäköisyyslaskenta IIa, syksy 208 Harjoitus 4 Ratkaisuehdotuksia Tehtäväsarja I. Satunnaismuuttuja U Exp(2) ja V = U/(3 + U). Laske f V käyttämällä muuttujanvaihtotekniikkaa.

Lisätiedot

Sovellettu todennäköisyyslaskenta B

Sovellettu todennäköisyyslaskenta B Sovellettu todennäköisyyslaskenta B Antti Rasila 21. syyskuuta 2007 Antti Rasila () TodB 21. syyskuuta 2007 1 / 19 1 Satunnaismuuttujien riippumattomuus 2 Jakauman tunnusluvut Odotusarvo Odotusarvon ominaisuuksia

Lisätiedot

Osa 2: Otokset, otosjakaumat ja estimointi

Osa 2: Otokset, otosjakaumat ja estimointi Ilkka Mellin Tilastolliset menetelmät Osa 2: Otokset, otosjakaumat ja estimointi Estimointi TKK (c) Ilkka Mellin (2007) 1 Estimointi >> Todennäköisyysjakaumien parametrit ja niiden estimointi Hyvän estimaattorin

Lisätiedot

Todennäköisyyslaskenta, syksy Petri Koistinen Matematiikan ja tilastotieteen laitos Helsingin yliopisto

Todennäköisyyslaskenta, syksy Petri Koistinen Matematiikan ja tilastotieteen laitos Helsingin yliopisto Todennäköisyyslaskenta, syksy 2013 Petri Koistinen Matematiikan ja tilastotieteen laitos Helsingin yliopisto 14. lokakuuta 2013 2 Sisältö 1 Tapahtumat ja niiden todennäköisyydet 1 1.1 Todennäköisyyden

Lisätiedot

Ratkaisuehdotukset LH 7 / vko 47

Ratkaisuehdotukset LH 7 / vko 47 MS-C34 Lineaarialgebra, II/7 Ratkaisuehdotukset LH 7 / vko 47 Tehtävä : Olkoot M R symmetrinen ja positiividefiniitti matriisi (i) Näytä, että m > ja m > (ii) Etsi Eliminaatiomatriisi E R siten, että [

Lisätiedot

MS-A0503 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

MS-A0503 Todennäköisyyslaskennan ja tilastotieteen peruskurssi MS-A0503 Todennäköisyyslaskennan ja tilastotieteen peruskurssi 3A Normaaliapproksimaatio Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Lukuvuosi 2016

Lisätiedot

Ilkka Mellin Todennäköisyyslaskenta. Osa 2: Satunnaismuuttujat ja todennäköisyysjakaumat. Momenttiemäfunktio ja karakteristinen funktio

Ilkka Mellin Todennäköisyyslaskenta. Osa 2: Satunnaismuuttujat ja todennäköisyysjakaumat. Momenttiemäfunktio ja karakteristinen funktio Ilkka Mellin Todennäköisyyslaskenta Osa : Satunnaismuuttujat ja todennäköisyysjakaumat Momenttiemäfunktio ja karakteristinen funktio TKK (c) Ilkka Mellin (7) 1 Momenttiemäfunktio ja karakteristinen funktio

Lisätiedot

805306A Johdatus monimuuttujamenetelmiin, 5 op

805306A Johdatus monimuuttujamenetelmiin, 5 op monimuuttujamenetelmiin, 5 op syksy 2018 Matemaattisten tieteiden laitos Lineaarinen erotteluanalyysi (LDA, Linear discriminant analysis) Erotteluanalyysin avulla pyritään muodostamaan selittävistä muuttujista

Lisätiedot

Estimointi populaation tuntemattoman parametrin arviointia otossuureen avulla Otossuure satunnaisotoksen avulla määritelty funktio

Estimointi populaation tuntemattoman parametrin arviointia otossuureen avulla Otossuure satunnaisotoksen avulla määritelty funktio 17.11.2015/1 MTTTP5, luento 17.11.2015 Luku 5 Parametrien estimointi 5.1 Piste-estimointi Estimointi populaation tuntemattoman parametrin arviointia otossuureen avulla Otossuure satunnaisotoksen avulla

Lisätiedot

4. Todennäköisyyslaskennan kertausta

4. Todennäköisyyslaskennan kertausta luento04.ppt S-38.1145 - Liikenneteorian perusteet - Kevät 2006 1 Sisältö eruskäsitteet Diskreetit satunnaismuuttujat Diskreetit jakaumat lkm-jakaumat Jatkuvat satunnaismuuttujat Jatkuvat jakaumat aikajakaumat

Lisätiedot

Johdatus todennäköisyyslaskentaan Normaalijakaumasta johdettuja jakaumia. TKK (c) Ilkka Mellin (2005) 1

Johdatus todennäköisyyslaskentaan Normaalijakaumasta johdettuja jakaumia. TKK (c) Ilkka Mellin (2005) 1 Johdatus todennäköisyyslaskentaan Normaalijakaumasta johdettuja jakaumia TKK (c) Ilkka Mellin (2005) 1 Normaalijakaumasta johdettuja jakaumia Johdanto χ 2 -jakauma F-jakauma t-jakauma TKK (c) Ilkka Mellin

Lisätiedot

3 Yleistä estimointiteoriaa. Olemme perehtuneet jo piste-estimointiin su-estimoinnin kautta Tässä luvussa tarkastellaan piste-estimointiin yleisemmin

3 Yleistä estimointiteoriaa. Olemme perehtuneet jo piste-estimointiin su-estimoinnin kautta Tässä luvussa tarkastellaan piste-estimointiin yleisemmin 3 Yleistä estimointiteoriaa Olemme perehtuneet jo piste-estimointiin su-estimoinnin kautta Tässä luvussa tarkastellaan piste-estimointiin yleisemmin 3.1 Johdanto Tähän mennessä olemme tarkastelleet estimointia

Lisätiedot

Lineaariset mollit, kl 2017, Harjoitus 1

Lineaariset mollit, kl 2017, Harjoitus 1 Lineaariset mollit, kl 07, Harjoitus Heikki Korpela 7 huhtikuuta 07 Tehtävä Symmetristä matriisia A(n n) sanotaan positiivisesti definiitiksi (merkitään A > 0), jos x T Ax > 0 kaikilla x 0, x R n (ks monisteen

Lisätiedot

1. Kuusisivuista noppaa heitetään, kunnes saadaan silmäluku 5 tai 6. Olkoon X niiden heittojen lukumäärä, joilla tuli 1, 2, 3 tai 4.

1. Kuusisivuista noppaa heitetään, kunnes saadaan silmäluku 5 tai 6. Olkoon X niiden heittojen lukumäärä, joilla tuli 1, 2, 3 tai 4. HY / Matematiikan ja tilastotieteen laitos Todennäköisyyslaskenta II, syksy 206 Kurssikoe 28.0.206 Ratkaisuehdotuksia. Kuusisivuista noppaa heitetään, kunnes saadaan silmäluku 5 tai 6. Olkoon X niiden

Lisätiedot

Tilastollisen analyysin perusteet Luento 6: Korrelaatio ja riippuvuus tilastotieteessä

Tilastollisen analyysin perusteet Luento 6: Korrelaatio ja riippuvuus tilastotieteessä Tilastollisen analyysin perusteet Luento 6: Korrelaatio ja riippuvuus tilastotieteessä Sisältö Riippumattomuus Jos P(A B) = P(A)P(B), niin tapahtumat A ja B ovat toisistaan riippumattomia. (Keskustelimme

Lisätiedot

Todennäköisyyslaskun kertaus. Heliövaara 1

Todennäköisyyslaskun kertaus. Heliövaara 1 Todennäköisyyslaskun kertaus Heliövaara 1 Satunnaismuuttujat ja todennäköisyysjakaumat Heliövaara 2 Stunnaismuuttujat ja todennäköisyysjakaumat Jos satunnaisilmiötä halutaan mallintaa matemaattisesti,

Lisätiedot

Keskihajonta ja korrelaatio

Keskihajonta ja korrelaatio Luku 4 Keskihajonta ja korrelaatio Lasse Leskelä Aalto-yliopisto 19. syyskuuta 2017 4.1 Jakauman varianssi ja keskihajonta Edellisessä luvussa opittiin, että satunnaismuuttujan odotusarvo on X:n jakauman

Lisätiedot

Todennäköisyyden ominaisuuksia

Todennäköisyyden ominaisuuksia Todennäköisyyden ominaisuuksia 0 P(A) 1 (1) P(S) = 1 (2) A B = P(A B) = P(A) + P(B) (3) P(A) = 1 P(A) (4) P(A B) = P(A) + P(B) P(A B) (5) Tapahtuman todennäköisyys S = {e 1,..., e N }. N A = A. Kun alkeistapaukset

Lisätiedot

Johdatus regressioanalyysiin

Johdatus regressioanalyysiin Ilkka Mellin Tilastolliset menetelmät Osa 4: Lineaarinen regressioanalyysi Johdatus regressioanalyysiin TKK (c) Ilkka Mellin (2007) 1 Johdatus regressioanalyysiin >> Regressioanalyysin lähtökohdat ja tavoitteet

Lisätiedot

Johdatus tilastotieteeseen Väliestimointi. TKK (c) Ilkka Mellin (2005) 1

Johdatus tilastotieteeseen Väliestimointi. TKK (c) Ilkka Mellin (2005) 1 Johdatus tilastotieteeseen Väliestimointi TKK (c) Ilkka Mellin (2005) 1 Väliestimointi Todennäköisyysjakaumien parametrien estimointi Luottamusväli Normaalijakauman odotusarvon luottamusväli Normaalijakauman

Lisätiedot

Sovellettu todennäköisyyslaskenta B

Sovellettu todennäköisyyslaskenta B Sovellettu todennäköisyyslaskenta B Antti Rasila 18. lokakuuta 2007 Antti Rasila () TodB 18. lokakuuta 2007 1 / 19 1 Tilastollinen aineisto 2 Tilastollinen malli Yksinkertainen satunnaisotos 3 Otostunnusluvut

Lisätiedot

Sovellettu todennäköisyyslaskenta B

Sovellettu todennäköisyyslaskenta B Sovellettu todennäköisyyslaskenta B Antti Rasila 8. marraskuuta 2007 Antti Rasila () TodB 8. marraskuuta 2007 1 / 15 1 Tilastollisia testejä Z-testi Normaalijakauman odotusarvon testaus, keskihajonta tunnetaan

Lisätiedot

(1.1) Ae j = a k,j e k.

(1.1) Ae j = a k,j e k. Lineaarikuvauksen determinantti ja jälki 1. Lineaarikuvauksen matriisi. Palautetaan mieleen, mikä lineaarikuvauksen matriisi annetun kannan suhteen on. Olkoot V äärellisulotteinen vektoriavaruus, n = dim

Lisätiedot

Maximum likelihood-estimointi Alkeet

Maximum likelihood-estimointi Alkeet Maximum likelihood-estimointi Alkeet Keijo Ruotsalainen Oulun yliopisto, Teknillinen tiedekunta Matematiikan jaos Maximum likelihood-estimointi p.1/20 Maximum Likelihood-estimointi satunnaismuuttujan X

Lisätiedot

Inversio-ongelmien laskennallinen peruskurssi Luento 7

Inversio-ongelmien laskennallinen peruskurssi Luento 7 Inversio-ongelmien laskennallinen peruskurssi Luento 7 Kevät 2012 1 Tilastolliset inversio-ongelmat Tilastollinen ionversio perustuu seuraaviin periaatteisiin: 1. Kaikki mallissa olevat muuttujat mallinnetaan

Lisätiedot

Monimuuttujamallit ja multinormaalijakauma

Monimuuttujamallit ja multinormaalijakauma Monimuuttujamallit ja multinormaalijakauma Esitys 4 2.9.20 Antti Toppila Työn saa tallentaa ja julkistaa Aalto-yliopiston avoimilla verkkosivuilla. Muilta osin kaikki oikeuet piätetään. Johanto Talouellisten

Lisätiedot

11 Raja-arvolauseita ja approksimaatioita

11 Raja-arvolauseita ja approksimaatioita 11 Raja-arvolauseita ja approksimaatioita Tässä luvussa esitellään sellaisia kuuluisia todennäköisyysteorian raja-arvolauseita, joita sovelletaan usein tilastollisessa päättelyssä. Näiden raja-arvolauseiden

Lisätiedot

MTTTP5, luento Luottamusväli, määritelmä

MTTTP5, luento Luottamusväli, määritelmä 23.11.2017/1 MTTTP5, luento 23.11.2017 Luottamusväli, määritelmä Olkoot A ja B satunnaisotoksen perusteella määriteltyjä satunnaismuuttujia. Väli (A, B) on parametrin 100(1 - ) %:n luottamusväli, jos P(A

Lisätiedot

MTTTP5, luento Otossuureita ja niiden jakaumia (jatkuu)

MTTTP5, luento Otossuureita ja niiden jakaumia (jatkuu) 21.11.2017/1 MTTTP5, luento 21.11.2017 Otossuureita ja niiden jakaumia (jatkuu) 4) Olkoot X 1, X 2,..., X n satunnaisotos (, ):sta ja Y 1, Y 2,..., Y m satunnaisotos (, ):sta sekä otokset riippumattomia.

Lisätiedot

805306A Johdatus monimuuttujamenetelmiin, 5 op

805306A Johdatus monimuuttujamenetelmiin, 5 op monimuuttujamenetelmiin, 5 op syksy 2018 Matemaattisten tieteiden laitos Lineaarinen erotteluanalyysi (LDA, Linear discriminant analysis) Erotteluanalyysin avulla pyritään muodostamaan selittävistä muuttujista

Lisätiedot

Koska ovat negatiiviset. Keskihajontoja ei pystytä laskemaan mutta pätee ¾.

Koska ovat negatiiviset. Keskihajontoja ei pystytä laskemaan mutta pätee ¾. 24.11.2006 1. Oletetaan, että kaksiulotteinen satunnaismuuttuja µ noudattaa kaksiulotteista normaalijakaumaa. Oletetaan lisäksi, että satunnaismuuttujan regressiofunktio satunnaismuuttujan suhteen on ݵ

Lisätiedot

Sovellettu todennäköisyyslaskenta B

Sovellettu todennäköisyyslaskenta B Sovellettu todennäköisyyslaskenta B Antti Rasila 3. marraskuuta 2007 Antti Rasila () TodB 3. marraskuuta 2007 1 / 18 1 Varianssin luottamusväli, jatkoa 2 Bernoulli-jakauman odotusarvon luottamusväli 3

Lisätiedot

2. Uskottavuus ja informaatio

2. Uskottavuus ja informaatio 2. Uskottavuus ja informaatio Viimeksi käsittelimme uskottavuusfunktioita, log-uskottavuusfunktioita ja su-estimaatteja Seuraavaksi tarkastelemme parametrin muunnoksia ja kuinka su-estimaatit käyttäytyvät

Lisätiedot

2. Keskiarvojen vartailua

2. Keskiarvojen vartailua 2. Keskiarvojen vartailua Esimerkki 2.1: Oheiset mittaukset liittyvät Portland Sementin sidoslujuuteen (kgf/cm 2 ). Mittaukset y 1 ovat nykyisestä seoksesta ja mittaukset y 2 uudesta seoksesta, jossa lisäaineena

Lisätiedot

4.1 Diskreetin satunnaismuuttujan odotusarvo

4.1 Diskreetin satunnaismuuttujan odotusarvo 4 Odotusarvo Seuraavaksi kertaamme, miten satunnaismuuttujan odotusarvo (sv. väntevärde) määritellään diskreetissä ja jatkuvassa tapauksessa. Odotusarvolle käytetään englannikielisessä kirjallisuudessa

Lisätiedot

Neliömatriisi A on ortogonaalinen (eli ortogonaalimatriisi), jos sen alkiot ovat reaalisia ja

Neliömatriisi A on ortogonaalinen (eli ortogonaalimatriisi), jos sen alkiot ovat reaalisia ja 7 NELIÖMATRIISIN DIAGONALISOINTI. Ortogonaaliset matriisit Neliömatriisi A on ortogonaalinen (eli ortogonaalimatriisi), jos sen alkiot ovat reaalisia ja A - = A T () Muistutus: Kokoa n olevien vektorien

Lisätiedot

Generointi yksinkertaisista diskreeteistä jakaumista

Generointi yksinkertaisista diskreeteistä jakaumista S-38.148 Tietoverkkojen simulointi / Satunnaismuuttujien generointi 1(18) Generointi yksinkertaisista diskreeteistä jakaumista Seuraavassa U, U 1,..., U n tarkoittavat riippumattomia U(0,1)-jakautuneita

Lisätiedot

Tilastotieteen kertaus. Kuusinen/Heliövaara 1

Tilastotieteen kertaus. Kuusinen/Heliövaara 1 Tilastotieteen kertaus Kuusinen/Heliövaara 1 Mitä tilastotiede on? Tilastotiede kehittää ja soveltaa menetelmiä, joiden avulla reaalimaailman ilmiöistä voidaan tehdä johtopäätöksiä tilanteissa, joissa

Lisätiedot

x = y x i = y i i = 1, 2; x + y = (x 1 + y 1, x 2 + y 2 ); x y = (x 1 y 1, x 2 + y 2 );

x = y x i = y i i = 1, 2; x + y = (x 1 + y 1, x 2 + y 2 ); x y = (x 1 y 1, x 2 + y 2 ); LINEAARIALGEBRA Harjoituksia/Exercises 2017 1. Olkoon n Z +. Osoita, että (R n, +, ) on lineaariavaruus, kun vektoreiden x = (x 1,..., x n ), y = (y 1,..., y n ) identtisyys, yhteenlasku ja reaaliluvulla

Lisätiedot

riippumattomia ja noudattavat samaa jakaumaa.

riippumattomia ja noudattavat samaa jakaumaa. 12.11.2015/1 MTTTP5, luento 12.11.2015 Luku 4 Satunnaisotos, otossuure ja otosjakauma 4.1. Satunnaisotos X 1, X 2,, X n on satunnaisotos, jos X i :t ovat riippumattomia ja noudattavat samaa jakaumaa. Sanonta

Lisätiedot

Inversio-ongelmien laskennallinen peruskurssi Luento 2

Inversio-ongelmien laskennallinen peruskurssi Luento 2 Inversio-ongelmien laskennallinen peruskurssi Luento 2 Kevät 2012 1 Lineaarinen inversio-ongelma Määritelmä 1.1. Yleinen (reaaliarvoinen) lineaarinen inversio-ongelma voidaan esittää muodossa m = Ax +

Lisätiedot

Väliestimointi (jatkoa) Heliövaara 1

Väliestimointi (jatkoa) Heliövaara 1 Väliestimointi (jatkoa) Heliövaara 1 Bernoulli-jakauman odotusarvon luottamusväli 1/2 Olkoon havainnot X 1,..., X n yksinkertainen satunnaisotos Bernoulli-jakaumasta parametrilla p. Eli X Bernoulli(p).

Lisätiedot

Kertausluento. Tilastollinen päättely II - 2. kurssikoe

Kertausluento. Tilastollinen päättely II - 2. kurssikoe Kertausluento Tilastollinen päättely II - 2. kurssikoe Yleistä tietoa TP II -2. kurssikokeesta 2. kurssikoe maanantaina 6.5.2019 klo 12.00-14.30 jossakin Exactumin auditoriossa Kurssikokeeseen ilmoittaudutaan

Lisätiedot

Ilkka Mellin Tilastolliset menetelmät. Osa 4: Lineaarinen regressioanalyysi. Yleinen lineaarinen malli. TKK (c) Ilkka Mellin (2007) 1

Ilkka Mellin Tilastolliset menetelmät. Osa 4: Lineaarinen regressioanalyysi. Yleinen lineaarinen malli. TKK (c) Ilkka Mellin (2007) 1 Ilkka Mellin Tilastolliset menetelmät Osa 4: Lineaarinen regressioanalyysi Yleinen lineaarinen malli TKK (c) Ilkka Mellin (2007) 1 Yleinen lineaarinen malli >> Usean selittäjän lineaarinen regressiomalli

Lisätiedot