Moniulotteiset jakaumat ja havaintoaineistot

Transkriptio

1 Momuuttujameetelmät: Ilkka Mell. Moulotteset jakaumat.. Satuasmuuttujat ja todeäkösyysjakaumat.. Yhtesjakaumat.3. Reuajakaumat ja satuasmuuttuje rumattomuus.4. Ehdollset jakaumat.5. Yhtesjakaume tuusluvut.6. Ehdollste jakaume tuusluvut.7. Tlastollset matrst.8. Yhtesjakaume tuuslukuje geometre tulkta.9. Karakterste fukto. Moulotteset havatoaestot.. Moulotteste havatoaestoje tuusluvut.. Tlastolle etäsyys ja Mahalaobs-etäsyys TKK Ilkka Mell (007) /44

2 Momuuttujameetelmät:. Moulotteset jakaumat.. Satuasmuuttujat ja todeäkösyysjakaumat SATUNNAISILMIÖT TILASTOLLISET MALLIT σ-algebra TODENNÄKÖISYYS MITALLISET JOUKOT OTOSAVARUUS ALKEISTAPAHTUMAT TAPAHTUMAT SATUNNAISMUUTTUJAT, TODENNÄKÖISYYSJAKAUMAT TODENNÄKÖISYYSJAKAUMA SATUNNAISILMIÖN TILASTOLLISENA MALLINA SATUNNAISMUUTTUJIEN TODENNÄKÖISYYSJAKAUMAT JA NIIDEN KERTYMÄFUNKTIOT JATKUVAT SATUNNAISMUUTTUJAT JA NIIDEN TIHEYSFUNKTIOT.. Yhtesjakaumat SATUNNAISVEKTORIT MONIULOTTEISTEN SATUNNAISMUUTTUJIEN YHTEISJAKAUMAT JA NIIDEN KERTYMÄFUNKTIOT KERTYMÄFUNKTIOIDEN OMINAISUUDET TIHEYSFUNKTIO TIHEYSFUNKTIOIDEN OMINAISUUDET MUUTTUJIEN VAIHTO SOVELLUS: LINEAARIMUUNNOKSEN TIHEYSFUNKTIO.3. Reuajakaumat ja satuasmuuttuje rumattomuus REUNAJAKAUMAT SATUNNAISMUUTTUJIEN RIIPPUMATTOMUUS.4. Ehdollset jakaumat EHDOLLISET JAKAUMAT EHDOLLISET JAKAUMAT JA RIIPPUMATTOMUUS.5. Yhtesjakaume tuusluvut SATUNNAISMUUTTUJIEN FUNKTIOIDEN ODOTUSARVOT ODOTUSARVO SATUNNAISMUUTTUJIEN TULON ODOTUSARVO JA RIIPPUMATTOMUUS VARIANSSI STANDARDIPOIKKEAMA STANDARDOINTI KOVARIANSSI KORRELAATIOKERROIN KORRELAATIOKERTOIMEN OMINAISUUKSIA RIIPPUMATTOMUUS JA KORRELOIMATTOMUUS TKK Ilkka Mell (007) /44

3 .6. Ehdollste jakaume tuusluvut SATUNNAISMUUTTUJIEN FUNKTIOIDEN EHDOLLISET ODOTUSARVOT EHDOLLINEN ODOTUSARVO REGRESSIOFUNKTIOT EHDOLLINEN VARIANSSI EHDOLLINEN KOVARIANSSI EHDOLLINEN KORRELAATIO.7. Tlastollset matrst SATUNNAISMATRIISIT SATUNNAISMATRIISIN ODOTUSARVO SATUNNAISVEKTORIT ODOTUSARVOVEKTORI KOVARIANSSIMATRIISI KOVARIANSSIMATRIISIN OMINAISUUDET KOKONAISVARIANSSI YLEISTETTY VARIANSSI KORRELAATIOMATRIISI KORRELAATIOMATRIISIN OMINAISUUDET.8. Yhtesjakaume tuuslukuje geometre tulkta ODOTUSARVON GEOMETRINEN TULKINTA KOVARIANSSIN, KESKIHAJONNAN JA KORRELAATION GEOMETRINEN TULKINTA.9. Karakterste fukto ODOTUSARVON GEOMETRINEN TULKINTA KOVARIANSSIN, KESKIHAJONNAN JA KORRELAATION GEOMETRINEN TULKINTA. Moulotteset havatoaestot.. Moulotteste havatoaestoje tuusluvut HAVAINTOMATRIISI YKKÖSTEN MUODOSTAMA VEKTORI YKSIKKÖMATRIISI KESKIARVOVEKTORI MOMENTTIMATRIISI OTOSKOVARIANSSIMATRIISI OTOSKORRELAATIOMATRIISI.. Tlastolle etäsyys ja Mahalaobs-etäsyys TILASTOLLINEN ETÄISYYS SOVELLUS: TAVANOMAINEN t-testisuure MAHALANOBIS-ETÄISYYS, TKK Ilkka Mell (007) 3/44

4 TKK Ilkka Mell (007) 4/44

5 . Moulotteset jakaumat.. Satuasmuuttujat ja todeäkösyysjakaumat Satuaslmöt Reaalmaalma lmö o satuaslmö, jos sllä o seuraavat omasuudet: () Ilmö vo äätyä alkutlastaa uses erlas loutloh el lmöllä o useta erlasa vahtoehtosa tuloksa. () Ilmö alkutla erusteella e voda tarkast eustaa lmö loutlaa el stä, mkä mahdollssta tulosvahtoehdosta realsotuu el toteutuu. () Vakka lmö loutlaa e voda eustaa tarkast, lmö tulosvahtoehtoje suhteellste frekvesse el suhteellste osuukse ähdää lmö tostuessa käyttäytyvä sääömukasest. Tlastollset mallt Tlastotetee tehtävää o kehttää reaalmaalma satuaslmölle malleja, jode avulla vodaa tehdä lmötä koskeva johtoäätöksä. Satuaslmöde tlastollset mallt erustuvat todeäkösyyslasketaa ja tä kutsutaa use stokastsks malleks ta todeäkösyysmalleks. Satuaslmö tlastollsessa mallssa o oltava seuraavat osat: () Satuaslmö tulosvahtoehtoje kuvaus. () Tulosvahtoehtoje todeäkösyykse kuvaus. σ-algebra Olkoo S joukko ja olkoo F = { A A S} jok jouko S osajoukkoje muodostama joukkoerhe. Joukkoerhe F o σ-algebra, jos seuraavat ehdot ätevät: () () F A c F A () A, A, F A = F F Todeäkösyys Olkoo S joukko ja olkoo F jok jouko S osajoukkoje muodostama σ-algebra. Olkoo Pr joukkofukto, joka lttää jokasee σ-algebraa F kuuluvaa jouko S osajoukkoo A reaalluvu Pr(A): Pr: F TKK Ilkka Mell (007) 5/44

6 Joukkofukto Pr o todeäkösyys, jos seuraavat ehdot ätevät: () Pr( S ) = () 0 Pr( A) kaklle A F () Jos A, A, F ja A Aj =, ku j, ( A = ) Pr = Pr( A) = Ste todeäkösyys Pr o σ-algebrassa F määrtelty täydellsest addtve, ormeerattu ja e-egatve mtta. Mtallset joukot σ-algebraa F kuuluva otosavaruude S osajoukkoja A kutsutaa todeäkösyysmta Pr suhtee mtallsks joukoks. Otosavaruudet Perusjoukkoa S, jossa todeäkösyysmtta Pr o määrtelty, kutsutaa todeäkösyyslaskeassa otosavaruudeks. Alkestaahtumat Otosavaruude alkota s S kutsutaa alkestaahtumks. Taahtumat Taahtumat ovat otosavaruudessa S määrtelly todeäkösyysmta Pr suhtee mtallsa osajoukkoja el taahtumat ovat σ-algebra F alkota. Satuasmuuttujat Olkoo mtalle fukto el kuvaus otosavaruudesta S reaallukuje joukkoo : : S Tällö o satuasmuuttuja. Huomautus : Fukto o mtalle, jos jokase reaallukuje joukossa avome jouko alkukuva o mtalle. Huomautus : Satuasmuuttuja o fuktoa täys määrätty, mutta sattuma määrää mkä se arvosta realsotuu, ku ko. satuaslmö estyy. Huomautus 3: Satuasmuuttuja kuvaa satuaslmö tulosvahtoehtoja umeersessa muodossa. TKK Ilkka Mell (007) 6/44

7 Todeäkösyysjakaumat Satuasmuuttuja todeäkösyysjakaumalla tarkotetaa satuasmuuttuja reaallukuje joukkoo dsomaa todeäkösyysmttaa. Todeäkösyysjakaumat satuaslmöde tlastollsa mallea Satuaslmö tlastolle mall o täys määrätty, jos seuraavat ehdot ätevät: () () Satuaslmö tulosvahtoehtoja umeersessa muodossa kuvaava satuasmuuttuja tuetaa. Todeäkösyysmassa jakautumsta satuasmuuttuja arvoalueelle kuvaava todeäkösyysjakauma tuetaa. Satuasmuuttuje todeäkösyysjakaumat ja de kertymäfuktot Satuasmuuttuja todeäkösyysjakauma määrää täys se kertymäfukto F(x) = Pr( x) mssä x o kteä el e-satuae reaalluku. Jatkuvat satuasmuuttujat ja de theysfuktot Olkoo F(x) = Pr( x) satuasmuuttuja kertymäfukto. Jos dervaatta df( x) dx o olemassa ja o jatkuva, fukto df( x) f( x) = F ( x) = dx o satuasmuuttuja theysfukto. Jos theysfukto f(x) o olemassa, se määrää täys satuasmuuttuja x jakauma... Yhtesjakaumat Satuasvektort Olkoo = (,,, ) satuasmuuttuje,,, muodostama -vektor. Vektora kutsutaa - ulotteseks satuasmuuttujaks ta satuasvektorks. Huomautus: Iso krjame käytöllä vektor merktää halutaa tässä luvussa korostaa stä, että vektor o satuasmuuttuja. TKK Ilkka Mell (007) 7/44

8 Moulotteste satuasmuuttuje yhtesjakaumat ja de kertymäfuktot -ulottese satuasmuuttuja = (,,, ) yhtesjakauma määrää täys se kertymäfukto F (x) = F (x, x,, x ) = Pr( x, x,, x ) jossa x = (x, x,, x ) o ktede el e-satuaste reaallukuje x, x,, x muodostama -vektor. Kertymäfuktode omasuudet Lause... () F (+, +,., + ) = () F (, x,, x ) = F (x,,, x ) = = F (x,, x, ) = 0 () F (x, x,, x ) F (x + x, x + x,, x + x ) mssä x 0, =,,, Theysfukto Olkoo F (x) = F (x, x,, x ) -ulottese satuasmuuttuja = (,,, ) yhtesjakauma kertymäfukto. Jos dervaatta F ( x, x,, x ) x x x o olemassa ja o jatkuva, fukto f ( x) = f ( x, x,, x ) = F ( x, x,, x ) x x x o satuasmuuttuja yhtesjakauma theysfukto. Jos theysfukto f (x) o olemassa, se määrää täys satuasmuuttuja yhtesjakauma. Theysfuktode omasuudet Lause... () f ( x ) 0 kaklle x () f ( x ) d x = () Olkoo A. Tällö = Pr( A) f ( x) dx A (v) x x F ( x,, x ) f ( u,, u ) du du = TKK Ilkka Mell (007) 8/44

9 Muuttuje vahto Olkoo = (,,, ) -ulottee satuasvektor, joka theysfukto o f (x) ja olkoo jossa fukto Y = g() g : o bjekto. Tällö satuasvektor Y theysfukto o f ( ) ( ) f ( g ( )) x Y y = y ( y) jossa g o fukto g käätesfukto ja ( x) ( x) = abs ( y) ( y) o muuokse x = g (y) Jacob determat tsesarvo. x x y y ( x) = det ( y) x x y y Sovellus: Leaarmuuokse theysfukto. Olkoo = (,,, ) -ulottee satuasvektor, joka theysfukto o f (x) ja olkoo Y = A jossa matrs A o eäsgulaare, jollo = A Y Olkoo matrs A käätesmatrs A. rv ja j. sarakkee alko ja olkoo jollo a j,, j =,,, x = a j y + a j y + + a j y, =,,, x y j j = a,, j =,,, Ste muuokse x = A y Jacob determatt o ( x) = det( A ) = ( y) det( A) TKK Ilkka Mell (007) 9/44

10 ja satuasmuuttuja Y theysfukto saadaa kaavasta f Y( y) = f( A y)abs( A ).3. Reuajakaumat ja satuasmuuttuje rumattomuus Olkoo F (x) = F (x, x,, x ) -ulottese satuasmuuttuja = (,,, ) yhtesjakauma kertymäfukto ja olkoo f (x) = f (x, x,, x ) vastaava theysfukto. Reuajakaumat Satuasmuuttuje,,, q (q < ) reuajakauma kertymäfukto F ( x,, xq) saadaa lausekkeesta Ste satuasmuuttuje,, q F ( x,, x ) = F ( x,, x, +,, + ),, q q q + + xq x,,, q (q < ) reuajakauma theysfukto f ( u,, u ) du du = + + f ( x,, x ) = f( x,, x ) dx dx,, q q q+ saadaa tegromalla satuasmuuttuja = (,,, ) theysfukto f ( x,, x ) muuttuje x q+, x q+,, x suhtee. Satuasmuuttuje rumattomuus Satuasmuuttujat,,, q ovat rumattoma satuasmuuttujsta q+, q+,, jos ja va jos kum tahasa seuraavsta ehdosta ätee: () F ( x,, x ) = F ( x,, x ) F ( x,, x ),, q q q+,, q+ () f ( x,, x ) = f ( x,, x ) f ( x,, x ),, q q q+,, q+ TKK Ilkka Mell (007) 0/44

11 Satuasmuuttujat,,, ovat rumattoma, jos ja va jos kum tahasa seuraavsta ehdosta ätee: () F ( x,, x) = F ( x) F ( x) () f ( x,, x ) = f ( x ) f ( x ) Rumattome satuasmuuttuje yhtesjakauma kertymäfukto (theysfukto) vodaa ss esttää -ulotteste reuajakaume kertymäfuktode (theysfuktode) tuloa ja käätäe, jos tällae tuloestys o vomassa, ko. satuasmuuttujat ovat rumattoma. Huomautus: Vertaa satuasmuuttuje rumattomuude määrtelmää taahtume rumattomuude määrtelmää: Taahtumat A ja B ovat rumattoma, jos ja va jos Pr(A B) = Pr(A)Pr(B).4. Ehdollset jakaumat Olkoo f (x) = f (x, x,, x ) -ulottese satuasmuuttuja = (,,, ) yhtesjakauma theysfukto. Ehdollset jakaumat Satuasmuuttuje,,, q (q < ) ehdollse jakauma theysfukto ehdolla o q+ = x q+, q+ = x q+,, = x f ( x,, x x,, x ),, q q+,, q q+ = = + + f ( x,, x ) q+,..., q+ f ( x,, x ) dx dx f ( x,, x ) f ( x,, x ) q Huomautus : Ehtomuuttuje q+, q+,, arvot x q+, x q+,, x ovat ktetä, e-satuasa vakota. Huomautus : Vertaa ehdollse jakauma theysfukto määrtelmää ehdollse todeäkösyyde määrtelmää: Taahtuma A ehdolle todeäkösyys ehdolla, että taahtuma B o sattuut, o TKK Ilkka Mell (007) /44

12 Pr( A B) Pr( A B) = Pr( B) Ehdollset jakaumat ja rumattomuus Jos satuasmuuttujat,,, q ovat rumattoma satuasmuuttujsta q+, q+,, f ( x,, x x,, x ) f ( x,, x ),, q q+,, q q+ =,, q q.5. Yhtesjakaume tuusluvut Olkoo f (x) = f (x, x,, x ) -ulottese satuasmuuttuja = (,,, ) yhtesjakauma theysfukto. Jakauma tuuslukuje tehtävää o kuvata jakauma karakterstsa omasuuksa. Satuasmuuttuje fuktode odotusarvot Määrtellää -ulottese satuasmuuttuja = (,,, ) reaalarvose fukto odotusarvo. Olkoo g : reaalarvoe fukto. Satuasmuuttuja g(,,, ) odotusarvo o reaalluku (vako) Odotusarvo o olemassa, jos E[ g(,, )] = g( x,, x ) f( x,, x ) dx dx gx (,, x) f( x,, x) dx dx < Satuasvektor = (,,, ) komoette odotusarvot, varasst ja stadardokkeamat saadaa erkostaauksa -ulottese satuasmuuttuja reaalarvose fukto odotusarvo kaavasta. Odotusarvo Määrtellää satuasmuuttuja odotusarvo. Olkoo g(,,, ) =, =,,, TKK Ilkka Mell (007) /44

13 Tällö vako E( ) = µ, =,,, o satuasmuuttuja odotusarvo. Huomautus: Satuasmuuttuja odotusarvo E( ) satuasmuuttuje,,, yhtesjakaumassa yhtyy satuasmuuttuja reuajakauma odotusarvoo: + E( ) = µ = x f ( x ),,,, dx = Satuasmuuttuje tulo odotusarvo ja rumattomuus Lause.5.. Jos satuasmuuttujat,,, ovat rumattoma, E( ) = E( )E( ) E( ) Huomautus: Varass Käätee e äde! Määrtellää satuasmuuttuja varass. Olkoo mssä g (,,, ) = ( µ ), =,,, E( ) = µ, =,,, o satuasmuuttuja odotusarvo. Tällö vako E[( µ ) ] = Var( ) = D ( ) = σ, =,,, o satuasmuuttuja varass. Huomautus: Satuasmuuttuja varass Var( ) satuasmuuttuje,,, yhtesjakaumassa yhtyy satuasmuuttuja reuajakauma varass: + Var( ) = D ( ) = σ = ( µ ) ( ), =,,, x f x dx Stadardokkeama Määrtellää satuasmuuttuja stadardokkeama. Satuasmuuttuja stadardokkeama D( ) o varass D ( ) elöjuur: D( ) = σ, =,,..., TKK Ilkka Mell (007) 3/44

14 Huomautus: Satuasmuuttuja stadardokkeama D( ) satuasmuuttuje,,, yhtesjakaumassa yhtyy satuasmuuttuja reuajakauma stadardokkeamaa. Stadardot Olkoo = (,,, ) satuasvektor, joka alkolle ätee E( ) = µ, =,,, D( ) = σ, =,,, Määrtellää satuasmuuttujat µ Y =, =,,, σ jollo E(Y ) = 0, =,,, ja D(Y ) =, =,,, Tällö saotaa, että satuasmuuttujat Y o saatu stadardomalla satuasmuuttujat. Kovarass Myös kahde satuasmuuttuja kovarass saadaa erkostaauksea -ulottese satuasmuuttuja reaalarvose fukto odotusarvo kaavasta. Määrtellää satuasmuuttuje ja j kovarass. Olkoo g(,,, ) = ( µ )( µ ),, j =,,, mssä Tällö vako µ = E( ), k =, j k k j j E[( µ )( µ )] = Cov(, ) = σ,, j =,,, j j j j o satuasmuuttuje ja j kovarass. Huomautus : Satuasmuuttuje ja j kovarass o argumettesa suhtee symmetre fukto: Cov(, j ) = σ j = σ j = Cov( j, ),, j =,,, Huomautus : Satuasmuuttuja kovarass tsesä kassa o ko. muuttuja varass: Cov(, ) = σ = σ = Var( ), =,,, TKK Ilkka Mell (007) 4/44

15 Huomautus 3: Satuasmuuttuje ja j kovarass Cov(, j ) satuasmuuttuje,,, yhtesjakaumassa yhtyy satuasmuuttuje ja j kovarass satuasmuuttuje ja j reuajakaumassa: + + Cov(, ) = σ = ( x µ )( x µ ) f ( x, x ) dxdx,, j =,,, j j j j j j j Korrelaato Määrtellää satuasmuuttuje ja j korrelaato. Satuasmuuttuje ja j (Pearso tulomomett-) korrelaatokerro o vako j Cor(, j) = ρj = σ,, j =,,, σσ mssä σ = Cov(, ) j j k k σkk k k σ = Var( ) = = Cov(, ), k =, j j Huomautus : Satuasmuuttuje ja j korrelaato o argumettesa suhtee symmetre fukto: Cor(, j ) = ρ j = ρ j = Cor( j, ),, j =,,, Huomautus : Satuasmuuttuja korrelaato tsesä kassa o yks: Cor(, ) = ρ =, =,,, Huomautus 3: Satuasmuuttuje ja j korrelaato Cor(, j ) satuasmuuttuje,,, yhtesjakaumassa yhtyy satuasmuuttuje ja j korrelaatoo satuasmuuttuje ja j reuajakaumassa. Korrelaatokertome omasuuksa Lause.5.. () 0 ρ j,, j =,,, () Jos satuasmuuttujat ja j ovat rumattoma, ρ j = 0. () ρ j = ± jos ja va jos = α + β j (todeäkösyydellä ) jossa α ja β ovat reaalsa vakota ja β 0. TKK Ilkka Mell (007) 5/44

16 Huomautus : Korrelaatokerro ρ j mttaa satuasmuuttuje ja j leaarse ruvuude vomakkuutta. Satuasmuuttuje ja j välllä vo olla joa eksakt eäleaare ruvuus ja samaakasest Cor(, j ) = ρ j = 0 Ks. kohtaa Rumattomuus ja korrelomattomuus. Huomautus : Stadardotuje satuasmuuttuje kovarass o alkueräste satuasmuuttuje korrelaato: Oletetaa, että satuasmuuttujat Y ja Y j o saatu stadardomalla satuasmuuttujsta ja j el k E( k) Yk =, k =, j D( k ) Tällö Cov(Y, Y j ) = Cor(, j ) Rumattomuus ja korrelomattomuus Rumattome satuasmuuttuje kovarass ja korrelaato hävävät. Lause.5.3. Jos satuasmuuttujat ja ovat rumattoma, Cov(, ) = 0 ja Cor(, ) = 0 Jos Cov(, ) = Cor(, ) = 0, saomme, että satuasmuuttujat ja ovat korrelomattoma. Huomautus: Korrelomattomat satuasmuuttujat evät ole välttämättä rumattoma. Vodaa kutek osottaa, että multormaaljakaumaa oudattavat satuasmuuttujat ovat rumattoma, jos ja va jos e ovat korrelomattoma..6. Ehdollste jakaume tuusluvut Olkoo satuasmuuttuje f x x x x (,,,, ),, q q,, q q+ +,,, q (q < ) ehdollse jakauma theysfukto ehdolla q+ = x q+, q+ = x q+,, = x Ehdollse jakauma tuuslukuje tehtävää o kuvata ehdollse jakauma karakterstsa omasuuksa. TKK Ilkka Mell (007) 6/44

17 Huomautus: Ehtomuuttuje q+, q+, arvot x q+, x q+,, x ovat ktetä, e-satuasa vakota. Satuasmuuttuje fuktode ehdollset odotusarvot Olkoo g : q reaalarvoe fukto. Satuasmuuttuje fukto,,, q (q < ) g(,,, q ) ehdolle odotusarvo ehdolla q+ = x q+, q+ = x q+,, = x o reaalluku (vako) E[ g(,, = x,, = x )] q q+ q+ + + = g( x x ) f ( x,, x x,, x ) dx dx q,, q q+,, q q+ q Ehdolle odotusarvo Määrtellää satuasmuuttuja, =,,, q (q < ) ehdolle odotusarvo. Olkoo g(,,, ) =, =,,, q q Tällö vako E( = x,, = x ) = µ, =,,, q q+ q+ q+,, o satuasmuuttuja ehdolle odotusarvo ehdolla Regressofuktot q+ = x q+, q+ = x q+,, = x Satuasmuuttuja, =,,, q (q < ) ehdollsta odotusarvoa E( = x,, = x ), =,,, q q+ q+ kutsutaa ehtomuuttuje q+,, arvoje x q+,, x fuktoa satuasmuuttuja regressofuktoks satuasmuuttuje q+,, suhtee. Regressofukto E( = x,, = x ) q+ q+ määrttelee a x = hx (,, x) q+ ( q +)-ulottesessa avaruudessa. TKK Ilkka Mell (007) 7/44

18 Huomautus: Regressofuktot ovat yleesä ehtomuuttuje q+,, arvoje x q+,, x suhtee eäleaarsa, mutta multormaaljakauma taauksessa e ovat leaarsa. Ehdolle varass Määrtellää satuasmuuttuja, =,,, q (q < ) ehdolle varass. Olkoo mssä (,,, q) = ( µ ),,,, q + =,, g q µ E(,, q xq,, x) q = = = o satuasmuuttuja ehdolle odotusarvo ehdolla Tällö vako q+ = x q+, q+ = x q+,, = x E[( µ ),, q xq,, x] q+ + = + = = Var( = x,, = x ) q+,, q+ q+ = σ, =,,, q o satuasmuuttuja ehdolle varass ehdolla q+ = x q+, q+ = x q+,, = x Ehdolle kovarass Määrtellää satuasmuuttuje ja j,, j =,,, q (q < ) ehdolle kovarass. Olkoo mssä g(,,, ) = ( µ )( µ ),, j =,,, q q q+,, j j q+,, µ = E(,, k q xq,, x), k, j k q+ + = + = = o satuasmuuttuja h ehdolle odotusarvo ehdolla Tällö vako q+ = x q+, q+ = x q+,, = x E[( µ )( µ ) = x,, = x ] q+,, j j q+,, q+ q+ = Cov(, = x,, = x ) j q+,, j q+ q+ = σ,, j =,,, q o satuasmuuttuja ehdolle kovarass ehdolla q+ = x q+, q+ = x q+,, = x TKK Ilkka Mell (007) 8/44

19 Ehdolle korrelaato Määrtellää satuasmuuttuje ja j ehdolle korrelaato. Satuasmuuttuje ja j ehdolle (tulomomett-) korrelaatokerro o vako σ j q+,, Cor(, j q+,, ) = ρ =,, j =,,, q j q+,, σ σ q+,, j q+,, mssä σ σ j q+,, k q+,, = Cov(,,, ) j q+ = Var(,, ) = Cov(,,, ), k =, j k q+ k k q+.7. Tlastollset matrst Satuasmatrst Olkoo Z = [Z j ] satuasmuuttuje Z j, =,,, m, j =,,, muodostama m -matrs, mssä satuasmuuttuja Z j o matrs Z. rv ja j. sarakkee alko. Tällö matrsa Z kutsutaa satuasmatrsks. Satuasmatrs odotusarvo m -satuasmatrs Z odotusarvo E(Z) o m -matrs, joka. rv ja j. sarakkee alko [E(Z)] j = E(Z j ), =,,, m, j =,,, o satuasmuuttuja Z j odotusarvo. Satuasvektort Olkoo = (,,, ) satuasmuuttuje,,, muodostama -vektor. Vektora kutsutaa - ulotteseks satuasmuuttujaks ta satuasvektorks. Odotusarvovektor -ulottese satuasvektor = (,,, ) odotusarvovektor µ o -vektor E() = (E( ), E( ),, E( )) = (µ, µ,, µ ) = µ joka. alko TKK Ilkka Mell (007) 9/44

20 [µ] = E( ) = µ, =,,, o satuasmuuttuja odotusarvo. Kovarassmatrs -ulottese satuasvektor = (,,, ) kovarassmatrs Σ o -matrs Cov() = [Cov(, j )] = [E[( µ )( j µ j )]] = [σ j ] = Σ joka. rv ja j. sarakkee alko [Cov()] j = Cov(, j ) = E[( µ )( j µ j )] = σ j,, j =,,, o satuasmuuttuje ja j kovarass. Koska kovarassmatrs Σ dagoaalalkot ovat satuasmuuttuje varasseja: Σ [ ] = σ = σ = Var( ), =,,, kovarassmatrs Σ vodaa esttää alkotta seuraavassa muodossa: σ σ σ σ σ σ Σ = σ σ σ Huomautus: Satuasmuuttuja kovarassmatrs vodaa määrtellä matrse kaavalla Cov() = Σ = E[( µ)( µ) ] koska [( µ)( µ) ] j = ( µ )( j µ j ),, j =,,, Merktä: Jos E() = µ ja Cov() = Σ, merktsemme use (µ, Σ) Kovarassmatrs omasuuksa Lause.7.. Olkoo -ulottese satuasvektor, jolle E() = µ ja Cov() = Σ. Tällö: () Σ o symmetre: Σ = Σ () Σ o e-egatvsest deftt: Σ 0 Perustelu: () Kovarassmatrs Σ o symmetre, koska σ j = σ j,, j =,,, TKK Ilkka Mell (007) 0/44

21 () Olkoo Y = a jossa a o melvaltae e-satuae -vektor. Tällö E( Y ) = E( a ) = a E( ) = aµ ja Y = Y aµ = E[( Y aµ )( Y aµ )] = E[( a aµ )( a µa )] = E[ a ( µ )( µ ) a] = a E[( µ )( µ )] a = a Σa 0 D( ) E[( )] sllä D( Y ) 0. Koska vektor a ol melvaltae, matrs Σ o eegatvsest deftt el Σ 0 Huomautus: Koska kovarassmatrs Σ = [σ j ] o symmetre el σ j = σ j,, j =,,, sä oleve vaade arametre lukumäärä o ( + ) Lause.7.. Olkoo -ulottese satuasvektor, jolle E() = µ ja Cov() = Σ. Olkoo Y = A jossa A o e-satuae -matrs. Tällö E(Y) = Aµ ja Cov() = AΣA Perustelu: Olkoo -ulottese satuasvektor, jolle E() = µ ja Cov() = Σ. Olkoo Y = A jossa A o e-satuae -matrs. Tällö E( Y) = E( A) = AE( ) = Aµ ja TKK Ilkka Mell (007) /44

22 Cov( Y) = E[( Y E( Y))( Y E( Y)) ] = E[( Ax Aµ )( Ax Aµ )] = E[( Ax Aµ )( x A µ A )] = E[ Ax ( µ )( x µ ) A ] = AE[( x µ )( x µ )] A = AΣA Lauseesta.7.. saadaa erkostaauksea seuraava tulos: Lause.7.3. Olkoo -ulottese satuasvektor, jolle E() = µ ja Cov() = Σ. Oletetaa lsäks, että matrs Σ o ostvsest deftt. Tällö o olemassa leaarkuvaus Y = A b ste, että E(Y) = 0 ja Cov(Y) = I Perustelu: Olkoo -ulottese satuasvektor, jolle E() = µ ja Cov() = Σ > 0. Olkoo Σ = QΛQ kovarassmatrs Σ ääakselhajotelma, jossa Λ = dag( λ, λ,, λ ) o dagoaalmatrs, joka dagoaalalkoa ovat kovarassmatrs Σ omasarvot λ λ λ > 0 ja Q o vastaave omasvektorede muodostama ortogoaale matrs, jossa omasvektort ovat sarakkea. Huomaa, että kakk kovarassmatrs Σ omasarvot ovat adost ostvsa, koska olemme olettaeet, että matrs Σ o ostvsest deftt. Ste vomme määrtellä vektor jossa Y = Λ Q µ / ( ) ( λ λ λ ) Λ = dag,,, Todetaa es, että / E( Y) = E[ Λ Q ( µ )] / = Λ Q E( µ ) / = Λ Q [E( ) µ ] = 0 TKK Ilkka Mell (007) /44

23 Lsäks lauseesta.7.. seuraa, että / / Cov( Y) = E[ Λ Q ( µ )( µ ) QΛ ] / / = Λ Q E[( µ )( µ )] QΛ / / = Λ Q ΣQΛ / / = Λ QQΛQQΛ / / = Λ ΛΛ = I koska Q Q = I. Jos ss satuasvektor kovarassmatrs o ostvsest deftt, o olemassa leaarkuvaus, joka muutaa satuasvektor korrelomattome satuasmuuttuje muodostamaks vektorks Y ja lsäks vektor Y alkode odotusarvot ovat olla ja varasst ovat ykkösä. Kokoasvarass -ulottese satuasvektor kovarassmatrs Σ = [σ j ] jälkeä tr( Σ ) = σ + σ + + σ = σ + σ + + σ kutsutaa satuasvektor kokoasvarassks. Ylestetty varass Satuasmuuttuja kovarassmatrs Σ determatta det(σ) = Σ kutsutaa satuasvektor ylestetyks varassks. Lause.7.4. Olkoo -ulottese satuasvektor, jolle E() = µ ja Cov() = Σ. Olkoot kovarassmatrs Σ omasarvot Tällö ja λ, λ,, λ tr(σ) = λ + λ + + λ det(σ) = λ λ λ Perustelu: Olkoo -ulottese satuasvektor, jolle E() = µ ja Cov() = Σ ja olkoo Σ = QΛQ kovarassmatrs Σ ääakselhajotelma, jossa Λ = dag( λ, λ,, λ ) TKK Ilkka Mell (007) 3/44

24 o dagoaalmatrs, joka dagoaalalkoa ovat kovarassmatrs Σ omasarvot λ λ λ 0 ja Q o ortogoaale matrs, joka sarakkea ovat vastaavat omasvektort. Matrs jälje ja determat omasuukse erusteella ja tr(σ) = tr(qλq ) = tr(λq Q) = tr(λ) = λ + λ + + λ det(σ) = Σ = QΛQ = Q Λ Q = Λ = λ λ λ koska Q Q = I ja Q = Q = ±. Korrelaatomatrs -ulottese satuasvektor = (,,, ) korrelaatomatrs Ρ o -matrs Cor() = [Cor(, j )] = [ρ j ] = Ρ joka. rv ja j. sarakkee alko σ j [Cor( )] j = Cor(, j ) = ρj =,, j =,,, σσ o satuasmuuttuje ja j korrelaato, mssä σ j = Cov(, j ),, j =,,, o satuasmuuttuje ja j kovarass ja σ = Var( ) = σ, k =, j k k kk o satuasmuuttuja k varass. Huomautus: Satuasmuuttuje ja j korrelaatota määrteltäessä o oletettu mlsttsest, että de varasst ovat ostvsa. Tämä o totta, jos satuasvektor kovarassmatrs Σ o ostvsest deftt el Σ > 0 Koska korrelaatomatrs Ρ dagoaalalkot ovat ykkösä: [Ρ] = ρ =, =,,, korrelaatomatrs vodaa esttää alkotta seuraavassa muodossa: Huomautus: Ρ ρ ρ ρ ρ ρ ρ = Olkoo -ulottese satuasvektor kovarassmatrs Σ = [σ j ] > 0 ja korrelaatomatrs Ρ = [ρ j ]. j TKK Ilkka Mell (007) 4/44

25 Tällö ja Ρ D ΣD / / = Σ Σ / / Σ = D Σ ΡD Σ jossa matrs D = dag( Σ ) = dag( σ, σ,, σ ) Σ o kovarassmatrs Σ dagoaalalkode muodostama dagoaalmatrs, jollo ja jossa D = dag(,,, ) / Σ σ σ σ D = dag( σ, σ,, σ ) / Σ σ = σ, =,,, Korrelaatomatrs omasuuksa Lause.7.5. Olkoo -ulottese satuasvektor, jolle E() = µ, Cov() = Σ > 0 ja Cor() = Ρ. Tällö: () Ρ o symmetre: () Perustelu: () () Huomautus: Ρ = Ρ Ρ o ostvsest deftt: Ρ > 0 Korrelaatomatrs Ρ o symmetre, koska ρ j = ρ j,, j =,,, Matrs Ρ o ostvsest deftt, koska Ρ D ΣD / / = Σ Σ ja olemme olettaeet, että matrs Σ o ostvsest deftt. Koska korrelaatomatrs Ρ = [ρ j ] o symmetre el ρ j = ρ j,, j =,,, ja se dagoaalalkot ovat ykkösä, sä oleve vaade arametre lukumäärä o ( ) TKK Ilkka Mell (007) 5/44

26 .8. Yhtesjakaume tuuslukuje geometre tulkta Odotusarvo geometre tulkta Olkoo = (,,, ) -ulottee satuasvektor, jolle E() = µ Odotusarvo µ o satuasmuuttuja todeäkösyysjakauma todeäkösyysmassa aoste. Kovarass, keskhajoa ja korrelaato geometre tulkta Olkoo = (,,, ) -ulottee satuasvektor ja olkoo E() = 0 ja Cov() = Σ mssä kovarassmatrs Σ o ostvsest deftt, jollo Σ o eäsgulaare. Oletus E() = 0 e ole alla estettäve tulktoje kaalta rajottava, koska todeäkösyysjakauma todeäkösyysmassaa vodaa aa srtää, että massa aoste saadaa orgoo: Olkoo Z = (Z, Z,, Z ) o -ulottee satuasvektor, jolle ätee E(Z) = µ ja Cov(Z) = Σ Tällö satuasmuuttujalle = Z µ ätee E() = 0 ja Cov() = Σ Olkoo kovarassmatrs Σ ääakselhajotelma Σ = QΛQ jossa Λ o matrs Σ omasarvoje muodostama dagoaalmatrs ja Q o vastaave omasvektorede muodostama ortogoaale matrs, jossa omasvektort ovat sarakkea. Muodostetaa matrs A = Λ / Q ja määrtellää vektor Y = A TKK Ilkka Mell (007) 6/44

27 Lauseesta.7.. seuraa, että E(Y) = 0 ja Cov(Y) = I Olkoo B = A, jollo = BY Olkoo b = (b, b,, b ) matrs B. rv muodostama (ysty-) vektor. Tällö = b Y + b Y + + b Y = by Helost ähdää, että satuasmuuttuje ja j kovarass o vektorede b ja b j ssätulo: Cov(, j) = E( j) = E( byyb j) = b E( YY) b j = b Cov( Y) b j = bb j Tästä ähdää edellee, että satuasmuuttuja varass o vektor b orm elö: Ste D( ) = Var( ) = Cov(, ) = b D( ) = b = vektor b tuus ja Cov(, j) bb j ρj = Cor(, j ) = = = ϕj D( ) D( ) b b j j mssä ϕ j = vektorede b ja b j väle kulma Moulotteste satuasmuuttuje tuusluvulla o ss seuraavat geometrset tulkat: Odotusarvo Todeäkösyysmassa aoste Kovarass Vektorede ssätulo Keskhajota Vektor tuus Korrelaato Vektorede välse kulma kos TKK Ilkka Mell (007) 7/44

28 .9. Karakterste fukto Karakterstse fukto määrtelmä Olkoo yksulottee satuasmuuttuja. Tällö satuasmuuttuja (ja se jakauma) karakterste fukto ϕ () t o satuasmuuttuja t e odotusarvo: ϕ () t = t E( e ) jossa = ja t. Huomaa, että satuasmuuttuja karakterste fukto ϕ () t ruu va argumetsta t. Soveltamalla Euler kaavaa e θ = cos( θ ) + s( θ ) satuasmuuttuja karakterstse fukto määrtelmä vodaa ataa myös muodossa ϕ ( t) = E[cos( t)] + E[s( t)] Lause 9.. Karakterste fukto o aa olemassa. Perustelu: Koska tx e = cos ( t) + s ( t) = t E( e ) = E() = < t Ste odotusarvo E( e ) o aa olemassa. Lausee 9.. mukaa jokasella todeäkösyysjakaumalla o karakterste fukto. Lause 9.. Olkoo F (x) = Pr( x) satuasmuuttuja kertymäfukto ja ϕ () t = t E( e ), = se karakterste fukto ja oletetaa, että (a h, a + h) sellae reaalaksel väl, että kertymäfukto F (x) o jatkuva väl äätestessä. Tällö + T s( ht) ta F( a+ h) F( a h) = lm e ϕ( t) dt T + π t T TKK Ilkka Mell (007) 8/44

29 Jos jakauma karakterste fukto tuetaa, vodaa jakauma kertymäfukto (aak eraatteessa) määrätä versoteoreemassa määrtelly rajarosess avulla. Myös karakterstse fukto ykskästtesyys o mahdollsta todstaa versoteoreema avulla. Lause 9.3. Satuasmuuttuja karakterste fukto o ykskästtee ja määrää täydellsest satuasmuuttuja todeäkösyysjakauma. Lause 9.4. Olkoo jatkuva satuasmuuttuja, joka theysfukto o f (x). Tällö satuasmuuttuja karakterste fukto o Olkoo t tx ϕ () t = E( e ) = e f ( x) dx, = + ϕ () t = t E( e ), = satuasmuuttuja karakterste fukto ja oletetaa, että ϕ (t) o tegrotuva kaklle t (, + ). Tällö satuasmuuttuja o jatkuva ja se theysfukto f (x) saadaa kaavalla + tx f( x) = e ϕ( t) dt, = π Lausee 9.4. mukaa jatkuva satuasmuuttuja karakterste fukto tx ϕ () t = e f ( x) dx, = + o satuasmuuttuja theysfukto f (x) Fourer-muuos ja + tx f( x) = e ϕ( t) dt, = π o se käätee Fourer-muuos. Karakterstse fukto omasuudet Lause 9.5. Olkoo ϕ () t satuasmuuttuja karakterste fukto. Tällö ätee: () ϕ (0) = () ϕ ( t ), t () ϕ ( t) = ϕ ( t) (v) Karakterste fukto ϕ () t o argumettsa t absoluuttsest jatkuva fukto. TKK Ilkka Mell (007) 9/44

30 (v) Oletetaa, että satuasmuuttuja r. orgomomett r α = E( ) r o olemassa. Tällö r r d ϕ( t) αr = E( ) = r r dt t= 0 (v) Oletetaa, että satuasmuuttuja r. orgomomett r α = E( ) r o olemassa. Tällö karakterste fukto ϕ (t) vodaa kehttää Taylor sarjaks r k r k ( t) k r ( t) r ϕ() t = E( ) + ot ( ) = αk + ot ( ) k= 0 k! k= 0 k! jossa (v) Olkoo r r ot ( )/ t 0, jos t 0 Y = a + b jossa a ja b ovat e-satuasa ja reaalsa vakota. Satuasmuuttuja Y karakterste fukto o at m ( t) = e ϕ ( bt) Y (v) Olkoot,,, rumattoma satuasmuuttuja, jode karakterstset fuktot ovat ϕ (t), ϕ (t),, ϕ (t). Tällö summa = karakterste fukto o satuasmuuttuje,,, karakterstste fuktode tulo: ϕ (t) = ϕ (t)ϕ (t) ϕ (t) (v) Olkoot,,, rumattoma ja samo jakautueta satuasmuuttuja, jode karakterste fukto o ϕ(t). Tällö summa = karakterste fukto o ϕ (t) = [ϕ(t)] (x) Olkoo,, 3, satuasmuuttuje joo. Olkoot F (x), F (x), F 3 (x), vastaavat kertymäfuktot ja ϕ (t), ϕ (t), ϕ 3 (t), TKK Ilkka Mell (007) 30/44

31 vastaavat karakterstset fuktot. Olkoo lsäks satuasmuuttuja, joka kertymäfukto o F (x) ja karakterste fukto o ϕ (t). Tällö lm ϕ ( t) = ϕ ( t) jos ja va jos lm F( x) = F ( x) jokasessa steessä x, jossa kertymäfukto F (x) o jatkuva. Esmerkk: Normaaljakauma karakterste fukto. Johdetaa es stadardodu ormaaljakauma N(0,) karakterste fukto. Oletetaa, että satuasmuuttuja Z oudattaa stadardotua ormaaljakaumaa: Z N(0,) jossa ss E(Z) = 0 ja Var(Z) =. Tällö satuasmuuttuja Z theysfukto o / ( ) ( ) z fz z = π e ja ste satuasmuuttuja Z karakterste fukto o tz tz ϕ () t = E( e ) = e f ( z) dz Z + = ( π ) = ( π ) t + / / + t t + tz z + / t ( z t) ( π ) ; = ( π ) Z / tz z e e + t u / ( ) t π e dz e e dz = e e dz z t = u dz = du = e = e e du Johdetaa ylese ormaaljakauma N(µ,σ ) karakterste fukto stadardodu ormaaljakauma N(0,) karakterstsesta fuktosta soveltamalla lausee 9.3. kohtaa (v). Olkoo = µ + σz jossa < µ < +, σ > 0 ja Z N(0,). Tällö satuasmuuttuja oudattaa ormaaljakaumaa arametre E() = µ ja Var() = σ : N(µ,σ ) π TKK Ilkka Mell (007) 3/44

32 Lausee 9.5. kohdasta (v) seuraa, että satuasmuuttuja karakterste fukto o ( σ t) µ t σ t µ t µ t m () t = e ϕ ( σt) = e e = e Z Karakterstse fukto: Moulottee taaus Olkoo = (,,, ) -ulottee satuasvektor. Tällö satuasmuuttuja (ja se jakauma) karakterste fukto o odotusarvo jossa = ja t va argumetsta t. t ϕ () = E( e ) t. Huomaa, että satuasmuuttuja karakterste fukto ruu Lause 9.6. Olkoo = (,,, ) jatkuva satuasmuuttuja, joka theysfukto o f (,,, ). Tällö satuasmuuttuja karakterste fukto o + + t tx ϕ () t = E( e ) = e f ( x, x,, x ) dx dx, = Karakterste fukto ja rumattomuus Lause 9.7. Olkoo = (,,, ) -ulottee satuasvektor. Ostetaa vektor Ostetaa satuasvektor = (,,, ) seuraavast: = ( (), () ) jossa () = (,,, q ) () = ( q+, q+,, ) Tällö satuasmuuttujat () ja () ovat rumattoma, jos ja va jos satuasmuuttuja karakterste fukto vodaa esttää satuasmuuttuje () ja () karakterstste fuktode tuloa: ϕ () t = ϕ ( t ) ϕ ( t ) jossa vektor t = ( t, t) o ostettu samalla tavalla ku vektor. Perustelu: Olkoo = (,,, ) -ulottee satuasvektor, joka o ostettu seuraavalla tavalla: = ( (), () ) jossa () = (,,, q ) () = ( q+, q+,, ) Oletetaa es, että satuasmuuttujat () ja () ovat rumattoma. TKK Ilkka Mell (007) 3/44

33 Koska rumattome satuasmuuttuje tulo odotusarvo o tulo tekjöde odotusarvoje tulo, satuasmuuttuja karakterste fukto vodaa krjottaa muotoo ϕ ( ) E[ex{ t = t}] = E[ex{ ( t + t )}] = E[ex{ t + t }] = E[ex{ t }ex{ t }] = E[ex{ t }]E[ex{ t }] = ϕ ( t ) ϕ ( t ) jossa ϕ ( ), =, t o satuasmuuttuja karakterste fukto. Todstetaa käätee väte, ku satuasmuuttuja o jatkuva ja =, q =. Olkoo ss = (, ) jatkuva satuasmuuttuja. Olkoo satuasmuuttuja theysfukto f ( x, x ) ja satuasmuuttuje ja reuajakaume theysfuktot f ( x ), k =, k k Tällö satuasmuuttuja karakterste fukto saadaa kaavasta + + t ϕ ( t ) = E( e ) = ex{ ( t x + t x )} f ( x, x ) dxdx jossa t = ( t, t) ja satuasmuuttuje ja karaterstset fuktot saadaa kaavasta jossa t, k =,. k + tkk tkxk ϕ ( t ) = E( e ) = e f ( x ) dx, k =, k k k k k Oletetaa yt, että ϕ () = ϕ ( t ) ϕ ( t ) t Todetaa es, että ja { } { } ϕ ϕ ( t,0) = ex t x f ( x, x ) dxdx = ex t x f ( x ) dx = ( t ) { } { } ϕ ϕ (0, t) = ex tx f ( x, x) dxdx = ex tx f ( x) dx= ( t) TKK Ilkka Mell (007) 33/44

34 Ste oletuksesta seuraa, että + + { } ϕ () t = ϕ ( t,0) ϕ (0, t ) = ex ( t x + t x ) f ( x ) f ( x ) dxdx Tosaalta karakterstse fukto määrtelmä mukaa + + { } ϕ () t = ex ( t x + t x ) f ( x, x ) dx dx Karakterstse fukto ykskästtesyyde erusteella f ( x, x ) = f ( x ) f ( x ) jote satuasmuuttujat ja ovat rumattoma. Lause 9.8. Olkoo = (,,, ) -ulottee satuasvektor. Tällö satuasvektor komoett,,, ovat rumattoma, jos ja va jos satuasmuuttuja karakterste fukto vodaa esttää se komoette karakterstste fuktode tuloa: ϕ () t = ϕ ( t ) ϕ ( t ) ϕ ( t ) jossa t = ( t, t,, t ). Perustelu: Olkoo = (,,, ) -ulottee satuasvektor. Oletetaa, että satuasmuuttuja komoett,,, ovat rumattoma. Koska rumattome satuasmuuttuje tulo odotusarvo o tulo tekjöde odotusarvoje tulo, satuasmuuttuja karakterste fukto vodaa krjottaa muotoo ϕ ( t ) = E[ex{ t }] = E[ex{ t ( + t + + t )}] = E[ex{ t+ t + + t}] = E[ex{ t} ex{ t} ex{ t}] = E[ex{ t}] E[ex{ t}] E[ex{ t}] = ϕ ( t ) ϕ ( t ) ϕ ( t ) jossa ϕ ( t ), =,,, o satuasmuuttuja karakterste fukto. Käätee väte o todstettu jatkuve satuasmuuttuje taauksessa, ku = lausee 9.7. erustelussa. TKK Ilkka Mell (007) 34/44

35 . Moulotteset havatoaestot.. Moulotteste havatoaestoje tuusluvut Havatomatrs Olkoot x, x,, x rumattoma havatoja -ulottese satuasmuuttuja x = (x, x,, x ) todeäkösyysjakaumasta ja olkoo havatoje lukumäärä >. Ste jokae havato x o -ulottee satuasvektor: x = (x, x,, x ), =,,, mssä alko x j o satuasmuuttuja x j havattu arvo. havaossa, mssä deks =,,, vttaa havatoo ja deks j =,,, muuttujaa x j. Järjestetää satuasmuuttuje x j, j =,,, havatut arvot x j -matrsks seuraavalla tavalla: x x x x x x = x x x Matrsa kutsutaa havatomatrsks. Havatomatrs. rv ja j. sarakkee alko [] j = x j, =,,,, j =,,, o satuasmuuttuja x j havattu arvo. havaossa. Havatomatrs. rv alkot x, x,, x muodostavat -vektor x = (x, x,, x ), =,,, Ste vektor x muodostuu satuasmuuttuje x j, j =,,, havatusta arvosta havaossa. Havatomatrs j. sarakkee alkot x j, x j,, x j muodostavat -vektor x j = (x j, x j,, x j ), j =,,, Ste vektor x j muodostuu satuasmuuttuja x j havatusta arvosta. TKK Ilkka Mell (007) 35/44

36 Huomautus : Satuasmuuttuje x, x,, x havatut arvot x, x,, x, =,,, lttyvät aa samaa havatoykskköö ta taauksee. Huomautus : Tlastollset aestot vodaa kakssa tavaomasssa taauksssa esttää havatomatrsa ja tlastollste aestoje havatomatrsestystä vodaa käyttää useme tlastollste laskutomtuste lähtökohtaa. Esmerkks kakk tavaomaset tlastollsta aestoa kuvaavat tuusluvut (keskarvot, varasst, kovarasst ja korrelaatot) vodaa määrätä havatomatrs alkosta. Huomautus 3: Koska havatoarvot x j o oletettu satuasks, myös kakk stä lasketut otossuureet ta tuusluvut ovat satuasa. Ykköste muodostama vektor Merktä = = (,,, ) tarkottaa ykköste muodostamaa -vektora. Ykskkömatrs Merktä I = I = dag(,,, ) tarkottaa -ykskkömatrsa. Keskarvovektor Olkoo -havatomatrs, joka. rv ja j. sarakkee alko [] j = x j, =,,,, j =,,, o satuasmuuttuja x j havattu arvo. havaossa. Muodostetaa -vektor x = ( x, x,, x ) joka j. alko x j = xj, j =,,, = o satuasmuuttuja x j havattuje arvoje x j, =,,, artmeette keskarvo. Vektora x kutsutaa keskarvovektorks. TKK Ilkka Mell (007) 36/44

37 Lause... Satuasmuuttuja x j havattuje arvoje x j, =,,, artmeette keskarvo saadaa kaavalla x = j j x mssä x j = (x j, x j,, x j ) o havatomatrs j. sarakkee muodostama -vektor. Perustelu: Lausee kaava seuraa stä, että Lause... x = x = x, j =,,, j j j = x = () x = () x = Perustelu: Olkoo x = (x, x,, x ), =,,, havatomatrs. rv muodostama -vektor. Tällö j = j = j = j = = = [ x ] x [ x ] [ ], j,,, Momettmatrs Olkoo -havatomatrs, joka. rv ja j. sarakkee alko [] j = x j, =,,,, j =,,, o satuasmuuttuja x j havattu arvo. havaossa ja olkoo -vektor x = (,,, ) x x x havatomatrssta määrätty keskarvovektor, mssä x j = xj, j =,,, = o satuasmuuttuja x j havattuje arvoje x j, =,,, artmeette keskarvo. TKK Ilkka Mell (007) 37/44

38 Muodostetaa -matrs m m m m m m M = m m m joka k. rv ja l. sarakkee alko [ ] M = m = ( x x )( x x ), k, l =,,, kl kl k k l l = o satuasmuuttuje x k ja x l havattuje arvoje (tulo-) momett. Matrsa M kutsutaa momettmatrsks. Huomaa, että momettmatrs M alkot vodaa krjottaa muotoo Lause..3. () [ M] = m = ( x x )( x x ) kl kl k k l l = = ( x x xx xx + xx) = k l l k k l k l = = = = = = x x x x, k, l =,,, = k l l k k l k l = x x x x x x + x x = x x x x x x + x x k l l k k l k l k l k l M = ( x x )( x x ) = x x xx = = () M = ( x )( x ) = xx () M = = C jossa matrs C= I o symmetre ja demotett el rojekto. Perustelu: Olkoo x = (x, x,, x ), =,,, havatomatrs. rv muodostama -vektor. TKK Ilkka Mell (007) 38/44

39 () () Yhtälö M = ( x )( ) = x x x ähdää todeks vertaamalla ko. matrse alkota tossa. Lsäks ( x x)( x x) = ( x x xx + xx ) = = Yhtälö M = xx seuraa kohdasta (), koska = xx x x + xx = = = = xx x x + xx = = = xx xx = x x = Lsäks ( x )( x ) = x x + xx = xx xx + xx = xx koska = x ja = () Todetaa es, että kohda () mukaa = ( )( ) = x x M koska = x Lsäks = I I = I = C jossa matrs TKK Ilkka Mell (007) 39/44

40 C= I o symmetre ja demotett el rojekto: C = I = I ja koska C = I I = I + = I = C = Otoskovarassmatrs Olkoo -havatomatrs, joka. rv ja j. sarakkee alko [] j = x j, =,,,, j =,,, o satuasmuuttuja x j havattu arvo. havaossa ja olkoo -vektor x = ( x, x,, x ) havatomatrssta määrätty keskarvovektor, mssä x j = xj, j =,,, = o satuasmuuttuja x j havattuje arvoje x j, =,,, artmeette keskarvo. Olkoo lsäks M havatomatrssta määrätty momettmatrs, joka k. rv ja l. sarakkee alko o [ ] Muodostetaa -matrs kl k k l l = M = m = ( x x )( x x ), k, l =,,, kl s s s s s s S = s s s joka k. rv ja l. sarakkee alko [ S ] = skl = ( k k )( l l ) kl,,,,, kl x x x x = m k l = = o satuasmuuttuje x k ja x l havattuje arvoje otoskovarass. Matrsa S kutsutaa otoskovarassmatrsks. TKK Ilkka Mell (007) 40/44

41 Lause..4. Otoskovarassmatrs S saadaa momettmatrssta M kaavalla S= M Huomautus : jossa Huomautus : s = s, k =,,, kk k s k o satuasmuuttuja x k havattuje arvoje otosvarass. s = s, k =,,, k kk o satuasmuuttuja x k havattuje arvoje otoskeskhajota. Otoskorrelaatomatrs Olkoo -havatomatrs, joka. rv ja j. sarakkee alko [] j = x j, =,,,, j =,,, o satuasmuuttuja x j havattu arvo. havaossa ja olkoo -vektor x = ( x, x,, x ) havatomatrssta määrätty keskarvovektor, mssä x j = xj, j =,,, = o satuasmuuttuja x j havattuje arvoje x j, =,,, artmeette keskarvo. Olkoo lsäks M havatomatrssta määrätty momettmatrs, joka k. rv ja l. sarakkee alko o [ ] kl k k l l = M = m = ( x x )( x x ), k, l =,,, kl ja S vastaava otoskovarassmatrs, joka k. rv ja l. sarakkee alko o [ S ] = skl = ( k k )( l l ) kl,,,,, kl x x x x = m k l = = Muodostetaa -matrs r r r r R = r r joka k. rv ja l. sarakkee alko kl kl [ R ] = = =,, =,,, kl m s rkl k l m m ss kk ll k l TKK Ilkka Mell (007) 4/44

42 o satuasmuuttuje x ja x j havattuje arvoje otoskorrelaatokerro. Matrsa R kutsutaa otoskorrelaatomatrsks. Lause..5. Otoskorrelaatomatrs R saadaa momettmatrssta M ta kovarassmatrssta S kaavolla Huomautus: Matrs R = D MD = D SD / / / / M M S S D = dag(,,, ) M m m m o momettmatrs M dagoaalelemette muodostama dagoaalmatrs ja matrs D = dag( s, s,, s ) S o vastaava kovarassmatrs S dagoaalelemette muodostama dagoaalmatrs, jollo ss / / / / DM = dag( m, m,, m ) m =, k =,,, D kk [ M] kk = dag( s, s,, s ) / S k = kk = [ S] kk = s s, k,,, ja S= M Momettmatrslla M, otoskovarassmatrslla S ja otoskorrelaatomatrslla R o seuraavat omasuudet: Lause..6. Momettmatrs M, otoskovarassmatrs o S ja otoskorrelaatomatrs R ovat symmetrsä ja e-egatvsest defttejä. Perustelu: Selväst rttää, että todstetaa, että momettmatrs M o symmetre ja eegatvsest deftt. O trvaala, että momettmatrs M o symmetre. Lausee..3. kohda () mukaa M = ( x x)( x x) = Olkoo b melvaltae -vektor. Tällö ( )( ) c c 0, = = bmb = b x x x x b= = TKK Ilkka Mell (007) 4/44

43 jossa ( x x) b= c Ste matrs M o e-egatvsest deftt... Tlastolle etäsyys ja Mahalaobs-etäsyys Tlastolle etäsyys Koska kaks havatoa ovat lähellä tosaa ja koska e ovat kaukaa tosstaa? Tlastollse tava mtata havatoje etäsyyttä tarjoaa s. tlastolle etäsyys. Olkoot x, =,,, rumattoma havatoja -ulottese satuasmuuttuja x todeäkösyysjakaumasta ja olkoo s = ( x x) = havatoarvoje otosvarass, mssä x = x = o havatoarvoje artmeette keskarvo. Olkoot x k, x l kaks melvaltasta havatoa satuasmuuttuja x todeäkösyysjakaumasta. Havatostede x k ja x l tlastolle etäsyys SD(x k, x l ) (egl. statstcal dstace) saadaa kaavasta xk xl SD ( xk, xl) = s Tlastolle etäsyys o etäsyysmtta, joka ottaa huomoo satuasmuuttuja x havattuje arvoje varass. Huomautus: Havatoje x k ja x l e tarvtse olla mukaa otosvarassa s laskettaessa. Sovellus: Tavaomae t-testsuure Tavaomae t-testsuure x µ 0 t = s / mttaa havatoje artmeettse keskarvo x tlastollsta etäsyyttä ollahyotees mukasesta odotusarvosta µ 0. Mahalaobs-etäsyys Ku havatostede etäsyyttä mtataa moulottesessa tlateessa, o satuasmuuttuje havattuje arvoje vahtelu lsäks syytä ottaa huomoo myös de ruvuudet. Se tekee havatostede Mahalaobs-etäsyys. TKK Ilkka Mell (007) 43/44

44 Mahalaobs-etäsyyttä vodaa tää tlastollse etäsyyde ylestykseä moulottesee tlateesee. Olkoot x = (x, x,, x ), =,,, rumatota havatoa -ulottese satuasmuuttuja x = (x, x,, x ) todeäkösyysjakaumasta, olkoo havatoje lukumäärä > ja olkoo S havaosta laskettu otoskovarassmatrs. Olkoot x k = (x k, x k,, x k ) x l = (x l, x l,, x l ) kaks melvaltasta havatoa satuasmuuttuja x todeäkösyysjakaumasta: x kj = muuttuja x j havattu arvo havaossa k x lj = muuttuja x j havattu arvo havaossa l j =,,, Havatostede x k ja x l Mahalaobs-etäsyys MD(x k, x l ) saadaa kaavasta MD ( x, x ) = ( x x ) S ( x x ) k l k l k l Mahalaobs-etäsyys o etäsyysmtta, joka ottaa huomoo satuasmuuttuje x, x,, x havattuje arvoje varasse lsäks myös de kovarasst, ts. muuttuje välset (leaarset) ruvuudet. Huomautus : Havatoje x k ja x l e tarvtse olla mukaa otoskovarassmatrsa S laskettaessa. Huomautus : Jos =, Mahalaobkse etäsyyde kaava sustuu tlastollsee etäsyyde kaavaks. TKK Ilkka Mell (007) 44/44