Ilkka Mellin Aikasarja-analyysi. Dynaamiset regressiomallit. TKK (c) Ilkka Mellin (2006) 1

Koko: px
Aloita esitys sivulta:

Download "Ilkka Mellin Aikasarja-analyysi. Dynaamiset regressiomallit. TKK (c) Ilkka Mellin (2006) 1"

Transkriptio

1 Ilkka Mellin Aikasarja-analyysi Dynaamiset regressiomallit TKK (c) Ilkka Mellin (2006) 1

2 Dynaamiset regressiomallit >> Staattiset vs dynaamiset regressiomallit Siirtofunktio-kohina-malli Siirtofunktio-kohina-mallin erikoistapauksia Stokastinen differenssiyhtälö Virheenkorjausmalli Yhteisintegroituvuus Dynaamisten regressiomallien rakentaminen TKK (c) Ilkka Mellin (2006) 2

3 Staattiset vs dynaamiset regressiomallit Tavanomainen lineaarinen regressiomalli Tarkastellaan tavanomaista yhden selittäjän lineaarista regressiomallia y = β x + ε, t= 1,2, K, n t t t jossa sekä selitettävä muuttuja y t ja selittävä muuttuja x t ovat aikasarjoja. TKK (c) Ilkka Mellin (2006) 3

4 Staattiset vs dynaamiset regressiomallit Lineaarinen regressiomalli: Standardioletukset Oletetaan, että mallin jäännöstermi ε t toteuttaa ns. modifioidut standardioletukset regressiomalleille: (i) (ii) y = β x + ε, t= 1,2, K, n t t t E( ε x ) = 0, t= 1,2, K, n t t Jäännöstermit ovat homoskedastisia: 2 Var( ε x ) = σ, t= 1,2, K, n t t (iii) Jäännöstermit ovat korreloimattomia: Cor( ε, ε x, x ) = 0, t s t s t s TKK (c) Ilkka Mellin (2006) 4

5 Staattiset vs dynaamiset regressiomallit Lineaarisen regressiomallin määrittelemä systeemi ja sen tasapaino 1/2 Oletetaan, että tavanomainen yhden selittäjän lineaarinen regressiomallin y = β x + ε, t= 1,2, K, n t t t jäännöstermi ε t toteuttaa modifioidut standardioletukset. Tällöin selitettävän muuttujan y t ehdollinen odotusarvo on E( y x ) = β x, t= 1,2, K, n t t t Oletetaan, että selittäjällä x t on vakioarvo x kaikille t : x = x, t= 1,2, K, n t Tällöin selitettävän muuttujan y t (ehdollinen) odotusarvo on kaikille t vakio: E( y x = x) = β x= y t t TKK (c) Ilkka Mellin (2006) 5

6 Staattiset vs dynaamiset regressiomallit Lineaarisen regressiomallin määrittelemä systeemi ja sen tasapaino 2/2 Sanomme, että lineaarisen regressiomallin määrittelemä (lineaarinen) systeemi on tasapainossa ja systeemin tasapainotilana on jossa y = β x + ε, t= 1,2, K, n t t t (x, y) y=β x TKK (c) Ilkka Mellin (2006) 6

7 Staattiset vs dynaamiset regressiomallit Lineaarisen regressiomallin määrittelemä systeemi ja sen sopeutuminen 1/3 Oletetaan, että lineaarisen regressiomallin y = β x + ε, t= 1,2, K, n t t t selittäjän x t vakioarvo x saa yhden yksikön kokoisen lisäyksen ajanhetkellä t 0 : x x+ 1 Tällöin selitettävän muuttujan y t ehdollinen odotusarvo E( y x = x) = β x= y t t saa välittömästi, samalla ajanhetkellä t 0 lisäyksen, jonka suuruus on β : y= β x β ( x+ 1) = β x+ β = y+ β TKK (c) Ilkka Mellin (2006) 7

8 Staattiset vs dynaamiset regressiomallit Lineaarisen regressiomallin määrittelemä systeemi ja sen sopeutuminen 2/3 Oletetaan, että selittäjän x t uusi arvo x + 1 ei enää muutu ajanhetken t 0 jälkeen. Tällöin ei myöskään selitettävän muuttujan y t uusi ehdollinen odotusarvo E( y x = x+ 1) = y+ β t muutu ajanhetken t 0 jälkeen. Siten lineaarisen regressiomallin määrittelemä (lineaarinen) systeemi on päässyt välittömästi ajanhetkellä t 0 uuteen tasapainoon ja uutena tasapainotilana on (x + 1, y + β) t TKK (c) Ilkka Mellin (2006) 8

9 Staattiset vs dynaamiset regressiomallit Lineaarisen regressiomallin määrittelemä systeemi ja sen sopeutuminen 3/3 Siten tavanomaisen yhden selittäjän lineaarisen regressiomallin määrittelemä (lineaarinen) systeemi siirtyy tasapainotilasta (x, y) uuteen tasapainotilaan (x + 1, y + β) välittömästi, samalla ajanhetkellä t 0, kun selittävän muuttujan arvo saa yhden yksikön kokoisen lisäyksen. Sanomme, että tavanomaisen lineaarisen regressiomallin määrittelemä (lineaarinen) systeemi sopeutuu välittömästi eli ilman viivettä. TKK (c) Ilkka Mellin (2006) 9

10 Staattiset vs dynaamiset regressiomallit Lineaarinen regressiomalli: Regressiokertoimen tulkinta Edellä esitetyn nojalla tavanomaisen yhden selittäjän lineaarisen regressio-mallin y = β x + ε, t= 1,2, K, n t t t selittäjän x t regressiokertoimelle β voidaan antaa seuraava tulkinta: Regressiokerroin β kuvaa selittäjän x t arvossa tapahtuvan yhden yksikön kokoisen lisäyksen välitöntä vaikutusta selitettävän muuttujan y t ehdolliseen odotusarvoon E( y x ) =β x t t t TKK (c) Ilkka Mellin (2006) 10

11 Staattiset vs dynaamiset regressiomallit Tavanomaisen lineaarisen regressiomallin staattisuus Edellä esitetyn nojalla tavanomainen lineaarinen regressiomalli on staattinen seuraavassa mielessä: (i) (ii) Selitettävän muuttujan (ehdollinen) odotusarvo ei muutu, elleivät selittäjien saamat arvot muutu. Selitettävän muuttujan (ehdollinen) odotusarvo reagoi selittäjien arvojen muutoksiin välittömästi, ilman viivettä. TKK (c) Ilkka Mellin (2006) 11

12 Staattiset vs dynaamiset regressiomallit Dynaamiset regressiomallit: Idea Kysymys: Onko mahdollista muodostaa sellaisia regressiomalleja, joissa selitettävän muuttujan (ehdollinen) odotusarvo reagoisi selittäjien arvojen muutoksiin vähitellen tai asteittain? Vastaus: Kyllä! Malleja, joissa selitettävän muuttujan ehdollinen odotusarvo reagoi vähitellen tai asteittain selittäjien arvojen muutoksiin kutsutaan dynaamisiksi regressiomalleiksi. Seuraavassa dynaamisten regressiomallien idea esitellään käsittelemällä yksinkertaisinta dynaamista regressiomallia, yhden selittäjän jakautuneen viipymän mallia. TKK (c) Ilkka Mellin (2006) 12

13 Staattiset vs dynaamiset regressiomallit Jakautuneen viipymän malli 1/2 Tarkastellaan lineaarista regressiomallia yt = β0xt + β1xt 1+ β2xt 2+ L+ β pxt p+ εt t= p+ 1, p+ 2, K, n Selitettävän muuttujan arvo ajanhetkellä t riippuu seuraavista tekijöistä: Selittäjän arvot ajanhetkellä t ja ajanhetkeä t välittömästi edeltävillä ajanhetkillä t 1, t 2,, t p Jäännöstermin arvo ajanhetkellä t Siten selitettävän muuttujan arvo ajanhetkellä t riippuu paitsi selittäjän ajanhetkellä t saamasta arvosta selittäjän saamien arvojen historiasta. TKK (c) Ilkka Mellin (2006) 13

14 Staattiset vs dynaamiset regressiomallit Jakautuneen viipymän malli 2/2 Malli yt = β0xt + β1xt 1+ β2xt 2+ L+ β pxt p+ εt t= p+ 1, p+ 2, K, n on yksinkertainen dynaaminen regressiomalli, jota kutsutaan yhden selittäjän jakautuneen viipymän malliksi. Huomautus: Mallissa on p + 1 selittäjää, mutta selittäjinä on sama muuttuja x viipeillä 0, 1, 2,, p TKK (c) Ilkka Mellin (2006) 14

15 Staattiset vs dynaamiset regressiomallit Jakautuneen viipymän malli: Standardioletukset Oletetaan, että jakautuneen viipymän mallin yt = β0xt + β1xt 1+ β2xt 2+ L+ β pxt p+ εt t= p+ 1, p+ 2, K, n jäännöstermi ε t toteuttaa ns. modifioidut standardioletukset tavalliselle lineaariselle mallille: (i) (ii) E( ε x, x, K, x ) = 0, t= p+ 1, p+ 2, K, n t t t 1 t p Jäännöstermit ovat homoskedastisia: 2 Var( εt xt, xt 1, K, xt p) = σ, t= p+ 1, p+ 2, K, n (iii) Jäännöstermit ovat korreloimattomia: Cor( ε, ε x, x, K, x, x, x, K, x ) = 0, t s t s t t 1 t p s s 1 s p TKK (c) Ilkka Mellin (2006) 15

16 Staattiset vs dynaamiset regressiomallit Jakautuneen viipymän mallin määrittelemä systeemi ja sen tasapaino 1/3 Olkoon yt = β0xt + β1xt 1+ β2xt 2+ L+ β pxt p+ εt t= p+ 1, p+ 2, K, n yhden selittäjän jakautuneen viipymän malli, joka toteuttaa modifioidut standardioletukset. Tällöin selitettävän muuttujan y t ehdollinen odotusarvo on E( y x, x, K, x ) t t t 1 t p = β x + β x + β x + L+ β x 0 t 1 t 1 2 t 2 p t p TKK (c) Ilkka Mellin (2006) 16

17 Staattiset vs dynaamiset regressiomallit Jakautuneen viipymän mallin määrittelemä systeemi ja sen tasapaino 2/3 Oletetaan, että selittäjällä x t on vakioarvo x kaikille t: x = x, t= 1,2, K, n Tällöin selitettävän muuttujan y t ehdollinen odotusarvo on kaikille t vakio jossa t E( y x, x, K, x ) t t t 1 t p = β x+ β x+ β x+ L+ β x = ( β + β + β + L+ β ) x = = β x y β = β + β + β + L+ β p TKK (c) Ilkka Mellin (2006) 17 p p

18 Staattiset vs dynaamiset regressiomallit Jakautuneen viipymän mallin määrittelemä systeemi ja sen tasapaino 3/3 Sanomme, että jakautuneen viipymän mallin yt = β0xt + β1xt 1+ β2xt 2+ L+ β pxt p+ εt t= p+ 1, p+ 2, K, n määrittelemä (lineaarinen) systeemi on tasapainossa ja systeemin tasapainotilana on jossa (x, y) y= β x+ β x+ β x+ L+ β x = ( β + β + β + L+ β ) x = β x p p TKK (c) Ilkka Mellin (2006) 18

19 Staattiset vs dynaamiset regressiomallit Jakautuneen viipymän mallin määrittelemä systeemi ja sen sopeutuminen 1/5 Oletetaan, että selittäjän x t vakioarvo x saa yhden yksikön kokoisen lisäyksen ajanhetkellä t 0 : x x+ 1 Kun tavanomaisen lineaarisen regressiomallin määrittelemä systeemi sopeutuu uuteen tasapainoon välittömästi selittäjän x arvossa ajanhetkellä t 0 tapahtuneen muutoksen jälkeen, jakautuneen viipymän mallin määrittelemän systeemin sopeutuminen uuteen tasapainoon kestää p ajanhetkeä. TKK (c) Ilkka Mellin (2006) 19

20 Staattiset vs dynaamiset regressiomallit Jakautuneen viipymän mallin määrittelemä systeemi ja sen sopeutuminen 2/5 Jakautuneen viipymän mallin määrittelemän systeemin sopeutuminen uuteen tasapainoon tapahtuu seuraavaa reittiä: t< t0 : E( yt xt, xt 1, xt 2, K, xt p ) = β0x+ β1x+ β2x+ L+ β px = y t= t0 : E( yt xt, xt 1, xt 2, K, xt p ) = β0( x+ 1) + β1x+ β2x+ L+ β px = y+ β 0 jatkuu TKK (c) Ilkka Mellin (2006) 20

21 Staattiset vs dynaamiset regressiomallit Jakautuneen viipymän mallin määrittelemä systeemi ja sen sopeutuminen 3/5 jatkuu t= t0+ 1: E( yt xt, xt 1, xt 2, K, xt p ) = β0( x+ 1) + β1( x+ 1) + β2x+ L+ β px = y+ β0+ β1 t= t0+ 2 : E( yt xt, xt 1, xt 2, K, xt p ) = β0( x+ 1) + β1( x+ 1) + β2( x+ 1) + L+ β px = y+ β + β + β ja lopulta: t= t0+ p : E( yt xt, xt 1, xt 2, K, xt p ) = β0( x+ 1) + β1( x+ 1) + β2( x+ 1) + L+ β p ( x+ 1) = y+ β0+ β1+ β2+ L+ β p = y+ β TKK (c) Ilkka Mellin (2006) 21

22 Staattiset vs dynaamiset regressiomallit Jakautuneen viipymän mallin määrittelemä systeemi ja sen sopeutuminen 4/5 Oletetaan, että selittäjän x t uusi arvo x + 1 ei muutu ajanhetken t 0 jälkeen. Tällöin selitettävän muuttujan y t uusi ehdollinen odotusarvo E( yt xt, xt 1, K, xt p) = y+ β0+ β1+ L+ β p = y+ β ei muutu ajanhetken t 0 + p jälkeen. Siten jakautuneen viipymän mallin määrittelemä (lineaarinen) systeemi on päässyt uuteen tasapainoon ajanhetken t 0 + p jälkeen ja uutena tasapainotilana on (x + 1, y + β) TKK (c) Ilkka Mellin (2006) 22

23 Staattiset vs dynaamiset regressiomallit Jakautuneen viipymän mallin määrittelemä systeemi ja sen sopeutuminen 5/5 Jono β0+ β0+ β1+ β2 L β0+ β1+ β2+ L+ β p = β kuvaa reittiä, jota pitkin yhden selittäjän jakautuneen viipymän mallin määrittelemä lineaarinen systeemi siirtyy selittävän muuttujan saaman yhden yksikön kokoisen lisäyksen jälkeen tasapainotilasta (x, y) uuteen tasapainotilaan ( x+ 1, y+ β ) TKK (c) Ilkka Mellin (2006) 23

24 Staattiset vs dynaamiset regressiomallit Jakautuneen viipymän malli: Regressiokertoimien tulkinta Edellä esitetyn nojalla jakautuneen viipymän mallin yt = β0xt + β1xt 1+ β2xt 2+ L+ β pxt p+ εt t= p+ 1, p+ 2, K, n regressiokertoimille voidaan antaa seuraava tulkinta: (i) (ii) Regressiokerroin β 0 kuvaa muuttujan x saaman yhden yksikön kokoisen lisäyksen välitöntä vaikutusta. Regressiokertoimien summa β = β + β + β + L+ β p kuvaa muuttujan x saaman yhden yksikön kokoisen lisäyksen pitkän ajan vaikutusta. TKK (c) Ilkka Mellin (2006) 24

25 Dynaamiset regressiomallit Staattiset vs dynaamiset regressiomallit >> Siirtofunktio-kohina-malli Siirtofunktio-kohina-mallin erikoistapauksia Stokastinen differenssiyhtälö Virheenkorjausmalli Yhteisintegroituvuus Dynaamisten regressiomallien rakentaminen TKK (c) Ilkka Mellin (2006) 25

26 Siirtofunktio-kohina-malli Mallin määritelmä Olkoon B( L) θ ( L) yt = xt + εt, t= 1,2,, n A( L) φ( L) malli, jossa ja y t x t = selitettävä muuttuja eli vaste (output) = selittävä muuttuja eli syöte (input) ε i i d t 2...(0, σ ) A(L), B(L), φ(l), θ(l) ovat viivepolynomeja. Mallia kutsutaan siirtofunktio-kohina-malliksi. TKK (c) Ilkka Mellin (2006) 26

27 Siirtofunktio-kohina-malli Mallin viivepolynomit Määritellään siirtofunktio-kohina-mallin B( L) θ ( L) yt = xt + εt, t= 1,2,, n A( L) φ( L) viivepolynomit seuraavalla tavalla: α α 2 r A( L) = 1 1L 2L L rl 2 s B( L) = 0+ 1L+ 2L + L+ sl φ( ) 1 φ φ φ 2 p L = 1L 2L L pl θ ( ) 1 θ θ θ α β β β β 2 q L = + 1L+ 2L + L+ ql TKK (c) Ilkka Mellin (2006) 27

28 Siirtofunktio-kohina-malli Siirtofunktio Siirtofunktio-kohina-mallin B( L) θ ( L) yt = xt + εt, t= 1,2,, n A( L) φ( L) selitettävän muuttujan y t odotusarvoa B( L) E( yt xt ) = xt A( L) kutsutaan mallin siirtofunktio-osaksi. Siirtofunktio-osa muodostaa mallin rakenneosan. TKK (c) Ilkka Mellin (2006) 28

29 Siirtofunktio-kohina-malli Jäännöstermi Siirtofunktio-kohina-mallin B( L) θ ( L) yt = xt + εt, t= 1,2,, n A( L) φ( L) selitettävän muuttujan y t ja mallin siirtofunktio-osan erotusta ( ) ( ) t t E( t t ) B L θ L η = y y x = yt xt = εt A( L) φ( L) kutsutaan mallin jäännöstermiksi. Jäännöstermi η t muodostaa mallin satunnaisen osan, jossa satunnaismuuttuja ε t on puhtaasti satunnainen stokastinen prosessi eli valkoista kohinaa. Jäännöstermi η t on ARMA(p,q)-prosessi. TKK (c) Ilkka Mellin (2006) 29

30 Siirtofunktio-kohina-malli Viivepolynomeja koskevat oletukset Tehdään siirtofunktio-kohina-mallista B( L) θ ( L) yt = xt + εt, t= 1,2,, n A( L) φ( L) seuraavat oletukset: (i) (ii) Viivepolynomi 2 r A( L) = 1 α1l α2l L αrl toteuttaa stabiilisuusehdon: Polynomin A(L) juuret ovat yksikköympyrän ulkopuolella. Viivepolynomi 2 p φ( L) = 1 φ1l φ2l L φ pl toteuttaa stationaarisuusehdon: Polynomin φ(l) juuret ovat yksikköympyrän ulkopuolella. TKK (c) Ilkka Mellin (2006) 30

31 Siirtofunktio-kohina-malli Siirtofunktio-kohina-mallin stabiilisuus 1/3 Jos siirtofunktio-kohina-malli B( L) θ ( L) yt = xt + εt, t= 1,2,, n A( L) φ( L) on stabiili eli viivepolynomin A(L) juuret ovat yksikköympyrän ulkopuolella, on olemassa (ääretönasteinen) viivepolynomi i 2 i D( L) δ i 0 il δ 0 δ1l δ 2L δ il = siten, että = = L+ + L A( L) D( L) = B( L) ja sarja D(L) suppenee yksikköympyrän sisällä ja reunalla sekä itseisesti että kvadraattisesti. TKK (c) Ilkka Mellin (2006) 31

32 Siirtofunktio-kohina-malli Siirtofunktio-kohina-mallin stabiilisuus 2/3 Jos siirtofunktio-kohina-malli on stabiili, se voidaan esittää muodossa θ ( L) yt = D( L) xt + εt, t= 1,2,, n φ( L) jossa viivepolynomi D(L) toteuttaa ehdon A( L) D( L) = B( L) ja sarja i D( L) δ L = i = 0 i suppenee yksikköympyrän sisällä ja reunalla sekä itseisesti että kvadraattisesti. TKK (c) Ilkka Mellin (2006) 32

33 Siirtofunktio-kohina-malli Siirtofunktio-kohina-mallin stabiilisuus 3/3 Erityisesti viivepolynomin i D( L) δ L kertoimien δ 0, δ1, δ 2, K, δ i, K summa on äärellinen: Lisäksi δ δ = δ <+ i= 0 i = i = 0 i = δ = (1) i 0 i D = A(1) = = 1 α 1 α 2 L δ = β 0 0 B(1) β + β + β + L+ βs α r TKK (c) Ilkka Mellin (2006) 33

34 Siirtofunktio-kohina-malli Stationaarisuusoletus Tavallisesti oletetaan, että siirtofunktio-kohina-mallin B( L) θ ( L) yt = xt + εt, t= 1,2,, n A( L) φ( L) syötteen x t ja vasteen y t ja muodostama pari (x t, y t ) on stationaarinen. Jos pari (x t, y t ) on epästationaarinen, tehdään tavallisesti oletus, että muuttujat x t ja y t ovat integroituvia niin, että niiden differenssien muodostama pari on stationaarinen. TKK (c) Ilkka Mellin (2006) 34

35 Siirtofunktio-kohina-malli Eksogeenisuus ja endogeenisuus Varsinkin taloustieteessä siirtofunktio-kohina-mallin muuttujista on tapana tehdä seuraavat tulkinnat: (i) (ii) Syöte eli selittävä muuttuja x t on eksogeeninen eli mallin ulkopuolelta määrätty muuttuja. Vaste eli selitettävä muuttuja y t on endogeeninen eli mallin määräämä muuttuja. TKK (c) Ilkka Mellin (2006) 35

36 Siirtofunktio-kohina-malli Siirtofunktio-kohina-mallin määrittelemä systeemi ja sen tasapaino 1/2 Oletetaan, että stabiilin siirtofunktio-kohina-mallin B( L) θ ( L) yt = xt + εt, t= 1,2,, n A( L) φ( L) selittäjällä x t on vakioarvo x kaikille t: x t = x Tällöin mallin siirtofunktio-osa eli selitettävän muuttujan y t ehdollinen odotusarvo on kaikille t B(1) E( yt xt = x) = x= D(1) x= δ x= y A(1) jossa viivepolynomi D(L) toteuttaa ehdon A( L) D( L) = B( L) TKK (c) Ilkka Mellin (2006) 36

37 Siirtofunktio-kohina-malli Siirtofunktio-kohina-mallin määrittelemä systeemi ja sen tasapaino 2/2 Tällöin sanomme, että siirtofunktio-kohina-mallin B( L) θ ( L) yt = xt + εt, t= 1,2,, n A( L) φ( L) määrittelemä (lineaarinen) systeemi on tasapainossa ja systeemin tasapainotilana on (x, y) jossa B(1) y= δ x= D(1) x= x= E( yt xt = x) A(1) TKK (c) Ilkka Mellin (2006) 37

38 Siirtofunktio-kohina-malli Siirtofunktio-kohina-mallin määrittelemä systeemi ja sen sopeutuminen 1/3 Oletetaan, että syöte x t saa yhden yksikön kokoisen lisäyksen ajanhetkellä t 0 : x x+ 1 Siirtofunktio-kohina-mallin määrittelemän systeemin sopeutuminen uuteen tasapainoon kestää äärettömän monta ajanhetkeä. TKK (c) Ilkka Mellin (2006) 38

39 Siirtofunktio-kohina-malli Siirtofunktio-kohina-mallin määrittelemä systeemi ja sen sopeutuminen 2/3 Stabiilin siirtofunktio-kohina-mallin määrittelemän systeemin sopeutuminen uuteen tasapainoon tapahtuu seuraavaa reittiä: t< t : E( y x = x) = y 0 t= t : E( y x = x) = y+ δ ja lopulta: t 0 t t 0 t t= t0+ 1: E( yt xt = x) = y+ δ0+ δ1 L t= t + i : E( y x = x) = y+ δ + δ + L+ δ 0 t t 0 1 i t= t0+ : E( yt xt = x) = y+ δ0+ δ1+ L+ δi+ L = y+ δ TKK (c) Ilkka Mellin (2006) 39

40 Siirtofunktio-kohina-malli Siirtofunktio-kohina-mallin määrittelemä systeemi ja sen sopeutuminen 3/3 Jono δ0+ δ1 L δ0+ δ1+ L+ δi L δ0+ δ1+ L+ δi+ L= δ kuvaa reittiä, jota pitkin siirtofunktio-kohina-mallin määrittelemä lineaarinen systeemi siirtyy syötteen saaman yhden yksikön kokoisen lisäyksen jälkeen tasapainotilasta (x, y) uuteen tasapainotilaan ( x+ 1, y+ δ ) TKK (c) Ilkka Mellin (2006) 40

41 Siirtofunktio-kohina-malli Siirtofunktio-kohina-malli: Kertoimien tulkinta 1/3 Tarkastellaan stabiilin siirtofunktio-kohina-mallin B( L) θ ( L) yt = xt + εt, t= 1,2,, n A( L) φ( L) esitysmuotoa θ ( L) yt = D( L) xt + εt, t= 1,2,, n φ( L) jossa viivepolynomi i D( L) δ L = i = 0 toteuttaa ehdon A( L) D( L) = B( L) i TKK (c) Ilkka Mellin (2006) 41

42 Siirtofunktio-kohina-malli Siirtofunktio-kohina-malli: Kertoimien tulkinta 2/3 Edellä esitetyn nojalla siirtofunktiomallin esitysmuodon θ ( L) yt = D( L) xt + εt, t= 1,2,, n φ( L) viivepolynomin D(L) kertoimille δ 0, δ1, δ 2, K, δ i, K voidaan antaa seuraavat tulkinnat: (i) (ii) Kerroin δ 0 kuvaa muuttujan x saaman yhden yksikön kokoisen lisäyksen välitöntä vaikutusta. Kertoimien δ i, i = 0, 1, 2, summa B(1) β0+ β1+ β2+ L+ βs δ = δ (1) i 0 i = D = = = A(1) 1 α1 α2 L αr kuvaa muuttujan x saaman yksikön kokoisen lisäyksen pitkän ajan vaikutusta. TKK (c) Ilkka Mellin (2006) 42

43 Siirtofunktio-kohina-malli Siirtofunktio-kohina-malli: Kertoimien tulkinta 3/3 Viivepolynomin D(L) kertoimien δ 0, δ1, δ 2, K, δ i, K jakaumaa on tapana kuvata ilmoittamalla seuraavat suureet: (i) (ii) Välitöntä vaikutusta kuvaava kerroin δ 0 Pitkän ajan vaikutusta kuvaava kerroin δ δ i 0 i (iii) Ajanhetki, jolloin systeemin sopeutumisesta on tapahtunut p % = = jossa tavallisesti p = 50 % tai 90 % TKK (c) Ilkka Mellin (2006) 43

44 Siirtofunktio-kohina-malli Siirtofunktio-kohina-mallin estimointi Siirtofunktio-kohina-mallin parametrit on tapana estimoida yleisessä tapauksessa suurimman uskottavuuden menetelmällä. Lisätietoja: ks. lukua Suurimman uskottavuuden menetelmä. Koska yleinen siirtofunktio-kohina-malli on erittäin epälineaarinen parametriensa suhteen, joudutaan estimoinnissa yleisessä tapauksessa turvautumaan tähän tarkoitukseen laadittuun erikoisohjelmaan, joka perustuu johonkin epälineaariseen optimointialgoritmiin. Lisätietoja: ks. lukua Suurimman uskottavuuden menetelmä. TKK (c) Ilkka Mellin (2006) 44

45 Siirtofunktio-kohina-malli Siirtofunktio-kohina-mallin parametreja koskevat testit Siirtofunktio-kohina-mallin parametreja koskevina testeinä käytetään suurimman uskottavuuden menetelmään perustuvia yleisiä testejä: osamäärätesti Waldin testi Lagrangen kertojatesti Lisätietoja: ks. lukua Suurimman uskottavuuden menetelmä. TKK (c) Ilkka Mellin (2006) 45

46 Dynaamiset regressiomallit Staattiset vs dynaamiset regressiomallit Siirtofunktio-kohina-malli >> Siirtofunktio-kohina-mallin erikoistapauksia Stokastinen differenssiyhtälö Virheenkorjausmalli Yhteisintegroituvuus Dynaamisten regressiomallien rakentaminen TKK (c) Ilkka Mellin (2006) 46

47 Siirtofunktio-kohina-mallin erikoistapauksia Siirtofunktio-kohina-malli Olkoon B( L) θ ( L) yt = xt + εt, t= 1,2,, n A( L) φ( L) siirtofunktio-kohina-malli, jossa 2 r A( L) = 1 α1l α2l L αrl 2 s B( L) = β0+ β1l+ β2l + L+ βsl 2 p L = 1L 2L L pl φ( ) 1 φ φ φ 2 q L = + 1L+ 2L + L+ ql θ ( ) 1 θ θ θ TKK (c) Ilkka Mellin (2006) 47

48 Siirtofunktio-kohina-mallin erikoistapauksia Siirtofunktio-kohina-malli ja dynaamiset mallit Siirtofunktio-kohina-malli sisältää erikoistapauksinaan useita tavanomaisia regressioanalyysissa, aikasarjaanalyysissa ja ekonometriassa sovellettuja malleja: Tavanomainen lineaarinen regressiomalli ARMA-malli ARMAX-malli Jakautuneen viipymän malli Stokastinen differenssiyhtälö TKK (c) Ilkka Mellin (2006) 48

49 Siirtofunktio-kohina-mallin erikoistapauksia Tavanomainen lineaarinen regressiomalli Tavanomainen lineaarinen regressiomalli y = β x + ε t 0 t t saadaan siirtofunktiomallista B( L) θ ( L) yt = xt + εt A( L) φ( L) erikoistapauksena, kun asetetaan A( L) = 1 B( L) = β φ( L) = 1 θ ( L) = 1 0 TKK (c) Ilkka Mellin (2006) 49

50 Siirtofunktio-kohina-mallin erikoistapauksia Lineaarinen regressiomalli autokorreloitunein jäännöksin Lineaarinen regressiomalli autokorreloitunein jäännöksin θ ( L) yt = β0xt + ηt, ηt = εt φ( L) saadaan siirtofunktiomallista B( L) θ ( L) yt = xt + εt A( L) φ( L) erikoistapauksena, kun asetetaan A( L) = 1 B( L) = β 0 TKK (c) Ilkka Mellin (2006) 50

51 Siirtofunktio-kohina-mallin erikoistapauksia ARMA(p,q)-malli ARMA(p,q)-malli φ( L) y = θ ( L) ε t saadaan siirtofunktiomallista B( L) θ ( L) yt = xt + εt A( L) φ( L) erikoistapauksena, kun asetetaan A( L) = 1 B( L) = β0 = 0 ARMA(p,q)-mallissa ei siis ole syötettä. t TKK (c) Ilkka Mellin (2006) 51

52 Siirtofunktio-kohina-mallin erikoistapauksia ARMAX-malli ARMAX-malli A( L) y = B( L) x +θ ( L) ε t t t saadaan siirtofunktiomallista B( L) θ ( L) yt = xt + εt A( L) φ( L) erikoistapauksena, kun asetetaan A( L) =φ( L) ARMAX-malli on siis ARMA-malli, jossa on mukana selittäjä X. TKK (c) Ilkka Mellin (2006) 52

53 Siirtofunktio-kohina-mallin erikoistapauksia Jakautuneen viipymän malli Jakautuneen viipymän malli θ ( L) yt = B( L) xt + εt φ( L) saadaan siirtofunktiomallista B( L) θ ( L) yt = xt + εt A( L) φ( L) erikoistapauksena, kun asetetaan A( L ) = 1 TKK (c) Ilkka Mellin (2006) 53

54 Siirtofunktio-kohina-mallin erikoistapauksia Stokastinen differenssiyhtälö 1/2 Stokastinen differenssiyhtälö A( L) y = B( L) x + u, φ ( L) u = θ ( L) ε t t t t t saadaan siirtofunktiomallista B( L) θ ( L) yt = xt + εt A( L) φ( L) erikoistapauksena, kun asetetaan A( L) φ ( L) = φ( L) TKK (c) Ilkka Mellin (2006) 54

55 Siirtofunktio-kohina-mallin erikoistapauksia Stokastinen differenssiyhtälö 2/2 Stokastinen differenssiyhtälöstä sisältää erikoistapauksinaan useita tavanomaisia ekonometrian malleja; lisätietoja: ks. kappaletta Stokastinen differenssiyhtälö. Stokastisen differenssiyhtälö soveltuu erinomaisesti mallinrakennuksen työvälineeksi aikasarja-analyysissa seuraavista syistä: (i) (ii) Stokastisella differenssiyhtälöllä voidaan tavallisesti approksimoida yleistä siirtofunktio-kohina-mallia riittävällä tarkkuudella. Stokastisen differenssiyhtälön estimointi ja testaus on yksinkertaisempaa kuin yleisen siirtofunktio-kohinamallin estimointi ja testaus. TKK (c) Ilkka Mellin (2006) 55

56 Siirtofunktio-kohina-mallin erikoistapauksia Siirtofunktio-kohina-mallin erikoistapausten erottaminen toisistaan 1/2 Edellä on todettu, että siirtofunktio-kohina-mallista saadaan erikoistapauksina useita erilaisia dynaamisia malleja. Kaikki erikoistapaukset saadaan siirtofunktio-kohinamallista esittämällä mallin viivepolynomeille (parametreille) rajoituksia tai side-ehtoja. On syytä huomata, että asetettavia rajoituksia tai sideehtoja voidaan testata tilastollisesti. Testeinä voidaan käyttää (tilanteesta riippuen) osamäärätestiä, Waldin testiä tai Lagrangen kertojatestiä; lisätietoja: ks. lukua Suurimman uskottavuuden menetelmä. TKK (c) Ilkka Mellin (2006) 56

57 Siirtofunktio-kohina-mallin erikoistapauksia Siirtofunktio-kohina-mallin erikoistapausten erottaminen toisistaan 2/2 Tämä merkitsee seuraava: Käyttämällä testausta mallinrakennuksen osana, havainnoille voidaan pyrkiä löytämään mahdollisimman parsimoninen malli eli malli, joka mahdollisimman hyvin selittää havaintojen käyttäytymisen, mutta on kuitenkin mahdollisimman yksinkertainen tai vähäparametrinen. TKK (c) Ilkka Mellin (2006) 57

58 Dynaamiset regressiomallit Staattiset vs dynaamiset regressiomallit Siirtofunktio-kohina-malli Siirtofunktio-kohina-mallin erikoistapauksia >> Stokastinen differenssiyhtälö Virheenkorjausmalli Yhteisintegroituvuus Dynaamisten regressiomallien rakentaminen TKK (c) Ilkka Mellin (2006) 58

59 Stokastinen differenssiyhtälö Stokastinen differenssiyhtälö Stokastiset differenssiyhtälöt ovat yksinkertaisimmassa tapauksessa muotoa y = γ + α y + β x + β x + u t t 1 0 t 1 t 1 t Selitettävän muuttujan arvoa ajanhetkellä t selitetään seuraavilla tekijöillä: selitettävän arvo ajanhetkellä t 1 eli viipeellä 1 selittäjän (eksogeeninen muuttuja) arvo ajanhetkellä t eli viipeellä 0 selittäjän arvo ajanhetkellä t 1 eli viipeellä 1 Jäännöstermit u t saavat yleisessä tapauksessa olla korreloituneita. TKK (c) Ilkka Mellin (2006) 59

60 Stokastinen differenssiyhtälö Stokastisen differenssiyhtälön erikoistapauksia 1/5 Stokastisesta differenssiyhtälöstä y = γ + α y + β x + β x + u t t 1 0 t 1 t 1 t saadaan erikoistapauksina useita erilaisia ekonometrian malleja. Erikoistapaukset saadaan stokastisesta differenssiyhtälöstä mallin parametreja koskevilla rajoituksilla. Rajoituksia voidaan testata tilastollisesti. Rajoituksien hyväksyminen testeissä johtaa yksinkertaisempaan mallityyppiin. TKK (c) Ilkka Mellin (2006) 60

61 Stokastinen differenssiyhtälö Stokastisen differenssiyhtälön erikoistapauksia 2/5 (1) Staattinen regressiomalli y = γ + β x + u t 0 t t Rajoitukset: α = β1= 0 (2) AR-prosessi y = γ + α y + u t t 1 t Rajoitukset: β0 = β1= 0 (3) Johtavan indikaattorin malli y = γ + β x + u t 1 t 1 t Rajoitukset: α = β = 0 0 TKK (c) Ilkka Mellin (2006) 61

62 Stokastinen differenssiyhtälö Stokastisen differenssiyhtälön erikoistapauksia 3/5 (4) Kasvuvauhtimalli Dy = γ + β Dx + u t 0 t t Rajoitukset: α = 1, β0 = β1 (5) Jakautuneen viipymän malli y = γ + β x + β x + u t 0 t 1 t 1 t Rajoitukset: α = 0 (6) AR-jäännösten malli y = γ + β x + u, u = αu + ε t 0 t t t t 1 t Rajoitukset: β = αβ 1 0 TKK (c) Ilkka Mellin (2006) 62

63 Stokastinen differenssiyhtälö Stokastisen differenssiyhtälön erikoistapauksia 4/5 (7) Adaptiivisten odotusten malli ja osittaisen sopeutumisen malli y = γ + α y + β x + u t t 1 0 t t Rajoitukset: β1= 0 (8) Virheenkorjausmalli Dy = γ + β Dx + ( α 1) y ν x + u [ ] t 0 t t 1 t 1 t β0+ β1 Rajoitukset: ν = 1 α TKK (c) Ilkka Mellin (2006) 63

64 Stokastinen differenssiyhtälö Stokastisen differenssiyhtälön erikoistapauksia 5/5 (9) Kuolleen alun malli y = γ + α y + β x + u t t 1 1 t 1 t Rajoitukset: β = 0 0 TKK (c) Ilkka Mellin (2006) 64

65 Stokastinen differenssiyhtälö Stokastinen differenssiyhtälö ja adaptiiviset odotukset 1/3 Oletukset: (i) (ii) Selitettävän muuttujan y arvo ajanhetkellä t riippuu tilastollisesti selittäjän x odotetusta arvosta x * ajanhetkellä t + 1: y = ϕ + ϕ x + ε t 0 1 t+ 1 t Selittäjän odotettu arvo x * on ei-havaittava. (iii) Odotusta sopeutetaan sen mukaan, miten odotukset ovat toteutuneet aikaisemmin: x t 1 x = t κ ( x t xt ), 0 < κ < + 1 Tätä sopeutumismekanismia kutsutaan adaptiivisten odotusten hypoteesiksi. TKK (c) Ilkka Mellin (2006) 65

66 Stokastinen differenssiyhtälö Stokastinen differenssiyhtälö ja adaptiiviset odotukset 2/3 Yhdistämällä yhtälöt y = ϕ + ϕ x + ε t 0 1 t+ 1 t xt+ 1 xt = κ ( xt xt ), 0< κ < 1 saadaan selittäjän ei-havaittava odotettu arvo x * eliminoiduksi. Tuloksena saadaan regressioyhtälö y = γ + α y + β x + u t t 1 0 t t joka on stabiili, koska α < 1 TKK (c) Ilkka Mellin (2006) 66

67 Stokastinen differenssiyhtälö Stokastinen differenssiyhtälö ja adaptiiviset odotukset 3/3 Tuloksena saatu regressioyhtälö y = γ + α y + β x + u t t 1 0 t t on stokastinen differenssiyhtälö, jonka parametrit toteuttavat yhtälöt γ = κϕ0 α = 1 κ β0 = κϕ1 u t = ε t αε t 1 Saatua regressioyhtälöä kutsutaan adaptiivisten odotusten malliksi. TKK (c) Ilkka Mellin (2006) 67

68 Stokastinen differenssiyhtälö Stokastinen differenssiyhtälö ja osittainen sopeutuminen 1/3 Oletukset: (i) (ii) Selitettävän y toivottu tai odotettu arvo y * riippuu tilastollisesti selittäjän x arvosta: y = ϕ + ϕ x t 0 1 t Sopeutuminen uudelle tasolle selittäjän arvossa tapahtuvan muutoksen jälkeen ei kuitenkaan tapahdu suoraan, välittömästi, vaan ainoastaan osittainen sopeutuminen on mahdollista: y y = κ( y y ) + ε, 0< κ < 1 t t 1 t t 1 t Tätä sopeutumismekanismia kutsutaan osittaisen sopeutumisen hypoteesiksi. TKK (c) Ilkka Mellin (2006) 68

69 Stokastinen differenssiyhtälö Stokastinen differenssiyhtälö ja osittainen sopeutuminen 2/3 Yhdistämällä yhtälöt y = ϕ + ϕ x t 0 1 t t t 1 t t 1 t y y = κ ( y y ) + ε, 0< κ < 1 saadaan selitettävän muuttujan ei-havaittava toivottu tai odotettu arvo y * eliminoiduksi. Tuloksena saadaan regressioyhtälö y = γ + α y + β x + ε t t 1 0 t t joka on stabiili, koska α < 1 TKK (c) Ilkka Mellin (2006) 69

70 Stokastinen differenssiyhtälö Stokastinen differenssiyhtälö ja osittainen sopeutus 3/3 Tuloksena saatu regressioyhtälö y = γ + α y + β x + ε t t 1 0 t t on stokastinen differenssiyhtälö, jonka parametrit toteuttavat yhtälöt γ = κϕ0 α = 1 κ β = κϕ 0 1 Saatua regressioyhtälöä kutsutaan osittaisen sopeutumisen malliksi. TKK (c) Ilkka Mellin (2006) 70

71 Stokastinen differenssiyhtälö Stokastisen differenssiyhtälön siirtofunktio-kohina-esitysmuoto 1/3 Olkoon yt = γ + α yt 1+ β0xt + β1xt 1 + εt, α < 1 Tätä stokastista differenssiyhtälöä vastaava siirtofunktiokohina-esitysmuoto on γ β0+ β1l 1 yt = + xt + εt 1 α 1 αl 1 αl Koska α < 1 yhtälö on stabiili. TKK (c) Ilkka Mellin (2006) 71

72 Stokastinen differenssiyhtälö Stokastisen differenssiyhtälön siirtofunktio-kohina-esitysmuoto 2/3 Koska stokastinen differenssiyhtälö yt = γ + α yt 1+ β0xt + β1xt 1 + εt, α < 1 on oletettu stabiiliksi ( α < 1) mallin siirtofunktio-osan määräävällä rationaalipolynomilla on esitysmuoto β0+ β1l j = δ jl 1 αl j= 0 jossa δ 0 = β0 δ1= αβ0+ β1 δ 2 = α( αβ0+ β1) L j 1 δ = α ( αβ + β ) j 0 1 TKK (c) Ilkka Mellin (2006) 72

73 Stokastinen differenssiyhtälö Stokastisen differenssiyhtälön siirtofunktio-kohina-esitysmuoto 3/3 Jos yhtälöön β0+ β1l 1 αl sijoitetaan L =1 = j= 0 δ L saadaan yhtälö β0+ β 1 δ j = = δ α j= 0 1 j j TKK (c) Ilkka Mellin (2006) 73

74 Stokastinen differenssiyhtälö Viiveoperaattorin murtolausekkeet: Huomautus Viiveoperaattorilla 1 1 αl tarkoitetaan ääretönasteista polynomia 1 j j 2 2 = α L = 1+ αl+ α L + L 1 αl j= 0 joka muodostaa yksikköympyrän sisäpuolella ja reunalla suppenevan geometrisen sarjan, jos α < 1. TKK (c) Ilkka Mellin (2006) 74

75 Stokastinen differenssiyhtälö Stokastisen differenssiyhtälön määrittelemä systeemi ja sen tasapaino 1/2 Oletetaan, että stabiilin stokastisen differenssiyhtälön yt = γ + α yt 1+ β0xt + β1xt 1 + εt, α < 1 selittäjällä x t on vakioarvo x kaikille t: x t = x Tällöin mallin siirtofunktio-osa eli selitettävän muuttujan y t odotusarvo on kaikille t β0+ β1 E( yt xt = x) = x= δ x= y 1 α TKK (c) Ilkka Mellin (2006) 75

76 Stokastinen differenssiyhtälö Stokastisen differenssiyhtälön määrittelemä systeemi ja sen tasapaino 2/2 Tällöin sanomme, että stokastisen differenssiyhtälön yt = γ + α yt 1+ β0xt + β1xt 1 + εt, α < 1 määrittelemä (lineaarinen) systeemi on tasapainossa ja systeemin tasapainotilana on (x, y) jossa β0+ β1 y= δ x= x= E( yt xt = x) 1 α TKK (c) Ilkka Mellin (2006) 76

77 Stokastinen differenssiyhtälö Stokastisen differenssiyhtälön määrittelemä systeemi ja sen sopeutuminen 1/4 Oletetaan, että syöte x t saa yhden yksikön kokoisen lisäyksen ajanhetkellä t 0 : x x+ 1 Stokastisen differenssiyhtälön määrittelemän systeemin sopeutuminen uuteen tasapainoon kestää äärettömän monta ajanhetkeä. TKK (c) Ilkka Mellin (2006) 77

78 Stokastinen differenssiyhtälö Stokastisen differenssiyhtälön määrittelemä systeemi ja sen sopeutuminen 2/4 Stabiilin stokastisen differenssiyhtälön määrittelemän systeemin sopeutuminen uuteen tasapainoon tapahtuu seuraavaa reittiä: t< t : E( y x = x) = y 0 t t= t : E( y x = x) = y+ δ 0 t t 0 t t= t0+ 1: E( yt xt = x) = y+ δ0+ δ1 L t= t + i : E( y x = x) = y+ δ + δ + L+ δ 0 t t 0 1 i jatkuu TKK (c) Ilkka Mellin (2006) 78

79 Stokastinen differenssiyhtälö Stokastisen differenssiyhtälön määrittelemä systeemi ja sen sopeutuminen 3/4 ja lopulta: t= t + : E( y x = x) = y+ δ + δ + L+ δ + L 0 t t 0 1 i = y+ δ = y+ β0+ β1 1 α TKK (c) Ilkka Mellin (2006) 79

80 Stokastinen differenssiyhtälö Stokastisen differenssiyhtälön määrittelemä systeemi ja sen sopeutuminen 4/4 Jono δ0+ δ1 L δ0+ δ1+ L+ δi L β0+ β1 δ0+ δ1+ L+ δi+ L= δ = 1 α kuvaa reittiä, jota pitkin siirtofunktio-kohina-mallin määrittelemä lineaarinen systeemi siirtyy selittäjän x t saaman yhden yksikön kokoisen lisäyksen jälkeen tasapainotilasta (x, y) uuteen tasapainotilaan ( x+ 1, y+ δ ) TKK (c) Ilkka Mellin (2006) 80

81 Stokastinen differenssiyhtälö Stokastinen differenssiyhtälö: Lyhyen ja pitkän ajan kertoimet Stokastisen differenssiyhtälön yt = γ + α yt 1+ β0xt + β1xt 1 + εt, α < 1 kertoimilla on seuraavat tulkinnat: (i) (ii) Kerroin δ 0 = β 0 on lyhyen ajan kerroin, joka kuvaa selittäjän x t arvon yhden yksikön lisäyksen välitöntä vaikutusta. Kerroin β0+ β1 δ = 1 α on pitkän ajan kerroin, joka kuvaa selittäjän x t arvon yhden yksikön lisäyksen pitkän ajan vaikutusta. TKK (c) Ilkka Mellin (2006) 81

82 Stokastinen differenssiyhtälö Stokastisen differenssiyhtälön virheenkorjausesitys Olkoon yt = γ + α yt 1+ β0xt + β1xt 1 + εt, α < 1 Tätä stokastista differenssiyhtälöä vastaava virheenkorjausesitys on β0+ β1 Dyt = γ + β0dxt + ( α 1) yt 1 x t 1 + εt 1 α TKK (c) Ilkka Mellin (2006) 82

83 Stokastinen differenssiyhtälö Stokastisen differenssiyhtälön estimointi 1/4 Stokastisen differenssiyhtälön y = γ + α y + β x + β x + u t t 1 0 t 1 t 1 t parametrit voidaan estimoida PNS-menetelmällä, jos 2 u = ε n. i. d.(0, σ ) t Tällöin parametrien PNS-estimaattorit eivät ole harhattomia, mutta ovat tarkentuvia t asymptoottisesti tehokkaita asymptoottisesti normaalisia TKK (c) Ilkka Mellin (2006) 83

84 Stokastinen differenssiyhtälö Stokastisen differenssiyhtälön estimointi 2/4 Edellä esitetty merkitsee sitä, että kaikkia tavanomaisia lineaarisen mallin yhteydessä käytettäviä estimointi- ja testausmenetelmiä voidaan käyttää myös stokastisen differenssiyhtälön tapauksessa, jos jäännöstermit ovat korreloimattomia. TKK (c) Ilkka Mellin (2006) 84

85 Stokastinen differenssiyhtälö Stokastisen differenssiyhtälön estimointi 3/4 Stokastisen differenssiyhtälön y = γ + α y + β x + β x + u t t 1 0 t 1 t 1 t parametreja ei saa estimoida PNS-menetelmällä, jos jäännöstermit u t ovat ole korreloituneita. Tällöin parametrien PNS-estimaattorit eivät ole harhattomia tarkentuvia asymptoottisesti tehokkaita asymptoottisesti normaalisia TKK (c) Ilkka Mellin (2006) 85

86 Stokastinen differenssiyhtälö Stokastisen differenssiyhtälön estimointi 4/4 Oletetaan, että stokastisen differenssiyhtälön yt = γ + α yt 1+ β0xt + β1xt 1+ ut jäännöstermit u t ovat korreloituneita. Tällöin parametrien estimointiin voidaan käyttää suurimman uskottavuuden (SU-) menetelmää. Parametrien SU-etimaattorit ovat tarkentuvia asymptoottisesti tehokkaita asymptoottisesti normaalisia TKK (c) Ilkka Mellin (2006) 86

87 Stokastinen differenssiyhtälö Stokastisen differenssiyhtälön estimointi: Hatanakan menetelmä 1/4 Tarkastellaan stokastisen differenssiyhtälön y = α y + β x + u t t 1 t t parametrien estimointia ns. Hatanakan menetelmällä, kun jäännöstermit u t ovat korreloituneita. Hatanakan menetelmällä saadut estimaattorit ovat asymptoottisesti ekvivalentteja SU-estimaattoreiden kanssa, mutta eivät ole pienten otosten ominaisuuksiltaan välttämättä yhtä hyviä kuin SU-estimaattorit. Hatanakan menetelmä etuna on kuitenkin se, että siinä estimaattorit saadaan estimoimalla kolme lineaarista regressiota tavallisella PNS-menetelmällä (so. tarvitsematta turvautua erikoisohjelmiin). TKK (c) Ilkka Mellin (2006) 87

88 Stokastinen differenssiyhtälö Stokastisen differenssiyhtälön estimointi: Hatanakan menetelmä 2/4 Olkoon y = α y + β x + u t t 1 t t stokastinen differenssiyhtälö, jonka jäännöstermi u t on AR(1)-prosessi: u = u + i i d 2 t φ t 1 εt, εt...(0, σ ) TKK (c) Ilkka Mellin (2006) 88

89 Stokastinen differenssiyhtälö Stokastisen differenssiyhtälön estimointi: Hatanakan menetelmä 3/4 Hatanakan menetelmä koostuu seuraavista työvaiheista: (1) Määrätään sovitteet y% t mallista yt = β xt + η t (2) Määrätään residuaalit η % t mallista yt = α y% t 1+ β xt + η t (3) Määrätään kertoimen φ estimaattoriφ % AR(1)-mallista % η t = φ % η t 1+ ε t (4) Estimoidaan kertoimet α, β, γ mallista yt % φ yt 1= α ( yt 1 % φ yt 2) + β ( x % φ x ) + γ % η + ς t t 1 t 1 t TKK (c) Ilkka Mellin (2006) 89

90 Stokastinen differenssiyhtälö Stokastisen differenssiyhtälön estimointi: Hatanakan menetelmä 4/4 Alkuperäisen mallin y = α y + β x + u t t 1 t t 2 ut = φut 1 + εt, εt i. i. d.(0, σ ) parametrien tarkentuvat ja asymptoottisesti tehokkaat estimaattorit ˆ α, ˆ β, ˆ γ saadaan vaiheiden (3) ja (4) apuregressioiden estimaattoreista % α, % β, % γ, % φ : ˆ α = % α ˆ β = % β ˆ φ = % φ + % γ TKK (c) Ilkka Mellin (2006) 90

91 Dynaamiset regressiomallit Staattiset vs dynaamiset regressiomallit Siirtofunktio-kohina-malli Siirtofunktio-kohina-mallin erikoistapauksia Stokastinen differenssiyhtälö >> Virheenkorjausmalli Yhteisintegroituvuus Dynaamisten regressiomallien rakentaminen TKK (c) Ilkka Mellin (2006) 91

92 Virheenkorjausmalli Stokastisen differenssiyhtälön virheenkorjausesitys Olkoon stokastista differenssiyhtälöä yt = γ + α yt 1+ β0xt + β1xt 1 + εt, α < 1 vastaava virheenkorjausesitys β0+ β1 Dyt = γ + β0dxt + ( α 1) yt 1 x t 1 + εt 1 α TKK (c) Ilkka Mellin (2006) 92

93 Virheenkorjausmalli Dynaaminen tasapaino Oletetaan, että muuttujien y ja x välinen riippuvuus on pitkällä aikavälillä muotoa y= K+ν x Jos muuttuja x kasvaa vakionopeudella g x, niin välttämättä myös y kasvaa vakionopeudella g =ν g y x Tällöin sanotaan, että systeemi on dynaamisessa tasapainossa, jonka määrittelee dynaaminen tasapainotila ( g, g ) x y TKK (c) Ilkka Mellin (2006) 93

94 Virheenkorjausmalli Pitkän aikavälin riippuvuudet Muuttujien y ja x välistä pitkän aikavälin riippuvuutta kuvaava yhtälö y = K+ν x on suoran yhtälö, jossa K = suoran vakiotermi ν = suoran kulmakerroin TKK (c) Ilkka Mellin (2006) 94

95 Virheenkorjausmalli Virheenkorjausmallin tulkinta 1/7 Samastetaan virheenkorjausesityksen β0+ β1 Dyt = γ + β0dxt + ( α 1) yt 1 x t 1 + εt 1 α differenssitermit muuttujien x ja y kasvuvauhtien kanssa: Dy g =ν g Dx t y x t g x TKK (c) Ilkka Mellin (2006) 95

96 Virheenkorjausmalli Virheenkorjausmallin tulkinta 2/7 Samastetaan virheenkorjausesityksen β0+ β1 Dyt = γ + β0dxt + ( α 1) yt 1 x t 1 + εt 1 α hakasulkulauseke β0+ β1 [] = y t 1 t 1 x t 1 1 α pitkän aikavälin riippuvuuden y K ν x kanssa, jolloin ν = β0+ β1 1 α TKK (c) Ilkka Mellin (2006) 96

97 Virheenkorjausmalli Virheenkorjausmallin tulkinta 3/7 Virheenkorjausesitys voidaan siten kirjoittaa muotoon g y = ν g x = γ + β0 gx+ ( α 1) K josta suoran y= K+ν x vakiotermi K saadaan ratkaistuksi: + ( ) 1 0 K γ β g = x αv TKK (c) Ilkka Mellin (2006) 97

98 Virheenkorjausmalli Virheenkorjausmallin tulkinta 4/7 Siten pitkän aikavälin riippuvuutta kuvaavassa yhtälössä y= K+ν x vakiotermi K γ + ( β 0 ν ) = 1 α g x riippuu kasvuvauhdista g x ja pitkän aikavälin kerroin on β0+ β1 ν = 1 α Jos kasvuvauhti g x = 0, pitkän aikavälin riippuvuutta kuvaava yhtälö supistuu staattisen tasapainon mukaiseksi tasapainotilaksi. TKK (c) Ilkka Mellin (2006) 98

99 Virheenkorjausmalli Virheenkorjausmallin tulkinta 5/7 Oletetaan, että havainnot ovat lähellä dynaamisen tasapainon mukaista kasvu-uraa. Tällöin β0+ β1 [] = y t 1 t 1 xt 1 K 1 α ja virheenkorjausesitys saa approksimatiivisesti muodon Dy γ + β Dx + ε t 0 t t γ γ + ( α 1) K = ( ν β0) gx mikä on vähäparametrinen esitys selitettävän muuttujan y lyhyen aikavälin riippuvuudelle selittäjästä x. TKK (c) Ilkka Mellin (2006) 99

100 Virheenkorjausmalli Virheenkorjausmallin tulkinta 6/7 Siten differenssimalli Dy γ + β Dx + ε t 0 t t on mielekäs kuvaus selitettävän muuttujan y ja selittäjän x lyhyen ajan riippuvuudelle, jos muuttujat ovat lähellä dynaamisen tasapainon mukaista kasvu-uraa. Vastaavasti tavanomainen lineaarinen (taso-) malli y = K+ ν x + η t t t on tällöin mielekäs kuvaus selitettävän muuttujan y ja selittäjän x pitkän ajan riippuvuudelle. TKK (c) Ilkka Mellin (2006) 100

101 Virheenkorjausmalli Virheenkorjausmallin tulkinta 7/7 Jos muuttujien y ja x arvot erkanevat dynaamisen tasapainon mukaiselta kasvu-uralta, vain virheenkorjausesitys pystyy antamaan riittävän kuvauksen muuttujien y ja x lyhyen ja pitkän aikavälin riippuvuuksille. Siten virheenkorjausesitys mallintaa samanaikaisesti muuttujien y ja x väliset lyhyen ja pitkän aikavälin riippuvuudet, jos muuttujien y ja x muodostama systeemi on dynaamisessa tasapainossa. TKK (c) Ilkka Mellin (2006) 101

102 Virheenkorjausmalli Virheenkorjausmallin nimi 1/2 Oletetaan, että muuttuja y alkaa kasvaa dynaamisen tasapainon mukaista kasvu-uraa nopeammin. Tällöin virheenkorjausesityksen lausekkeessa β + β 1 α 0 1 [] = y 1 t 1 xt 1 0 t > Koska olemme olettaneet, että α 1 < 0, β0+ β1 ( α 1) yt 1 xt 1 < 0 1 α TKK (c) Ilkka Mellin (2006) 102

103 Virheenkorjausmalli Virheenkorjausmallin nimi 2/2 Siten muuttujan y kasvuvauhti β0+ β1 g y Dyt = δ + β0dxt + ( α 1) yt 1 xt 1 + εt 1 α pyrkii seuraavalla askeleella pienenemään. Virheenkorjausmallin virheenkorjausmekanismi pakottaa siis muuttujan y kasvuvauhdin takaisin kohti dynaamisen tasapainon mukaista kasvu-uraa. Virheenkorjausmallin virheenkorjausmekanismi estää siis muuttujien y ja x arvojen erkanemisen kauas pitkän aikavälin riippuvuutta kuvaavalta kasvu-uralta. y= K+ν x TKK (c) Ilkka Mellin (2006) 103

104 Dynaamiset regressiomallit Staattiset vs dynaamiset regressiomallit Siirtofunktio-kohina-malli Siirtofunktio-kohina-mallin erikoistapauksia Stokastinen differenssiyhtälö Virheenkorjausmalli >> Yhteisintegroituvuus Dynaamisten regressiomallien rakentaminen TKK (c) Ilkka Mellin (2006) 104

105 Yhteisintegroituvuus Integroituvuus Olkoon z t, t Tstokastinen prosessi. Jos on, kun d epästationaarinen d< d0 D zt on stationaarinen, kun d = d0 z t on integroituva eli differenssistationaarinen astetta d 0. Merkintä: I( d ) zt 0 TKK (c) Ilkka Mellin (2006) 105

106 Yhteisintegroituvuus Integroituvuus: Esimerkkejä Satunnaiskulku (engl. random walk) 2 zt = zt 1 + εt, εt n. i. d.(0, σ ) Dzt = εt on I(1)-prosessi. Satunnaiskulku vakioin (engl. random walk with drift) 2 zt = γ + zt 1 + εt, εt n. i. d.(0, σ ) Dzt = γ + εt on I(1)-prosessi. TKK (c) Ilkka Mellin (2006) 106

107 Yhteisintegroituvuus I(0)-prosessin ominaisuuksia Olkoon stokastinen prosessi z t I(0)-prosessi ja E(z t ) = 0. Tällöin z t on stationaarinen stokastinen prosessi, jolla on seuraavat ominaisuudet: (i) (ii) Var(z t ) on äärellinen. Satunnaissykäyksillä eli innovaatioilla on vain tilapäinen vaikutus muuttujan z t arvoon. (iii) Tason z = 0 peräkkäisten ohitusten väliaikojen odotusarvo on äärellinen. (iv) Autokorrelaatiot pienenevät eksponentiaalista vauhtia niin, että niiden summa on äärellinen. TKK (c) Ilkka Mellin (2006) 107

108 Yhteisintegroituvuus I(1)-prosessin ominaisuuksia Olkoon stokastinen prosessi z t I(1)-prosessi ja z 0 = 0. Tällöin z t on epästationaarinen stokastinen prosessi, jolla on seuraavat ominaisuudet: (i) Var(z t ) +, kun t +. (ii) Satunnaissykäyksillä eli innovaatioilla on pysyvä vaikutus muuttujan z t arvoon. (iii) Tason z = 0 peräkkäisten ohitusten väliaikojen odotusarvo on ääretön. (iv) Korrelaatiot Cor( z, z + ) + 1 t t k kaikille k, kun t +. TKK (c) Ilkka Mellin (2006) 108

109 Yhteisintegroituvuus Yhteisintegroituvuus 1/2 Oletetaan, että x t ~ I(d) ja y t ~ I(d). Tällöin yleensä pätee (ν on vakio): Jos on olemassa vakio ν siten, että sanotaan, että x t ja y t ovat yhteisintegroituvia astein d ja f ja merkitään Hyvin usein z = y ν x I( d) t t t z = y ν x I( d f ), f > 0 t t t ( x, y ) YI( d, f ) t d = f = 1 t TKK (c) Ilkka Mellin (2006) 109

110 Yhteisintegroituvuus Yhteisintegroituvuus 2/2 Olkoon ( x, y ) YI( d, f ) Tällöin on olemassa vakio ν siten, että z = y ν x I( d f ) Vektoria t t t t t (1, v) kutsutaan yhteisintegroituvuusvektoriksi. TKK (c) Ilkka Mellin (2006) 110

111 Yhteisintegroituvuus Yhteisintegroituvuuden tulkinta, kun ν = 1 Olkoon ( x, y ) YI(1,1) t ja lisäksi ν = 1. Tällöin x t ja y t ovat epästationaarisia, mutta zt = yt xt on stationaarinen. t Siten x t ja y t eivät voi etääntyä mielivaltaisen kauas toisistaan, kun t kasvaa rajatta. Siten yhteisintegroituvuus on dynaamisen tasapainon ilmentymä. TKK (c) Ilkka Mellin (2006) 111

112 Yhteisintegroituvuus Yhteisintegroituvuuden yleinen tulkinta Olkoot x t ~ I(1), y t ~ I(1) ja zt = yt ν xt Muuttuja z t kuvaa muuttujien x t ja y t muodostaman systeemin tasapainovirhettä. Jos z t I(0), niin z t on stationaarinen ja siten muuttujien x t ja y t muodostama systeemi on melko usein tasapainossa. Jos z t I(1), niin z t on epästationaarinen ja tasapainon käsite ei ole relevantti muuttujien x t ja y t muodostamassa systeemissä. TKK (c) Ilkka Mellin (2006) 112

113 Yhteisintegroituvuus Lineaariset regressiomallit ja stationaarisuus 1/4 Tarkastellaan yksinkertaisen lineaarisen regressiomallin y = β x + u estimointia t t t Tarkastellaan seuraavia tapauksia: (i) y t ~ I(1) ja x t ~ I(1) (ii) y t ~ I(0) ja x t ~ I(1) (iii) y t ~ I(1) ja x t ~ I(0) (iv) y t ~ I(0) ja x t ~ I(0) TKK (c) Ilkka Mellin (2006) 113

114 Yhteisintegroituvuus Lineaariset regressiomallit ja stationaarisuus 2/4 (i) (ii) y t ~ I(1) ja x t ~ I(1) Malli voidaan estimoida PNS-menetelmällä, mutta tilastollisessa päättelyssä on otettava huomioon, että estimaattoreiden jakaumat ovat epätavanomaisia. y t ~ I(0) ja x t ~ I(1) Malli ei ole mielekäs, koska välttämättäβ= 0. TKK (c) Ilkka Mellin (2006) 114

115 Yhteisintegroituvuus Lineaariset regressiomallit ja stationaarisuus 3/4 (iii) y t ~ I(1) ja x t ~ I(0) Välttämättä u t ~ I(1) ja tavanomaisen PNSmenetelmään perustuvan estimointitekniikan soveltaminen ei ole mahdollista. (iv) y t ~ I(0) ja x t ~ I(0) Malli voidaan estimoida PNS-menetelmällä ja tavanomaisen tekniikan käyttäminen tilastollisessa päättelyssä on mahdollista. TKK (c) Ilkka Mellin (2006) 115

116 Yhteisintegroituvuus Lineaariset regressiomallit ja stationaarisuus 4/4 Yhteenveto: Regressioyhtälöiden estimointia helpottaa, jos mallin muuttujat ovat samaa integroituvuuden astetta. TKK (c) Ilkka Mellin (2006) 116

117 Yhteisintegroituvuus Tasot vs differenssit 1/2 Edellä on todettu, että tasomalli y = K+ ν x + η t t t kuvaa muuttujien y t ja x t pitkän aikavälin riippuvuutta. Samoin edellä on todettu, että differenssimalli Dy γ + β Dx + ε t 0 t t kuvaa muuttujien y t ja x t lyhyen aikavälin riippuvuutta, jos muuttujat y t ja x t ovat lähellä dynaamisen tasapainon mukaista kasvu-uraa. TKK (c) Ilkka Mellin (2006) 117

118 Yhteisintegroituvuus Tasot vs differenssit 2/2 Oletetaan, että y t ~ I(1) ja x t ~ I(1). Tasomallissa y t ja x t ovat I(1)-muuttujina epästationaarisia. Differenssimallissa Dy t ja Dx t ovat I(0)-muuttujina stationaarisia. Virheenkorjausmalli yhdistää samaan regressiomalliin selitettävän ja selittävän muuttujan pitkän ja lyhyen ajan riippuvuudet, mutta virheenkorjausmalli on mielekäs kuvaus näistä riippuvuuksista vain siinä tapauksessa, että muuttujat y t ja x t ovat yhteisintegroituneita. TKK (c) Ilkka Mellin (2006) 118

119 Yhteisintegroituvuus Virheenkorjausmalli ja yhteisintegroituvuus 1/3 Olkoon stokastista differenssiyhtälöä yt = γ + α yt 1+ β0xt + β1xt 1 + εt, α < 1 vastaava virheenkorjausesitys [ ] Dy = γ + β Dx + λ y ν x + ε t 0 t t 1 t 1 t λ= α 1 β0+ β1 ν = 1 α jossa ν on pitkän ajan kerroin. TKK (c) Ilkka Mellin (2006) 119

120 Yhteisintegroituvuus Virheenkorjausmalli ja yhteisintegroituvuus 2/3 Oletetaan, että y t ~ I(1) ja x t ~ I(1). Oletetaan, että y t vx Tällöin muuttujat Dy t ja Dx t ovat stationaarisia ja muuttuja [y t νx t ] t I(1) on kiinteälle ν epästationaarinen ja siten integroituvuuden asteet virheenkorjausmallissa eivät sovi toisiinsa. Tällöin mallia koskeva tavanomaiseen tekniikkaan perustuva tilastollinen päättely ei ole mahdollista. TKK (c) Ilkka Mellin (2006) 120

121 Yhteisintegroituvuus Virheenkorjausmalli ja yhteisintegroituvuus 3/3 Oletetaan, että y t ~ I(1) ja x t ~ I(1). Oletetaan, että on olemassa ν siten, että y t vx t I(0) Tällöin muuttujat Dy t ja Dx t ovat stationaarisia ja myös muuttuja [y t νx t ] stationaarinen ja siten integroituvuuden asteet sopivat virheenkorjausmallissa toisiinsa. Tällöin mallia koskeva tavanomaiseen tekniikkaan perustuva tilastollinen päättely on mahdollista. TKK (c) Ilkka Mellin (2006) 121

122 Yhteisintegroituvuus Grangerin esityslause 1/2 Oletetaan, että y t ~ I(1), x t ~ I(1) ja (y t, x t ) ~ YI(1,1). Tällöin on olemassa virheenkorjausesitys δ ( L) Dyt = ω( L) Dxt + λzt 1+ θ ( L) εt jossa ja zt = yt vxt I(0) (1, ν) on yhteisintegroituvuusvektori. TKK (c) Ilkka Mellin (2006) 122

123 Yhteisintegroituvuus Grangerin esityslause 2/2 Oletetaan, että y t ~ I(1), x t ~ I(1) ja olkoon muuttujien y t ja x t välillä virheenkorjausesitys δ ( L) Dyt = ω( L) Dxt + λzt 1+ θ ( L) εt jossa zt = yt vxt Tällöin y t ja x t ovat yhteisintegroituvia. Grangerin esityslauseen mukaan muuttujien y t ja x t yhteisintegroituvuus ja virheenkorjausesityksen olemassaolo muuttujille y t ja x t ovat yhtäpitäviä ominaisuuksia. TKK (c) Ilkka Mellin (2006) 123

124 Yhteisintegroituvuus Grangerin esityslause: Kommentteja Grangerin esityslauseesta seuraa, että seuraavat seikat voidaan samastaa: (i) (ii) Muuttujien y t ja x t dynaamisen pitkän aikavälin tasapainon olemassaolo. Yhteisintegroituvuus. (iii) Tasapainovirheen stationaarisuus. Jos muuttujien y t ja x t välillä ei ole dynaamista pitkän aikavälin tasapainoa, muuttujat y t ja x t eivät ole yhteisintegroituvia ja tasapainovirhe on epästationaarinen. TKK (c) Ilkka Mellin (2006) 124

125 Yhteisintegroituvuus Virheenkorjausmallin estimointi 1/2 Oletetaan, että y t ~ I(1), x t ~ I(1) ja (y t, x t ) ~ YI(1,1) ja olkoon yhteisintegroituvuusvektori (1, ν). Jos ν on tunnettu, tasapainovirhe zt = yt vxt on havaittu ja stationaarinen. Tällöin mallin Dy = γ + β Dx + λz + ε t 0 t t 1 t kaikki muuttujat ovat stationaarisia, jolloin sekä PNSmenetelmän käyttö estimoinnissa että tavanomainen tilastollinen päättely ovat mahdollisia. TKK (c) Ilkka Mellin (2006) 125

Dynaamiset regressiomallit

Dynaamiset regressiomallit MS-C2128 Ennustaminen ja Aikasarja-analyysi, Lauri Viitasaari Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2016 Tilastolliset aikasarjat voidaan jakaa kahteen

Lisätiedot

Regressioanalyysi. Kuusinen/Heliövaara 1

Regressioanalyysi. Kuusinen/Heliövaara 1 Regressioanalyysi Kuusinen/Heliövaara 1 Regressioanalyysin idea ja tavoitteet Regressioanalyysin idea: Oletetaan, että haluamme selittää jonkin selitettävän muuttujan havaittujen arvojen vaihtelun joidenkin

Lisätiedot

Regressioanalyysi. Vilkkumaa / Kuusinen 1

Regressioanalyysi. Vilkkumaa / Kuusinen 1 Regressioanalyysi Vilkkumaa / Kuusinen 1 Regressioanalyysin idea ja tavoitteet Regressioanalyysin idea: Halutaan selittää selitettävän muuttujan havaittujen arvojen vaihtelua selittävien muuttujien havaittujen

Lisätiedot

Yhden selittäjän lineaarinen regressiomalli (jatkoa) Ensi viikolla ei pidetä luentoa eikä harjoituksia. Heliövaara 1

Yhden selittäjän lineaarinen regressiomalli (jatkoa) Ensi viikolla ei pidetä luentoa eikä harjoituksia. Heliövaara 1 Yhden selittäjän lineaarinen regressiomalli (jatkoa) Ensi viikolla ei pidetä luentoa eikä harjoituksia Heliövaara 1 Regressiokertoimien PNS-estimaattorit Määritellään havaintojen x j ja y j, j = 1, 2,...,n

Lisätiedot

ABHELSINKI UNIVERSITY OF TECHNOLOGY

ABHELSINKI UNIVERSITY OF TECHNOLOGY Johdatus regressioanalyysiin Regressioanalyysin idea Oletetaan, että haluamme selittää jonkin selitettävän muuttujan havaittujen arvojen vaihtelun selittävien muuttujien havaittujen arvojen vaihtelun avulla.

Lisätiedot

Erityiskysymyksiä yleisen lineaarisen mallin soveltamisessa

Erityiskysymyksiä yleisen lineaarisen mallin soveltamisessa Ilkka Mellin Tilastolliset menetelmät Osa 4: Lineaarinen regressioanalyysi Erityiskysymyksiä yleisen lineaarisen mallin soveltamisessa TKK (c) Ilkka Mellin (2007) 1 Erityiskysymyksiä yleisen lineaarisen

Lisätiedot

Johdatus regressioanalyysiin. Heliövaara 1

Johdatus regressioanalyysiin. Heliövaara 1 Johdatus regressioanalyysiin Heliövaara 1 Regressioanalyysin idea Oletetaan, että haluamme selittää jonkin selitettävän muuttujan havaittujen arvojen vaihtelun selittävien muuttujien havaittujen arvojen

Lisätiedot

Mat Tilastollisen analyysin perusteet, kevät 2007

Mat Tilastollisen analyysin perusteet, kevät 2007 Mat-.104 Tilastollisen analyysin perusteet, kevät 007 8. luento: Usean selittäjän lineaarinen regressiomalli Kai Virtanen 1 Usean selittäjän lineaarinen regressiomalli Selitettävän muuttujan havaittujen

Lisätiedot

Ilkka Mellin Tilastolliset menetelmät. Osa 4: Lineaarinen regressioanalyysi. Yleinen lineaarinen malli. TKK (c) Ilkka Mellin (2007) 1

Ilkka Mellin Tilastolliset menetelmät. Osa 4: Lineaarinen regressioanalyysi. Yleinen lineaarinen malli. TKK (c) Ilkka Mellin (2007) 1 Ilkka Mellin Tilastolliset menetelmät Osa 4: Lineaarinen regressioanalyysi Yleinen lineaarinen malli TKK (c) Ilkka Mellin (2007) 1 Yleinen lineaarinen malli >> Usean selittäjän lineaarinen regressiomalli

Lisätiedot

4.0.2 Kuinka hyvä ennuste on?

4.0.2 Kuinka hyvä ennuste on? Luonteva ennuste on käyttää yhtälöä (4.0.1), jolloin estimaattori on muotoa X t = c + φ 1 X t 1 + + φ p X t p ja estimointivirheen varianssi on σ 2. X t }{{} todellinen arvo Xt }{{} esimaattori = ε t Esimerkki

Lisätiedot

Stationaariset stokastiset prosessit ja ARMA-mallit

Stationaariset stokastiset prosessit ja ARMA-mallit Stationaariset stokastiset prosessit ja ARMA-mallit MS-C2128 Ennustaminen ja Aikasarja-analyysi, Heikki Seppälä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy

Lisätiedot

Tilastollisen analyysin perusteet Luento 7: Lineaarinen regressio

Tilastollisen analyysin perusteet Luento 7: Lineaarinen regressio Tilastollisen analyysin perusteet Luento 7: Lineaarinen regressio Sisältö Regressioanalyysissä tavoitteena on tutkia yhden tai useamman selittävän muuttujan vaikutusta selitettävään muuttujaan. Sen avulla

Lisätiedot

Mat Tilastollisen analyysin perusteet, kevät 2007

Mat Tilastollisen analyysin perusteet, kevät 2007 Mat-.14 Tilastollisen analyysin perusteet, kevät 7 7. luento: Tarina yhden selittään lineaarisesta regressiomallista atkuu Kai Virtanen 1 Luennolla 6 opittua Kuvataan havainnot (y, x ) yhden selittään

Lisätiedot

Johdatus tilastotieteeseen Yleinen lineaarinen malli. TKK (c) Ilkka Mellin (2004) 1

Johdatus tilastotieteeseen Yleinen lineaarinen malli. TKK (c) Ilkka Mellin (2004) 1 Johdatus tilastotieteeseen Yleinen lineaarinen malli TKK (c) Ilkka Mellin (2004) 1 Yleinen lineaarinen malli Usean selittäjän lineaarinen regressiomalli Yleisen lineaarisen mallin matriisisesitys Yleisen

Lisätiedot

Harjoitus 9: Excel - Tilastollinen analyysi

Harjoitus 9: Excel - Tilastollinen analyysi Harjoitus 9: Excel - Tilastollinen analyysi Mat-2.2107 Sovelletun matematiikan tietokonetyöt Syksy 2006 Mat-2.2107 Sovelletun matematiikan tietokonetyöt 1 Harjoituksen aiheita Tutustuminen regressioanalyysiin

Lisätiedot

ARMA mallien ominaisuudet ja rakentaminen

ARMA mallien ominaisuudet ja rakentaminen MS-C2128 Ennustaminen ja Aikasarja-analyysi, Lauri Viitasaari Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2016 Viikko 4: 1 ARMA-mallien ominaisuudet 1 Stationaaristen

Lisätiedot

9. Tila-avaruusmallit

9. Tila-avaruusmallit 9. Tila-avaruusmallit Aikasarjan stokastinen malli ja aikasarjasta tehdyt havainnot voidaan esittää joustavassa ja monipuolisessa muodossa ns. tila-avaruusmallina. Useat aikasarjat edustavat dynaamisia

Lisätiedot

Ilkka Mellin Aikasarja-analyysi ARMA-mallit

Ilkka Mellin Aikasarja-analyysi ARMA-mallit Ilkka Mellin Aikasarja-analyysi ARMA-mallit TKK (c) Ilkka Mellin (007) 1 ARMA-mallit >> ARMA-mallit ja niiden ominaisuudet ARMA-mallien auto- ja osittaisautokorrelaatiofunktiot ARMA-mallien spektri ARMA-mallien

Lisätiedot

Moniulotteisia todennäköisyysjakaumia. Moniulotteisia todennäköisyysjakaumia. Moniulotteisia todennäköisyysjakaumia: Mitä opimme?

Moniulotteisia todennäköisyysjakaumia. Moniulotteisia todennäköisyysjakaumia. Moniulotteisia todennäköisyysjakaumia: Mitä opimme? TKK (c) Ilkka Mellin (4) Moniulotteisia todennäköisyysjakaumia Johdatus todennäköisyyslaskentaan Moniulotteisia todennäköisyysjakaumia TKK (c) Ilkka Mellin (4) Moniulotteisia todennäköisyysjakaumia: Mitä

Lisätiedot

Johdatus regressioanalyysiin

Johdatus regressioanalyysiin Ilkka Mellin Tilastolliset menetelmät Osa 4: Lineaarinen regressioanalyysi Johdatus regressioanalyysiin TKK (c) Ilkka Mellin (2007) 1 Johdatus regressioanalyysiin >> Regressioanalyysin lähtökohdat ja tavoitteet

Lisätiedot

Moniulotteisia todennäköisyysjakaumia

Moniulotteisia todennäköisyysjakaumia Ilkka Mellin Todennäköisyyslaskenta Osa 3: Todennäköisyysjakaumia Moniulotteisia todennäköisyysjakaumia TKK (c) Ilkka Mellin (007) 1 Moniulotteisia todennäköisyysjakaumia >> Multinomijakauma Kaksiulotteinen

Lisätiedot

1. Tutkitaan regressiomallia Y i = β 0 + β 1 X i + u i ja oletetaan, että tavanomaiset

1. Tutkitaan regressiomallia Y i = β 0 + β 1 X i + u i ja oletetaan, että tavanomaiset TA7, Ekonometrian johdantokurssi HARJOITUS 7 RATKAISUEHDOTUKSET 16.3.2015 1. Tutkitaan regressiomallia Y i = β 0 + X i + u i ja oletetaan, että tavanomaiset regressiomallin oletukset pätevät (Key Concept

Lisätiedot

Mat Sovellettu todennäköisyyslasku A. Moniulotteiset jakaumat. Avainsanat:

Mat Sovellettu todennäköisyyslasku A. Moniulotteiset jakaumat. Avainsanat: Mat-.9 Sovellettu todennäköisyyslasku A Mat-.9 Sovellettu todennäköisyyslasku A / Ratkaisut Aiheet: Avainsanat: Moniulotteiset jakaumat Diskreetti jakauma, Ehdollinen jakauma, Ehdollinen odotusarvo, Jatkuva

Lisätiedot

3. Teoriaharjoitukset

3. Teoriaharjoitukset 3. Teoriaharjoitukset Demotehtävät 3.1 a Olkoot u ja v satunnaumuuttujia, joilla on seuraavat ominaisuudet: E(u = E(v = 0 Var(u = Var(v = σ 2 Cov(u, v = E(uv = 0 Näytä että deterministinen prosessi. x

Lisätiedot

Johdatus tilastotieteeseen Estimointi. TKK (c) Ilkka Mellin (2005) 1

Johdatus tilastotieteeseen Estimointi. TKK (c) Ilkka Mellin (2005) 1 Johdatus tilastotieteeseen Estimointi TKK (c) Ilkka Mellin (2005) 1 Estimointi Todennäköisyysjakaumien parametrit ja niiden estimointi Hyvän estimaattorin ominaisuudet TKK (c) Ilkka Mellin (2005) 2 Estimointi:

Lisätiedot

Ilkka Mellin Aikasarja-analyysi Suurimman uskottavuuden menetelmä

Ilkka Mellin Aikasarja-analyysi Suurimman uskottavuuden menetelmä Ilkka Mellin Aikasarja-analyysi Suurimman uskottavuuden menetelmä TKK (c) Ilkka Mellin (2007) 1 Suurimman uskottavuuden menetelmä >> Suurimman uskottavuuden estimointimenetelmä Tarkentuvuus Asymptoottinen

Lisätiedot

8. Muita stokastisia malleja 8.1 Epölineaariset mallit ARCH ja GARCH

8. Muita stokastisia malleja 8.1 Epölineaariset mallit ARCH ja GARCH 8. Muita stokastisia malleja 8.1 Epölineaariset mallit ARCH ja GARCH Osa aikasarjoista kehittyy hyvin erityyppisesti erilaisissa tilanteissa. Esimerkiksi pörssikurssien epävakaus keskittyy usein lyhyisiin

Lisätiedot

Ilkka Mellin Tilastolliset menetelmät Osa 2: Otokset, otosjakaumat ja estimointi Estimointi

Ilkka Mellin Tilastolliset menetelmät Osa 2: Otokset, otosjakaumat ja estimointi Estimointi Ilkka Mellin Tilastolliset menetelmät Osa 2: Otokset, otosjakaumat ja estimointi Estimointi TKK (c) Ilkka Mellin (2006) 1 Estimointi >> Todennäköisyysjakaumien parametrit ja niiden estimointi Hyvän estimaattorin

Lisätiedot

Osa 2: Otokset, otosjakaumat ja estimointi

Osa 2: Otokset, otosjakaumat ja estimointi Ilkka Mellin Tilastolliset menetelmät Osa 2: Otokset, otosjakaumat ja estimointi Estimointi TKK (c) Ilkka Mellin (2007) 1 Estimointi >> Todennäköisyysjakaumien parametrit ja niiden estimointi Hyvän estimaattorin

Lisätiedot

Kertaus. MS-C2128 Ennustaminen ja Aikasarja-analyysi, Heikki Seppälä

Kertaus. MS-C2128 Ennustaminen ja Aikasarja-analyysi, Heikki Seppälä MS-C2128 Ennustaminen ja Aikasarja-analyysi, Heikki Seppälä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2015 Viikko 1: Yleinen lineaarinen malli 1 Määritelmä

Lisätiedot

Vastaavasti voidaan määritellä korkeamman kertaluvun autoregressiiviset prosessit.

Vastaavasti voidaan määritellä korkeamman kertaluvun autoregressiiviset prosessit. Autokovarianssi: (kun τ 0) Γ t (τ) = E[(X t µ t )(X t τ µ t τ )] ( ) ( = E[ φ k ε t k φ j ε t τ j )] = = j=0 φ j+k E[ε t k ε t τ j ] k,j=0 φ j+k σ 2 δ k,τ+j k,j=0 = σ 2 φ j+k δ k,τ+j = = k,j=0 φ τ+2j I

Lisätiedot

Estimointi. Estimointi. Estimointi: Mitä opimme? 2/4. Estimointi: Mitä opimme? 1/4. Estimointi: Mitä opimme? 3/4. Estimointi: Mitä opimme?

Estimointi. Estimointi. Estimointi: Mitä opimme? 2/4. Estimointi: Mitä opimme? 1/4. Estimointi: Mitä opimme? 3/4. Estimointi: Mitä opimme? TKK (c) Ilkka Mellin (2004) 1 Johdatus tilastotieteeseen TKK (c) Ilkka Mellin (2004) 2 Mitä opimme? 1/4 Tilastollisen tutkimuksen tavoitteena on tehdä johtopäätöksiä prosesseista, jotka generoivat reaalimaailman

Lisätiedot

ARMA mallien rakentaminen, johdatus dynaamisiin regressiomalle

ARMA mallien rakentaminen, johdatus dynaamisiin regressiomalle ARMA mallien rakentaminen, johdatus dynaamisiin regressiomalleihin MS-C2128 Ennustaminen ja Aikasarja-analyysi, Heikki Seppälä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto

Lisätiedot

3.6 Su-estimaattorien asymptotiikka

3.6 Su-estimaattorien asymptotiikka 3.6 Su-estimaattorien asymptotiikka su-estimaattorit ovat usein olleet puutteellisia : ne ovat usein harhaisia ja eikä ne välttämättä ole täystehokkaita asymptoottisilta ominaisuuksiltaan ne ovat yleensä

Lisätiedot

Johdatus tilastotieteeseen Johdatus regressioanalyysiin. TKK (c) Ilkka Mellin (2005) 1

Johdatus tilastotieteeseen Johdatus regressioanalyysiin. TKK (c) Ilkka Mellin (2005) 1 Johdatus tilastotieteeseen Johdatus regressioanalyysiin TKK (c) Ilkka Mellin (2005) 1 Johdatus regressioanalyysiin Regressioanalyysin lähtökohdat ja tavoitteet Deterministiset mallit ja regressioanalyysi

Lisätiedot

Ilkka Mellin Todennäköisyyslaskenta Osa 3: Todennäköisyysjakaumia Moniulotteisia todennäköisyysjakaumia

Ilkka Mellin Todennäköisyyslaskenta Osa 3: Todennäköisyysjakaumia Moniulotteisia todennäköisyysjakaumia Ilkka Mellin Todennäköisyyslaskenta Osa 3: Todennäköisyysjakaumia Moniulotteisia todennäköisyysjakaumia TKK (c) Ilkka Mellin (006) 1 Moniulotteisia todennäköisyysjakaumia >> Multinomijakauma Kaksiulotteinen

Lisätiedot

STOKASTISET PROSESSIT

STOKASTISET PROSESSIT TEORIA STOKASTISET PROSESSIT Satunnaisuutta sisältävän tapahtumasarjan kulkua koskevaa havaintosarjaa sanotaan aikasarjaksi. Sana korostaa empiirisen, kokeellisesti havaitun tiedon luonnetta. Aikasarjan

Lisätiedot

Johdatus todennäköisyyslaskentaan Moniulotteisia todennäköisyysjakaumia. TKK (c) Ilkka Mellin (2005) 1

Johdatus todennäköisyyslaskentaan Moniulotteisia todennäköisyysjakaumia. TKK (c) Ilkka Mellin (2005) 1 Johdatus todennäköisyyslaskentaan Moniulotteisia todennäköisyysjakaumia TKK (c) Ilkka Mellin (005) 1 Moniulotteisia todennäköisyysjakaumia Multinomijakauma Kaksiulotteinen normaalijakauma TKK (c) Ilkka

Lisätiedot

Sovellettu todennäköisyyslaskenta B

Sovellettu todennäköisyyslaskenta B Sovellettu todennäköisyyslaskenta B Antti Rasila 22. marraskuuta 2007 Antti Rasila () TodB 22. marraskuuta 2007 1 / 17 1 Epäparametrisia testejä (jatkoa) χ 2 -riippumattomuustesti 2 Johdatus regressioanalyysiin

Lisätiedot

Ilkka Mellin Tilastolliset menetelmät. Osa 4: Lineaarinen regressioanalyysi. Regressiomallin valinta. TKK (c) Ilkka Mellin (2007) 1

Ilkka Mellin Tilastolliset menetelmät. Osa 4: Lineaarinen regressioanalyysi. Regressiomallin valinta. TKK (c) Ilkka Mellin (2007) 1 Ilkka Mellin Tilastolliset menetelmät Osa 4: Lineaarinen regressioanalyysi Regressiomallin valinta TKK (c) Ilkka Mellin (2007) 1 Regressiomallin valinta >> Regressiomallin valinta: Johdanto Mallinvalintatestit

Lisätiedot

l (φ; y) = l(θ(φ); y) Toinen derivaatta saadaan tulon derivaatan laskusäännöllä Uudelleenparametroidun mallin Fisherin informaatio on

l (φ; y) = l(θ(φ); y) Toinen derivaatta saadaan tulon derivaatan laskusäännöllä Uudelleenparametroidun mallin Fisherin informaatio on HY, MTO / Matemaattisten tieteiden kandiohjelma Tilastollinen päättely II, kevät 018 Harjoitus B Ratkaisuehdotuksia Tehtäväsarja I 1 (Monisteen tehtävä 14) Olkoon f Y (y; θ) tilastollinen malli, jonka

Lisätiedot

Kuva 3.1: Näyte Gaussisesta valkoisest kohinasta ε t N(0, 1) Aika t

Kuva 3.1: Näyte Gaussisesta valkoisest kohinasta ε t N(0, 1) Aika t Kuva 3.1: Näyte Gaussisesta valkoisest kohinasta ε t N(0, 1) Valkoinen kohina ε t 2 1 0 1 2 Voimme tehdä saman laskun myös yleiselle välille [ a, a], missä 0 < a

Lisätiedot

Johdatus tilastotieteeseen Regressiomallin valinta. TKK (c) Ilkka Mellin (2004) 1

Johdatus tilastotieteeseen Regressiomallin valinta. TKK (c) Ilkka Mellin (2004) 1 Johdatus tilastotieteeseen Regressiomallin valinta TKK (c) Ilkka Mellin (2004) 1 Regressiomallin valinta Regressiomallin valinta: Johdanto Mallinvalintatestit Mallinvalintakriteerit Epälineaaristen riippuvuuksien

Lisätiedot

Tilastollisen analyysin perusteet Luento 8: Lineaarinen regressio, testejä ja luottamusvälejä

Tilastollisen analyysin perusteet Luento 8: Lineaarinen regressio, testejä ja luottamusvälejä Tilastollisen analyysin perusteet Luento 8: Lineaarinen regressio, testejä ja luottamusvälejä arvon Sisältö arvon Bootstrap-luottamusvälit arvon arvon Oletetaan, että meillä on n kappaletta (x 1, y 1 ),

Lisätiedot

Ennustaminen ARMA malleilla ja Kalmanin suodin

Ennustaminen ARMA malleilla ja Kalmanin suodin Ennustaminen ARMA malleilla ja Kalmanin suodin MS-C2128 Ennustaminen ja Aikasarja-analyysi, Lauri Viitasaari Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2017

Lisätiedot

Tilastollisen analyysin perusteet Luento 9: Moniulotteinen lineaarinen. regressio

Tilastollisen analyysin perusteet Luento 9: Moniulotteinen lineaarinen. regressio Tilastollisen analyysin perusteet Luento 9: lineaarinen lineaarinen Sisältö lineaarinen lineaarinen lineaarinen Lineaarinen Oletetaan, että meillä on n kappaletta (x 1, y 1 ), (x 2, y 2 )..., (x n, y n

Lisätiedot

Väliestimointi (jatkoa) Heliövaara 1

Väliestimointi (jatkoa) Heliövaara 1 Väliestimointi (jatkoa) Heliövaara 1 Bernoulli-jakauman odotusarvon luottamusväli 1/2 Olkoon havainnot X 1,..., X n yksinkertainen satunnaisotos Bernoulli-jakaumasta parametrilla p. Eli X Bernoulli(p).

Lisätiedot

Dynaamisten systeemien teoriaa. Systeemianalyysilaboratorio II

Dynaamisten systeemien teoriaa. Systeemianalyysilaboratorio II Dynaamisten systeemien teoriaa Systeemianalyysilaboratorio II 15.11.2017 Vakiot, sisäänmenot, ulostulot ja häiriöt Mallin vakiot Systeemiparametrit annettuja vakioita, joita ei muuteta; esim. painovoiman

Lisätiedot

6.2.3 Spektrikertymäfunktio

6.2.3 Spektrikertymäfunktio ja prosessin (I + θl + + θl q )ε t spektritiheysfunktio on Lemman 6. ja Esimerkin 6.4 nojalla σ π 1 + θ 1e iω + + θ q e iqω. Koska viivepolynomien avulla määritellyt prosessit yhtyvät, niin myös niiden

Lisätiedot

6.5.2 Tapering-menetelmä

6.5.2 Tapering-menetelmä 6.5.2 Tapering-menetelmä Määritelmä 6.7. Tapering on spektrin estimointimenetelmä, jossa estimaattori on muotoa f m (ω) = 1 m ( ) k w 2π m Γ(k)e ikω, k= m missä Γ on otosautokovarianssifunktio ja ikkunafunktio

Lisätiedot

2. Teoriaharjoitukset

2. Teoriaharjoitukset 2. Teoriaharjoitukset Demotehtävät 2.1 Todista Gauss-Markovin lause. Ratkaisu. Oletetaan että luentokalvojen standardioletukset (i)-(v) ovat voimassa. Huomaa että Gauss-Markovin lause ei vaadi virhetermien

Lisätiedot

Sovellettu todennäköisyyslaskenta B

Sovellettu todennäköisyyslaskenta B Sovellettu todennäköisyyslaskenta B Antti Rasila 8. marraskuuta 2007 Antti Rasila () TodB 8. marraskuuta 2007 1 / 18 1 Kertausta: momenttimenetelmä ja suurimman uskottavuuden menetelmä 2 Tilastollinen

Lisätiedot

Kertaus. MS-C2128 Ennustaminen ja Aikasarja-analyysi, Lauri Viitasaari

Kertaus. MS-C2128 Ennustaminen ja Aikasarja-analyysi, Lauri Viitasaari MS-C2128 Ennustaminen ja Aikasarja-analyysi, Lauri Viitasaari Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2017 Viikko 1: Yleinen lineaarinen malli 1 Määritelmä

Lisätiedot

TA7, Ekonometrian johdantokurssi HARJOITUS 4 1 RATKAISUEHDOTUKSET

TA7, Ekonometrian johdantokurssi HARJOITUS 4 1 RATKAISUEHDOTUKSET TA7, Ekonometrian johdantokurssi HARJOITUS 4 1 RATKAISUEHDOTUKSET 16..015 1. a Poliisivoimien suuruuden lisäksi piirikuntien rikostilastoihin vaikuttaa monet muutkin tekijät. Esimerkiksi asukkaiden keskimääräinen

Lisätiedot

5.7 Uskottavuusfunktioon perustuvia testejä II

5.7 Uskottavuusfunktioon perustuvia testejä II 5.7 Uskottavuusfunktioon perustuvia testejä II Tässä pykälässä pohditaan edellä tarkasteltujen kolmen testisuureen yleistystä malleihin, joiden parametri on useampiulotteinen, ja testausasetelmiin, joissa

Lisätiedot

1. Tutkitaan tavallista kahden selittäjän regressiomallia

1. Tutkitaan tavallista kahden selittäjän regressiomallia TA7, Ekonometrian johdantokurssi HARJOITUS 5 RATKAISUEHDOTUKSET 232215 1 Tutkitaan tavallista kahden selittäjän regressiomallia Y i = β + β 1 X 1,i + β 2 X 2,i + u i (a) Kirjoita regressiomalli muodossa

Lisätiedot

Testit järjestysasteikollisille muuttujille

Testit järjestysasteikollisille muuttujille Ilkka Mellin Tilastolliset menetelmät Osa 3: Tilastolliset testit Testit järjestysasteikollisille muuttujille TKK (c) Ilkka Mellin (2007) 1 Testit järjestysasteikollisille muuttujille >> Järjestysasteikollisten

Lisätiedot

Ilkka Mellin Aikasarja-analyysi Stationaariset stokastiset prosessit

Ilkka Mellin Aikasarja-analyysi Stationaariset stokastiset prosessit Ilkka Mellin Aikasarja-analyysi Stationaariset stokastiset prosessit TKK (c) Ilkka Mellin (2007) 1 Stationaariset stokastiset prosessit >> Stationaariset stokastiset prosessit Integroituvuus Korrelaatiofunktioiden

Lisätiedot

Mat Tilastollisen analyysin perusteet, kevät 2007

Mat Tilastollisen analyysin perusteet, kevät 2007 Mat-2.2104 Tilastollisen analyysin perusteet, kevät 2007 2. luento: Tilastolliset testit Kai Virtanen 1 Tilastollinen testaus Tutkimuksen kohteena olevasta perusjoukosta esitetään väitteitä oletuksia joita

Lisätiedot

Testejä suhdeasteikollisille muuttujille

Testejä suhdeasteikollisille muuttujille Ilkka Mellin Tilastolliset menetelmät Osa 3: Tilastolliset testit Testejä suhdeasteikollisille muuttujille TKK (c) Ilkka Mellin (007) 1 Testejä suhdeasteikollisille muuttujille >> Testit normaalijakauman

Lisätiedot

Testit laatueroasteikollisille muuttujille

Testit laatueroasteikollisille muuttujille Ilkka Mellin Tilastolliset menetelmät Osa 3: Tilastolliset testit Testit laatueroasteikollisille muuttujille TKK (c) Ilkka Mellin (2007) 1 Testit laatueroasteikollisille muuttujille >> Laatueroasteikollisten

Lisätiedot

Oletetaan, että virhetermit eivät korreloi toistensa eikä faktorin f kanssa. Toisin sanoen

Oletetaan, että virhetermit eivät korreloi toistensa eikä faktorin f kanssa. Toisin sanoen Yhden faktorin malli: n kpl sijoituskohteita, joiden tuotot ovat r i, i =, 2,..., n. Olkoon f satunnaismuuttuja ja oletetaan, että tuotot voidaan selittää yhtälön r i = a i + b i f + e i avulla, missä

Lisätiedot

Tilastollinen testaus. Vilkkumaa / Kuusinen 1

Tilastollinen testaus. Vilkkumaa / Kuusinen 1 Tilastollinen testaus Vilkkumaa / Kuusinen 1 Motivointi Viime luennolla: havainnot generoineen jakauman muoto on usein tunnettu, mutta parametrit tulee estimoida Joskus parametreista on perusteltua esittää

Lisätiedot

Dynaamiset regressiomallit

Dynaamiset regressiomallit MS-C2128 Ennustaminen ja Aikasarja-analyysi, Heikki Seppälä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2015 Viikko 6: 1 Kalmanin suodatin Aiemmin käsitellyt

Lisätiedot

IV. TASAINEN SUPPENEMINEN. f(x) = lim. jokaista ε > 0 ja x A kohti n ε,x N s.e. n n

IV. TASAINEN SUPPENEMINEN. f(x) = lim. jokaista ε > 0 ja x A kohti n ε,x N s.e. n n IV. TASAINEN SUPPENEMINEN IV.. Funktiojonon tasainen suppeneminen Olkoon A R joukko ja f n : A R funktio, n =, 2, 3,..., jolloin jokaisella x A muodostuu lukujono f x, f 2 x,.... Jos tämä jono suppenee

Lisätiedot

Lause 4.2. Lineearinen pienimmän keskineliövirheen estimaattoi on lineaarinen projektio.

Lause 4.2. Lineearinen pienimmän keskineliövirheen estimaattoi on lineaarinen projektio. Määritelmä 4.3. Estimaattoria X(Y ) nimitetään lineaariseksi projektioksi, jos X on lineaarinen kuvaus ja E[(X X(Y )) Y] 0 }{{} virhetermi Lause 4.2. Lineearinen pienimmän keskineliövirheen estimaattoi

Lisätiedot

ABHELSINKI UNIVERSITY OF TECHNOLOGY

ABHELSINKI UNIVERSITY OF TECHNOLOGY Tilastollinen testaus Tilastollinen testaus Tilastollisessa testauksessa tutkitaan tutkimuskohteita koskevien oletusten tai väitteiden paikkansapitävyyttä havaintojen avulla. Testattavat oletukset tai

Lisätiedot

Johdatus tilastotieteeseen Testit suhdeasteikollisille muuttujille. TKK (c) Ilkka Mellin (2004) 1

Johdatus tilastotieteeseen Testit suhdeasteikollisille muuttujille. TKK (c) Ilkka Mellin (2004) 1 Johdatus tilastotieteeseen Testit suhdeasteikollisille muuttujille TKK (c) Ilkka Mellin (004) 1 Testit suhdeasteikollisille muuttujille Testit normaalijakauman parametreille Yhden otoksen t-testi Kahden

Lisätiedot

Dynaamisten systeemien identifiointi 1/2

Dynaamisten systeemien identifiointi 1/2 Dynaamisten systeemien identifiointi 1/2 Mallin rakentaminen mittausten avulla Epäparametriset menetelmät: tuloksena malli, joka ei perustu parametreille impulssi-, askel- tai taajusvaste siirtofunktion

Lisätiedot

1. Tilastollinen malli??

1. Tilastollinen malli?? 1. Tilastollinen malli?? https://fi.wikipedia.org/wiki/tilastollinen_malli https://en.wikipedia.org/wiki/statistical_model http://projecteuclid.org/euclid.aos/1035844977 Tilastollinen malli?? Numeerinen

Lisätiedot

Sovellettu todennäköisyyslaskenta B

Sovellettu todennäköisyyslaskenta B Sovellettu todennäköisyyslaskenta B Antti Rasila 16. marraskuuta 2007 Antti Rasila () TodB 16. marraskuuta 2007 1 / 15 1 Epäparametrisia testejä χ 2 -yhteensopivuustesti Homogeenisuuden testaaminen Antti

Lisätiedot

Yleistetyistä lineaarisista malleista

Yleistetyistä lineaarisista malleista Yleistetyistä lineaarisista malleista Tilastotiede käytännön tutkimuksessa -kurssi, kesä 2001 Reijo Sund Klassinen lineaarinen malli y = Xb + e eli E(Y) = m, jossa m = Xb Satunnaiskomponentti: Y:n komponentit

Lisätiedot

Johdatus tilastotieteeseen Testit suhdeasteikollisille muuttujille. TKK (c) Ilkka Mellin (2005) 1

Johdatus tilastotieteeseen Testit suhdeasteikollisille muuttujille. TKK (c) Ilkka Mellin (2005) 1 Johdatus tilastotieteeseen Testit suhdeasteikollisille muuttujille TKK (c) Ilkka Mellin (005) 1 Testit suhdeasteikollisille muuttujille Testit normaalijakauman parametreille Yhden otoksen t-testi Kahden

Lisätiedot

Todennäköisyyslaskennan ja tilastotieteen peruskurssi Esimerkkikokoelma 3

Todennäköisyyslaskennan ja tilastotieteen peruskurssi Esimerkkikokoelma 3 Todennäköisyyslaskennan ja tilastotieteen peruskurssi Esimerkkikokoelma 3 Aiheet: Satunnaisvektorit ja moniulotteiset jakaumat Tilastollinen riippuvuus ja lineaarinen korrelaatio Satunnaisvektorit ja moniulotteiset

Lisätiedot

6.1 Autokovarianssifunktion karakterisaatio aikatasossa

6.1 Autokovarianssifunktion karakterisaatio aikatasossa 6. Spektraalianalyysi Tällä kurssilla on käyty läpi eräitä stationääristen aikasarjojen ominaispiirteitä, kuten aikasarjaa mallintavan stokastisen prosessin X t odotusarvo E[X t ] ja autokovarianssifunktio

Lisätiedot

MS-A0204 Differentiaali- ja integraalilaskenta 2 (ELEC2) Luento 7: Pienimmän neliösumman menetelmä ja Newtonin menetelmä.

MS-A0204 Differentiaali- ja integraalilaskenta 2 (ELEC2) Luento 7: Pienimmän neliösumman menetelmä ja Newtonin menetelmä. MS-A0204 Differentiaali- ja integraalilaskenta 2 (ELEC2) Luento 7: Pienimmän neliösumman menetelmä ja Newtonin menetelmä. Antti Rasila Matematiikan ja systeemianalyysin laitos Aalto-yliopisto Kevät 2016

Lisätiedot

Keskipisteen lisääminen 2 k -faktorikokeeseen (ks. Montgomery 9-6)

Keskipisteen lisääminen 2 k -faktorikokeeseen (ks. Montgomery 9-6) Mat-.3 Koesuunnittelu ja tilastolliset mallit kevät Keskipisteen lisääminen k -faktorikokeeseen (ks. Montgomery 9-6) Esim (Montg. ex. 9-, 6-): Tutkitaan kemiallisen prosessin saannon Y riippuvuutta faktoreista

Lisätiedot

Sovellettu todennäköisyyslaskenta B

Sovellettu todennäköisyyslaskenta B Sovellettu todennäköisyyslaskenta B Antti Rasila 30. marraskuuta 2007 Antti Rasila () TodB 30. marraskuuta 2007 1 / 19 1 Lineaarinen regressiomalli ja suurimman uskottavuuden menetelmä Minimin löytäminen

Lisätiedot

Harjoitus 7: NCSS - Tilastollinen analyysi

Harjoitus 7: NCSS - Tilastollinen analyysi Harjoitus 7: NCSS - Tilastollinen analyysi Mat-2.2107 Sovelletun matematiikan tietokonetyöt Syksy 2006 Mat-2.2107 Sovelletun matematiikan tietokonetyöt 1 Harjoituksen aiheita Tilastollinen testaus Testaukseen

Lisätiedot

Vastepintamenetelmä. Kuusinen/Heliövaara 1

Vastepintamenetelmä. Kuusinen/Heliövaara 1 Vastepintamenetelmä Kuusinen/Heliövaara 1 Vastepintamenetelmä Vastepintamenetelmässä pyritään vasteen riippuvuutta siihen vaikuttavista tekijöistä approksimoimaan tekijöiden polynomimuotoisella funktiolla,

Lisätiedot

Yleinen lineaarinen malli

Yleinen lineaarinen malli MS-C2128 Ennustaminen ja Aikasarja-analyysi, Heikki Seppälä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2015 Viikko 1: 1 Määritelmä ja standardioletukset 2

Lisätiedot

Johdatus tilastotieteeseen Testit laatueroasteikollisille muuttujille. TKK (c) Ilkka Mellin (2004) 1

Johdatus tilastotieteeseen Testit laatueroasteikollisille muuttujille. TKK (c) Ilkka Mellin (2004) 1 Johdatus tilastotieteeseen Testit laatueroasteikollisille muuttujille TKK (c) Ilkka Mellin (2004) 1 Testit laatueroasteikollisille muuttujille Laatueroasteikollisten muuttujien testit Testi suhteelliselle

Lisätiedot

Regressiodiagnostiikka ja regressiomallin valinta

Regressiodiagnostiikka ja regressiomallin valinta Regressiodiagnostiikka ja regressiomallin valinta MS-C2128 Ennustaminen ja Aikasarja-analyysi, Heikki Seppälä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2015

Lisätiedot

Latinalaiset neliöt. Latinalaiset neliöt. Latinalaiset neliöt. Latinalaiset neliöt: Mitä opimme? Latinalaiset neliöt

Latinalaiset neliöt. Latinalaiset neliöt. Latinalaiset neliöt. Latinalaiset neliöt: Mitä opimme? Latinalaiset neliöt TKK (c) Ilkka Mellin (005) Koesuunnittelu TKK (c) Ilkka Mellin (005) : Mitä opimme? Tarkastelemme tässä luvussa seuraavaa kysymystä: Miten varianssianalyysissa tutkitaan yhden tekijän vaikutusta vastemuuttujaan,

Lisätiedot

11 Raja-arvolauseita ja approksimaatioita

11 Raja-arvolauseita ja approksimaatioita 11 Raja-arvolauseita ja approksimaatioita Tässä luvussa esitellään sellaisia kuuluisia todennäköisyysteorian raja-arvolauseita, joita sovelletaan usein tilastollisessa päättelyssä. Näiden raja-arvolauseiden

Lisätiedot

Ilkka Mellin Aikasarja-analyysi Aikasarjat

Ilkka Mellin Aikasarja-analyysi Aikasarjat Ilkka Mellin Aikasarja-analyysi Aikasarjat TKK (c) Ilkka Mellin (2007) 1 Aikasarjat >> Aikasarjat: Johdanto Aikasarjojen esikäsittely Aikasarjojen dekomponointi TKK (c) Ilkka Mellin (2007) 2 Aikasarjat:

Lisätiedot

Johdatus todennäköisyyslaskentaan Normaalijakaumasta johdettuja jakaumia. TKK (c) Ilkka Mellin (2005) 1

Johdatus todennäköisyyslaskentaan Normaalijakaumasta johdettuja jakaumia. TKK (c) Ilkka Mellin (2005) 1 Johdatus todennäköisyyslaskentaan Normaalijakaumasta johdettuja jakaumia TKK (c) Ilkka Mellin (2005) 1 Normaalijakaumasta johdettuja jakaumia Johdanto χ 2 -jakauma F-jakauma t-jakauma TKK (c) Ilkka Mellin

Lisätiedot

Odotusarvoparien vertailu. Vilkkumaa / Kuusinen 1

Odotusarvoparien vertailu. Vilkkumaa / Kuusinen 1 Odotusarvoparien vertailu Vilkkumaa / Kuusinen 1 Motivointi Viime luennolta: yksisuuntaisella varianssianalyysilla testataan nollahypoteesia H 0 : μ 1 = μ 2 = = μ k = μ Jos H 0 hylätään, tiedetään, että

Lisätiedot

Kaksisuuntainen varianssianalyysi. Heliövaara 1

Kaksisuuntainen varianssianalyysi. Heliövaara 1 Kaksisuuntainen varianssianalyysi Heliövaara 1 Kaksi- tai useampisuuntainen varianssianalyysi Kaksi- tai useampisuuntaisessa varianssianalyysissa perusjoukko on jaettu ryhmiin kahden tai useamman tekijän

Lisätiedot

ARMA mallien ominaisuudet ja rakentaminen

ARMA mallien ominaisuudet ja rakentaminen MS-C2128 Ennustaminen ja Aikasarja-analyysi, Lauri Viitasaari Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2017 Viikko 4: 1 ARMA-mallien ominaisuudet 1 Stationaaristen

Lisätiedot

Funktiot. funktioita f : A R. Yleensä funktion määrittelyjoukko M f = A on jokin väli, muttei aina.

Funktiot. funktioita f : A R. Yleensä funktion määrittelyjoukko M f = A on jokin väli, muttei aina. Funktiot Tässä luvussa käsitellään reaaliakselin osajoukoissa määriteltyjä funktioita f : A R. Yleensä funktion määrittelyjoukko M f = A on jokin väli, muttei aina. Avoin väli: ]a, b[ tai ]a, [ tai ],

Lisätiedot

BM20A5840 Usean muuttujan funktiot ja sarjat Harjoitus 7, Kevät 2018

BM20A5840 Usean muuttujan funktiot ja sarjat Harjoitus 7, Kevät 2018 BM20A5840 Usean muuttujan funktiot ja sarjat Harjoitus 7, Kevät 2018 Tehtävä 8 on tällä kertaa pakollinen. Aloittakaapa siitä. 1. Kun tässä tehtävässä sanotaan sopii mahdollisimman hyvin, sillä tarkoitetaan

Lisätiedot

Ilkka Mellin Tilastolliset menetelmät. Osa 4: Lineaarinen regressioanalyysi. Regressiodiagnostiikka. TKK (c) Ilkka Mellin (2007) 1

Ilkka Mellin Tilastolliset menetelmät. Osa 4: Lineaarinen regressioanalyysi. Regressiodiagnostiikka. TKK (c) Ilkka Mellin (2007) 1 Ilkka Mellin Tilastolliset menetelmät Osa 4: Lineaarinen regressioanalyysi Regressiodiagnostiikka TKK (c) Ilkka Mellin (2007) 1 Regressiodiagnostiikka >> Yleinen lineaarinen malli ja regressiodiagnostiikka

Lisätiedot

Yksisuuntainen varianssianalyysi (jatkoa) Heliövaara 1

Yksisuuntainen varianssianalyysi (jatkoa) Heliövaara 1 Yksisuuntainen varianssianalyysi (jatkoa) Heliövaara 1 Odotusarvoparien vertailu Jos yksisuuntaisen varianssianalyysin nollahypoteesi H 0 : µ 1 = µ 2 = = µ k = µ hylätään tiedetään, että ainakin kaksi

Lisätiedot

Yhden selittäjän lineaarinen regressiomalli

Yhden selittäjän lineaarinen regressiomalli Ilkka Melli Tilastolliset meetelmät Osa 4: Lieaarie regressioaalyysi Yhde selittäjä lieaarie regressiomalli TKK (c) Ilkka Melli (007) Yhde selittäjä lieaarie regressiomalli >> Yhde selittäjä lieaarie regressiomalli

Lisätiedot

Identifiointiprosessi

Identifiointiprosessi Alustavia kokeita Identifiointiprosessi Koesuunnittelu, identifiointikoe Mittaustulosten / datan esikäsittely Ei-parametriset menetelmät: - Transientti-, korrelaatio-, taajuus-, Fourier- ja spektraalianalyysi

Lisätiedot

5 Differentiaaliyhtälöryhmät

5 Differentiaaliyhtälöryhmät 5 Differentiaaliyhtälöryhmät 5.1 Taustaa ja teoriaa Differentiaaliyhtälöryhmiä tarvitaan useissa sovelluksissa. Toinen motivaatio yhtälöryhmien käytölle: Korkeamman asteen differentiaaliyhtälöt y (n) =

Lisätiedot

Ortogonaaliprojektio äärellisulotteiselle aliavaruudelle

Ortogonaaliprojektio äärellisulotteiselle aliavaruudelle Ortogonaaliprojektio äärellisulotteiselle aliavaruudelle Olkoon X sisätuloavaruus ja Y X äärellisulotteinen aliavaruus. Tällöin on olemassa lineaarisesti riippumattomat vektorit y 1, y 2,..., yn, jotka

Lisätiedot

6. Tietokoneharjoitukset

6. Tietokoneharjoitukset 6. Tietokoneharjoitukset 6.1 Tiedostossa Const.txt on eräällä Yhdysvaltalaisella asuinalueella aloitettujen rakennusurakoiden määrä kuukausittain, aikavälillä 1966-1974. Urakoiden määrä on skaalattu asuinalueen

Lisätiedot

Yksisuuntainen varianssianalyysi (jatkoa) Kuusinen/Heliövaara 1

Yksisuuntainen varianssianalyysi (jatkoa) Kuusinen/Heliövaara 1 Yksisuuntainen varianssianalyysi (jatkoa) Kuusinen/Heliövaara 1 Odotusarvoparien vertailu Jos yksisuuntaisen varianssianalyysin nollahypoteesi H 0 : µ 1 = µ 2 = = µ k = µ hylätään, tiedetään, että ainakin

Lisätiedot