ARMA mallien ominaisuudet ja rakentaminen

Koko: px
Aloita esitys sivulta:

Download "ARMA mallien ominaisuudet ja rakentaminen"

Transkriptio

1 MS-C2128 Ennustaminen ja Aikasarja-analyysi, Lauri Viitasaari Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2016

2 Viikko 4: 1 ARMA-mallien ominaisuudet 1 Stationaaristen ARMA mallien tunnusluvut 2 ARIMA- ja SARIMA-mallit 2 ARMA-mallien rakentaminen 1 Tunnuslukujen estimointi 2 ARMA-mallin estimointi 3 Ennustaminen ARMA-malleilla

3 Sisältö 1 ARMA-mallien ominaisuudet 2 ARMA-mallien rakentaminen

4 MA(q)-prosessin ominaisuudet x t = ɛ t + θ 1 ɛ t 1 + θ 2 ɛ t θ q ɛ t q, (ɛ t ) t T WN(0, σ 2 ) Odotusarvo µ x = E[x t ] = 0 Varianssi q σx 2 = var(x t ) = σ 2 θi 2, θ 0 = 1 i=1 Autokovarianssi γ k = cov ( x t, x t k ) = { σ 2 q k i=0 θ iθ i+k, k = 0, 1, 2,..., q 0, k > q.

5 MA(q)-prosessin ominaisuudet x t = ɛ t + θ 1 ɛ t 1 + θ 2 ɛ t θ q ɛ t q, (ɛ t ) t T WN(0, σ 2 ) Autokorrelaatio 1, k = 0 q k ρ k = i=0 θ i θ i+k q, k = 1, 2,..., q i=0 θ2 i 0, k > q AR( )-esitys (jos kääntyvä) π i x t i = ɛ t (π 0 = 1) i=0 Osittaisautokorrelaatio vaimenee exponentiaalisesti

6 MA(3) prosessi, θ 1 = 1, θ 2 = 0.5, θ 3 = 0.2 Autokorrelaatio k Osittaisautokorrelaatio k

7 Kääntyvän MA(1)-prosessin ominaisuudet x t = ɛ t + θ 1 ɛ t 1, (ɛ t ) t T WN(0, σ 2 ) Viivepolynomin θ(l) = 1 + θ 1 L juuri on yksikköympyrän ulkopuolella, joten θ 1 < 1 AR( )-esitys: ( θ 1 ) i x t i = ɛ t i=0 Autokovarianssi ja autokorrelaatio σ 2( 1 + θ1) 2, k = 0 1, k = 0 γ k = σ 2 θ θ 1, k = 1, ρ k = 1, k = 1 1+θ1 0, k > k > 1

8 MA(1) prosessi, θ 1 = 0.9 Autokorrelaatio k Osittaisautokorrelaatio k

9 Stationaarisen AR(p)-mallin ominaisuudet x t = φ 1 x t 1 + φ 2 x t φ p x t p + ɛ t, (ɛ t ) t T WN(0, σ 2 ). Sillä on MA( )-esitys x t = ψ i ɛ t i (ψ 0 = 1) i=0 Odotusarvo µ x = E[x t ] = 0 Varianssi σx 2 = var(x t ) = σ 2 Autokovarianssi ja autokorrelaatio i=0 γ k = σ 2 ψ i ψ i+k, ρ k = i=0 ψ 2 i i=0 ψ iψ i+k i=0 ψ2 i

10 Stationaarinen AR(p)-malli: Yulen ja Walkerin yhtälöt x t = φ 1 x t 1 + φ 2 x t φ p x t p + ɛ t, (ɛ t ) t T WN(0, σ 2 ). Autokorrelaatiot toteuttavat Yulen ja Walkerin yhtälöt ρ 0 = 1 ρ k = φ 1 ρ k 1 + φ 2 ρ k φ p ρ k p, k > 0, koska [ ( p )] γ k = E[x t x t k ] = E x t k φ i x t i + ɛ t i=1 = p φ i E[x t k x t i ] + E[x t k ɛ t ] = i=1 p φ i γ k i. i=1

11 AR(3) prosessi, φ 1 = 0.5, φ 2 = 0.4, φ 3 = 0.2 Autokorrelaatio k Osittaisautokorrelaatio k

12 Stationaarinen AR(1)-malli: Ominaisuudet x t = φ 1 x t 1 + ɛ t, (ɛ t ) t T WN(0, σ 2 ). MA( )-esitys x t = φ i 1 ɛ t i i=0 Odotusarvo µ x = E[x t ] = 0 Varianssi σx 2 = var(x t ) = σ 2 φ 2i 1 = σ2 1 φ 2 1 i=0 Autokovarianssi ja autokorrelaatio γ k = σ 2 i=0 φ i 1 φi+k 1 = φ k 1 σ2 x ja ρ k = φ k 1.

13 AR(1) prosessi, φ 1 = 0.9 Autokorrelaatio k Osittaisautokorrelaatio k

14 Stationaarinen AR(2)-malli: Ominaisuudet x t = φ 1 x t 1 + φ 2 x t 2 + ɛ t, (ɛ t ) t T WN(0, σ 2 ). MA( )-esitys x t = ψ i ɛ t i, i=0 ψ 0 = 1, ψ 1 φ 1 = 0, ψ i φ 1 ψ i 1 φ 2 ψ i 2 = 0, i 2. Odotusarvo µ x = E[x t ] = 0 Varianssi σx 2 = var(x t ) = σ 2 Autokovarianssi ja autokorrelaatio γ k = σ 2 i=0 i=0 ψ i ψ i+k, ρ 1 = φ 1 1 φ 2, ρ 2 = φ2 1 1 φ 2 + φ 2. ψ 2 i

15 Stationaarinen AR(2)-malli: Ominaisuudet x t = φ 1 x t 1 + φ 2 x t 2 + ɛ t, (ɛ t ) t T WN(0, σ 2 ). Koska viivepolynomin φ(l) = 1 φ 1 L φ 2 L 2 juuret ovat yksikköympyrän ulkopuolella, niin φ 1 + φ 2 < 1 φ 1 + φ 2 < 1 φ 2 < 1 Juuret ovat kompleksisia, jos φ φ 2 < 0. Tällöin autokorrelaatiofunktio on eksponentiaalisesti vaimenevan sinikäyrän rajoittama. Jos juuret ovat reaaliset, niin eksponenttifunktio(t) rajaa autokorrelaatiofunktion.

16 AR(2) prosessi, φ 1 = 0.5, φ 2 = 0.2 Autokorrelaatio k Osittaisautokorrelaatio k

17 AR(2) prosessi, φ 1 = 0.5, φ 2 = 0.4 Autokorrelaatio k Osittaisautokorrelaatio k

18 Stationaarinen ARMA(p, q)-prosessi x t φ 1 x t 1 φ 2 x t 2... φ p x t p = ɛ t +θ 1 ɛ t 1 +θ 2 ɛ t θ q ɛ t q, missä (ɛ t ) t T WN(0, σ 2 ). Stationaarisen AR(p)-prosessin Autokorrelaatiofunktio vaimenee eksponentiaalista vauhtia (geometrinen sarja) Osittaisautokorrelaatiofunktio katkeaa viiveellä p. MA(q)-prosessin Autokorrelaatiofunktio katkeaa viiveellä q Osittaisautokorrelaatiofunktio vaimenee eksponentiaalisesti. Stationaarisen ARMA(p, q)-prosessin auto- ja osittaisautokorrelaatiofunktiot vaimenevat eksponentiaalista vauhtia.

19 ARMA(2,3), φ = (0.5, 0.2), θ = ( 0.8, 0.6, 0.2) Autokorrelaatio k Osittaisautokorrelaatio k

20 Stationaarinen ARMA(p, q)-prosessi x t φ 1 x t 1 φ 2 x t 2... φ p x t p = ɛ t +θ 1 ɛ t 1 +θ 2 ɛ t θ q ɛ t q, missä (ɛ t ) t T WN(0, σ 2 ). Malli AR(p) MA(q) ARMA(p, q) Osittaisauto- korrelaatiofunktio Katkeaa viiveellä p Vaimenee eksponentiaalisesti Vaimenee eksponentiaalisesti Autokorrelaatiofunktio Vaimenee eksponentiaalisesti Katkeaa viiveellä q Vaimenee eksponentiaalisesti

21 Stationaarinen ja käännettävä ARMA(1,1)-malli x t φ 1 x t 1 = ɛ t + θ 1 ɛ t 1, (ɛ t ) t T WN ( 0, σ 2) Viivepolynomien φ(l) = 1 φ 1 L, θ(l) = 1 + θ 1 L juuret ovat yksikköympyrän ulkopuolella, jos φ 1 < 1, θ 1 < 1. MA( )-esitys x t = ψ i ɛ t i, i=0 ψ 0 = 1, ψ i = θ 1 φ i φ i 1, i > 0. Odotusarvo, varianssi ja autokovarianssi: µ x = E[x t ] = 0 σ 2 x = var(x t ) = σ 2 γ k = σ 2 ψ i ψ i+k ψi 2 i=0 i=0

22 ARMA(1,1), φ = 0.8, θ = 0.6 Autokorrelaatio k Osittaisautokorrelaatio k

23 Stationaarinen SARMA(P, Q) s -prosessi x t Φ 1 x t s... Φ P x t Ps = ɛ t +Θ 1 ɛ t s +...+Θ Q ɛ t Qs, (ɛ t ) t T WN(0, σ 2 ) SARMA(P, Q) s -prosessin auto- ja osittaisautokorrelaatio-funktiot käyttäytyvät kausiviiveillä s, 2s, 3s,... kuten vastaavan ARMA(p, q)-prosessin akf ja oakf ja saavat kausiviiveiden välissä arvon 0. Stationaarisen SAR(P) s -prosessin akf vaimenee kausiviiveillä s, 2s, 3s,... eksponentiaalista vauhtia oakf katkeaa viiveellä Ps. Stationaarisen SMA(Q) s -prosessin akf katkeaa viiveellä Qs. oakf vaimenee kausiviiveillä s, 2s, 3s,... eksponentiaalisesti. Stationaarisen SARMA(P, Q) s -prosessin auto- ja osittaisautokorrelaatiofunktiot vaimenevat kausiviiveillä s, 2s, 3s,... eksponentiaalista vauhtia

24 Stationaarinen SARMA(P, Q) s -prosessi x t Φ 1 x t s... Φ P x t Ps = ɛ t +Θ 1 ɛ t s +...+Θ Q ɛ t Qs, (ɛ t ) t T WN(0, σ 2 ) Auto- Osittaisautokorrelaatiofunktio korrelaatiofunktio Malli Vaimenee Katkeaa SAR(P) s eksponentiaalisesti viiveellä Ps Katkeaa Vaimenee SMA(Q) s viiveellä Qs eksponentiaalisesti Vaimenee Vaimenee SARMA(P, Q) s eksponentiaalisesti eksponentiaalisesti

25 Stationaarisen SARMA(p, q)(p, Q) s -malli x t Φ 1 x t s... Φ P x t Ps = ɛ t +Θ 1 ɛ t s +...+Θ Q ɛ t Qs, (ɛ t ) t T WN(0, σ 2 ) Stationaarisen SARMA(p, q)(p, Q) s -prosessin auto- ja osittaisautokorrelaatiofunktioiden käyttäytyminen on (monimutkainen) yhdistelmä vastaavien ARMA(p, q)- ja SARMA(P, Q) s -prosessien korrelaatiofunktioiden käyttäytymisestä.

26 ARMA(p, q):n spektri: Stokastisen prosessin suodatus Sanotaan, että stokastinen prosessi x t on saatu suodattamalla stokastisesta prosessista y t käyttäen lineaarista aikainvarianttia suodinta, jos x t = w j y t j j= Suotimen määrittelee painot w j, joille j= w j <. Voidaan osoittaa, että suodatetun stokastisen prosessin x t spektritiheysfunktio on f x (λ) = W (λ) 2 f y (λ), missä f y (λ) on y t :n spektritiheysfunktio ja W (λ) = w j e iλj. j= W (λ) 2 on suotimen siirtofunktio.

27 ARMA(p, q):n spektri Stationaarisella ARMA(p, q)-prosessilla x t on MA( )-esitys x t = Ψ(L)ɛ t, (ɛ t ) t T WN ( 0, σ 2), Ψ(L) = ψ j L j, ψ 0 = 1, φ(l)ψ(l) = θ(l) j=0 x t saadaan siis suodattamalla puhtaasti satunnaisesta prosessista ɛ t suotimella, jonka siirtofunktio on Ψ(e iλ ) θ(e iλ ) = φ(e iλ ) = 1 + θ 1e iλ θ q e qiλ 1 + φ 1 e iλ φ p e piλ. Näin ollen x t :n spektritiheysfunktio on f x (λ) = W (λ) 2 f ɛ (λ) = σ2 1 + θ 1 e iλ θ q e qiλ 2 2π 1 φ 1 e iλ... φ p e piλ 2 (ɛ t :n spektritiheysfunktio on vakio σ 2 /2π).

28 (Stationaaristen) prosessien spektrejä ARMA(1,1) : f (λ) = σ2 1 + θ 1 e iλ 2 2π 1 + φ 1 e iλ 2 = σ2 1 + θ θ 1 cos(λ) 2π 1 + φ 2 1 2φ 1 cos(λ) AR(p) AR(2) : f (λ) = σ2 1 2π 1 φ 1 e iλ... φ p e piλ 2 : f (λ) = σ2 1 2π 1 φ 1 e iλ φ 2 e 2iλ 2 = σ2 1 2π 1 + φ φ2 2 2φ 1(1 φ 2 ) cos(λ) 2φ 2 cos(2λ) MA(q) MA(2) : f (λ) = σ2 2π 1 + θ 1e iλ θ q e qiλ 2 : f (λ) = σ2 2π 1 + θ 1e iλ + θ 2 e qiλ 2 = σ2 ( 1 + θ 2 2π 1 + θ θ 1 (1 θ 2 ) cos(λ) + 2θ 2 cos(2λ) )

29 SARIMA(p, h, q)(p, H, Q) s Olkoon x t stokastinen prosessi, siten että (i) x t on epästationaarinen (ii) D G s D g x t on epästationaarinen, kun g < h, G < H (iii) y t = D H s D h x t on stationaarinen (iv) y t on SARMA(p, q)(p, Q) s -prosessi. Silloin stokastinen prosessi x t on integroituva astetta h ja kausi-integroituva astetta H ja sanomme, että x t on SARIMA(p, h, q)(p, H, Q) s -prosessi. Kun prosessille x t tehdään (iii)-kohdan differentointi, niin se voidaan mallintaa käyttäen SARMA(p, q)(p, Q) s -prosessia. Vastaavasti: x t on ARIMA(p, h, q)-prosessi, jos y t = D h x t on ARMA(p, q)-prosessi.

30 Sisältö 1 ARMA-mallien ominaisuudet 2 ARMA-mallien rakentaminen

31 Korrelaatiofunktioiden ja spektrin estimointi ja stationaarisuus Teoreettiset auto- ja osittaisautokorrelaatiofunktiot sekä spektritiheysfunktio on määritelty vain stationaarisille stokastisille prosesseille. Nämä funktiot voidaan ja kannattaa kuitenkin laskea myös epästationaarisista aikasarjoista eli epästationaaristen stokastisten prosessien realisaatioista. Tällöin niitä ei kuitenkaan voida tulkita minkään stationaarisen stokastisen prosessin korrelaatiofunktioiden estimaattoreina. Antavat usein hyviä vihjeitä siitä, miten aikasarja kannattaa stationarisoida.

32 Autokorrelaatioiden estimointi Olkoon x t, t = 1, 2,..., n havaittu aikasarja. (Aritmeettinen) keskiarvo: x = 1 n x t n Varianssin estimaattori: c 0 = 1 n t=1 n (x t x) 2 k. (otos)autokovarianssin estimaattori: c k = 1 n (x t x)(x t k x), k = 0, 1,..., n 1 n t=k+1 t=1 k. (otos)autokorrelaatiokertoimen estimaattori r k = c k c 0, k = 0, 1, 2,..., n 1

33 Huom Autokovarianssin estimaattorissa c k = 1 n n t=k+1 (x t x)(x t k x), k = 0, 1,..., n 1 jakajana on n, vaikka summassa on n k termiä, koska tämä takaa, että funktio c : {0, 1,..., n 1} R, c(k) = c k on positiivisesti semidefiniitti, joka on välttämätön ehto sille, että c k on stationaarisen prosessin autokovarianssifunktio. Jakajana voi olla myös n k 1, mutta silloin funktio c ei välttämättä ole positiivisesti semidefiniitti. Molemmat antavat asymptoottisesti saman tuloksen.

34 Kuinka monta autokorrelaatiota estimoida? Aikasarjasta x t, t = 1, 2,..., n, voidaan periaatteessa estimoida n 1 ensimmäistä autokovarianssia c k ja -korrelaatiota r k. Kannattaa kuitenkin huomata, että k. autokovarianssi c k = 1 n n t=k+1 (x t x)(x t k x), k = 0,..., n 1, estimoidaan vain n k havainnosta. Pitkillä viiveillä (k n 1) c k ja r k tulevat estimoiduiksi epätarkasti, koska ne lasketaan vain muutamasta havainnosta. Siten otosautokovarianssit ja -korrelaatiot voivat olla epäluotettavia, jos havaintojen määrä n < 50 ja k > n 4.

35 Osittaisautokorrelaatioiden estimointi AR(p)-prosessille Olkoon ˆφ k k. osittaisautokorrelaatiokertoimen estimaattori. k:nen oak-kertoimen estimaatin laskeminen: 1 Muodostetaan aineiston avulla Yule-Walkerin yhtälöt (k kpl) 1 r 1 r 2 r k 1 a k1 r 1 r 1 1 r 1 r k 2 a k2 r 2 r 2 r 1 1 r k 3 a k3 = r 3, r k 1 r k 2 r k 3 1 a kk 2 Ratkaistaan a kk yhtälöistä 3 Estimaatti: ˆφ k = a kk Esim: ˆφ 1 = a 11, ˆφ 2 = a 22 = r 2 r r 1 2 Osittaisautokorrelaatiokerrointen estimaatit ˆφ k, määräävät Otososittaisautokorrelaatiofunktion ˆφ : {0, 1,..., n 1} R, ˆφ(k) = ˆφ k kaikilla k = 0, 1,..., n 1. r k

36 Osittaisautokorrelaatioiden estimointi AR(p)-prosessille Osittaisautokorrelaatiokertoimet voidaan vaihtoehtoisesti estimoida myös regressiomalleista x t = β 1 x t 1 + β 2 x t β p x t p + ɛ t. pienimmän neliösumman menetelmällä. Tällöin k. osittaisautokorrelaatiokertoimen φ k estimaattori on parametrin (regressiokertoimen) β k PNS-estimaattori b k : ˆφ k = b k, k = 1, 2,..., p. Nämä tavat sopivat suoraan vain AR(p)-prosesseille, koska MA-osa aiheuttaa sen, että kohina ei ole korreloimatonta.

37 Otosautokovarianssien stokastiset ominaisuudet Huom k. otosautokovarianssi c k on autokovarianssin γ k harhainen estimaattori, mutta c k on kuitenkin asymptoottisesti harhaton: lim E[c k] = γ k. n

38 Autokorrelaatioiden testaaminen Riippumattomien, samoin jakautuneiden satunnaismuuttujien jonon muodostaman stationaarisen stokastisen prosessin k. otosautokorrelaatio r k on asymptoottisesti normaalijakautunut: ( r k a N 0, 1 ) n Huom Tämä motivoi approksimatiiviseen testausmenettelyyn: 5 %:n merkitsevyystasolla r k kuuluu välille [ 2 n, 95 % todennäköisyydellä. ] 2 n (2 1.96). Jos IID satunnaismuuttujien muodostaman stokastisen prosessin generoimasta aikasarjasta estimoidaan 100 ensimmäistä autokorrelaatiota, niin keskimäärin niistä 5 kpl löytyvät annetun välin ulkopuolelta.

39 ARMA-mallin parametrien estimointi Olkoon x t, t = 1,..., n aikasarja, johon halutaan sovittaa ARMA(p, q)-malli x t φ 1 x t 1... φ p x t p = ɛ t + θ 1 ɛ t θ q ɛ t q, missä (ɛ t ) t T IID(0, σ 2 ) ja lisäksi ɛ t N(0, σ 2 ) kaikilla t T. Silloin satunnaismuuttujien x 1,..., x n yhteisjakauma on n-ulotteinen normaalijakauma, jonka kovarianssimatriisi riippuu (voimakkaan epälineaarisesti) ARMA(p, q)-mallin parametreista. Muodostetaan x 1,..., x n uskottavuusfunktio ja maksimoidaan uskottavuusfunktio parametrien suhteen (R: arima()), jolloin saadaan ARMA(p, q)-mallin parametrien SU-estimaattorit: ˆφ 1, ˆφ 2,..., ˆφ p, ˆθ 1, ˆθ 2,..., ˆθ q, ˆσ 2 Estimaattoreita ei saa ratkaistua suljetussa muodossa. Lisätietoja esim. Hamilton (1994), Brockwell & Davis (1991).

40 ARMA-mallin parametrien estimointi Oletetaan, että ollaan ratkaistu ARMA(p, q)-mallin parametrien SU-estimaattorit ˆφ 1, ˆφ 2,..., ˆφ p, ˆθ 1, ˆθ 2,..., ˆθ q, ˆσ 2. SU-estimaattoreiden keskivirheet saadaan käyttämällä hyväksi Fisherin informaatioita 1. SU-estimaattorit ovat asymptoottisesti normaalisia, joten parametreille saadaan luottamusvälit normaali- tai t-jakaumaan avulla merkitsevyyttä voidaan testata t-testillä. Jäännökset voidaan määrätä kaavalla e t = ˆφ(L) ˆθ(L) x t, ˆφ(L) = 1 ˆφ 1 L... ˆφ p L p, ˆθ(L) = 1 + ˆθ1 L ˆθ q L q. 1 log-uskottavuusfunktion kunkin parametrin suhteen lasketun derivaatan toinen momentti

41 Ennustaminen ARMA-mallilla: Idea Oletetaan, että prosessilla (x t ) t T on MA-esitys x t = ψ j L j ɛ t, ψ 0 = 1, ψ j <, j=0 ja ollaan havaittu prosessi (ɛ t ) t T ajanhetkeen t asti, eli meillä on havainnot ɛ t, ɛ t 1, ɛ t 2... Silloin x t+s = ɛ t+s + ψ 1 ɛ t+s ψ s 1 ɛ t+1 + ψ s ɛ t + ψ s+1 ɛ t j=0 ja ajanhetkellä t tehty optimaalinen ennuste (keskineliövirheen mielessä) on ˆx t+s t := Ê[ x t+s ɛ t, ɛ t 1,... ] = ψ s ɛ t +ψ s+1 ɛ t 1 +ψ s+2 ɛ t Ennusteen keskineliövirhe on E [( x t+s ˆx t+s t ) 2 ] = ( 1 + ψ ψ ψ2 s 1) σ 2.

42 Ennustaminen ARMA-mallilla Yleensä prosessin (ɛ t ) t T sijaan on havaittu (stationaarinen) prosessi (x t ) t T, ( 1 φ1 L... φ p L p) x t = ( 1 + θ 1 L θ q L q) ɛ t eikä MA( )-esitystä ole aina mielekästä käyttää ennustamiseen. Kääntyvyys kuitenkin takaa sen, että on yhdentekevää havaitaanko (x t ) t T vai (ɛ t ) t T. Silloin s-askeleen ennusteeksi hetkellä t saadaan φ 1ˆx t+s 1 t + φ 2ˆx t+s 2 t φ pˆx t+s p t ˆx t+s t = +θ s ɛ t + θ s+1 ɛ t θ q ɛ t+s q s = 1, 2,..., q, φ 1ˆx t+s 1 t + φ 2ˆx t+s 2 t φ pˆx t+s p t s q + 1, missä ˆx τ t = x τ, kun τ t ja termit ɛ t voi laskea rekursiivisesti kaavalla ɛ t = x t ˆx t t 1.

43 Ennustaminen ARMA-mallilla Huom Jos ennustetaan pitkälle, eli s > q, niin ennuste ei ota enää liukuvaa keskiarvoa huomioon, koska havaintoja sen laskemiseen ei ole. Edellä oletettiin, että havaintoja on äärettömän pitkälle historiaan. Käytännössä voidaan antaa havaitsemattomille arvoille arvot 0. Tämä toimii hyvin, jos havaintoja on paljon ja kertoimet θ i ja ψ i ovat suhteellisen pieniä (ei lähellä ykköstä).

44 ARMA-mallin ennusteen optimaalisuus Jos aikasarja x t on realisaatio ARMA(p, q)-prosessista (tunnetuilla) parametreilla φ 1, φ 2,..., φ p, θ 1, θ 2,..., θ q, niin ennuste ˆx t+s t on optimaalinen siinä mielessä, että se minimoi keskineliövirheen MSE(ˆx t+s t ) = E [( x t+s ˆx t+s t ) 2 ]. ARMA(p, q)-prosessin parametreja ei yleensä tunneta, vaan ne on estimoitava havainnoista.tällöin ennusteen keskineliövirheen kaavaan tulee korjaustekijä, joka riippuu estimointivirheestä ja optimaalisuustulos ei tarkasti ottaen enää pidä paikkaansa, mutta on kuitenkin suuntaa-antava.

45 ARMA-mallin ennusteen ominaisuudet Ennustefunktio ˆx t+s t (argumenttina ennushorisontti s) noudattaa jossain mielessä määritetyn ARMA-mallin autokorrelaatio-funktion muotoa I ˆx t+s t 0 eksponentiaalista vauhtia, jos kyseessä puhdas AR-malli tai sekamalli. II ˆx t+s t katkeaa kohdassa s = q, jos mallina on MA(q)-malli Näin ollen ARMA-mallin ennusteen hyödyllisyys häviää ennustehorisontin kasvaessa, joten ennustaminen ARMA-mallilla on olennaisesti lyhyen ajan ennustamista.

46 Ensi viikolla 1 ARMA-mallien rakentaminen (jatkuu) 1 Box-Jenkinsin menetelmä 2 Eksponentiaalinen tasoitus 3 Aikasarjojen ositus 2 Kalmanin suodatin

47 Luentokalvot pohjautuvat osittain Mellinin ja Liesiön aiempien vuosien kalvoihin.

ARMA mallien ominaisuudet ja rakentaminen

ARMA mallien ominaisuudet ja rakentaminen MS-C2128 Ennustaminen ja Aikasarja-analyysi, Lauri Viitasaari Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2017 Viikko 4: 1 ARMA-mallien ominaisuudet 1 Stationaaristen

Lisätiedot

Ennustaminen ARMA malleilla ja Kalmanin suodin

Ennustaminen ARMA malleilla ja Kalmanin suodin Ennustaminen ARMA malleilla ja Kalmanin suodin MS-C2128 Ennustaminen ja Aikasarja-analyysi, Lauri Viitasaari Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2017

Lisätiedot

Stationaariset stokastiset prosessit ja ARMA-mallit

Stationaariset stokastiset prosessit ja ARMA-mallit Stationaariset stokastiset prosessit ja ARMA-mallit MS-C2128 Ennustaminen ja Aikasarja-analyysi, Heikki Seppälä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy

Lisätiedot

Kertaus. MS-C2128 Ennustaminen ja Aikasarja-analyysi, Lauri Viitasaari

Kertaus. MS-C2128 Ennustaminen ja Aikasarja-analyysi, Lauri Viitasaari MS-C2128 Ennustaminen ja Aikasarja-analyysi, Lauri Viitasaari Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2017 Viikko 1: Yleinen lineaarinen malli 1 Määritelmä

Lisätiedot

Dynaamiset regressiomallit

Dynaamiset regressiomallit MS-C2128 Ennustaminen ja Aikasarja-analyysi, Lauri Viitasaari Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2016 Tilastolliset aikasarjat voidaan jakaa kahteen

Lisätiedot

Kertaus. MS-C2128 Ennustaminen ja Aikasarja-analyysi, Heikki Seppälä

Kertaus. MS-C2128 Ennustaminen ja Aikasarja-analyysi, Heikki Seppälä MS-C2128 Ennustaminen ja Aikasarja-analyysi, Heikki Seppälä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2015 Viikko 1: Yleinen lineaarinen malli 1 Määritelmä

Lisätiedot

Ilkka Mellin Aikasarja-analyysi Stationaariset stokastiset prosessit

Ilkka Mellin Aikasarja-analyysi Stationaariset stokastiset prosessit Ilkka Mellin Aikasarja-analyysi Stationaariset stokastiset prosessit TKK (c) Ilkka Mellin (2007) 1 Stationaariset stokastiset prosessit >> Stationaariset stokastiset prosessit Integroituvuus Korrelaatiofunktioiden

Lisätiedot

Ilkka Mellin Aikasarja-analyysi ARMA-mallit

Ilkka Mellin Aikasarja-analyysi ARMA-mallit Ilkka Mellin Aikasarja-analyysi ARMA-mallit TKK (c) Ilkka Mellin (007) 1 ARMA-mallit >> ARMA-mallit ja niiden ominaisuudet ARMA-mallien auto- ja osittaisautokorrelaatiofunktiot ARMA-mallien spektri ARMA-mallien

Lisätiedot

3. Teoriaharjoitukset

3. Teoriaharjoitukset 3. Teoriaharjoitukset Demotehtävät 3.1 a Olkoot u ja v satunnaumuuttujia, joilla on seuraavat ominaisuudet: E(u = E(v = 0 Var(u = Var(v = σ 2 Cov(u, v = E(uv = 0 Näytä että deterministinen prosessi. x

Lisätiedot

Kuva 3.1: Näyte Gaussisesta valkoisest kohinasta ε t N(0, 1) Aika t

Kuva 3.1: Näyte Gaussisesta valkoisest kohinasta ε t N(0, 1) Aika t Kuva 3.1: Näyte Gaussisesta valkoisest kohinasta ε t N(0, 1) Valkoinen kohina ε t 2 1 0 1 2 Voimme tehdä saman laskun myös yleiselle välille [ a, a], missä 0 < a

Lisätiedot

6.5.2 Tapering-menetelmä

6.5.2 Tapering-menetelmä 6.5.2 Tapering-menetelmä Määritelmä 6.7. Tapering on spektrin estimointimenetelmä, jossa estimaattori on muotoa f m (ω) = 1 m ( ) k w 2π m Γ(k)e ikω, k= m missä Γ on otosautokovarianssifunktio ja ikkunafunktio

Lisätiedot

MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi 4A Parametrien estimointi Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2016, periodi

Lisätiedot

Dynaamiset regressiomallit

Dynaamiset regressiomallit MS-C2128 Ennustaminen ja Aikasarja-analyysi, Heikki Seppälä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2015 Viikko 6: 1 Kalmanin suodatin Aiemmin käsitellyt

Lisätiedot

4.0.2 Kuinka hyvä ennuste on?

4.0.2 Kuinka hyvä ennuste on? Luonteva ennuste on käyttää yhtälöä (4.0.1), jolloin estimaattori on muotoa X t = c + φ 1 X t 1 + + φ p X t p ja estimointivirheen varianssi on σ 2. X t }{{} todellinen arvo Xt }{{} esimaattori = ε t Esimerkki

Lisätiedot

Osa 2: Otokset, otosjakaumat ja estimointi

Osa 2: Otokset, otosjakaumat ja estimointi Ilkka Mellin Tilastolliset menetelmät Osa 2: Otokset, otosjakaumat ja estimointi Estimointi TKK (c) Ilkka Mellin (2007) 1 Estimointi >> Todennäköisyysjakaumien parametrit ja niiden estimointi Hyvän estimaattorin

Lisätiedot

Regressioanalyysi. Kuusinen/Heliövaara 1

Regressioanalyysi. Kuusinen/Heliövaara 1 Regressioanalyysi Kuusinen/Heliövaara 1 Regressioanalyysin idea ja tavoitteet Regressioanalyysin idea: Oletetaan, että haluamme selittää jonkin selitettävän muuttujan havaittujen arvojen vaihtelun joidenkin

Lisätiedot

Regressioanalyysi. Vilkkumaa / Kuusinen 1

Regressioanalyysi. Vilkkumaa / Kuusinen 1 Regressioanalyysi Vilkkumaa / Kuusinen 1 Regressioanalyysin idea ja tavoitteet Regressioanalyysin idea: Halutaan selittää selitettävän muuttujan havaittujen arvojen vaihtelua selittävien muuttujien havaittujen

Lisätiedot

ARMA mallien rakentaminen, Kalmanin suodatin

ARMA mallien rakentaminen, Kalmanin suodatin ARMA mallien rakentaminen, Kalmanin suodatin MS-C2128 Ennustaminen ja Aikasarja-analyysi, Lauri Viitasaari Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2016

Lisätiedot

ARMA mallien rakentaminen, johdatus dynaamisiin regressiomalle

ARMA mallien rakentaminen, johdatus dynaamisiin regressiomalle ARMA mallien rakentaminen, johdatus dynaamisiin regressiomalleihin MS-C2128 Ennustaminen ja Aikasarja-analyysi, Heikki Seppälä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto

Lisätiedot

MS-C2128 Ennustaminen ja aikasarja-analyysi ARMA esimerkkejä

MS-C2128 Ennustaminen ja aikasarja-analyysi ARMA esimerkkejä MS-C2128 Ennustaminen ja aikasarja-analyysi ARMA esimerkkejä Tehtävä 4.1. Ncss-ohjelmiston avulla on generoitu AR(1)-, AR(2)-, MA(1)- ja MA(2)-malleja vastaavia aikasarjoja erilaisilla parametrien arvoilla.

Lisätiedot

Estimointi. Vilkkumaa / Kuusinen 1

Estimointi. Vilkkumaa / Kuusinen 1 Estimointi Vilkkumaa / Kuusinen 1 Motivointi Tilastollisessa tutkimuksessa oletetaan jonkin jakauman generoineen tutkimuksen kohteena olevaa ilmiötä koskevat havainnot Tämän mallina käytettävän todennäköisyysjakauman

Lisätiedot

Estimointi. Estimointi. Estimointi: Mitä opimme? 2/4. Estimointi: Mitä opimme? 1/4. Estimointi: Mitä opimme? 3/4. Estimointi: Mitä opimme?

Estimointi. Estimointi. Estimointi: Mitä opimme? 2/4. Estimointi: Mitä opimme? 1/4. Estimointi: Mitä opimme? 3/4. Estimointi: Mitä opimme? TKK (c) Ilkka Mellin (2004) 1 Johdatus tilastotieteeseen TKK (c) Ilkka Mellin (2004) 2 Mitä opimme? 1/4 Tilastollisen tutkimuksen tavoitteena on tehdä johtopäätöksiä prosesseista, jotka generoivat reaalimaailman

Lisätiedot

Maximum likelihood-estimointi Alkeet

Maximum likelihood-estimointi Alkeet Maximum likelihood-estimointi Alkeet Keijo Ruotsalainen Oulun yliopisto, Teknillinen tiedekunta Matematiikan jaos Maximum likelihood-estimointi p.1/20 Maximum Likelihood-estimointi satunnaismuuttujan X

Lisätiedot

8. Muita stokastisia malleja 8.1 Epölineaariset mallit ARCH ja GARCH

8. Muita stokastisia malleja 8.1 Epölineaariset mallit ARCH ja GARCH 8. Muita stokastisia malleja 8.1 Epölineaariset mallit ARCH ja GARCH Osa aikasarjoista kehittyy hyvin erityyppisesti erilaisissa tilanteissa. Esimerkiksi pörssikurssien epävakaus keskittyy usein lyhyisiin

Lisätiedot

Johdatus tilastotieteeseen Estimointi. TKK (c) Ilkka Mellin (2005) 1

Johdatus tilastotieteeseen Estimointi. TKK (c) Ilkka Mellin (2005) 1 Johdatus tilastotieteeseen Estimointi TKK (c) Ilkka Mellin (2005) 1 Estimointi Todennäköisyysjakaumien parametrit ja niiden estimointi Hyvän estimaattorin ominaisuudet TKK (c) Ilkka Mellin (2005) 2 Estimointi:

Lisätiedot

Ilkka Mellin Tilastolliset menetelmät Osa 2: Otokset, otosjakaumat ja estimointi Estimointi

Ilkka Mellin Tilastolliset menetelmät Osa 2: Otokset, otosjakaumat ja estimointi Estimointi Ilkka Mellin Tilastolliset menetelmät Osa 2: Otokset, otosjakaumat ja estimointi Estimointi TKK (c) Ilkka Mellin (2006) 1 Estimointi >> Todennäköisyysjakaumien parametrit ja niiden estimointi Hyvän estimaattorin

Lisätiedot

Sovellettu todennäköisyyslaskenta B

Sovellettu todennäköisyyslaskenta B Sovellettu todennäköisyyslaskenta B Antti Rasila 30. lokakuuta 2007 Antti Rasila () TodB 30. lokakuuta 2007 1 / 23 1 Otos ja otosjakaumat (jatkoa) Frekvenssi ja suhteellinen frekvenssi Frekvenssien odotusarvo

Lisätiedot

Yhden selittäjän lineaarinen regressiomalli (jatkoa) Ensi viikolla ei pidetä luentoa eikä harjoituksia. Heliövaara 1

Yhden selittäjän lineaarinen regressiomalli (jatkoa) Ensi viikolla ei pidetä luentoa eikä harjoituksia. Heliövaara 1 Yhden selittäjän lineaarinen regressiomalli (jatkoa) Ensi viikolla ei pidetä luentoa eikä harjoituksia Heliövaara 1 Regressiokertoimien PNS-estimaattorit Määritellään havaintojen x j ja y j, j = 1, 2,...,n

Lisätiedot

3.6 Su-estimaattorien asymptotiikka

3.6 Su-estimaattorien asymptotiikka 3.6 Su-estimaattorien asymptotiikka su-estimaattorit ovat usein olleet puutteellisia : ne ovat usein harhaisia ja eikä ne välttämättä ole täystehokkaita asymptoottisilta ominaisuuksiltaan ne ovat yleensä

Lisätiedot

Vastaavasti voidaan määritellä korkeamman kertaluvun autoregressiiviset prosessit.

Vastaavasti voidaan määritellä korkeamman kertaluvun autoregressiiviset prosessit. Autokovarianssi: (kun τ 0) Γ t (τ) = E[(X t µ t )(X t τ µ t τ )] ( ) ( = E[ φ k ε t k φ j ε t τ j )] = = j=0 φ j+k E[ε t k ε t τ j ] k,j=0 φ j+k σ 2 δ k,τ+j k,j=0 = σ 2 φ j+k δ k,τ+j = = k,j=0 φ τ+2j I

Lisätiedot

STOKASTISET PROSESSIT

STOKASTISET PROSESSIT TEORIA STOKASTISET PROSESSIT Satunnaisuutta sisältävän tapahtumasarjan kulkua koskevaa havaintosarjaa sanotaan aikasarjaksi. Sana korostaa empiirisen, kokeellisesti havaitun tiedon luonnetta. Aikasarjan

Lisätiedot

805324A (805679S) Aikasarja-analyysi Harjoitus 4 (2016)

805324A (805679S) Aikasarja-analyysi Harjoitus 4 (2016) 805324A (805679S) Aikasarja-analyysi Harjoitus 4 (2016) Tavoitteet (teoria): Hallita autokovarianssifunktion ominaisuuksien tarkastelu. Osata laskea autokovarianssifunktion spektriiheysfunktio. Tavoitteet

Lisätiedot

4. Tietokoneharjoitukset

4. Tietokoneharjoitukset 4. Tietokoneharjoitukset Demotehtävät 4.1 Tarkastellaan seuraavia aikasarjoja. Tiedosto (.txt) Muuttuja Kuvaus Havaintoväli Aikasarjan pituus INTEL Intel_Close Intelin osakekurssi Pörssipäivä n = 20 Intel_Volume

Lisätiedot

Tilastollinen päättely II, kevät 2017 Harjoitus 2A

Tilastollinen päättely II, kevät 2017 Harjoitus 2A Tilastollinen päättely II, kevät 07 Harjoitus A Heikki Korpela 3. tammikuuta 07 Tehtävä. (Monisteen tehtävä.3 Olkoot Y,..., Y n Exp(λ. Kirjoita vastaava tilastollisen mallin lauseke (ytf. Muodosta sitten

Lisätiedot

4. Tietokoneharjoitukset

4. Tietokoneharjoitukset 4. Tietokoneharjoitukset Demotehtävät 4.1 Tarkastellaan seuraavia aikasarjoja. Tiedosto (.txt) Muuttuja Kuvaus Havaintoväli Aikasarjan pituus INTEL Intel_Close Intelin osakekurssi Pörssipäivä n = 20 Intel_Volume

Lisätiedot

Tilastollinen aineisto Luottamusväli

Tilastollinen aineisto Luottamusväli Tilastollinen aineisto Luottamusväli Keijo Ruotsalainen Oulun yliopisto, Teknillinen tiedekunta Matematiikan jaos Tilastollinen aineisto p.1/20 Johdanto Kokeellisessa tutkimuksessa tutkittavien suureiden

Lisätiedot

6.2.3 Spektrikertymäfunktio

6.2.3 Spektrikertymäfunktio ja prosessin (I + θl + + θl q )ε t spektritiheysfunktio on Lemman 6. ja Esimerkin 6.4 nojalla σ π 1 + θ 1e iω + + θ q e iqω. Koska viivepolynomien avulla määritellyt prosessit yhtyvät, niin myös niiden

Lisätiedot

Lause 4.2. Lineearinen pienimmän keskineliövirheen estimaattoi on lineaarinen projektio.

Lause 4.2. Lineearinen pienimmän keskineliövirheen estimaattoi on lineaarinen projektio. Määritelmä 4.3. Estimaattoria X(Y ) nimitetään lineaariseksi projektioksi, jos X on lineaarinen kuvaus ja E[(X X(Y )) Y] 0 }{{} virhetermi Lause 4.2. Lineearinen pienimmän keskineliövirheen estimaattoi

Lisätiedot

6.1 Autokovarianssifunktion karakterisaatio aikatasossa

6.1 Autokovarianssifunktion karakterisaatio aikatasossa 6. Spektraalianalyysi Tällä kurssilla on käyty läpi eräitä stationääristen aikasarjojen ominaispiirteitä, kuten aikasarjaa mallintavan stokastisen prosessin X t odotusarvo E[X t ] ja autokovarianssifunktio

Lisätiedot

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi 5B Bayesläiset piste- ja väliestimaatit Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto

Lisätiedot

Gripenberg. MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi Tentti ja välikoeuusinta

Gripenberg. MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi Tentti ja välikoeuusinta MS-A00 Todennäköisyyslaskennan ja tilastotieteen peruskurssi Tentti ja välikoeuusinta 7.. Gripenberg Kirjoita jokaiseen koepaperiin nimesi, opiskelijanumerosi ym. tiedot ja minkä kokeen suoritat! Laskin,

Lisätiedot

MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi 3A Satunnaismuuttujien summa ja keskihajonta Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto

Lisätiedot

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi 6A Tilastolliset luottamusvälit Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2016,

Lisätiedot

Väliestimointi (jatkoa) Heliövaara 1

Väliestimointi (jatkoa) Heliövaara 1 Väliestimointi (jatkoa) Heliövaara 1 Bernoulli-jakauman odotusarvon luottamusväli 1/2 Olkoon havainnot X 1,..., X n yksinkertainen satunnaisotos Bernoulli-jakaumasta parametrilla p. Eli X Bernoulli(p).

Lisätiedot

Tilastotieteen kertaus. Kuusinen/Heliövaara 1

Tilastotieteen kertaus. Kuusinen/Heliövaara 1 Tilastotieteen kertaus Kuusinen/Heliövaara 1 Mitä tilastotiede on? Tilastotiede kehittää ja soveltaa menetelmiä, joiden avulla reaalimaailman ilmiöistä voidaan tehdä johtopäätöksiä tilanteissa, joissa

Lisätiedot

Sovellettu todennäköisyyslaskenta B

Sovellettu todennäköisyyslaskenta B Sovellettu todennäköisyyslaskenta B Antti Rasila 3. marraskuuta 2007 Antti Rasila () TodB 3. marraskuuta 2007 1 / 18 1 Varianssin luottamusväli, jatkoa 2 Bernoulli-jakauman odotusarvon luottamusväli 3

Lisätiedot

Harjoitus 2: Matlab - Statistical Toolbox

Harjoitus 2: Matlab - Statistical Toolbox Harjoitus 2: Matlab - Statistical Toolbox Mat-2.2107 Sovelletun matematiikan tietokonetyöt Syksy 2006 Mat-2.2107 Sovelletun matematiikan tietokonetyöt 1 Harjoituksen tavoitteet Satunnaismuuttujat ja todennäköisyysjakaumat

Lisätiedot

MS-C2128 Ennustaminen ja Aikasarja-analyysi, 5 op Esittely

MS-C2128 Ennustaminen ja Aikasarja-analyysi, 5 op Esittely MS-C2128 Ennustaminen ja Aikasarja-analyysi, 5 op Esittely Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2017 Aikataulu ja suoritustapa (Katso MyCourses) Luennot

Lisätiedot

MS-A0503 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

MS-A0503 Todennäköisyyslaskennan ja tilastotieteen peruskurssi MS-A0503 Todennäköisyyslaskennan ja tilastotieteen peruskurssi 3A Normaaliapproksimaatio Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Lukuvuosi 2016

Lisätiedot

Koska ovat negatiiviset. Keskihajontoja ei pystytä laskemaan mutta pätee ¾.

Koska ovat negatiiviset. Keskihajontoja ei pystytä laskemaan mutta pätee ¾. 24.11.2006 1. Oletetaan, että kaksiulotteinen satunnaismuuttuja µ noudattaa kaksiulotteista normaalijakaumaa. Oletetaan lisäksi, että satunnaismuuttujan regressiofunktio satunnaismuuttujan suhteen on ݵ

Lisätiedot

tilastotieteen kertaus

tilastotieteen kertaus tilastotieteen kertaus Keskiviikon 24.1. harjoitukset pidetään poikkeuksellisesti klo 14-16 luokassa Y228. Heliövaara 1 Mitä tilastotiede on? Tilastotiede kehittää ja soveltaa menetelmiä, joiden avulla

Lisätiedot

9. Tila-avaruusmallit

9. Tila-avaruusmallit 9. Tila-avaruusmallit Aikasarjan stokastinen malli ja aikasarjasta tehdyt havainnot voidaan esittää joustavassa ja monipuolisessa muodossa ns. tila-avaruusmallina. Useat aikasarjat edustavat dynaamisia

Lisätiedot

MS-C2128 Ennustaminen ja Aikasarja-analyysi, 5 op Esittely

MS-C2128 Ennustaminen ja Aikasarja-analyysi, 5 op Esittely MS-C2128 Ennustaminen ja Aikasarja-analyysi, 5 op Esittely Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2016 Aikataulu ja suoritustapa (Katso MyCourses) Luennot

Lisätiedot

MS-A0503 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

MS-A0503 Todennäköisyyslaskennan ja tilastotieteen peruskurssi MS-A0503 Todennäköisyyslaskennan ja tilastotieteen peruskurssi 5B Frekventistiset vs. bayeslaiset menetelmät Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto

Lisätiedot

l (φ; y) = l(θ(φ); y) Toinen derivaatta saadaan tulon derivaatan laskusäännöllä Uudelleenparametroidun mallin Fisherin informaatio on

l (φ; y) = l(θ(φ); y) Toinen derivaatta saadaan tulon derivaatan laskusäännöllä Uudelleenparametroidun mallin Fisherin informaatio on HY, MTO / Matemaattisten tieteiden kandiohjelma Tilastollinen päättely II, kevät 018 Harjoitus B Ratkaisuehdotuksia Tehtäväsarja I 1 (Monisteen tehtävä 14) Olkoon f Y (y; θ) tilastollinen malli, jonka

Lisätiedot

9. laskuharjoituskierros, vko 12-13, ratkaisut

9. laskuharjoituskierros, vko 12-13, ratkaisut 9. laskuharjoituskierros, vko 12-13, ratkaisut D1. Olkoot X i, i = 1, 2,..., n riippumattomia, samaa eksponenttijakaumaa noudattavia satunnaismuuttujia, joiden odotusarvo E(X i = β, toisin sanoen X i :t

Lisätiedot

3 Yleistä estimointiteoriaa. Olemme perehtuneet jo piste-estimointiin su-estimoinnin kautta Tässä luvussa tarkastellaan piste-estimointiin yleisemmin

3 Yleistä estimointiteoriaa. Olemme perehtuneet jo piste-estimointiin su-estimoinnin kautta Tässä luvussa tarkastellaan piste-estimointiin yleisemmin 3 Yleistä estimointiteoriaa Olemme perehtuneet jo piste-estimointiin su-estimoinnin kautta Tässä luvussa tarkastellaan piste-estimointiin yleisemmin 3.1 Johdanto Tähän mennessä olemme tarkastelleet estimointia

Lisätiedot

Moniulotteisia todennäköisyysjakaumia

Moniulotteisia todennäköisyysjakaumia Ilkka Mellin Todennäköisyyslaskenta Osa 3: Todennäköisyysjakaumia Moniulotteisia todennäköisyysjakaumia TKK (c) Ilkka Mellin (007) 1 Moniulotteisia todennäköisyysjakaumia >> Multinomijakauma Kaksiulotteinen

Lisätiedot

Johdatus regressioanalyysiin. Heliövaara 1

Johdatus regressioanalyysiin. Heliövaara 1 Johdatus regressioanalyysiin Heliövaara 1 Regressioanalyysin idea Oletetaan, että haluamme selittää jonkin selitettävän muuttujan havaittujen arvojen vaihtelun selittävien muuttujien havaittujen arvojen

Lisätiedot

ARMA(p, q)-prosessin tapauksessa maksimikohdan määrääminen on moniulotteinen epälineaarinen optimointiongelma.

ARMA(p, q)-prosessin tapauksessa maksimikohdan määrääminen on moniulotteinen epälineaarinen optimointiongelma. missä µ = c φ ja C j,k = Γj k) = σ 2 φj k φ 2. ARMAp, q)-prosessin tapauksessa maksimikohdan määrääminen on moniulotteinen epälineaarinen optimointiongelma. Käytännösssä optimointi tehdään numeerisesti

Lisätiedot

MS-A0204 Differentiaali- ja integraalilaskenta 2 (ELEC2) Luento 7: Pienimmän neliösumman menetelmä ja Newtonin menetelmä.

MS-A0204 Differentiaali- ja integraalilaskenta 2 (ELEC2) Luento 7: Pienimmän neliösumman menetelmä ja Newtonin menetelmä. MS-A0204 Differentiaali- ja integraalilaskenta 2 (ELEC2) Luento 7: Pienimmän neliösumman menetelmä ja Newtonin menetelmä. Antti Rasila Matematiikan ja systeemianalyysin laitos Aalto-yliopisto Kevät 2016

Lisätiedot

Moniulotteisia todennäköisyysjakaumia. Moniulotteisia todennäköisyysjakaumia. Moniulotteisia todennäköisyysjakaumia: Mitä opimme?

Moniulotteisia todennäköisyysjakaumia. Moniulotteisia todennäköisyysjakaumia. Moniulotteisia todennäköisyysjakaumia: Mitä opimme? TKK (c) Ilkka Mellin (4) Moniulotteisia todennäköisyysjakaumia Johdatus todennäköisyyslaskentaan Moniulotteisia todennäköisyysjakaumia TKK (c) Ilkka Mellin (4) Moniulotteisia todennäköisyysjakaumia: Mitä

Lisätiedot

Sovellettu todennäköisyyslaskenta B

Sovellettu todennäköisyyslaskenta B Sovellettu todennäköisyyslaskenta B Antti Rasila 18. lokakuuta 2007 Antti Rasila () TodB 18. lokakuuta 2007 1 / 19 1 Tilastollinen aineisto 2 Tilastollinen malli Yksinkertainen satunnaisotos 3 Otostunnusluvut

Lisätiedot

2. Teoriaharjoitukset

2. Teoriaharjoitukset 2. Teoriaharjoitukset Demotehtävät 2.1 Todista Gauss-Markovin lause. Ratkaisu. Oletetaan että luentokalvojen standardioletukset (i)-(v) ovat voimassa. Huomaa että Gauss-Markovin lause ei vaadi virhetermien

Lisätiedot

Estimointi populaation tuntemattoman parametrin arviointia otossuureen avulla Otossuure satunnaisotoksen avulla määritelty funktio

Estimointi populaation tuntemattoman parametrin arviointia otossuureen avulla Otossuure satunnaisotoksen avulla määritelty funktio 17.11.2015/1 MTTTP5, luento 17.11.2015 Luku 5 Parametrien estimointi 5.1 Piste-estimointi Estimointi populaation tuntemattoman parametrin arviointia otossuureen avulla Otossuure satunnaisotoksen avulla

Lisätiedot

MTTTP5, luento Otossuureita ja niiden jakaumia (jatkuu)

MTTTP5, luento Otossuureita ja niiden jakaumia (jatkuu) 21.11.2017/1 MTTTP5, luento 21.11.2017 Otossuureita ja niiden jakaumia (jatkuu) 4) Olkoot X 1, X 2,..., X n satunnaisotos (, ):sta ja Y 1, Y 2,..., Y m satunnaisotos (, ):sta sekä otokset riippumattomia.

Lisätiedot

Ilkka Mellin Todennäköisyyslaskenta Osa 3: Todennäköisyysjakaumia Moniulotteisia todennäköisyysjakaumia

Ilkka Mellin Todennäköisyyslaskenta Osa 3: Todennäköisyysjakaumia Moniulotteisia todennäköisyysjakaumia Ilkka Mellin Todennäköisyyslaskenta Osa 3: Todennäköisyysjakaumia Moniulotteisia todennäköisyysjakaumia TKK (c) Ilkka Mellin (006) 1 Moniulotteisia todennäköisyysjakaumia >> Multinomijakauma Kaksiulotteinen

Lisätiedot

Todennäköisyyden ominaisuuksia

Todennäköisyyden ominaisuuksia Todennäköisyyden ominaisuuksia 0 P(A) 1 (1) P(S) = 1 (2) A B = P(A B) = P(A) + P(B) (3) P(A) = 1 P(A) (4) P(A B) = P(A) + P(B) P(A B) (5) Tapahtuman todennäköisyys S = {e 1,..., e N }. N A = A. Kun alkeistapaukset

Lisätiedot

ABHELSINKI UNIVERSITY OF TECHNOLOGY

ABHELSINKI UNIVERSITY OF TECHNOLOGY Johdatus regressioanalyysiin Regressioanalyysin idea Oletetaan, että haluamme selittää jonkin selitettävän muuttujan havaittujen arvojen vaihtelun selittävien muuttujien havaittujen arvojen vaihtelun avulla.

Lisätiedot

Ilkka Mellin Aikasarja-analyysi Suurimman uskottavuuden menetelmä

Ilkka Mellin Aikasarja-analyysi Suurimman uskottavuuden menetelmä Ilkka Mellin Aikasarja-analyysi Suurimman uskottavuuden menetelmä TKK (c) Ilkka Mellin (2007) 1 Suurimman uskottavuuden menetelmä >> Suurimman uskottavuuden estimointimenetelmä Tarkentuvuus Asymptoottinen

Lisätiedot

Johdatus todennäköisyyslaskentaan Moniulotteisia todennäköisyysjakaumia. TKK (c) Ilkka Mellin (2005) 1

Johdatus todennäköisyyslaskentaan Moniulotteisia todennäköisyysjakaumia. TKK (c) Ilkka Mellin (2005) 1 Johdatus todennäköisyyslaskentaan Moniulotteisia todennäköisyysjakaumia TKK (c) Ilkka Mellin (005) 1 Moniulotteisia todennäköisyysjakaumia Multinomijakauma Kaksiulotteinen normaalijakauma TKK (c) Ilkka

Lisätiedot

Mat Sovellettu todennäköisyyslasku A

Mat Sovellettu todennäköisyyslasku A TKK / Systeemianalyysin laboratorio Nordlund Mat-.090 Sovellettu todennäköisyyslasku A Harjoitus 7 (vko 44/003) (Aihe: odotusarvon ja varianssin ominaisuuksia, satunnaismuuttujien lineaarikombinaatioita,

Lisätiedot

Ilkka Mellin Todennäköisyyslaskenta. Osa 2: Satunnaismuuttujat ja todennäköisyysjakaumat. Momenttiemäfunktio ja karakteristinen funktio

Ilkka Mellin Todennäköisyyslaskenta. Osa 2: Satunnaismuuttujat ja todennäköisyysjakaumat. Momenttiemäfunktio ja karakteristinen funktio Ilkka Mellin Todennäköisyyslaskenta Osa : Satunnaismuuttujat ja todennäköisyysjakaumat Momenttiemäfunktio ja karakteristinen funktio TKK (c) Ilkka Mellin (7) 1 Momenttiemäfunktio ja karakteristinen funktio

Lisätiedot

η i (θ)t i (x) A(θ) + c(x),

η i (θ)t i (x) A(θ) + c(x), 288 Luku 10. Perusmallit ja niiden sovelluksia muotoa (10.9.1) log f θ (x) = p η i (θ)t i (x) A(θ) + c(x), i=1 missä θ = (θ 1,...,θ p ) ja A(θ), c(x), η i (θ) ja T i (x) ovat tunnettuja funktioita. Lisäksi

Lisätiedot

11 Raja-arvolauseita ja approksimaatioita

11 Raja-arvolauseita ja approksimaatioita 11 Raja-arvolauseita ja approksimaatioita Tässä luvussa esitellään sellaisia kuuluisia todennäköisyysteorian raja-arvolauseita, joita sovelletaan usein tilastollisessa päättelyssä. Näiden raja-arvolauseiden

Lisätiedot

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi Viikko 5 Tilastollisten hypoteesien testaaminen Lasse Leskelä, Heikki Seppälä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu

Lisätiedot

805324A (805679S) Aikasarja-analyysi Harjoitus 3 (2016)

805324A (805679S) Aikasarja-analyysi Harjoitus 3 (2016) 805324A (805679S) Aikasarja-analyysi Harjoitus 3 (2016) Tavoitteet (teoria): Hallita multinormaalijakauman määritelmä. Ymmärtää likelihood-funktion ja todennäköisyystiheysfunktion ero. Oppia kirjoittamaan

Lisätiedot

3 Yleistä estimointiteoriaa. Olemme perehtuneet jo piste-estimointiin su-estimoinnin kautta Tässä luvussa tarkastellaan piste-estimointiin yleisemmin

3 Yleistä estimointiteoriaa. Olemme perehtuneet jo piste-estimointiin su-estimoinnin kautta Tässä luvussa tarkastellaan piste-estimointiin yleisemmin 3 Yleistä estimointiteoriaa Olemme perehtuneet jo piste-estimointiin su-estimoinnin kautta Tässä luvussa tarkastellaan piste-estimointiin yleisemmin 3.1 Johdanto Tähän mennessä olemme tarkastelleet estimointia

Lisätiedot

Yleinen lineaarinen malli

Yleinen lineaarinen malli MS-C2128 Ennustaminen ja Aikasarja-analyysi, Heikki Seppälä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2015 Viikko 1: 1 Määritelmä ja standardioletukset 2

Lisätiedot

MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi 4B Tilastolliset luottamusvälit Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2016,

Lisätiedot

Mat Tilastollisen analyysin perusteet, kevät 2007

Mat Tilastollisen analyysin perusteet, kevät 2007 Mat-.104 Tilastollisen analyysin perusteet, kevät 007 8. luento: Usean selittäjän lineaarinen regressiomalli Kai Virtanen 1 Usean selittäjän lineaarinen regressiomalli Selitettävän muuttujan havaittujen

Lisätiedot

MS-C2128 Ennustaminen ja Aikasarja-analyysi, 5 op Esittely

MS-C2128 Ennustaminen ja Aikasarja-analyysi, 5 op Esittely MS-C2128 Ennustaminen ja Aikasarja-analyysi, 5 op Esittely Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2015 Aikataulu ja suoritustapa (Katso MyCourses) Luennot

Lisätiedot

Tilastotieteen kertaus. Vilkkumaa / Kuusinen 1

Tilastotieteen kertaus. Vilkkumaa / Kuusinen 1 Tilastotieteen kertaus Vilkkumaa / Kuusinen 1 Motivointi Reaalimaailman ilmiöihin liittyy tyypillisesti satunnaisuutta ja epävarmuutta Ilmiöihin liittyvien havaintojen ajatellaan usein olevan peräisin

Lisätiedot

Tilastotieteen aihehakemisto

Tilastotieteen aihehakemisto Tilastotieteen aihehakemisto hakusana ARIMA ARMA autokorrelaatio autokovarianssi autoregressiivinen malli Bayes-verkot, alkeet TILS350 Bayes-tilastotiede 2 Bayes-verkot, kausaalitulkinta bootstrap, alkeet

Lisätiedot

Johdatus todennäköisyyslaskentaan Momenttiemäfunktio ja karakteristinen funktio. TKK (c) Ilkka Mellin (2005) 1

Johdatus todennäköisyyslaskentaan Momenttiemäfunktio ja karakteristinen funktio. TKK (c) Ilkka Mellin (2005) 1 Johdatus todennäköisyyslaskentaan Momenttiemäfunktio ja karakteristinen funktio TKK (c) Ilkka Mellin (5) 1 Momenttiemäfunktio ja karakteristinen funktio Momenttiemäfunktio Diskreettien jakaumien momenttiemäfunktioita

Lisätiedot

Aalto-yliopisto, Matematiikan ja systeemianalyysin laitos /Malmivuori MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi,

Aalto-yliopisto, Matematiikan ja systeemianalyysin laitos /Malmivuori MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi, Aalto-yliopisto, Matematiikan ja systeemianalyysin laitos /Malmivuori MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi, kesä 2016 Laskuharjoitus 5, Kotitehtävien palautus laskuharjoitusten

Lisätiedot

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi Viikko 4 Tilastollisen aineiston kuvaileminen, mallintaminen ja estimointi Lasse Leskelä, Heikki Seppälä Matematiikan ja systeemianalyysin

Lisätiedot

Tilastollinen testaus. Vilkkumaa / Kuusinen 1

Tilastollinen testaus. Vilkkumaa / Kuusinen 1 Tilastollinen testaus Vilkkumaa / Kuusinen 1 Motivointi Viime luennolla: havainnot generoineen jakauman muoto on usein tunnettu, mutta parametrit tulee estimoida Joskus parametreista on perusteltua esittää

Lisätiedot

Jos nyt on saatu havaintoarvot Ü ½ Ü Ò niin suurimman uskottavuuden

Jos nyt on saatu havaintoarvot Ü ½ Ü Ò niin suurimman uskottavuuden 1.12.2006 1. Satunnaisjakauman tiheysfunktio on Ü µ Üe Ü, kun Ü ja kun Ü. Määritä parametrin estimaattori momenttimenetelmällä ja suurimman uskottavuuden menetelmällä. Ratkaisu: Jotta kyseessä todella

Lisätiedot

Korrelaatiokertoinen määrittely 165

Korrelaatiokertoinen määrittely 165 kertoinen määrittely 165 Olkoot X ja Y välimatka- tai suhdeasteikollisia satunnaismuuttujia. Havaintoaineistona on n:n suuruisesta otoksesta mitatut muuttuja-arvoparit (x 1, y 1 ), (x 2, y 2 ),..., (x

Lisätiedot

Oletetaan, että virhetermit eivät korreloi toistensa eikä faktorin f kanssa. Toisin sanoen

Oletetaan, että virhetermit eivät korreloi toistensa eikä faktorin f kanssa. Toisin sanoen Yhden faktorin malli: n kpl sijoituskohteita, joiden tuotot ovat r i, i =, 2,..., n. Olkoon f satunnaismuuttuja ja oletetaan, että tuotot voidaan selittää yhtälön r i = a i + b i f + e i avulla, missä

Lisätiedot

Ilkka Mellin Aikasarja-analyysi. Dynaamiset regressiomallit. TKK (c) Ilkka Mellin (2006) 1

Ilkka Mellin Aikasarja-analyysi. Dynaamiset regressiomallit. TKK (c) Ilkka Mellin (2006) 1 Ilkka Mellin Aikasarja-analyysi Dynaamiset regressiomallit TKK (c) Ilkka Mellin (2006) 1 Dynaamiset regressiomallit >> Staattiset vs dynaamiset regressiomallit Siirtofunktio-kohina-malli Siirtofunktio-kohina-mallin

Lisätiedot

Tilastomatematiikka Kevät 2008

Tilastomatematiikka Kevät 2008 Tilastomatematiikka Kevät 2008 Keijo Ruotsalainen Oulun yliopisto, Teknillinen tiedekunta Matematiikan jaos Tilastomatematiikka p.1/19 4.3 Varianssi Satunnaismuuttuja on neliöintegroituva, jos odotusarvo

Lisätiedot

P(X = x T (X ) = t, θ) = p(x = x T (X ) = t) ei riipu tuntemattomasta θ:sta. Silloin uskottavuusfunktio faktorisoituu

P(X = x T (X ) = t, θ) = p(x = x T (X ) = t) ei riipu tuntemattomasta θ:sta. Silloin uskottavuusfunktio faktorisoituu 1. Tyhjentävä tunnusluku (sucient statistics ) Olkoon (P(X = x θ) : θ Θ) todennäköisyysmalli havainnolle X. Datan funktio T (X ) on Tyhjentävä tunnusluku jos ehdollinen todennäköisyys (ehdollinen tiheysfunktio)

Lisätiedot

MS-A0503 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

MS-A0503 Todennäköisyyslaskennan ja tilastotieteen peruskurssi MS-A0503 Todennäköisyyslaskennan ja tilastotieteen peruskurssi Viikko 5 Tilastollisten hypoteesien testaaminen Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto

Lisätiedot

1. Tutkitaan regressiomallia Y i = β 0 + β 1 X i + u i ja oletetaan, että tavanomaiset

1. Tutkitaan regressiomallia Y i = β 0 + β 1 X i + u i ja oletetaan, että tavanomaiset TA7, Ekonometrian johdantokurssi HARJOITUS 7 RATKAISUEHDOTUKSET 16.3.2015 1. Tutkitaan regressiomallia Y i = β 0 + X i + u i ja oletetaan, että tavanomaiset regressiomallin oletukset pätevät (Key Concept

Lisätiedot

MS-A0503 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

MS-A0503 Todennäköisyyslaskennan ja tilastotieteen peruskurssi MS-A0503 Todennäköisyyslaskennan ja tilastotieteen peruskurssi Viikko 4 Tilastollisen datan kuvaileminen, mallintaminen ja estimointi Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden

Lisätiedot

Harjoitus 9: Excel - Tilastollinen analyysi

Harjoitus 9: Excel - Tilastollinen analyysi Harjoitus 9: Excel - Tilastollinen analyysi Mat-2.2107 Sovelletun matematiikan tietokonetyöt Syksy 2006 Mat-2.2107 Sovelletun matematiikan tietokonetyöt 1 Harjoituksen aiheita Tutustuminen regressioanalyysiin

Lisätiedot

Sovellettu todennäköisyyslaskenta B

Sovellettu todennäköisyyslaskenta B Sovellettu todennäköisyyslaskenta B Antti Rasila 8. marraskuuta 2007 Antti Rasila () TodB 8. marraskuuta 2007 1 / 15 1 Tilastollisia testejä Z-testi Normaalijakauman odotusarvon testaus, keskihajonta tunnetaan

Lisätiedot

3. Tietokoneharjoitukset

3. Tietokoneharjoitukset 3. Tietokoneharjoitukset Aikasarjan logaritmointi Aikasarjoja analysoidaan usein logaritmisessa muodossa. Asialooginen perustelu logaritmoinnille: Muuttujan arvojen suhteelliset muutokset ovat usein tärkeämpiä

Lisätiedot