Aikasara-aalyysi I Syksy 5 Tamperee yliopiso Aro Luoma Pääasiallise lähee: Brockwell, Davis: Iroducio o Time Series ad Forecasig Brockwell, Davis: Time Series: Theory ad Mehods (lyh. TSTM).. Johdao. Yleisä Aikasara syyy, ku oai suurea miaaa peräkkäisiä aakohia, esim. seuraaessa aloude kehiysä, eollisuude prosessia ai vaikkapa sää kehiysä. Aikasaroe maemaaie malli o sokasie prosessi {, T}, missä ideksioukko T voi olla diskreei (esim. Z{,±,±, }) ai akuva (esim. [, )). Tällä kurssilla raoiuaa diskreeeihi aikasaroihi. Yleesä aikasaroisa o saaavilla yksi realisaaio ieyllä aikavälillä, esim. x, x,, x. Aikasaraa aalysoimalla pyriää löyämää sokasie prosessi, oka voisi uoaa kyseise sara. Tämä voisi auaa ) ymmärämää oai ukiava ilmiö luoeesa a ) eusamaa sara ulevia arvoa. Aikasara-aalyysiä sovelleaa myös 3) prosessie korolloiissa esim. eollisuudessa, ku säädeävissä oleva prosessi uoaa oo havaioarvoa. 4) Yhde sara vaihelua voidaa pyrkiä seliämää muide saroe vaihelulla, olloi sivuaa samoa ogelmia kui regressioaalyysissä.. Saioaarie prosessi Yleesä aikasara pyriää erilaisilla muuoksilla saaamaa sellaisee muooo, eä se voi kasoa oleva realisaaio saioaarisesa prosessisa. Saioaarisa prosessia voidaa yleesä malliaa ilasollisesi s. ARMA-prosessi avulla. Alkuperäie aikasara voidaa sie kuvaa käyäe saioaarisa aikasaraa a iiä muuoksia, oilla siiä saadaa alkuperäie sara. Prosessi { } saoaa oleva vahvasi saioaarie (sricly saioary), os peräkkäise havaioe yheisakauma ei muuu, ku siirryää aassa eeepäi. Toisi saoe prosessi o vahvasi saioaarie, os sauaisvekorilla ( h, h,, h ) o sama akauma kui vekorilla (,,, ), missä h a ova miä ahasa posiiivisia kokoaislukua. Ku puhuaa saioaarisuudesa, arkoieaa kuieki yleesä s. heikkoa saioaarisuua. Prosessi { } saoaa oleva heikosi saioaarie. saioaarie laaassa mielessä (weakly saioary, saioary i he wide sese), os prosessi odousarvo eikä peräkkäise havaioe kovariassimariisi muuu siirryäessä aassa eeepäi. Tällöi oleeaa, eä E( ) o äärellie kaikissa aikapiseissä, oa odousarvo a kovariassi olisiva määrielyä. Huomaa, eä vahvasa saioaarisuudesa seuraa heikko saioaarisuus, mikäli E ( ) o äärellie, mua heikosa saioaarisuudesa ei välämää seuraa vahva saioaarisuus.
Määriellää odousarvofukio µ () E( ) a auokovariassifukio γ (r,s)cov( r, s ) kaikille kokoaisluvuille r a s. Näide fukioide avulla määrielyä prosessi o (heikosi) saioaarie, os odousarvofukio µ () o aasa riippumao vakio a kovariassifukio γ (h,) ei riipu aasa millää kokoaisluvulla h. Jos kyseessä o saioaarie prosessi, kovariassifukio voidaa ilmaisa yhde argumei avulla: γ (h,) γ (h,) γ (h). Lisäksi saioaariselle prosessille voidaa määriellä auokorrelaaiofukio ρ (h) γ (h)/ γ ()Corr( h, ). Esim.. Olkoo {,,,..} oo riippumaomia a samoi akauueia sauaismuuuia, oille E( )µ a Var( )σ. Tarkasellaa sauaisprosessia {Y,,, }, missä Y a Y, ku. Prosessia kusuaa sauaiskävelyksi. Kyseessä o symmerie sauaiskävely, os µ a yksikeraie sauaiskävely, os voi saada arvoksee oko ai -. Prosessi odousarvofukio o µ Y ()E( ) µ a variassi Var(Y ) Var( ) Var( ) Var( ) σ. Koska variassi kasvaa, ku kasvaa, prosessi ei ole saioaarie vaikka µ olisi. Alkuperäie sara { }saadaa sarasa {Y }differoimalla: Y -Y -. Esim.. IID-kohia. Olkoo { } oo riippumaomia a samoi akauueia sauaismuuuia, oide odousarvo o. Tällöi ooa saoaa IID-kohiaksi (IIDidepede ideically disribued). Prosessi o ehkä yksikeraisi esimerkki vahvasa saioaarisuudesa. Koska sauaismuuua ova riippumaomia a samoi akauueia, P( x, x,, x ) P( x )P( x ) P( x ) P( h x )P( h x ) P( h x ) P( h x, h x,, h x ), osa ähdää, eä peräkkäise havaioe yheisakauma pysyy samaa aassa siirryäessä. Merkiää IID-kohiaa { }~IID(,σ ). Esim. 3. Valkoie kohia. Olkoo { } oo korreloimaomia sauaismuuuia, oilla o odousarvo a variassi σ. Silloi ooa saoaa valkoiseksi kohiaksi a merkiää { }~WN(, σ ). Joo o esimerkki (heikosi) saioaarisesa prosessisa sillä määrielmä peruseella µ ()E a γ σ,ku h, ( h, ),ku h. Odousarvo- a kovariassifukio eivä siis riipu :sä. IID-kohia o myös valkoisa kohiaa, os prosessi variassi o äärellie. Valkoie kohia ei se siaa ole välämää IID-kohiaa. Esim. 4. MA()-prosessi. Oleeaa, eä oo {Z,, ±, ±, } o valkoisa kohiaa. Määriellää Z θz -, missä θ o reaaliluku. Tällöi µ () a E σ ( θ ) <. Lisäksi γ ( h, ) σ ( θ ), σ θ,, ku h, ku h ±, ku h >. Koska µ () a γ (h,) eivä riipu :sä, kyseessä o saioaarie prosessi. Auokorrelaaiofukio prosessille { } o
ρ ( h, ) θ, ku h, /( θ ),ku h ±,, ku h >. Esim 5. AR()-prosessi. Oleeaa eä { } o saioaarie aikasara, oka oeuaa yhälö φ - Z,,±,, () missä {Z }~WN(,σ ), φ < a Z o korreloimao sauaismuuuie s kassa, ku s<. Tällöi saoaa, eä { } oudaaa auoregressiivisä prosessia viiveellä (eli AR()-prosessia). Oamalla odousarvo yhälö () eri puolisa saadaa prosessi odousarvoksi E. Auokovariassifukio määriämiseksi kerroaa yhälö puoliai -h :lla, missä h>, a oeaa odousarvo puoliai: E ( -h ) φe ( - -h ) E (Z -h ) Cov(, -h ) φ Cov( -, -h ) γ (h)φγ (h-). Rekursiivisesi voidaa pääellä, eä γ (h)φ h γ (). Koska γ (h) Cov( h, ) Cov(, h ) γ (-h), posiiivisille a egaiivisille viiveille h soveluva auokovariassi kaava o γ (h)φ h γ (). Auokorrelaaio puolesaa o ρ (h)γ (h)/γ ()φ h, h,±, Voidaksemme määriää, mikä o γ (), odeaa esi eä Cov(,Z ) Cov(φ - Z, Z ) φcov( -, Z )Cov(Z, Z )Cov(Z, Z )σ, sillä oleukse mukaa Cov( -,Z ). Täe γ ()Cov(, )Cov(, φ - Z )φ γ () σ φ γ () σ, osa saadaa rakaisua, eä γ () σ /(-φ )..4. Oosauokorrelaaiofukio. Yleesä aikasara auokovariassi a -korrelaaiofukioia ei uea, vaa e ouduaa esimoimaa ookse peruseella. Oleeaa, eä meillä o oos x,x,,x osai aikasara realisaaiosa. Tällöi määriellää ooskeskiarvo x x, oosauokovariassifukio h γ h ˆ( ) ( x h x)( x x), < h <, 3
a oosauokorrelaaiofukio γˆ( h) ρ ˆ ( h ), < h <. γˆ() Huomaa, eä kyseessä ei ole avallie havaiopareisa (x,x h ) laskeu ooskovariassi. Aeu määrielmä kuieki akaa se ooskovariassi- a ooskorrelaaiomariisi ova ei-egaiivisesi defiiieä. Teoreeise kovariassi- a korrelaaiomariisi ova aia ei-egaiivisesi defiiieä. Lisäksi ei-egaiivisesi defiiiisyys akaa eräide mariisihaoelmie olemassaolo. Oosauokorrelaaiofukiosa voidaa ehdä pääelmiä aikasara geeroiee sauaisprosessi auokorrelaaiofukiosa, mikä voi auaa sopiva malli löyämisessä. Valkoise kohia apauksessa ρ(h), ku h. Tällöi voisi oleaa, eä valkoise kohia prosessi uoama aikasara oosauokorrelaaiofukio olisi lähellä ollaa, ku h. Ise asiassa voidaa osoiaa (TSTM, s. ), eä IID-kohia apauksessa, ku prosessi variassi o äärellie, oosauokorrelaaio ρˆ ( h ), h >, ova riippumaomia a oudaava ormaaliakaumaa N(,/), ku o suuri. Täe oi 95% oosauokorrelaaioisa piäisi osua raoe ±.96/ sisälle, os kysessä o IID-kohia prosessi. Alla o kuviossa simuloiu arvoa IID N(,) -kohiaa. Kuviossa o piirrey oosauokorrelaaiofukio simuloidu aieiso peruseella. Nähdää eä kaikki arvo sioiuva raoe ±.96/ sisälle. Kuvio o uoeu R-käskyillä whieoise<-rorm() plo(s(whieoise),mai"",ylab"") acf(whieoise,mai"",lag.max4) Kuvio. Kuvio. 4
Tukiaa seuraavaksi hypoeesia, eä logarimoiu osakekurssi olisi sauaiskävelyprosessi. Alla o piirrey Nokia osakekurssi aala.9.-.9.3 sekä ääössara, oka o saau logarimoimalla a differoimalla alkuperäie sara. Auokorrelaaiofukio peruseella ääössara äyää korreloimaomala prosessila, ii kui piäisiki. Koska ääössara odousarvo ei eroa ilasollisesi merkiäväsi ollasa, siä voidaa piää valkoise kohia prosessia. Haoa σ esimaai o.388. > library(series) > x<-ge.his.quoe(isrume"ok",sar"-9-6", ed"3-9-6",quoe"close") > ok<-a.remove(s(x)) > dlok <-diff(log(ok)) >plo(ok) >plo(dlok) >acf(dlok,lag.max4) >summary(lm(dlok~)) Coefficies: Esimae Sd. Error value Pr(> ) (Iercep).644.957.38.743 Residual sadard error:.388 o 48 degrees of freedom Alla o piirrey Lake Huro -ärve pia asoa osoiava kuvaaa. Selväsiki aikasara ei ole saioaarie, sillä siiä esiiyy laskeva redi. Ku esimoidaa lieaarie redi avallisella pieimmä eliösumma meeelmällä (OLS), havaiaa ääössarassa posiiivisa auokorrelaaioa pieillä viiveillä. Posiiivie auokorrelaaio äkyy myös arkaselaessa oosauokorrelaaiofukioa. Koska oosauokorrelaaiofukio väheee suuri piirei geomerisesi, voidaa ehdoaa ääössara geeroivaksi prosessiksi AR()-prosessia parameria φ.8. Teoreeie auokorrelaaiofukioha AR()-prosessille o ρ(h)φ h. 5
6 >daa(lakehuro) > plo(lakehuro) > a<-lm(lakehuro~ime(lakehuro)) > ablie(a) > plo(residuals(a),ype"l") > lies(c(-5,5),c(,)) > acf(residuals(a))
Oosauokorrelaaio voidaa laskea vaikka sara ei olisikaa saioaarie a siä voidaa käyää ei-saioaarisuude oeamisee. Esimerkiksi, os sarassa o lieaarie redi, oosauokorrelaaio laskee hyvi hiaasi :sä, ku h kasvaa. Tämä ohuu siiä, eä sara alkupää o keskiviiva oisella puolella a loppupää oisella puolella, olloi oosauokovariassi lausekkeessa ekiä x x a x h x ova sama merkkisiä eiväkä iide ulo kumoa oisiaa, ellei h ole hyvi suuri. Symmerie sauaiskävely ei ole saioaarie prosessi, mua se muisuaa AR()- prosessia, ku φ o lähellä ykkösä. Myös ässä apauksessa ρ ˆ( h) väheee hiaasi ykkösesä, ku h kasvaa. Jos sarassa o sääöllisä aksollisa vaihelua, myös oosauokorrelaaiokeroimessa o havaiavissa samalaisa vaihelua..5. Klassie haoelma Klassisessa kausihaoelmamallissa (he classical decomposiio model) oleeaa, eä prosessi voidaa akaa kolmee kompoeii, imiäi hiaasi vaihelevaa redii, kausikompoeii a saioaarise kohia saraa. Haoelma voidaa esiää muodossa m s Y, missä m edusaa rediä, s kausikompoeia a Y saioaarisa kohiaa. Mallissa oleeaa, eä d E(Y ), s s d a s, missä d o kausie lukumäärä. Tredi m voidaa eroaa sarasa käyämällä liukuvaa keskiarvoa, oka o erikoisapaus s. lieaarisesa suoimesa. Tredi esimaaiksi saadaa ku kausie lukumäärä o pario dq a m mˆ ( x x... x ) / d q < q, q q q, ˆ (.5x q xq... x q.5x q ) / d, q < q, ku kausie lukumäärä o parillie dq. Tällä suoimella saadaa kausikompoeie vaikuus häviämää a kohia vaikuus hyvi pieeksi. Kausikompoei esimoimiseksi laskeaa kulleki kaudelle k ( k d) keskiarvo w k poikkeamisa x ˆ k d mk d, q < k d q. Koska äide kausikeskiarvoe summa ei välämää ole, muodoseaa kausiermille s k esimaai sˆ k w k d d i w k, k,..., d. Kausipuhdiseu (deseasoalised) sara kausikompoei: saadaa väheämällä alkuperäisesä sarasa d x sˆ,,...,. Lopuksi kausipuhdiseusa sarasa voidaa eroaa redi esimerkiksi soviamalla polyomifukio pieimmä eliösumma meeelmällä. Tredille siis muodoseaa uusi esimaai mˆ. 7
Kohiasara Y esimaai o ällöi ääössara Yˆ x mˆ sˆ..6. Kausivaihelu malliamie käyäe harmoisa regressioa. Yksi apa malliaa kausivaihelua voidaa malliaa o s. harmoie regressio. Siiä aikasaraa selieää eri vaiheessa olevilla a eri aauuksia edusavilla siifukioilla. Jos yhde akso piuus (kausie lkm) o d, kausikompoei s voidaa esiää muodossa s a k ( a cos( λ ) b si( λ ) ) missä aauude λ ova lausekkee π/d kokoaisia moikeroa. Tuemaoma keroime a a a, b,,,k, voidaa esimoida aieisosa avallisella pieimmä eliösumma meeelmällä. Sysemaaisempi meeelmä esieää spekriaalyysi yheydessä. Allaolevassa kuviossa o USAccDeahs-aieisoo sovelleu harmoisa regressioa. Siiä o käyey aioasaa kaha maalaaauisia siifukioa, olloi k, λ π/d, λ 4π/d. Kuvio voidaa uoaa R-käskyillä <-ime(usaccdeahs) plo(usaccdeahs,ly,ype"b") a<-lm(usaccdeahs~cbid(si(*pi*%*%rbid(:)),cos(*pi*%*%rbid(:)))) lies(s(predic(a,daa.frame()),sar973,frequecy)) Jos rediä mallieaa paramerie suhee lieaarisella fukiolla, kue polyomilla, kausikompoei a redi voidaa esimoida yleiseyllä pieimmä eliösumma meeelmällä (GLS). Tavallisa PNS-meeelmää (OLS) käyeää, os voidaa oleaa, eä ääössara o 8
valkoise kohia prosessi. Malli, ossa redi o oise asee polyomi a oho sisälyy kausikompoei, voidaa esiää muodossa β β β γ u γ d- u,d- Y, missä u,,,d-, o idikaaorimuuua, oka saa arvo, os aahekellä o meossa kausi, a arvo muue. Jos mallissa olisi mukaa kaude d idikaaorimuuua, parameri eivä olisi esimoiuvia. Kausikompoei voidaa laskea kaavalla s γ -(γ...γ d- )/d, ku,...,d-, a s d - (γ...γ d- )/d. Alla o malli esimoiu OLS-meeelmällä käyäe fukioa lm a USAccDeahs-aieisoa. Idikaaorimuuuie mariisi U o muodoseu käyämällä Kroeckeri uloa 6 I, missä 6 o ykkösvekori, oka piuus o 6, a I o -ideieeimariisi. Tulomariisissa o 6 ideieeimariisia alakkai. > <-ime(usaccdeahs) > U<-kroecker(rep(,6),diag()) > a<-lm(usaccdeahs~cbid(,^,u[,-])) > plo(usaccdeahs,ly,ype"b") > lies(s(predic(a,daa.frame()),sar973,frequecy)) 9
.7. Lieaarise suoime Aiemmi esielii liukuva keskiarvo esimerkkiä s. lieaarisesa suoimesa. Yleisemmi voidaa määriellä lieaarie suodi m a. Liukuva keskiarvo apauksessa a /(q), ku -q q, a a muulloi. Liukuva keskiarvo o yypillie alipääsösuodi, oka suodaaa aikasarasa pois opeasi vaiheleva kompoei (korkea aauude). Liukuva keskiarvo ei vaikua lieaarisee redii miekää, sillä sovelleaessa liukuvaa keskiarvoa saraa aby saadaa q q q q q q q ( a b( ) Y ) a b Y. q q Yleesä miä suurempi q valiaa, se suurempi asoius saadaa aikaa. Jos q valiaa liia suureksi, redi esimaaisa saaaa ulla huoo, ellei redi ole lieaarie. Voidaa myös suuiella suoimia, oka säilyävä useampiaseise polyomifukio koskemaomia. Liukuva keskiarvo suoimia voi olla useampia peräkkäi. Esimerkiksi 3 5 MA -suodi oimii ii, eä esi laskeaa 3 havaio liukuva keskiarvo a ämä älkee 5 havaio keskiarvo. R-kielessä kirasoo "s" sisälyy fukio "filer", olla voidaa ehdä lieaarisia suodauksia. Suodaime voiva olla yypilää kovoluuiosuoimia ai rekursiivisia suoimia. Seuraavassa o aeu esimerkkeä eriyyppisisä suoimisa a siiä, mie suodaukse voidaa oeuaa R- kielellä. Yksipuolie kovoluuiosuodi: y a x a x - a p x -p R-oeuus: a<-c(a,a,,a p ) y<-filer(x,a,sides) Kaksipuoleie kovoluuiosuodi: y a -p x p a -p x p- a p- x -p a p x -p a<-c(a -p,a -p,,a p-,a p ) y <- filer(x,a,sides) Rekursiivie suodi: y x a y - a p y -p a <- c(a,,a p ) y <- filer(x, a, mehod"recursive")
Alapuolella o esiey R-kielie fukio "maverage", oka laskee liukuva keskiarvo. Fukiolle aeaa argumeia suodaeava sara a q, missä q ilmaisee, moako edelävää a seuraavaa havaioa sisällyeää keskiarvoo. Joa liukuva keskiarvo voiaisii laskea myös sara alussa a lopussa, sara alkuu lisäää q keraa esimmäie havaio x a loppuu q keraa viimeie havaio x. maverage<-fucio(series,q) { <-legh(series) y<-c(rep(series[],q),series,rep(series[],q)) fil<-rep(,*q)/(*q) y<-filer(y,fil,sides) y[(q):(q)] } Tredi voidaa esimoida käyäe myös s. ekspoeiaalisa asoiusa. Se määriellää rekursiivisesi seuraavasi: mˆ a ( a) mˆ,,,...,, a m ˆ, missä a o reaaliluku välilä (,). Ku a o lähellä ykkösä saadaa piei asoius a ku se o lähellä :aa, asoius o suuri. Tredi esimaai voidaa ilmaisa myös muodossa a( a) ( ) a m ˆ, ku, olloi ähdää, eä kyseessä o paioeu liukuva keskiarvo. Koska paiokeroime väheevä ekspoeiaalisesi, puhuaa ekspoeiaalisesa asoiuksesa. Fukiolla "expsmooh" voidaa ehdä ekspoeiaalisa asoiusa. expsmooh <- fucio(series, a.5) { series[] <- series[]/a a*filer(series,-a,mehod"recursive") }
.8. Muia sigaalihaoiukse meeelmiä Edellä kuvauissa meeelmissä oleeaa, eä kausikompoei pysyy vakioa vuodesa oisee. Kehiyeemmissä meeelmissä se salliaa vaihdella. Näissä meeelmissä o usei myös esipuhdisusosio, oka esii aikasarasa poikkeava havaio, luokielee e sekä poisaa iide vaikuukse. Esipuhdisusvaiheessa voidaa oaa huomioo myös kauppa- ai yöpäivie a lomapäivie vaikuus. Varsiaise kompoeeihi ao älkee ääössara puhaus voidaa arkisaa diagosisi esei. Muisa meeelmisä, oka haoiava aikasara kompoeeihi, ueuimpia o Yhdysvalai ilasokeskukse Cesus Bureau kehiämä Cesus II. Meeelmä uusi variaaio o --REGARIMA. Meeelmä esipuhdisusosio o REGARIMA. Ohelmiso oie osa - akaa aikasara kompoeeihi a se perusuu eri piuise liukuva keskiarvo suodie peräkkäisee sovelamisee. Joa liukuva keskiarvo suoimia voiaisii sovelaa sara molemmissa päissä, saraa euseaa eee- a aaksepäi sopivalla ARIMA-mallilla. Toie ueu meeelmä o Espaa paki kehiämä TRAMO/SEATS. Siiä TRAMO huolehii esipuhdisuksesa a SEATS kompoeeihi aosa. Meeelmää saoaa mallipohaiseksi, sillä se perusuu aikasara malliamisee ARIMA-prosessilla. (SEATS Sigal Exracio i ARIMA Time Series). Kolmas ueu meeelmä o STL (A Seasoal-Tred decomposiio based o Loess). Meeelmässä sekä redi- eä kausikompoei asoieaa s. lössimeeelmällä (loess). Lössimeeelmä perusuu paikallisee regressioo (local regressio), oka soviaa aikasaraa asaise käyrä. Lössimeeelmä poikkeaa paikallisesa regressiosa siiä, eä siiä poikkeavie havaioe vaikuusa pyriää väheämää. R-kielee sisälyy STL-meeelmä. Tasoiusa voidaa sääää paramereilla s.widow a.widow. Parameri s.widow sääää kausi-ikkua leveyä. Miä suuremmaksi parameri arvo valiaa, siä hiaammi kausikompoei muuuu. Jos parameri arvoksi valiaa "per", ai "periodic", kausikompoei ei vaihele vuodesa oisee. Parameri.widow määrää redi-ikkua leveyde. Miä suurempi parameri o, siä asaisempi esimoiu redikäyrä o a siä hiaammi se reagoi sarassa apahuvii muuoksii. TRAMO/SEATS -ohelmaa o esiellää esim. kiroissa Maravall, A. (995): Uobserved Compoes i Ecoomic Time Series. The Hadbook of Applied Ecoomerics, s.-7, a Maravall, Gomez (): Seasoal Adusme ad Sigal Exracio i Ecoomic Time Series. A Course i Time Series Aalysis. --REGARIMA a STL -meeelmiä kuvaaa esim. kirassa Makridakis, Wheelwrigh, Hydma: Forecasig: Mehods ad applicaios.
.9. Aikasaroe saaamie saioaariseksi differoimalla Edellä o esiey meeelmiä aikasara redi a mahdollise kausikompoei esimoimiseksi. Ku alkuperäisesä sarasa väheeää redi a kausikompoei, uloksea voidaa saada saioaarie ääössara. Toie meeelmä sara saaamiseksi saioaariseksi o differoii. Ku suorieaa differoii viiveellä, kusaki aikasara havaiosa väheeää edellie havaio. Yhdellä askelella viiväseyä havaioa merkiää operaaorilla B a differoiia viiveellä yksi merkiää operaaorilla. Jos alkuperäie sara o { }, viiveellä differoiu sara o {Y }, missä Y - - -B (-B). (.8.) Differoii viiveellä häviää sarasa lieaarise redikompoei. Jos sara voidaa esiää muodossa abz, missä E(Z ), differoiu sara o - - (abz )-[ab(-)z - ] bz -Z -, oka odousarvofukio o vakio b. Jos redi o asea p oleva polyomifukio, differoiuu saraa ää asea p- oleva redi, (ks. haroiusehävä). Differoiia voidaa käyää myös muu kui redisä ohuva epäsaioaarisuude poisamisee. Esimerkissä, s., esielii sauaiskävely prosessi, oka o epäsaioaarie, koska se variassi kasvaa lieaarisesi aa suhee. Differoimalla prosessi saaii IID-prosessi, oka o saioaarie. Differoii voidaa myös oisaa. Sovelamalla differoiia oise kerra kaavassa (.8.) määrielyy prosessii Y saamme Y -Y - ( - - )-( - - - ) - - -. (.8.) Viiveoperaaori B lausekkee käyäyyvä kui polyomi. Määriellää, eä poessi B d arkoiaa sara viiväsämisä d aikayksikköä: B d -d. Tällöi k arkoiaa sara differoiia k keraa. Kaavassa (.8.) esiey oise keraluvu differessi olisi voiu laskea suoraa operaaorie avulla seuraavasi: (-B) ( -BB ) - - -. Jos sara redi o polyomifukio asea p, differoimalla sara p keraa, saadaa redi poiseua. Voidaa osoiaa, eä os polyomifukio o m()c c c p p, ii p m()p!c p. Yleesä redi poisamisee riiää yksi ai kaksi differoiia viiveellä. Tämä ohuu siiä, eä aiaki paikallisesi rediä voidaa usei malliaa suoralla ai maala-aseisella polyomilla. Seuraavassa kuvioihi o piirrey USA: populaaioa kuvaava aikasara a kaksi keraa differoiu aikasara. Havaiaa, eei kaksi keraa differoidussa sarassa ole havaiavissa rediä. Sara ei kuiekaa ole saioaarie, sillä variassi kasvaa selväsi. Ogelma voidaa poisaa logarimoimalla alkuperäie sara. Jos alkuperäisessä sarassa variassi kasvaa samalla ku redi kasvaa, ogelmasa voidaa pääsä logarimoimalla ai ekemällä Box-Cox -muuos. 3
Kuvio 5. USA: väesö vuode välei Kuvio 6. USA: väesöaieiso differoiua kaksi keraa. Kuvio o uloseu käskyillä plo(uspop,ylab"(millios)") plo(diff(uspop,,),ylab"") Fukiossa "diff" argumei arkoiaa differoiia viiveellä a siä, eä differoii oiseaa kaksi keraa. Differoimalla voidaa pääsä myös eroo kausikompoeisa. Jos sara voidaa esiää muodossa s Y, missä s o kausivaiheluermi, oka akso piuus o d, ii differoimalla viiveellä d saadaa d : (-B d ) - -d (s Y )-(s -d Y -d ) Y -Y -d, sillä s s -d. (Älä sekoia operaaoria d, oka kuvaa differoimisa viiveellä d edellä määrielyy operaaorii d, oka kuvaa differoimisa d keraa viiveellä ). Jos ääössara Y -Y -d sisälää vielä rediä, se voidaa poisaa oisamalla differoiia viiveellä... Jääössara "valkoisuude esaamie". Edellä o pyriy poisamaa sarasa redi a kausivaihelu oko suoraa väheämällä sarasa kyseise kompoei ai differoimalla. Tavoieea o ollu saada saioaarie ääössara. Jos ääössara muisuaa valkoisa kohiaa, voidaa sara malliamie lopeaa. Tällöi eusee voidaa laaia redi a kausivaihelu peruseella. Jos se siaa ääösermeillä o korrelaaioa, korrelaaiorakeea voidaa malliaa a siä voidaa käyää hyväksi eusamisessa. Siksi o ärkeää esaa, vasaako ääössara valkoise kohia prosessia. Kappaleessa.4 odeii, eä os aikasara oudaaa IID(,σ )-prosessia, oosauokorrelaaiokeroime ova likimai N(,/)-akauueia a riippumaomia. Tämä merkisee siä, eä oi 4
95% oosauokorrelaaiokeroimisa sioiuu raoe ±.96/ sisälle. Jos auokorrelaaiokeroime o laskeu viiveesee 4 asi a eemmä kui 4 o raoe ulkopuolella, riskiasolla 5 % voidaa hylää hypoeesi, eä kyseessä o valkoise kohia prosessi. Myös os oki oosauokorrelaaiokeroimisa o huomaavasi raoe ulkopuolella, hypoeesi voidaa hylää. Kaikki laskeu oosauokorrelaaiokeroime voidaa sisällyää s. Pormoeau-esii. Jos hypoeesi siiä, eä aikasara oudaaa IID(,σ )-prosessia, piää paikkasa, esisuure Q h o likimai χ (h)-akauuu. Suure Q: arvo kerova siiä, eä auokorrelaaiokeroime ova iseisarvolaa liia suuria, oa kyseessä olisi IID(,σ )-prosessi. Tesiä saoaa Box-Pierce -esiksi. Lug a Box ova ehdoaee esisuurea Q LB ( ) h ρˆ ( ) ρˆ ( ) /( ) oka oudaaa vieläki arkemmi χ (h)-akaumaa. McLeod a Li ova kehiäee Pormoeauesi, oka avulla voidaa esaa, oko ääössarassa epälieaarisa riippuvuua. Tesisuure o Q LB sovelleua aikasaraa, oka o saau koroamalla alkuperäie sara oisee poessii, a se akauma o χ (h). Tesi sopiee parhaie ilaeesee, ossa vaihoehoisea hypoeesia IIDprosessille o s. ARCH-prosessi. Ku haluaa esaa oko peräkkäisillä havaioilla auokorrelaaioa, voidaa käyää s. kääepiseesiä (urig poi es). Jos y,y,,y o oo havaioa, saoaa, eä aahekellä i o kääepise, os y i- <y i a y i >y i ai y i- >y i a y i <y i. Olkoo T kääepiseide lukumäärä IIDsarassa, oka piuus o. Koska kääymäpisee odeäköisyys hekellä i o /3, Voidaa myös osoiaa, eä µ T E(T)(-)/3. σ T Var(T)(6-9)/9. Jos T-µ T o palo ollaa suurempi, voidaa pääellä eä sara vaihaa suuaasa opeammi kui voisi odoaa IID-prosessila a os T-µ T o palo ollaa pieempi, se o merkki posiiivisesa auokorrelaaiosa. Ku o suuri a aikasara oudaaa IID-prosessia, likimai T ~ N(µ T,σ T ), miä voidaa käyää hyväksi esaamisessa. Lieaarise redi oeamisessa o hyödyllie s. äresysesi (rak es). Merkiää P:llä sellaise parie (y i,y ) määrää, eä y > y i, ku > i a i,,,-. Kaikesaa parea (y i,y ), missä >i, o (-)/. Jos aikasara o IID-prosessisa, odeäköisyys, eä y > y i, o /, oe µ P E(P)(/4)(-). 5
Voidaa myös osoiaa, eä Suurilla arvoilla likimai σ Var( P) ( )( 5) / 7 P. P ~ N(µ P,σ P ). Jos ääössara valkoisuude lisäksi haluaa ukia se havaioe ormaaliakauueisuua, voidaa käyää kvaiili-kvaiili-kuvioa (qq-plo). Olkoo,,, sauaisoos akaumasa N(,) a Y,Y,,Y akaumasa N(µ,σ ). Merkiää oose äresysuuslukua (i) a Y (i), i,,..,, olloi < < < a Y <Y < <Y. Tällöi E Y () µσ m, missä m E (),,,,. Täsä seuraa, eä piirreäessä parie (m,y () ), (m,y () ) muodosama piseparvi (qq-kuvio) piseide ulisi siaia suuri piirei suoralla. Jos aikasarasa piirreyssä kuviossa havaio eivä ole suuri piirei suoralla, se o merkki siiä, eeivä havaio oudaa ormaaliakaumaa. Odousarvoa m voidaa approksimoida kaavalla Φ - [(-.5)/]. Alla olevilla fukioilla voi ehdä kääymäpise- a äresysesi. Lug-Box -esi a se muuelma voi ehdä s-kirasoo sisälyvällä fukiolla Box.es. Normaaliakaumaa vasaava qq-kuvio voi piirää käskyllä qqorm(x) a siihe liiyvä viiva käskyllä qqlie(x), missä x o ukiava ääössara. Lisäksi ormaalisuua voidaa esaa Jarque-Bera-esillä, oka sisälyy series-kirasoo. Tesi voidaa oeuaa käskyllä arque.bera.es (x) a se perusuu vioude a huipukkuude laskemisee. urig.poi.es <- fucio(x) { DNAME <- deparse(subsiue(x)) <-legh(x) METHOD <- "Turig poi es" <-embed(x,3) STATISTIC<-sum(([,] > [,] & [,] > [,3]) ([,] < [,] & [,] < [,3])) mu <- *(-)/3 sigma <- (6*-9)/9 PVAL<-*(-porm(abs(STATISTIC - mu) / sqr(sigma))) PARAMETER <- c(mu,sigma) ames(statistic) <- "ormal" ames(parameter) <- c("mu", "sigma") srucure(lis(saisic STATISTIC, parameer PARAMETER, p.value PVAL, mehod METHOD, daa.ame DNAME), class "hes") } rak.es <- fucio(x) { DNAME <- deparse(subsiue(x)) <-legh(x) METHOD <- "Rak es" STATISTIC<sum(ouer(x,x,"<")[ouer(:,:,"<")]) mu <- *(-)/4 sigma <- *(-)*(*5)/7 PVAL<-*(-porm(abs(STATISTIC-mu) / sqr(sigma))) PARAMETER <- c(mu,sigma) ames(statistic) <- "ormal" ames(parameter) <- c("mu", "sigma") srucure(lis(saisic STATISTIC, parameer PARAMETER, p.value PVAL, mehod METHOD, daa.ame DNAME), class "hes")} 6
Alla o ehy esielly esi saralle dlok ( ks. s. 5). Tesie peruseella ollahypoeesi siiä, eä kyseessä o valkoise kohia prosessi, säilyy. Kuieki Jarque-Pera-esi hylkää hypoeesi ääöse ormaalisuudesa. Tämä voidaa odea myös qq-kuviosa. Se peruseella aieiso suure havaio ova liia suuria verraua ormaaliakaumaa, oe ääöse akauma o oikealle vio. Myös piei havaio o "liia piei". Vious ei äy hisogrammisa aiva yhä selväsi. > Box.es(dlok,lag4,"Lug") Box-Lug es daa: dlok -squared 4.45, df 4, p-value.9748 > Box.es(dlok^,lag4,"Lug") Box-Lug es daa: dlok^ -squared.4779, df 4, p-value.9956 > urig.poi.es(dlok) Turig poi es daa: dlok ormal 69, mu 66., sigma 44.3, p-value.65 > rak.es(dlok) Rak es daa: dlok ormal 534, mu 5687.5, sigma 44864.6, p-value.6 > arque.bera.es(dlok) Jarque Bera Tes daa: dlok -squared 73.7766, df, p-value <.e-6 > qqorm(dlok) > qqlie(dlok) > his(dlok) 7
. Saioaarise prosessi.. Yleisä eusamisesa Oleeaa, eä ueaa aikasara {,, ±, } realisaaiosa havaio x,x,,x a haluaa eusaa h askela eeepäi havaioa x h. Aaellaa, eä eusevirheesä e aiheuuvaa appioa voidaa miaa appiofukiolla C(e). Tällöi o luoollisa hakea sellaisa havaioisa x,x,,x riippuvaa eusefukioa f(x,x,,x ), eä E C(e) E C[ h - f(,, )] miimoiuu. Tappiofukio C(e) saa arvo, ku eusevirhe e, a C(e) kasvaa, ku e kasvaa. Kuiekaa ei ole välämäöä, eä C(e) o olla suhee symmerie fukio. Yleisimmi käyey appiofukio o C(e)ae, missä a o oki posiiivie reaaliluku. Tällöi opimaalie eusamie merkisee keskieliövirhee E [ h - f(,, )] miimoimisa. Voidaa osoiaa, eä miimoiva rakaisu o f(,, ) E ( h,, ), (vr. har. eh.). Ehdollise odousarvo laskemiseksi o ueava sauaismuuuie,,, h yheisakauma. Esim.. Oleeaa, eä sauaismuuua a oudaava biormaaliakaumaa. Merkiää odousarvoa E( i ) µ i, i,, variassea Var( i ) σ i a korrelaaioa ρ Corr(, ). Tällöi sauaismuuua akauma ehdolla o myös ormaaliakauma odousarvolla a variassilla E( ) µ ρσ σ - ( -µ ) Var( )σ (-ρ ). Esimerkisä havaiii, eä eusi E( ) o lieaarie eli se o muooa a b. Yleisemmi voidaa osoiaa, eä E ( h,, ) o lieaarie moiuloeise ormaaliakauma apauksessa a voidaa siis esiää muodossa E ( h,, )a a a, missä a,,a ova vakioa. Jos havaioe yheisakauma ei ole ormaalie (s. kyseessä ei ole gaussie prosessi), opimaalie eusi ei välämää ole lieaarie. Tällä kurssilla kuieki raoiuaa arkaselemaa lieaarisia eusimia a opimaalisuude krieeriä käyeää keskieliövirheä. Tämä merkisee siä, eä prosessie määrielyssä raoiuaa esimmäise a oise asee omiaisuuksii, s. odousarvoo a kovariassifukioo... Auokovariassifukio omiaisuuksia Ee kui siirrymme saioaarise prosessie eusamisee, o hyvä ukia hiuka lähemmi äide prosessie omiaisuuksia. Saioaarise prosessi auokovariassifukiolla o seuraava omiaisuude: () γ() () γ(h) γ() kaikilla h: arvoilla (3) γ(h) o parillie fukio, s. γ(h) γ(-h). 8
Omiaisuus () seuraa siiä, eä variassi o aia ei-egaiivie a omiaisuus () Cauchy- Schwarz-epäyhälösä. Omiaisuus (3) ohuu siiä, eä γ(h) Cov( h, ) Cov(, h ) γ(-h). Lisäksi auokovariassifukio o ei-egaiivisesi defiiii. Määriellää, eä reaaliarvoie fukio κ o ei-egaiivisesi defiiii, os a κ( i ) (..) i a i, kaikille posiiivisille kokoaisluvuille a vekoreille a(a,a,,a )', missä kompoei a i ova reaalilukua. Huomaa, eä eho (..) voidaa esiää mariisimuodossa a'κa, missä K o mariisi [ κ ). ( i ] i, Lause... Reaaliarvoie kokoaisluvuille määriely fukio o saioaarise aikasara auokovariassifukio os a vai os se o ei-egaiivisesi defiiii. Todisus. Oleeaa, eä γ(h) o saioaarise aikasara { } auokovariassifukio. Olkoo mikä ahasa posiiivie kokoaisluku a a(a,a,,a )' mikä ahasa reaaliluvuisa koosuva vekori, oka piuus o. Tällöi Var(a a a ) i, Cov( a, a ) a γ( i ) a, i i i i, sillä variassi o aia ei-egaiivie. Nähdää siis, eä γ(h) o ei-egaiivisesi defiiii. Todisus oisee suuaa o vaaivampi. Ks. esim. TSTM, Theorem.5.. Esim.. Osoieaa, eä fukio, κ(h) ρ,,, ku h ku h ± muulloi. o ei-egaiivisesi defiiii, ku ρ.5. Huomaaa, eä κ(h) o MA()-prosessi auokovariassifukio, ku aseeaa σ (θ ) a σ θ ρ. Rakaisuksi saadaa ± θ σ ku ρ.5. Rakaisua ei ole olemassa, os ρ >.5. 4ρ ρ θ, 9
.3. Lieaarise prosessi Tärkeä ryhmä saioaarisisa prosesesseisa muodosava s. lieaarise prosessi, oide malliamie a eusamie ARMA-malleilla muodosaa kurssi ydiosa. Aikasaraa { } saoaa liaariseksi prosessiksi, os se voidaa esiää muodossa ψ Z, (.3.) kaikilla arvoilla, missä {Z } ~ WN(,σ ) a {ψ } o oo vakioia, oka oeuava ehdo ψ <. Käyämällä siiro-operaaoria B, kaava (.3.) voidaa esiää iiviimmässä muodossa ψ(b)z, missä ψ(b) ψ B. Lieaarisa prosessia saoaa liukuva keskiarvo prosessiksi, os ψ, ku <. Tällöi prosessi voidaa esiää muodossa ψ Z. Huomauus. Eho ψ < akaa sara (.3.) suppeemise (odeäköisyydellä ). Cauhcy-Schwarzi epäyhälö peruseella E Z σ ( [E( Z )] E Z E()σ ). Iseisarvosara odousarvo o äärellie: E ψ Z ψ E Z σ ψ <. Koska iseisarvosara odousarvo o äärellie, iseisarvosara o äärellie odeäköisyydellä, osa seuraa, eä myös alkuperäie sara suppeee odeäköisyydellä. Operaaori ψ(b) voidaa aaella oleva lieaarie suodi, oka syöeeä o sara {Z } a ulosuloa sara { }. Seuraavaksi osoieaa, eä mikä ahasa saioaarie sara aaa ulosuloa saioaarise sara, ku siihe sovelleaa suodia ψ(b).
Lause.3.. Olkoo {Y } saioaarie aikasara, oka odousarvo o a kovariassifukio γ Y. Jos ψ <, ii aikasara Y ψ( B) Y ψ (.3.3) o saioaarie odousarvoa a auokovariassifukioa γ ( h ) ψ ψ γ ( h k ). (.3.4) k Siiä erikoisapauksessa, eä {Y } o valkoise kohia prosessi WN(,σ ), k Y ( ) ψ ψ σ h γ h. (.3.5) Todisus. Samoi kui edellisessä huomauuksessa voidaa perusella, eä sara { } suppeee (haoa σ ilalla o γ () ). Koska E(Y ), a E ( ) h E( ) E ψ Y ψ E( Y ) E k ψ ψ Y h ψ k k ψ k k ( h Y k ) E Y Y k ψ ψ k γ Y ( h k), osa voidaa pääellä aikasara { } oleva saioaarie kovariassifukiolla (.3.4). (Se, eä odousarvo a summaukse äresysä voidaa vaihaa, perusuu oleuksee ψ <. ) Jos {Y } o valkoise kohia prosessi, γ Y (hk-) σ, ku k -h, a muue, misä seuraa (.3.5). Huomauus. Suoimia, oilla o iseisesi summauuva keroime, voidaa sovelaa peräkkäi saioaarisee aikasaraa a uloksea saadaa aia saioaarie aikasara. Loppuulokse kaala ei ole merkiysä sillä, missä äresyksessä suoimia sovelleaa. Jos suoimia α ( B) α B a β ( B) β B sovelleaa peräkkäi saraa {Y }, uloksea saadaa sara α ( B ) β( B) Y β( B) α( B) Y ψ( B) Y, missä ψ(b) α(b)β(b). Loppuuloksee pääsää siis myös sovelamalla saraa {Y } yhä suodia ψ(b), oka saadaa keromalla keskeää suoime α(b) a β(b), oka ova siiro-operaaori B poessisaroa.
Esim. MA(q)-prosessi. Esimerkki liukuva keskiarvo prosessisa o MA(q)-prosessi, oka voidaa määriellä yhälöllä Z θ Z - θ q Z -q, missä Z ~ WN(,σ ). Kaava (.3.5) erikoisapauksea saadaa MA(q)-prosessi kovariassifukio q σ γ ( h ) h θ θ, h, ku muue h q missä θ. Havaiaa, eä auokovariassifukio häviää, ku h > q. Tällaisa prosessia, oka auokovariassifukio, ku h >q, saoaa q-korreloiueeksi. Voidaa yleisesi osoiaa, eä q-korreloiuu saioaarie prosessi voidaa esiää MA(q)-prosessia (TSTM, Secio 3.). Esim. AR()-prosessi. Esisilmäyksellä AR()-prosessi ei äyä lieaarisela prosessila, sillä se määriellää saioaariseksi prosessiksi, oka oeuaa differessiyhälö - φ - Z, (.3.6) missä Z ~WN(,σ ). Prosessi voidaa kuieki esiää liukuva keskiarvo prosessia, ku φ <. Differessiyhälö (.3.6) voidaa esiää muodossa φ(b) Z, (.3.7) missä φ(b)-φb. Tarkasellaa seuraavaksi suodia ψ(b)/φ(b), oka voidaa geomerise sara summakaavaa käyäe esiää muodossa ψ( B) φb φb φ B... Suoimella o iseisesi summauuva keroime, sillä φ φ... ( φ ) < suodia ψ(b) yhälö (.3.7) molempii puolii saadaa ψ(b)z, eli Z φz - φ Z -,. Sovelamalla osa ähdää, eä { } o liukuva keskiarvo prosessi. Huomauus. Jokaie saioaarie aikasara voidaa esiää liukuva keskiarvo prosessi a deermiisise prosessi summaa. Prosessi o deermiisie, os prosessi havaio määräyyvä äysi edelävie havaioe avulla. Summaesiysä kusuaa Woldi haoelmaksi. O eriäi harviaisa, eä esim. aloudellisissa aikasaroissa esiiyisi deermiisie kompoei. Tällä kurssilla ei käsiellä eempää Woldi haoelmaa.
.4. Saioaarise aikasara odouasrvo a kovariassifukio esimoimie Saioaarise prosessi { } odousarvo momeiesimaaori o ooskeskiarvo Se o harhao, sillä E ( ) µ E (... ) /. Ooskeskiarvo keskieliövirhe o ( µ ) Var( i h ) ( i i i ) γ( i h γ( h). Cov( a h Keskieliövirheä voidaa esimoida lausekkeella γˆ( h) ha, os γˆ ( h ), ku h >a. Huomaa, eä γˆ ( h) ei ole luoeava γ(h): esimaaori, os h>/4, missä o aikasara havaioe lukumäärä. Keskieliövirhee lausekea voidaa käyää hyväksi, ku määrieää luoamusväli µ :lle. Jos { } o lieaarie ai ARMA-prosessi, ooskeskiarvo o likimai ormaalisi akauuu..96 Var( ),.96 Var( ). Tällöi 95% luoamusväli µ:lle o ( ) ) i, Oosauokovariassi- a oosauokorrelaaiomariisi ova ei-egaiivisesi defiiieä, samoi kui iide eoreeise vasiee (ks. odisus Brockwell s.58). Ise asiassa e ova posiiivisesi defiiieä, elleivä kaikki sara arvo ole yhä suuria. Lieaarise a eriyisesi ARMA-prosessie apauksessa oosauokorrelaaiokerroie vekori oudaaa likimai moiuloeisa ormaaliakaumaa: (ˆ(),..., ρ ρˆ( k))' ~ N(( ρ(),... ρ( k))', W ), missä mariisi W elemei saadaa Barlei kaavasa Esim. AR()-prosessi w i k { ρ( k i) ρ( k i) ρ( i) ρ( k) } { ρ( k ) ρ( k ) ρ( ) ρ( k) } φ - Z, {Z }~WN(,σ ), apauksessa, missä φ <, auokorrelaaiokerroi viiveellä h o ρ(h)φ h. Oosauokorrelaaiokeroime ρˆ ( i) variassi o w ii /, a voidaa ohaa, eä w ii (-φ i )(φ )(-φ ) - -iφ i. ) 3
Alla olevassa kuviossa o piirrey oosauokorrelaaiofukio, oka o saau simuloidusa havaio piuisesa AR()-prosessisa, ossa φ.7. Lisäksi o piirrey eoreeie auokorrelaaiofukio a oosauokorrelaaioille 95% odeäköisyysväli. Havaiaa, eä väli suurilla viiveillä o suurempi, kui IID-kohiaa vasaava odeäköisyysväli, oka myös o piirrey kuvioo. Havaiaa myös, eä oosauokorrelaaiofukio ikää kui "laiehii" eli peräkkäisillä arvoilla o posiiivisa auokorrelaaioa, vaikka eoreeie auokorrelaaiofukio väheee asaisesi. AR(p) -prosessie ideifioii eli viivepiuude p määriys oisuu parhaie osiaisauokorrelaaiofukio avulla, oka esiellää myöhemmi. ><- >phi<-.7 > u<-arma.sim(,ar.7) > x<-:4 > y<-phi^x > z<-(-phi^(*x))*(phi^)/(-phi^) -*x*phi^(*x) > acf(u,4) > lies(x,y,ly3) > lies(x,y.96*(z/)^.5,ly) > lies(x,y-.96*(z/)^.5,ly) Esim.. MA(q) -prosessi auokorrelaaiofukio. Kappaleessa.3 odeii, eä MA(q) -prosessi o q-korreloiuu, eli auokorrelaaiofukio ρ(h) häviää (eli o ), ku h >q. Tämä vuoksi MA(q) prosessia voidaa yriää ideifioida arkaselemalla se oosauokorrelaaiofukioa. Barlei kaava avulla o helppo osoiaa, eä q-korreloiuee prosessi apauksessa Var( ρ ˆ( i) ) [ρ () ρ (q)]/, ku i>q. Alla olevassa kuviossa o oosauokorrelaaiofukio aikasaralle, oka o saau simuloimalla MA()-prosessia Z -.6Z -.8Z -. Kuvioo o piirrey 95% odeäköisyysraa ±.96 -/ (ρ () ρ ()) /, sekä avaomaise raa ±.96 -/. Yleesä käyeää iukempia avaomaisia raoa, sillä korrelaaiokeroime ρ(i) eivä ole avallisesi ueua. Tässä apauksessa ρ()(θ θ θ )/(θ θ ) (-.6-.6*.8)/ (.36.64)-.54 a ρ()θ /(θ θ ).8/(.36.64).4 > u<-arma.sim(,mac(-.6,.8)) > r<-(-.6-.6*.8)/(.36.64) > r<-.8/(.36.64) > upper<-.96*sqr(*r^*r^)/ > lower<--upper > acf(u,4) > lies(c(3,4),c(upper,upper),ly3) > lies(c(3,4),c(lower,lower),ly3) 4
.5. Saioaarise aikasaroe eusamie Seuraavaksi ohdeaa lieaarie eusi saioaarise aikasara { } havaiolle h, ku käyeävissä o havio,,. Odousarvo µ a auokovariassifukio γ oleeaa ueuiksi. Merkiää keskieliövirhee mielessä opimaalisa eusia P h a a a -.a. Keroimie a i määriämiseksi miimoidaa lauseke E( h - a -a -a - -.-a ). Derivoimalla lauseke keroimie a i suhee a aseamalla derivaaa olliksi saadaa yhälö E( h - a -a -a - -.-a ) (.5.) E( h - a -a -a - -.-a ) -i, i,,, (.5.) Esimmäisesä yhälösä voidaa pääellä, eä eusevirhee odousarvo o eli opimaalie eusi o harhao. Yhälösä saadaa rakaisua Yhälö (.4.) voidaa kiroiaa muooo a µ(-a -a - -a ). Cov( h - a - a - a - -.- a, -i ), i,,, osa ähdää, eä eusevirhe o korreloimao seliävie muuuie, -,, kassa. Yhälö voidaa edellee esiää muodossa a γ(i-) a γ(i-) a γ(i-) γ(hi-), i,,, ai mariisimuodossa γ() γ() γ( ) γ() γ() γ( ) γ( ) a γ( h) γ( ) a γ( h ). γ() a γ( h ) Merkiää mariisiyhälö lyhyesi Γ a γ (h). (.5.3) Opimaalie eusi o siis P h µ ai i µ ) i missä keroime a i määräyyvä yhälö (.5.3) peruseella. (, 5
Koska kaava (.5.) peruseella eusevirhee odousarvo o, eusevirhee keskieliövirhe o ( ) ( ) ( ) ( )( ) ( )( ) ). ( ' () ' ) ( ' () ) ( ) ( () h h i a a i h a E a a a E a E P E i i i i i i i h i i i h i i i h h h γ γ Γ γ γ γ γ γ µ µ µ µ µ µ µ a a a a Viimeisessä välivaiheessa o käyey hyväksi kaavaa (.5.3)..6. Euseoperaaori P omiaisuuksia Lieaarisella eusimella P Y arkoieaa sauaismuuuie,, -,, lieaarikombiaaioa a a a, oka miimoi keskieliövirhee E(Y- a - a - -a ). Voidaa osoiaa, eä riiävä a välämäömä ehdo keroimille a, a,,a ova (vr. kaava (.5.) a (.5.)) E(Y- a -a -a - -.-a ) (.6.) E[(Y- a -a -a - -.-a ) -i ], i,,,. (.6.) Esimmäie eho merkisee siä, eä eusi o harhao a oie, eä eusevirhe o korreloimao eusavie muuuie kassa. Euseoperaaorilla P o seuraava omiaisuude, oka o hyvä uea: ) ( ) β β β β k k Y P Y P, (lieaarisuus) ) P m m, os m, 3) >. os,, os, m Y P m P Y Y P P m m 6
k Todisus: ) Osoieaa, eä lauseke β β P Y oeuaa ehdo (.5.), missä k Y β β Y. (Vasaavasi voidaa arkisaa eho (.5.)). Merkiää Y : opimaalisa eusia P Y a a a - a, olloi E(Y - a -a -a - - -a ) -i, i,,..,. Ny E E E k {[ Y ( β β P Y )] } i k k { ( β β Y ) [ ( a... )]} } a a β β i k [ β ( Y a a... a ) i ] k β E [( Y a a... a ) ], i,,...,. i ) Jos m, o ilmiselvää, eä P m m, sillä euseava muuua m sisälyy eusavii muuuii, -,,. 3) Merkiää P m Ya m a m m a mm a P Y a a a. Oleeaa aluksi, eä m. Tällöi P P m Y P (a m a m m a mm ) a m a m P m a mm P a m a m m a mm P m Y lieaarisuude a kohda ) peruseella. Ku m>, o siis odiseava, eä P Y oeuaa ehdo E(P m Y-P Y) a E(P m Y-P Y) -i. Esimmäie eho oeuuu, koska sekä P m Y eä P Y ova harhaomia eusimia Y:lle. Jälkimmäie eho oeuuu, koska E[(P m Y-P Y) -i ] E[(a m a m m a mm -a -a - -a ) -i ] E[(a m a m m a mm -Y) -i ] E[(Y- a -a - -a ) -i ]. 7
3. ARMA-malli 3.. ARMA(p,q)-prosessi Tähä meessä o käsiely auoregressiivisiä AR(p)- a liukuva keskiarvo MA(q)- mallea. O myös mahdollisa yhdisää ämä malli. Määriellää, eä { } o ARMA(p,q)-prosessi, os { } o saioaarie a kaikkia aahekiä -φ - - -φ p -p Z θ Z - θ q Z -q, (3..) missä Z ~ WN(,σ ). Yksikeraisuude vuoksi oleeaa lisäksi, eei polyomeilla (-φ z- -φ p z p ) a (θ z θ q z q ) ei ole yheisiä ekiöiä. Voidaa osoiaa eä yhälöllä (3..) o yksikäsieie saioaarie rakaisu, os kompleksiasossa määriellyllä polyomilla -φ z- -φ p z p ei ole ollakohia yksikköympyrällä {z C: z }. Yleesä kuieki raoiuaa kausaalisii a iveroiuvii ARMA-prosesseihi, sillä ämä prosessi riiävä saioaarise ARMA-prosessie kovariassirakeee malliamisee. Saoaa, eä ARMA-prosessi { } o kausaalie, os se voidaa esiää ääreömää liukuva keskiarvo prosessia Z ψ Z - ψ Z -, missä {Z } ~ WN(,σ ) a ψ <. Eho o yhäpiävä se kassa, eä polyomilla -φ z- -φ p z p ei ole ollakohia kompleksiaso yksikkökiekossa {z C: z }. Vasaavasi ARMA-prosessi { } saoaa oleva iveroiuva, os se voidaa esiää ääreömää auoregressiiviseä prosessia Z π - π -, missä {Z } ~ WN(,σ ) a π <. Eho o yhäpiävä se kassa, eei polyomilla θ z- θ q z q ole ollakohia yksikkökiekossa{ z C: z }. (Yhäpiävä ehdo ova seurausa poessisaroe perusomiaisuuksisa, vr. TSTM, Secio 3..) 8
Esim.. Tarkasellaa ARMA-mallia (-.58B-.8B -.8B 3 ) (-.48B-7.9B 8.5B 3 4.4B 4.5B 5 )Z Alla olevii kuvioihi o piirrey polyomie φ(z) -.58z-.8z -.8z 3 a θ(z) -.48z- 7.9z 8.5z 3 4.4z 4.5z 5 ollakohda kompleksiasossa. Koska polyomi φ(z) ollakohda ova yksikköympyrä ulkopuolella, prosessi o kausaalie. Koska osa polyomi θ(z) ollakohdisa o yksikköympyrä sisäpuolella, prosessi ei ole iveroiuva. Oikeapuoleie kuvio o piirrey käyäe R-käskyä plo(polyroo(c(,-.48,-7.9,8.5,4.4,.5)),xlimc(-,),ylimc(-,)) lies(exp(i*seq(-pi,pi,le))) Fukiolla polyroo saadaa fukio uure. Fukiolla abs saaaisii suoraa selville uure iseisarvo, esim. abs(polyroo(c(,-.48,-7.9,8.5,4.4,.5))) aaa ulokse [].363599.998975.363599.987.987 osa ähdää eä kolme uura o yksikköympyrä sisäpuolella a kaksi iukasi ulkopuolella. 9
3.. ARMA-prosessi muuamie liukuva keskiarvo prosessiksi Oleeaa, eä ARMA-prosessi (-φ B- -φ p B p ) (θ B θ q B q )Z, (3..) missä Z ~ WN(,σ ), o kausaalie. Tällöi se voidaa esiää liukuva keskiarvo prosessia (ψ Bψ B )Z. (3..) Sioiamalla : lauseke (3..) yhälöö (3..) saadaa yhälö (-φ B- -φ p B p ) (ψ Bψ B )Z (θ B θ q B q )Z, oka avulla voidaa rakaisa uemaoma keroime. Merkisemällä eri B: poessea vasaava keroime yhä suuriksi saadaa yhälö θ ψ -φ θ ψ -ψ φ -φ θ 3 ψ 3 -ψ φ -ψ φ -φ 3 e. Esim.. Tarkasellaa ARMA-prosessia (-.8B.B ) (-.3B)Z. Polyomilla φ(z)-.8z.z o ollakohda ±i, oka siaiseva yksikkö ARMA-prosessi o siis kausaalie a voidaa esiää liukuva keskiarvo prosessia (3..). Tuemaoma keroime ψ voidaa rakaisa yhälö (-.8B.B ) (ψ Bψ B ) -.3B peruseella. Saamme eri B: poessie keroimiksi osa saadaa rakaisua Prosessi voidaa siis esiää saraa B: ψ -.8 -.3 B : ψ -.8ψ. B 3 : ψ 3 -.8ψ.ψ e. ψ -.3.8.5 ψ -..8ψ -..8.5. ψ 3.8ψ -.ψ.8.5-..8.6 e. Z.5Z -.Z -.6Z -3 3
3.3. ARMA-prosessi auokovariassifukio määriämie Yksi apa määriää ARMA-prosessi auokovariassifukio o keroa yhälö -φ - - -φ p -p Z θ Z - θ q Z -q puoliai sauaismuuualla -k a oaa odousarvo puoliai. Koska -k o riippumao Z -h : kassa, ku h<k, saadaa E ( -k )- φ E( -k - )- -φ p E( -k -p ) θ k E( -k Z -k ) θ q E( -k Z -q ), (3.3.) ku k q. (Merkiää, eä θ ). Käyämällä hyväksi esiysmuooa yhälö 3.3. saadaa muooo -k Z -k ψ Z -k- ψ Z -k- γ(k)- φ γ(k-)- -φ p γ(k-p) (θ k θ k ψ θ k ψ θ q ψ q-k )σ. (3.3.) Ku k>q, o voimassa yhälö γ(k)- φ γ(k-)- -φ p γ(k-p). (3.3.3) Käyämällä p esimmäisä yhälöä yhälöisä (3.3.) a (3.3.3) voidaa rakaisa auokovariassi γ(), γ(), γ(), γ(p). Tämä älkee rekursiivisesi voidaa rakaisa lopu auokovariassi yhälösä (3.3.3). Esim (akoa). Jakeaa kappalee 3. esimerki käsielyä, ossa arkaselii prosessia olla oli esiysmuoo -.8 -. - Z -.3Z -, Z.5Z -.Z -.6Z -3 Auokovariassi γ(), γ() a γ() voidaa rakaisa lieaarisesa yhälöryhmäsä γ()-.8 γ().γ() (-.3.5)σ. γ()-.8 γ().γ() -.3 σ. γ()-.8 γ().γ(). Lopu auokovariassi voidaa rakaisa rekursiivisesi yhälö γ(k)-.8 γ(k-).γ(k-) avulla. Yleie rakaisu voiaisii määriää käyämällä hyväksi differessiyhälöide rakaisukaavoa, mua iihi ei puuua ässä. 3
3.4. Osiaisauokorrelaaiofukio Saioaarise aikasara { } osiaisauokorrelaaiofukio α(h) määriellää yhälöillä a α() α(h) φ hh, h, missä φ hh o vekori φh Γh γ h viimeie kompoei, Γ [ ] h h γ( i ) i, a γ h [ γ( ), γ(),..., γ( h) ]'. Vasavasi havaioille {x,x,,x } voidaa määriellä oososiaisauokorrelaaiofukio yhälöillä αˆ () a αˆ (h) φˆ hh, h, missä φˆ hh o vekori φˆ h Γˆ h γˆ h viimeie kompoei. Esim.. AR(p)-prosessi osiaisauokorrelaaiofukio. Kausaalie AR(p)-prosessi määriellää yhälöllä -φ - -.-φ p -p Z, missä {Z }~WN(,σ ) a Cov( s,z ), ku s<. Paras lieaarie eusi havaiolle h havaioe,, h avulla o ˆ, h φ h φ h φ p h p (odisus haroiusehävä). Toisaala havaioe h, h-,, keroime a, a,, a h saadaa yhälösä γ h Γha h, vr. kaava (.4.3). Ny siis a i φ i, ku i p, a a i, ku i>p. Nähdää siis, eä α(p) a p φ p a α(h)a h, ku h>p. Siis AR(p)-prosessi apauksessa osiaiskorrelaaiokerroi viiveellä h o olla, ku h>p. Voisi odoaa eä oososiaisauokorrelaaiokerroi olisi likimai olla, ku h>p. Voidaaki osoiaa, eä AR(p)-prosessi apauksessa osiaisauokorrelaaio αˆ (h) ova likimai riippumaomia a N(,/)-akauueia, ku h>p a o havaioe lukumäärä (ks. TSTM, Secio 8.). Jos siis viiveesä p lähie oososiaisauokorrelaaio aseuu raoe ±.96/ sisäpuolelle, voidaa alusavasi ehdoaa AR(p)-mallia. Huomauus. Osiaisauokorrelaaio voidaa määriellä myös korrelaaioa α(h) Corr( h -P( h, 3,.., h ), -P(, h )), missä P( s, 3,.., h ) arkoiaa havaio s parasa lieaarisa eusia havaioe, 3,.., h avulla. Määrielmä o yhäpiävä aiemmi aeu määrielmä kassa (vr. TSTM, p.7). Iuiiivisesi voidaa aaella, eä laskeaessa osiaisauokorrelaaio o havaioe a h korrelaaiosa poiseu välissä olevie havaioe,, h vaikuus. 3
3.5. ARMA-prosessie aksollisuus Reaalilukuvekorille x (x, x,,x - )' voidaa määriellä diskreei Fourier-muuos a(a,a,..,a - )', missä a k x e iωk x [ cos( ω ) i si( ω ) ] k k a luvu ω k πk/ ova Fourieri aauuksia. Keroime a k ova kompleksilukua. Ku ueaa Fourier-muuos, alkuperäie lukuoo x voidaa palauaa kaavalla x k a e iωk k k a k [ cos( ω ) isi( ω ) ] k k. Jokaie : piuie lukuoo x voidaa siis esiää ω k -aauuksise siiaaloe lieaarikombiaaioa. Fourieri keroime a k iseisarvo a k keroo vasaava siiaallo ampliudi eli heilaheluväli. Fourieri aauus ω -k π-πk/ vasaa egaiivisa aauua -ω k a o helppo osoiaa, eä a a, missä viiva yläpuolella arkoiaa liiolukua. Siksi a -k a k. Fourieri k k kerroi a o reaaliluku a o lukuoo x keskiarvo kerroua vakiolla. Alla o piirrey aikasara suspo.year sekä erilaisia approksimaaioia käyäe ampliudilaa suurimpia siiaaloa. > f<-ff(suspo.year) > f<-rep(,89) > f[order(mod(f))[87:89]]<-f[order(mod(f))[87:89]] > appr<-re(ff(f,ivt)/89) > f[order(mod(f))[85:89]]<-f[order(mod(f))[85:89]] > appr<-re(ff(f,ivt)/89) > f[order(mod(f))[83:89]]<-f[order(mod(f))[83:89]] > appr3<-re(ff(f,ivt)/89) 33
Koska R-fukio ff ei suoria vakiolla / keromisa, äyyy kääeismuuosa muodoseaessa akaa luvulla 89. Keroime a älkee suuri iseisarvo o keroimella a 6, oka vasaa aauua ω 6 π(6/89). Tää aauua vasaa akso π/ω 6.538, oka o lähiä aurigopilkkue ueua aksoa. Aikasaroa aalysoiaessa käyeää yleisesi periodogrammia, oka o aksollie reaaliluvuille määriely fukio iλ ( ) I λ xe. Ku λω k, missä ω k o yksi Fourieri aauuksisa, ii I (ω k ) a k. Periodogrammi voidaa siis laskea Fourieri muuoksella. Yleesä periodogrammi piirreää välille [,π], sillä periodogrammi akso o π a I (λ) I (-λ). Periodogrammi ilmaisee aikasara x variassi akauumise eri aauuskompoeeihi, sillä γˆ() I( ωk ). Keskiarvo eliö oeuaa k yhälö x I(). Yleesä periodogrammia asoieaa peräkkäisillä liukuva keskiarvo suoimilla, oa akauma ulisi paremmi äkyvii. Tasoiusa arviaa, sillä raakaperiodogrammi ei lähesy eoreeisa spekriiheysfukioa, vaikka ooskoko (ks. Brockwell, s.). Miä useampia ermeä liukuvii keskiarvoihi oeaa, siä pieempi o periodogrammi variassi a siä asaisempi kuvio. Kuieki suoime piuude kasvaamie lisää periodogrammi harhaa. Alla o piirrey aurigopilkkuaieiso periodogrammi sekä periodogrammi, oa o asoieu 5 a 7 ermi liukuvilla keskiarvoilla. Huomaa, eä R skaalaa periodogrammi välille [,.5] väli [,π] siasa. Oikeapuoleise periodogrammi o piirrey käyäe aseikkoa aksoa aauude siasa. Periodogrammeissa o huippu aauudella /, oka vasaa aksoa. > a<-specrum(suspo.year) 34
> a$freq<-/a$freq > plo(a,xlab"period",xlimc(,)) a<-specrum(suspo.year,spasc(5,7)) > a$freq<-/a$freq > plo(a,xlab"period") Koska aikasara aksollisuus äkyy myös auokorrelaaiofukiosa, ei liee ylläävää, eä ihωk periodogrammi voidaa laskea oosauokovariassifukiosa: I ( ω k ) γˆ( h) e. Saioaarisille a ollakeskiselle prosesseille { } määriellää spekriiheysfukio kaavalla (, ihλ f λ) e γ( h) π h h < ku auokovariassifukio γ(h) oeuaa ehdo h γ( h ) <. Voidaa osoiaa (Brockwell,s.3), eä ARMA(p,q)-prosessi { }, oka oeuaa differessiyhälö φ(b) θ (B)Z, spekriiheysfukio o iλ σ θ( e ) f ( λ). π iλ φ( e ) Alla olevissa kuvioissa o piirrey AR() a MA() -prosessie spekriiheysfukioia..5 - Z -.5 - Z.5Z - Z -.5Z - Z 35
Havaiaa, eä AR()-prosessi apauksessa aauusakauma o keskiyy pieemmälle alueelle. Ku φ ai θ o egaiivie, speriiheysfukiossa o huippu aauudella π, oka vasaa aksoa. Alla o piirrey AR()-fukio spekreä eri apauksissa. Esimmäisessä apauksessa, ku polyomilla o kaksi kompleksiuura, spekrillä o huippu aauudella π/4. AR-prosessissa siis esiiyy periodisa vaihelua, oka akso o 8 (π/(π/4)). Huomaa kuieki, eä ARMAprosessie apauksessa ei ole kyse aidosa aksollisuudesa, sillä "aalloissa" apahuu vaihesiirymää. B B Z i i ( B )( B) Z 3 ( B )( B) Z ( B )( B) Z 3 3 3 Periodogrammi voidaa asoiaa myös ii, eä esimoidaa sopiva AR-malli a piirreää siä vasaava spekriiheysfukio. Loppuulos voi olla kuieki harhaaohava, os malli o ideifioiu vääri. Alhaalla o piirrey suspo.year-saralle periodogrammi ällä meeelmällä. > a<-specrum(suspo.year,mehod"ar") > a$freq<-/a$freq > plo(a,xlimc(,),xlab"period") 36
4. Malliamie a eusamie ARMA-prosesseilla 4.. Alusava esimoii Yule-Walker -yhälöillä Yleesä parhaaa esimoiimeeelmää pideää suurimma uskoavuude esimoiia, sillä suurimma uskoavuude esimaaeilla o hyvä suure ookse omiaisuude. Lisäksi moissa erikoisapauksissa voidaa osoiaa, eä SU-esimaaorilla o muihi esimaaoreihi verraua piei keskieliövirhe, vaikka se ei yleesä olekaa harhao. Aikasaramallie apauksessa SUesimoii o umeerisesi raskas oimepide, oe alusavissa arkaseluissa käyeää usei muia esimoiimeeelmiä. Johdeaa seuraavaksi s. Yule-Walker -yhälö AR(p)-malli paramerie esimoimiseksi. Kerroaa ollakeskise a kausaalise AR(p)-prosessi { } määrielevä yhälö φ - φ - φ p -p Z puoliai viiväseyllä havaiolla -k a oeaa odousarvo puoliai, olloi saadaa yhälö γ() φ γ() φ γ() φ p γ(p) σ γ(k) φ γ(k-) φ γ(k-) φ p γ(k-p), k,,,p. Yhälö voidaa esiää mariisimuodossa a Γ p φ γ p (4..) σ γ()-φ' γ p, (4..) missä Γ p o kovariassimariisi Γ [ ] p p γ( i ) i, a γ p ( γ(),..., γ( p))'. Korvaamalla uemaoma kovariassi ookse peruseella esimoiduilla saadaa Yule-Walker -esimaaori a ˆ φ Γ ˆ γ ˆ p p ˆ σ γˆ() φˆ' ˆ γ p (4..3) (4..4) paramereille φ a σ. (Mariisi Γˆ p o kääyvä, ku γ ˆ () > ; ks. Brockwell, Davis, Secio.4..). Voidaa osoiaa, eä saau rakaisu o kausaalie (ks. TSTM, Problem 8.3). Veraamalla rakaisua oososiaisauokorrelaaiokeroime määrielevää kaavaa kappaleessa 3.4. havaiaa, eä αˆ ( p) φˆ p, missä φˆ p o parameri φ p esimaaori, ku esimoidaa AR(p)-malli Yule- Walker-yhälöillä. Yule-Walker -esimoii perusuu momeimeeelmää, ossa eoreeise a esimoidu momei aseeaa yhä suuriksi. Yleesä momeiesimaaoreilla o palo suurempi variassi kui vasaavilla SU-esimaaoreilla. Kuieki voidaa osoiaa, eä suure ookse apauksessa Yule- 37
Walker esimaaorilla φˆ o sama akauma kui SU-esimaaorilla. Voidaa osoiaa, eä suure ookse apauksessa likimai ˆ ~ N ( φ, σ Γ p / ) φ. Yule-Walker -rakaisu voidaa esiää myös kaavoilla a φ ˆ p σ ˆ Rˆ ρˆ p γ ˆ() [ ρ R ˆ ˆ ρ ˆ p ' ] p p (4..5), (4..6) missä R ˆ p Γˆ p / γˆ( ) o oosauokorrelaaiomariisi a ρˆ ˆ p (ˆ(),..., ρ ρˆ( p ))' γ p / γˆ( ). Lisäksi keskisey aikasara { } oosauokovariassimariisi voidaa esiää mariisilausekkeea Γ ˆ ' (4..7) p / a esimaaori φˆ muodossa ˆ φ ( ' ) ' y, (4..8) missä x x x3 x x x x x ( p) p a x x3 y x. Yule-Walker -rakaisu siis vasaa ieylaise regressiomalli esimoiia. Rakaisu riippuu aioasaa korrelaaioisa a kovariasseisa, oihi aikasara keskiarvolla ei ole siihe vaikuusa. Aikasara voidaa aia keskisää väheämällä siiä keskiarvo. Lausekkeesa (4..7) voidaa havaia, eä oosauokovariassimariisi o aia ei-egaiivisesi defiiii. 4.. Alusava esimoii Haa-Rissae -algorimilla Haa-Rissae -algorimia voidaa käyää alusavaa ARMA(p,q)-prosessi esimoiii. Algorimi idea o siiä, eä iveroiuva ARMA-prosessi voidaa esiää ääreömää auoregressiiviseä prosessia Z π - π -, Z ~ WN(,σ ) Esimoidaa AR(m) - malli, missä m o suurehko luku (m > max(p,q)) a oleeaa, eä keroime π eivä ole merkiäviä, ku >m. Luku m voidaa valia ii, eä se miimoi Akaike iformaaiokrieeri. R-ohelma fukio "ar" ekee ämä auomaaisesi. Esimoiisa äävää residuaalisaraa Z ˆ } voidaa sie käyää valkoise kohia {Z } esimaaia. { Tämä älkee esimoidaa ARMA(p,q)-malli parameri regressiomalli 38