6. Spektraalianalyysi Tällä kurssilla on käyty läpi eräitä stationääristen aikasarjojen ominaispiirteitä, kuten aikasarjaa mallintavan stokastisen prosessin X t odotusarvo E[X t ] ja autokovarianssifunktio Γ(τ). Seuraavaksi tarkastellaan lähemmin, millaisia funktioita autokovarianssifunkiot ovat. Osoittautuu, että autokovarianssifunktioille voidaan antaa esitys Fourier-sarjojen f(ω) h k e ikω, ω [, π]. avulla. Esityksessä autokovarianssifunktiota tarkastellaan aikatason sijaan ns. taajuustasossa, jonka muuttuja on ω. 6. Autokovarianssifunktion karakterisaatio aikatasossa Tarkastellaan tässä luvussa aiempaa yleisempiä stokastisia prosesseja, jotka ovat kompleksiarvoisia. Käytetään kompleksiluvuista seuraavia merkintäjä Imaginääriyksikkö i. Kompleksiluku z x + iy C, missä reaaliosa Re(z) x R ja imaginääriosa Im(z) y R. Kompleksiluvun z x + iy liittoluku eli kompleksikonjugaatti z x iy. Eksponenttifunktiolle pätee e ix cos(x) + i sin(x), x R, jolloin esimerkiksi e i cos() + i sin(). Vastaavasti cos(x) 2 (eix + e ix ) sekä sin(x) 2i (eix e ix ). Määritelmä 6.. Sanotaan, että X t on kompleksiarvoinen stationäärinen stokastinen prosessi, jos X t on kompleksiarvoinen satunnaismuuttuja jokaisella t ja odotusarvo µ(t) E[X t ] sekä autokovarianssifunktio Γ t (τ) E[(X t µ)(x t τ µ t τ )] eivät riipu ajanhetkestä t. Lause 6.. Funktio Γ : Z C on jonkin kompleksiarvoisen heikosti stationäärisen stokastisen prosessin autokovarianssifunktio jos ja vain jos 54
. m k,j z kγ(k j)z j 0 jokaisella z,..., z m C, m N, ja 2. Γ(k) Γ( k) jokaisella k Z. Todistus. Oletetaan ensin, että Γ toteuttaa lauseen ehdot, 2 ja kontsruoidaan sopiva prosessi. Matriisi C jk Γ(j k), j, k,..., n on erään multinormaalijakauman kovarianssifunktio (esim. valitaan multinormaalijakautuneeksi satunnaisvektoriksi C 2 ε, missä ε N(0, I n n ). Koko prosessi saadaan muodostettua näistä äärellisulotteisista reunajakaumista ns. Kolmogorovin yhteensopivuuslausetta käyttämällä. Päinvastainen suunta on harjoitustehtävänä. Huomautus 6... Lause 6. karakterisoi autokovarianssifunktiot ei-negatiivisn definiittisyyden avulla. Monipuolisten autokovarianssifuktioiden generointi on työlästä tältä pohjalta, sillä positiivisen definiittisyyden havaitseminen edellyyttää esim. numeerisessa laskenna matriisihajotelmia. Toisin sanoen, pitää käsitellä sekä matriisin ominaisarvoja, että ominaisvektoreeita. 6.2 Spektritiheysfunktio Autokovarianssifunktioille voidaan johtaa yksinkertainen esitys Fourier-menetelmien avulla. Esitys pohjautuu Wienerin ja Khintchinen lauseeseen: Lause 6.2 (Wiener-Khintchine). Funktio Γ : Z C on jonkin heikosti stationäärisen stokastisen prosessin X t, t Z autokovarianssifunktio jos ja vain jos löytyy sellainen todennäköisyyskertymäfunktio F : [, π] [0, ], että Γ(t) e itω df (ω), t Z. Osoitamme vain lauseen erikoistapauksen (Lause 6.3). Tätä varten tutustutaan Fourier-sarjoihin. kuvailee täsmälllisesti 55
Käytetään jonosta merkintää (a k ) 2, joka tarkoittaa alkioita..., a 2, a, a 0, a, a 2,.... Palautetaan mieleen, että jono (a k ) on itseisesti summautuva (eng. absolutely summable), jos a k <. Kaikkien itseisesti summautuvien kompleksijonojen muodostamaa lineaarista avaruutta 3 merkitään l eli l {(a k ) C : a k < }. kaikilla k Z. Silloin jono (a k ) on itseisesti sum- Esimerkki 6.. Olkoon a k + k 2 mautuva eli (a k ) l, sillä 0 + k 2 + k + 2 k + k + 2 2 k + k 2. ja integraalitestin nojalla sarja suppenee. (Integraalitesti: f(k) kun f(s) ( + +k 2 s 2 ) ja f(s)ds ds <.) + s2 Esimerkki 6.2. Olkoon a k + k. Silloin (a k) / l, sillä + k + 2 k + k > + 2 ja integraalitestin nojalla sarja k2 hajaantuu. (Integraalitesti: k k s ja f(s)ds s ds.) Lemma 6. (Fourier-sarja). Olkoon jono (h k ) l. Silloin f(ω) : on hyvin määritelty funktio välillä [, π] ja pätee h k k2 k f(k), kun f(s) h k e ikω (6.2.) f(ω)e ikω dω, ; k Z. (6.2.2) Todistus. Funktio f(ω) on hyvin määritelty, sillä sarja suppenee majoranttiperiaatteella, koska h k e ikω h k. 2 kirjallisuudessa usein esiintyy myös yksinkertainen merkintä a k 3 l on lineaarinen, kun yhteenlasku ja vakiolla kertominen määritellään komponenteittain 56
sillä Yhtäsuuruuden (6.2.2) näyttäminen tapahtuu suoralla laskulla: ( ) π f(ω)e ijω dω (6.2.) h k e ikω e ijω dω ( ) π m lim h k e ikω e ijω dω k m m lim h k e i(j k)ω dω lim m k m k m h k δ j,k h j {, kun j k e i(j k)ω dω ( i(j k) e i(j k)π e i(j k)π) 0 kun j k. Lause 6.3. Olkoon Γ : Z C sellainen, että jono (Γ(k)) l. Silloin Γ on heikosti stationäärisen stokastisen prosessin autokovrianssifunktio jos ja vain jos on f(ω) : Γ(k)e ikω ei-negatiivinen jokaisessa pisteessä ω [, π]. Todistus. Oletetaan ensin, että Γ on autokovarianssifunktio. Silloin se on ei-negatiivisesti definiitti eli 0 m k,j z kγ(j k)z j. Valitsemalla z k m e ikω, nähdään, että jokaisella m N m 0 e ikω Γ(k j)e ijω m m e ikω Γ(k j)e ijω m m rk j m m j,k m k m e ikω k rk m r m+ kr+m Palautetaan mieleen, että r+ lim k i(k r)ω summausjärjestys Γ(r)e Γ(r)e irω a k (m) m r m+ j m ( r m lim a k(m), m r+m r m+ kr+ ) Γ(r)e irω. jos a k (m) < b k ja k b k <. Huomataan, että ( a k (m) : I m<r<m r ) Γ(r)e irω 2 Γ(r) : b k, m 57 Γ(r)e irω
joten majoranttiperiaatteen nojalla sarja k a k(m) suppenee ja lisäksi raja-arvo voidaan viedä summan sisään. Silloin ( lim I m<r<m r ) Γ(r)e irω Γ(r)e irω. m r Ei-negatiivisten lukujen raja-arvo on ei-negatiivinen. Oletetaan sitten, että f(ω) 0. Lemman 6. nojalla Γ(k) Tällöin Γ on ei-negatiivisesti definiitti, sillä m k,j z k z j e i(k j)ω f(ω)dω e ikω f(ω)dω. ( k k m z k e ikω )( j z j e ijω )f(ω)dω z k e ikω 2 f(ω)dω 0. Lauseen 6. nojalla löytyy heikosti statinäärinen stokastinen prosessi, jonka autokovarianssifunktio on Γ. Yllä oleva lause karakterisoi riittävän säännölliset autokovarianssifunktiot uudella tavalla. Määritelmä 6.2. Olkoon Γ stokastisen prosessin X t autokovarianssifunktio. Lauseen 6.3 funktiota f(ω) : Γ(k)e ikω nimitetään stokastisen prosessin X t spektritiheysfunktioksi. Esimerkki 6.3. MA()-prosessin X t µ + ε t + θε t, missä θ <, autokovarianssifunktio on ( + θ 2 )σ 2, k 0 Γ(k) θσ 2, k ± 0 muulloin. Silloin f(ω) Γ(k)e ikω σ2 ( θe iω + ( + θ 2 ) + θe iω) ( + θ 2 + 2θ cos(ω) ) ( (θ + cos(ω)) 2 + cos 2 (ω) ) 0. 58
Esimerkki 6.4. Olkoon tarkasteltava prosessi X t ε t pelkkää valkoista kohinaa missä E[ε 2 t ] σ 2. Silloin autokovarianssifunktio Γ(k) δ k,0 σ 2 ja f(ω) σ 2 δ k,0 e ikω σ2. Valkoisen kohinan spektritiheysfunktio on vakio! Fysiikassa spektritiheysfunktioiden muuttuja ω edustaa taajuutta aina kun t edustaa aikaa. Tästä juontaa valkoisen kohinan nimitys: spektritiehysfunktion mukaan valkoisen kohinan prosessissa on sekoittuneena kaikkia taajuuksia yhtä suurella painolla. Samoin valkoisesssa valossa on sekoittuneena kaikkia värejä yhtä suurella intensiteetillä. Spektritihesfunktioiden ja itseisesti summautuvien autokovarianssifunktioiden välillä on yksi-yhteen vastaavuus (bijektio!) Autokovarianssifunktiota Γ(k) l vastaa spektritiheysfunktio f(ω) Γ(k)e ikω 0 ja spektritiheysfunktiota f(ω) vastaa autokovarianssifunktio Γ(k) f(ω)e itω dω l Lause 6.3 on erinomainen työkalu autokorrelaatiofunktioiden tunnistamiseen. Esimerkki 6.5. Tutki, millä vakion b R arvoilla, k 0 Γ(k) b, k ± 0 muulloin. on autokovarianssifunktio. Ratkaisu: Koska funktiossa Γ on vain äärellisen monta nollasta eroavaa termiä, niin se on selvästi itseisesti summautuva eli Γ(k) <. Lisäksi f(ω) Γ(k)e ikω ( be iω + + be iω) ( + 2b cos(ω)). Funktio f on ei-negatiivinen aina, kun + 2b cos(ω) 0 cos(ω) 2b jokaisella ω [, π].täten on välttämötäntä, että b 0.5, jotta Γ on autokovarianssifunktio. Esimerkiksi, kun b 0.9, niin kysessä ei ol autokovarianssifunktio! Huomautus 6.2.. Kaikki funktiot eivät ole autokovarianssifunktioita.(esimerkki 6.5) 59
6.2. Suodatus Johdetaan seuraavaksi lauseke tuttujen ARMA-prosessien spektritiheysfunktioille. Näytämme ensin aputuloksen, jossa käsitellään ns. lineaarisia suodattamia (eng. linear filters), joilla muunnetaan stokastisia prosesseja X t toisiksi stokastisiksi prosesseiksi Y t. Lemma 6.2. Olkoon X t heikosti stationäärinen prosessi, jonka spektritiheysfunktio on f X. Jos (h k ) l, niin prosessi Y t h k X t k on heikosti stationäärinen ja sen spektritiheysfunktio f Y missä ns. siirtofunktio kaikilla ω [, π]. f Y (ω) H(ω) 2 f X (ω), H(ω) h k e ikω Todistus. Voidaan olettaa, että prosessien odotusarvot häviävät. Silloin [( ) ( )] Γ Y (τ) E[Y t Y t τ ] E h k X t k h k X t τ k k,j k,j on E [h k h j X t k X t τ j ] h k h j Γ X (τ j + k). Prosessin Y t spektritiheysfunktio on silloin ( ) f Y (ω) e irω h k h j Γ(r j + k) r r j+k r k,j r r k,j Γ(r )e ir ω e i(r k+j)ω h k h j Γ(r ) ( e ikω ) ( j h j e ijω ) H(ω) 2 f X (ω). Esimerkki 6.6. Prosessi Y t X t 0.5X t h k X t k, missä h 0 ja h 0.5. Silloin spektritiheysfunktio on f Y (ω) 0.5e iω 2 f X (ω). 60
Spektritiheysfunktio 0.0 0.5 0.20 3 2 0 2 3 ω Kuva 6.: MA()-prosessin X t ε t 0.5ε t spektritiheysfunktio, missä ε t N(0, ). Spektritiheysfunktio 0.0 0.5 0.20 3 2 0 2 3 ω Kuva 6.2: MA()-prosessin X t ε t 0.5ε t+ spektritiheysfunktio, missä ε t N(0, ). 6.2.2 ARMA-prosessin spektritiheysfunktio Lause 6.4. Heikosti stationäärisen ARMA(p, q)-prosessin spektritiheysfunktio on kaikilla ω [, π]. X t c + φ X t +... φ p X t p + ε t + θ ε t + + θ q ε t q f(ω) σ2 + θ e iω + + θ q e iqω 2 φ e iω φ p e ipω, 2 Todistus. Esitetään ARMA-prosessi viivekuvauksen avulla (I φ L φ p L p )X t (I + θ L + + θ q L q )ε t. Prosessin (I φ L φ p L p )X t spektritiheysfunktio on Lemman 6.2 φ e iω φ p e ipω 2 f(ω) 6
ja prosessin (I + θl + + θl q )ε t spektritiheysfunktio on Lemman 6.2 ja Esimerkin 6.4 nojalla σ 2 + θ e iω + + θ q e iqω 2. Koska viivepolynomien avulla määritellyt prosessit yhtyvät, niin myös niiden spektritiheysfunktiot yhtyvät φ e iω φ p e ipω 2 f(ω) σ2 + θ e iω + + θ q e iqω 2.. Yhtäsuuruuden pätiessä voimme jakaa puolittain AR-polynomilla, jolloin saamme f(ω) σ2 + θ e iω + + θ q e iqω 2 φ e iω φ p e ipω 2 aina, kun polynomin p(z) p k φ kz k nollakohdat eivät ole yksikköympyrän kehällä. 62