TIINA SOKURI VINO KALMANIN SUODATIN. Kandidaatintyö
|
|
- Mari Sariola
- 7 vuotta sitten
- Katselukertoja:
Transkriptio
1 TIINA SOKURI VINO KALMANIN SUODATIN Kandidaatintyö Tarkastaja: Simo Ali-Löytty Palautettu:
2 II TIIVISTELMÄ TAMPEREEN TEKNILLINEN YLIOPISTO Teknis-luonnontieteellinen koulutusohjelma TIINA SOKURI: Vino Kalmanin suodatin Kandidaatintyö, 19 sivua, 2 liitesivua Lokakuu 2012 Pääaine: Matematiikka Tarkastaja: Simo Ali-Löytty Avainsanat: Vino Kalmanin suodatin, Kalmanin suodatin, suljettu vino-normaalijakauma, normaalijakauma Kalmanin suodatin on algoritmi, jolla voidaan rekursiivisesti laskea haluttu tilan estimaatti kun tiedossa on tilamalli, mittausmalli, mallien virheiden kovarianssit, mittaukset ja tieto alkutilan odostusarvosta ja kovarianssista. Estimaatti voidaan laskea, vaikka mittausdata olisi kohinaista ja sisältäisi epätarkkuuksia. Kalmanin suodattimen tapauksessa oletus alkutilan ja kohinoiden normaalisuudesta on hyvin olennainen, ja tämä rajoittaa algoritmin käyttöä, sillä monet sovellukset eivät toteuta tätä vaatimusta. Kun halutaan laajentaa Kalmanin suodattimen käyttömahdollisuuksia, otetaan käyttöön epäsymmetrisyys eli vinous käytettyyn tilamalliin. Epäsymmetrisyys johtuu usean muuttujan normaalijakauman laajennuksesta suljettuun vino-normaalijakaumaan uusien vinoutta säätelevien parametrien avulla. Työssä on tarkoitus esitellä vino Kalmanin suodatin perustellusti ja todistaa siihen liittyvä propositio. Työssä esitellään lyhyesti myös moniulotteinen normaalijakauma, Kalmanin suodatin ja suljettu vino-normaalijakauma. Moniulotteista normaalijakaumaaa ja suljettua vino-normaalijakaumaa havainnollistetaan kaksiulotteisessa tapauksessa MATLAB-ohjelmistolla piirretyillä kuvilla. Lopuksi vinon Kalmanin suodattimen algoritmi toteutetaan MATLAB-ohjelmistolla ja visualisoidaan ratkaisua sekä verrataan laskettua tilan estimaattia Kalmanin suodattimella laskettuun tilan estimaattiin yhden satunnaisen reitin tapauksessa.
3 III ALKUSANAT Tämä tekniikan kandidaatintyö on tehty Tampereen teknillisen yliopiston Matematiikan laitokselle. Haluan kiittää kandidaatintyön ohjaajaa TkT Simo Ali-Löyttyä haastavasta kandidaatintyön aiheesta sekä avusta ja kannustuksesta työn tekemisessä.
4 IV SISÄLLYS 1. Johdanto Suodatuksen teoreettinen tausta Moniulotteinen normaalijakauma Kalmanin suodatin Vino Kalmanin suodatin Suljettu vino-normaalijakauma Kalmanin suodatin ja suljetut vino-normaalijakaumat Vinon Kalmanin suodattimen algoritmi Algoritmin toteutus ja visualisointi Yleistä algoritmin toteutuksesta Visualisointi ja vertailu Kalmanin suodattimeen Yhteenveto Lähteet A.Vinon Kalmanin suodattimen toteutus MATLAB-ohjelmistolla
5 V TERMIT JA SYMBOLIT µ, v Vektoreita x Asiayhteydestä riippuen joko vektori, tilan stokastinen prosessi tai satunnaismuuttuja x k x y y k Tila ajanhetkellä t k Priori-tila Asiayhteydestä riippuen joko vektori, mittauksien stokastinen prosessi tai satunnaismuuttuja Mittaus ajanhetkellä t k y 1:k Mittaukset ajanhetkillä t 1, t 2,..., t k F, Σ Matriiseja F T F F 1 detf R n R n m x : Ω R n N n µ, Σ x N n µ, Σ Ex Vx φ n x; µ, Σ φ x k y 1:k 1 φ wk 1 Φ n x; µ, Σ CSN n,m µ, Σ, D, ν, M n,m t x y φ y k x k Matriisin F transpoosi Matriisin F vasen inverssi Matriisin F inverssi Matriisin F determinantti n-ulotteisten reaalivektoreiden joukko n m -ulotteisten reaalimatriisien joukko Joukkoonkuulumisoperaattori Satunnaismuuttuja x on kuvaus joukosta Ω joukkoon R n n-ulotteinen normaalijakauma, jonka odotusarvo on µ ja kovarianssi Σ Satunnaismuuttuja x noudattaa n-ulotteista normaalijakaumaa parametrein µ ja Σ Satunnaismuuttujan x odotusarvo Satunnaismuuttujan x kovarianssi Normaalijakauman N n µ, Σ tiheysfunktio Priori-estimaattorin x k y 1:k 1 tiheysfunktio Tilamallin virheen tiheysfunktio Normaalijakauman N n µ, Σ kertymäfunktio n-ulotteinen suljettu vino-normaalijakauma, jonka parametrit ovat µ R n, Σ R n n, D R m n, ν R m ja R m m Suljetun vino-normaalijakauman CSN n,m µ, Σ, D, ν, momentit generoiva funktio Tilan x ehdollinen jakauma ehdolla mittaukset y Mittauksen y k uskottavuus ehdolla tila x k
6 1 1. JOHDANTO Paikannuksessa tieto käyttäjän tarkasta paikasta on tärkeä saada selville helposti ja nopeasti. Paikan estimaatti voidaan ratkaista käyttäen vain nykyisiä mittauksia. Kuitenkin tarkempi estimaatti saadaan käyttämällä suodatusta, jossa hyödynnetään sekä aikaisempia että nykyisiä mittauksia, kun ratkaistaan tilan estimaattia. Eräs tällainen suodatusalgoritmi on nimetty Rudolf E. Kálmánin mukaan Kalmanin suodattimeksi. Kalmanin suodattimen etuna on laskennan rekursiivisuus, joten algoritmia voi käyttää reaaliajassa. Kalmanin suodattimen algoritmin soveltamiseen tarvitaan tieto prosessin alkutilasta. Lisäksi tarvitaan tieto prosessin dynamiikasta eli siitä, miten prosessin tila muuttuu ajan kuluessa, sekä tieto siitä, kuinka mittaukset riippuvat sen hetkisestä tilasta. Dynaaminen systeemi oletetaan lineaariseksi ja kohinat sekä alkutila normaalisti jakautuneiksi. Tarkempi kuvaus Kalmanin suodattimesta ja sen oletuksista sekä esitys algoritmista tiivistetyssä muodossa on luvussa 2. Monet sovellukset ovat sellaisia, etteivät ne noudata normaalijakaumaa. Esimerkkinä sisätiloissa tehtävässä paikannuksessa voimme saada tiedon siitä, että olemme seinän oikealla puolella. Kuitenkaan seinän paikka ei ole täysin tiedossa, ja on todennäköisempää, ettemme ole aivan seinässä kiinni. Tällöin oletus tilan estimaatin normaalisuudesta ei kuvaa todellista tilannetta. Esimerkiksi tällaisessa tilanteessa voidaan käyttää oletusta, jonka mukaan tilan jakaumassa on vinoutta. Eräs tällainen jakauma on suljettu vino-normaalijakauma. Suljettu vino-normaalijakauma on normaalijakauman laajennus, jonka vinoutta säädellään ylimääräisillä parametreillä. Vinouden lisäämistä ja suljetun vinonormaalijakauman ominaisuuksia on käsitelty luvussa 3. Luvun lopussa vinon Kalmanin suodattimen algoritmi on esitetty tiivistetyssä muodossa. Kalmanin suodattimen ja vinon Kalmanin suodattimen käyttöä on havainnollistettu luvussa 4, jossa sama paikannusongelma on ratkaistu sekä Kalmanin suodattimen että vinon Kalmanin suodattimen avulla käyttäen MATLAB-ohjelmistoa. Vinon Kalmanin suodattimen algoritmin toteutuksessa käytetty MATLAB-koodi on esitetty liitteessä.
7 2 2. SUODATUKSEN TEOREETTINEN TAUSTA Suodatukseksi kutsutaan tilan ehdollisen jakauman ratkaisemista aikasarjassa, jonka avulla voidaan ratkaista haluttu estimaatti [1, s. 40]. Tämä tapahtuu käyttämällä kaikkia aikaisempia mittauksia nykyisten mittausten lisäksi kun lasketaan tilan estimaattia. Tässä luvussa on tarkoitus esitellä eräs tällainen tilan estimaatin ratkaiseva algoritmi, nimeltään Kalmanin suodatin ja sen oletukset. Oletuksiin liittyy keskeisesti moniulotteinen normaalijakauma, joka esitetään seuraavana. 2.1 Moniulotteinen normaalijakauma Moniulotteinen normaalijakauma eli moniulotteinen Gaussin jakauma on yleistys yksiulotteisesta normaalijaukaumasta korkeampiin dimensioihin. Määrittelemme moniulotteisen normaalijakauman seuraavasti: Määritelmä 1. Olkoon x : Ω R n, µ R n ja Σ R n n symmetrinen ja positiivisesti definiitti matriisi. Tällöin satunnaismuuttuja x noudattaa n-ulotteista normaalijakaumaa parametrein µ ja Σ, merkitsemme tätä x N n µ, Σ, jos sen tiheysfunktio on φ n x; µ, Σ = 1 2πΣ exp det x µt Σ 1 x µ 2, x R n. 2.1 Olkoon x N n µ, Σ. Tällöin normaalijakauman parametrit ovat satunnaismuuttujan x odotusarvo µ = E x ja kovarianssimatriisi Σ = V x. Tiheysfunktio 2.1 voidaan tulkita geometrisesti normaalijakauman tasa-arvopintoina, jotka ovat R n :n ellipsoideja, joiden puoliakseleiden pituudet ovat verrannollisia kovarianssimatriisin Σ ominaisarvojen neliöjuuriin [2, s. 21]. Kaksiulotteista normaalijakaumaa on havainnollistettu seuraavassa kuvassa.
8 2. Suodatuksen teoreettinen tausta 3 Kuva 1. Kuvassa A on esitetty tiheysfunktio kaksiulotteiselle normaalijakaumalle, jonka parametrit ovat µ = ja Σ =. Kuvassa B on esitetty saman normaalijakauman tasa-arvopinnat. Normaalijakauma voidaan määritellä myös positiivisesti semidefiniiteille kovarianssimatriiseille Σ [2, s.21]. Tässä työssä keskitytään kuitenkin vain positiivisesti definiitteihin kovarianssimatriiseihin Σ. 2.2 Kalmanin suodatin Kalmanin suodatin on algoritmi, joka estimoi tilaa x k hyödyntäen aikaisempia ja nykyisiä mittauksia y 1, y 2,..., y k. Jotta aikaisempia mittauksia voitaisiin käyttää, on otettava käyttöön tilamalli x k = G k 1 x k 1 + w k 1, 2.2
9 2. Suodatuksen teoreettinen tausta 4 joka kertoo kuinka seuraava tila riippuu edellisestä tilasta [1, s. 39]. Yhtälössä 2.2 x k on tila, G k 1 R n n on tilansiirtomatriisi ja w k 1 on tilamallin virhe. Alaindeksillä k N \ {0} viitataan ajanhetkeen t k. Tilamallin virheen kovarianssimatriisia merkitään matriisilla Q k 1, joka oletetaan positiivisesti definiitiksi. Tulkitaan tila x k stokastiseksi. Tällöin tilaestimaatin laskeminen tapahtuu kaksivaiheisesti. Ratkaistaan kullakin ajanhetkellä t k tilan x k ehdollinen jakauma ehdolla mittaus y k. Mittausyhtälö y k = F k x k + v k 2.3 koostuu mittausmatriisista F k R d n ja mittausvirheestä v k. Rajoitutaan tässä työssä tapaukseen, jossa mittausmatriisi on neliömatriisi. Mittausmallin virheen kovarianssimatriisia merkitään matriisilla R k, joka oletetaan positiivisesti definiitiksi. Tilamallin ja mittausyhtälöiden lisäksi ehdollisen jakauman laskemiseen tarvitaan tieto alkutilasta x 0. Merkitään alkutilan odotusarvoa vektorilla ˆx 0 ja kovarianssimatriisia vakiomatriisilla P 0. Kun tilan ehdollinen jakauma on saatu ratkaistua, voidaan siitä laskea toivottu estimaatti, joka on optimaalinen toivotun kriteerin suhteen [1, s ]. Ajallisesti ei ole järkevää käyttää koko mittaushistoriaa joka ajanhetkellä estimoinnissa, vaan estimointi olisi pystyttävä ratkaisemaan rekursiivisesti. Näin voidaan menetellä, kun otetaan käyttöön muutamia riippumattomuusoletuksia. Oletetaan, että virheet w k 1 ja v k ovat keskenään riippumattomia, valkoista kohinaa, nollakeskeisiä ja riippumattomia alkutilasta x 0. Algoritmia, joka pystyy ratkaisemaan estimoinnin näillä oletuksilla, kutsutaan Kalmanin suodattimeksi Rudolf E. Kálmánin mukaan [1, s. 40]. Yhden tulkinnan mukaan Kalmanin suodattimen tarkoituksena on siis ratkaista paras lineaarinen harhaton estimaatti tilalle x k. Käytetään tässä työssä kuitenkin tulkintaa, jonka mukaan Kalmanin suodatin ratkaisee tilan x k ehdollisen jakauman ehdolla mittaukset y 1:k [3, s.1]. Priori-estimaattorille x k y 1:k 1 pätee [3, s.1], kun merkitään priori-estimaattorin tiheysfunktiota merkinnällä φ x k y 1:k 1, φ x k y 1:k 1 = ja posteriori-estimaattorille pätee [3, s.1] φ x k y 1:k = missä on siirtymätiheysfunktio φ x k x k 1 φ x k 1 y 1:k 1 dxk 1 φ y k x k φ x k y 1:k 1 φ yk x k φ x k y 1:k 1 dxk, 2.4 φ x k x k 1 = φ wk 1 x k G k 1 x k 1
10 2. Suodatuksen teoreettinen tausta 5 ja uskottavuus φ y k x k = φ vk y k F k x k. Seuraavassa on esitetty Kalmanin suodatin tiivistetyssä muodossa. Algoritmi 1. Kalmanin suodatin Tilamalli: x k = G k 1 x k 1 + w k 1 V w k 1 = Q k 1. Mittausyhtälö: y k = F k x k + v k V v k = R k. Mittaukset: y 1:m = {y 1, y 2,..., y m }. Alkutila: estimaatti ˆx 0 ja kovarianssimatriisi P Asetetaan k = Ratkaistaan posteriorijakauman parametrit: ˆx k = G k 1ˆx k 1, P k = G k 1P k 1 G T k 1 + Q k 1, K k = P k F k T Fk P k F k T 1 + R k, ˆx k = ˆx k + K k yk F kˆx k ja P k = I K k F k P k. 3. Lopetetaan, jos k = m, muutoin asetetaan k = k+1 ja palataan kohtaan 2.
11 6 3. VINO KALMANIN SUODATIN Edellisessä luvussa esiteltyä Kalmanin suodatinta hyödynnetään laajasti tilamallien posteriori-tilan laskennassa. Moniulotteisessa tapauksessa oletus jakauman normaalisuudesta on hyvin olennainen. Kuitenkaan monet sovellukset eivät toteuta tätä vaatimusta. Eräs tapa laajentaa Kalmanin suodattimen käytettävyyttä on lisätä vinoutta tilamalliin [4, s. 383]. Seuraavassa esitellään lyhyesti vino-normaalijakauma sekä perusteellisemmin Vino Kalmanin suodatin, joka ratkaisee tilamallin, jossa alkutila x 0 noudattaa suljettua vino-normaalijakaumaa, ja sen algoritmi. 3.1 Suljettu vino-normaalijakauma Suljettu vino-normaalijakauma on normaalijakauman laajennus, jonka vinoutta säädellään ylimääräisillä parametreillä. Tällä jakaumalla on monia Gaussisilta jakaumilta periytyviä ominaisuuksia [5, s. 3]. Määritellään seuraavassa suljettu vinonormaalijakauma. Määritelmä 2. Olkoon satunnaisvektorin x dimensio n. Tällöin satunnaisvektorin x sanotaan noudattavan suljettua moniulotteista vino-normaalijakaumaa, käytämme tälle merkintää x CSN n,m ˆx, P, D, ν,, jos sen tiheysfunktio on muotoa 1 Φ m 0; ν, + DP D T φ n x; ˆx, P Φ m D x ˆx ; ν,, x R n, 3.1 missä ˆx R n ja ν R m ovat vektoreita, ja P R n n ja R m m ovat kovarianssimatriiseja, D R m n, ja φ n x; ˆx, P ja Φ n x; ˆx, P ovat n-dimensioiset normaalijakauman tiheysfunktio ja kertymäfunktio odotusarvolla ˆx ja kovarianssimatriisilla P. Kaksiulotteista suljettua vino-normaalijakaumaa on havainnollistettu seuraavassa kuvassa.
12 3. Vino Kalmanin suodatin 7 Kuva 2. Kuvassa A on esitetty tiheysfunktio kaksiulotteiselle vino-normaalijakaumalle, jonka parametrit ovat ˆx =, P =, D =, v = ja =. Kuvassa B on esitetty saman vino-normaalijakauman tasa-arvopinnat. Kuvaan on myös merkitty tähdellä numeerisesti laskettu arvio jakauman odotusarvosta. Kun D = 0, tiheysfunktio 3.1 redusoituu moniulotteisen normaalijakauman tiheysfunktioksi. Parametriin D viitataan muotoparametrinä. Momentit generoiva funktio M n,m t suljetulle vino-normaalijakaumalle on [6, s. 4] M n,m t = Φ m DP t; ν, + DP D T exp ˆx T t + 1 t T P t. 3.2 Φ m 0; ν, + DP D T 2 Koska riippumattomien satunnaismuuttujien summan momentit generoiva funktio on muuttujien momentit generoivien funktioiden tulo [7, s. 5], ei kahden suljettua vino-normaalijakaumaa noudattavan n,m -dimensioisen satunnaismuuttujan summa yleisesti noudata n,m-dimensioista suljettua vino-normaalijakaumaa [4, s. 384]. Voidaan kuitenkin osoittaa [6, s. 10], että kahden suljettua vino-normaalijakaumaa
13 3. Vino Kalmanin suodatin 8 noudattavan n,m -dimensioisen satunnaismuuttujan summa noudattaa n,2m-dimensioista suljettua vino-normaalijakaumaa. Siten suljettu vino-normaalijakauma on suljettu summauksen suhteen mikäli sallitaan dimension m vaihtelu. Tämä ominaisuus ei ole toivottu tilamallien tapauksessa, sillä tilamallit perustuvat peräkkäisiin operaatioihin, jolloin matriisien D ja koko kasvaa jokaisella iteraatiokierroksella. Tämän vuoksi lisätään malliin vinoutta toisella tavalla. Tätä on tarkasteltu seuraavassa. 3.2 Kalmanin suodatin ja suljetut vino-normaalijakaumat Eräs tapa saavuttaa kahden suljettua vino-normaalijakaumaa noudattavan satunnaismuuttujan suljettu summaus on määrittää, milloin mittaukset ja tilavektori noudattavat suljettua vino-normaalijakaumaa [4, s. 385]. Tämä voidaan ilmaista myös kysymyksenä siitä, millaista häiriötä yhtälöihin 2.2 ja 2.3 pitäisi sisällyttää, jotta summa noudattaisi suljettua vino-normaalijakaumaa. Jotta tähän tavoitteeseen päästäisiin, tarvitaan avuksi seuraavat kaksi lemmaa. Lemman 1 mukaan vino-normaalijakauma on suljettu skalaarimuunnoksissa. Lemma 1. Olkoon y suljettua vino-normaalijakaumaa CSN n,m ŷ, P, D, ν, noudattava satunnaisvektori ja F r n-dimensioinen matriisi siten että F T F on eisingulaarinen. Jos satunnaisvektori x on määritelty lineaarimuunnoksella x = F y, niin myös x noudattaa suljettua vino-normaalijakaumaa. Merkitään tätä merkinnällä x = F y CSN n,m F ŷ, F P F T, DF, ν,, missä F on matriisin F vasen inverssi ja F = F 1 kun F on n n-dimensioinen ei-singulaarinen matriisi. Todistus. Oletetaan, että satunnaisvektori x on määritelty lineaarimuunnoksella x = F y. Tällöin vektorin x momentit generoivalle funktiolle pätee M x t = E e tt x = E e tt F y = E e F T t T y = M y F T t = Φ m DP F T t; ν, + DP D T exp ŷ T F T t + 1 t T F P F T t Φ m 0; ν, + DP D T 2 Φ m DF F P F T t ; ν, + DF F P F T DF T = Φ m 0; ν, + DF F P F T DF T exp F ŷ T t + 1 t T F P F T t, 2 kun muistetaan, että I = F F ja että F L T = L T F T, kun L on n s-dimensioinen matriisi. Viimeisen muodon havaitaan olevan samaa muotoa yhtälön 3.2 kans-
14 3. Vino Kalmanin suodatin 9 sa, kun x noudattaa suljettua vino-normaalijakaumaa parametrein x CSN n,m F ŷ, F P F T, DF, ν,. Lemman 2 mukaan suljettu vino-normaalijakauma pysyy suljettuna vino-normaalijakaumana, kun jakaumaan lisätään Gaussista kohinaa. Lemma 2. Olkoon x suljettua vino-normaalijakaumaa CSN n,m ˆx, P, D, ν, noudattava satunnaisvektori ja z n-dimensioinen Gaussinen satunnaisvektori, jolla on odotusarvo µ ja kovarianssimatriisi Σ. Tällöin satunnaisvektoreiden summa x + z noudattaa suljettua vino-normaalijakaumaa missä x + z CSN n,m ˆx x+z, P x+z, D x+z, ν x+z, x+z, ˆx x+z = ˆx + µ, P x+z = P + Σ, D x+z = DP P + Σ 1, ν x+z = ν ja x+z = + D D x+z P D T. Todistus. Oletetaan, että satunnaisvektori x noudattaa suljettua vino-normaalijakaumaa CSN n,m ˆx, P, D, ν, ja että z on n-dimensioinen Gaussinen satunnaisvektori. Tällöin satunnaisvektorin x momentit generoiva funktio on yhtälön 3.2 mukainen. Merkitään yleisesti tunnetun Gaussisen satunnaisvektorin momentit generoiva funktiota merkinnällä M g t = exp µ T t + 1 t T Σt. 2 Koska riippumattomien vektoreiden summan momentit generoiva funktio on vektoreiden momentit generoivien funktioiden tulo, voidaan kirjoittaa M x+z t = M n,m t M g t = Φ m DP t; ν, + DP D T Φ m 0; ν, + DP D T = Φ m DP t; ν, + DP D T Φ m 0; ν, + DP D T exp ˆx T t + 1 t T P t exp µ T t + 1 t T Σt 2 2 exp ˆx + µ T t + 1 t T P + Σ t. 2
15 3. Vino Kalmanin suodatin 10 Jotta satunnaisvektoreiden summa x + z noudattaisi lemmassa annettua suljettua vino-normaalijakaumaa, asetetaan ˆx x+z = ˆx + µ ja P x+z = P + Σ. Lisäksi sopivilla parametreillä D x+z, ν x+z ja x+z kertymäfunktioiden Φ m DP t; ν, + DP D T ja Φ m Dx+z P x+z t, ν x+z, x+z + D x+z P x+z Dx+z T tulisi olla yhtä suuret. Nämä nähdään seuraavasti: Muotoparametrille D x+z pätee, kun muistetaan, että P x+z = P + Σ, D x+z = DP P + Σ 1 = DP P 1 x+z D x+z P x+z = DP. Parametri ν x+z saadaan asettamalla ν x+z = ν. Lisäksi havaitaan, että kun sijoitetaan lemman mukaiset D x+z ja x+z lausekkeeseen x+z + D x+z P x+z D T x+z, että x+z + D x+z P x+z D T x+z = + D D x+z P D T + DP P 1 x+zp x+z DP P + Σ 1 T = + D DP P + Σ 1 P D T + DP P + Σ 1 P D T = + DP D T. Siis x + z CSN n,m ˆx x+z, P x+z, D x+z, ν x+z, x+z. Lemmojen 1 ja 2 perusteella voidaan johtaa seuraava propositio. Propositio 3. Oletetaan, että systeemin alkutila x 0 noudattaa suljettua vino-normaalijakaumaa CSN n,m ˆx 0, P 0, D 0, ν 0, 0. Jos häiriö w k 1 ja mittausvirhe v k ovat riippumattomia ja identtisesti jakautuneita Gaussisia vektoreita, joilla on kovarianssimatriisit Q k 1 ja R k, niin sekä tilavektori x k että mittausvektori y k noudattavat suljettua vino-normaalijakaumaa parametrein x k CSN h,m ˆx k, P k, D k, ν k, k ja y k CSN d,m Ψ k, Γ k, E k, γ k, Θ k. Näiden jakaumien parametrit toteuttavat seuraavat yhtälöt kun k = 1,2,..., ˆx k = G k 1ˆx k 1, Ψ k = F kˆx k, P k = G k 1 P k 1 G T k 1 + Q k 1, Γ k = F k P k F T k + R k, D k = D k 1 P k 1 G T k 1P 1 k, E k = D k P k F T k Γ 1 k, ν k = ν k 1, γ k = ν k, k = k 1 + D k 1 D k G k 1 P k D T k 1, Θ k = k + D k E k F k P k D T k, aina kun G T k 1 G k 1 ja F T k F k ovat ei-singulaarisia matriiseja. ja
16 3. Vino Kalmanin suodatin 11 Todistus. Oletetaan, että yhtälön 2.2 mukainen tilamalli on voimassa ja että häiriö w k 1 on riippumaton ja identtisesti jakautunut Gaussinen vektori, jolla on kovarianssimatriisi Q k 1. Tällöin soveltamalla ensin lemmaa 1 ja tämän jälkeen lemmaa 2, saadaan proposition mukaiset parametrit tilavektorille x k. Samoin kun oletetaan, että yhtälön 2.3 mukainen mittausyhtälö on voimassa ja että mittausvirhe v k on riippumaton ja identtisesti jakautunut Gaussinen vektori, jolla on kovarianssimatriisi R k, ja sovelletaan lemmoja 1 ja 2, saadaan proposition mukaiset parametrit mittausvektorille y k. Tämä propositio näyttää, että alkutila x 0 ja Gaussinen häiriö ovat keskeisiä, kun halutaan saada tila- ja mittausvektorit, jotka noudattavat suljettua vino-normaalijakaumaa [4, s. 386]. Vinoutta on kuitenkin vaikea toteuttaa klassisissa lineaarisissa tilamalleissa. Erityisesti mittausvektorin vinous etenisi paremmin ajassa, jos vinous toteutettaisiin erikseen jokaiseen aika-askeleeseen, eikä yksin omaan alkutilaan x 0 [4, s. 386]. Tätä tapaa ei käsitellä tarkemmin tässä työssä. 3.3 Vinon Kalmanin suodattimen algoritmi Käytetään Bayesilaista formulointia vinon Kalmanin suodattimen eri askeleiden johtamisessa. Keskeistä on, että tilavektorin arvot voidaan määrittää suoraan hyödyntämällä Bayesin teoreemaa mittauksiin y 1:k = {y 1,..., y k }. Yleisesti Kalmanin suodattimessa ehdollinen jakauma x k 1 y 1:k 1 noudattaa normaalijakaumaa ajanhetkellä t k 1. Vinon Kalmanin suodattimen tapauksessa ehdollinen jakauma noudattaa ajanhetkellä t k 1 suljettua vino-normaalijakaumaa xk 1 y 1:k 1 CSNn,m ˆx k 1, P k 1, ˆD k 1, ˆν k 1, ˆ k 1, 3.3 missä ˆ. edustaa ehdollisen jakauman x k 1 y 1:k 1 parametrejä. Tämän jälkeen siirrytään ajassa eteenpäin ajanhetkeen t k kaksivaiheisesti: ennen havaintoja y k ja havaintojen y k jälkeen. Oletetaan nyt, että systeemin alkutila x 0 noudattaa suljettua vino-normaalijakaumaa CSN n,m ˆx 0, P 0, D 0, ν 0, 0 ja että häiriö w k 1 ja mittausvirhe v k ovat nollakeskisiä, riippumattomia ja identtisesti jakautuneita Gaussisia vektoreita, joilla on kovarianssimatriisit Q k 1 ja R k. Seuraava propositio kerää yhteen vinon Kalmanin suodattimen eri askeleet, joita tarvitaan oletusten mukaista mallia noudattavan tilan posteriori-estimaattorin laskennassa. Propositio 4. Oletetaan, että systeemin alkutila x 0 noudattaa suljettua vino-normaalijakaumaa CSN n,m ˆx 0, P 0, D 0, ν 0, 0 ja että häiriö w k 1 ja mittausvirhe v k ovat nollakeskisiä, riippumattomia ja identtisesti jakautuneita Gaussisia vektoreita, joilla on kovarianssimatriisit Q k 1 ja R k. Tällöin posteriorijakauman parametrit
17 3. Vino Kalmanin suodatin 12 tilalle x k, määritelty yhtälöllä 3.3, saadaan ratkaistua seuraavan syklisen proseduurin avulla: missä ˆx k = ˆx k + K k yk F kˆx k, ˆx k = G k 1ˆx k 1, P k = G k 1P k 1 G T k 1 + Q k 1, K k = P k F k T Fk P k F k T 1 + R k, P k = I K k F k P k, ˆD k = ˆD k 1 P k 1 G T k 1 P k ˆν k = ˆν k 1 ja ˆ k = ˆ k 1 + 1, ˆDk 1 ˆD k G k 1 P k 1 ˆDT k 1. Tämä yhtälöryhmä muodostaa Vinon Kalmanin suodattimen algoritmin. Todistus. Aputulos: Jos kovarianssimatriisit P 1 ja P 2 ovat positiivisesti definiittejä, niin missä φ n x; µ, P 1 φ n y; F x, P 2 = φ n x; µ, P 3 φ n y; F µ, P 4, µ = µ + K y F µ, P 3 = I KF P 1, K = P 1 F T P 1 4 ja Yhtälön 2.2 mukaan voidaan kirjoittaa P 4 = F P 1 F T + P 2. [3, s.12] xk y 1:k 1 = Gk 1 x k 1 + w k 1 y 1:k 1 = G k 1 xk 1 y 1:k 1 + wk 1. [4, s.396] Oletuksen mukaan häiriö w k 1 noudattaa normaalijakaumaa ja yhtälön 3.3 mukaan xk 1 y 1:k 1 noudattaa suljettua vino-normaalijakaumaa, joten lemmojen 1 ja 2 mukaan x k y 1:k 1 noudattaa myös suljettua vino-normaalijakaumaa parametrein
18 3. Vino Kalmanin suodatin 13 CSN ˆx k, P k, ˆD k, ˆν k, ˆ k, missä ˆx k = G k 1ˆx k 1, P k = G k 1P k 1 G T k 1 + Q k 1, ˆD k = ˆD k 1 G k 1G k 1 P k 1 G T k 1 P k = ˆD k 1 P k 1 G T k 1 P 1 k, ˆν k = ˆν k 1, ja ˆ k = ˆ k ˆDk 1 ˆD k G k 1 P k 1 ˆDT k 1. Määritelmän 2 mukaan ehdollisen jakauman x k y 1:k 1 tiheysfunktio on φ 1 x k y 1:k 1 = Φ m 0; ˆν k, ˆ k + ˆD k P ˆD φ n xk ; ˆx k k T k, P k Φ m ˆDk xk ˆx k ; ˆνk, ˆ k. Tavoitteena on ratkaista tilan x k posteriori-jakauma, eli φ x k y 1:k. Yhtälön 2.4 mukaan tilan x k posteriorijakauma on φ x k y 1:k = φ y k x k φ x k y 1:k 1 φ yk x k φ x k y 1:k 1 dxk. Koska φ y k x k = φ n y; F k x k, R k [8, s.83], voidaan osoittajalle kirjoittaa φ y k x k φ φ n y; F k x k, R k φ n xk ; ˆx x k y 1:k 1 = k, P k Φ m 0; ˆν k, ˆ k + ˆD k P ˆD k k T Φ m ˆDk xk ˆx k ; ˆνk, ˆ k. Kahden normaalijakauman tiheysfunktion tulo voidaan aputuloksen mukaan kirjoittaa muotoon φ n y; F k x k, R k φ n xk ; ˆx k, P k = φn y; Fkˆx k, P φ n x k ; ˆx k, P k,
19 3. Vino Kalmanin suodatin 14 missä ˆx k = ˆx k + K k yk F kˆx k, P k = P k K kf k P k, K k = P k F k T Rk + F k P k F k T ja Näin osoittaja saadaan muotoon P = F k P k F T k + R k. φ y k x k φ φ n y; F k x k, R k φ n xk ; ˆx x k y 1:k 1 = k, P k Φ m 0; ˆν k, ˆ k + ˆD k P ˆD k k T Φ m ˆDk xk ˆx k ; ˆνk, ˆ k = φ n y; Fkˆx k, F kp k F k T + R k φn x k ; ˆx k, P k Φ m 0; ˆν k, ˆ k + ˆD k P ˆD k k T Φ m ˆDk xk ˆx k ; ˆνk, ˆ k. 1 Kun tämä lauseke sijoitetaan nimittäjän integraaliin, saadaan φ x k y 1:k = φ y k x k φ x k y 1:k 1 φ yk x k φ x k y 1:k 1 dxk = = φ ny;f k ˆx k,f kp k F k T +R kφ nx k ;ˆx,P k Φ m ˆD kx k ˆx k ;ˆν k, ˆ k Φ m0;ˆν k, ˆ k + ˆD k P ˆD k k T φny;f k ˆx k,f kp k F k T +R kφ nx k ;ˆx,P k Φ m ˆD kx k ˆx k ;ˆν k, ˆ k dx k Φ m0;ˆν k, ˆ k + ˆD k P k ˆD T k φ nx k ;ˆx,P k Φ m ˆD kx k ˆx k ;ˆν k, ˆ k Φ m0;ˆν k, ˆ k + ˆD k P ˆD k k T. φnxk ;ˆx,P k Φ m ˆD kx k ˆx k ;ˆν k, ˆ k Φ m0;ˆν k, ˆ k + ˆD k P ˆD dx k k T k Nyt havaitaan, että osoittajassa ja nimittäjässä on suljetun vino-normaalijakauman CSN ˆx k, P k, ˆD k, ˆν k, ˆ k tiheysfunktio. Vino-normaalijakauman tiheysfunktio integroituu ykköseksi, joten päädytään tulokseen φ x k y 1:k CSN ˆx k, P k, ˆD k, ˆν k, ˆ k. Propositiosta 4 huomataan, ettei vinouden lisääminen pohjimmiltaan muuta klassisia Kalmanin suodattimen operaatioita. Ainoa ero klassiseen Kalmanin suodattimeen on yhtäsuuruudet, jotka koskevat uusia parametrejä ˆD k, ˆν k ja ˆ k. Nämä para-
20 3. Vino Kalmanin suodatin 15 metrit karakterisoivat lisätyn vinouden ja niiden etuna on se, että ne ovat helposti toteutettavissa [4, s. 391]. Huomionarvoista on myös, että estimaattorit parametrille ν ovat ajan suhteen invariantteja, mikä tukee propositiossa 3 löydettyä tulosta. Alkuperäisessä Naveau el al. julkaisussa [4, s.391] havaittiin tämän työn yhteydessä olevan pieni kirjoitusvirhe vinon Kalmanin suodattimen esittelevässä propositiossa 7, sillä parametrin ˆ k lausekkeesta puuttuu viimeisen tulontekijän ˆD k 1 kohdalta transpoosi. Mikäli tilanne olisi kuten alkuperäisessä julkaisussa, ei matriisitulo P k 1 ˆDk 1 olisi määritelty, sillä määritelmän 2 mukaan matriisi P k 1 R n n ja ˆD k 1 R m n. Seuraavassa on esitetty vinon Kalmanin suodattimen algoritmi pelkistettynä. Algoritmi 2. Vino Kalmanin suodatin Tilamalli: x k = G k 1 x k 1 + w k 1 V w k 1 = Q k 1. Mittausyhtälö: y k = F k x k + v k V v k = R k. Mittaukset: y 1:m = {y 1, y 2,..., y m }. Alkutila: x 0 CSN n,m ˆx, P 0, D 0, ν 0, 0 1. Asetetaan k = Ratkaistaan posteriorijakauman parametrit: ˆx k = G k 1ˆx k 1, P k = G k 1P k 1 G T k 1 + Q k 1, K k = P k F k T Fk P k F k T 1 + R k, ˆx k = ˆx k + K k yk F kˆx k, P k = I K k F k P k, ˆD k = ˆD k 1 P k 1 G T k 1 P k ˆν k = ˆν k 1 ja ˆ k = ˆ k 1 + 1, ˆDk 1 ˆD k G k 1 P k 1 ˆDT k Lopetetaan, jos k = m, muutoin asetetaan k = k+1 ja palataan kohtaan 2.
21 16 4. ALGORITMIN TOTEUTUS JA VISUALISOINTI Edellisessä luvussa esitetty vinon Kalmanin suodattimen algoritmi toteutettiin ja visualisoitiin MATLAB-ohjelmistolla. Käytössä oli ohjelmiston versio R2009b. Algoritmin toteutuksessa käytetty MATLAB-koodi on esitetty liitteessä. Algoritmin toteutuksen lisäksi vinolla Kalmanin suodattimella laskettua tilan estimaattia verrattiin Kalmanin suodattimella laskettuun tilan estimaattiin yhden satunnaisen kaksiulotteisen reitin tapauksessa. Tarkempaa ja analyyttisempaa algoritmien vertailua ei tässä työssä suoriteta. 4.1 Yleistä algoritmin toteutuksesta Vinon Kalmanin suodattimen algoritmi, joka on esitetty edellisessä luvussa algoritmina 2, toteutettiin MATLAB-ohjelmistolla erillisenä funktiona Liite A, johon syötetään alkutilan parametrit ˆx, P 0, D 0, ν 0 ja 0, tilamallin tilansiirtomatriisi G k 1, tilamallin virheen kovarianssimatriisi Q k 1, mittausyhtälön mittausmatriisi F k, mittausmallin virheen kovarianssimatriisi R k ja mittaukset y 1:k. Funktio laskee posteriorijakauman parametrien ˆx k, P k, D k, ν k ja k arvot ajanhetkillä t 1, t 2,..., t k. Algoritmin askeleet 1-3 toteutettiin for-silmukassa, joka käy läpi indeksin k arvot 1,..., k. Tällä samalla MATLAB-funktiolla voidaan myös laskea Kalmanin suodattimen posteorijakauman parametrit, sillä vino Kalmanin suodatin on yleistys Kalmanin suodattimesta, kuten edellisissä luvuissa on todettu. Tällöin parametri D asetetaan nollaksi ja vino Kalmanin suodatin redusoituu Kalmanin suodattimeksi. 4.2 Visualisointi ja vertailu Kalmanin suodattimeen Visualisointia varten generoitiin MATLAB-ohjelmistolla satunnainen kaksiulotteinen kymmenen askeleen pituinen reitti, jonka alkutila noudattaa suljettua vinonormaalijakaumaa, jonka parametrit ovat ˆx =, P =, D = , v = ja =. Reitin alkutilaksi kiinnitettiin tämän suljetun vino-normaalijakauman huippupiste, jonka arvioitiin kuvan avulla
22 4. Algoritmin toteutus ja visualisointi olevan x 0 = ja jonka kovarianssimatriisin numeeriseksi arvioksi saatiin P 0 =. Tämän jälkeen laskettiin paikan estimaatit liitteen A MATLAB-funktiolla. Tästä saatu kuva on esitetty alla todellinen reitti mitattu reitti alkutila todellinen alkupiste KF reitti SKF reitti Kuva 3. Kuvassa on esitetty kaksiulotteinen satunnainen reitti, jonka alkutila on 1.4 x 0 =. Kuvaan on merkitty eri värein myös mitattu reitti ja Kalmanin suodattimella laskettu reitti KF reitti sekä vinolla Kalmanin suodattimella 0.6 laskettu reitti SKF reitti. Kuten kuvasta havaitaan, eivät erot Kalmanin suodattimella ja vinolla Kalmanin suodattimella lasketuissa tilan estimaateissa ole kovin suuria tämän reitin kohdalla. Tässä työssä on vain tarkoitus visualisoida vinoa Kalmanin suodatinta ja sen antamaa ratkaisua, joten tarkempaa reittien vertailua ei suoriteta.
23 18 5. YHTEENVETO Tässä kandidaatintyössä esiteltiin vino Kalmanin suodatin, joka on yleistys Rudolf E. Kálmánin mukaan nimetystä Kalmanin suodattimesta. Kalmanin suodatimessa oletus alkutilan ja kohinoiden normaalisuudesta on olennainen ja algoritmin käyttöä rajoittava tekijä. Kun laajennetaan moniulotteista normaalijakaumaa uusilla vinoutta säätelevillä parametreillä ja laajennetaan Kalmanin suodattimen algoritmia, saadaan lisättyä suodattimen käyttömahdollisuuksia. Esimerkiksi sisätiloissa tehtävä paikannus voi hyötyä vinouden lisäämisestä käytettyyn tilamalliin. Työssä havaittiin, että suljettu vino-normaalijakauma on suljettu skalaarimuunnoksissa ja että kun vino-normaalijakaumaan lisätään Gaussista kohinaa, pysyy jakauma suljettuna vino-normaalijakaumana. Käyttämällä Bayesilaista formulointia pystyttiin johtamaan vinon Kalmanin suodattimen eri askeleet. Vinon Kalmanin suodattimen esittelevä propositio myös todistettiin. Lopuksi algoritmi esitettiin tiivistetyssä muodossa. Vertaamalla vinon Kalmanin suodattimen algoritmia Kalmanin suodattimen algoritmiin havaittiin, ettei vinouden lisääminen muuta pohjimmiltaan klassisia Kalmanin suodattimen operaatioita. Ainoa ero ovat yhtäsuuruudet, jotka koskevat uusia vinoutta sääteleviä parametrejä. Lopuksi vinon Kalmanin suodattimen algoritmi toteutettiin MATLAB-ohjelmistolla ja ratkaisua visualisoitiin yhden satunnaisen reitin tapauksessa. Reitille laskettiin myös Kalmanin suodattimen mukaiset tilan estimaatit. Vertailussa havaittiin, etteivät erot tämän kyseisen reitin tapauksessa olleet merkittäviä. Jos haluttaisiin suorittaa tarkempia vertailuja, voisi useampia reittejä estimoida molemmilla suodattimilla. Vertailulla voitaisiin nähdä, soveltuisiko vino Kalmanin suodatin paremmin esimerkiksi sisätiloissa tehtävään paikannukseen.
24 19 LÄHTEET [1] Ali-Löytty, S., Collin, J. ja Sirola, N. Paikannuksen matematiikka. [verkkodokumentti] [viitattu ]. Saatavissa: tty [2] Kaleva, O. Matemaattinen tilastotiede. [verkkodokumentti] [viitattu ]. Saatavissa: [3] Ali-Löytty, S. On the Convergence of the Gaussian Mixture Filter. Tampere University of Technology [tutkimusraportti] [viitattu ]. Saatavissa: [4] Naveau, P., Genton, M. and Shen, X. A skewed Kalman filter. Journal of Multivariate Analysis [verkkolehti] , pp [viitattu ]. Saatavissa: [5] Flecherm, C., Naveau, P. and Allard, D. Estimating the Closed Skew-Normal distributions Parameters Using Weigted Moments. Statistics & Probability Letters [tutkimusraportti] , pp [viitattu ]. Saatavissa: ciam.inra.fr/biosp/sites/ciam.inra.fr.biosp/files/rr2009_40. pdf. [6] González-Farías, G., Domínguez-Molina, A. and Gupta, A. Additive properties of skew normal random vectors. Journal of Statistical Planning and Inference [verkkolehti] , pp [viitattu ]. Saatavissa: ac.els-cdn.com/s /1-s2.0-s main. pdf?_tid=90be440e-1e0c-11e2-92f aacb35d&acdnat= _ 6d1b25b69a126c308498b1b12ba48f8d. [7] Millson, J. Moment Generating Functions. University of Maryland [verkkodokumentti] [viitattu ]. Saatavissa: ~millson/teaching/momentgeneratingfunctions.pdf. [8] Ali-Löytty, S. Kalmanin suodatin ja sen laajennukset paikannuksessa. Diplomityö. Tampere Tampereen teknillinen yliopisto. [viitattu ]. Saatavissa:
25 20 A. VINON KALMANIN SUODATTIMEN TOTEUTUS MATLAB-OHJELMISTOLLA function [ x1, P1, D1, v1, L1 ] = skewkalman x, P,D, v, L,Y, F,R,G,Q % SKEWKALMAN l a s k e e e s t i m a a t i n t i l a l l e x, joka noudattaa % s u l j e t t u a vino normaalijakaumaa. % Input : % x = a l k u t i l a % P,D, v, L = a l k u t i l a n parametrit % Y = m i t t a u k s e t % F = m i t t a u s m a t r i i s i % R = m i t t a u s m a l l i n virheen k o v a r i a n s s i m a t r i i s i % G = t i l a n s i i r t o m a t r i i s i % Q = t i l a m a l l i n v i rheen k o v a r i a n s s i m a t r i i s i. % M i t t a u s m a l l i. % y_{k}=f x_{k}+v % T i l a m a l l i. % x_{k+1} = G x_{k}+w % Mittausten dimensio. s = size Y ; % Output : x1 = [ ] ; P1 = [ ] ; D1 = [ ] ; v1 = [ ] ; L1 = [ ] ; % For l o o p p i posteriorijakauman parametrien r a t k a i s e m i s e e n
26 A. Vinon Kalmanin suodattimen toteutus MATLAB-ohjelmistolla 21 % r e k u r s i i v i s e s t i. for k = 1 : s 2 D0 = D; P0 = P; Ph= G P G +Q; P = Ph Ph F R+F Ph F ^ 1 F Ph ; D = D P0 G Ph^ 1; L = L+D0 D G P0 D0 ; x = G x+ph F R+F Ph F ^ 1 Y :, k F G x ; x1 = [ x1 x ] ; P1 = [ P1 P ] ; D1 = [ D1 D ] ; v1 = [ v1 v ] ; L1 = [ L1 L ] ; end end
Dynaamiset regressiomallit
MS-C2128 Ennustaminen ja Aikasarja-analyysi, Heikki Seppälä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2015 Viikko 6: 1 Kalmanin suodatin Aiemmin käsitellyt
Lisätiedot9. Tila-avaruusmallit
9. Tila-avaruusmallit Aikasarjan stokastinen malli ja aikasarjasta tehdyt havainnot voidaan esittää joustavassa ja monipuolisessa muodossa ns. tila-avaruusmallina. Useat aikasarjat edustavat dynaamisia
LisätiedotMoniulotteisia todennäköisyysjakaumia
Ilkka Mellin Todennäköisyyslaskenta Osa 3: Todennäköisyysjakaumia Moniulotteisia todennäköisyysjakaumia TKK (c) Ilkka Mellin (007) 1 Moniulotteisia todennäköisyysjakaumia >> Multinomijakauma Kaksiulotteinen
LisätiedotIlkka Mellin Todennäköisyyslaskenta Osa 3: Todennäköisyysjakaumia Moniulotteisia todennäköisyysjakaumia
Ilkka Mellin Todennäköisyyslaskenta Osa 3: Todennäköisyysjakaumia Moniulotteisia todennäköisyysjakaumia TKK (c) Ilkka Mellin (006) 1 Moniulotteisia todennäköisyysjakaumia >> Multinomijakauma Kaksiulotteinen
LisätiedotJohdatus todennäköisyyslaskentaan Moniulotteisia todennäköisyysjakaumia. TKK (c) Ilkka Mellin (2005) 1
Johdatus todennäköisyyslaskentaan Moniulotteisia todennäköisyysjakaumia TKK (c) Ilkka Mellin (005) 1 Moniulotteisia todennäköisyysjakaumia Multinomijakauma Kaksiulotteinen normaalijakauma TKK (c) Ilkka
LisätiedotMoniulotteisia todennäköisyysjakaumia. Moniulotteisia todennäköisyysjakaumia. Moniulotteisia todennäköisyysjakaumia: Mitä opimme?
TKK (c) Ilkka Mellin (4) Moniulotteisia todennäköisyysjakaumia Johdatus todennäköisyyslaskentaan Moniulotteisia todennäköisyysjakaumia TKK (c) Ilkka Mellin (4) Moniulotteisia todennäköisyysjakaumia: Mitä
LisätiedotLause 4.2. Lineearinen pienimmän keskineliövirheen estimaattoi on lineaarinen projektio.
Määritelmä 4.3. Estimaattoria X(Y ) nimitetään lineaariseksi projektioksi, jos X on lineaarinen kuvaus ja E[(X X(Y )) Y] 0 }{{} virhetermi Lause 4.2. Lineearinen pienimmän keskineliövirheen estimaattoi
LisätiedotEnnustaminen ARMA malleilla ja Kalmanin suodin
Ennustaminen ARMA malleilla ja Kalmanin suodin MS-C2128 Ennustaminen ja Aikasarja-analyysi, Lauri Viitasaari Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2017
LisätiedotInversio-ongelmien laskennallinen peruskurssi Luento 2
Inversio-ongelmien laskennallinen peruskurssi Luento 2 Kevät 2012 1 Lineaarinen inversio-ongelma Määritelmä 1.1. Yleinen (reaaliarvoinen) lineaarinen inversio-ongelma voidaan esittää muodossa m = Ax +
Lisätiedot4.0.2 Kuinka hyvä ennuste on?
Luonteva ennuste on käyttää yhtälöä (4.0.1), jolloin estimaattori on muotoa X t = c + φ 1 X t 1 + + φ p X t p ja estimointivirheen varianssi on σ 2. X t }{{} todellinen arvo Xt }{{} esimaattori = ε t Esimerkki
Lisätiedot2. Teoriaharjoitukset
2. Teoriaharjoitukset Demotehtävät 2.1 Todista Gauss-Markovin lause. Ratkaisu. Oletetaan että luentokalvojen standardioletukset (i)-(v) ovat voimassa. Huomaa että Gauss-Markovin lause ei vaadi virhetermien
LisätiedotP (X B) = f X (x)dx. xf X (x)dx. g(x)f X (x)dx.
Yhteenveto: Satunnaisvektorit ovat kuvauksia tn-avaruudelta seillaiselle avaruudelle, johon sisältyy satunnaisvektorin kaikki mahdolliset reaalisaatiot. Satunnaisvektorin realisaatio eli otos on jokin
LisätiedotPaikannuksen matematiikka MAT
TA M P E R E U N I V E R S I T Y O F T E C H N O L O G Y M a t h e m a t i c s Paikannuksen matematiikka MAT-45800 4..008. p.1/4 Käytännön järjestelyt Kotisivu: http://math.tut.fi/courses/mat-45800/ Luennot:
Lisätiedot1. Jatketaan luentojen esimerkkiä 8.3. Oletetaan kuten esimerkissä X Y Bin(Y, θ) Y Poi(λ) λ y. f X (x) (λθ)x
HY, MTL / Matemaattisten tieteiden kandiohjelma Todennäköisyyslaskenta IIb, syksy 017 Harjoitus 5 Ratkaisuehdotuksia Tehtäväsarja I 1. Jatketaan luentojen esimerkkiä 8.3. Oletetaan kuten esimerkissä X
Lisätiedot6. Tietokoneharjoitukset
6. Tietokoneharjoitukset 6.1 Tiedostossa Const.txt on eräällä Yhdysvaltalaisella asuinalueella aloitettujen rakennusurakoiden määrä kuukausittain, aikavälillä 1966-1974. Urakoiden määrä on skaalattu asuinalueen
Lisätiedot8. Muita stokastisia malleja 8.1 Epölineaariset mallit ARCH ja GARCH
8. Muita stokastisia malleja 8.1 Epölineaariset mallit ARCH ja GARCH Osa aikasarjoista kehittyy hyvin erityyppisesti erilaisissa tilanteissa. Esimerkiksi pörssikurssien epävakaus keskittyy usein lyhyisiin
LisätiedotPaikka- ja virhe-estimaatin laskenta-algoritmit Paikannusteknologiat nyt ja tulevaisuudessa
Paikka- ja virhe-estimaatin laskenta-algoritmit 25.8.2011 Paikannusteknologiat nyt ja tulevaisuudessa Simo Ali-Löytty, TTY, matematiikan laitos Mallinnus Pienimmän neliösumman menetelmä Lineaarinen Epälineaarinen
Lisätiedot3.6 Su-estimaattorien asymptotiikka
3.6 Su-estimaattorien asymptotiikka su-estimaattorit ovat usein olleet puutteellisia : ne ovat usein harhaisia ja eikä ne välttämättä ole täystehokkaita asymptoottisilta ominaisuuksiltaan ne ovat yleensä
Lisätiedot10 Moniulotteinen normaalijakauma
10 Moniulotteinen normaalijakauma Tässä luvussa tarkastellaan normaalijakauman moniulotteista yleistystä eli moniulotteista (eli monimuuttujaista) normaalijakaumaa (engl. multivariate normal distribution).
Lisätiedotx 4 e 2x dx Γ(r) = x r 1 e x dx (1)
HY / Matematiikan ja tilastotieteen laitos Todennäköisyyslaskenta IIA, syksy 217 217 Harjoitus 6 Ratkaisuehdotuksia Tehtäväsarja I 1. Laske numeeriset arvot seuraaville integraaleille: x 4 e 2x dx ja 1
LisätiedotKohdeyleisö: toisen vuoden teekkari
Julkinen opetusnäyte Yliopisto-opettajan tehtävä, matematiikka Klo 8:55-9:15 TkT Simo Ali-Löytty Aihe: Lineaarisen yhtälöryhmän pienimmän neliösumman ratkaisu Kohdeyleisö: toisen vuoden teekkari 1 y y
LisätiedotGaussiset prosessit derivaattahavainnoilla regressio-ongelmassa (valmiin työn esittely)
Gaussiset prosessit derivaattahavainnoilla regressio-ongelmassa (valmiin työn esittely) Ohjaaja: TkT Aki Vehtari Valvoja: Prof. Harri Ehtamo Kandidaattiseminaari 21 1.11.21 Esityksen rakenne Tausta Derivaattahavaintojen
LisätiedotTässä luvussa mietimme, kuinka paljon aineistossa on tarpeellista tietoa Sivuamme kysymyksiä:
4. Tyhjentyvyys Tässä luvussa mietimme, kuinka paljon aineistossa on tarpeellista tietoa Sivuamme kysymyksiä: Voidaanko päätelmät perustaa johonkin tunnuslukuun t = t(y) koko aineiston y sijasta? Mitä
LisätiedotSallitut apuvälineet: MAOL-taulukot, kirjoitusvälineet, laskin sekä itse laadittu, A4-kokoinen lunttilappu. f(x, y) = k x y, kun 0 < y < x < 1,
Todennäköisyyslaskenta, 2. kurssikoe 7.2.22 Sallitut apuvälineet: MAOL-taulukot, kirjoitusvälineet, laskin sekä itse laadittu, A4-kokoinen lunttilappu.. Satunnaismuuttujien X ja Y yhteistiheysfunktio on
LisätiedotIlkka Mellin Todennäköisyyslaskenta. Osa 2: Satunnaismuuttujat ja todennäköisyysjakaumat. Momenttiemäfunktio ja karakteristinen funktio
Ilkka Mellin Todennäköisyyslaskenta Osa : Satunnaismuuttujat ja todennäköisyysjakaumat Momenttiemäfunktio ja karakteristinen funktio TKK (c) Ilkka Mellin (7) 1 Momenttiemäfunktio ja karakteristinen funktio
Lisätiedotpitkittäisaineistoissa
Puuttuvan tiedon ongelma p. 1/18 Puuttuvan tiedon ongelma pitkittäisaineistoissa Tapio Nummi tan@uta.fi Matematiikan, tilastotieteen ja filosofian laitos Tampereen yliopisto mtl.uta.fi/tilasto/sekamallit/puupitkit.pdf
Lisätiedot805306A Johdatus monimuuttujamenetelmiin, 5 op
monimuuttujamenetelmiin, 5 op syksy 2018 Matemaattisten tieteiden laitos Lineaarinen erotteluanalyysi (LDA, Linear discriminant analysis) Erotteluanalyysin avulla pyritään muodostamaan selittävistä muuttujista
LisätiedotMaximum likelihood-estimointi Alkeet
Maximum likelihood-estimointi Alkeet Keijo Ruotsalainen Oulun yliopisto, Teknillinen tiedekunta Matematiikan jaos Maximum likelihood-estimointi p.1/20 Maximum Likelihood-estimointi satunnaismuuttujan X
LisätiedotEstimointi. Vilkkumaa / Kuusinen 1
Estimointi Vilkkumaa / Kuusinen 1 Motivointi Tilastollisessa tutkimuksessa oletetaan jonkin jakauman generoineen tutkimuksen kohteena olevaa ilmiötä koskevat havainnot Tämän mallina käytettävän todennäköisyysjakauman
LisätiedotOsa 2: Otokset, otosjakaumat ja estimointi
Ilkka Mellin Tilastolliset menetelmät Osa 2: Otokset, otosjakaumat ja estimointi Estimointi TKK (c) Ilkka Mellin (2007) 1 Estimointi >> Todennäköisyysjakaumien parametrit ja niiden estimointi Hyvän estimaattorin
Lisätiedot2 exp( 2u), kun u > 0 f U (u) = v = 3 + u 3v + uv = u. f V (v) dv = f U (u) du du f V (v) = f U (u) dv = f U (h(v)) h (v) = f U 1 v (1 v) 2
HY, MTO / Matemaattisten tieteiden kandiohjelma Todennäköisyyslaskenta IIa, syksy 208 Harjoitus 4 Ratkaisuehdotuksia Tehtäväsarja I. Satunnaismuuttuja U Exp(2) ja V = U/(3 + U). Laske f V käyttämällä muuttujanvaihtotekniikkaa.
Lisätiedotpitkittäisaineistoissa
Puuttuvan tiedon käsittelystä p. 1/18 Puuttuvan tiedon käsittelystä pitkittäisaineistoissa Tapio Nummi tan@uta.fi Matematiikan, tilastotieteen ja filosofian laitos Tampereen yliopisto Puuttuvan tiedon
LisätiedotMatematiikka B2 - TUDI
Matematiikka B2 - TUDI Miika Tolonen 3. syyskuuta 2012 Miika Tolonen Matematiikka B2 - TUDI 1 Kurssin sisältö (1/2) Matriisit Laskutoimitukset Lineaariset yhtälöryhmät Gaussin eliminointi Lineaarinen riippumattomuus
LisätiedotMS-C1340 Lineaarialgebra ja
MS-C1340 Lineaarialgebra ja differentiaaliyhtälöt Matriisinormi, häiriöalttius Riikka Kangaslampi Kevät 2017 Matematiikan ja systeemianalyysin laitos Aalto-yliopisto Matriisinormi Matriisinormi Matriiseille
LisätiedotTodennäköisyyslaskennan ja tilastotieteen peruskurssi Esimerkkikokoelma 3
Todennäköisyyslaskennan ja tilastotieteen peruskurssi Esimerkkikokoelma 3 Aiheet: Satunnaisvektorit ja moniulotteiset jakaumat Tilastollinen riippuvuus ja lineaarinen korrelaatio Satunnaisvektorit ja moniulotteiset
LisätiedotMS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi
MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi 4A Parametrien estimointi Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2016, periodi
LisätiedotJohdatus todennäköisyyslaskentaan Momenttiemäfunktio ja karakteristinen funktio. TKK (c) Ilkka Mellin (2005) 1
Johdatus todennäköisyyslaskentaan Momenttiemäfunktio ja karakteristinen funktio TKK (c) Ilkka Mellin (5) 1 Momenttiemäfunktio ja karakteristinen funktio Momenttiemäfunktio Diskreettien jakaumien momenttiemäfunktioita
LisätiedotJohdatus todennäköisyyslaskentaan Normaalijakaumasta johdettuja jakaumia. TKK (c) Ilkka Mellin (2005) 1
Johdatus todennäköisyyslaskentaan Normaalijakaumasta johdettuja jakaumia TKK (c) Ilkka Mellin (2005) 1 Normaalijakaumasta johdettuja jakaumia Johdanto χ 2 -jakauma F-jakauma t-jakauma TKK (c) Ilkka Mellin
LisätiedotEstimointi. Estimointi. Estimointi: Mitä opimme? 2/4. Estimointi: Mitä opimme? 1/4. Estimointi: Mitä opimme? 3/4. Estimointi: Mitä opimme?
TKK (c) Ilkka Mellin (2004) 1 Johdatus tilastotieteeseen TKK (c) Ilkka Mellin (2004) 2 Mitä opimme? 1/4 Tilastollisen tutkimuksen tavoitteena on tehdä johtopäätöksiä prosesseista, jotka generoivat reaalimaailman
LisätiedotMS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi
MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi 5B Bayesläiset piste- ja väliestimaatit Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto
Lisätiedot10 Moniulotteinen normaalijakauma
10 Moniulotteinen normaalijakauma Tässä luvussa tarkastellaan normaalijakauman moniulotteista yleistystä eli moniulotteista (eli monimuuttujaista) normaalijakaumaa (engl. multivariate normal distribution).
LisätiedotIlkka Mellin Tilastolliset menetelmät Osa 2: Otokset, otosjakaumat ja estimointi Estimointi
Ilkka Mellin Tilastolliset menetelmät Osa 2: Otokset, otosjakaumat ja estimointi Estimointi TKK (c) Ilkka Mellin (2006) 1 Estimointi >> Todennäköisyysjakaumien parametrit ja niiden estimointi Hyvän estimaattorin
LisätiedotTilastollisen analyysin perusteet Luento 9: Moniulotteinen lineaarinen. regressio
Tilastollisen analyysin perusteet Luento 9: lineaarinen lineaarinen Sisältö lineaarinen lineaarinen lineaarinen Lineaarinen Oletetaan, että meillä on n kappaletta (x 1, y 1 ), (x 2, y 2 )..., (x n, y n
Lisätiedot1 + b t (i, j). Olkoon b t (i, j) todennäköisyys, että B t (i, j) = 1. Siis operaation access(j) odotusarvoinen kustannus ajanhetkellä t olisi.
Algoritmien DP ja MF vertaileminen tapahtuu suoraviivaisesti kirjoittamalla kummankin leskimääräinen kustannus eksplisiittisesti todennäköisyyksien avulla. Lause T MF ave = 1 + 2 1 i
LisätiedotYleistä tietoa kokeesta
Yleistä tietoa kokeesta Kurssikoe on ma 18.12. klo 12.00-14.30 (jossakin auditorioista). Huomaa tasatunti! Seuraava erilliskoe on ke 10.1.2018 klo 10-14, johon ilmoittaudutaan Oodissa (ilmoittautumisaika
LisätiedotDynaamiset regressiomallit
MS-C2128 Ennustaminen ja Aikasarja-analyysi, Lauri Viitasaari Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2016 Tilastolliset aikasarjat voidaan jakaa kahteen
LisätiedotRatkaisuehdotukset LH 7 / vko 47
MS-C34 Lineaarialgebra, II/7 Ratkaisuehdotukset LH 7 / vko 47 Tehtävä : Olkoot M R symmetrinen ja positiividefiniitti matriisi (i) Näytä, että m > ja m > (ii) Etsi Eliminaatiomatriisi E R siten, että [
LisätiedotTilastollinen aineisto Luottamusväli
Tilastollinen aineisto Luottamusväli Keijo Ruotsalainen Oulun yliopisto, Teknillinen tiedekunta Matematiikan jaos Tilastollinen aineisto p.1/20 Johdanto Kokeellisessa tutkimuksessa tutkittavien suureiden
Lisätiedot, on säännöllinen 2-ulotteinen pinta. Määrää T x0 pisteessä x 0 = (0, 1, 1).
HY / Matematiikan ja tilastotieteen laitos Vektorianalyysi II, syksy 017 Harjoitus 4 Ratkaisuehdotukset 4.1. Osoita, että tasa-arvojoukko S F (0), F : R 3 R, F (x) = 3x 1 x 3 + e x + x e x 3, on säännöllinen
Lisätiedot4. Lasketaan transienttivirrat ja -jännitteet kuvan piiristä. Piirielimien arvot ovat C =
BMA58 Funktiot, lineaarialgebra ja vektorit Harjoitus 6, Syksy 5. Olkoon [ 6 6 A =, B = 4 [ 3 4, C = 4 3 [ 5 Määritä matriisien A ja C ominaisarvot ja ominaisvektorit. Näytä lisäksi että matriisilla B
LisätiedotP(X = x T (X ) = t, θ) = p(x = x T (X ) = t) ei riipu tuntemattomasta θ:sta. Silloin uskottavuusfunktio faktorisoituu
1. Tyhjentävä tunnusluku (sucient statistics ) Olkoon (P(X = x θ) : θ Θ) todennäköisyysmalli havainnolle X. Datan funktio T (X ) on Tyhjentävä tunnusluku jos ehdollinen todennäköisyys (ehdollinen tiheysfunktio)
LisätiedotOletetaan ensin, että tangenttitaso on olemassa. Nyt pinnalla S on koordinaattiesitys ψ, jolle pätee että kaikilla x V U
HY / Matematiikan ja tilastotieteen laitos Vektorianalyysi II, syksy 018 Harjoitus 4 Ratkaisuehdotukset Tehtävä 1. Olkoon U R avoin joukko ja ϕ = (ϕ 1, ϕ, ϕ 3 ) : U R 3 kaksiulotteisen C 1 -alkeispinnan
LisätiedotKoska ovat negatiiviset. Keskihajontoja ei pystytä laskemaan mutta pätee ¾.
24.11.2006 1. Oletetaan, että kaksiulotteinen satunnaismuuttuja µ noudattaa kaksiulotteista normaalijakaumaa. Oletetaan lisäksi, että satunnaismuuttujan regressiofunktio satunnaismuuttujan suhteen on ݵ
LisätiedotInversio-ongelmien laskennallinen peruskurssi Luento 7
Inversio-ongelmien laskennallinen peruskurssi Luento 7 Kevät 2012 1 Tilastolliset inversio-ongelmat Tilastollinen ionversio perustuu seuraaviin periaatteisiin: 1. Kaikki mallissa olevat muuttujat mallinnetaan
LisätiedotV ar(m n ) = V ar(x i ).
Mat-.3 Stokastiset prosessit Syksy 007 Laskuharjoitustehtävät 6 Poropudas/Kokkala. Olkoon M n = X +... + X n martingaali ja M 0 = 0. Osoita, että V ar(m n ) = n V ar(x i ). i= Huomattavaa on, että muuttujia
Lisätiedotl (φ; y) = l(θ(φ); y) Toinen derivaatta saadaan tulon derivaatan laskusäännöllä Uudelleenparametroidun mallin Fisherin informaatio on
HY, MTO / Matemaattisten tieteiden kandiohjelma Tilastollinen päättely II, kevät 018 Harjoitus B Ratkaisuehdotuksia Tehtäväsarja I 1 (Monisteen tehtävä 14) Olkoon f Y (y; θ) tilastollinen malli, jonka
LisätiedotMallipohjainen klusterointi
Mallipohjainen klusterointi Marko Salmenkivi Johdatus koneoppimiseen, syksy 2008 Luentorunko perjantaille 5.12.2008 Johdattelua mallipohjaiseen klusterointiin, erityisesti gaussisiin sekoitemalleihin Uskottavuusfunktio
LisätiedotOsa IX. Z muunnos. Johdanto Diskreetit funktiot
Osa IX Z muunnos A.Rasila, J.v.Pfaler () Mat-.33 Matematiikan peruskurssi KP3-i 9. lokakuuta 2007 298 / 322 A.Rasila, J.v.Pfaler () Mat-.33 Matematiikan peruskurssi KP3-i 9. lokakuuta 2007 299 / 322 Johdanto
LisätiedotJatkuvat satunnaismuuttujat
Jatkuvat satunnaismuuttujat Satunnaismuuttuja on jatkuva jos se voi ainakin periaatteessa saada kaikkia mahdollisia reaalilukuarvoja ainakin tietyltä väliltä. Täytyy ymmärtää, että tällä ei ole mitään
LisätiedotSatunnaismuuttujien muunnokset ja niiden jakaumat
Ilkka Mellin Todennäköisyyslaskenta Osa 2: Satunnaismuuttujat ja todennäköisyysjakaumat Satunnaismuuttujien muunnokset ja niiden jakaumat TKK (c) Ilkka Mellin (2007) 1 Satunnaismuuttujien muunnokset ja
LisätiedotVäliestimointi (jatkoa) Heliövaara 1
Väliestimointi (jatkoa) Heliövaara 1 Bernoulli-jakauman odotusarvon luottamusväli 1/2 Olkoon havainnot X 1,..., X n yksinkertainen satunnaisotos Bernoulli-jakaumasta parametrilla p. Eli X Bernoulli(p).
LisätiedotTilastollinen testaus. Vilkkumaa / Kuusinen 1
Tilastollinen testaus Vilkkumaa / Kuusinen 1 Motivointi Viime luennolla: havainnot generoineen jakauman muoto on usein tunnettu, mutta parametrit tulee estimoida Joskus parametreista on perusteltua esittää
LisätiedotLineaarikombinaatio, lineaarinen riippuvuus/riippumattomuus
Lineaarikombinaatio, lineaarinen riippuvuus/riippumattomuus 1 / 51 Lineaarikombinaatio Johdattelua seuraavaan asiaan (ei tarkkoja määritelmiä): Millaisen kuvan muodostaa joukko {λv λ R, v R 3 }? Millaisen
LisätiedotMatematiikka B2 - Avoin yliopisto
6. elokuuta 2012 Opetusjärjestelyt Luennot 9:15-11:30 Harjoitukset 12:30-15:00 Tentti Kurssin sisältö (1/2) Matriisit Laskutoimitukset Lineaariset yhtälöryhmät Gaussin eliminointi Lineaarinen riippumattomuus
LisätiedotJohdatus todennäköisyyslaskentaan Satunnaismuuttujien muunnokset ja niiden jakaumat. TKK (c) Ilkka Mellin (2004) 1
Johdatus todennäköisyyslaskentaan Satunnaismuuttujien muunnokset ja niiden jakaumat TKK (c) Ilkka Mellin (2004) 1 Satunnaismuuttujien muunnokset ja niiden jakaumat Satunnaismuuttujien muunnosten jakaumat
LisätiedotARMA(p, q)-prosessin tapauksessa maksimikohdan määrääminen on moniulotteinen epälineaarinen optimointiongelma.
missä µ = c φ ja C j,k = Γj k) = σ 2 φj k φ 2. ARMAp, q)-prosessin tapauksessa maksimikohdan määrääminen on moniulotteinen epälineaarinen optimointiongelma. Käytännösssä optimointi tehdään numeerisesti
LisätiedotKuva 3.1: Näyte Gaussisesta valkoisest kohinasta ε t N(0, 1) Aika t
Kuva 3.1: Näyte Gaussisesta valkoisest kohinasta ε t N(0, 1) Valkoinen kohina ε t 2 1 0 1 2 Voimme tehdä saman laskun myös yleiselle välille [ a, a], missä 0 < a
Lisätiedot(b) Onko hyvä idea laske pinta-alan odotusarvo lähetmällä oletuksesta, että keppi katkeaa katkaisukohdan odotusarvon kohdalla?
6.10.2006 1. Keppi, jonka pituus on m, taitetaan kahtia täysin satunnaisesti valitusta kohdasta ja muodostetaan kolmio, jonka kateetteina ovat syntyneet palaset. Kolmion pinta-ala on satunnaismuuttuja.
LisätiedotMS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi. Viikko 3. Kaksiulotteiset satunnaismuuttujat
.9. Kaksiulotteiset satunnaismuuttujat MS-A Todennäköisslaskennan ja tilastotieteen peruskurssi Viikko Moniulotteiset satunnaismuuttujat sekä niiden jakaumat ja tunnusluvut; Moniulotteisia jakaumia Usein
LisätiedotMS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi
MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi 6A Tilastolliset luottamusvälit Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Syksy 2016,
LisätiedotKopulafunktiot. Joonas Ollila 12. lokakuuta 2011
Kopulafunktiot Joonas Ollila 12. lokakuuta 2011 Työn saa tallentaa ja julkistaa Aalto-yliopiston avoimilla verkkosivuilla. Muilta osin kaikki oikeudet pidätetään. Kopula-sanan alkuperä Kopula tarkoittaa
LisätiedotNumeeriset menetelmät
Numeeriset menetelmät Luento 5 Ti 20.9.2011 Timo Männikkö Numeeriset menetelmät Syksy 2011 Luento 5 Ti 20.9.2011 p. 1/40 p. 1/40 Choleskyn menetelmä Positiivisesti definiiteillä matriiseilla kolmiohajotelma
Lisätiedot2. Uskottavuus ja informaatio
2. Uskottavuus ja informaatio Aluksi käsittelemme uskottavuus- ja log-uskottavuusfunktioita Seuraavaksi esittelemme suurimman uskottavuuden estimointimenetelmän Ensi viikolla perehdymme aiheeseen lisääkö
LisätiedotMS-A0503 Todennäköisyyslaskennan ja tilastotieteen peruskurssi
MS-A0503 Todennäköisyyslaskennan ja tilastotieteen peruskurssi 5B Frekventistiset vs. bayeslaiset menetelmät Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto
LisätiedotJohdatus tilastotieteeseen Estimointi. TKK (c) Ilkka Mellin (2005) 1
Johdatus tilastotieteeseen Estimointi TKK (c) Ilkka Mellin (2005) 1 Estimointi Todennäköisyysjakaumien parametrit ja niiden estimointi Hyvän estimaattorin ominaisuudet TKK (c) Ilkka Mellin (2005) 2 Estimointi:
LisätiedotEllipsoidimenetelmä. Samuli Leppänen Kokonaislukuoptimointi. S ysteemianalyysin Laboratorio
Ellipsoidimenetelmä Kokonaislukuoptimointi Sovelletun matematiikan lisensiaattiseminaari Kevät 2008 / 1 Sisällys Ellipsoidimenetelmän geometrinen perusta ja menetelmän idea Formaali ellipsoidimenetelmä
LisätiedotOminaisarvo ja ominaisvektori
Ominaisarvo ja ominaisvektori Määritelmä Oletetaan, että A on n n -neliömatriisi. Reaaliluku λ on matriisin ominaisarvo, jos on olemassa sellainen vektori v R n, että v 0 ja A v = λ v. Vektoria v, joka
LisätiedotSovellettu todennäköisyyslaskenta B
Sovellettu todennäköisyyslaskenta B Antti Rasila 3. marraskuuta 2007 Antti Rasila () TodB 3. marraskuuta 2007 1 / 18 1 Varianssin luottamusväli, jatkoa 2 Bernoulli-jakauman odotusarvon luottamusväli 3
LisätiedotOletetaan, että virhetermit eivät korreloi toistensa eikä faktorin f kanssa. Toisin sanoen
Yhden faktorin malli: n kpl sijoituskohteita, joiden tuotot ovat r i, i =, 2,..., n. Olkoon f satunnaismuuttuja ja oletetaan, että tuotot voidaan selittää yhtälön r i = a i + b i f + e i avulla, missä
LisätiedotMTTTA1 Tilastomenetelmien perusteet 5 op Luento Kokonaisuudet johon opintojakso kuuluu
10.1.2019/1 MTTTA1 Tilastomenetelmien perusteet 5 op Luento 10.1.2019 1 Kokonaisuudet johon opintojakso kuuluu https://www10.uta.fi/opas/opintojakso.htm?rid=14600 &idx=1&uilang=fi&lang=fi&lvv=2018 10.1.2019/2
LisätiedotIteratiiviset ratkaisumenetelmät
Iteratiiviset ratkaisumenetelmät Keijo Ruotsalainen Division of Mathematics Yleinen iteraatio Lineaarisen yhtälöryhmän iteratiivinen ratkaisumenetelmä voidaan esittää muodossa: Anna alkuarvaus: x 0 R n
LisätiedotMatemaattinen tilastotiede. Erkki Liski Matematiikan, Tilastotieteen ja Filosofian Laitos Tampereen Yliopisto
Matemaattinen tilastotiede Erkki Liski Matematiikan, Tilastotieteen ja Filosofian Laitos Tampereen Yliopisto Alkusanat Tämä moniste perustuu vuosina 2002-2004 pitämiini matemaattisen tilastotieteen luentoihin
LisätiedotVektoreiden virittämä aliavaruus
Vektoreiden virittämä aliavaruus Määritelmä Oletetaan, että v 1, v 2,... v k R n. Näiden vektoreiden virittämä aliavaruus span( v 1, v 2,... v k ) tarkoittaa kyseisten vektoreiden kaikkien lineaarikombinaatioiden
LisätiedotSovellettu todennäköisyyslaskenta B
Sovellettu todennäköisyyslaskenta B Antti Rasila 28. syyskuuta 2007 Antti Rasila () TodB 28. syyskuuta 2007 1 / 20 1 Jatkoa diskreeteille jakaumille Negatiivinen binomijakauma Poisson-jakauma Diskreettien
LisätiedotInsinöörimatematiikka D
Insinöörimatematiikka D M. Hirvensalo mikhirve@utu.fi V. Junnila viljun@utu.fi Matematiikan ja tilastotieteen laitos Turun yliopisto 2015 M. Hirvensalo mikhirve@utu.fi V. Junnila viljun@utu.fi Luentokalvot
LisätiedotHarjoitus 7: NCSS - Tilastollinen analyysi
Harjoitus 7: NCSS - Tilastollinen analyysi Mat-2.2107 Sovelletun matematiikan tietokonetyöt Syksy 2006 Mat-2.2107 Sovelletun matematiikan tietokonetyöt 1 Harjoituksen aiheita Tilastollinen testaus Testaukseen
LisätiedotParametrien estimointi sovellettuna Pandora-instrumentin mittauksiin
TAMPEREEN YLIOPISTO Pro gradu -tutkielma Emmihenna Jääskeläinen Parametrien estimointi sovellettuna Pandora-instrumentin mittauksiin Matematiikan ja tilastotieteen laitos Matematiikka Toukokuu 2012 Tampereen
LisätiedotMATTI HYVÄRINEN SISÄTILAKARTTOJEN HYÖDYNTÄMINEN GAUSSIN MIKSTUURI -SUODATTIMISSA. Diplomityö
MATTI HYVÄRINEN SISÄTILAKARTTOJEN HYÖDYNTÄMINEN GAUSSIN MIKSTUURI -SUODATTIMISSA Diplomityö Tarkastajat: TkT Simo Ali-Löytty ja Prof. Robert Piché Tarkastaja ja aihe hyväksytty Teknisten tieteiden tiedekuntaneuvoston
LisätiedotEpälineaaristen yhtälöiden ratkaisumenetelmät
Epälineaaristen yhtälöiden ratkaisumenetelmät Keijo Ruotsalainen Division of Mathematics Perusoletus Lause 3.1 Olkoon f : [a, b] R jatkuva funktio siten, että f(a)f(b) < 0. Tällöin funktiolla on ainakin
LisätiedotMoniulotteiset satunnaismuuttujat ja jakaumat
Todennäköisyyslaskenta Osa 2: Satunnaismuuttujat ja todennäköisyysjakaumat Moniulotteiset satunnaismuuttujat ja jakaumat KE (2014) 1 Moniulotteiset satunnaismuuttujat ja todennäköisyysjakaumat >> Kaksiulotteiset
Lisätiedot6.2.3 Spektrikertymäfunktio
ja prosessin (I + θl + + θl q )ε t spektritiheysfunktio on Lemman 6. ja Esimerkin 6.4 nojalla σ π 1 + θ 1e iω + + θ q e iqω. Koska viivepolynomien avulla määritellyt prosessit yhtyvät, niin myös niiden
Lisätiedot1 Lineaariavaruus eli Vektoriavaruus
1 Lineaariavaruus eli Vektoriavaruus 1.1 Määritelmä ja esimerkkejä Olkoon K kunta, jonka nolla-alkio on 0 ja ykkösalkio on 1 sekä V epätyhjä joukko. Oletetaan, että joukossa V on määritelty laskutoimitus
LisätiedotKertausluento. Tilastollinen päättely II - 2. kurssikoe
Kertausluento Tilastollinen päättely II - 2. kurssikoe Yleistä tietoa TP II -2. kurssikokeesta 2. kurssikoe maanantaina 6.5.2019 klo 12.00-14.30 jossakin Exactumin auditoriossa Kurssikokeeseen ilmoittaudutaan
Lisätiedoty x1 σ t 1 = c y x 1 σ t 1 = y x 2 σ t 2 y x 2 x 1 y = σ(t 2 t 1 ) x 2 x 1 y t 2 t 1
1. Tarkastellaan funktiota missä σ C ja y (y 1,..., y n ) R n. u : R n R C, u(x, t) e i(y x σt), (a) Miksi funktiota u(x, t) voidaan kutsua tasoaalloksi, jonka aaltorintama on kohtisuorassa vektorin y
Lisätiedot4.2.2 Uskottavuusfunktio f Y (y 0 X = x)
Kuva 4.6: Elektroniikassa esiintyvän lämpökohinan periaate. Lämpökohinaa ε mallinnetaan additiivisella häiriöllä y = Mx + ε. 4.2.2 Uskottavuusfunktio f Y (y 0 X = x) Tarkastellaan tilastollista inversio-ongelmaa,
LisätiedotNumeeriset menetelmät TIEA381. Luento 8. Kirsi Valjus. Jyväskylän yliopisto. Luento 8 () Numeeriset menetelmät / 35
Numeeriset menetelmät TIEA381 Luento 8 Kirsi Valjus Jyväskylän yliopisto Luento 8 () Numeeriset menetelmät 11.4.2013 1 / 35 Luennon 8 sisältö Interpolointi ja approksimointi Funktion approksimointi Tasainen
LisätiedotMAT Todennäköisyyslaskenta Tentti / Kimmo Vattulainen
MAT-5 Todennäköisyyslaskenta Tentti.. / Kimmo Vattulainen Vastaa jokainen tehtävä eri paperille. Funktiolaskin sallittu.. a) P A). ja P A B).6. Mitä on P A B), kun A ja B ovat riippumattomia b) Satunnaismuuttujan
LisätiedotLuento 8: Epälineaarinen optimointi
Luento 8: Epälineaarinen optimointi Vektoriavaruus R n R n on kaikkien n-jonojen x := (x,..., x n ) joukko. Siis R n := Määritellään nollavektori 0 = (0,..., 0). Reaalisten m n-matriisien joukkoa merkitään
LisätiedotTilastollinen päättely II, kevät 2017 Harjoitus 2A
Tilastollinen päättely II, kevät 07 Harjoitus A Heikki Korpela 3. tammikuuta 07 Tehtävä. (Monisteen tehtävä.3 Olkoot Y,..., Y n Exp(λ. Kirjoita vastaava tilastollisen mallin lauseke (ytf. Muodosta sitten
LisätiedotYhtälöryhmä matriisimuodossa. MS-A0004/A0006 Matriisilaskenta. Tarkastellaan esimerkkinä lineaarista yhtälöparia. 2x1 x 2 = 1 x 1 + x 2 = 5.
2. MS-A4/A6 Matriisilaskenta 2. Nuutti Hyvönen, c Riikka Kangaslampi Matematiikan ja systeemianalyysin laitos Aalto-yliopisto 5.9.25 Tarkastellaan esimerkkinä lineaarista yhtälöparia { 2x x 2 = x + x 2
Lisätiedot