4. Stokastiset prosessit. lect4.tex 1. Sisältö. Peruskäsitteitä. Poisson-prosessi. Markov-prosessit. Syntymä-kuolema-prosessit

Samankaltaiset tiedostot
5. Stokastiset prosessit (1)

ABTEKNILLINEN KORKEAKOULU

STOKASTISET PROSESSIT Peruskäsitteitä

J. Virtamo Jonoteoria / Poisson-prosessi 1

Demonstraatiot Luento 7 D7/1 D7/2 D7/3

Syntymä-kuolema-prosessit

Poisson-prosessien ominaisuuksia ja esimerkkilaskuja

Syntymä-kuolema-prosessit

Markov-prosessit (Jatkuva-aikaiset Markov-ketjut)

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

1 + b t (i, j). Olkoon b t (i, j) todennäköisyys, että B t (i, j) = 1. Siis operaation access(j) odotusarvoinen kustannus ajanhetkellä t olisi.

6. Stokastiset prosessit (2)

Probabilistiset mallit (osa 2) Matemaattisen mallinnuksen kurssi Kevät 2002, luento 10, osa 2 Jorma Merikoski Tampereen yliopisto

ABTEKNILLINEN KORKEAKOULU

Ilkka Mellin Todennäköisyyslaskenta. Osa 2: Satunnaismuuttujat ja todennäköisyysjakaumat. Momenttiemäfunktio ja karakteristinen funktio

ABHELSINKI UNIVERSITY OF TECHNOLOGY

käännetty prosessi. Tarkastellaan pelkistymätöntä stationaarista stokastista prosessia X t.

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

Sovellettu todennäköisyyslaskenta B

Estojärjestelmä (loss system, menetysjärjestelmä)

4. Todennäköisyyslaskennan kertausta

Todennäköisyyslaskenta IIa, syys lokakuu 2019 / Hytönen 3. laskuharjoitus, ratkaisuehdotukset

Tehtäväsarja I Tehtävät 1-5 perustuvat monisteen kappaleisiin ja tehtävä 6 kappaleeseen 2.8.

JATKUVAT JAKAUMAT Laplace-muunnos (Laplace-Stieltjes-muunnos)

Johdatus todennäköisyyslaskentaan Momenttiemäfunktio ja karakteristinen funktio. TKK (c) Ilkka Mellin (2005) 1

Esimerkki: Tietoliikennekytkin

Markov-ketjut pitkällä aikavälillä

(b) Onko hyvä idea laske pinta-alan odotusarvo lähetmällä oletuksesta, että keppi katkeaa katkaisukohdan odotusarvon kohdalla?

Ilkka Mellin Todennäköisyyslaskenta. Osa 3: Todennäköisyysjakaumia. Diskreettejä jakaumia. TKK (c) Ilkka Mellin (2007) 1

Jatkuva-aikaisten Markov-prosessien aikakehitys

3.1 Kaksiulotteinen satunnaisvektori ja sen jakauma

Estynyt puheluyritys menetetään ei johda uusintayritykseen alkaa uusi miettimisaika: aika seuraavaan yritykseen Exp(γ) pitoaika X Exp(µ)

Poisson-prosessien ominaisuuksia ja esimerkkilaskuja

Teoria. Satunnaismuuttujan arvonta annetusta jakaumasta

Diskreettiaikainen dynaaminen optimointi

Suotuisien tapahtumien lukumäärä Kaikki alkeistapahtumien lukumäärä

Jatkuva-aikaisia Markov-prosesseja

Funktiot. funktioita f : A R. Yleensä funktion määrittelyjoukko M f = A on jokin väli, muttei aina.

3.6 Su-estimaattorien asymptotiikka

Markov-ketjut pitkällä aikavälillä

Todennäköisyyslaskun kertaus. Vilkkumaa / Kuusinen 1

Otosavaruus ja todennäköisyys Otosavaruus Ë on joukko, jonka alkiot ovat kokeen tulokset Tapahtuma on otosavaruuden osajoukko

Todennäköisyyslaskenta IIa, syyslokakuu 2019 / Hytönen 2. laskuharjoitus, ratkaisuehdotukset

Johdatus todennäköisyyslaskentaan Diskreettejä jakaumia. TKK (c) Ilkka Mellin (2005) 1

Harjoitus 2: Matlab - Statistical Toolbox

Satunnaismuuttujien muunnokset ja niiden jakaumat

Inversio-ongelmien laskennallinen peruskurssi Luento 7

Prosessin reaalisaatioiden tuottaminen

Lineaarikombinaatio, lineaarinen riippuvuus/riippumattomuus

Moniulotteisia todennäköisyysjakaumia

Liikenneongelmien aikaskaalahierarkia

Erilaisia Markov-ketjuja

Todennäköisyyslaskun kertaus. Heliövaara 1

T Rinnakkaiset ja hajautetut digitaaliset järjestelmät Stokastinen analyysi

T Rinnakkaiset ja hajautetut digitaaliset järjestelmät Stokastinen analyysi

Demonstraatiot Luento

11 Raja-arvolauseita ja approksimaatioita

MS-A0004/A0006 Matriisilaskenta

Lisää Diskreettejä jakaumia Lisää Jatkuvia jakaumia Normaalijakaumasta johdettuja jakaumia

Kuva 3.1: Näyte Gaussisesta valkoisest kohinasta ε t N(0, 1) Aika t

Ilkka Mellin Todennäköisyyslaskenta Osa 3: Todennäköisyysjakaumia Moniulotteisia todennäköisyysjakaumia

MATEMATIIKAN JA TILASTOTIETEEN LAITOS

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

Martingaalit ja informaatioprosessit

Sovellettu todennäköisyyslaskenta B

Johdatus todennäköisyyslaskentaan Satunnaismuuttujien muunnokset ja niiden jakaumat. TKK (c) Ilkka Mellin (2004) 1

9. Tila-avaruusmallit

Teoria. Prosessin realisaatioiden tuottaminen

=p(x) + p(y), joten ehto (N1) on voimassa. Jos lisäksi λ on skalaari, niin

Sovellettu todennäköisyyslaskenta B

3. Teoriaharjoitukset

811120P Diskreetit rakenteet

Johdatus todennäköisyyslaskentaan Jatkuvia jakaumia. TKK (c) Ilkka Mellin (2005) 1

4.0.2 Kuinka hyvä ennuste on?

031021P Tilastomatematiikka (5 op) viikko 3

V ar(m n ) = V ar(x i ).

Tilastollinen päättely II, kevät 2017 Harjoitus 1A

HY, MTL / Matemaattisten tieteiden kandiohjelma Todennäköisyyslaskenta IIb, syksy 2017 Harjoitus 1 Ratkaisuehdotuksia

031021P Tilastomatematiikka (5 op) viikko 2

Valintahetket ja pysäytetyt martingaalit

1 Lineaariavaruus eli Vektoriavaruus

6. laskuharjoitusten vastaukset (viikot 10 11)

4. Martingaalit ja lokaalit martingaalit

Odotusarvo. Odotusarvon ominaisuuksia Satunnaismuuttujien ominaisuuksia 61

Jonojen matematiikkaa

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

Markov-kustannusmallit ja kulkuajat

3. Esimerkkejä luento03.ppt S Liikenneteorian perusteet - Kevät

Dynaamisten systeemien teoriaa. Systeemianalyysilaboratorio II

802320A LINEAARIALGEBRA OSA I

Odotusjärjestelmät. Aluksi esitellään allaolevan kuvan mukaisen yhden palvelimen jonoon liittyvät perussuureet.

Johdatus todennäköisyyslaskentaan Moniulotteisia todennäköisyysjakaumia. TKK (c) Ilkka Mellin (2005) 1

031021P Tilastomatematiikka (5 op) viikot 5 6

DISKREETIT JAKAUMAT Generoiva funktio (z-muunnos)

Epäyhtälöt ovat yksi matemaatikon voimakkaimmista

Mat Sovellettu todennäköisyyslasku A. Moniulotteiset jakaumat. Avainsanat:

8. Muita stokastisia malleja 8.1 Epölineaariset mallit ARCH ja GARCH

Finanssisitoumusten suojaamisesta

Ilkka Mellin Todennäköisyyslaskenta Osa 3: Todennäköisyysjakaumia Jatkuvia jakaumia

Transkriptio:

4. Stokastiset prosessit lect4.tex 1 Sisältö Peruskäsitteitä Poisson-prosessi Markov-prosessit Syntymä-kuolema-prosessit 2

Stokastinen prosessi Tarkasteltavana oleva järjestelmä kehittyy ajan mukana ja meitä kiinnostaa sen dynaaminen, yleensä satunnaisuutta sisältävä käyttäytyminen. Esimerkkejä: onnistuminen n:nnessä Bernoulli-kokeessa varattujen kanavien lkm puhelinlinkissä hetkellä t (tai n:nnen kutsun saapuessa) pakettien lkm reitittimen puskurissa hetkellä t (tai n:nnen paketin saapuessa) Tätä kehitystä kuvataan stokastisella prosessilla. Kullakin yksittäisellä ajanhetkellä t (tai n) kyseessä on satunnaismuuttuja. Stokastinen prosessi on siis kokoelma satunnaismuuttujia. 3 Määritelmä Stokastinen prosessi (stochastic process) on kokoelma satunnaismuuttujia X =(X t ; t I), joita (aikaa kuvaava) parametri t indeksoi. Reaaliarvoisten indeksien joukkoa I R sanotaan parametriavaruudeksi. Käytetään myös nimitystä satunnaisprosessi. Monasti koko prosessista käytetään merkintää X t. Asiayhteydestä kyllä selviää tarkoittaako ko. merkintä yksittäistä satunnaismuuttujaa vai koko prosessia. Yleensä oletetaan, että satunnaismuuttujilla X t on yhteinen arvojoukko S. Tästä käytetään nimitystä tila-avaruus. 4

Reaaliarvoiset stokastiset prosessit Yksittäinen satunnaismuuttuja X t on kuvaus otosavaruudesta Ω reaaliluvuille R: X t :Ω R, ω X t (ω) Näin ollen stokastinen prosessi on kuvaus otosavaruudesta Ω reaaliarvoisten funktioiden joukkoon (argumenttina t I): X :Ω R I,ω X (ω) Jokaiseen alkeistapaukseen ω Ω liittyy siis funktio, joka saa arvot (X t (ω); t I). Tätä funktiota kutsutaan stokastisen prosessin realisaatioksi. Muita nimityksiä ovat polku ja trajektori. 5 Yhteenvetona Alkeistapaus ω Ω annettu; X t (ω) on t:n funktio, kun t I. Ajahetki t I annettu; X t (ω) on satunnaismuuttuja, kun ω Ω. ω ja t annettu; X t (ω) on reaaliluku. 6

Esimerkki: liikenneprosessi Tarkastellaan puhelinliikennettä yksittäisessä keskusten välisessä yhdysjohdossa aikavälillä [0,T]. Merkitään X t :llä varattujen kanavien lukumäärää hetkellä t [0,T]. Kyseessä on ns. liikenneprosessi. Alkeistapaus ω kertoo nyt mikä on varattujen kanavien lkm alkuhetkellä t =0 mitkä ovat alkuhetkellä käynnissä olevien kutsujen jäljelläolevat pitoajat millä ajanhetkillä saapuu uusia kutsuja mitkä ovat näiden uusien kutsujen kestot Näistä tiedoista voimme määrätä liikenneprosessin X t reaalisaation X t (ω) kyseisessä alkeistapauksessa ω. Prosessin reaalisaatiossa ei siis ole enää mitään satunnaisuutta! 7 Stokastisten prosesien luokittelu Parametriavaruus: t:n arvojen joukko I Tila-avaruus: X t :n arvojen joukko S Satunnaisprosesseja voidaan luokitella sen mukaan ovatko yo. avaruudet jatkuvia vai diskreettejä a Parametriavaruuden tyypin mukaan puhutaan diskreettiaikaisista ja jatkuva-aikaisista prosesseista. Tila-avaruuden tyypin mukaan vastaavasti diskreettitilaisista ja jatkuvatilaisista prosesseista. Tällä kurssilla keskitytään lähinnä diskreettitilaisiin prosesseihin. Yleensä kyseessä on lkm:ää kuvaavan sm:n kehitys ajassa. Tila-avaruus tässä tapauksessa on S = Z + = {0, 1, 2...} a diskreetti=äärellinen tai numeroituva 8

Esimerkkejä diskreettiaikaisista ja diskreettitilaisista prosesseista onnistuminen n:nnessä Bernoulli-kokeessa n =1, 2,... varattujen kanavien lkm puhelinlinkissä n:nnen kutsun saapuessa n =1, 2,... pakettien lkm reitittimen puskurissa n:nnen paketin saapuessa n =1, 2,... Esimerkkejä jatkuva-aikaisista ja diskreettitilaisista prosesseista varattujen kanavien lkm puhelinlinkissä hetkellä t, t [0,T] tai t R + pakettien lkm reitittimessä hetkellä t, t [0,T] tai t R + 9 Merkintöjä Diskreettiaikaisille prosesseille parametriavaruus on yleensä ei negatiiviset kokonaisluvut I = Z + = {0, 1,...}. Tällöin käytetään usein indeksin t sijaan indeksiä n: X n,x n (ω). Jatkuva-aikaisille prosesseille parametriavaruus on yleensä jokin suljettu väli tai sitten koko ei-negatiivinen puoliakseli: I =[0,T], T>0 tai I = R + =[0, ). Tällöin taas indeksi t sijoitetaan monasti alaindeksin sijasta X:n jälkeen sulkuihin (kuten tavallisesti tehdään funktioden yhteydessä): X(t), X(t; ω) 10

Stokastisen prosessin jakauma Olkoon n =1, 2,... Stokastisen prosessin X t n:nnen kertaluvun statistiikan (äärellisulotteisen jakauman) määräävät todennäköisyydet P(X t1 x 1,...,X tn x n ) missä (t 1,...,t n ) I n ja (x 1,...,x n ) R n. Prosessin täydellinen stokastien karakterisointi edellyttää kaikkien kertalukujen äärellisulotteisten jakaumien tuntemista. Tehtävän tekee vaikeaksi eri ajanhetkiin liittyvien sm:ien välinen riippuvuus. 11 Satunnaismuuttujien välinen riippuvuus Esimerkiksi diskreettiaikaisessa tapauksessa on tietysti mahdollista tarkastella jonoa riippumattomia sm:ia stokastisena prosessina. Tällöin yhteisjakauman määrääminen ei tuota ongelmia: P(X t1 x 1,...,X tn x n )=P(X t1 x 1 ) P(X tn x n ) Yksinkertaisin aidosti riippuva tapaus saadaan ns. Markov-ominaisuudesta: tiettyyn ajanhetkeen liittyvä muuttuja riippuu vain välittömästi edellisestä: P(X t1 x 1,...,X tn x n )= P(X t1 x 1 )P(X t2 x 2 X t1 x 1 ) P(X tn x n X tn 1 x n 1 ), missä t 1 t 2... t n. Näin syntyvät ns Markov-prosessit. 12

Stokastisen prosessin stationaarisuus Stokastista prosessia X t sanotaan stationaariseksi (stationary), jos äärellisulotteiset jakaumat ovat invariantteja ajan siirron suhteen, ts. P(X t1+ x 1,...,X tn+ x n )=P(X t1 x 1,...,X tn x n ) kaikilla > 0, n, (t 1,...,t n ) ja (x 1,...,x n ). Seuraus: Valitsemalla n =1, voimme päätellä, että stationaarisen prosessin yksittäiset arvot X t,t I ovat samoin jakautuneita: kaikilla t I (olettaen, että 0 I). P(X t x) =P(X 0 x) Kyseistä (yksiulotteista) jakaumaa sanotaan stationaariseksi jakaumaksi (stationary distribution). Diskreettiaikaisen prosessin tapauksessa sen määräävät pistetn:t π i = P(X t = i), i S. 13 Stokastiset prosessit liikenneteoriassa Tällä kurssilla (ja liikenneteoriassa yleisimminkin) stokastisia prosesseja tarvitaan kuvaamaan asiakkaiden saapumisia järjestelmään (saapumisprosessi) järjestelmän tilaa (tilaprosessi, esim. varattujen kanavien lkm tai pakettien lkm, verkkotapauksessa käynnissä olevien kutsujen lkm:t luokkakohtaisesti) 14

Saapumisprosessi Saapumisprosessi voidaan kuvata pisteprosessina (τ n ; n =1, 2,...) olettamalla esim., että saapumisten väliajat τ n τ n 1 ovat riippumattomia ja samoin jakautuneita (eksponentiaaliset väliajat Poisson-prosessi) laskuriprosessina (A(t) ; t [0, )), missä A(t) kertoo hetkeen t mennessä saapuneiden asiakkaiden lkm:n (riippumattomat ja Poisson-jakautuneet lisäykset A(t + ) A(t) Poisson-prosessi) Jälkimmäisessä tapauksessa kyseessä on kokonaislukuarvoinen (siis diskreettitilainen) jatkuva-aikainen stokastinen prosessi, joka kasvaa ajan myötä Näin ollen se ei voi olla stationaarinen. s<t A(s) A(t). 15 Tilaprosessi Yksinkertaisissa tapauksissa järjestelmän tila ilmoitetaan esim. kutsujen tai pakettien lkm:nä X(t) eri ajanhetkinä t. Tilaprosessi (state process) on tässä tapauksessa kokonaislukuarvoinen (siis diskreettitilainen) ja jatkuva-aikainen stokastinen prosessi Tässä tapauksessa on järkevää kysyä, onko ko. prosessi stationaarinen (jolloin systeemin tila X(t) noudattaa samaa jakaumaa, so. stationaarista jakaumaa π i kullakin ajanhetkellä t). Vaikka systeemin tila alkuhetkellä ei noudattaisikaan ko. stationaarijakaumaa monasti käy niin, että tilajakauma lähestyy sitä ajan t kasvaessa (ns. steady state) 16

Bernoulli-prosessi Toistetaan riippumattomasti Bernoulli-koetta, jossa onnistumustodennäköisyys on p. Merkitään X n :llä n:ttä koetta vastaavaa Bernoulli-muuttujaa, ts. 1, jos n:s koe onnistui X n = 0, jos n:s koe epäonnistui Kokoelmaa (X n ; n =1, 2,...) sanotaan Bernoulli-prosessiksi. Kyseessä on selvästikin diskreettiaikainen ja diskreettitilainen prosessi. Parametriavaruus: I = {1, 2,...} Tila-avaruus: S = {0, 1} Äärellisulotteiset jakaumat: n P(X 1 = x 1,...,X n = x n ) = P(X 1 = x 1 ) P(X n = x n )= p xi (1 p) 1 xi Näin kuvattuna prosessi on selvästikin stationaarinen, stationaarisena jakaumanaan π 0 = P(X n =0)=1 p, i=1 π 1 = P(X n =1)=p. 17 Poisson-prosessi Bernoulli-prosessin jatkuva-aikainen vastine on Poisson-prosessi. Näin ajatellen kyseessä on pisteprosessi (τ n ; n =1, 2,...), missä τ n kertoo n:nnen tapahtuman (n:s onnistuminen, n:nnen asiakkaan saapuminen, yms.) tapahtumishetken. Määritelmä 1: Pisteprosessi τ n on Poisson-prosessi intesiteettinään λ, jos lyhyellä aikavälillä (t, t + h] havaitaanyksitapahtumamuistaaikaväleistäriippumattatn:llä λh + o(h) Tapahtumaintensiteetti (esim. saapumisia aikayksikköä kohti) on siis vakio λ: lim (λh + o(h)) = λ h h 0 1 Todennäköisyys, että välille (t, t + h] ei satu yhtään tapahtumaa on 1 λ + o(h) Huom: Yllä merkintä o(h) tarkoittaa mv. funktiota, jolle pätee lim h 0 o(h) h =0 18

Poisson-prosessin karakterisointi väliaikojen avulla Tarkastellaan kahden tapahtuman väliaikaa τ n τ n 1 (merk. τ 0 =0). Koska tapahtumaintensiteetti pysyy vakiona, väliajan päättyminen lyhyellä aikavälillä (t, t + h], kun se on jo kestänyt ajan t, ei riipu t:stä eikä aiemmista tapahtumista. Näin ollen väliajat ovat toisistaan riippumattomia ja lisäksi niillä on unohtavaisuusominaisuus. Toisaalta voidaan osoittaa, että ainoa jatkuva jakauma, jolla on ko. ominaisuus, on eksponenttijakauma. Määritelmä 2: Pisteprosessi τ n on Poisson-prosessi intesiteettinään λ, jos tapahtuminen väliajat τ n τ n 1 ovat riippumattomia toisistaan ja samoinjakautuneita τ n τ n 1 Exp(λ). 19 Poisson-prosessin karakterisointi laskuriprosessina Merkitään A(t):llä hetkeen t mennessäsattuneiden tapahtumien lukumäärää. A(0) = 0. Bernoulli-prosessilla kiinteällä aikavälillä sattuneiden onnistumisten lkm noudattaa binomijakaumaa (parametreinään välinpituus ja onnistumistn.). Ajatellen, että Poisson-jakauma saadaan binomijakauman rajajakaumana, on luonnollista olettaa, että Poisson-prosessissa kiinteällä aikavälillä sattuneiden tapahtumien lku olisi Poisson-jakautunut. Määritelmä 3: Laskuriprosessi A(t) on Poisson-prosessi intensiteettinään λ, jos ko. prosessin lisäyksen yhteispisteettömillä väleillä ovat riippumattomat ja noudattavat Poisson-jakaumaa: A(t + ) A(t) Poisson(λ ) 20

Kolme tapaa karakterisoida Poisson-prosessi 5 4 3 A(t) Kaikki kolme Poisson-prosessin määritelmää ovat yhtäpitäviä. Tod. Sivuutetaan tällä kurssilla. 2 1 0 h } τ τ 2 1 τ 1 τ 2 τ 3 τ 4 τ 5 h h } } t t ei onnistumisia tn:llä 1 λh onnistuminen tn:llä λh 21 Poisson-prosessin ominaisuuksia Tarkastellaan ensin laskuriprosessia A(t). Parametriavaruus: I = R + =[0, ) Tila-avaruus: S = Z + = {0, 1, 2,...} Yksiulotteiset jakaumat: Äärellisulotteiset jakaumat: A(t) Poisson(λt) E[A(t)] = λt Var[A(t)] = λt P(A(t 1 )=i 1,...,A(t n )=i n ) = P (A(t 1 )=i 1,A(t 2 ) A(t 1 )=i 2 i 1,...,A(t n ) A(t n 1 )=i n i n 1 ) = P (A(t 1 )=i 1 ) P (A(t 2 ) A(t 1 )=i 2 i 1 ) P (A(t n ) A(t n 1 )=i n i n 1 ) = (λt 1) i1 i 1! (λ(t 2 t 1 )) i2 i1 (i 2 i 1 )! Huom: Ei stationaarista jakaumaa! (λ(t n t n 1 )) in in 1 (i n i n 1 )! e λtn 22

Väite: Olkoon A 1 (t) ja A 2 (t) riippumattomia Poisson-prosesseja intensiteeteillä λ 1 ja λ 2. Tällöin niiden summaprosessi eli superpositio A 1 (t)+a 2 (t) on Poisson-prosessi intensiteettinään λ 1 + λ 2. Tod. Tarkastellaan lyhyttä aikaväliä (t, t + h]. Todennäköisyys, että superpositiossa ei ole tapahtumia tällä välillä, on (1 λ 1 h + o(h))(1 λ 2 h + o(h)) = 1 (λ 1 + λ 2 )h + o(h). Toisaalta täsmälleen yhden tapahtuman tn on (λ 1 h + o(h))(1 λ 2 h + o(h)) + (λ 2 h + o(h))(1 λ 2 h + o(h)) = (λ 1 + λ 2 )h + o(h). λ 1 λ 1 λ 2 + λ 2 23 Väite: Olkoon A(t) Poisson-prosessi intensiteettinään λ. Satunnaisotanta tn:llä p (ts. valitaan yksittäiset tapahtumat toisistaan riippumatta uuteen osaprosessiin tn:llä p) tuottaa Poisson-prosessin intensiteettinään pλ. Tod. Tarkastellaan lyhyttä aikaväliä (t, t + h]. Tn, että satunnaispoiminnanjälkeen ei ole tapahtumia ko. välillä on (1 λh + o(h)) + (1 p)(λh + o(h)) = 1 pλh + o(h) Toisaalta täsmälleen yhden onnistumisen tn on p(λh + o(h)) = pλh + o(h). λ p λ 24

Väite: Olkoon A(t) Poisson-prosessi intensiteetillä λ. Satunnaishajoitus kahteen osaprosessiin todennäköisyyksin p ja 1 p tuottaa kaksi riippumatonta Poisson-prosessia intensiteetein λp ja λ(1 p). Tod. Edellisen väitteen perusteella riittää osoittaa prosessien välinen riippumattomuus. Todistus kuitenkin sivuutetaan tällä kurssilla. λ p λ (1-p) λ 25 Tarkastellaan järjestelmää, johon saapuu uusia asiakkaita Poisson-prosessin mukaisesti. Tällöin on voimassa ns. PASTA-ominaisuus (PASTA=Poisson Arrivals See Time Averages). Tämä tarkoittaa sitä, että tarkasteltaessa systeemin tilaa diskreetisti pelkästään uusien asiakkaiden saapumishetkillä sillä on sama stationaarinen jakauma kuin systeemin tilalla jatkuva-aikaisesti tarkasteluna. Voidaan siis sanoa, että saapuva asiakas näkee systeemin tasapainotilassa. PASTA on Poisson-prosessien erityisominaisuus. Tarkastaessa esim. systeemiä, jossa on vain yksi asiakas ( oma PC ), joka poistuttuaan systeemistä palaa sinne satunnaisen ajan kuluttua. Tälläinen asiakas näkee systeemin aina tyhjänä. Sen sijaan jatkuvassa ajassa tarkasteltuna systeemi ei ole aina tyhjä! 26

Markov-prosessi Tarkastellaan jatkuva-aikaista ja diskreettitilaista stokastista prosessia X =(X t ; t 0) tila-avaruudella {0, 1, 2,...,n}, missä n voi olla myös ääretön. Prosessia X sanotaan Markov-prosessiksi, jos sillä on Markov-ominaisuus: P(X tn+1 = x n+1 X t1 = x 1,...,X tn = x n )=P(X tn+1 = x n+1 X tn = x n ) kaikilla n, t 1 < <t n+1 ja (x 1,...,x n+1 ) S n+1. Markov-prosessin tuleva kehitys ehdollistettuna prosessin nykyiseen X tn ja menneisiin tiloihin (X t1,...,x tn 1 ) tilohin riippuu vain sen nykytilasta X tn (eikä siitä miten tähän on tultu). Nykytila siis sisältää kaiken jatkon kannalta tarpeellisen informaation. 27 Esimerkki: riippumattomien lisäysten prosessi Riippumattomien lisäysten prosessi on aina Markov-prosessi: X tn = X tn 1 +(X tn X tn 1 ). Yo. kaavassa lisäys on riippumaton kaikista edellisistä lisäyksistä, jotka ovat johtaneet tilaan X tn 1. Seuraus: Poisson-prosessi on Markov-prosessi, sillä määritelmän 3 mukaan Poisson-prosessin lisäykset yhteispisteettömillä väleillä ovat riippumattomat. 28

Aikahomogeenisuus Markov-prosessiasanotaanaikahomogeeniseksi, jos kaikilla t, 0 ja x, y S pätee P(X t+ = y X t = x) =P(X = y X 0 = x) Siirtymäintensiteetit Siirtymäintensiteetit 1 q ij = lim h 0 h P(X h = j X 0 = i), i,j S, määrittelevät täydellisesti aikahomogeenisen Markov-prosessin TilatodennäköisyydetP(X(t) =x), t 0, x S, määräytyvät yksikäsitteisesti siirtymäintensiteeteistä q ij, kunhan alkujakauma eli tn:t P(X(0) = x), x S, on annettu. Huom! Jatkossa rajoitamme tarkastelumme aikahomogeenisiin Markov-prosesseihin. 29 Eksponentiaaliset elinajat Markov-ominaisuuden nojalla aika, jonka järjestelmä viettää annetussa tilassa, on muistiton: jäljelläolevan ajan jakauma riippuu vain ko. tilasta, muttei kauanko siinä tilassa ollaan jo oltu. = Tilassa vietetty aika on eksponentiaalisesti jakautunut. Siirtymät tilasta i muihin tiloihin j tapahtuvat intensiteetein q ij. Näin ollen kokonaissiirtymäintensiteetti pois tilasta i on q i = q ij. j i Tilassa i vietetty aika (elinaika) on siis eksponentiaalisesti jakautunut intensiteetillä q i. (Vrt. riippumattomien Exp-jakautuneiden muuttujien minimi on Exp-jakautunut satunnaismuuttuja intensiteettinään ko. intensiteettien summa.) 30

Tilasiirtymätodennäköisyydet Voidaan ajatella, että kutakin mahdollista yhden askeleen tilasiirtymää i j, vastaa satunnaismuuttuja T ij Exp(q ij ). Mahdolliset siirtymät ovat toisistaan riippumattomia. Lopulta toteutunut siirtymä on näiden minimissä T i =min j i T ij T i Exp(q i ) Merkitään p ij :llä todennäköisyyttä, että toteutunut siirtymä on tilasta i tilaan j. Aiemmin johdettujen Exp-jakauman ominaisuuksien nojalla p ij = P(T i = T ij )= q ij q i 31 Tilakaavio Aikahomogeeninen Markov-prosessi esitetään usein ns. tilasiirtymäkaavion a (state transition diagram) avulla. Prosessin tilat x S piirretäänpallukoina,joista lähtevätnuolet kuvaavat mahdollisia yhden askeleen siirtymiä. Näin ollen tilasta i piirretään nuoli tilaan j, jos q ij > 0 ja nuoleen liitetään usein ko. intensiteetin arvo. Esim. Kolmitilainen Markov-prosessi, S = {0, 1, 2}. q 01 > 0 0 q 02 =0 q 10 =0 q 12 > 0 q 20 > 0 q 01 1 q 12 q 20 2 q 21 > 0 q 21 a lyhyemmin: tilakaavio (state diagram) 32

Pelkistymättömyys Sanotaan, että tilasta i pääsee tilaan j (i j), jos tilakaaviosta löytyy suunnattuna polku i:stä j:hin. Toisin sanoen on olemassa tilat i 1,...,i n 1 siten, että q i,i1,q i1,i 2,...,q in 2,i n 1,q in 1,j > 0. Jos näin on, niin lähdettäessä tilasta i tilassa j käydään (joskus tulevaisuudessa) positiivisella tn:llä. Tilojen i ja j sanotaan kommunikoivan (i j), jos tilasta i pääsee tilaan j ja kääntäen. Markov-prosessiasanotaanpelkistymättömäksi (irreducible), jos kaikki tilat x S kommunikoivat keskenään. Huom. Edellisellä sivulla esitetty esimerkki on selvästikin pelkistymätön. 33 Tasapainojakauma Tarkastellaan pelkistymätöntä Markov-prosessia. Jos tila-avaruudessa S on määritelty jakauma π =(π i,i S), so. (N) π i =1, π i 0 i S, jolle pätevät ns. globaalit tasapainoehdot (global balance equations) (GTE) i S π j q ji = π i q ij i j i j kaikilla j S, niin ko. jakaumaa π sanotaan prosessin tasapainojakaumaksi (equilibrium distribution). Voidaan osoittaa, että valittaessa alkujakaumaksi tasapainojakauma, ts. P(X 0 = i) =π i, Markov-prosessista tulee stationaarinen (stationaarisena jakaumanaan π). 34

Lokaalit tasapainoehdot Tarkastellaan edelleen pelkistymätöntä Markov-prosessia. Jos tila-avaruudessa S on määritelty jakauma π =(π i,i S),so. (N) π i =1, π i 0 i S, jolle pätevät ns. lokaalit tasapainoehdot (local balance equations) i S (LTE) π j q ji = π i q ij, i, j S niin ko. jakauma π on prosessin tasapainojakauma (ja siten myös stationaarinen jakauma). Tämä on helppo nähdä summaamalla (LTE) yli tilojen i j. Prosessi on tässä tapauksessa a kääntyvä (reversible), ts. se näyttää stokastisesti samanlaiselta kuljettiinpa ajassa eteen- tai taaksepäin. a ehto: valitaan stationaarinen jakauma alkujakaumaksi 35 Huomatus (LTE):n voimassaolosta Ehdoton edellytys lokaalien tasapainoehtojen (LTE) voimassaololle on, että joko q ij > 0 ja q ji > 0 tai sitten q ij =0ja q ji =0 Ts. tilakaaviossa tilojen i jaj välillä on joko kaksi erisuuntaista nuolta tai sitten ei yhtään. 36

Esimerkki tasapainojakauman laskemisesta 0 1 1 1 1 2 Selvästikään lokaalit tasapainoehdot eivät ole voimassa. Miksei? µ (N) π 0 + π 2 + π 2 =1 (GTE) π 0 1 = π 2 1 (j =0) π 1 1 = π 0 1+π 2 µ (j =1) π 2 (1 + µ) = π 1 1 (j =2) Yo. yhtälöiden ratkaisu on π 0 = 1 3+µ π 1 = 1+µ 3+µ π 2 = 1 3+µ Huom. Miten käy kun, µ 0 tai µ. 37 Syntymä-kuolema-prosessi Tarkastellaan jatkuva-aikaista ja diskreettitilaista Markov-prosessia X =(X(t); t 0) tila-avaruudessa S = {0, 1, 2,...,n} (sallitaan myös n = ). Prosessia X sanotaan syntymä-kuolema-prosessiksi (birth-dead-process, sk-prosessi), jos (yhden askeleen) tilasiirtymät ovat mahdollisia vain naapuritilojen välillä. Toisin sanoen kaikilla i S: q i,i 1 = µ i 0 q i,i+1 = λ i 0 q i,j = 0, jos i j > 1. Lisäksi µ 0 =0ja äärellisen tila-avaruuden tapauksessa λ n =0. 38

Pelkistymättömyys Selvästikin sk-prosessi on pelkistymätön jos ja vain jos λ i > 0 kaikilla i S (kaikilla i<n, kun S äärellinen) ja µ i > 0 kaikilla i S \{0}. Kun S on ääretön, pelkistymättömän sk-prosessin tilakaavio on seuraavanlainen: λ 0 λ 1 λ 2 0 1 2 µ 1 µ 2 µ 3 Kun S on äärellinen, pelkistymättömän sk-prosessin tilakaavio on seuraavanlainen: λ 0 λ 1 λn-2 λn-1 0 µ 1 1 µ 2 µ n-1 n µ n-1 n 39 Puhdas syntymäprosessi Sellaista sk-prosessia, jolle µ i =0kaikilla i S ja λ i > 0 kaikilla i S (kaikilla i<n, kun S äärellinen), sanotaan puhtaaksi syntymäprosessiksi (pure birth process). Tilakaavio (kun S ääretön ja äärellinen) 0 λ 0 1 λ 1 λ 2 2 λ 0 λ 1 λ n-2 λ n-1 0 1 n-1 n Esim. Poisson-prosessi on puhdas syntymäprosessi vakiointensiteetein λ i = λ kaikilla i S = {0, 1, 2,...}. Huom. Puhdas syntymäprosessi ei ole pelkistymätön! 40

Puhdas kuolemaprosessi Sellaista sk-prosessia, jolle λ i =0kaikilla i S ja µ i > 0 kaikilla i S \{0}, sanotaan puhtaaksi kuolemaprosessiksi (pure dead process). Tilakaavio (kun S ääretön ja äärellinen) µ µ 2 µ 3 1 0 1 2 µ 1 µ 2 µ n-1 µ n 0 1 n-1 n Esim. Puhtaalla kuolemaprosessilla voitaisiin mallinta sellaista jonotus- tai menetysjärjestelmää, johon ei enää saavu uusia asiakkaita. Huom. Puhdas kuolemaprosessi ei ole pelkistymätön! 41 Tasapainojakauma Tarkastellaan pelkistymätöntä sk-prosessia. Tasapainojakauma voidaan tässä tapauksessa laskea lokaaleista tasapainoehdoista: (LTE) π i+1 µ i+1 = π i λ i, i S (tai i < n jos S äärellinen). Tästä saadaan rekursiokaava Näin ollen Normeerausehto: (N) π i = π 0 π i+1 = i j=1 λ i µ i+1 π i π i = π 0 i S λ j 1 µ j, i S. i i S j=1 λ j 1 µ j =1 Tasapainojakauma on siis olemassa täsmälleen silloin, kun yo. summa suppenee. 42

Äärellinen tila-avaruus S = {0, 1, 2...,n} Jos tila-avaruus on äärellinen summa suppenee aina. Tasapainojakaumaksi tulee silloin π 0 = 1+ π i = π 0 n i i=1 j=1 i j=1 λ j 1 µ j 1 λ j 1 µ j, i > 0. Ääretön tila-avaruus S = {0, 1, 2...} Jos tila-avaruus on ääretön ja ko. summa suppenee saamme tasapainojakaumaksi: π 0 = 1+ π i = π 0 i i=1 j=1 i j=1 λ j 1 µ j 1 λ j 1 µ j, i > 0. 43 Esimerkki tasapainojakauman laskemisesta λ λ 0 µ 1 µ 2 Merkitään ρ = λ µ. (LTE) π i+1 µ = π i λ π i+1 = λ µ π i = ρπ i π i = π 0 ρ i (N) π 0 + π 1 + π 2 = π 0 (1 + ρ + ρ 2 )=1 π 0 =(1+ρ + ρ 2 ) 1 π i = ρi 1+ρ+ρ 2, i =0, 1, 2 44