Mat Johdatus stokastiikkaan: Todistuksia

Samankaltaiset tiedostot
Inversio-ongelmien laskennallinen peruskurssi Luento 7

Matematiikan ja tilastotieteen laitos Reaalianalyysi I Harjoitus Malliratkaisut (Sauli Lindberg)

Konvergenssilauseita

Sovellettu todennäköisyyslaskenta B

Johdatus todennäköisyyslaskentaan Momenttiemäfunktio ja karakteristinen funktio. TKK (c) Ilkka Mellin (2005) 1

Analyysin peruslause

Epäyhtälöt ovat yksi matemaatikon voimakkaimmista

Ilkka Mellin Todennäköisyyslaskenta. Osa 2: Satunnaismuuttujat ja todennäköisyysjakaumat. Momenttiemäfunktio ja karakteristinen funktio

Satunnaismuuttujien muunnokset ja niiden jakaumat

V ar(m n ) = V ar(x i ).

X k+1 X k X k+1 X k 1 1

Reaalianalyysin perusteita

3.6 Su-estimaattorien asymptotiikka

Todista raja-arvon määritelmään perustuen seuraava lause: Jos lukujonolle a n pätee lima n = a ja lima n = b, niin a = b.

Johdatus todennäköisyyslaskentaan Satunnaismuuttujien muunnokset ja niiden jakaumat. TKK (c) Ilkka Mellin (2004) 1

1 Reaaliset lukujonot

= X s + IE[X t X s ] = 0, s ja sitä, että ehdollinen odotusarvo on tavallinen odotusarvo silloin, kun satunnaismuuttuja

Todennäköisyysteoria. Teoria mitasta, mitallisuudesta, mitattomuudesta ja riippumattomuudesta. Tommi Sottinen

11 Raja-arvolauseita ja approksimaatioita

Stokastinen reunasäännöllisyys ja häiritty köydenvetopeli

Mitta- ja integraaliteoria 2 Harjoitus 1, Olkoon f : A! [0, 1] mitallinen ja m(a) < 1. Näytä, että josonp>1javakio M<1, joille

Tiheyspistelauseita. Petteri Salovaara. Pro Gradu tutkielma

Odotusarvo. Odotusarvon ominaisuuksia Satunnaismuuttujien ominaisuuksia 61

Tilastomatematiikka Kevät 2008

4. Martingaalit ja lokaalit martingaalit

JYVÄSKYLÄN YLIOPISTO. 5. Olkoon f : [0, 1] R kasvava. Osoita, että joukko. {x [0, 1] f ei ole jatkuva pisteessä x} on numeroituva. [Vihje: Lause 1.2.

IV. TASAINEN SUPPENEMINEN. f(x) = lim. jokaista ε > 0 ja x A kohti n ε,x N s.e. n n

3 Lukujonon raja-arvo

Sarjojen suppenemisesta

Funktiot. funktioita f : A R. Yleensä funktion määrittelyjoukko M f = A on jokin väli, muttei aina.

Täydellisyysaksiooman kertaus

Johdatus matemaattiseen päättelyyn

LUKU 6. Mitalliset funktiot

Positiivitermisten sarjojen suppeneminen

4.0.2 Kuinka hyvä ennuste on?

k S P[ X µ kσ] 1 k 2.

Tehtäväsarja I Tehtävät 1-5 perustuvat monisteen kappaleisiin ja tehtävä 6 kappaleeseen 2.8.

8 Potenssisarjoista. 8.1 Määritelmä. Olkoot a 0, a 1, a 2,... reaalisia vakioita ja c R. Määritelmä 8.1. Muotoa

=p(x) + p(y), joten ehto (N1) on voimassa. Jos lisäksi λ on skalaari, niin

HY, MTL / Matemaattisten tieteiden kandiohjelma Todennäköisyyslaskenta IIb, syksy 2017 Harjoitus 1 Ratkaisuehdotuksia

Reaaliluvut. tapauksessa metrisen avaruuden täydellisyyden kohdalla. 1 fi.wikipedia.org/wiki/reaaliluku 1 / 13

3 Lukujonon raja-arvo

4.1. Olkoon X mielivaltainen positiivinen satunnaismuuttuja, jonka odotusarvo on

2 exp( 2u), kun u > 0 f U (u) = v = 3 + u 3v + uv = u. f V (v) dv = f U (u) du du f V (v) = f U (u) dv = f U (h(v)) h (v) = f U 1 v (1 v) 2

1. Kuusisivuista noppaa heitetään, kunnes saadaan silmäluku 5 tai 6. Olkoon X niiden heittojen lukumäärä, joilla tuli 1, 2, 3 tai 4.

Kuinka määritellään 2 3?

d ) m d (I n ) = 2 d n d. Koska tämä pätee kaikilla

7. Tasaisen rajoituksen periaate

Todennäköisyyslaskenta IIa, syys lokakuu 2019 / Hytönen 3. laskuharjoitus, ratkaisuehdotukset

Toispuoleiset raja-arvot

MATEMATIIKAN JA TILASTOTIETEEN LAITOS

U missä U A := {U R n : U avoin ja U A}; intuitiivisesti suurin avoin joukko, joka sisältyy A:han. Määritellään A:n sulkeuma A := F F A

Moderni reaalianalyysi

Lebesguen mitta ja integraali

(2n 1) = n 2

Mitta ja integraali 1

Ville Suomala MITTA- JA INTEGROINTITEORIAA

Analyysi 1. Harjoituksia lukuihin 1 3 / Syksy Osoita täsmällisesti perustellen, että joukko A = x 4 ei ole ylhäältä rajoitettu.

Kuva 3.1: Näyte Gaussisesta valkoisest kohinasta ε t N(0, 1) Aika t

P (X B) = f X (x)dx. xf X (x)dx. g(x)f X (x)dx.

Analyysi III. Jari Taskinen. 28. syyskuuta Luku 1

MS-C1350 Osittaisdifferentiaaliyhtälöt Harjoitukset 5, syksy Mallivastaukset

Topologia Syksy 2010 Harjoitus 9

Stokastiikka. Sisältö. Dario Gasbarra 28. lokakuuta Esitiedot edellisistä todennäköisyys- ja mittateorian kursseista 1

Topologia I Harjoitus 6, kevät 2010 Ratkaisuehdotus

Ortogonaaliprojektio äärellisulotteiselle aliavaruudelle

Miten osoitetaan joukot samoiksi?

Sekalaiset tehtävät, 11. syyskuuta 2005, sivu 1 / 13. Tehtäviä

MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

8.1 Ehdolliset jakaumat

1 Supremum ja infimum

y = 3x2 y 2 + sin(2x). x = ex y + e y2 y = ex y + 2xye y2

Johdatus reaalifunktioihin P, 5op

MITTA JA INTEGRAALI TUOMAS HYTÖNEN

3. Teoriaharjoitukset

Todennäköisyyslaskenta IIa, syyslokakuu 2019 / Hytönen 2. laskuharjoitus, ratkaisuehdotukset

Joukot metrisissä avaruuksissa

Kirjoita jokaiseen koepaperiin nimesi, opiskelijanumerosi ym. tiedot! Laskin (yo-kirjoituksissa hyväksytty) on sallittu apuväline tässä kokeessa!

Ville Suomala MITTA JA INTEGRAALI

Määritelmä 2.5. Lause 2.6.

Valintahetket ja pysäytetyt martingaalit

REAALIANALYYSI. Pekka Koskela. Syksy 2015

Sovellettu todennäköisyyslaskenta B

6. laskuharjoitusten vastaukset (viikot 10 11)

Sisältö. Sarjat 10. syyskuuta 2005 sivu 1 / 17

LUKU 3. Ulkoinen derivaatta. dx i 1. dx i 2. ω i1,i 2,...,i k

4.1 Diskreetin satunnaismuuttujan odotusarvo

MAT Todennäköisyyslaskenta Tentti / Kimmo Vattulainen

peitteestä voidaan valita äärellinen osapeite). Äärellisen monen nollajoukon yhdiste on nollajoukko.

x > y : y < x x y : x < y tai x = y x y : x > y tai x = y.

Ratkaisu: (i) Joukko A X on avoin jos kaikilla x A on olemassa r > 0 siten että B(x, r) A. Joukko B X on suljettu jos komplementti B c on avoin.

Seuraava topologisluonteinen lause on nk. Bairen lause tai Bairen kategorialause, n=1

KOMPLEKSIANALYYSI I KURSSI SYKSY 2012

Funktion raja-arvo ja jatkuvuus Reaali- ja kompleksifunktiot

8. Avoimen kuvauksen lause

(b) Onko hyvä idea laske pinta-alan odotusarvo lähetmällä oletuksesta, että keppi katkeaa katkaisukohdan odotusarvon kohdalla?

Kompleksiset sarjat ja potenssisarjat

MS-A010{3,4} (ELEC*) Differentiaali- ja integraalilaskenta 1 Luento 3: Jatkuvuus

30A02000 Tilastotieteen perusteet

Tehtävä 3. Määrää seuraavien jonojen raja-arvot 1.

Transkriptio:

Mat-.36 Johdatus stokastiikkaan: Todistuksia Monotonista luokkaa koskeva lause Oletetaan, että Ω on ei-tyhjä joukko; G H 2 Ω ; jos A ja B G niin A B G; Ω H; jos A ja B H ja A B niin B \ A H; ja joko, että jos A j H, j =, 2,... ja A A 2... niin A j H; tai yhtäpitävästi, että jos A j H, j =, 2,... ja A j A k =, j < k niin A j H. Silloin σ(g H. Ensiksi voidaan todeta, että viimeiset vaihtoehtoiset ehdot ovat muidebn ehtojen vallitessa ekvivalenettejä. Näin on koska jos A A 2... niin A j = ParA j \ A j kun A =. Vastaavasti n A j n+ ( A j, n= n A j = A j ja jos A, B H ja A B = niin B Ω \ A ja A B = Ω \ ((Ω \ A \ B joten n A j H jos A j A k =, j < k n. Olkoot H = { B H : B A A G }, H 2 = { C H : C B H B H } = { C H : C B A H B H, A G }. Koska G H niin Ω H ja siitä seuraa, että H 2 H. Koska A B G kun AB G niin G H 2 eli on osoitettu, että G H 2 H H. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 / 73 G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 2 / 73 jatkuu Seuraavaksi osoitetaan, että H 2 on σ-algebra, ja olkoot B H ja A G mielivaltaisia jolloin B A H. Koska Ω B A = B A H niin Ω H 2. Jos C H 2 niin C c B A = (B A \ (C B A H joten C c H 2. Jos C ja C 2 H 2 ja B H niin C 2 B H joten (C C 2 B = C (C B H ja C C 2 H 2. Jos nyt C j G 2 kun j =, 2,..., D = C ja D k = C k C c... C c k kun k = 2,... niin C j H 2, C j C k = kun j < k ja C j = D j joten ( C j B A = (D j B A H ja C j H 2. Näin on osoitettu, että H 2 on σ-algebra jollloin σ(g H 2 H. Caratheodoryn laajennuslause Oletataan, että Ω on ei-tyhjä joukko. G 2 Ω, G ja Ω = Ω j joillakin Ω j G Funktio µ : G [, ] on sellainen, että µ( = ja µ(a µ(a j jos A A j missä A j G, j =, 2,.... Silloin on olemassa σ-algebra F µ joukossa Ω ja σ-additiivinen mitta µ C : F µ [, ] siten, että µ C (A = µ(a kaikilla A G F µ. Funktio µ C toteuttaa siis ehdot: µ C ( =, µ(a jos A F µ ja µ C ( A j = P µ(aj jos Aj Fµ ja Aj A k = kun j < k. Jos lisäksi pätee A G A c G; A, B G A B G; A, B G, A B = µ(a B = µ(a + µ(b; niin σ(g F µ. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 3 / 73 G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 4 / 73

jatkuu: µ on σ-subadditiivinen Väite: Jos A A j niin : Ulkomitta µ Määritellään µ (A = inf{ µ(a j : A A j }, A Ω, jolloin oletuksista seuraa heti, että µ (A [, ] kun A Ω ja µ (A = µ(a kun A G. µ (A µ (A j. : Olkoon ɛ > mielivaltainen. Määritelmän mukaan on jokaisella j olemassa joukot B j,k G, k =, 2,... siten, että A j k= B j,k ja µ(b j,k µ (A j + ɛ2 (j+. k= Nyt A A j k= B j,k ja ( µ(b j,k µ(aj + ɛ2 (j+ = µ(a j + ɛ, k= ja koska ɛ oli mielivaltainen saadaan väite. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 5 / 73 G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 6 / 73 jatkuu: F µ, µ c ja σ-algebran ensimmäiset ehdot Määritellään ja sitten F µ = { A Ω : µ (D = µ (A D + µ(a c D, D Ω }, µ C (A = µ (A, A F µ. funktion µ subadditiivisuudesta seuraa, että aina µ (D µ (A D + µ (A c D joten pätee myös F µ = { A Ω : µ (D µ (A D + µ(a c D, D Ω }. jatkuu: A, B F µ A B F µ Oletetaan, että A ja B F µ ja D Ω. Koska µ on subadditiivinen ja (A B D = (A (B A c D = (A D (B A c D niin µ ((A B D = µ ( (A D (B A c D µ (A D+µ (B A c D. Koska ja (A B c = A c B c, B F µ, (A c D Ω ja A F µ niin µ ((A B D + µ ((A B c D µ (A D + µ (B (A c D + µ(b c (A c D = µ (A D + µ (A c D = µ (D. Koska µ ( = niin Ω F µ, Koska toisaalta subadditiivisuuden nojalla pätee µ (D µ ((A B D + µ ((A B c D saadaan ja määritelmän symmetrisyydestä seuraa, että A F µ A c F µ. eli A B F µ. µ (D = µ ((A B D + µ ((A B c D G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 7 / 73 G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 8 / 73

jatkuu: µ on σ-additiivinen F µ :ssä Koska edellisessä laskussa ei ollutkaan aito epäyhtälö saadaan myös µ ((A B D = µ (A D + µ (B A c D. Jos nyt A j F µ j =, 2,... niin induktiolla saadaan µ (( m A j D = µ (A D +... + µ (A m A c... A c m D. Merkitään B = A, B j = A j A c... Ac j ja A = A j = B j. Funktion µ subadditiivisuudesta ja edellisestä tuloksesta seuraa, että µ (B j D µ (A D µ (( m m B j D = µ (B j D, Kun m saadaan µ (A D = µ (B j D. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 9 / 73 jatkuu: F µ on σ-algebra Koska A B F µ jos A ja B F µ niin myös m B j F µ ja µ (D = µ (( m B j D + µ (( m B j c D. Subadditiivisuudesta ja additiivisuudesta seuraa µ (D ja kun m saadaan µ (D m µ (B j D + µ (A c D, µ (B j D + µ (A c D = µ (A D + µ (A c D. Näin ollen A F µ ja on osoitettu, että F µ on σ-algebra. Valitsemalla D = Ω nähdään, että µ C on σ-additiivinen. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 / 73 jatkuu: G F µ kun lisäoletukset ovat voimassa Olkoon A G, D Ω ja ɛ >. Funktion µ määritelmän nojalla on olemassa A j G, j =, 2,... siten, että D A j ja µ(a j µ (D + ɛ. Nyt A A j ja A c A j G ja µ(a A j + µ(a c A j = µ(a j kun j =, 2,..., A D A A j ja A c D Ac A j joten µ (A D + µ (A c D µ(a A j + µ(a c A j = µ(a j µ (D + ɛ. Koska ɛ oli mielivaltainen niin µ (D µ (A D + µ (A c D eli A F µ. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 / 73 Dynkinin yksikäisitteisyyslause Oletetaan, että Ω on ei-tyhjä joukko ja G 2 Ω ; jos A ja B G niin A B G; P ja P 2 ovat todennäköisyysmittoja σ(g:llä ja P (A = P 2 (A kun A G. Silloin P = P 2. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 2 / 73

Olkoon H = { A σ(g : P (A = P 2 (A } joten oletuksen mukaan tiedetään, että G H. Seuraavaksi osoitetaan, että H on monotoninen luokka. Koska P (Ω = P 2 (Ω = niin Ω H. Jos A, B H ja A B niin P (B \ A = P (B P (A = P 2 (B P 2 (A = P 2 (B \ A joten B \ A H. Jos A j H, j =, 2,... ja A j A k = kun j < k niin P ( A j = j P (A j = j P 2(A j = P 2 ( A j joten A j H. Monotonisten luokkien ominaisuuden perusteella pätee nyt H = σ(g, eli P = P 2. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 3 / 73 Riippumattomat σ-algebrat Oletetaan että (Ω, F, P on todennäköisyysavaruus; G i F kun i I ; Jos A ja B G i niin A B G i kun i I ; (G i i I ovat riippumattomia. Silloin myös (σ(g i i I ovat riippumattomia. Jos lisäksi indeksijoukot I j I, j J ovat sellaiset, että I j I k = kun j k niin myös (σ( i Ij G i j J ovat riippumattomia. alkaa Koska voidaan valita J = I ja I j = {j} riittää tarkastella jälkimmäista tapausta. Olkoon Gj = { i K A i : K I j on äärellinen, A i G i, i K } kun j J. (Käytetään tulkintaa i A i = Ω. Tästä voidaan päätellä, että i Jj G i Gj σ( i Jj G i, joten σ(gj = σ( i Jj G i. Lisäksi nähdään, että oletuksista seuraa, että (Gj j J ovat riippumattomia ja jos A ja B Gj niin A B Gj. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 4 / 73 jatkuu Jos nyt L = {j,..., j m } J niin tiedämme että G j,..., Gj m ovat riippumattomia. Induktio-oletukseksi valitaan, että σ(g j,..., σ(gj n, G jn,..., Gj m ovat riippumattomia, eli tämä pätee kun n =. Olkoon nyt B = m k= B k, missä B k σ(gj k kun k n, B n = Ω ja B k Gj k kun n + k m. Jos nyt A Gj n niin induktio-oletuksesta seuraa, että P(A B = P(AP(B. Seuraavaksi osoitetaan, että P(A B = P(AP(B kaikilla A σ(gk. Jos P(B = tämä on selvää, joten oletetaan, että P(B >. Nyt voimme määritellä kaksi todennäköisyysmittaa σ-algebralla σ(gj n, nimittäin P (A = P(A ja P(A B P 2 (A =. Koska B:n valinnasta seuraa, että P (A = P 2 (A kun P(B A Gj n niin Dynkinin yksikäsitteisyyslauseesta seuraa, että P = P 2 eli P(A B = P(AP(B kaikilla A σ(g k. Tästä taas seuraa, että induktioaskel toimii eli n voidaan induktio-oletuksessa korvata n + :llä jolloin riippumattomuusväite pätee myös kun n = m +. Koska L oli mielivaltainen saadaan lopullinen väite että (σ(gj j J ovat riippumattomia. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 5 / 73 Aputulos Olkoon (Ω, F, P todennäköisyysavaruus ja olkoot X j : Ω R satunnaismuuttujia kun j =,..., n. Jos f : R n R on Borel-mitallinen niin Y = f (X,..., X n on satunnaismuuttuja siten, että σ(y σ( n σ(x j. Mitallisuusoletuksen mukaan { (x,..., x n : f (x,..., x n B } on Borel joukko avaruudessa R n (eli kuuluu R n :n σ-algebraan B n jos B R on Borel-joukko (eli B B eli f (B B n. Olkoon G n = { (B... B n : B j B, j,..., n }. Nyt pätee σ(g n = B n. Olkoon Z : Ω R n kuvaus Z(ω = (X (ω,... X n (ω. Jos nyt B j B kun j,..., n niin Z (B j... B n = X (B... Xn (B n σ( n σ(x j. Mutta koska σ(z (G n = Z (σ(g n = Z (B n niin nähdään, että Z (B n σ( n σ(x j ja väite seuraa, koska Y = f Z. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 6 / 73

Kolmogorovin - laki Oletetaan, että (Ω, F, P todennäköisyysavaruus; F n F on σ-algebra kun n ja (F n n= ovat riippumattomia (esimerkiksi niin, että F n = σ(x n missä X, X 2,... ovat riippumattomia satunnaismuuttujia; K = n= ( σ j=n F j ; A K. Silloin joko P(A = tai P(A =. alkaa Jos voidaan osoittaa, että on olemassa σ-algebra K siten, että K K ja K ja K ovat riippumattomia niin A K ja A K joten P(A = P(A A = P(AP(A josta väite seuraa. jatkuu Olkoon n > ja G,n = { A j... A jk : A ji F ji, i =,..., k, j <... j k < n, k }, G 2,n = { A j... A jk : A ji F ji, i =,..., k, n j <... < j k, k }. Oletuksesta, että (F j ovat riippumattomia, seuraa nyt, että G,n ja G 2,n ovat riippumattomia. Lisäksi on selvää, että jos B ja C G j,n niin B C G j,n kun j = tai 2. Näin ollen σ(g,n ja σ(g 2,n ovat riippumattomia ja erityisesti G,n ja σ(g 2,n ovat riippumattomia kaikilla n >. Nyt j=n F j G 2,n σ( j=n F j joten σ( j=n F j = σ(g 2,n ja K = n= σ(g 2,n. Olkoon G, = n= G,n ja K = σ(g,. Jos nyt B G, ja C K niin B G,n jollakin n > ja C σ(g 2,n joten edellisistä tuloksista seuraa, että P(B C = P(BP(C eli G, ja K ovat riippumattomia. Jos B ja C G, niin B C G, joten myös σ(g, = K ja K ovat riippumattomia. Koska j=n F j G, niin σ( j=n F j K kaikilla n > ja siitä seuraa, että K K. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 7 / 73 G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 8 / 73 Jos Kertymäfunktio ja satunnaismuuttuja F : R [, ] on ei-vähenevä; F on oikealta jatkuva; lim x F (x = ja lim x + F (x = ; niin on olemassa reaaliarvoinen satunnaismuuttuja, siten, että sen jakauma on F eli P{X x} = F (x. alkaa Valitaan Ω = R ja G = { k (a j, b j ] : a < b < a 2 <... < b k < a k } missä käytetään tulkinta (a, ] = (a,. P (A = k (F (b j F (a j jos A = k (a j, b j ] missä taas käytetään tulkinnat (a, ] = (a, ja F ( =. Nyt on vain osoitettava, että kaikki laajennuslauseen ehdot ovat voimassa. jatkuu: Helpot kohdat Ω = (, G (valitaan k =, b = ja a = ; Jos A = k (a j, b j ] G niin ( A c = (, a ] k (b j, a j+ ] (a k, G, (mistä välit (, ] ja (, jätetään pois jos ne kaavan mukaan tulisivat mukaan. Jos A = k i= (a i, b i ] G ja B = m (c j, d j ] G niin A B = k i= m (max{a i, c j }, min{b i, d j }] missä tyhjät joukot jätetään huomioon ottamatta. Näin ollen A B G ja koska A B = (A c B c c niin edellisen kohdan nojalla nähdään että myös A B G. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 9 / 73 G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 2 / 73

jatkuu: Hankalia itsestäänselvyyksiä Koska F on ei-vähenevä, niin F (b j F (a j F (a j+ F (b j+ kun j =, 2,..., k jos a < b < a 2 <... a k < b k, joten jos A = k (a j, b j ] G niin P (A = k (F (b j F (a j. Koska voimme myös kirjoittaa P (A = F (b k F (a + k (F (b j F (a j+ ja koska F (b j F (a j+, F (a ja F (b k niin P (A. Lisäksi P (Ω = P ((, = F ( F ( = =. Oletetaan seuraavaksi, että A = k i= (a i, b i ] G ja B = m (c j, d j ] G ovat sellaiset, että A B =. Silloin välit voidaan nimittää uudelleen siten, että on olemassa joukot I, J {,..., k + m} siten, että I J = ja A = i I (e i, f i ] ja B = j J (e j, f j ] missä e < f e 2 < f 2 e 3 <... f j+k e j+k < f j+k. Nyt P (A = i I (F (f i F (e i ja P (B = j J (F (f i F (e i ja koska P ((a, b] = F (b F (c + F (c F (a = P ((a, c] + P ((c, b] jos a < c < b niin P (A B = j+k n= (F (f n F (e n = P (A + P (B. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 2 / 73 Todistuksen viimeinen osa Oletetaan seuraavaksi, että A G ja A j G kun j =, 2,... ja että A A j. Nyt A = m i= B i missä B i = (a i, b i ] ja koska jokaisella i pätee (a i, b i ] (a i, b i ] A j ja jokaisella j =, 2,... pätee P ( m i= (a i, b i ] A j = m P ((a i, b i ] A j voimme olettaa, että A on muotoa (a, b]. Lisäksi voimme oletta, että jokaisella j pätee A j = (a j, b j ]. Olkoon f (x = P ((x, b] P ((a j, b j ] (x, b]. Jos nyt x (a, b] niin on olemassa k siten, että x (a k, b k ] joten f (a k P ((a k, x] + P ((x, b] P ((a j, b j ] (x, b] P ((a k, b k ] (a k, x] = f (x. Eli jos f (x niin on olemassa δ > siten, että f (x δ. Jos nyt x n x niin oletuksesta, että F on oikealta jatkuva seuraa, että jokaisella j pätee lim P ((a j, b j ] (x n, b] = P ((a j, b j ] (x, b] ja koska tämä jono on ei-vähenevä niin saadaan monotonisen konvergenssilauseen avulla, että lim P ((a j, b j ] (x n, b] = P ((a j, b j ] (x, b]. Koska lisäksi pätee lim P ((x n, b] = P ((x, b] todetaan, että lim f (x n = f (x. Tästä voidaa päätellä, että myös f (a. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 22 / 73 Todennäköisyysavaruuksien tulo Olkoot (Ω i, F i, P i todennäkösyysavaruuksia kun i I (ja. Silloin (Ω, F, P on todennäköisyysavaruus missä Lisäksi Ω = { ω : I i I Ω i : ω(i Ω i, i I }; F = σ(g missä G = { j J à j : J I on äärellinen, A j F j, j J } missä Ãj = { ω Ω : ω(j A j } jos A j Ω j ; P(A = inf{ k= P(A k : A k= A k, A k G } missä P(A = Π j J P j (A j jos A = j J à j G. σ-algebrat ( F i i I ovat riippumattomia, missä F i = { Ãi : A i F i }; Jos X i on satunnaismuuttuja todennäköisyysavaruudessa (Ω i, F i, P i kun i I niin X i, i I, missä X i (ω = X i (ω(i ovat riippumattomia satunnaismuuttujia todennäköisyysavaruudessa (Ω, F, P. alkaa Olkoon J I äärellinen joukko ja oletetaan, että väite pätee kun I korvataan J:llä ja olkoon näin saataava todenäköisyys avaruus (Ω J, F J, P J. Jos J sisältää vain yhden elementin, tämä on oletus. Kun A Ω J niin à = { ω Ω : ω J A }. Olkoon nyt k I \ J ja olkoot Ω J {k} ja F J {k} samalla tavalla määriteltyjä kuin Ω J ja F J. Jos nyt ω J Ω J ja A F J {k} niin A(ω J = { ω k Ω k : {ω J } {ω k } à }. Olkoon nyt H = { A F J {k} : A(ω J F k, ω J Ω J, kuvaus: ω J P k (A(ω J on mitallinen }. Olkoon G = { A F J {k} : à = B C, B F J, C F k }. Seuraavaski osoitetaan, että G ja H toteuttavat monotonista luokkaa koskevan lauseen oletukset. Jos A G niin à = B C missä B F J ja C F k niin A(ω J = C jos ω J B ja muuten joten P k (A(ω J = P k (C B (ω J ja A H. Jos A ja A 2 G niin à Ã2 = Koska Ω J {k} (ω J = Ω k niin Ω J {k} H. B B 2 C C 2 joten A A 2 G. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 23 / 73 G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 24 / 73

jatkuu Jos A ja B H ja A B niin (B \ A(ω J = B(ω J \ A(Ω J F k kun ω J Ω J ja P k (B \ A(ω J = P k (A(ω J Pr k (B(ω J ja koska kahden mitallisen funktion rotus on mitallinen, niin B \ A H. Jos A n H, n =, 2,... ja A n A m = kun n < m niin A n (ω J A m (ω J = ja ( n= A n(ω J = n= (A n(ω J F k kaikilla Ω J Ω J. Koska mitallisten funktioden summa on mitallinen niin P k (( n= A n(ω J = n= P k(a n (ω J on ω J :n mitallinen funktio, eli n= A n H. Monotonista luokkaa koskevan lauseen perusteella tiedetään, nyt että H = F J {k}. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 25 / 73 jatkuu Seuraavaksi osoitetaan, että P J {k} (A = Ω J P k (A(ω J P J (dω J määrittelee todennäköisyysmitan σ-algebralla F J {k}. Koska P k ja P J ovat todennäköisyysmittoja niin P J {k} : F J {k} [, ]. Koska Ω J {k} (ω J = Ω k kaikilla ω J niin P(Ω J {k} =. Jos A n H, n =, 2,... ja A n A m = kun n < m niin P( n=a n = P k ( n=a n (ω J P J (dω j Ω J {k} = P k (A n (Ω J P J (dω j = P k (A n (Ω J P J (dω j Ω J {k} Ω J {k} n= n= = P J {k} (A n. Näin ollen väite on tullut todistetuksi kun I on äärellinen samalla on myös osoitettu, että P voidaan laajentaa todennäköisyysmitaksi σ-algebrassa F J kun J I on äärellinen. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 26 / 73 n= jatkuu Seuraavaksi osoitetaan, että laajennuslauseen ehdot ovat voimassa yleisessä tapauksessa. Olkoon G = { n k= A k : A k G, A j A k =, j < k n }. Jotta P voidaan määritellä joukossa G kaavalla P(A = n k= Pr(A k on osoitettava, että jos n k= A,k = n 2 k= A 2,k niin n k= P(A,k = n 2 k= P(A 2,k. Joukkojen G ja G määritelmistä seura, että on olemassa äärellinen joukko J siten, että jokainen joukoista A i,k F J ja koska P voidaan laajentaa todennäköisyysmitaksi tässä joukossa, väite seuraa. Seuraavaksi osoitetaan, että G on algebra, eli on suljettu komplementin ja leikkausen suhteen. Jos A ja B G niin A B G ja siitä seuraa, että jos A ja B G niin A B G. Jos A = j J Ã j G niin A c = K J,K ( k K Ã c k ( j J\K Ã j joten A c G. Jos A = n k= A k G niin A c = n k= Ac k G. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 27 / 73 päättyy Näin ollen on vielä osoitettava, että P on σ-additiivinen joukossa G eli jos A j G, j =, 2,... ja A j A k = kun j < k ja A = A j G niin P(A == P(A j. Mutta jos A G niin on olemassa äärellinen joukko J siten, että A F J jolloin kaikki joukot A j kuuluvat tähän σ-algebraan ja väite seuraa koska P on laajennettu todennäköisyysmitaksi tässä σ-algebrassa. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 28 / 73

Karakteristinen funktio ja toinen momentti Olkoon ϕ satunnaismuuttujan X karakteristinen funktio. Jos niin E(X 2 <. lim inf t t 2 ( 2 ϕ(t ϕ( t <, Koska 2 e itx e itx = 2( cos(tx niin ( 2 2 ϕ( t ϕ(t = t 2 t 2 ( cos(xtpx (dx. 2 Nyt lim t ( cos(xt = x 2 joten Fatoun lemman nojalla t 2 E(X 2 = x 2 P X 2 (dx lim inf t t 2 ( cos(xtpx (dx <. R R R Borel-Cantelli I Jos A, A 2,... ovat todennäköisyysavaruuden (Ω, F, P tapahtumia niin n= P(A n < P(lim sup A n =. Koska P(A n = E( An niin oletuksesta seuraa, että E ( n= A n <. Jos ω lim sup A n niin on olemassa osajono n < n 2 <... siten, että ω A nj kun j ja silloin n= A n (ω =. Jos nyt P(lim sup A n > niin E ( n= A n = mikä on ristiriita. Seuraus Jos X, X 2,... ovat satunnaismuuttujia, a R ja P{X n < a + ɛ} < kaikilla ɛ > niin P{lim sup X n a} =. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 29 / 73 G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 3 / 73 Borel-Cantelli II Jos A, A 2,... ovat todennäköisyysavaruuden (Ω, F, P riippumattomia tapahtumia niin n= n= P(A n < P(lim sup A n =. P(A n = P(lim sup A n =. Koska lim sup A n = n= m n A m niin P(lim sup A n = lim P( m n A m. Samoin P( m n A m = lim k P( k m=na m. Koska myös tapahtumat A c m ovat riippumattomia niin P( k m=na m = P(( k m=na m c = P( k m=na c m = Π k m=n( P(A m. jatkuu Näin ollen P(lim sup A n = e lim lim P k k m=n log( P(Am. Nyt lim lim k k m=n log( P(A m = täsmälleen silloin kun sarja m=n log( P(A m supeenee ja kun se hajaantuu. Koska 2x log( x x kun x 2 niin sarja k m=n log( P(A m = suppenee täsmälleen silloin kun n= P(A n <, josta seuraa väiteet. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 3 / 73 G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 32 / 73

Stokastinen suppeneminen: Ekvivalenssi Olkoot X n ja X satunnaismuuttujia. Jos h : R R on jatkuva, rajoitettu, h( = ja X n P X kun n niin lim E(h(X n X =. Jos h : R R, h( =, inf t >s h(t > kun s > ja lim E(h(X n X = niin X n P X kun n. Oletetaan, ensin, että X n P X ja että h on jatkuva ja rajoitettu funktio, siten, että h( =. Merkitään c = sup t R h(t ja oletuksesta seuraa, että c <. Olkoon ɛ > mielivaltainen. Koska h on jatkuva, niin on olemassa δ > siten, että h(t ɛ kun t δ. Nyt E(h(X n X E( h(x n X { Xn X >δ}+e( h(x n X { Xn X δ} cp{ X n X > δ} + ɛ, joten lim sup E(h(X n X ɛ ja koska ɛ oli mielivaltainen pätee lim E(h(X n X =. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 33 / 73 jatkuu Oletetaan seuraavaksi, että h( =, inf t >s h(t > kun s > ja lim E(h(X n X =. Silloin h(t kaikilla t ja jos ɛ > niin E(h(X n X E(h(X n X { Xn X >ɛ} inf t >ɛ h(tp{ X n X > ɛ}, josta seuraa, että lim sup P{ X n X > ɛ} inf t >ɛ h(t Koska ɛ > oli mielivaltainen saadaan väite. lim sup E(h(X n X =. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 34 / 73 Heikko suppeneminen: Ekvivalenssi I Olkoot X n, n ja X satunnaismuuttujia. Silloin X n D X kun n jos ja vain jos lim E(g(X n = E(g(X kaikilla äärettömän monta kertaa jatkuvasti derivoituvilla funktiolla g joille pätee g(x = kun x c jollain vakiolla c. Olkoon Cc m m kertaa jatkuvasti derivoituvat funktiot jotka ovat kompaktin joukon ulkopuolella. Koska jokainen g Cc on myös rajoitettu niin on vain osoitettava, että jos lim E(g(X n = E(g(X kun g Cc niin X n D X kun n. Ensin osoitetaan, että jos g Cc niin lim E(g(X n = E(g(X. Jokaisella k löytyy funktio g k Cc siten, että g k (x g(x < k. jatkuu Oletuksista seuraa, että lim sup E(g(X n E(g(X ( lim sup E(gk (X n E(g k (X + E( g k (X n g(x n lim sup k + E( g k (X g(x ( lim sup + 2 =, k k joten väite lim E(g(X n = E(g(X kun g Cc pätee. Jos taas m on mielivaltanen, on monotonisen konvergenssilauseen nojalla olemassa funktio h m = max{, a(m x } missä a(m > siten, että E(h m (X m. Koska h m Cc on olemassa luku n siten, että kun n n niin E(h m (X n 2 m. Tästä seuraa myös, että E( h m (X m ja E( h m(x n 2 m. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 35 / 73 G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 36 / 73

jatkuu Jos nyt g on mielivaltainen jatkuva ja rajoitettu funktio, g(x b niin lim sup E(g(X n E(g(X lim sup m lim sup E(h m (X n g(x n E(h m (X g(x + lim sup m + lim sup m lim sup E(( h m (X n g(x n E(( h m (X g(x lim sup lim sup m ( + b 2 m + b m =. Heikko suppeneminen: Ekvivalenssi II Olkoot X n, n ja X satunnaismuuttujia. Silloin X n D X kun n jos ja vain jos ϕ Xn (t = ϕ X (t kaikilla t R. Jos X n D X kun n niin E(cos(tX n E(cos(tX ja E(sin(tX n E(sin(tX kun n koska cos ja sin ovat jatkuvia ja rajoitettuja funktioita joten pätee myös lim ϕ Xn (t = lim E(e itxn = E(e itx = ϕ X (t kaikilla t R. Oletetaan seuraavaksi, että lim ϕ Xn (t = ϕ X (t kaikilla t R. Olkoon g mielivaltainen äärettömän monta kertaa jatkuvasti derivoituva funktio siten että g(x = kun x c jollakin luvulla c. Silloin voidaan osoittaa, että g(x = eitx h(t dt missä rajoitettu koska funktioksi h voidaan valita 2π ĝ( t h(t dt < ja h on jatkuva ja 2π. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 37 / 73 G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 38 / 73 jatkuu Fubinin ja dominoidun konvergenssilauseen nojalla saadaan nyt kun n ( E(g(X n = E = e itxn h(t dt = ( E e itxn h(t ϕ Xn (th(t dt = E dt ϕ X (th(t dt ( e itx h(t dt = E(g(X. Koska g oli mielivaltainen väite seuraa aikaisemmasta tuloksesta. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 39 / 73 Jos Heikko suurten lukujen laki niin n X, X 2,... satunnaismuuttujia siten, että E(Xj 2 < kun j, E(X j =, j, E(X j X k = kun j < k, lim n 2 E(Xj 2 =, X j L 2 kun n. Jos Y n = n n X j niin E(Yn 2 = n n n 2 k= E(X jx k = n n 2 E(X j 2 koska oletettiin, että E(X j X k = kun j k, Näin ollen lim E(Yn 2 = eli Y n L 2 kun n. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 4 / 73

Kolmogorovin epäyhtälö Jos X, X 2,..., X n ovat riippumattomia satunnaismuuttujia siten, että E(X j = ja E(Xj 2 < kun j =,..., n, niin P max k k n X j x E(X j 2 x 2, x >. Olkoon S k = k X j ja A k = { S k x, S j < x, j < k}. Tapahtumat A k, k =,..., n ovat pistevieraita joten n k= A k ja koska satunnaismuuttujat X k, k =,..., n ovat riippumattomia ja E(X k = niin E(X j X k = kun j k ja n k= E(X k 2 = E(S n. 2 Näin ollen E(Xk 2 = E(S n 2 E(Sn 2 Ak = E(Sn 2 Ak. k= k= k= jatkuu Nyt S n S k = n j=k+ X j ja S k Ak ovat riippumattomia joten E((S n S k S k Ak = E(S n S k E(S k Ak = n j=k+ E(X je(s k Ak =. Tästä seuraa, koska S k (ω 2 x 2 kun ω A k, että E(S 2 n Ak = E((S n S k + S k 2 Ak = E((S n S k 2 Ak + 2E((S n S k S k Ak + E(S 2 k A k + 2 + x 2 P(A k. Nyt n k= P(A k = P( n k= A k = P{max k n S k x} joten E(Xk 2 x 2 k= ja tämä on väite. k= P(A k = x 2 P{ max k n S k x}, G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 4 / 73 G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 42 / 73 Jos Kolmogorovin suppenemislause X, X 2,..., riippumattomia satunnaismuuttujia, E(X j =, j, E(X 2 j <, niin sarja X j suppenee melkein varmasti. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 43 / 73 Olkoon S n = n X j. Kolmogorovin epäyhtälöstä seuraa, että { } P joten saadaan myös { P sup S n S M > ɛ n M max S n S M > ɛ M n N } ɛ 2 N j=m E(X 2 j, { } = lim P max S n S M > ɛ N M n N ɛ 2 j=m E(X 2 j. Olkoon v M = sup m,n M S m S n jolloin v M 2 sup n M S n S M ja P{v M > ɛ} P{ sup S n S M > 2 ɛ} 4 n M ɛ 2 E(Xj 2. j=m Nyt {v M+ > ɛ} {v M > ɛ} joten P{lim sup v M ɛ} = lim P{v M > ɛ} lim E(Xj 2 =. M M M j=m G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 44 / 73

jatkuu Näin ollen P({ ω : lim sup v M (ω > } = P M ( { k= ω : lim sup v M (ω } = M k Nyt sarja X j(ω suppenee täsmälleen silloin kun S n (ω on Cauchy-jono ja näin on täsmälleen silloin kun lim M v M (ω = mikä siis tapahtuu todennäköisyydellä. Kroneckerin lemma Jos < a n a n+ kun n ja lim a n =, x n sarja suppenee, a n niin lim n= a n x j =. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 45 / 73 G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 46 / 73 Olkoon a = b = ja b n = n x j a j. Silloin x j = a j (b j b j = a j b j a j b j (a j a j b j joten a n x j = a n (a j b j a j b j (a j a j b j a n = a nb n a b a n a n a n (a j a j b j = (a j a j (b n b j. a n Koska lim b n on olemassa niin jokaisella ɛ > on olemassa n(ɛ siten, että b n b j < ɛ kun n j > n(ɛ. jatkuu Näin ollen lim sup a n x j lim sup + lim sup ( lim sup a n a n n(ɛ (a j a j ( b n + b j a n j=n(ɛ+ n(ɛ (a j a j b n b j (a j a j (lim sup b n + b j + ɛ a n a n(ɛ a n + ɛ. Koska ɛ > oli mielivaltainen saadaan väite. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 47 / 73 G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 48 / 73

Jos Vahva suurten lukujen laki I niin n X, X 2,... ovat riippumattomia satunnaismuuttujia, E(X j =, j, E(Xj 2 j 2 <, X j L 2 ja n X j mv kun n. Kroneckerin lemman nojalla pätee lim n n 2 E(X j 2 =. Koska ehto E(X j X k = E(X j E(X k on seuraus satunnaismuuttujien X j ja X k riippumattomuudesta sadaan L 2 -suppenemista koskeva väite aikaisemmasta tuloksesta. Kolmogorovin suppenemislauseesta seuraa, että sarja j X j suppenee melkein varmasti ja silloin melkein varmaa suppenemista koskeva väite seuraa Kroneckerin lemmasta. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 49 / 73 Jos Vahva suurten lukujen laki II X, X 2,... ovat riippumattomia satunnaismuuttujia, sup j P{ X j > x} dx <, E(X j =, j, niin X j mv kun n. n G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 5 / 73 Olkoon Y j = X j { X j j}, j ja G(x = sup j P{ X j > x}. Koska G(x dx < niin P{ X j > j} G(j G(x dx <, Koska { X j > j} c = {X j = Y j } niin Borel-Cantellin lauseen ensimmäisen osan mukaan pätee P(lim inf j {X j = Y j } = ja tästä seuraa, että P lim (X j Y j = n =. joten riittää osoittaa, että n n Y j mv kun n. jatkuu Seuraavaksi osoitetaan, että Nyt E(Y 2 j = 2xP{ Y j > j} dx = E(Yj 2 j 2 < j jolloin Fubinin lasueen avulla saadaan E(Yj 2 4 j j 2 (j + 2 2xG(x dx = 8xG(x max{,x} y 2 dy = 2xP{ X j > j} dx j 2xG(x dx. 4 y y 2 2xG(x dx dy 8x G(x dx <. max{, x} G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 5 / 73 G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 52 / 73

jatkuu Koska E(X j = niin E(Y j = E(Y j E(X j = (P{Y j > x} P{X j > x}dx j (P{Y j < x} P{X j < x} dx = P{X j > j} dx P{X j > x} dx j j + P{X j < x} dx + P{X j < j} dx, joten dominoudun konvergenssilauseen nojalla saadaan lim sup j E(Y j lim sup j j min{g(j, G(x} dx =. Näin ollen lim j E(Y j = µ. Koska X, X 2,... ovat riippumattomia niin myös Y, Y 2,... ovat riippumattomia. Näin ollen voimme soveltaa vahvaa suurten lukujen lakia I:tä satunnaismuuttujiin Y j E(Y j jolloin n n (Y j E(Y j mv kun n ja tästä saadaan väite koska lim n n E(Y j =. Jos Keskeinen raja-arvolause satunnaismuuttujat X, X 2,... ovat riippumattomia ja samalla tavalla jakautuneita, E(X j = µ R, j, var(x j = E((X j µ 2 = σ 2 <, j. niin n X j nµ nσ 2 missä Z on N(, -jakautunut. D Z kun n Olkoon Y j = X j µ ja olkoon ϕ y (t satunnaismuuttujien Y j karakteristinen funktio (joka siis ei riipu j:stä koska ne ovat samalla tavalla jakautuneita. Koska X, X 2,... ovat riippumattomia niin myös Y, Y 2,... ovat riippumattomia. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 53 / 73 G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 54 / 73 jatkuu Nyt E (e it nσ (P n 2 X j nµ = E (e i t P n nσ 2 Y j = E (Π n e i t σ n Y j = Π n E (e i t ( σ n Y j t n = ϕ Y σ. n Koska E(Y 2 = σ 2 < niin ϕ Y C 2 (R ja Taylorin kehitelmästä seuraa, että ϕ Y (s = ϕ Y ( + ϕ Y (s + ϕ s2 Y ( 2 + o(s2 = + s2 σ 2 2 + o(s 2. Näin ollen ( t n ϕ Y σ = e n log( t2 σ 2 2nσ n 2 +o( t2 σ 2 nσ 2. ja koska lim ( n log t2 σ 2 2nσ 2 + o ( t 2 σ 2 nσ 2 = t2 2, ja N(, jakautuneen satunnaismuttujan karakteristinen funktio on e 2 t2 saadaan väite. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 55 / 73 Slutskyn lause Jos X n D X ja Y n P Y kun n missä P{Y = y} = niin X n Y n D Xy kun n, X n + Y n D X + y kun n, X n D Y y X kun n mikäli y. n Jos y ja Y n (ω y y 2 niin Y n (ω y 2 Y n(ω y y 2 josta päätellään, että jos Y n P Y niin Y n P Y kun n ja viimeinen väite on seuraus ensimmäisestä. Olkoon g äärettömän monta kertaa jatkuvasti derivoituva funktio siten, että g(x = riittävän suurilla x:n arvoilla. Silloin on myös olemassa luvut a ja b > siten, että g(x a ja g (x b kun x R. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 56 / 73

jatkuu Olkoon ɛ > mielivaltainen. Monotonisesta konvergenssilauseesta seuraa, että on olemassa funktio h ɛ (x = max{, x c(ɛ } missä c(ɛ > siten, että E( h ɛ (X ɛ 2a. Koska h ɛ on jatkuva ja rajoitettu funktio niin lim sup E( h ɛ (X n ɛ 2a. Merkitään A n = { Y n y < ɛ c(ɛb }. Jos nyt h ɛ(x n (ω > niin X n (ω c(ɛ joten h(x n (ω An (ω g(x n (ωy n (ω g(x n (ωy ɛ b X n (ω An (ω Y n (ω y bc(ɛ c(ɛb = ɛ. jatkuu Oletuksista seuraa, että lim sup P(A c n = ja näin ollen saadaan lim sup E(g(X n Y n E(g(X n y lim sup E(h ɛ (X n An g(x n Y n g(x n y + lim sup E(h ɛ (X n A c n g(x n Y n g(x n y + lim sup E(( h ɛ (X n g(x n Y n g(x n y ɛ + lim sup P(A c n2a + lim sup Koska ɛ > oli mielivaltainen, niin saadaan E(( h ɛ (X n 2a ɛ + ɛ = 2ɛ. lim sup E(g(X n Y n E(g(X n y =. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 57 / 73 G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 58 / 73 jatkuu Valitaan seuraavaksi A n = { Y n y < ɛ b } jolloin saadaan lim sup E(g(X n + Y n E(g(X n + y lim sup E( An (g(x n + Y n g(x n + y + lim sup E( A c n (g(x n + Y n g(x n + y b ɛ b Koska ɛ > oli mielivaltainen, niin saadaan lim sup E(g(X + ny n E(g(X n + y =. + lim sup P(A c n2a = ɛ. Koska lim ϕ Xny (t = lim ϕ Xn (yt = ϕ X (yt = ϕ Xy (t kaikilla t niin todetaan, että X n y D Xy kun n eli lim sup E(g(X n y E(g(Xy = ja siten jatkuu Samoin pätee lim ϕ Xn+y (t = lim ϕ Xn (te iyt = ϕ X (te iyt = ϕ X +y (t kaikilla t joten lim sup E(g(X n + y E(g(X + y = ja siten lim sup E(g(X n + Y n E(g(X + y =. Koska g oli mielivaltainen saadaan halutut väiteet aikaisemmasta ekvivalenssituloksesta. lim sup E(g(X n Y n E(g(Xy =. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 59 / 73 G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 6 / 73

Jos Y ja Y toteuttavat ehdollisen odotusarvon määritelmää, niin valitaan k ja A = {Y Y k } jolloin Ehdollinen odotusarvo, olemassaolo ja yksikäsitteisyys Jos X on todennäköisyysavaruuden (Ω, F, P satunnaismuuttuja siten, että E( X < ja G F on Ω:n σ-algebra niin Y = E(X G on olemassa ja se on yksikäsitteinen siinä mielessä, että jos Y on toinen ehdot täyttävä satunnaismuuttuja, niin Y = Y melkein varmasti. = E( A X E( A X = E( A Y E( A Y = E( A (Y Y k P(A, josta seuraa P(A =. Koska k oli mielivaltainen niin saadaan Y Y melkein varmasti. Samalla tavalla päätellään, että Y Y melkein varmasti joten Y = Y melkein varmasti. Olkoon X + = max{, X } ja X = max{, X } ja määritellään µ(a = P(A ja ensin ν(a = E( A X + kun A G. Odotusarvon määritelmästä seuraa, että ν(a = jos µ(a = ja Radon Nikodymin lauseen nojalla on olemassa G-mitallinen funktio Y + siten, että ν(a = A Y + (ωp(dω = E( A Y +. Samalla tavalla löydetään funktio Y siten, että E( A X = E( A Y ja kun valitaan Y = Y + Y niin Y on mitallinen σ-algebran G suhteen ja jokaisella A G pätee E( A Y = E( A X. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 6 / 73 G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 62 / 73 Vertailu aikaisempaan määritelmään Olkoot A i, i I ovat todennäköisyysavaruuden (Ω, F, P tapahtumia siten, että P(A i >, A i A j = jos i, j I ja i j ja i I P(A i = ja olkoon G = σ({a i : i I }. Jos B F niin P(B G(ω = P(B A i kun ω A i, i I. Oletetaan yksinkertaisuuden vuoksi, että i I A i = Ω. Joukko I on korkeintaan numeroituva ja siitä seuraa, että G = { j J A j : J I }. Jos nyt merkitään Y (ω = P(B A i kun ω A i ja A = j J A j G niin E( A Y = j J P(B A j P(A j = j J P(B A j = P(B A = E( A B Doob-Dynkinin lemma mitallisuudesta Jos X, X 2,..., X n ja Y ovat todennäköisyysavaruuden (Ω, F, P satunnaismuttujia ja σ(y σ(x,..., X n = σ( n σ(x j niin löytyy Borel-mitallinen funktio f : R n R siten, että Y = h(x,..., X n. Olkoon X = (X,..., X n jolloin X on R n -arvoinen satunnaismuuttuja ja stodetaan, että Y on mitallinen σ(x:n suhteen. Oletetaan ensin, että Y = k a j Aj missä a i a j ja A i A j = kun i < j k. Koska σ(y σ(x niin A j = X (B j missä B j B n kun j =,..., k. Jos nyt valitaan f (x = k a j Bj (x niin Y = f (X ja f on Borel-mitallinen. joten määritelmän mukaan Y = E( B G = P(B G. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 63 / 73 G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 64 / 73

jatkuu Oletetaan seuraavaksi, että Y. Silloin on olemassa kasvava jono yksinkertaisia funktioita Y m (eli Y m = k m a j,m Aj,m siten, että lim m Y m = Y. Jokaisella m löytyy ei-negatiivinen funktio f m siten, että Y m = f m (X. Määritellään f (x = lim sup m f m (x jos lim sup m f m (x < ja f (x muuten. Koska Y (ω = lim m Y m (ω = lim m f m (X(ω niin todetaan, että kun x = X(ω raja-arvo lim m f (x = f (X(ω on olemassa jolloin saadaan Y (ω = lim f m (X = f (X = f (X,..., X n. Yleisessä tapuksessa pätee Y + = f + (X,..., X n ja Y = f + (X,..., X n jolloin valitaan f = f + f. Martingaalin odotusarvo Jos todennäköisyysavaruuden (Ω, F, P satunnaismuuttujajono (X n n= on martingaali σ-algebrajonon (F n n= suhteen (missä F n F n+ niin E(X n = E(X, n. Martingaalin määritelmän mukaan E(X n F = mv X ja koska Ω F niin ehdollisen odotusarvon määritelmän nojalla E(X = E( Ω X = E( Ω X n = E(X n. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 65 / 73 G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 66 / 73 Martingaalit ja pysäytyshetket I Jos todennäköisyysavaruuden (Ω, F, P satunnaismuuttujajono (X n n= on martingaali ja T pysäytyshetki σ-algebrajonon (F n n= suhteen (missä F n F n+ ja on olemassa k < siten, että P{T k} = niin E(X T = E(X. Martingaalin ja ehdollisen odotusarvon määritelmistä seuraa, että E( {T =n} X k = E( {T =n} E(X k F n = E( {T =n} X n kun n k joten ( k E(X T = E {T =n} X n = n= k E( {T =n} X n = n= k E(( {T =n} X k n= ( k = E {T =n} X k = E(X k = E(X. n= Martingaalit ja pysäytyshetket II Jos todennäköisyysavaruuden (Ω, F, P satunnaismuuttujajono (X n n= on martingaali ja T pysäytyshetki σ-algebrajonon (F n n= suhteen (missä F n F n+ ja On olemassa luvut C < ja n siten, että E( X n+ X n F n mv C kun n n, E(T <, niin E(X T = E(X. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 67 / 73 G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 68 / 73

Olkoon m mielivaltainen. Jokaisella ω Ω pätee X min{t (ω,m} (ω X (ω + {T (ω>n} X n+ (ω X n (ω. n= Pysäytyshetken määritelmästä seuraa, että {T > n} F n jolloin ehdollisen todennäköisyyden määritelmästä ja oletuksista seuraa, että kun n n niin E( {T >n} X n+ X n = E( {T >n} E( X n+ X n F n CE( {T >n}. Koska n=n E( {T >n} n= P{T > n} = E(T < niin ( n E X + {T >n} X n+ X n 2 E( X n + CE(T <. n= Koska X min{t,m} mv X T kun m ja min{t, m} m niin saadaan dominoidun konvergenssilausee ja aikaisempien tulosten avulla n= E(X T = E( lim m X min{t,m} = lim m E(X min{t,m} = lim m E(X = E(X. Ekvivalentteja ehtoja martingaalin määritelmässä Olkoon (X n n= jono todennäköisyysavaruuden (Ω, F, P satunnaismuuttujujia ja olkoon (F n n= jono Ω:n σ-algebroja siten, että F n F n+ F kun n ja oletetaan, että E( X n < ja σ(x n F n kun n. Silloin seuraavat ehdot ovat ekvivalentteja: E(X n F m = mv X m, m n, E(X n+ F n = mv X n, n, E(X T = E(X kun T on rajoitettu pysäytyshetki (jonon (F n n= suhteen. Toinen ehto on erikoistapaus ensimmäisestä ja koska E(X n+ F m = E(E(X n+ F n F m kun m n voidaan indiktiolla osoittaa, että ne ovat ekvivalentteja. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 69 / 73 G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 7 / 73 jatkuu Aikaisemmin on osoitettu, että kolmas ehto seuraa ensimmäisestä joten on vielä osoitettava, että ensimmäinen seuraa kolmannesta. Olkoon m n ja A F m. Jos määritellään { m, ω A c, T (ω = n, ω A. niin T on rajoitettu pysäytyshetki. Oletuksesta seuraa, että Jos m = n niin saadaan E(X = E(X T = E( A c X m + A X n. E(X = E(X T = E( A c X m + A X m. ja vähentämällä tämä edellisestä saadaan = E( A X n E( A X m jolloin ehdollisen todennäköisyyden määritelmästä seuraa, että E(X n F m = X m. Martingaaliehin liittyvä yksikäsitteisyystulos Olkoon (Ω, F, P todennäköisyysavaruus ja olkoon (F n n= jono Ω:n σ-algebroja, siten, että F n F n+ F kun n. Jos X ja Y ovat satunnaismuuttujia siten, että E( X <, E( Y <, σ(x ja σ(y σ( n= F n ja E(X F n = mv E(Y F n kaikilla n niin X = mv Y. Olkoon H = { A F : E( A X = E( A Y } ja G = n=f n. Oletuksen ja ehdollisen odotusarvon määritelmän nojalla F n H kaikilla n joten G H. Jos A ja B G niin on olemassa n siten, että A ja B F n ja silloin A B F n G. Koska jokainen F n on Ω:n σ-algebra pätee Ω H. Jos A ja B H ja A B niin B\A = B A ja koska E( B X = E( B Y ja E( A X = E( A Y jolloin odotusarvon lineaarisuudesta seuraa, että E( B\A X = E( B\A Y ja B \ A H. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 7 / 73 G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 72 / 73

jatkuu Olkoon lopuksi A j H, j =, 2,... sellaisia, että A A 2... ja A = A j. Silloin Aj (ω A (ω kaikilla ω Ω ja dominoidun konverkenssilauseen nojalla pätee E( A X = E( lim j Aj X = lim j E( Aj X = lim j E( Aj Y = E( lim j Aj Y = E( A Y joten A H. Näin ollen monotonista luokkaa kosekvan lauseen nojalla tiedetään, että σ(g H ja koska σ(x σ(g ja σ(y σ(g niin voidaan päätellä, että X = mv Y. G. Gripenberg (TKK Mat-.36 Johdatus stokastiikkaan 22. huhtikuuta 29 73 / 73