Regressio-termi peräaisin Galtonilta. IsÄan ja pojan pituus: PitkÄa isäa lyhyempi poika, lyhyt isäa pidempi poika.

Transkriptio

1 2. Yhden selittäajäan lineaarinen regressiomalli Regressio-termi peräaisin Galtonilta. IsÄan ja pojan pituus: PitkÄa isäa lyhyempi poika, lyhyt isäa pidempi poika Son height (cm) Father height (cm) Kuvio. IsÄan ja pojan pituus. 32

2 2.1 Malli ja parametrien estimointi Malli: Y i = α + βx i + u i, i =1,...,n Y Riippuva (dependent) SelitettÄavÄa (explained) (predictand) (regressand) vaste (respond) X Riippumaton (independent) SelittÄavÄa (explanatory) (predictor) (regressor) (stimulus) (control variable) Oletukset: 1. E(u i )=0 tai E(Y i X i )=α + βx i 2. Var(u i )=σ 2 Var(Y i X i )=σ 2 3. Cov(u i,u j )=0,i= j Cov(Y i,y j )=0,i= j 4. Cov(X i,u i )=0, i 5. (X i ¹X) 2 > 0 Huom. Usein oletetaan, ettäa X on kiinteäa (ei-stokastinen) 33

3 u i : Virhetermi on yhdistelmäa eritekijäoistäa, kuten (Ramanathan 1998, p. 84{85) 1. (PoisjÄatetyt muuttujat) It accounts the e ects of variables omitted from the model 2. (EpÄalineaarisuudet) It captures the e ects of nonlinearities in the relationship between Y and X. Thus,ifthetruemodel were Y i = α + βx i + γx 2 i + v i,andweassume that it was Y i = α + βx i + u i,then the e ect of X 2 i wouldbeabsorbedbyu i. 3. (Mittausvirheet) Errors in measuring X and Y arealsoabsorbedinu i. 4. (Ennakoimattomat tekijäat, unpredictable e ect) u i also includes inherently unpredictable random e ects. 34

4 Estimointi: Price $1 000 (Y ) Area (X) Price (USD) Square feet Kuvio. NeliÄomÄaÄarÄa (square feet) vs hinta (dollareina) 35

5 PienimmÄan neliäosumman estimointi (PNS) OLS = Ordinary Least Squares. Sovitetaan aineistoon suora ^Y = ^α + ^βx siten, ettäa neliäosumma f(^α, ^β) = n e 2 i = i=1 minimoituus. n (Y i ^Y i ) 2 = i=1 n (Y i ^α ^βx i ) 2 i=1 Derivoimalla ja ratkaisemalla derivaattojen nollakohdat, saadaan normaaliyhtäaläot n^α + ^β X i = Y i ^α X i + ^β X 2 i = X i Y i josta ratkaisemalla saadaan OLS-estimaattorit ^β = (Xi ¹X)(Y i ¹Y ) ^α = ¹Y ^β ¹X (Xi ¹X) 2 Huom. Otoksesta laskettua virhetermiäa = s y s x r xy e i = Y i (^α + ^βx i ) = u i = Y i (α + βx i ) sanotaan residuaaliksi eli jäaäannäostermiksi (ks. tarkemmin Doughert kalvot). 36

6 Esim. Asunnon hinnan ja pinta-alan väalinen suhde. Parametrien tulkinnasta: Nyt ^Y i = X i, (46.8) (0.024) R 2 =0.563,s=37.48 jossa ^Y = estimoitu hinta ja X = pinta-ala. Estimaattoreiden keskivirheet on esitetty suluissa kertoimien alla. Kulmakerroin ilmaisee yksikkäomuutoksen, silläa d ^Y/dX = ^β. TÄaten yhden neliäojalan lisäays pinta-alassa lisäaäa keskimäaäarin asunnon hintaa ^β = 94 dollarilla. Kun X = 0 on ^Y = ^α, joka voidaan tulkita rakentamattoman tonttimaan keskihinnaksi. TÄaten rakentamattoman tonttimaan keskihinnaksi tulisi $

7 Usein on myäos mielenkiintoista tarkastella joustoja. Esim. EdellÄa olevan esimerkin tapauksessa E = X^Y d^y dx = ^β X^Y, joka riippuu sekäa hinnastaettäa pinta-alasta. Price $1 000 (Y ) Area (X) X^Y

8 Huomioita: Hinnan pinta-alajousto on alle ykkäosen, ts. pinta-alan kasvaessa hinta kasvaa prosentuaalisesti väahemmäan kuin prosentuaalinen pinta-ala. Toisaalta jousto kasvaa pinta-alan kasvun myäotäa, eli suhteellisesti lisäapinta-ala on kalliimpi isoissa asunnoissa kuin pienissäa. TÄamÄa on tietysti selväa, koska pintaalalla on täassäa mallissa vakiohinta! Kuitenkin tulokset ilmaisevat, ettäa esimerkiksi 10 prosentin pinta-alan lisäays isossa asunnossa tulee täamäan mallin mukaan suhteellisesti kalliimmaksi kuin vastaava prosentuaalinen lisäays pienessäa asunnossa. (HyÄoty!) Onko jäarkeväa!? KÄaytÄannÄossÄa lienee niin, ettäa neliäohinta on isoissa asunnoissa pienempi! Palataan täahäan tuonnempana. 39

9 2.2 MittayksikÄon muutoksen vaikutus estimaatteihin Esim. $1 = 0.82Eur ja 1ft = m. MerkitÄaÄan H = 0.82 P ja NM = (0.3048) 2 SQFT = SQFT. SelittÄavÄan muuttujan skaalaus vaikuttaa vain vastaavan regressiokertoimen suuruuteen, silläa jos Z = ax (a >0), niin βx = βz/a = β Z, jossa β = β/a. SelitettÄavÄan muuttujan skaalauksessa on kerrottava yhtäaläon molemmat puolet, joten kaikki regressiokertoimet ja residuaalitermi muuttuvat. Esim. EdellÄa (1 000) euroina P = α + βsqft + u H = α + β NM + u, jossa α = 0.82α, β = 0.82β/ ja u =0.82u. 40

10 Estimoitu malli muunnetuissa mittayksikäoissäa onsiis ^H = NM = NM dh =0.83 dnm. Jos ala kasvaa neliäometrilläa, niin hinta muuttuu keskimäaäarin 820 Eurolla. 41

11 2.3 OLS Estimaattoreiden ominaisuuksia Best Linear Unbiased Estimator (BLUE) eli paras lineaarinen harhaton estimaattori (PLHE) Estimaattoria, joka on havaintojen lineaarikombinaatio, eli muotoa ^β = n i=1 a i Y i sanotaan lineaariseksi estimaattoriksi. LisÄaksi, jos sille päatee: harhaton varianssi on pienin tarkasteltavan parametrin lineaaristen ja harhattomien estimaattoreiden joukossa niin kyseinen estimaattori on BLUE. 42

12 Voidaan helposti osoittaa, ettäa aiemmin tehtyjen (klassisten) oletusten vallitessa OLS estimaattori on BLUE (ns. Gauss-Markov teoreema ). LisÄaksi päatee, ettäa OLS-estimaattori on tarkentuva (Consistent) tehokas, jos residuaalitermit u i ovat normaalisti jakutuneita. Huom. BLUE pitäaäa sisäalläaäan sen, ettäa OLS estimaattorit ovat harhattomia. Gauss-Markov Theorem: Parametrien α ja β lineaarisista harhattomista estimattoreista OLS estimaattoreiden ^α ja ^β varianssit ovat pienimmäat 43

13 2.4 Estimoinnin tarkkuus Estimaattorin tarkkuutta mitataan estimaattorin keskivirheelläa (standard error). σ^β = σ 2^β = var(^β) = σ 2 u (Xi ¹X) 2, jossa σ 2 u =var(u i ). Korvaamalla σ 2 u sen estimaattorilla s 2 u = 1 n 2 n i=1 (Y i ^Y i ) 2 ja ottamalla neliäojuuri saadan ^β:n keskivirheestimaattori s^β = s u (Xi ¹X) 2. Vastaavalla tavalla leikkaustemin ^α keskivirheestimaattoriksi tulee s^α = s u X 2 i n (X i ¹X) 2 = s 1 u n + ¹X 2 (Xi ¹X) 2. 44

14 HT: Miten muuttujien skaalaus vaikuttaa keskivirheisiin? Huom. Kuten aiemmin on todettu, Gauss- Markov teoreeman mukaan, jos lineaarisen regression oletukset 1{5 ovat voimassa, niin OLS estimaattorit ovat BLUE eli niilläa on lineaarisista harhattomista estimaattoreista pienin varianssi. Jos residuaalitermi on likipitäain normaalijakautunut, saadaan keskivirheiden avulla muodostettua mm. luottamusväalit. 100(1 p)-prosentin luottamusväalit β : ^β ± t 12 p s^β α : ^α ± t 12 p s^α, jossa t p on t-jakauman taulukkoarvo vapausasteilla n 2 (havaintojen lkm - estimoitujen parametrin lkm). 45

15 Esim. (NeliÄohintadata) df =14 2=12, s^α =46.84 ja s^β = prosentin luottamusväaleiksi saadaan, kun t.025 (12) = ^α ± t.025 s^α =22.60 ± eli ( 79.46, ) Vastaavasti β:n 95 prosentin luottamusväaliksi saadaan (0.042, 0.146). HT: Laske luottamusväalit, kun rahayksikkäonäa on euro ja pinta-alana neliäometri. Huom. Leikkaustermin luottamusväali sisäaltäaäa nollan. LuottamusvÄaleistÄa enemmäan tuonnempana. 46

16 2.5 Selitysaste e i =^u i = Y i ^Y i Y i ¹Y =(^Y i ¹Y )+(Y i ^Y i )=(^Y i ¹Y )+e i Korotetaan neliäoäon ja summataan (Yi ¹Y ) 2 = (^Y i ¹Y ) 2 + e 2 i +2 (^Y i ¹Y )e i =0 = (^Y i ¹Y ) 2 + (Y i ^Y i ) 2 SST = SSR + SSE Selitysaste R 2 = SSR SST =1 SSE SST. Voidaan osoittaa, ettäa r 2 xy = R 2 täassäa yhden selittäajäan regressiomallissa. 47

17 Yleistys: usean selittäajäan regressioanalyysissäa yhteiskorrelaatiokertoimen (multiple correlation) neliäo (R 2 = r 2 y^y ). Huom. Vain yksi, joskin ehkäa käaytetyin mallin (teknisen) hyvyyden mitta. Esim. (jatkoa) R 2 = HT: Vaikuttaako muuttujien skaalaus selitysasteeseen? Osoita todeksi väaittäamäasi. Saattaa esimerkiksi olla, ettäa kahdella mallilla virhetermin suuruuta kuvaava hajonta (s u ) on sama, mutta selitysasteet ovat eri suuria. TÄallÄoin mallien hyvyydet absoluuttisella tarkkuudella mitattuna ovat samat vaikka selitysaste toisessa onkin korkeampi. 48

18 Esim. Selitysaste ja residuaalihajonta. y x z u Y z y = a + b x + e X z = c + d x + e x y = a + b x + e SUMMARY OUTPUT ANOVA df SS MS F P-val Regression Statistics Regression Multiple R 0.86 Residual R Square 0.75 Total Adj R Squa 0.74 Std Err 1.40 Coeff Std Err t Stat P-value Observatio 29 Intercept X Variable z = c + d x + e SUMMARY OUTPUT ANOVA df SS MS F P-val Regression Statistics Regression Multiple R 0.46 Residual R Square 0.21 Total Adj R Squa 0.18 Std Err 1.40 Coeff Std Err t Stat P-value Observatio 29 Intercept x

19 2.6 Normaalisuusoletus LisÄatÄaÄan oletuksiin (1{5) 6. u i N(0, σ 2 u). Normaalisuusoletus on usein perusteltavissa keskeisen raja-arvolauseen kautta. JÄaÄannÄostemin jakaumaoletuksesta seuraa estimaattoreiden jakaumaominaisuudet! X 2 ^α N α, i n (X i ¹X) 2σ2 u σ ^β 2 u N β, (Xi ¹X) 2 ^Y X N α + βx, σ 2^y, jossa σ 2^y = 1 n + (X ¹X) 2 (Xi ¹X) 2 σ 2 u. 50

20 Esimerkiksi ^β β z = (Xi N(0, 1). σ u / ¹X) 2 Kun σ u korvataan estimaattorillaan s u, niin jossa t = ^β β (Xi s u / ¹X) t n 2, 2 s 2 u = 1 n 2 e 2 i. SiispÄa: Residuaalin jakaumasta seuraa estimaattoreiden jakaumat. NÄaille puolestaan perustuvat luottamusväalien laskeminen ja tilstollisten testien muodostaminen. NÄaistÄa syistäa on täarkeäaäa, ettäa tarkistetaan residuaalitermin normaalisuusoletuksen paikkansapitäavyys, jotta testien ja luottamusväalien antamat tuloksetolisivatkäayttäokelpoisia. HT: Miten muuttujien skaalaus vaikuttaa t- ja z-testisuureisiin? Osoita todeksi väaittäamäasi. 51

21 2.7 Kertoimien luottamusväalit LuottamusvÄali β:lle eli P ( Y = α + βx + u. s^β ^β β <t 1 ) =1 p, 2 p P (^β t 12 p s^β < β < ^β + t 12 p s^β ) =1 p. β:n 100(1 p) prosentin luottamusväaliksi saadaan siis Tulkinta! (ks. kuvio) ^β ± t 12 p s^β. 52

22 2.8 Kertoimien testaus Tilastolliset hypoteesivaihtoehdot: tai tai Esim. SQFT-data H 0 : β = β 0 H 1 : β = β 0 H 0 : β β 0 H 1 : β > β 0 H 0 : β β 0 H 1 : β < β 0 H 0 : β 0 H 1 : β > 0 t = =3.932, p-val =.002 < 0.01, joten H 0 hyläatäaäan ja β > 0 (eipäa lieneylläatys!) Vastaavalla tavalla saadaan α-parametrin p- arvoksi.638, joten ^α ei ole tilastollisesti merkitseväa! 53

23 p-arvo (p-value): Merkitsevyystaso eli ensimmäaisen lajin virheen todennäakäoisyys p-arvo = P (HylÄatÄaÄan H 0 H 0 on tosi), joka siis ilmaisee todennäakäoisyyden riskille, ettäa hyläatäaäan H 0 vaikka se on tosi (hylkäaysvirhe). Tietokoneen testin yhteydessäa laskemap-arvo ilmaisee pienimmäan merkitsevyystason, jolla H 0 voitaisiin hyläatäa. Tavanomisesti käaytettyjäa merkitsevyystasoja ovat 0.05, 0.01 tai 0.001, joten jos laskettu p-arvo on pienempi kuin esimerkiksi 0.05 hyläatäaäan H 0 viiden prosentin merkitsevyystasolla. 54

24 Esim. SQF-data H 0 : β =0 H 1 : β = 0 Excel-tulostuksesta: p-val = < 0.01, joten todetaan, ettäa kerroin poikkeaa tilastollisesti merkiteväasti nollasta. Sensijaanleikkausterminα tapauksessa p-val = 0.638, joten jos hylkäaäamme nollahypoteesin, ettäa α = 0ot- taisimme 64 prosentin riskin hyläatäa väaäarin perustein kyseinen hypoteesi. Emme kuitenkaan tee niin vaan päaäattelemme, ettäa leikkaustemi on nolla ANOVA-taulu Yleiseksi tavaksi on tullut, ettäa kokonaisneliäosumman SST hajoitelma kootaan varianssianalyysin tauluun (ANOVA ANalysis Of VAriance): 55

25 Source df SS MS F p-value Regression p SSR Residual n p 1 SSE Total n 1 SST SSR p SSE (n p 1) SSR SSE n p 1 p P (F >F obs ) missäa p on selittäavien muuttujien lukumäaäaräa mallissa. Huom. F -testi testaa koko regression merkitsevyyttäa, joka yhden selittäajäan tapauksessa on sama kuin regressiokertoimen t-testi. PÄatee: t 2 = F (1,n 2). Ei kuitenkaan, jos selittäajiäa on useampia. Esim. SQF-data. Housing price data from Ramanathan (1993) Price SQFT SUMMARY OUTPUT Obs Y X 1 Regression Statistics Multiple R R Square Adj R Square Std Err Obs ANOVA df SS MS F Signf F Regression Residual Total Coeff Std Err t Stat P-value Intercept SQFT

26 2.10 Ennustaminen Olkoon X 0 annettu X:n arvo. saadaan ennustearvo Silloin Y :lle ^Y 0 =^α + ^βx 0, joka on mallin systemaattisen osan Y = α + βx + u E(Y )=α + βx paras lineaarinen harhaton estimaattori (BLUE), kun X = X 0. On kuitenkin huomattavaa, ettäa ^Y 0 :aa ei voida pitäaäa Y 0 :n BLUE:na! Se ei ole edes Y 0 :n harhaton estimaattori, silläa E(^Y 0 )=α+βx 0 = Y 0 = α + βx 0 + u 0,josu 0 =0. 57

27 Kuitenkin, koska X:n arvolla X 0 päatee E(u 0 )=E(Y 0 ^Y 0 )=0, niin voidaan ennustetta ^Y 0 pitäaäa siinäa mielessäa Y 0 :n harhattoman estimaattorina, ettäa ennustevirheen odotusarvo on nolla. Voidaan osoittaa, ettäa ennusteella ^Y 0 on täallaisten estimaattoreiden joukossa pienin varianssi. TÄamÄan vuoksi sanotaan, ettäa ^Y 0 on Y 0 :n paras lineaarinen harhaton ennuste (BLUP = Best Linear Unbiased Predictor). 58

28 Ennusteen luottamusväali Yleiseti varianssille Var( ^Y ) päatee 1 Var( ^Y )= n + (X ¹X) 2 (Xi ¹X) 2 σu, 2 jonka estimaattori saadaan korvaamalla tuntematon parametri σu 2 estimaatillaan s 2 u. TÄaten saadaan yleiselläa X:n arvolla odotusarvon E(Y X) eli regressiosuoran luottamusväaliksi E(Y X) : ^Y ± t 12 p s 1 u n + (X ¹X) 2 (Xi ¹X) 2 YksittÄaisen havainnon luottamusväaliksi tulee puolestaan: Y : ^Y ± t 12 p s 1 u 1+ n + (X ¹X) 2 (Xi ¹X) 2 59

29 Esim. SQF-Data Confidence intervals Housing prices per square feets. Price i ($1000) SQFT R Square Adj R Sqr s No of Obs 14 Price Housing prices vs Area Area ANOVA df SS MS F P-value Regression Residual Total Coeff Std err t Stat P-value Intercept X Variable RESIDUAL OUTPUT Prediction intervals E(Y X) Y X Obs Pred Price Residuals L95% U95 L95 U

30 Ennusteiden vertailu: Mean absolute error (MAE): MAE = 1 n Yi ^Y i Mean absolute percentage error (MAPE): MAPE = Y i ^Y i. n Y i Mean Square Error (MSE): MSE = 1 n (Yi ^Y i ) 2. Root Mean Square Error (RMSE): RMSE = MSE. 61

31 Aikasarja-aineistossa (Y t ) Theilin U: U = Tt=1 (Y t ^Y t ) 2 Tt=2 (Y t Y t 1 ) U vertaa ennustetta naiviin menetlemäaäan, jossa seuraavan periodin ennustearvo on sama kuin nykyinen arvo, eli Enn(Y t+1 )=Y t. TÄaten jos U<1, niin ^Y t ennustaa paremmin kuin vakioennuste U =1, sama jos ennustetaan nykyiselläa arvolla U>1, naiivi ennuste on parempi. Huom. U on käayttäokelpoinen vain aikasarjaaineistossa. YleensÄa näaitäa käaytetäaäan vertaamaan eri menetelmilläa saatuja ennusteita keskenäaäan. 62

32 Esim. Cultorin liikevaihto Cultor Oy:n liikevaihto [ ] Cultor Liikevaihto Vuosi Liikevaihto LN(lv) t Trendi ennuste Tasaisen kasvun Regressioestimaatit vuosilta SUMMARY OUTPUT Regression Statistics v t = (1+g ) t v 0 u t Multiple R y t =α + β t + ε t, R Square jossa y t = ln(v t ), α = ln(v 0 ) Adjusted R Square ja β = ln(1+g) ja ε t = ln(u t ) Standard Error Observations 10 ANOVA df SS MS F Signif F Regression Residual Total Coeff Std Error t Stat P-value Intercept t ==> Kasvu % 9.85 RESIDUAL OUTPUT Ennusteet vuosille Year Pred LN(lv) Pred LV Ennuste Virheet Vuosi Tot Trendi Tas-kasv Trendi m Tas kasv LV t -LV t Trendi Tas-kasvu Naiivi MAE MAPE (% MSE RMSE U

33 Esim. Suomen kansantalouden kasvu: year Muutos-% Ennuste-% LCL-50% UCL-50% SAS-estimates from data for Variable Coeff Std Error t Ratio p-val Intercept time A(1) A(2) Maximum Likelihood Estimates SSE DFE MSE Root MSE SBC AIC Reg Rsq Total Rsq Durbin-Wats Tutkimuslaitosten ennusteet ETLA Merita OECD Osuusp 2.5 na Sampo PTT PT VM Average Std Suomen talouskasvun muutokset (%) 10 BKT muutos % Muutos % Kasvuennuste % LCL-50% UCL-50% 64

34 2.11 EpÄalineaariset riippuvuussuhteet Lineaarista regressiomallia voidaan soveltaa kunhan vain malli on muunnettavissa lineaariseen muotoon. Esim. Oletetaan, ettäa muuttuja P t kasvaa ajan funktiona tasaisesti. Eli P t =(1+g) t P 0, jossa P 0 on P :n arvo alkuhetkelläa. Ottamalla logaritmit ln P t = lnp 0 + t ln(1 + g) ja mäaäarittelemäalläa Y t =lnp t, 7α =lnp 0, X t = t ja β =ln(1+g), sekäa lisäaäamäalläa malliin satunnaiskomponentti saadaan Eli lineaarinen malli. Y t = α + βx t + u t. Huom! Logaritmisessa muodossa perusolettamusten mukaan E(u t ) = 0. Kuitenkin siirryttäaessäa alkuperäaisiin havaintoihin on malli muotoa ~P t = (1 + g) t P 0 w t, jossa w t = e u t. Jotta E( ~P t ) = P t olisi oltava E(w t ) = 1. Kuitenkin, voidaan osoittaa, ettäa jos u t N(0, σ 2 ), niin E(w t )=E(e u t )=e 1 2 σ2. TÄamÄan vuoksi ennustettaessa käaytetäaäan korjausta ^P t+1 = exp(^α + ^βt) exp( 1 2 s2 )), jossa s 2 on σ 2 :n estimaattori. 65

35 Muuntamalla takaisin saadaan estimoinnin jäalkeen laskettua ennusteet alkuperäaisille muuttujille. Esim. ^g = e^β 1. Cultor-esimerkissÄa vuosien 1983{92 havaintoihin perustuen ^β =0.094, joten ^g = e = eli 9.9%. Vastaavalla tavalla voidaan linearisoida muitakin epäalineaarisia yhtäaläoitäa. Kaikkia epäalineaarisia malleja ei kuitenkaan voida aina linearisoida. 66

36 Esim. Oletetaan, ettäa asunnon hankinnassa ihmiset arvostavat asuinpinta-alan lisäaystäa suuremmissa asunnoissa väahemmäan kuin pienissäa. ErÄas mahdollinen malli on silloin Parametrin β tulkinta? Nyt eli P i = α + β ln(sqf) + u i. dp dsqf = β 1 SQF P = β (SQF) SQF. Toisin sanoen β ilmaisee hinnan muutoksen (satoina tuhansina dollareina), kun asuinpinta-ala muttuu yhdelläa prosentilla 67

37 Muita mallivaihtoehtoja: (1) P i = α + β SQFT i + u i (linear model) (2) P i = α + β ln SQFT i + u i (linear-log model) (3) ln P i = α + β SQFT i + u i (linear-log model) (4) ln P i = α + β ln SQFT i + u i (log model) (5) P i = α + β SQFT i + u i (square root) etc. 68

38 (1) (2) (3) (4) (5) Derivaatta dp dsqft = β dp dsqft = β 1 dp SQFT dsqft = βp dp dsqft = β P SQFT dp dsqft = 1 2 β 1 SQFT Jousto E = βsqft P E = β 1 P E = β SQFT E = β E = 1 2 β SQFT P 69

39 Esim. Linaarinen malli (1) House Prices (Linear model) SUMMARY OUTPUT 300 Housing prices vs Area Regression Statistics 250 Multiple R R Square Adj R Sqr s No of Obs 14 Area 100 ANOVA df SS MS F P-value Regression Residual Total Price Coefficientstandard Err t Stat P-value Intercept X Variable RESIDUAL OUTPUT Obs Pred Price SQF Residuals Elasticity Elasticity Residual plot Residuals Area

40 Esim. Lin-log malli (2) Housing (lin-log model) SUMMARY OUTPUT Regression Statistics Multiple R ln(sqft) Line Fit Plot R Square Adjusted R Standard E Observatio ln(sqft) 0 ANOVA df SS MS F ignificance F Regression Residual Total Coefficientstandard Err t Stat P-value Intercept ln(sqft) Price RESIDUAL OUTPUT PROBABILITY OUTPUT Obs Pred price Resid Elasticity Percentile Price Normal Probability Plot ln(sqft) Residual Plot Price Sample Percentile Residuals ln(sqft) 71

41 Esim. Log-log malli (4) House prices (Log-log model) SUMMARY OUTPUT 300 Line Fit Plot Regression Statistics Orig Data 250 Multiple R R Square Adjusted R Standard E Observatio SQFT 100 ANOVA df SS MS F P-value Regression Residual Total Coefficients Std Error t Stat P-value Intercept ln(sqft) Price Elasticity = RESIDUAL OUTPUT PROBABILITY OUTPUT Observationdicted ln(pr Residuals Pred Price Percentile ln(price) Price Resid ln(sqft) Residual Plot Normal Probability Plot Residuals ln(sqft) ln(price) Sample Percentile 72

42 2.12 Regressioanalyysin tulosten esittäaminen Analyysin tulokset esitetäaäan vaihtelevilla tavoilla. Yksi yleinen tapa on esittäaäa estimoitu regressioyhtäaläo ja laittaa t-tunnusluvut tai keskivirheet (tai p-arvot) kertoimien alle sulkuihin. Esim. ^P = SQFT (0.483) (3.93) R 2 =0.563, df =12, F =15.459, s =37.484, missäa t-arvo suluissa. Toinen, usein jopa käayttäokelpoisempi tapa, on esittäaäa tulokset taulukkossa. NÄain erityisesti, jos tarkastellaan useampia mallivaihtoehtoja tai mallissa on useita selittäaviäa muuttujia. 73

43 Esim. Taulukko. Assunon hinta (1 000$) ja pinta-ala (neliäojalkaa) SelittÄavÄa Kerroin muuttuja estimaatti std err t-arvo p-arvo Vakio Pinta-ala Regressiotunnuslukuja R s F df 12 n 14 74

44 2.13 Eri mallivaihtoehtojen selitysasteiden R 2 vertailu Usein joudutaan punnitsemaan eri funktiomuotoja keskenäaäan valittaessa lopullista mallia. Ei kuitenkaan ole oikein verrata selitysasteita kekenäaäan, jos riippuvat muuttujat ovat eri muuttujia (esim toisessa mallissa ln Y ja toisessa Y ). Jos ne ovat samoja, niin vertailu voidaan tehdäa. Heuristinen tapa: muunnetaan ensin samoiksi ja lasketaan korrelaatiot Y :n ja ^Y :n väalilläa ja verrataan näaiden neliäoitäa kekenäaäan. 75

45 Toinen mahdollisuus on verrata virhevariansseja s 2 u = 1 n 2 keskenäaäan. (Yi ^Y i ) 2 Huom. TÄassÄakin on ensin tehtäaväa muunnos alkuperäaiseen malliin takaisin. Kolmas tapa valita malli eri funktiomuotojen väalilläa on tilastollinen testaus. YleispÄatevÄaÄa tilastollista testiäa ei ole, mutta joissakin erikoistapauksissa testaus käay päainsäa. Usein lineaarisen preusmallin Y i = α 0 + α 1 X i + i vaihtoehtona on logariminen malli (log-lineaarinen malli) y i = β 0 + β i x i + ν i, jossa y i =logy i ja x i =logx i. 76

46 MerkitÄaÄan ja ja olkoon SSE L = SSE LL = n i=1 n i=1 (Y i ^Y i ) 2 (y i ^y i ) 2, ¹Y g =(Y 1 Y 2 Y n ) 1/n Y : n geometrinen keskiarvo, silloin voidaan osoittaa, ettäa n 2 log SSE L/¹Y g 2 SSE LL on asymptoottisesti χ 2 jakautunut vapausasteella 1, jos molemmat mallit sopivat yhtäa hyvin havaintoaineistoon. 77

47 Esim. Asuntojen hintojen geometrinen keskiarvo ¹Y g = $ Lineaarisen mallin SSE L = ja logmallin SSE LL = , joten n 2 SSEL log /¹Y g 2 = 14 SSE LL / log = χ 2 -arvoa vastaava p-arvo yhdelläa vapausasteella on p = 0.180, joten molemmat mallit ovat empiirisesti yhtäa hyviäa. 78

48 Esim. Tarkastellaan auton nopeuden ja jarrutusmatkan väalistäa yhteyttäa. ObservationDistance Speed Distance Speed vs Distance Speed 79

49 Aineistoon voidaan sovittaa useita erilaisia mallivaihtoehtoja, jota ovat tilastollisilta ominaisuuksiltaan likipitäain ekvivalentteja. Kuitenkin täassäa voidaankäaytäaäa hyväaksi myäos teoreettista tietäamystäa: Fysiikan lakien mukaan teoreettinen etäaisyys jarrutushetkestäa on verrannollinen nopeuden neliäoäon. TÄaten teoreettinen jarrutusmatka on β 1 S 2. TÄamÄan lisäaksi matkaan vaikuttaa kuljettajan reaktionopeus ennen kuin häan merkin tultua tajuaa painaa jarrua. TÄanÄa aikana auto ehtii kulkea matkan β 0 S, jossa β 0 on keskimäaäaräainen reaktioaika. Kunkin yksiläon reaktioaika voidaan ajatella olevan β 0 +, jossa kuvaa yksiläon poikkeamaa keskiarvosta ja Var (e) =σ 2 (sama kaikilla yksiläoilläa). 80

50 TÄaten sopiva malli on D = β 0 S + β 1 S 2 + u Huom. Residuaalitermi on muotoa u = S, jossa on reaktioajan residuaali Reaktioaika vaihtelee henkiläostäa toiseen jonkin verran satunnaisesti, odotusarvona β 0 ja varianssina σ 2. TÄaten regressiotermiin se aiheuttaa heteroskedastisuutta. Toisin sanoen edelläa olevan regressiomallin jäaäannäosvarianssi on muotoa S 2 σ 2. 81

51 Estimoidut mallit. Estimates of both models Original data Regression Statistics Multiple R 0.81 R Square 0.65 Adjusted R Square 0.64 Standard Error Observations 50 ANOVA df SS MS F Significance F Regression Residual Total Coefficients Standard Error t Stat P-value Intercept Speed Transformed data Regression Statistics Regression Statistics Multiple R R Square Adjusted R Square Standard Error Observations ANOVA (Transformed data) df SS MS F Significance F Regression Residual Total Coefficients Standard Error t Stat P-value Intercept Speed Coeffisicents for the untransformed model Coefficients Standard Error t Stat P-value Speed Speed Squared

52 Kuvio: Lineaarinen malli. Linear model D = α + β S + e Distance Speed Speed Residual Plot Residuals Speed 83

53 Kuvio: EpÄalineaarinen malli Speed vs Distance Residuas of D = β 0 S + β 1 S 2 + u Residuals Predicted distance 84