2. Yhden selittäajäan lineaarinen regressiomalli. 2.1 Malli ja parametrien estimointi. Malli:

Transkriptio

1 2. Yhden selittäajäan lineaarinen regressiomalli Regressio-termi peräaisin Galtonilta. IsÄan ja pojan pituus: PitkÄa isäa lyhyempi poika, lyhyt isäa pidempi poika. Son height (cm) Father height (cm) Kuvio. IsÄan ja pojan pituus. 2.1 Malli ja parametrien estimointi Malli: Y i = + X i + u i, Y Riippuva (dependent) SelitettÄavÄa (explained) (predictand) (regressand) vaste (respond) Oletukset: i =1,...,n X Riippumaton (independent) SelittÄavÄa (explanatory) (predictor) (regressor) (stimulus) (control variable) 1. E (u i )=0 tai E(Y i X i )= + X i 2. Var(u i )= 2 Var(Y i X i )= 2 3. Cov(u i,u j )=0,i= j Cov(Y i,y j )=0,i= j 4. Cov(X i,u i )=0, i 5. (X i ¹X) 2 > 0 Huom. Usein oletetaan, ettäa X on kiinteäa (ei-stokastinen) 32 33

2 u i : Virhetermi on yhdistelmäa eritekijäoistäa, kuten (Ramanathan 1998, p. 84{85) 1. (PoisjÄatetyt muuttujat) It accounts the e ects of variables omitted from the model 2. (EpÄalineaarisuudet) It captures the e ects of nonlinearities in the relationship between Y and X. Thus,ifthetruemodel were Y i = + X i + X 2 i + v i,andweassume that it was Y i = + X i + u i,then the e ect of X 2 i wouldbeabsorbedbyu i. Estimointi: Price $1 000 (Y ) Area (X) (Mittausvirheet) Errors in measuring X and Y arealsoabsorbedinu i. Price (USD) (Ennakoimattomat tekijäat, unpredictable e ect) u i also includes inherently unpredictable random e ects Square feet Kuvio. NeliÄomÄaÄarÄa (square feet) vs hinta (dollareina) 34 35

3 PienimmÄan neliäosumman estimointi (PNS) OLS = Ordinary Least Squares. Sovitetaan aineistoon suora ^Y =^ + ^X siten, ettäa neliäosumma n n n f(^, ^) = i=1 minimoituus. e 2 i = i=1 (Y i ^Y i ) 2 = i=1 (Y i ^ ^X i ) 2 Derivoimalla ja ratkaisemalla derivaattojen nollakohdat, saadaan normaaliyhtäaläot n^ + ^ X i = Y i ^ X i + ^ X 2 i = X i Y i josta ratkaisemalla saadaan OLS-estimaattorit Esim. Asunnon hinnan ja pinta-alan väalinen suhde. Parametrien tulkinnasta: Nyt ^Y i = X i, (46.8) (0.024) R 2 =0.563,s=37.48 jossa ^Y = estimoitu hinta ja X = pinta-ala. Estimaattoreiden keskivirheet on esitetty suluissa kertoimien alla. Kulmakerroin ilmaisee yksikkäomuutoksen, silläa d^y/dx = ^. TÄaten yhden neliäojalan lisäays pinta-alassa lisäaäa keskimäaäarin asunnon hintaa ^ = 94 dollarilla. Kun X = 0 on ^Y = ^, joka voidaan tulkita rakentamattoman tonttimaan keskihinnaksi. TÄaten rakentamattoman tonttimaan keskihinnaksi tulisi $ ^ = (Xi ¹X)(Y i ¹Y ) ^ = ¹Y ^ ¹X (Xi ¹X) 2 Huom. Otoksesta laskettua virhetermiäa = s y s x r xy e i = Y i (^ + ^X i ) = u i = Y i ( + X i ) sanotaan residuaaliksi eli jäaäannäostermiksi (ks. tarkemmin Doughert kalvot)

4 Usein on myäos mielenkiintoista tarkastella joustoja. Esim. EdellÄa olevan esimerkin tapauksessa E = X^Y d^y dx = ^ X^Y, joka riippuu sekäa hinnastaettäa pinta-alasta. Price $1 000 (Y ) Area (X) X^Y Huomioita: Hinnan pinta-alajousto on alle ykkäosen, ts. pinta-alan kasvaessa hinta kasvaa prosentuaalisesti väahemmäan kuin prosentuaalinen pinta-ala. Toisaalta jousto kasvaa pinta-alan kasvun myäotäa, eli suhteellisesti lisäapinta-ala on kalliimpi isoissa asunnoissa kuin pienissäa. TÄamÄa on tietysti selväa, koska pintaalalla on täassäa mallissa vakiohinta! Kuitenkin tulokset ilmaisevat, ettäa esimerkiksi 10 prosentin pinta-alan lisäays isossa asunnossa tulee täamäan mallin mukaan suhteellisesti kalliimmaksi kuin vastaava prosentuaalinen lisäays pienessäa asunnossa. (HyÄoty!) Onko jäarkeväa!? KÄaytÄannÄossÄa lienee niin, ettäa neliäohinta on isoissa asunnoissa pienempi! Palataan täahäan tuonnempana

5 2.2 MittayksikÄon muutoksen vaikutus estimaatteihin Esim. $1 = 0.82Eur ja 1ft = m. MerkitÄaÄan H = 0.82 P ja NM = (0.3048) 2 SQFT = SQFT. SelittÄavÄan muuttujan skaalaus vaikuttaa vain vastaavan regressiokertoimen suuruuteen, silläa jos Z = ax (a >0), niin X = Z/a = Z, jossa = /a. Estimoitu malli muunnetuissa mittayksikäoissäa onsiis ^H = NM = NM dh =0.83 dnm. Jos ala kasvaa neliäometrilläa, niin hinta muuttuu keskimäaäarin 820 Eurolla. SelitettÄavÄan muuttujan skaalauksessa on kerrottava yhtäaläon molemmat puolet, joten kaikki regressiokertoimet ja residuaalitermi muuttuvat. Esim. EdellÄa (1 000) euroina P = + SQFT + u H = + NM + u, jossa = 0.82, = 0.82/ ja u =0.82u

6 2.3 OLS Estimaattoreiden ominaisuuksia Best Linear Unbiased Estimator (BLUE) eli paras lineaarinen harhaton estimaattori (PLHE) Voidaan helposti osoittaa, ettäa aiemmin tehtyjen (klassisten) oletusten vallitessa OLS estimaattori on BLUE (ns. Gauss-Markov teoreema ). Estimaattoria, joka on havaintojen lineaarikombinaatio, eli muotoa ^ = n i=1 a i Y i sanotaan lineaariseksi estimaattoriksi. LisÄaksi, jos sille päatee: LisÄaksi päatee, ettäa OLS-estimaattori on tarkentuva (Consistent) tehokas, jos residuaalitermit u i ovat normaalisti jakutuneita. harhaton varianssi on pienin tarkasteltavan parametrin lineaaristen ja harhattomien estimaattoreiden joukossa Huom. BLUE pitäaäa sisäalläaäan sen, ettäa OLS estimaattorit ovat harhattomia. niin kyseinen estimaattori on BLUE. 42 Gauss-Markov Theorem: Parametrien ja lineaarisista harhattomista estimattoreista OLS estimaattoreiden ^ ja ^ varianssit ovat pienimmäat 43

7 2.4 Estimoinnin tarkkuus Estimaattorin tarkkuutta mitataan estimaattorin keskivirheelläa (standard error). ^ = var(^) 2^ = = u 2 (Xi ¹X) 2, jossa u 2 =var(u i ). Korvaamalla u 2 sen estimaattorilla s 2 u = 1 n (Y i ^Y i ) 2 n 2 i=1 ja ottamalla neliäojuuri saadan ^:n keskivirheestimaattori s^ = s u (Xi ¹X) 2. Vastaavalla tavalla leikkaustemin ^ keskivirheestimaattoriksi tulee s^ = s X 2 i u n (X i ¹X) 2 = s 1 u n + ¹X 2 (Xi ¹X) HT: Miten muuttujien skaalaus vaikuttaa keskivirheisiin? Huom. Kuten aiemmin on todettu, Gauss- Markov teoreeman mukaan, jos lineaarisen regression oletukset 1{5 ovat voimassa, niin OLS estimaattorit ovat BLUE eli niilläa on lineaarisista harhattomista estimaattoreista pienin varianssi. Jos residuaalitermi on likipitäain normaalijakautunut, saadaan keskivirheiden avulla muodostettua mm. luottamusväalit. 100(1 p)-prosentin luottamusväalit : : ^ ± t 12 p s^ ^ ± t 12 p s^, jossa t p on t-jakauman taulukkoarvo vapausasteilla n 2(havaintojenlkm-estimoitujen parametrin lkm). 45

8 2.5 Selitysaste e i =^u i = Y i ^Y i Esim. (NeliÄohintadata) df =14 2 = 12, s^ =46.84 ja s^ = prosentin luottamusväaleiksi saadaan, kun t.025 (12) = ^ ± t.025 s^ =22.60 ± eli (79.46, ) Vastaavasti :n 95 prosentin luottamusväaliksi saadaan (0.042, 0.146). HT: Laske luottamusväalit, kun rahayksikkäonäa oneuro ja pinta-alana neliäometri. Y i ¹Y =(^Y i ¹Y )+(Y i ^Y i )=(^Y i ¹Y )+e i Korotetaan neliäoäon ja summataan (Yi ¹Y ) 2 = (^Y i ¹Y ) 2 + e 2 i +2 (^Y i ¹Y )e i =0 = (^Y i ¹Y ) 2 + (Y i ^Y i ) 2 SST = SSR + SSE Huom. Leikkaustermin luottamusväali sisäaltäaäa nollan. LuottamusvÄaleistÄa enemmäan tuonnempana. Selitysaste R 2 = SSR SST =1 SSE SST. Voidaan osoittaa, ettäa r 2 xy = R 2 täassäa yhden selittäajäan regressiomallissa

9 z Yleistys: usean selittäajäan regressioanalyysissäa yhteiskorrelaatiokertoimen (multiple correlation) neliäo (R 2 = r 2 y^y ). Huom. Vain yksi, joskin ehkäa käaytetyin mallin (teknisen) hyvyyden mitta. Esim. (jatkoa) R 2 = HT: Vaikuttaako muuttujien skaalaus selitysasteeseen? Osoita todeksi väaittäamäasi. Saattaa esimerkiksi olla, ettäa kahdella mallilla virhetermin suuruuta kuvaava hajonta (s u ) on sama, mutta selitysasteet ovat eri suuria. TÄallÄoin mallien hyvyydet absoluuttisella tarkkuudella mitattuna ovat samat vaikka selitysaste toisessa onkin korkeampi. Esim. Selitysaste ja residuaalihajonta. y x z u Y y = a + b x + e X z = c + d x + e y = a + b x + e SUMMARY OUTPUT ANOVA df SS MS F P-val Regression Statistics Regression Multiple R 0.86 Residual R Square 0.75 Total Adj R Squa 0.74 Std Err 1.40 Coeff Std Err t Stat P-value Observatio 29 Intercept X Variable z = c + d x + e SUMMARY OUTPUT ANOVA df SS MS F P-val Regression Statistics Regression Multiple R 0.46 Residual R Square 0.21 Total Adj R Squa 0.18 Std Err 1.40 Coeff Std Err t Stat P-value Observatio 29 Intercept x x 48 49

10 2.6 Normaalisuusoletus LisÄatÄaÄan oletuksiin (1{5) 6. u i N(0, 2 u). Normaalisuusoletus on usein perusteltavissa keskeisen raja-arvolauseen kautta. JÄaÄannÄostemin jakaumaoletuksesta seuraa estimaattoreiden jakaumaominaisuudet! X 2 ^ N, i n (X i ¹X) 22 u ^ 2 u N, (Xi ¹X) 2 jossa ^Y X N + X, 2^y, 2^y = 1 n + (X ¹X) 2 (Xi ¹X) 2 2 u. 50 Esimerkiksi ^ z = (Xi N(0, 1). u / ¹X) 2 Kun u korvataan estimaattorillaan s u, niin jossa t = ^ (Xi s u / ¹X) t n2, 2 s 2 u = 1 e 2 n 2 i. SiispÄa: Residuaalin jakaumasta seuraa estimaattoreiden jakaumat. NÄaille puolestaan perustuvat luottamusväalien laskeminen ja tilstollisten testien muodostaminen. NÄaistÄa syistäa on täarkeäaäa, ettäa tarkistetaan residuaalitermin normaalisuusoletuksen paikkansapitäavyys, jotta testien ja luottamusväalien antamat tuloksetolisivatkäayttäokelpoisia. HT: Miten muuttujien skaalaus vaikuttaa t- jaz-testi- suureisiin? Osoita todeksi väaittäamäasi. 51

11 2.7 Kertoimien luottamusväalit 2.8 Kertoimien testaus Tilastolliset hypoteesivaihtoehdot: Y = + X + u. LuottamusvÄali :lle ^ P ( <t 1 ) =1p, 2 p eli s^ P (^ t 12 p s^ < < ^ + t 12 p s^ ) =1p. :n 100(1p) prosentin luottamusväaliksi saadaan siis Tulkinta! (ks. kuvio) ^ ± t 12 p s^. tai tai Esim. SQFT-data H 0 : = 0 H 1 : = 0 H 0 : 0 H 1 : > 0 H 0 : 0 H 1 : < 0 H 0 : 0 H 1 : > 0 t = =3.932, p-val =.002 < 0.01, joten H 0 hyläatäaäan ja > 0(eipÄalieneyllÄatys!) Vastaavalla tavalla saadaan -parametrin p- arvoksi.638, joten ^ ei ole tilastollisesti merkitseväa! 52 53

12 p-arvo (p-value): Merkitsevyystaso eli ensimmäaisen lajin virheen todennäakäoisyys p-arvo = P (HylÄatÄaÄan H 0 H 0 on tosi), joka siis ilmaisee todennäakäoisyyden riskille, ettäa hyläatäaäan H 0 vaikka se on tosi (hylkäaysvirhe). Tietokoneen testin yhteydessäa laskemap-arvo ilmaisee pienimmäan merkitsevyystason, jolla H 0 voitaisiin hyläatäa. Tavanomisesti käaytettyjäa merkitsevyystasoja ovat 0.05, 0.01 tai 0.001, joten jos laskettu p-arvo on pienempi kuin esimerkiksi 0.05 hyläatäaäan H 0 viiden prosentin merkitsevyystasolla. Esim. SQF-data H 0 : =0 H 1 : = 0 Excel-tulostuksesta: p-val = < 0.01, joten todetaan, ettäa kerroin poikkeaa tilastollisesti merkiteväasti nollasta. Sensijaanleikkaustermin tapauksessa p-val = 0.638, joten jos hylkäaäamme nollahypoteesin, ettäa =0ottaisimme 64 prosentin riskin hyläatäa väaäarin perustein kyseinen hypoteesi. Emme kuitenkaan tee niin vaan päaäattelemme, ettäa leikkaustemi on nolla ANOVA-taulu Yleiseksi tavaksi on tullut, ettäa kokonaisneliäosumman SST hajoitelma kootaan varianssianalyysin tauluun (ANOVA ANalysis Of VAriance): 54 55

13 Source df SS MS F p-value Regression p SSR Residual n p 1 SSE Total n 1 SST SSR p SSE (np1) SSR SSE np1 p P (F >F obs ) 2.10 Ennustaminen Olkoon X 0 annettu X:n arvo. saadaan ennustearvo Silloin Y :lle missäa p on selittäavien muuttujien lukumäaäaräa mallissa. joka on mallin ^Y 0 =^ + ^X 0, Huom. F -testi testaa koko regression merkitsevyyttäa, joka yhden selittäajäan tapauksessa on sama kuin regressiokertoimen t-testi. PÄatee: t 2 = F (1,n 2). Ei kuitenkaan, jos selittäajiäa on useampia. Esim. SQF-data. Housing price data from Ramanathan (1993) Price SQFT SUMMARY OUTPUT Obs Y X 1 Regression Statistics Multiple R R Square Adj R Square Std Err Obs ANOVA df SS MS F Signf F Regression Residual Total Coeff Std Err t Stat P-value Intercept SQFT systemaattisen osan Y = + X + u E(Y )= + X paras lineaarinen harhaton estimaattori (BLUE), kun X = X 0. On kuitenkin huomattavaa, ettäa ^Y 0 :aa ei voida pitäaäa Y 0 :n BLUE:na! Se ei ole edes Y 0 :n harhaton estimaattori, silläa E(^Y 0 )=+X 0 = Y 0 = + X 0 + u 0,josu 0 =0. 57

14 Kuitenkin, koska X:n arvolla X 0 päatee E(u 0 )=E(Y 0 ^Y 0 )=0, niin voidaan ennustetta ^Y 0 pitäaäa siinäa mielessäa Y 0 :n harhattoman estimaattorina, ettäa ennustevirheen odotusarvo on nolla. Voidaan osoittaa, ettäa ennusteella ^Y 0 on täallaisten estimaattoreiden joukossa pienin varianssi. TÄamÄan vuoksi sanotaan, ettäa ^Y 0 on Y 0 :n paras lineaarinen harhaton ennuste (BLUP = Best Linear Unbiased Predictor). Ennusteen luottamusväali Yleiseti varianssille Var( ^Y ) päatee 1 Var( ^Y )= n + (X ¹X) 2 (Xi ¹X) 2 u, 2 jonka estimaattori saadaan korvaamalla tuntematon parametri u 2 estimaatillaan s 2 u. TÄaten saadaan yleiselläa X:n arvolla odotusarvon E(Y X) eli regressiosuoran luottamusväaliksi E(Y X) : ^Y ± t 12 p s 1 u n + (X ¹X) 2 (Xi ¹X) 2 YksittÄaisen havainnon luottamusväaliksi tulee puolestaan: Y : ^Y ± t 12 p s 1 u 1+ n + (X ¹X) 2 (Xi ¹X)

15 Esim. SQF-Data Ennusteiden vertailu: Confidence intervals Housing prices per square feets. Price i ($1000) SQFT Housing prices vs Area R Square Adj R Sqr Area s No of Obs 14 ANOVA df SS MS F P-value Regression Residual Total Coeff Std err t Stat P-value Intercept X Variable Price RESIDUAL OUTPUT Prediction intervals E(Y X) Y X Obs Pred Price Residuals L95% U95 L95 U Mean absolute error (MAE): MAE = 1 n Yi ^Y i Mean absolute percentage error (MAPE): MAPE = Y i ^Y i. n Y i Mean Square Error (MSE): MSE = 1 n (Yi ^Y i ) 2. Root Mean Square Error (RMSE): RMSE = MSE

16 Aikasarja-aineistossa (Y t ) Theilin U: U = Tt=1 (Y t ^Y t ) 2 Tt=2 (Y t Y t1 ) U vertaa ennustetta naiviin menetlemäaäan, jossa seuraavan periodin ennustearvo on sama kuin nykyinen arvo, eli Enn(Y t+1 )=Y t. TÄaten jos U<1, niin ^Y t ennustaa paremmin kuin vakioennuste U = 1, sama jos ennustetaan nykyiselläa arvolla U>1, naiivi ennuste on parempi. Huom. U on käayttäokelpoinen vain aikasarjaaineistossa. YleensÄa näaitäa käaytetäaäan vertaamaan eri menetelmilläa saatuja ennusteita keskenäaäan. Esim. Cultorin liikevaihto Cultor Oy:n liikevaihto [ ] Cultor Liikevaihto Vuosi Liikevaihto LN(lv) t Trendi ennuste Tasaisen kasvun Regressioestimaatit vuosilta SUMMARY OUTPUT Regression Statistics v t = (1+g ) t v 0 u t Multiple R y t = + t + t, R Square jossa y t = ln(v t), = ln(v 0) Adjusted R Square ja = ln(1+g) ja t = ln(u t) Standard Error Observations 10 ANOVA df SS MS F Signif F Regression Residual Total Coeff Std Error t Stat P-value Intercept t ==> Kasvu % 9.85 RESIDUAL OUTPUT Ennusteet vuosille Year Pred LN(lv) Pred LV Ennuste Virheet Vuosi Tot Trendi Tas-kasv Trendi m Tas kasv LV t-lv t Trendi Tas-kasvu Naiivi MAE MAPE (% MSE RMSE U

17 Esim. Suomen kansantalouden kasvu: 2.11 EpÄalineaariset riippuvuussuhteet year Muutos-% Ennuste-% LCL-50% UCL-50% SAS-estimates from data for Variable Coeff Std Error t Ratio p-val Intercept time A(1) A(2) Maximum Likelihood Estimates SSE DFE MSE Root MSE SBC AIC Reg Rsq Total Rsq Durbin-Wats Tutkimuslaitosten ennusteet ETLA Merita OECD Osuusp 2.5 na Sampo PTT PT VM Average Std BKT muutos % Suomen talouskasvun muutokset (%) Muutos % Kasvuennuste % LCL-50% UCL-50% 64 Lineaarista regressiomallia voidaan soveltaa kunhan vain malli on muunnettavissa lineaariseen muotoon. Esim. Oletetaan, ettäa muuttuja P t kasvaa ajan funktiona tasaisesti. Eli P t =(1+g) t P 0, jossa P 0 on P :n arvo alkuhetkelläa. Ottamalla logaritmit ln P t = lnp 0 + t ln(1 + g) ja mäaäarittelemäalläa Y t =lnp t, 7 =lnp 0, X t = t ja =ln(1+g), sekäa lisäaäamäalläa malliin satunnaiskomponentti saadaan Eli lineaarinen malli. Y t = + X t + u t. Huom! Logaritmisessa muodossa perusolettamusten mukaan E(u t ) = 0. Kuitenkin siirryttäaessäa alkuperäaisiin havaintoihin on malli muotoa ~P t = (1 + g) t P 0 w t, jossa w t = e u t. Jotta E( ~P t ) = P t olisi oltava E(w t ) = 1. Kuitenkin, voidaan osoittaa, ettäa jos u t N(0, 2 ), niin E(w t )=E(e u t )=e TÄamÄan vuoksi ennustettaessa käaytetäaäan korjausta ^P t+1 = exp(^ + ^t) exp( 1 2 s2 )), jossa s 2 on 2 :n estimaattori. 65

18 Muuntamalla takaisin saadaan estimoinnin jäalkeen laskettua ennusteet alkuperäaisille muuttujille. Esim. ^g = e^ 1. Cultor-esimerkissÄa vuosien 1983{92 havaintoihin perustuen ^ =0.094, joten ^g = e = eli 9.9%. Vastaavalla tavalla voidaan linearisoida muitakin epäalineaarisia yhtäaläoitäa. Kaikkia epäalineaarisia malleja ei kuitenkaan voida aina linearisoida. Esim. Oletetaan, ettäa asunnon hankinnassa ihmiset arvostavat asuinpinta-alan lisäaystäa suuremmissa asunnoissa väahemmäan kuin pienissäa. ErÄas mahdollinen malli on silloin P i = + ln(sqf) + u i. Parametrin tulkinta? Nyt dp dsqf = 1 SQF eli P = (SQF) SQF. Toisin sanoen ilmaisee hinnan muutoksen (satoina tuhansina dollareina), kun asuinpinta-ala muttuu yhdelläa prosentilla 66 67

19 Muita mallivaihtoehtoja: (1) P i = + SQFT i + u i (linear model) (2) P i = + ln SQFT i + u i (linear-log model) (3) ln P i = + SQFT i + u i (linear-log model) (4) ln P i = + ln SQFT i + u i (log model) (5) P i = + SQFT i + u i (square root) etc. (1) (2) (3) (4) (5) Derivaatta dp dsqft = dp dsqft = 1 dp SQFT dsqft = P dp dsqft = P SQFT dp dsqft = SQFT Jousto E = SQFT P E = 1 P E = SQFT E = E = 1 2 SQFT P 68 69

20 Esim. Linaarinen malli (1) Esim. Lin-log malli (2) House Prices (Linear model) Housing (lin-log model) SUMMARY OUTPUT 300 Housing prices vs Area Regression Statistics 250 Multiple R R Square Adj R Sqr s No of Obs 14 Area ANOVA df SS MS F P-value Regression Residual Total Coefficientstandard Err t Stat P-value Intercept X Variable Price SUMMARY OUTPUT 300 ln(sqft) Line Fit Plot 250 Regression Statistics Multiple R R Square Adjusted R Standard E Observatio 14 ln(sqft) ANOVA df SS MS F ignificance F Regression Residual Total Coefficientstandard Err t Stat P-value Intercept ln(sqft) Price RESIDUAL OUTPUT RESIDUAL OUTPUT PROBABILITY OUTPUT Obs Pred Price SQF Residuals Elasticity Elasticity Obs Pred price Resid Elasticity Percentile Price Residual plot Normal Probability Plot ln(sqft) Residual Plot Residuals Area -50 Price Sample Percentile Residuals ln(sqft) 70 71

21 Esim. Log-log malli (4) 2.12 Regressioanalyysin tulosten esittäaminen House prices (Log-log model) SUMMARY OUTPUT 300 Line Fit Plot Regression Statistics Orig Data 250 Multiple R R Square Adjusted R Standard E Observatio SQFT ANOVA df SS MS F P-value Regression Residual Total Coefficients Std Error t Stat P-value Intercept ln(sqft) Elasticity = RESIDUAL OUTPUT PROBABILITY OUTPUT Observationdicted ln(pr Residuals Pred Price Percentile ln(price) Price Resid Residuals ln(sqft) Residual Plot ln(sqft) Price ln(price) Normal Probability Plot Sample Percentile Analyysin tulokset esitetäaäan vaihtelevilla tavoilla. Yksi yleinen tapa on esittäaäa estimoitu regressioyhtäaläo ja laittaa t-tunnusluvut tai keskivirheet (tai p-arvot) kertoimien alle sulkuihin. Esim. ^P = SQFT (0.483) (3.93) R 2 =0.563, df = 12, F =15.459, s =37.484, missäa t-arvo suluissa. Toinen, usein jopa käayttäokelpoisempi tapa, on esittäaäa tulokset taulukkossa. NÄain erityisesti, jos tarkastellaan useampia mallivaihtoehtoja tai mallissa on useita selittäaviäa muuttujia

22 Esim. Taulukko. Assunon hinta (1 000$) ja pinta-ala (neliäojalkaa) SelittÄavÄa Kerroin muuttuja estimaatti std err t-arvo p-arvo Vakio Pinta-ala Regressiotunnuslukuja R s F df 12 n Eri mallivaihtoehtojen selitysasteiden R 2 vertailu Usein joudutaan punnitsemaan eri funktiomuotoja keskenäaäan valittaessa lopullista mallia. Ei kuitenkaan ole oikein verrata selitysasteita kekenäaäan, jos riippuvat muuttujat ovat eri muuttujia (esim toisessa mallissa ln Y ja toisessa Y ). Jos ne ovat samoja, niin vertailu voidaan tehdäa. Heuristinen tapa: muunnetaan ensin samoiksi ja lasketaan korrelaatiot Y :n ja ^Y :n väalilläa ja verrataan näaiden neliäoitäa kekenäaäan

23 Toinen mahdollisuus on verrata virhevariansseja s 2 u = 1 (Yi ^Y i ) 2 n 2 keskenäaäan. Huom. TÄassÄakin on ensin tehtäaväa muunnos alkuperäaiseen malliin takaisin. Kolmas tapa valita malli eri funktiomuotojen väalilläa on tilastollinen testaus. YleispÄatevÄaÄa tilastollista testiäa ei ole, mutta joissakin erikoistapauksissa testaus käay päainsäa. Usein lineaarisen preusmallin Y i = X i + i vaihtoehtona on logariminen malli (log-lineaarinen malli) MerkitÄaÄan ja ja olkoon n SSE L = (Y i ^Y i ) 2 i=1 n SSE LL = (y i ^y i ) 2, i=1 ¹Y g =(Y 1 Y 2 Y n ) 1/n Y : n geometrinen keskiarvo, silloin voidaan osoittaa, ettäa n 2 log SSE L/¹Y 2 g SSE LL on asymptoottisesti 2 jakautunut vapausasteella 1, jos molemmat mallit sopivat yhtäa hyvin havaintoaineistoon. y i = 0 + i x i + i, jossa y i =logy i ja x i =logx i

24 Esim. Asuntojen hintojen geometrinen keskiarvo ¹Y g = $ Lineaarisen mallin SSE L = ja logmallin SSE LL = , joten Esim. Tarkastellaan auton nopeuden ja jarrutusmatkan väalistäa yhteyttäa. n 2 SSEL log /¹Y g 2 = 14 SSE LL 2 log / = arvoa vastaava p-arvo yhdelläa vapausasteella on p = 0.180, joten molemmat mallit ovat empiirisesti yhtäa hyviäa. ObservationDistance Speed Distance Speed vs Distance Speed 78 79

25 Aineistoon voidaan sovittaa useita erilaisia mallivaihtoehtoja, jota ovat tilastollisilta ominaisuuksiltaan likipitäain ekvivalentteja. Kuitenkin täassäa voidaankäaytäaäa hyväaksi myäos teoreettista tietäamystäa: Fysiikan lakien mukaan teoreettinen etäaisyys jarrutushetkestäa on verrannollinen nopeuden neliäoäon. TÄaten teoreettinen jarrutusmatka on 1 S 2. TÄamÄan lisäaksi matkaan vaikuttaa kuljettajan reaktionopeus ennen kuin häan merkin tultua tajuaa painaa jarrua. TÄanÄa aikana auto ehtii kulkea matkan 0 S, jossa 0 on keskimäaäaräainen reaktioaika. Kunkin yksiläon reaktioaika voidaan ajatella olevan 0 +, jossa kuvaa yksiläon poikkeamaa keskiarvosta ja Var (e) = 2 (sama kaikilla yksiläoilläa). TÄaten sopiva malli on D = 0 S + 1 S 2 + u Huom. Residuaalitermi on muotoa u = S, jossa on reaktioajan residuaali Reaktioaika vaihtelee henkiläostäa toiseen jonkin verran satunnaisesti, odotusarvona 0 ja varianssina 2. TÄaten regressiotermiin se aiheuttaa heteroskedastisuutta. Toisin sanoen edelläa olevan regressiomallin jäaäannäosvarianssi on muotoa S

26 Estimoidut mallit. Kuvio: Lineaarinen malli. Estimates of both models Original data Regression Statistics Multiple R 0.81 R Square 0.65 Adjusted R Square 0.64 Standard Error Observations Linear model D = + S + e ANOVA df SS MS F Significance F Regression Residual Total Coefficients Standard Error t Stat P-value Intercept Speed Distance Transformed data Regression Statistics Regression Statistics Multiple R R Square Adjusted R Square Standard Error Observations ANOVA (Transformed data) df SS MS F Significance F Regression Residual Total Coefficients Standard Error t Stat P-value Intercept Speed Coeffisicents for the untransformed model Coefficients Standard Error t Stat P-value Speed Speed Squared Residuals -20 Speed Speed Residual Plot Speed 82 83

27 Kuvio: EpÄalineaarinen malli Speed vs Distance Residuals Residuas of D = 0 S + 1 S 2 + u Predicted distance 84