2. Yhden selittäajäan lineaarinen regressiomalli. 2.1 Malli ja parametrien estimointi. Malli:

Transkriptio

1 2. Yhden selittäajäan lineaarinen regressiomalli Regressio-termi peräaisin Galtonilta. IsÄan ja pojan pituus: PitkÄa isäa lyhyempi poika, lyhyt isäa pidempi poika. Son height (cm) Father height (cm) Kuvio. IsÄan ja pojan pituus. 2.1 Malli ja parametrien estimointi Malli: Y i = + X i + u i, Y Riippuva (dependent) SelitettÄavÄa (explained) (predictand) (regressand) vaste (respond) Oletukset: i =1,...,n X Riippumaton (independent) SelittÄavÄa (explanatory) (predictor) (regressor) (stimulus) (control variable) 1. E (u i )= tai E(Y i X i )= + X i 2. Var(u i )= 2 Var(Y i X i )= 2 3. Cov(u i,u j )=,i= j Cov(Y i,y j )=,i= j 4. Cov(X i,u i )=, i 5. (X i ¹X) 2 > Huom. Usein oletetaan, ettäa X on kiinteäa (ei-stokastinen) u i : Virhetermi on yhdistelmäa eritekijäoistäa, kuten (Ramanathan 1998, p. 84{85) 1. (PoisjÄatetyt muuttujat) It accounts the e ects of variables omitted from the model 2. (EpÄalineaarisuudet) It captures the e ects of nonlinearities in the relationship between Y and X. Thus,ifthetruemodel were Y i = + X i + X 2 i + v i,andweassume that it was Y i = + X i + u i,then the e ect of X 2 i wouldbeabsorbedbyu i. Estimointi: Price $1 (Y ) Area (X) (Mittausvirheet) Errors in measuring X and Y arealsoabsorbedinu i. Price (USD) (Ennakoimattomat tekijäat, unpredictable e ect) u i also includes inherently unpredictable random e ects Square feet Kuvio. NeliÄomÄaÄarÄa (square feet) vs hinta (dollareina) 34 35

2 PienimmÄan neliäosumman estimointi (PNS) OLS = Ordinary Least Squares. Sovitetaan aineistoon suora ^Y =^ + ^X siten, ettäa neliäosumma n n n f(^, ^) = e 2 i = (Y i ^Y i ) 2 = (Y i ^ ^X i ) 2 i=1 minimoituus. i=1 Derivoimalla ja ratkaisemalla derivaattojen nollakohdat, saadaan normaaliyhtäaläot i=1 n^ + ^ X i = Y i ^ X i + ^ X 2 i = X i Y i josta ratkaisemalla saadaan OLS-estimaattorit Esim. Asunnon hinnan ja pinta-alan väalinen suhde. Parametrien tulkinnasta: Nyt ^Y i = X i, (46.8) (.24) R 2 =.563,s=37.48 jossa ^Y = estimoitu hinta ja X = pinta-ala. Estimaattoreiden keskivirheet on esitetty suluissa kertoimien alla. Kulmakerroin ilmaisee yksikkäomuutoksen, silläa d^y/dx = ^. TÄaten yhden neliäojalan lisäays pinta-alassa lisäaäa keskimäaäarin asunnon hintaa ^ = 94 dollarilla. Kun X = on ^Y = ^, joka voidaan tulkita rakentamattoman tonttimaan keskihinnaksi. TÄaten rakentamattoman tonttimaan keskihinnaksi tulisi $22 6. ^ = (Xi ¹X)(Y i ¹Y ) ^ = ¹Y ^ ¹X (Xi ¹X) 2 = s y s x r xy Huom. Otoksesta laskettua virhetermiäa e i = Y i (^ + ^X i ) = u i = Y i ( + X i ) sanotaan residuaaliksi eli jäaäannäostermiksi (ks. tarkemmin Doughert kalvot) Usein on myäos mielenkiintoista tarkastella joustoja. Esim. EdellÄa olevan esimerkin tapauksessa E = X^Y d^y dx = ^ X^Y, joka riippuu sekäa hinnastaettäa pinta-alasta. Price $1 (Y ) Area (X).94 X^Y Huomioita: Hinnan pinta-alajousto on alle ykkäosen, ts. pinta-alan kasvaessa hinta kasvaa prosentuaalisesti väahemmäan kuin prosentuaalinen pinta-ala. Toisaalta jousto kasvaa pinta-alan kasvun myäotäa, eli suhteellisesti lisäapinta-ala on kalliimpi isoissa asunnoissa kuin pienissäa. TÄamÄa on tietysti selväa, koska pintaalalla on täassäa mallissa vakiohinta! Kuitenkin tulokset ilmaisevat, ettäa esimerkiksi 1 prosentin pinta-alan lisäays isossa asunnossa tulee täamäan mallin mukaan suhteellisesti kalliimmaksi kuin vastaava prosentuaalinen lisäays pienessäa asunnossa. (HyÄoty!) Onko jäarkeväa!? KÄaytÄannÄossÄa lienee niin, ettäa neliäohinta on isoissa asunnoissa pienempi! Palataan täahäan tuonnempana

3 2.2 MittayksikÄon muutoksen vaikutus estimaatteihin Esim. $1 =.82Eur ja 1ft =.348m. MerkitÄaÄan H =.82 P ja NM = (.348) 2 SQFT =.929 SQFT. SelittÄavÄan muuttujan skaalaus vaikuttaa vain vastaavan regressiokertoimen suuruuteen, silläa jos Z = ax (a >), niin X = Z/a = Z, jossa = /a. Estimoitu malli muunnetuissa mittayksikäoissäa onsiis ^H = NM = NM dh =.83 dnm. Jos ala kasvaa neliäometrilläa, niin hinta muuttuu keskimäaäarin 82 Eurolla. SelitettÄavÄan muuttujan skaalauksessa on kerrottava yhtäaläon molemmat puolet, joten kaikki regressiokertoimet ja residuaalitermi muuttuvat. Esim. EdellÄa (1 ) euroina P = + SQFT + u H = + NM + u, jossa =.82, =.82/.929 ja u =.82u OLS Estimaattoreiden ominaisuuksia Best Linear Unbiased Estimator (BLUE) eli paras lineaarinen harhaton estimaattori (PLHE) Voidaan helposti osoittaa, ettäa aiemmin tehtyjen (klassisten) oletusten vallitessa OLS estimaattori on BLUE (ns. Gauss-Markov teoreema ). Estimaattoria, joka on havaintojen lineaarikombinaatio, eli muotoa n ^ = a i Y i i=1 sanotaan lineaariseksi estimaattoriksi. LisÄaksi, jos sille päatee: LisÄaksi päatee, ettäa OLS-estimaattori on tarkentuva (Consistent) tehokas, jos residuaalitermit u i ovat normaalisti jakutuneita. harhaton varianssi on pienin tarkasteltavan parametrin lineaaristen ja harhattomien estimaattoreiden joukossa Huom. BLUE pitäaäa sisäalläaäan sen, ettäa OLS estimaattorit ovat harhattomia. niin kyseinen estimaattori on BLUE. 42 Gauss-Markov Theorem: Parametrien ja lineaarisista harhattomista estimattoreista OLS estimaattoreiden ^ ja ^ varianssit ovat pienimmäat 43

4 2.4 Estimoinnin tarkkuus Estimaattorin tarkkuutta mitataan estimaattorin keskivirheelläa (standard error). ^ = var(^) 2^ = = u 2 (Xi ¹X) 2, jossa u 2 =var(u i ). Korvaamalla u 2 sen estimaattorilla s 2 u = 1 n (Y i ^Y i ) 2 n 2 i=1 ja ottamalla neliäojuuri saadan ^:n keskivirheestimaattori s^ = s u (Xi ¹X) 2. Vastaavalla tavalla leikkaustemin ^ keskivirheestimaattoriksi tulee s^ = s X 2 i u n (X i ¹X) 2 = s 1 u n + ¹X 2 (Xi ¹X) HT: Miten muuttujien skaalaus vaikuttaa keskivirheisiin? Huom. Kuten aiemmin on todettu, Gauss- Markov teoreeman mukaan, jos lineaarisen regression oletukset 1{5 ovat voimassa, niin OLS estimaattorit ovat BLUE eli niilläa on lineaarisista harhattomista estimaattoreista pienin varianssi. Jos residuaalitermi on likipitäain normaalijakautunut, saadaan keskivirheiden avulla muodostettua mm. luottamusväalit. 1(1 p)-prosentin luottamusväalit : : ^ ± t 12 p s^ ^ ± t 12 p s^, jossa t p on t-jakauman taulukkoarvo vapausasteilla n 2(havaintojenlkm-estimoitujen parametrin lkm) Selitysaste e i =^u i = Y i ^Y i Esim. (NeliÄohintadata) df =14 2 = 12, s^ =46.84 ja s^ = prosentin luottamusväaleiksi saadaan, kun t.25 (12) = ^ ± t.25 s^ =22.6 ± eli (79.46, ) Vastaavasti :n 95 prosentin luottamusväaliksi saadaan (.42,.146). HT: Laske luottamusväalit, kun rahayksikkäonäa oneuro ja pinta-alana neliäometri. Y i ¹Y =(^Y i ¹Y )+(Y i ^Y i )=(^Y i ¹Y )+e i Korotetaan neliäoäon ja summataan (Yi ¹Y ) 2 = (^Y i ¹Y ) 2 + e 2 i +2 (^Y i ¹Y )e i = = (^Y i ¹Y ) 2 + (Y i ^Y i ) 2 SST = SSR + SSE Huom. Leikkaustermin luottamusväali sisäaltäaäa nollan. LuottamusvÄaleistÄa enemmäan tuonnempana. Selitysaste R 2 = SSR SSE =1 SST SST. Voidaan osoittaa, ettäa rxy 2 = R 2 täassäa yhden selittäajäan regressiomallissa

5 z Y Yleistys: usean selittäajäan regressioanalyysissäa yhteiskorrelaatiokertoimen (multiple correlation) neliäo (R 2 = r 2 y^y ). Huom. Vain yksi, joskin ehkäa käaytetyin mallin (teknisen) hyvyyden mitta. Esim. (jatkoa) R 2 =.563. HT: Vaikuttaako muuttujien skaalaus selitysasteeseen? Osoita todeksi väaittäamäasi. Saattaa esimerkiksi olla, ettäa kahdella mallilla virhetermin suuruuta kuvaava hajonta (s u ) on sama, mutta selitysasteet ovat eri suuria. TÄallÄoin mallien hyvyydet absoluuttisella tarkkuudella mitattuna ovat samat vaikka selitysaste toisessa onkin korkeampi. Esim. Selitysaste ja residuaalihajonta. y x z u y = a + b x + e X z = c + d x + e x y = a + b x + e SUMMARY OUTPUT ANOVA df SS MS F P-val Regression Statistics Regression 1 Multiple R.86 Residual R Square.75 Total Adj R Squa.74 Std Err 1.4 Coeff Std Err Stat t P-value Observatio 29 Intercept X Variable z = c + d x + e SUMMARY OUTPUT ANOVA df SS MS F P-val Regression Statistics Regression Multiple R.46 Residual R Square.21 Total Adj R Squa.18 Std Err 1.4 Coeff Std Err Stat t P-value Observatio 29 Intercept x Normaalisuusoletus LisÄatÄaÄan oletuksiin (1{5) 6. u i N(, 2 u). Normaalisuusoletus on usein perusteltavissa keskeisen raja-arvolauseen kautta. JÄaÄannÄostemin jakaumaoletuksesta seuraa estimaattoreiden jakaumaominaisuudet! X 2 ^ N, i n (X i ¹X) 22 u ^ 2 u N, (Xi ¹X) 2 jossa ^Y X N + X, 2^y, 2^y = 1 n + (X ¹X) 2 (Xi ¹X) 2 2 u. 5 Esimerkiksi ^ z = (Xi N(, 1). u / ¹X) 2 Kun u korvataan estimaattorillaan s u, niin ^ t = (Xi s u / ¹X) t n2, 2 jossa s 2 u = 1 e 2 n 2 i. SiispÄa: Residuaalin jakaumasta seuraa estimaattoreiden jakaumat. NÄaille puolestaan perustuvat luottamusväalien laskeminen ja tilstollisten testien muodostaminen. NÄaistÄa syistäa on täarkeäaäa, ettäa tarkistetaan residuaalitermin normaalisuusoletuksen paikkansapitäavyys, jotta testien ja luottamusväalien antamat tuloksetolisivatkäayttäokelpoisia. HT: Miten muuttujien skaalaus vaikuttaa t- jaz-testi- suureisiin? Osoita todeksi väaittäamäasi. 51

6 2.7 Kertoimien luottamusväalit 2.8 Kertoimien testaus Tilastolliset hypoteesivaihtoehdot: Y = + X + u. LuottamusvÄali :lle ^ P ( <t 1 ) =1 p, s^ 2 p eli P (^ t 12 p s^ < < ^ + t 12 p s^ ) =1 p. :n 1(1p) prosentin luottamusväaliksi saadaan siis ^ ± t 12 p s^. Tulkinta! (ks. kuvio) H : = H 1 : = tai H : H 1 : > tai H : H 1 : < Esim. SQFT-data H : H 1 : > t =.94 =3.932, p-val =.2 <.1,.24 joten H hyläatäaäan ja > (eipäalieneylläatys!) Vastaavalla tavalla saadaan -parametrin p- arvoksi.638, joten ^ ei ole tilastollisesti merkitseväa! p-arvo (p-value): Merkitsevyystaso eli ensimmäaisen lajin virheen todennäakäoisyys p-arvo = P (HylÄatÄaÄan H H on tosi), joka siis ilmaisee todennäakäoisyyden riskille, ettäa hyläatäaäan H vaikka se on tosi (hylkäaysvirhe). Tietokoneen testin yhteydessäa laskemap-arvo ilmaisee pienimmäan merkitsevyystason, jolla H voitaisiin hyläatäa. Tavanomisesti käaytettyjäa merkitsevyystasoja ovat.5,.1 tai.1, joten jos laskettu p-arvo on pienempi kuin esimerkiksi.5 hyläatäaäan H viiden prosentin merkitsevyystasolla. Esim. SQF-data H : = H 1 : = Excel-tulostuksesta: p-val =.2 <.1, joten todetaan, ettäa kerroin poikkeaa tilastollisesti merkiteväasti nollasta. Sensijaanleikkaustermin tapauksessa p-val =.638, joten jos hylkäaäamme nollahypoteesin, ettäa =ottaisimme 64 prosentin riskin hyläatäa väaäarin perustein kyseinen hypoteesi. Emme kuitenkaan tee niin vaan päaäattelemme, ettäa leikkaustemi on nolla ANOVA-taulu Yleiseksi tavaksi on tullut, ettäa kokonaisneliäosumman SST hajoitelma kootaan varianssianalyysin tauluun (ANOVA ANalysis Of VAriance): 54 55

7 Source df SS MS F p-value Regression p SSR Residual n p 1 SSE Total n 1 SST SSR p SSE (np1) SSR SSE np1 p P (F >F obs ) 2.1 Ennustaminen Olkoon X annettu X:n arvo. saadaan ennustearvo Silloin Y :lle missäa p on selittäavien muuttujien lukumäaäaräa mallissa. joka on mallin ^Y =^ + ^X, Huom. F -testi testaa koko regression merkitsevyyttäa, joka yhden selittäajäan tapauksessa on sama kuin regressiokertoimen t-testi. PÄatee: t 2 = F (1,n 2). Ei kuitenkaan, jos selittäajiäa on useampia. Esim. SQF-data. Housing price data from Ramanathan (1993) Price SQFT SUMMARY OUTPUT Obs Y X 1 Regression Statistics Multiple R R Square Adj R Square Std Err Obs ANOVA df SS MS F Signf F Regression Residual Total Coeff Std Err t Stat P-value Intercept SQFT systemaattisen osan Y = + X + u E(Y )= + X paras lineaarinen harhaton estimaattori (BLUE), kun X = X. On kuitenkin huomattavaa, ettäa ^Y :aa ei voida pitäaäa Y :n BLUE:na! Se ei ole edes Y :n harhaton estimaattori, silläa E(^Y )=+X = Y = + X + u,josu =. 57 Kuitenkin, koska X:n arvolla X päatee E(u )=E(Y ^Y )=, niin voidaan ennustetta ^Y pitäaäa siinäa mielessäa Y :n harhattoman estimaattorina, ettäa ennustevirheen odotusarvo on nolla. Voidaan osoittaa, ettäa ennusteella ^Y on täallaisten estimaattoreiden joukossa pienin varianssi. TÄamÄan vuoksi sanotaan, ettäa ^Y on Y :n paras lineaarinen harhaton ennuste (BLUP = Best Linear Unbiased Predictor). Ennusteen luottamusväali Yleiseti varianssille Var( ^Y ) päatee 1 Var( ^Y )= n + (X ¹X) 2 (Xi ¹X) 2 u, 2 jonka estimaattori saadaan korvaamalla tuntematon parametri u 2 estimaatillaan s 2 u. TÄaten saadaan yleiselläa X:n arvolla odotusarvon E(Y X) eli regressiosuoran luottamusväaliksi E(Y X) : ^Y ± t 12 p s 1 u n + (X ¹X) 2 (Xi ¹X) 2 YksittÄaisen havainnon luottamusväaliksi tulee puolestaan: Y : ^Y ± t 12 p s 1 u 1+ n + (X ¹X) 2 (Xi ¹X)

8 Esim. SQF-Data Ennusteiden vertailu: Confidence intervals Housing prices per square feets. Price i ($1) SQFT Housing prices vs Area R Square Area Adj R Sqr.527 s No of Obs 14 Price ANOVA df SS MS F P-value Regression 1 Residual Total Std err t Stat Coeff P-value Intercept X Variable RESIDUAL OUTPUT Prediction intervals E(Y X) Y X Obs Pred Price Residuals L95% U95 L95 U Mean absolute error (MAE): MAE = 1 n Yi ^Y i Mean absolute percentage error (MAPE): MAPE = 1 1 Y i ^Y i. n Y i Mean Square Error (MSE): MSE = 1 n (Yi ^Y i ) 2. Root Mean Square Error (RMSE): RMSE = MSE Aikasarja-aineistossa (Y t ) Theilin U: U = Tt=1 (Y t ^Y t ) 2 Tt=2 (Y t Y t1 ) U vertaa ennustetta naiviin menetlemäaäan, jossa seuraavan periodin ennustearvo on sama kuin nykyinen arvo, eli Enn(Y t+1 )=Y t. TÄaten jos U<1, niin ^Y t ennustaa paremmin kuin vakioennuste U = 1, sama jos ennustetaan nykyiselläa arvolla U>1, naiivi ennuste on parempi. Huom. U on käayttäokelpoinen vain aikasarjaaineistossa. YleensÄa näaitäa käaytetäaäan vertaamaan eri menetelmilläa saatuja ennusteita keskenäaäan. Esim. Cultorin liikevaihto Cultor Oy:n liikevaihto [ ] Cultor Liikevaihto Vuosi Liikevaihto LN(lv) t Trendi ennuste Tasaisen kasvun Regressioestimaatit vuosilta SUMMARY OUTPUT Regression Statistics v t = (1+g ) t v u t Multiple R.993 y t = + t + t, R Square.986 jossa y t = ln(v t), = ln(v ) Adjusted R Square.984 ja = ln(1+g) ja t = ln(u t) Standard Error.36 Observations 1 ANOVA df SS MS F Signif F Regression Residual 8.1. Total 9.74 Coeff Std Error t Stat P-value Intercept t ==> Kasvu % 9.85 RESIDUAL OUTPUT Ennusteet vuosille Year Pred LN(lv) Pred LV Ennuste Virheet Vuosi Tot Trendi Tas-kasv Trendi m Tas kasv LV t-lv t Trendi Tas-kasvu Naiivi MAE MAPE (% MSE RMSE U

9 Esim. Suomen kansantalouden kasvu: 2.11 EpÄalineaariset riippuvuussuhteet year Muutos-% Ennuste-% LCL-5% UCL-5% SAS-estimates from data for Variable Coeff Std Error t Ratio p-val Intercept time A(1) A(2) Maximum Likelihood Estimates SSE.11 DFE MSE. Root MSE SBC AIC Reg Rsq.93 Total Rsq Durbin-Wats Tutkimuslaitosten ennusteet ETLA Merita OECD Osuusp 2.5 na Sampo PTT PT VM Average Std Suomen talouskasvun muutokset (%) 1 BKT muutos % Muutos % Kasvuennuste % LCL-5% UCL-5% 64 Lineaarista regressiomallia voidaan soveltaa kunhan vain malli on muunnettavissa lineaariseen muotoon. Esim. Oletetaan, ettäa muuttuja P t kasvaa ajan funktiona tasaisesti. Eli P t =(1+g) t P, jossa P on P :n arvo alkuhetkelläa. Ottamalla logaritmit ln P t = lnp + t ln(1 + g) ja mäaäarittelemäalläa Y t =lnp t, 7 =lnp, X t = t ja =ln(1+g), sekäa lisäaäamäalläa malliin satunnaiskomponentti saadaan Y t = + X t + u t. Eli lineaarinen malli. Huom! Logaritmisessa muodossa perusolettamusten mukaan E(u t ) =. Kuitenkin siirryttäaessäa alkuperäaisiin havaintoihin on malli muotoa ~P t = (1 + g) t P w t, jossa w t = e ut. Jotta E( ~P t) = P t olisi oltava E(w t) = 1. Kuitenkin, voidaan osoittaa, ettäa jos u t N(, 2 ), niin E(w t)=e(e ut )=e TÄamÄan vuoksi ennustettaessa käaytetäaäan korjausta ^P t+1 = exp(^ + ^t) exp( 1 2 s2 )), jossa s 2 on 2 :n estimaattori. 65 Muuntamalla takaisin saadaan estimoinnin jäalkeen laskettua ennusteet alkuperäaisille muuttujille. Esim. ^g = e^ 1. Cultor-esimerkissÄa vuosien 1983{92 havaintoihin perustuen ^ =.94, joten ^g = e.94 1 =.99 eli 9.9%. Vastaavalla tavalla voidaan linearisoida muitakin epäalineaarisia yhtäaläoitäa. Kaikkia epäalineaarisia malleja ei kuitenkaan voida aina linearisoida. Esim. Oletetaan, ettäa asunnon hankinnassa ihmiset arvostavat asuinpinta-alan lisäaystäa suuremmissa asunnoissa väahemmäan kuin pienissäa. ErÄas mahdollinen malli on silloin P i = + ln(sqf) + u i. Parametrin tulkinta? Nyt dp dsqf = 1 SQF eli P = (SQF) SQF. Toisin sanoen ilmaisee hinnan muutoksen (satoina tuhansina dollareina), kun asuinpinta-ala muttuu yhdelläa prosentilla 66 67

10 Muita mallivaihtoehtoja: (1) P i = + SQFT i + u i (linear model) (2) P i = + ln SQFT i + u i (linear-log model) (3) ln P i = + SQFT i + u i (linear-log model) (4) ln P i = + ln SQFT i + u i (log model) (5) P i = + SQFT i + u i (square root) etc. (1) (2) (3) (4) (5) Derivaatta dp dsqft = dp dsqft = 1 dp SQFT dsqft = P dp dsqft = P SQFT dp dsqft = SQFT Jousto E = SQFT P E = 1 P E = SQFT E = E = 1 2 SQFT P Esim. Linaarinen malli (1) Esim. Lin-log malli (2) House Prices (Linear model) Housing (lin-log model) SUMMARY OUTPUT 3 Housing prices vs Area Regression Statistics 25 Multiple R R Square Adj R Sqr s Area No of Obs ANOVA df SS MS F P-value Regression 1 Residual Total Price Coefficientstandard Err t Stat P-value Intercept X Variable SUMMARY OUTPUT 3 ln(sqft) Line Fit Plot 25 Regression Statistics Multiple R R Square Adjusted R Standard E ln(sqft) Observatio ANOVA df SS MS F ignificance F Regression Residual Total Coefficientstandard Err t Stat P-value Intercept ln(sqft) Price RESIDUAL OUTPUT RESIDUAL OUTPUT PROBABILITY OUTPUT Obs Pred Price SQF Residuals Elasticity Elasticity Obs Pred price Resid Elasticity Percentile Price Residual plot Normal Probability Plot ln(sqft) Residual Plot Residuals Area -5 Price Sample Percentile Residuals ln(sqft) 7 71

11 Esim. Log-log malli (4) 2.12 Regressioanalyysin tulosten esittäaminen House prices (Log-log model) SUMMARY OUTPUT 3 Line Fit Plot Regression Statistics Orig Data 25 Multiple R R Square Adjusted R Standard E Observatio ANOVA df SS MS F P-value Regression 1 Residual Total Coefficients Std Error t Stat P-value Intercept ln(sqft) Elasticity = RESIDUAL OUTPUT PROBABILITY OUTPUT Percentile ln(price) Observationdicted ln(pr Residuals Pred Price Price Resid Residuals ln(sqft) Residual Plot ln(sqft) Price ln(price) SQFT Normal Probability Plot Sample Percentile Analyysin tulokset esitetäaäan vaihtelevilla tavoilla. Yksi yleinen tapa on esittäaäa estimoitu regressioyhtäaläo ja laittaa t-tunnusluvut tai keskivirheet (tai p-arvot) kertoimien alle sulkuihin. Esim. ^P = SQFT (.483) (3.93) R 2 =.563, df = 12, F =15.459, s =37.484, missäa t-arvo suluissa. Toinen, usein jopa käayttäokelpoisempi tapa, on esittäaäa tulokset taulukkossa. NÄain erityisesti, jos tarkastellaan useampia mallivaihtoehtoja tai mallissa on useita selittäaviäa muuttujia Esim. Taulukko. Assunon hinta (1 $) ja pinta-ala (neliäojalkaa) SelittÄavÄa Kerroin muuttuja estimaatti std err t-arvo p-arvo Vakio Pinta-ala Regressiotunnuslukuja R s F df 12 n Eri mallivaihtoehtojen selitysasteiden R 2 vertailu Usein joudutaan punnitsemaan eri funktiomuotoja keskenäaäan valittaessa lopullista mallia. Ei kuitenkaan ole oikein verrata selitysasteita kekenäaäan, jos riippuvat muuttujat ovat eri muuttujia (esim toisessa mallissa ln Y ja toisessa Y ). Jos ne ovat samoja, niin vertailu voidaan tehdäa. Heuristinen tapa: muunnetaan ensin samoiksi ja lasketaan korrelaatiot Y :n ja ^Y :n väalilläa ja verrataan näaiden neliäoitäa kekenäaäan

12 Toinen mahdollisuus on verrata virhevariansseja s 2 u = 1 (Yi ^Y i ) 2 n 2 keskenäaäan. Huom. TÄassÄakin on ensin tehtäaväa muunnos alkuperäaiseen malliin takaisin. Kolmas tapa valita malli eri funktiomuotojen väalilläa on tilastollinen testaus. YleispÄatevÄaÄa tilastollista testiäa ei ole, mutta joissakin erikoistapauksissa testaus käay päainsäa. Usein lineaarisen preusmallin Y i = + 1 X i + i vaihtoehtona on logariminen malli (log-lineaarinen malli) y i = + i x i + i, jossa y i =logy i ja x i =logx i. MerkitÄaÄan ja ja olkoon n SSE L = (Y i ^Y i ) 2 i=1 n SSE LL = (y i ^y i ) 2, i=1 ¹Y g =(Y 1 Y 2 Y n ) 1/n Y : n geometrinen keskiarvo, silloin voidaan osoittaa, ettäa n 2 log SSE L/¹Y 2 g SSE LL on asymptoottisesti 2 jakautunut vapausasteella 1, jos molemmat mallit sopivat yhtäa hyvin havaintoaineistoon Esim. Asuntojen hintojen geometrinen keskiarvo ¹Y g = $ Lineaarisen mallin SSE L = ja logmallin SSE LL =.3412, joten Esim. Tarkastellaan auton nopeuden ja jarrutusmatkan väalistäa yhteyttäa. n SSEL/¹Y 2 2 log g = 14 SSE LL 2 log / = arvoa vastaava p-arvo yhdelläa vapausasteella on p =.18, joten molemmat mallit ovat empiirisesti yhtäa hyviäa. ObservationDistance Speed Distance Speed vs Distance Speed 78 79

13 Aineistoon voidaan sovittaa useita erilaisia mallivaihtoehtoja, jota ovat tilastollisilta ominaisuuksiltaan likipitäain ekvivalentteja. Kuitenkin täassäa voidaankäaytäaäa hyväaksi myäos teoreettista tietäamystäa: Fysiikan lakien mukaan teoreettinen etäaisyys jarrutushetkestäa on verrannollinen nopeuden neliäoäon. TÄaten teoreettinen jarrutusmatka on 1 S 2. TÄamÄan lisäaksi matkaan vaikuttaa kuljettajan reaktionopeus ennen kuin häan merkin tultua tajuaa painaa jarrua. TÄanÄa aikana auto ehtii kulkea matkan S, jossa on keskimäaäaräainen reaktioaika. Kunkin yksiläon reaktioaika voidaan ajatella olevan +, jossa kuvaa yksiläon poikkeamaa keskiarvosta ja Var (e) = 2 (sama kaikilla yksiläoilläa). TÄaten sopiva malli on D = S + 1 S 2 + u Huom. Residuaalitermi on muotoa u = S, jossa on reaktioajan residuaali Reaktioaika vaihtelee henkiläostäa toiseen jonkin verran satunnaisesti, odotusarvona ja varianssina 2. TÄaten regressiotermiin se aiheuttaa heteroskedastisuutta. Toisin sanoen edelläa olevan regressiomallin jäaäannäosvarianssi on muotoa S Estimoidut mallit. Kuvio: Lineaarinen malli. Estimates of both models Original data Regression Statistics Multiple R.81 R Square.65 Adjusted R Square.64 Standard Error Observations Linear model D = + S + e ANOVA df SS MS F Significance F Regression 1 Residual Total Coefficients Standard Error Stat P-value t Intercept -2.6 Speed Distance Transformed data Regression Statistics Regression Statistics Multiple R R Square Adjusted R Square Standard Error Observations Speed Speed Residual Plot ANOVA (Transformed data) df SS MS F Significance F Regression Residual Total Coefficients Standard Error P-value t Stat Intercept 2.96 Speed Coeffisicents for the untransformed model Coefficients Standard Error t Stat P-value Speed Speed Squared Residuals Speed 82 83

14 Kuvio: EpÄalineaarinen malli Speed vs Distance Residuals Residuas of D = S + 1 S 2 + u Predicted distance 84