MS-A0205/MS-A0206 Differentiaali- ja integraalilaskenta 2 Luento 7: Lagrangen kertojat. Pienimmän neliösumman menetelmä.

Transkriptio

1 MS-A0205/MS-A0206 Dfferentaal- ja ntegraallaskenta 2 Luento 7: Lagrangen kertojat. Penmmän nelösumman menetelmä. Jarmo Malnen Matematkan ja systeemanalyysn latos 1 Aalto-ylopsto Kevät Perustuu Antt Raslan luentomonsteeseen vuodelta Jarmo Malnen (Aalto-ylopsto) MS-A0205/MS-A0206 Kevät / 19

2 Lagrangen kertojat 1/3 Usen optmonttehtävssä halutaan asettaa rajotusehtoja optmotavlle muuttujlle. Tyypllnen esmerkk tällasesta tehtävästä on peltpurkn muodon optmont: Halutaan mnmoda purkn pnta-ala (el käytetty materaal) A(h, r) = 2πrh + 2πr 2 nn, että tlavuus V (r, h) = πr 2 h on vako. Duaaltehtävä: Halutaan maksmoda purkn tlavuus V (r, h) sten, että pnta-ala A(h, r) on vako. Prmaal- ja duaaltehtävllä on sama ratkasu. Tämän sanoo maalasjärkkn, mutta tse asassa ratkasuun johtavat yhtälötkn ovat (olennasest) samoja. Jarmo Malnen (Aalto-ylopsto) MS-A0205/MS-A0206 Kevät / 19

3 Lagrangen kertojat 2/3 Mnmo f (x, y) ehdolla g(x, y) = 0. Havataan, että mkäl ongelmalla on ratkasu, nn ratkasupsteessä (a, b) vektoren f ja g on oltava joko yhdensuuntasa ta vastakkassuuntasa (mkäl g(a, b) 0). Mks? Koska muussa tapauksessa funktolla f ols nollasta pokkeva suunnattu dervaatta käyrän g(x, y) = 0 tangentn suuntaan psteessä (a, b), ja ss mnm e vo olla psteessä (a, b). Entä jos tehtävänä ols maksmoda f (x, y) ehdolla g(x, y) = 0? Entä jos tehtävänä ols maksmoda g(x, y) ehdolla f (x, y) = c? Jarmo Malnen (Aalto-ylopsto) MS-A0205/MS-A0206 Kevät / 19

4 Lagrangen kertojat 3/3 Mkäl optmpste on olemassa, se on Lagrangen funkton L(x, y, λ) = f (x, y) + λg(x, y) krttnen pste (el gradentn nollakohta). Menetelmä ylestyy myös useammalle muuttujalle. Esmerkks kolmen muuttujan tapauksessa Lagrangen funkto on L(x, y, z, λ, µ) = f (x, y, z) + λg(x, y, z) + µh(x, y, z), mssä f on mnmotava funkto ja rajote-ehdot ovat g(x, y, z) = 0 sekä h(x, y, z) = 0. Jarmo Malnen (Aalto-ylopsto) MS-A0205/MS-A0206 Kevät / 19

5 Esmerkk 1 1/2 Mnmodaan funkto f (x, y) = x 2 + y 2 ehdolla g(x, y) = x 2 y 16 = 0. Muodostetaan Lagrangen funkto Yhtälöt krttslle pstelle ovat L(x, y, λ) = x 2 + y 2 + λ(x 2 y 16). 0 = L = 2x(1 + λy), x 0 = L y = 2y + λx2, 0 = L λ = x2 y 16, josta vmenen on ana tse rajotusehto. Jarmo Malnen (Aalto-ylopsto) MS-A0205/MS-A0206 Kevät / 19

6 Esmerkk 1 2/2 Ensmmäsestä yhtälöstä saadaan x = 0 ta λy = 1, mutta x = 0 on rstrdassa kolmannen yhtälön kanssa. Sten tosesta yhtälöstä 0 = 2y 2 + λyx 2 = 2y 2 x 2. Tästä saadaan edelleen x = ± 2y, ja 2y 3 = 16 el y = 2. Äärarvoja (mahdollsa mnmejä) on ss kaks (x, y) = (±2 2, 2). Ptää selvttää mulla kenon, ovatko mnmejä va maksmeja. Jarmo Malnen (Aalto-ylopsto) MS-A0205/MS-A0206 Kevät / 19

7 Esmerkk 2 Yrtetään etsä Lagrangen kertojen menetelmällä funkton f (x, y) = y mnm ehdolla g(x, y) = y 3 x 2 = 0. Selväst nähdään, että mnm f (x, y) = 0 saavutetaan psteessä (0, 0). Muodostetaan Lagrangen funkto Saadaan yhtälöt L(x, y, λ) = y + λ(y 3 x 2 ). 2λx = 0, 1 + 3λy 2 = 0, ja y 3 x 2 = 0. Nämä yhtälöt ovat keskenään rstrdassa, joten ratkasua nlle e ole. Huomaa, että g(0, 0) = 0 mnmpsteessä. Tästä nähdään, Lagrangen kertojat näkevät äärarvoja van pstessä, jossa g(0, 0) 0. Jarmo Malnen (Aalto-ylopsto) MS-A0205/MS-A0206 Kevät / 19

8 Esmerkk 3 1/4 Etstään äärarvot funktolle f (x, y, z) = xy + 2z ehdolla x + y + z = 0 ja x 2 + y 2 + z 2 = 24. Koska f on jatkuva ja annettujen lekkausjoukkojen lekkaus on ympyrävva (el rajotettu ja suljettu joukko), nn äärarvot ovat olemassa. Muodostetaan Lagrangen funkto L(x, y, z, λ, µ) = xy + 2z + λ(x + y + z) + µ(x 2 + y 2 + z 2 24). Jarmo Malnen (Aalto-ylopsto) MS-A0205/MS-A0206 Kevät / 19

9 Esmerkk 3 2/4 Lagrangen funkton osttasdervaatosta saadaan yhtälöt y + λ + 2µx = 0, x + λ + 2µy = 0, 2 + λ + 2µz = 0, x + y + z = 0, ja x 2 + y 2 + z 2 24 = 0. Kahden ensmmäsen yhtälön erotus johtaa yhtälöön (x y)(1 2µ) = 0, joten joko µ = 1/2 ta x = y. Tutktaan molemmat tapaukset. Jarmo Malnen (Aalto-ylopsto) MS-A0205/MS-A0206 Kevät / 19

10 Esmerkk 3 3/4 Tapaus I (µ = 1/2): Tosen ja kolmannen yhtälön perusteella x + λ + y = 0 ja 2 + λ + z = 0, ss x + y = 2 + z. Neljännestä yhtälöstä saadaan z = 1 ja x + y = 1. Vmesen yhtälön perusteella x 2 + y 2 = 24 z 2 = 23. Koska x 2 + y 2 + 2xy = (x + y) 2 = 1, saadaan 2xy = 1 23 = 22 ja xy = 11. Nyt (x y) 2 = x 2 + y 2 2xy = = 45, joten x y = ±3 5. Yhdessä yhtälön x + y = 1 tästä saadaan kaks krttstä pstettä P 1 = ( (1+3 5)/2, (1 3 5)/2, 1 ) ja P 2 = ( (1 3 5)/2, (1+3 5)/2, 1 ). Kummassakn psteessä f (x, y, z) = 11 2 = 13. Jarmo Malnen (Aalto-ylopsto) MS-A0205/MS-A0206 Kevät / 19

11 Esmerkk 3 4/4 Tapaus II (x = y): Neljännestä yhtälöstä nähdään, että z = 2x, ja vmesen yhtälön perusteella 6x 2 = 24 el x = ±2. Nän ollen, krttset psteet ovat Saadaan P 3 = (2, 2, 4) ja P 4 = ( 2, 2, 4). f (2, 2, 4) = 4 8 = 4 ja f ( 2, 2, 4) = = 12. Sten funkton f maksm on 12 ja mnm 13. Jarmo Malnen (Aalto-ylopsto) MS-A0205/MS-A0206 Kevät / 19

12 Regresso-ongelma Regressoanalyysssa pyrtään valtsemaan parametrn β arvo sten, että käyrä y = f (x; β) kulks mahdollsmman läheltä jokasta havantopstettä (x j, y j ) R 2, j = 1, 2,..., n. Tällasta optmaalsest valttua käyrää kutsutaan regressomallks y = f (x; β), jossa funkton f muoto on valttu tlanteen ja harknnan mukaan. Kunhan f valttu, nn eräs ratkasu käyränsovtusongelmaan on penmmän nelösumman menetelmä. Jarmo Malnen (Aalto-ylopsto) MS-A0205/MS-A0206 Kevät / 19

13 Penmmän nelösumman menetelmä Penmmän nelösumman menetelmässä pyrtään mnmomaan regressomalln vrhetermen ε j ε j = y j f (x j ; β), j = 1, 2,..., n nelösummaa el funktota F (β) = n ε 2 j = j=1 n ( yj f (x j ; β) ) 2. muuttamalla parametrvektorn β = (β 0, β 1,..., β m ) arvoa. Optmaalnen β:n arvo on parametrn β penmmän nelösumman estmaatt el PNS-estmaatt. Kysymys: Mks e mnmotas lauseketta n j=1 y j f (x j ; β) nelösumman sjasta? j=1 Jarmo Malnen (Aalto-ylopsto) MS-A0205/MS-A0206 Kevät / 19

14 PNS-sovtus ε j (x j,y j) Kuvassa vhreällä parametresta β = (β 1, β 2,..., β m ) rppuva sovtettava funkto f (x; β) eräällä knteällä parametrn arvolla. Datapsteet (x j, y j ) ja vastaavat vrhetermt ε j, kun j = 1,..., n. Jarmo Malnen (Aalto-ylopsto) MS-A0205/MS-A0206 Kevät / 19

15 Lneaarnen regresso 1/2 Lneaarsessa regressossa f (x; β) = β 0 β 1 x jossa β = (β 0, β 1 ) ja nelösumma on F (β 0, β 1 ) = (y β 0 β 1 x ) 2. Etstään pste (β 0, β 1 ) sten, että F (β 0, β 1 ) = 0. Lasketaan osttasdervaatta F (β 0, β 1 ) = 2 ( β 1 x + nβ 0 β 0 y ). Ratkastaan nollakohta β 0 = 1 n y β 1 n x = ȳ β 1 x mssä x on datavektorn x = (x 1, x 2,..., x n ) komponentten artmeettnen keskarvo. Jarmo Malnen (Aalto-ylopsto) MS-A0205/MS-A0206 Kevät / 19

16 Lneaarnen regresso 2/2 Lasketaan seuraavaks osttasdervaatta F (β 0, β 1 ) = 2 ( β 0 x + β 1 β 1 x 2 x y ). Sjottamalla β 0 :n lauseke, saadaan n xȳ nβ 1 x 2 + β 1 x 2 x y = 0. Ratkastaan nollakohta β 1 = n xȳ x y n x 2 x2 Tarksta jälkmmänen yhtälö! = (x x)(y ȳ) (x x) 2. Jarmo Malnen (Aalto-ylopsto) MS-A0205/MS-A0206 Kevät / 19

17 Esmerkk 4 Sovta PNS-suora dataan Estmo (ekstrapolo) y kun x = 5. x y Saadaan x = 2.0, ȳ = 1.842, ja β 1 = = Sten β 0 = = Nän ollen y = 0.113x , ja haluttu estmaatt psteessä x = 5 on y = = Jarmo Malnen (Aalto-ylopsto) MS-A0205/MS-A0206 Kevät / 19

18 Esmerkk 5: Tosen asteen sovtus 1/2 Tutktaan lsäaneen määrän x vakutusta kuvumsakaan y. Er lsäaneen määrllä x (grammaa) saatn kuvumsajat y (tunta), = 1,..., 9: x y Huomataan, että kuvumsajan rppuvuus lsäaneen määrästä on epälneaarsta. Mnmkohdan estmomseks sovtetaan havantohn paraabel y = β 0 + β 1 x + β 2 x 2. Penmmän nelösumman yhtälöryhmä malllle on β k (y β 0 β 1 x β 2 x 2 ) 2 = 0, k = 0, 1, 2. Jarmo Malnen (Aalto-ylopsto) MS-A0205/MS-A0206 Kevät / 19

19 Esmerkk 5: Tosen asteen sovtus 2/2 Nästä saadaan yhtälöryhmä nβ 0 + β 1 x + β 2 x 2 = y, β 0 x + β 1 x 2 + β 2 x 3 = x y β 0 x 2 + β 1 x 3 + β 2 x 4 = x 2y. Laskemalla yhtälöryhmän kertomet havannosta saadaan 9β β β 2 = β β β 2 = β β β 2 = Ratkasuna ovat β 0 = 11.15, β 1 = ja β 2 = Penmmän nelösumman melessä parhaten havantohn lttyvä paraabel on ss y = x x 2. Jarmo Malnen (Aalto-ylopsto) MS-A0205/MS-A0206 Kevät / 19