14. Lokaali approksimointi. Neliömuodot. Hessen matriisi.

Transkriptio

1 1 MAT LAAJA MATEMATIIKKA 4 Tmperee tekillie yliopisto Risto Silveoie Kevät Lokli pproksimoiti. Neliömuodot. Hesse mtriisi. Seurvss o lyhyeä esitykseä kirj luvuss 14 olev teori. Lähestymistp ero hiem kirjst, mutt joht smoihi lopputuloksii. Plutet mielii derivt määritelmä relifuktiolle: Fuktio f : derivtt f ( x ) pisteessä x o, jos erotusosmäärä rj-rvo f x+ h f x lim h 0 ( ) ( ) h o olemss j =. Tämä void kirjoitt muotoo f ( x+ h) f( x) = h+ ε( h) h, missä ε( h) 0, ku h 0. Ku muuttuj s lisäykse h, fuktio muutos o siis h: lierie luseke h plus h: muk oll meevä jääöstermi. Tällöi sot myös, että fuktio f o pisteessä x differetioituv. Fuktio f derivtt o siis muutokse h kerroi. Tämä omiisuus voitisii ott erotusosmäärä rj-rvo semst derivt määritelmäksi. Kosk differetioituvuude käsite ei käytä jkolsku, se o mhdollist yleistää vektorimuuttujie fuktioille.

2 2 Fuktio f : o differetioituv pisteessä x, jos f:lle o siiä voimss kehitelmä eli h1 h2 f( x+ h) f( x) = ε( h) h h f( x+ h) f( x) = T h+ ε( h) h. Silloi f ( x) x1 1 f ( ) x 2 x2 = = f ( x), fuktio f grdietti pisteessä x. f ( x) x Differetilikehitelmä lierisess osss h: kertoj o yt mtriisi 1 2. Tätä sot vstvsti kute relifuktioillki fuktio f derivtksi pisteessä x j merkitää f ( x ). Siis f ( x) = f ( x ) T. Fuktio differetioituvuudest seursi siis osittisderivttoje olemssolo j yllä olev yhteys grdieti j derivt välille. Käätäe, jos fuktioll o jtkuvt osittisderivtt pisteessä x, ii f o siiä differetioituv. Silloi somme (kute kirjss) fuktiot jtkuvsti differetioituvksi. Epäjtkuvie osittisderivttoje tpuksess fuktio ei välttämättä ole differetioituv.

3 3 Differetilikehitelmää f ( x + h) f( x ) = f ( x ) h + ε( h) h käytetää usei fuktio f lierise pproksimtio pistee x0 ympäristössä merkitsemällä x= x0+ h, h= x x 0, ε( h) h 0: f ( x) f( x ) + f ( x )( x x ) Lusekett df ( x)( h) : = f ( x) h sot myös fuktio f differetiliksi. Geometrisesti lierie pproksimtio merkitsee tgettitso määräämistä fuktio kuvjpille. Ks. F ss tgettitsost j se muodostmisest. Neliömuodot. Defiiittisyys T Relirvoie fuktio F :, F( x) = x Ax o eliömuoto. Nimitys johtuu siitä, että uki kirjoitetuss lusekkeess esiityy vi muuttujie x i toise stee termejä: xt Ax = xx ij i j, i= 1 j= 1 missä eliömuodo mtriisi o A = ( ij ). Kyseessä o siis toise stee polyomi muuttujist x 1,, x (ilm esimmäise stee j vkiotermiä). Vihdisuude xixj = xjxi tki tämä esitys o tehtävissä moell tvll, esimerkiksi: F( x, x ): = x + 4x x + 5x = x + 3x x + x x + 5x = x + 2x x + 2x x + 5x

4 4 Niipä yksikäsitteisyyde iksmiseksi oki yleesä sovittu, että eliömuodo mtriisi A o symmetrie. Silloi siis kertoimet tvll jet ts tekijöide xixj, xjx i keske: ij = ji. Mtriisi A symmetrisyydestä sd sitte toki muutki hyötyä, kute viime luvuss todettii. Yllä olev esimerki oletusrvoie muoto o siis: x1 F( x1, x2): = x1 + 4x2x1+ 5 x2 = [ x1 x2] 2 5 x 2. Neliömuoto void i digolisoid muuttuj vihdoll digolimuotoo: T T 2 x Ax= y Dy = λiyi, i= 1 jost siis puuttuvt "ristikkäistermit" yy i j, i j. Tämä perustuu siihe, että symmetrisellä mtriisill A o reliset omiisrvot j A void digolisoid ortogolisell mtriisill Q: Kosk jolloi A x = Q y : T T = QDQ, sd vlitsemll uudeksi muuttujksi y = Q x, x T Ax= ( Qy) T A( Qy) = y T Q T AQy= y T Dy. Tässä esityksessä mtriisi Q rketuu mtriisi A ortoormleist omiisvektoreist j lävistäjämtriisi D lävistäjällä ovt A: omiisrvot. Muuokse vull void eliömuodo x T Ax määrittelemiä ilmiöitä tutki selkeämmästä "pääkselikoorditistoss" esitetystä muodost y T Dy.

5 5 Tällä tvll void esimerkiksi selvittää toise stee käyrie j pitoje tyypit. Tämä s. pääkseliprobleem oli ikisemmi yliopistoje peruskursseill perusteellisesti läpikäytävää luett, mutt tietokoegrfiik ohjelmistoje myötä se merkitys o huomttvsti vähetyyt. Esim. 1 Mitä tyyppiä o yhtälö 6x + 5x x 6x = 7 esittämä käyrä? Käyrä yhtälö o muoto x T A x = 7, missä eliömuodo mtriisi o 6 5/2 A = 5/2 6. Krkteristie yhtälö o 6 λ 5/ = λ 4 = 0, jost omiisrvot λ 12 =± 2. 5/2 6 λ Digolimuodoss yhtälö o siis y1 2 y2 7 =, jote kyseessä o hyperbeli. Symmetrie mtriisi A o positiivisesti semidefiiitti, jos kikill x o voimss x T Ax 0, j positiivisesti defiiitti, jos kikill x 0 o voimss x T Ax > 0. Vstvsti määritellää egtiivisesti (semi)defiiitti mtriisi toisesuutisill epäyhtälöillä. Jos mtriisi ei ole mitää äistä eljästä tyypistä, se o idefiiitti. Smoj termejä käytetää myös vstvst eliömuodost. Huomttkoo, että tällä tvll määriteltyä positiivisesti defiiitti mtriisi o myös positiivisesti semidefiiitti j egtiivisesti defiiitti myös egtiivisesti semidefiiitti. (Joskus kirjllisuudess si o toisi, eli iissä semidefiiittisyys sulkee pois defiiittisyyde. Esittämämme käytätö äyttää olev kuiteki yleisempi, j mhdollist merkitöje >, j <, johdomukise käytö.) Positiivisesti semidefiiittiä mtriisi merkitää usei A 0, smoi positiivisesti defiiittiä A>0, j vstvsti egtiivisesti semidefiiittiä j egtiivisesti defiiittiä A 0j A<0.

6 6 Määritelmä epäyhtälöistä defiiittisyysomiisuuksi o hkl päätellä (mutt miitut epäyhtälöt ovt sitte hyödyettävissä, ku mtriisi luoe tuet). Asi ähdää kuiteki helposti symmetrise mtriisi omiisrvoje vull vstv eliömuodo digolimuodost ( λ, 1 λ ovt A: omiisrvot), T 2 x Ax = λiyi. i= 1 Mtriisi A o - positiivisesti defiiitti omiisrvot ovt positiivisi - positiivisesti semidefiiitti omiisrvot ovt ei-egtiivisi - egtiivisesti defiiitti omiisrvot ovt egtiivisi - egtiivisesti semidefiiitti omiisrvot ovt ei-positiiviisi - idefiiitti omiisrvoj o sekä positiivisi että egtiiviisi Käyttämällä epäyhtälömerkkejä sd yllä olev si esitettyä tiiviisti: - A > 0 λi > 0, i - A 0 λi 0, i - A < 0 λ i < 0, i - A 0 λi 0, i - A idefiiitti i: λ > 0 & j: λ < 0. i j

7 7 Symmetrise mtriisi defiiittisyystyyppi void määrittää tpuksiss =2 j =3 helposti myös seurvist determittiehdoist (todistus sivuutet): Symmetrie mtriisi A = o positiivisesti semidefiiitti, jos j vi jos 11 0 j det( A) 0. Se o egtiivisesti semidefiiitti, jos j vi jos 11 0 j det( A) 0. Positiivise defiiittisyyde ehdot ovt 11 > 0 j det( A) > 0. Negtiivise defiiittisyyde ehdot ovt 11 < 0 j det( A) > 0. Symmetrie mtriisi A = o positiivisesti semidefiiitti, jos j vi jos lävistäjälkiot 11, 22, 33 ovt 0 j seurvt determittiehdot ovt voimss , , , det(a) 0. Negtiivise semidefiiittisyyde ehdot ovt smt, pitsi että lävistäjälkiot 0 j det(a) 0. Positiivise defiiittisyyde ehdot ovt 11 > 0, > 0, det(a) > 0 (siis riittää tutki vi kolme rvo) j egtiivise defiiittisyyde ehdot 11 < 0, > 0, det(a) < 0.

8 8 Hesse mtriisi. Trkstelemme tässä usemm muuttuj (eli vektorimuuttuj) relirvoisi fuktioit f :. Aikisemmi todettii, että riittävä sääöllisellä fuktioll (osittisderivtt jtkuvi) f o lierie eli esimmäise kertluvu pproksimtio f ( x) = f( x ) + f ( x )( x x ) + ε( h) h Tämä o silloi myös fuktio f 1. stee Tylori polyomi pisteessä x. 0 Trkempi pproksimtio sd 2. stee Tylori polyomill f( x) = f( x ) + f ( x )( x x ) + ( x x ) ( x )( x x ) + ε( h) h 2, 1 T f 0 0 missä f ( x 0) o fuktio f toie derivtt, s. Hesse mtriisi: Jos fuktioll f o toise kertluvu osittisderivtt olemss, ii iistä koostuv Hesse mtriisi H f o H f = D11 f D12 f D1 f D21 f D22 f D2 f, D 1f D2f D f missä o merkitty D f ij 2 f =. x x i j

9 9 Pisteessä x lsketu Hesse mtriisi H f (x) (i,j)-lkio o siis D ij f(x) = 2 f x x i j ( x ). Jtkoss oletmme, että fuktio f kikki toiseki kertluvu derivtt ovt jtkuvi. Silloi sekderivtt void lske missä järjestyksessä hyväsä, jote D ij f = D ji f eli Hesse mtriisi o symmetrie. Hesse mtriisi vull fuktiolle f sd siis kvdrttie pproksimtio eli toise kertluvu pproksimtio: f(x+h) - f(x) = f(x) T h + 21 h T H f (x)h + ε( h) h 2. Yhteeveto derivtoist relirvoiselle fuktiolle sd äi: fuktio grdietti o trspooitu derivtt j Hesse mtriisi toie derivtt eli: f '(x) = f(x) T f ''(x) = H f (x), jotk ovt 1 j mtriisej.

10 10 Äärirvot Sovellmme sitte esimmäise j toise kertluvu pproksimtioit fuktio äärirvoje tutkimisee. Äärirvotehtävie yleistä teori, rtkisumeetelmiä j soveltmist sot myös optimoiiksi, jok o yksi sovelletu mtemtiik oslueist. Näide tehtävie yleie muoto o mi f(x) x S, joss miimoii sijst void myös mksimoid. Miimoitv ti mksimoitv fuktio o s. kohdefuktio j muuttuj x sitovt jouko S määrittelevät ehdot ovt rjoitusehtoj. Muuttujt, jotk toteuttvt rjoitusehdot, ovt käypiä rtkisuj j joukko S käypä joukko. Jos rjoitusehtoj ei ole, muuttuj x s vpsti liikku koko vruudess, jost syystä äitä ogelmi kutsut vpiksi optimoititehtäviksi. Ne ovt helpompi käsitellä, kui rjoitusehdoill vrustetut, kosk rjoitusehtoje oudttmie vtii om työsä. Optimoitiprobleemoiss het kohdefuktio miimi- ti mksimikohti. Nämä ovt globlej ti loklej se muk, tvtko e kohdefuktiolle pieimmä (suurimm) rvo verrttu kikkii käypii muuttujii vi vi josski ympäristössä olevii. Vpt äärirvotehtävät Oletmme, että relirvoie kohdefuktio f o määritelty koko vruudess j o siellä esimmäise kertluvu osittisderivttoiee jtkuv j siis differetioituv. Silloi sille o voimss lierie pproksimtio eli esimmäise kertluvu pproksimtio: f(x+h) - f(x) = f(x) T h + ε( h) h. Jos x o fuktio f lokli miimikoht, ii riittävä lähellä 0: olevill h o voimss f(x+h) - f(x) 0.

11 11 Tällöi o välttämättä oltv f(x) = 0, kosk muute sisimme sijoittmll yllä olev pproksimtioyhtälöö h = -t f(x), t>0, j jkmll luvull h yhtälö, joss vsemmll puolell o eiegtiivie luku j oikell egtiivie (t riittävä piei). Sm todet loklille mksimikohdlle. Välttämätö esimmäise kertluvu ehto loklille äärirvolle. Jos x o jtkuvsti differetioituv fuktio f: ti mksimikoht, ii f(x) = 0. lokli miimi- Tämä ehto o sm miimille j mksimille. Niide erottmiseksi trvit toise kertluvu derivttoj. Yhde muuttuj fuktioist muistettee, että lokli miimi välttämätö ehto khdesti jtkuvsti derivoituvlle fuktiolle o f '(x) = 0 j f ''(x) 0. Tämä ehto yleistyy Hesse mtriisi käyttäe : muuttuj fuktioille. Jos x o f: lokli miimikoht, ii f: Hesse mtriisi o oltv positiivisesti semidefiiitti. Jos imittäi o joki v, joll v T H f (x)v < 0, ii vlitsemll h = tv, t>0, sd f: kvdrttise pproksimtio yhtälöstä puolitti h 2 :ll jkmll j ottmll t riittävä pieeksi vsemmlle puolelle ei-egtiivie luku j oikelle puolelle idosti egtiivie (lierie termi f(x) T h =0, kosk f: grdietti o 0).

12 12 Välttämätö toise kertluvu ehto loklille äärirvolle. Olkoot fuktio f: sti jtkuvi. j se osittisderivtt toisee kertlukuu Jos x o f: lokli miimikoht, ii f: grdietti kohdss x häviää j Hesse mtriisi o siiä positiivisesti semidefiiitti: f(x) = 0 j H f (x) 0. Jos x o f: lokli mksimikoht, ii f: grdietti kohdss x häviää j Hesse mtriisi o siiä egtiivisesti semidefiiitti: f(x) = 0 j H f (x) 0. Käyttämällä derivttmerkitöjä sd ehdot tutu äköisiksi ehdoiksi f '(x) = 0 j f ''(x) 0 lokliss miimikohdss x f '(x) = 0 j f ''(x) 0 lokliss mksimikohdss x. Nämä ehdot ovt siis välttämättömiä, eli iide o pkko oll voimss jokisess lokliss miimi/mksimikohdss. Mutt e eivät ole riittäviä, eli iide voimssolo ei tk sitä, että kyseie piste x o optimikoht. Siis voi oll olemss pisteitä, joiss välttämättömät ehdot ovt voimss, mutt jotk eivät ole optimikohti. Somme fuktio f kriittisiksi pisteiksi kikki iitä pisteitä x, joiss fuktio grdietti o oll. Joskus myös mhdolliset fuktio ti se osittisderivttoje epäjtkuvuuskohdt otet muk kriittisii pisteisii (iissähä eivät äärirvoehdot ole voimss). Ne kriittiset pisteet, joiss grdietti o oll, mutt jotk eivät ole loklej miimejä ti mksimej, ovt stulpisteitä. Optimirtkisuj het etsimällä esi kikki kriittiset pisteet, jotk sitte tutkit kuki eriksee. Kriittiste pisteide "ldu" tutkimiseksi (eli ovtko loklej miimejä, mksimej je.) void käyttää riittäviä ehtoj. Näistä tuetui o yhde muuttuj fuktioide ehdo

13 13 f '(x)=0 & f ''(x)>0 x lokli miimikoht yleistävä ehto: (todistus perustuu kvdrttisee pproksimtioo, joss oikell puolell olev eliömuoto o positiivise defiiittisyyde voimss olless positiivie; yksityiskohdt sivuutet) Riittävä ehto loklille miimille j mksimille. Olkoot fuktio f: j se osittisderivtt toisee kertlukuu sti jtkuvi sekä f(x) = 0. Jos lisäksi f: Hesse mtriisi H f (x) o positiivisesti defiiitti, ii x o lokli miimikoht, j jos egtiivisesti defiiitti, ii x o lokli mksimikoht: f ''(x) > 0 x lokli miimikoht f ''(x) < 0 x lokli mksimikoht. Jos H f (x) o idefiiitti, ii x o stulpiste Esim. 1 f ( xyz,, ) = x + 4xy y + z 8x 6y+ z f(x,y,z)=[2x+4y-8, 4x-2y-6, 2z+1] T =0, jost rtke z=-½ j yhtälöprist x:lle j y:lle x=2, y=1. Siis vi yksi kriittie piste: (x,y,z)=(2,1,-½) Hesse mtriisi: H f ( x, y, z) = 4 2 0, joss 2>0, mutt <, jote idefiiitti. Kyseessä stulpiste.

14 Esim. 2 f ( xy, ) = x y 2xy f(x,y)=[3x 2-2y,-3y 2-2x] T =0, jost sd y=3x 2 /2 j se sijoittmll toisee yhtälö 2x=-3(3x 2 /2) 2 = -27x 4 /4. Tästä seur x=0 ti x 3 =-8/27 eli x=-2/3. Sijoittmll ämä y: lusekkeesee y=3x 2 /2 sd y=0 ti y=2/3. Siis kriittisiä pisteitä o kksi: (0,0) j (-2/3,2/3). Hesse mtriisi o yt 6x 2 H f ( x, y) = 2 6y Pisteessä (0,0) omiisrvot ovt 2 j-2, jote Hesse mtriisi o idefiiitti, kyseessä stulpiste. Pisteessä (-2/3,2/3) omiisrvot ovt -2 j-6, jote Hesse mtriisi o egtiivisesti defiiitti, kyseessä lokli mksimikoht. Rjoitusehdoill vrustetut äärirvotehtävät Jos käypä joukko S o voi eli reu ei kuulu siihe, ii edellä miitut luseet soveltuvt sellise. Smoi o, jos pistee x tiedetää olev sisäpiste. (Avoimess joukoss kikki pisteet ovt sisäpisteitä.) Tämä johtuu siitä, että sisäpisteellä o ympäristö (voi x-keskie kiekko ti yleisemmi kuul), jok koko sisältyy joukkoo S. Tällöi loklisti tile o sm kui rjoitusehtoj ei olisik. Jos piste x se sij o käyvä jouko reupiste, si o pljo moimutkisempi. Tällä kurssill trkstelemme vi yhtälömuotoisi rjoitusehtoj, eli joukko S o määritelty yhtälörjoituksill g 1 (x) = 0,, g m (x) = 0

15 15 missä fuktiot g i ovt jtkuvsti differetioituvi. Silloi tehtävä void plutt vpksi tehtäväksi ottmll käyttöö Lgrge fuktio L(x, λ) = f(x) -λ 1 g 1 (x) - -λ m g m (x) missä vektori λ koostuu Lgrge kertoimist λ 1,, λ m. Jos x o fuktio f lokli miimi- ti mksimikoht joukoss S, o silloi välttämättä x L(x, λ) = 0. Silloi siis o voimss yhtälöryhmä f(x) = λ 1 g 1 (x) + +λ m g m (x) g 1 (x) = 0 g m (x) = 0 jost yritetää rtkist x j Lgrge kertoimet λ 1,, λ m. Tässä o siis +m tutemtot, j yleesä yhtälöryhmä o epälierie j sellise vike rtkist. Esim. 3 Hettv ympyrä 2 2 f ( xy, ) x y y x + y = 1 kehältä e pisteet, joiss fuktio 2 2 = s mksimis. L(x,y)=x 2 -y 2 -y-λ(x 2 +y 2-1). Silloi L x =2x-2λx=0, L y =-2y-1-2λy=0. Näistä j ympyrä yhtälöstä rtkist x, y j λ. Jos x=0, ii y=±1, jolloi λ=-3/2 ti λ=-1/2. Jos x 0, ii λ=1, jolloi y=-1/4 j ympyrä yhtälöstä siis x=± 15 /4. Siis kriittiset pisteet ovt (0, ±1) j (± 15 /4,-1/4). Lskemll f: rvot äissä todet, että suurimm rvo se s pisteissä (± 15 /4,-1/4), jolloi f(± 15 /4,-1/4)=5/4.