TEKNILLINEN KORKEAKOULU Systeemianalyysin laboratorio Mat-9 Optimointioppi Kimmo Berg 5 harjoitus - ratkaisut min Ax b (vertaa PNS-tehtävät) a x + + a n x n a) Ax b = a m x + + a mn x n = x a a m }{{} ã + + x n a n a mn }{{} ã n b b m Tehtävässä haetaan vektorien ã,,ã m lineaarikombinaatiota joka on mahdollisimman lähellä vektoria b (Tehtävän optimaalinen ratkaisu x on b:n projektio vektoreiden ã,,ã n virittämään avaruuteen) b) Välttämätön ehto: ( Ax b ) = Ax b = (Ax b) (Ax b) = (x A b )(Ax b) = x A Ax x } {{ A } b b Ax + b b ( ) = x A Ax b Ax + b b ( Ax b ) = (x } A {{ A} x) + (x A }{{ Ax} ) + ( b Ax) + (b b) vakio vakio = (x A A) + A Ax A b + = A Ax A b = A Ax = A b Jos Ax b konveksi, niin ehto riittävä Nyt f(x) = A A on positiivisesti semidefiniitti, sillä x A Ax = (Ax) (Ax) = Ax x, joten konveksi on ( ) skalaari, joten voidaan transponoida, = b Ax c) Optimiratkaisun yksikäsitteisyys riippuu käänteismatriisin (A A) olemassaolosta Jos (A A), niin ratkaisu on yksikäsitteinen, muuten ratkaisuja voi olla äärettömästi d) Optimiratkaisun voi siis antaa suljetussa muodossa jos (A A), jolloin x = (A A) A b Todetaan, että (A A) on olemassa, jos A A on positiivisesti definiitti, eli f(x) on oltava positiivisesti definiitti e) A A = = b b m 6
(A A) = /4 5/4 5/4 /4 x = (A A) A b = ja A b = /4 5/4 5/4 /4 = / 5/ = Olkoon x tehtävän optimiratkaisu ja joukko I sisältää aktiiviset epäyhtälörajoitukset, eli g i ( x) =, i I Merkitään käypää joukkoa S = {x : g i (x) } (sis kaikki rajoitusehdot) Tehtävän KKT-ehdot ovat f( x) + i I u i g i ( x) =, missä Lagrangen kertoimet ovat ei-negatiiviset, u i Mielivaltaiselle x S pätee: g i (λx + ( λ) x) λg i (x) + ( λ)g i ( x), i I mikä seuraa siis g i :n konveksisuudesta Suunta (x x) on siis laskusuunta g i :lle, eli pätee g i ( x) (x x) Summaamalla kys yhtälöitä aktiivisten rajoitteiden yli painottaen ei-negatiivisilla Lagrangen kertoimilla (ei-aktiivisilla rajoitteilla Lagrangen kertoimet ovat nollia!), saadaan u i g i ( x) (x x), x S i I Sijoittamalla KKT-ehdot saadaan f( x) (x x), x S Ja tämä ehto on konveksin tehtävän välttämätön ja riittävä ehto (S ja f konveksi) min (x 9 4 ) + (x ) x x g x + x 6 g x g x g 4 a) f = x 9 4 x g = x g = g = g 4 =
KKT-ehdot: x 9 x 4 + u x u (x x ) = u (x + x 6) = u ( x ) = u 4 ( x ) = u, u, u, u 4 + u + u + u 4 = Sijoitetaan piste x =, 9 4 : joten 9 4 9 4 ( u 9 ( 9 4 4) = u = u + 9 ( 6) = 9u 4 4 = u = u ) = u = ( u 4 9 4) = u4 =, + u = Näin ollen x toteuttaa KKT-ehdot b) { + u = u = { u = u = x x f(x) g (x) f:n tasa arvokäyrä x x = / 9/4 f(x) = / / g (x) = f(x) = g (x) c) Osoitettava, että f on aidosti konveksi ja g i :t konvekseja, i I = {i : g i (x) = }
(a) f:n Hessen matriisi f(x) = on positiivisesti definiitti, joten f on aidosti konveksi (b) Nyt I = {}, g = x x, g (x) = on positiivisesti semidefiniitti, joten g on konveksi 4 Tuotanto jaksolla k : x k Kysyntä jaksolla k : d k Varasto alkuhetkellä : I Varasto jakson k lopussa : I k = I k + x k d k = I + k i= (x i d i ) Tuotantokustannukset : n k= f(x k) Varastointikustannukset : n k= max{, c(i k K)} Tehtävä on siis muotoa min n f(x k ) + z k k= z k c z k x k I + k i= (x i d i ) I + k i= (x i d i ) K KKT-ehdot: f (x k ) + c n i=k u i n i=k v i µ k = u k λ k = µ k x k = λ k z k = u k (c(i k K) z k ) = v k I k = u k, v k, λ k 5 Tarkoitus säätää m:n lampun teho p siten, että n:n paikan valaistus saadaan mahdollisimman tarkasti halutulle tasolle Lisäehtona tehtävälle on tietysti lampun maksimiteho p max Merkitään lampun i tehoa p i :llä, paikan k intensiteettiä I k :lla, lampun i etäisyyttä paikasta k r k,i :llä, ja lampun sijainnin ja paikan normaalin välistä suuntakulmaa θ k,i :lla (ks kuva) Intensiteetti riippuu lineaarisesti lampun tehoista seuraavasti: 4
I k = m i= a k,ip i, missä a k,i = r k,i max{cosθ k,i, } Nyt ongelma voidaan kirjoittaa esimerkiksi muotoon: min max k=,,n log I k log I k,haluttu se p i p max, i =,,m r kj θ kj Kuva : Lamppuongelman kuvaus 6 Tehtävä ratkeaa geometrisesti piirtämällä käypä alue, jolloin ratkaisuksi saadaan x = (, ) Tässä pisteessä molemmat rajoitukset ovat aktiivisia, ja kohdefunktion ja rajoitusehtojen gradientit ovat f( x) = (, ), g ( x) = (, ), g ( x) = (, ) Nyt KKT-ehdot eivät toteudu sillä vaatimukset aktiivisten rajoitusten gradienttien lineaarisesta riippumattomuudesta ei toteudu Rajoitusten gradientit ovat vastakkaissuuntaiset ja kohdefunktion gradientti näitä vastaan kohtisuorassa Kohdefunktion gradienttia ei siis saada summattua nollavektoriksi rajoitusten gradientteja positiivisilla kertoimilla painottamalla, kuten KKT-ehto vaatii Tätä vastoin heikompi Fritz-John ehto toteutuu painokertoimilla u = ja u = u = α > Tämä on klassinen esimerkki tapauksesta jossa KKT-ehto ei toteudu optimissa KKT-ehdot toteuttavien pisteiden ulkopuolelle jää siis sekä patologisia (ks kuva 4 s96 / s56) että välillä mielekkäitäkin optimikandidaatteja Nämä pisteet tulee siis tarkastella erikseen Nämä ominaisuudet liittyvät constraint qualification aiheeseen, jota ei käsitellä tällä kurssilla sen enempää 5