2 Konveksisuus ja ratkaisun olemassaolo

Samankaltaiset tiedostot
3 Simplex-menetelmä. c T x = min! Ax = b (x R n ) (3.1) x 0. Tarvittaessa sarakkeiden järjestystä voidaan vaihtaa, joten voidaan oletetaan, että

1 Kertaus. Lineaarinen optimointitehtävä on muotoa:

Piiri K 1 K 2 K 3 K 4 R R

802320A LINEAARIALGEBRA OSA I

Avaruuden R n aliavaruus

Lineaarikombinaatio, lineaarinen riippuvuus/riippumattomuus

1 Lineaariavaruus eli Vektoriavaruus

Liittomatriisi. Liittomatriisi. Määritelmä 16 Olkoon A 2 M(n, n). Matriisin A liittomatriisi on cof A 2 M(n, n), missä. 1) i+j det A ij.

Täydellisyysaksiooman kertaus

Kokonaislukuoptiomointi Leikkaustasomenetelmät

Lineaarinen optimointi. Harjoitus 6-7, Olkoon A R m n, x, c R ja b R m. Osoita, että LP-tehtävän. c T x = min!

Miten osoitetaan joukot samoiksi?

4.5 Kaksivaiheinen menetelmä simplex algoritmin alustukseen

802320A LINEAARIALGEBRA OSA II

Taustatietoja ja perusteita

Luento 9: Yhtälörajoitukset optimoinnissa

6 Vektoriavaruus R n. 6.1 Lineaarikombinaatio

Kanta ja dimensio 1 / 23

1 Sisätulo- ja normiavaruudet

Ominaisvektoreiden lineaarinen riippumattomuus

Luento 8: Epälineaarinen optimointi

Ominaisarvo ja ominaisvektori

Vapaus. Määritelmä. jos c 1 v 1 + c 2 v c k v k = 0 joillakin c 1,..., c k R, niin c 1 = 0, c 2 = 0,..., c k = 0.

1 sup- ja inf-esimerkkejä

Malliratkaisut Demot

Lineaarialgebra ja matriisilaskenta II Syksy 2009 Laskuharjoitus 1 ( ) Ratkaisuehdotuksia Vesa Ala-Mattila

7 Vapaus. 7.1 Vapauden määritelmä

b 1. b m ) + ( 2b Ax) + (b b)

MS-C1340 Lineaarialgebra ja differentiaaliyhtälöt

Ennakkotehtävän ratkaisu

Määritelmä Olkoon T i L (V i, W i ), 1 i m. Yksikäsitteisen lineaarikuvauksen h L (V 1 V 2 V m, W 1 W 2 W m )

MS-C1340 Lineaarialgebra ja

Käänteismatriisi 1 / 14

Luento 12: Duaalitehtävä. Tarkennuksia Lagrangen kertoimen tulkintaan. Hajautettu optimointi.

Luento 8: Epälineaarinen optimointi

Vapaus. Määritelmä. Vektorijono ( v 1, v 2,..., v k ) on vapaa eli lineaarisesti riippumaton, jos seuraava ehto pätee:

Kannan vektorit siis virittävät aliavaruuden, ja lisäksi kanta on vapaa. Lauseesta 7.6 saadaan seuraava hyvin käyttökelpoinen tulos:

Diofantoksen yhtälön ratkaisut

JYVÄSKYLÄN YLIOPISTO. 3. Luennon sisältö

Ville Turunen: Mat Matematiikan peruskurssi P1 1. välikokeen alueen teoriatiivistelmä 2007

Lineaarikuvauksen R n R m matriisi

MS-A0004/A0006 Matriisilaskenta

Lineaarinen toisen kertaluvun yhtälö

1 sup- ja inf-esimerkkejä

Malliratkaisut Demot

, on säännöllinen 2-ulotteinen pinta. Määrää T x0 pisteessä x 0 = (0, 1, 1).

Joukot metrisissä avaruuksissa

Esimerkki 19. Esimerkissä 16 miniminormiratkaisu on (ˆx 1, ˆx 2 ) = (1, 0).

Konvergenssilauseita

Vapaus. Määritelmä. jos c 1 v 1 + c 2 v c k v k = 0 joillakin c 1,..., c k R, niin c 1 = 0, c 2 = 0,..., c k = 0.

1 Supremum ja infimum

Inversio-ongelmien laskennallinen peruskurssi Luento 2

Luento 6: Monitavoiteoptimointi

Epäyhtälöt ovat yksi matemaatikon voimakkaimmista

DIFFERENTIAALI- JA INTEGRAALILASKENTA I.1. Ritva Hurri-Syrjänen/Syksy 1999/Luennot 6. FUNKTION JATKUVUUS

Derivaattaluvut ja Dini derivaatat

Johdatus lukuteoriaan Harjoitus 2 syksy 2008 Eemeli Blåsten. Ratkaisuehdotelma

Numeeriset menetelmät TIEA381. Luento 6. Kirsi Valjus. Jyväskylän yliopisto. Luento 6 () Numeeriset menetelmät / 33

9. Lineaaristen differentiaaliyhtälöiden ratkaisuavaruuksista

Vektorien virittämä aliavaruus

Luento 12: Duaalitehtävä. Tarkennuksia Lagrangen kertoimen tulkintaan. Hajautettu optimointi.

3 Lukujonon raja-arvo

Sekalaiset tehtävät, 11. syyskuuta 2005, sivu 1 / 13. Tehtäviä

min x x2 2 x 1 + x 2 1 = 0 (1) 2x1 1, h = f = 4x 2 2x1 + v = 0 4x 2 + v = 0 min x x3 2 x1 = ± v/3 = ±a x 2 = ± v/3 = ±a, a > 0 0 6x 2

1 Määrittelyjä ja aputuloksia

missä on myös käytetty monisteen kaavaa 12. Pistä perustelut kohdilleen!

=p(x) + p(y), joten ehto (N1) on voimassa. Jos lisäksi λ on skalaari, niin

Ominaisarvoon 4 liittyvät ominaisvektorit ovat yhtälön Ax = 4x eli yhtälöryhmän x 1 + 2x 2 + x 3 = 4x 1 3x 2 + x 3 = 4x 2 5x 2 x 3 = 4x 3.

Duaalisuus kokonaislukuoptimoinnissa. Mat , Sovelletun matematiikan tutkijaseminaari, kevät 2008, Janne Karimäki

MS-C1340 Lineaarialgebra ja

IV. TASAINEN SUPPENEMINEN. f(x) = lim. jokaista ε > 0 ja x A kohti n ε,x N s.e. n n

Lineaarialgebra ja differentiaaliyhtälöt Laskuharjoitus 1 / vko 44

Mat Lineaarinen ohjelmointi

7. Olemassaolo ja yksikäsitteisyys Galois n kunta GF(q) = F q, jossa on q alkiota, määriteltiin jäännösluokkarenkaaksi

Ellipsoidimenetelmä. Samuli Leppänen Kokonaislukuoptimointi. S ysteemianalyysin Laboratorio

Lineaariavaruudet. Span. Sisätulo. Normi. Matriisinormit. Matriisinormit. aiheita. Aiheet. Reaalinen lineaariavaruus. Span. Sisätulo.

Ortogonaaliprojektio äärellisulotteiselle aliavaruudelle

Luento 11: Rajoitusehdot. Ulkopistemenetelmät

12. Hessen matriisi. Ääriarvoteoriaa

Lineaarinen optimointitehtävä

Lineaarialgebra ja matriisilaskenta II. LM2, Kesä /141

5 OMINAISARVOT JA OMINAISVEKTORIT

Numeeriset menetelmät

Ratkaisuehdotukset LH 7 / vko 47

Optimaalisuusehdot. Yleinen minimointitehtävä (NLP): min f(x) kun g i (x) 0 h j (x) = 0

Matriisilaskenta, LH4, 2004, ratkaisut 1. Hae seuraavien R 4 :n aliavaruuksien dimensiot, jotka sisältävät vain

Ratkaisuehdotukset LH 8 / vko 47

Kokonaislukuoptimointi

Lineaarialgebra ja matriisilaskenta I, HY Kurssikoe Ratkaisuehdotus. 1. (35 pistettä)

Iteratiiviset ratkaisumenetelmät

802320A LINEAARIALGEBRA OSA III

KOMPLEKSIANALYYSI I KURSSI SYKSY 2012

Paikannuksen matematiikka MAT

MS-C1340 Lineaarialgebra ja

Matematiikan ja tilastotieteen laitos Reaalianalyysi I Harjoitus Malliratkaisut (Sauli Lindberg)

Vektoreiden virittämä aliavaruus

Insinöörimatematiikka D

Numeeriset menetelmät TIEA381. Luento 12. Kirsi Valjus. Jyväskylän yliopisto. Luento 12 () Numeeriset menetelmät / 33

Päättelyn voisi aloittaa myös edellisen loppupuolelta ja näyttää kuten alkupuolella, että välttämättä dim W < R 1 R 1

MS-C1340 Lineaarialgebra ja differentiaaliyhtälöt

Transkriptio:

2 Konveksisuus ja ratkaisun olemassaolo Ratkaisun olemassaolon tutkimiseen tarvitaan perustietoja konvekseista joukoista ja lineaarialgebrasta. Niitä tarvitaan myös ratkaisualgoritmin ymmärtämiseen. Tutkitaan jatkossa käypien ratkaisujen muodostamaa joukkoa. 2.1 Konveksit joukot ja hypertasot Määritelmä 2.1. Olkoon a R n, a 0, a = [a 1,...,a n ] T ja β R. Määritellään hypertaso H H = { x R n a T x = β } = { x R n a 1 x 1 + +a n x n = β }. (2.1) Nyt voidaan määritellä myös hypertasoon liittyvät puoliavaruudet H + = { x R n a T x β }, H + = { x R n a T x > β } H = { x R n a T x β }, H = { x R n a T x < β }. (2.2) Lemma 2.1. Joukot H, H +, H ovat suljettuja ja joukot H +, H avoimia R n :n osajoukkoja. Määritelmä 2.2. Joukko X R n on konveksi jos x 1,x 2 X { x = (1 t)x 1 +tx 2 0 t 1 } X (2.3) Lemma 2.2. Joukot H, H +, H ovat R n :n konvekseja osajoukkoja. Lemma 2.3. (a) Suljettujen joukkojen leikkaus on suljettu. (b) Konveksien joukkojen leikkaus on konveksi. Lause 2.4. Lineaarisen optimointitehtävän käypien ratkaisujen joukko X on suljettu ja konveksi. Todistus. Oletetaan että X = {x R n Ax = b, x 0}, (A R m n,b R m ). Nyt joukko X voidaan esittää joukkojen X 1 ja X 2 leikkauksena seuraavasti. X = X 1 X 2, missä X 1 = { x R n Ax = b } ja X 2 = { x R n x 0 }. 12

Nyt X 1 = { x R n = = n a ij x j = b i, i = 1,...,m } j=1 m { x R n i=1 m i=1 X 1i Tässä kukin joukko X 1i on hypertaso: n } a ij x j = b i j=1 a i1 X 1i = {x R n (a i ) T x = b i }; a i :=. a in R n Lemmojen 2.1-2.3 nojalla X 1 = m X 1i on suljettu ja konveksi. Samoin nähdään että i=1 X 2 = { x R n x 1 0,x 2 0,...,x n 0 } on suljettu ja konveksi. Tällöin X = X 1 X 2 on suljettu ja konveksi. Lause 2.5. Olkoon X R n siten, että R n \X ja että X on suljettu ja konveksi. Olkoon x 0 R n \X. Tällöin on olemassa hypertaso H siten, että (i) x 0 H (ii) X H + R 2 (1 t)x 1 +tx 2 x 1 x 2 X Kuva 1: Esimerkki konveksista joukosta avarudessa R 2. 13

Todistus. On olemassa x X siten, että x x 0 = min x X x x 0 (Harj.) (2.4) Olkoon a = x x 0. Nyt a 0 koska x 0 / X, x X. Asetetaan H = { x a T x = a T x 0 }. Tällöin x 0 H, eli (i) pätee. Osoitetaan että (ii) pätee, eli että X H + = { x a T x > a T x 0 }. Siis pitää osoittaa että jokaiselle x X on a T (x x 0 ) > 0. Olkoon x X mielivaltainen. Koska X on konveksi, ja x,x X niin x(t) = tx+(1 t)x = x+t(x x) X, 0 t 1. Minimiominaisuuden (2.4) nojalla Tässä x(t) x 0 x x 0 = a 0 t 1. (2.5) x(t) x 0 = x+t(x x) x 0 = x x 0 +t(x x) (2.6) = a+t(x x). Nyt (2.5) x(t) x 0 2 a 2 (0 t 1), eli kaavan (2.6) nojalla a+t(x x) 2 a 2 a 2 +2ta T (x x)+t 2 x x 2 a 2 2ta T (x x)+t 2 x x 2 0 2a T (x x)+t x x 2 0 (0 t 1). Nyt kun t 0 + saadaan a T (x x) 0 (x X). (2.7) Nyt saadaan Siis myös (ii) pätee a T (x x 0 ) = a T (x x+x x 0 ) (x X) = a T (x x)+a T (x x 0 ) (2.8) = a T (x x)+ a 2 (2.7) a 2 > 0 (a 0) 14

Huomautus. Tässä materiaalissa tavallista vektorinormia merkitään toisinaan myös itseisarvomerkeillä. Asiayhteydestä selviää milloin on kyse vektorinormista. Seuraus 2.6. Jokaiselle x X pätee Todistus. Nyt Ja a T x x x 0 2 +a T x 0. (2.9) a T (x x 0 ) = a T (x x) +a T (x x }{{} 0 ) a T (x x 0 ). (2.10) 0 (2.7) a T x = a T (x x 0 )+a T x 0 (2.10) a T (x x 0 )+a T x 0 (a=x x 0 ) = a T a+a T x 0 (2.11) ja epäyhtälöstä (2.11) saadaan a T x a 2 +a T x 0 = x x 0 2 +a T x 0, x X. Seurauslauseen 2.6 tulos voidaan antaa myös muodossa inf x X at x x x 0 2 +a T x 0. (2.12) Määritelmä 2.3. Piste x 0 R n on joukon X R n reunapiste jos jokaiselle r > 0 avoin pallo B(x 0,r) = { x x x 0 < r } sisältää ainakin yhden pisteen x X ja x R n \X. Lause 2.7. Olkoon X suljettu, konveksi ja x 0 X:n reunapiste. Tällöin on olemassa hypertaso H siten, että (a) x 0 H (b) X H +. Todistus. On olemassa sellaiset pisteet x i R n \X, i = 1,2,..., että x i x 0. Lauseen 2.5 kaavasta (2.4) seuraa, että kullekin x i on olemassa x i X siten, että x i x i = min x X x x i. (2.13) Vektori a i = x i x i 0 määrää hypertason H i = { x a T i x = a T i x i } (2.14) 15

siten, että x i H i, X (H i ) +. Koska a i 0 voidaan normittamalla olettaa että a i = 1. Tällöin a i on rajoitettu jono, joten sillä on suppeneva osajono a iν a. Seurauslauseen 2.6 mukaan inf x X at iνx a T iνx iν, ts. Rajakäynnillä tulee a T x a T x 0. a T iνx a T iνx iν, x X. Hypertasolle H = { x a T x = a T x 0 } pätee x0 H, X H +. Huomautus 2.1. Lauseen 2.7 todistuksessa ei tarvita normeerausta a i = 1 koska jono a i = x i x i on rajoitettu, sillä a i = x i x i = min x X x x i x 0 x i x 0 + x i x 0 +M, M = sup x i Lause 2.8. Olkoon S R n epätyhjä, suljettu ja konveksi joukko sekä y / S. Silloin on olemassa yksikäsitteinen piste z S, josta mitattu etäisyys pisteeseen y on lyhin. Edelleen z on etäisyyden minimoiva piste, jos ja vain jos (x z) T (y z) 0, x S. (2.15) Todistus. Lauseen alkuosa on osoitettu Lauseen 2.5 todistuksessa. Osoitetaan, että ehto (2.15) on välttämätön ja riittävä ehto, jotta z on minimoiva piste. Riittävyys: Olkoon x S mielivaltainen joukon S piste ja ehto (2.15) on voimassa. Silloin y x 2 = y z +z x 2 joten z on minimoiva piste. = y z 2 + z x 2 +2(x z) T (z y) y z 2, Välttämättömyys: Olkoon z minimoiva piste. Tällöin y x 2 y z 2, x S. Kun x on joukon S mielivaltainen piste, niin konveksisuuden nojalla saadaan: z +λ(x z) = λx (1 λ)z S, λ [0,1], jolloin y z λ(x z) 2 y z 2. 16

Toisaalta y z λ(x z) 2 = y z 2 +λ 2 x z 2 +2λ(x z) T (z y). Yhdistämälllä nämä kaksi tulosta saadaan: λ 2 x z 2 +2λ(x z) T (z y) 0, λ [0,1]. Olkoon λ > 0, jaetaan saatu epäyhtälö sillä ja annetaan sitten λ 0, niin saadaan yhtälö (2.15). Lause 2.9. (Erotuslause) Olkoon S R n epätyhjä, suljettu ja konveksi joukko, sekä y / S. Silloin on olemassa p 0, p R n ja α R siten, että p T y > α, p T x α, x S. Todistus. Lauseen 2.8 nojalla on olemassa yksikäsitteinen z S siten, että (x z) T (y z) 0, x S. Valitaan p := y z 0 ja α := z T (y z), jolloin eli p T x α. Toisaalta eli p T y > α. p T x α = (y z) T x z T (y z) = (x z) T (y z) 0 p T y α = (y z) T y z T (y z) = (y z) T (y z) = y z 2 > 0 Lause 2.10. (Farkasin lemma) Olkoon A R m n ja c R n. Tällöin tarkalleen toinen seuraavista systeemistä on ratkeava. Ax 0, c T x > 0, jollakin x R n A T y = c, y 0, jollakin y R m. (I) (II) Todistus. Oletetaan ensin, että systeelillä II on olemassa ratkaisu y R m siten, että A T y = c ja y 0. Oletetaan sitten, että x R n toteuttaisi epäyhtälön Ax 0. Silloin c T x = y T Ax 0, joten systeemillä I ei voi tällöin olla ratkaisua. Oletetaan sitten, että systeemillä II ei ole ratkaisua ja konstruoidaan ratkaisu systeemille I. Olkoon S = {x x = A T y, y 0, y R m }, 17

mikä on epätyhjä (0 S), suljettu ja konveksi joukko. Koska systeemillä II ei ole ratkaisua (oletus), niin c / S. Tällöin lauseen 2.9 nojalla on olemassa p 0, p R n ja α R siten, että p T c > α, p T x α, x S. Koska 0 S, niin α 0 ja siis p T c > 0. Toisaalta α p T x = p T A T y = y T Ap, y 0. Koska y ei ole ylhäältä rajoitettu ja sen jokainen komponentti voidaan siis tehdä mielivaltaisen suureksi, niin edellisen epäyhtälön ja aikaisemman ehdon nojalla on oltava Ap 0, p T c > 0, mikä merkitsee, että p on systeemin I ratkaisu. Esimerkki 2.1. Tutki Farkasin lemman avulla, onko epäyhtälöryhmällä ratkaisua. Nyt A = ( ) 2 3, c = 1 1 2x 1 +3x 2 0 x 1 +x 2 0 x 1 +x 2 > 0 ( ) 1 A T y = 1 ( ) 2y1 y 2 = 3y 1 +y 2 ( ) 1, 1 jolloin ratkaisu on y 1 = 2, y 5 2 = 1. Näin ollen systeemi II ei ratkea ja siis systeemi I 5 on ratkeava. Esimerkiksi (x 1,x 2 ) = (4, 3) toteuttaa systeemin I. Lause 2.11. (Gordanin lemma) Olkoon A R m n. Silloin tarkalleen toinen seuraavista systeemeistä on ratkeava: Ax < 0, x R n A T p = 0, p 0, p R m, p 0. (I) (II) Todistus. Osoitetaan ensin, että jos systeemillä I on ratkaisu, niin systeemi II ei ole ratkeava. Jos siis Ax < 0, x R n ja p 0, p 0, niin x T A T p < 0. Jotta systeemi II olisi ratkeava, niin täytyy olla A T p = 0, jolloin olisi x T A T p = 0 ja saadaan ristiriita. Siis x ja p eivät voi olla yhtäaikaa systeemien I ja II ratkaisuja. Oletetaan sitten, että systeemi I ei ole ratkeava, merkitään: S = {z z < 0} T = {z z = Ax, x R n }. 18

Joukot S ja T ovat epätyhjiä, konvekseja joukkoja ja S T =. Nyt on olemassa joukot erottava hypertaso H ja sitä vastaava kerroinvektori p 0, jolle p T z p T Ax, x R n, z cls. Koska vektorin z komponentit voivat lähestyä lukua, niin täytyy olla p 0. Erityisesti valitsemalla z = 0 cls saadaan Valitaan sitten x = A T p, jolloin p T Ax 0, x R n. 0 p T Ax = p T AA T p = A T p 2 ja siis A T p = 0. Nyt p toteuttaa systeemin II, mikä on siis ratkeava. Määritelmä 2.4. Hypertaso H on konveksin joukon X kantava hypertaso (supporting hyperplane), jos on olemassa X:n reunapiste x 0 H siten, että X H + tai X H. R 2 R 2 X X x 0 x 0 (a) Kaksi kantavaa hypertasoa (b) Yksi kantava hypertaso Nyt Lause 2.7 voidaan antaa muodossa: Lause 2.12. Olkoon X suljettu, konveksi ja x 0 joukon X reunapiste. Tällöin on olemassa ainakin yksi X:n kantava hypertaso H siten, että x 0 H. Lemma 2.13. Olkoon X R n konveksi 1 ja a R n, a 0 sekä x 0 X siten, että Tällöin x 0 on X:n reunapiste. a T x 0 = supa T x tai a T x 0 = inf x X x X at x. 1 Itseasiassa, kuten todistuksesta ilmenee, konveksisuutta ei tarvita. 19

Todistus. Joukon X jokainen piste on joko joukon X reunapiste tai sisäpiste, sillä X X = X X, missä X X =. Tässä X tarkoittaa joukon X sulkeumaa ja X joukon X sisäpisteistöä. Riittää siis osoittaa, että x 0 ei ole joukon X sisäpiste. Vastaväite. x 0 on joukon X sisäpiste. Tällöin on olemassa avoin pallo B(x 0,r) X,r > 0. Olkoon nyt ε > 0 ja a 0. Merkitään nyt x + = x 0 +εa ja x = x 0 εa. Nyt x +,x B(x 0,r) kun ε valitaan riittävän pieneksi. Toisaalta a T x + = a T (x 0 +εa) = a T x 0 +ε a 2 > a T x 0 a T x = a T (x 0 εa) = a T x 0 ε a 2 < a T x 0 Tämä on ristiriidassa oletuksen kanssa, minkä mukaan a T x 0 = supa T x tai a T x 0 = inf x X x X at x. Nyt kuitenkin a T x + > a T x 0 ja a T x < a T x 0, eli vastaväite on väärä ja väite tosi. Lause 2.14. Olkoon x 0 LP-tehtävänoptimaalinenkäypäratkaisu. Tällöin x 0 on käypien ratkaisujen joukon X reunapiste. Kohdefunktion optimin määräämä hypertaso H = { x R n c T x = c T x 0 }, 0 c R n, on X:n kantava hypertaso. Todistus. Olkoon x 0 LP-tehtävän minimi eli eli c T x 0 = min x X ct x c T x c T x 0, kaikille x X. (2.16) Koska käypä joukko X on konveksi ja (2.16) pätee, niin (Lemma 2.13) x 0 on X:n reunapiste. Yhtälön (2.16) nojalla pätee: X H + = {x R n c T x c T x 0 }. (2.17) Lisäksi, selvästi x 0 H. Määritelmän 2.4 mukaan H on X:n kantava hypertaso. Vastaavasti maksimille jolloin X H. Jos LP-tehtävällä on optimaalinen käypä ratkaisu, niin Lauseen 2.14 mukaan se löytyy tarkastelemalla käyvän joukon reunapisteitä. Optimihakua voidaan olennaisesti keventää tarkastelemalla käyvän joukon ääripisteitä. 20

Määritelmä 2.5. Piste x X on konveksin joukon X ääripiste (extreme point) jos ei ole pisteitä x 1,x 2 X, x 1 x 2 siten, että x = (1 t)x 1 +tx 2 missä 0 < t < 1. Joukon X ääripisteiden joukkoa merkitään E(X):llä. Lemma 2.15. Olkoon X R n konveksi ja H joukon X kantava hypertaso. Tällöin pätee E(X H) E(X) (2.18) tai yhtäpitävästi jos x X H on X H:n ääripiste, niin x on myös X:n ääripiste. (2.19) Todistus. Vastaväite. On olemassa x 0 X H siten, että x 0 on X H:n ääripiste mutta ei ole X:n ääripiste. Tällöin on olemassa x 1,x 2 X, x 1 x 2 siten, että x 0 = (1 t)x 1 +tx 2, missä 0 < t < 1. (2.20) Olkoon H = {x R n a T x = β}. Koska H on X:n kantava hypertaso, niin missä β = a T x 0. X H + = { x R n a T x β } tai X H = { x R n a T x β }, Voidaan olettaa, että X H + = {x R n a T x β}, β = a T x 0. Koska x 1,x 2 X, niin erityisesti pätee Yhtälön (2.20):n nojalla Nyt välttämättä pätee a T x 1 β, a T x 2 β. (2.21) β = a T x 0 = (1 t)a T x 1 +ta T x 2. (2.22) a T x 1 = β, a T x 2 = β, (2.23) sillä, jos olisi a T x 1 > β tai a T x 2 > β, niin kaavoista (2.21), (2.22) seuraisi β > β. Koska a T x i = β, niin x i H ja siten x i X H. Nyt kaavan (2.20) esityksestä seuraa että x 0 ei olekaan X H:n ääripiste kuten vastaväitteessä oli oletettu. Vastaväite on siis väärä ja väite (2.19) oikea. Lause 2.16. Olkoon X R n konveksi suljettu joukko joka on myös alhaalta rajoitettu eli pätee x 0 kaikille x = [x 1,x 2,...,x n ] X. Jos H on X:n kantava hypertaso, niin joukossa T = X H on ainakin yksi X:n ääripiste. 21

Todistus. Edellisen Lemman (Lemma2.15) nojalla jokainen joukon T ääripiste on X:n ääripiste. Seuraavalla konstruktiolla osoitetaan että joukolla T on ainakin yksi ääripiste x. Ääripiste löytyy induktiolla: Tarkastellaan minimointitehtävää x T : min{x 1 x T} =: x 1 (2.24) Tehtävä on ratkeava mutta ratkaisu ei ole välttämättä yksikäsitteinen. Jos on olemassa yksikäsitteinen x siten, että (2.24) pätee, niin x on T:n ääripiste. (Harj.) Jos tehtävällä (2.24) ei ole yksikäsitteistä ratkaisua niin tarkastellaan tehtävää x = (x 1,x 2,...,x n ) T : minx 2 =: x 2. (2.25) Jos tehtävällä (2.25) on yksikäsitteinen ratkaisu x niin se on T:n ääripiste. Prosessi päättyy askeleessa k (1 k n). Tällöin piste on joukon T ääripiste. x = (x 1,...,x k,x k+1,...,x n ) Lause 2.17. Oletetaan että LP-tehtävällä on optimaalinen käypä ratkaisu. Tällöin kustannusfunktion optimi saavutetaan käyvän joukon ääripisteessä. Todistus. Oletetaan standardimuotoinen tehtävä c T x = min! Ax = b x 0. Lauseen (2.4) nojalla käypien ratkaisujen joukko on suljettu ja konveksi. X = {x R n Ax = b, x 0} Koska optimaalinen käypä ratkaisu x 0 on olemassa se määrää Lauseen 2.14 mukaan joukon X erään kantavan hypertason H = {x R n c T x = c T x 0 }. (2.26) Lauseen 2.16 nojalla joukossa X H on ainakin yksi joukon X ääripiste. Nyt (ˆx X H ˆx H) c Tˆx = c T x 0 = min! 22

2.2 LP-ongelman perusratkaisut Tarkastellaan LP-tehtävän standardimuotoa. c T x = min! Ax = b (2.27) x 0, A R m n, x,c R n, b R m. Ellei toisin mainita, niin jatkossa oletetaan m < n r(a) = rank(a) = m. (2.28a) (2.28b) Ehto (2.28b) takaa, että yhtälöllä Ax = b on ratkaisu (mutta se ei ole yksikäsitteinen koska m < n). Jos olisi m = n, niin Ax = b olisi yksikäsitteisesti ratkeava eikä tehtävä (2.27) olisi mielekäs. Ehto r(a) = m on yhtäpitävää sille, että matriisista A voidaan valita m kappaletta keskenään lineaarisesti riippumatonta sarakevektoria, mutta mikä tahansa m + 1:n sarakevektorin joukko on lineaarisesti riippuva. Määritelmä 2.6. Olkoon m < n ja r(a) = m. Vektori x R n on yhtälön Ax = b perusratkaisu, jos (i) Ax = b (ii) Vektorilla x on enintään m kappaletta nollasta eroavia komponentteja. Olkoot ne x i1,x i2,...,x iν (1 ν m), ja vastaava A:n alimatriisi B = [A i1 A i2 A iν ] on säännöllinen. Nyt muuttujia x i1,x i2,...,x iν sanotaan perusmuuttujiksi. Perusratkaisu x löytyy ratkaisemalla m m yhtälöryhmä ja asettamalla Bˆx = b, B = [A j1,...,a jm ], ˆx R m x j = { ˆxν j {j ν, ν = 1,...,m} 0 j / {j ν, ν = 1,...,m}. Perusratkaisu on surkastunut, jos jonkin perusmuuttujan arvo on nolla. Eli ν < m. Tehtävällä (2.27) on käypä perusratkaisu, jos sillä on perusratkaisu ja x 0 ja surkastunut käypä perusratkaisu, kun sillä on surkastunut perusratkaisu ja x 0. LP-tehtävälle (2.27) etsitään optimaalista käypää ratkaisua. Seuraava LP-ongelman ( peruslause sanoo, että riittää tarkastella käypiä perusratkaisuja. Niitä on korkeintaan n ) m kappaletta. 23

Lause 2.18 (LP-ongelman peruslause). Tarkastellaan standardimuotoista tehtävää (2.27), missä m < n ja r(a) = rank(a) = m. Tällöin pätee (i) jos tehtävällä (2.27) on käypä ratkaisu, niin sillä on myös käypä perusratkaisu. (ii) jos tehtävällä (2.27) on optimaalinen käypä ratkaisu, niin sillä on myös optimaalinen käypä perusratkaisu. Todistus. (i): Olkoon x R n eräs LP-tehtävän käypä ratkaisu. Tällöin Ax = b (2.29) x 0 Olkoon p x:n nollasta eroavien komponenttien lukumäärä (x i > 0). Voidaan rajoituksitta olettaa, että ne ovat x 1,x 2,...,x p. Nyt kaava (2.29) tulee muotoon p x i A i = b, x 0. (2.30) Nyt i=1 (a) jos {A i } p i=1 on lineaarisesti riippumaton, niin p r(a) = m. Jos p = m on x määritelmän nojalla käypä perusratkaisu. Jos p < m on x surkastunut käypä perusratkaisu. (b) jos {A i } p i=1 ei ole lineaarisesti riippumaton niin on olemassa sellaiset y 1,...,y p, p joille y i A i = 0 ja y j > 0 eräällä j {1,...,p}. Merkitään Nyt i=1 Ts. x on ratkaisu. y = [y 1,y 2,...,y p,0,...,0] T R n x = x εy, ε R. Ax = Ax ε Ay = Ax = b. }{{} =0 Riippuen y:n arvosta (pos/neg) x joko kasvaa tai vähenee kun ε kasvaa. Osoitetaan vielä, että x 0, i (käypä ratkaisu). Valitaan ε > 0 seuraavasti { xi ε = min y i } y i > 0 > 0. Nyt x 0, koska x i εy i x i ( ) 0, jos y i 0 xi x i = x i εy i = y i ε 0, jos y i > 0 y i }{{} 0 24

Nyt ε:n valinnan johdosta on olemassa indeksi r < p siten, että x r = 0, mistä seuraa että x :llä on enintään p 1 kappaletta nollasta eroavia komponentteja x j > 0. Jos nyt {A i } p i=1 on lineaarisesti riippumaton, niin (a):n nojalla x on käypä perusratkaisu. Muutoin menettely voidaan toistaa, kunnes saadaan lineaarisesti riippu- i r maton joukko {A i }. (ii): Olkoon sitten x optimaalinen käypä ratkaisu, jolla on p kappaletta positiivisia komponentteja x 1,x 2,...,x p. on lineaarisesti riippumaton, niin x on optimaalinen käypä perusrat- (a) jos {A i } p i=1 kaisu. (b) Jos {A i } p i=1 ei ole lineaarisesti riippumaton, niin on olemassa y kuten edellä ja ε siten, että x = x εy on käypä ratkaisu. Itse asiassa ε voi olla tietyissä rajoissa positiivinen tai negatiivinen, ts. x ± δy on myös käypä ratkaisu. Valitaan Nyt 0 < δ ja δ = min{x 1,...,x p } max{ y i y i 0} x i y i, i, kun y i 0. x i ±δy i = x i ( ) jos y i = 0 xi x i ±δy i x i δy i = y i }{{} y i δ 0, jos y i 0. 0 }{{} 0 Eli x ± δy on käypä ratkaisu. Osoitetaan sitten, että x on käypä optimaalinen ratkaisu. Koska c T x = c T x εc T y, niin välttämättä c T y = 0, sillä jos olisi, että i c T y < 0, niin valitaan ε = δ c T x < c T x ii c T y > 0, niin valitaan ε = δ c T x < c T x Nyt voidaan valita ε kuten alkuosassa, jollon x on optimaalinen käypä ratkaisu, jolla on enintään p 1 kappaletta nollasta eroavia komponentteja. Kuten kohdassa (i), löydetään optimaalinen käypä perusratkaisu. Lause 2.19 (perusratkaisun ja ääripisteen yhteys). Olkoon A R m n, b R m ja K R n yhtälöiden Ax = b,x 0 (2.31) määräämä konveksi joukko. Vektori x on joukkon K ääripiste jos ja vain jos x on 2.31:n käypä perusratkaisu. 25

Todistus. Oletetaan ensin, että x = (x 1,x 2,...,x m,0,...,0) on yhtälön 2.31 käypä perusratkaisu. Nyt x 1 A 1 +x 2 A 2 +...+x m A m = b ja A 1,A 2,...,A m ovat A:n lineaarisesti riippumattomia sarakkeita. Olkoon y K, z K ja oletetaan, että x voidaan kirjoittaa lineaarikombinaationa x = αy +(1 α)z, 0 < α < 1, y z. Koska x 0, y 0, ja z 0 ja 0 < α < 1, niin n m viimeistä alkiota vektoreissa y ja z ovat nollia. Ts. y 1 A 1 +y 2 A 2 +...+y m A m = b ja z 1 A 1 +z 2 A 2 +...+z m A m = b Koska vektorit A 1,A 2,...,A m ovat lineaarisesti riippumattomia niin x = y = z ja x on K:n ääripiste. Oletetaan sitten, että x on joukon K ääripiste. Olkoon x:n nollasta poikkeavat alkiot sen k ensimmäistä alkiota. Nyt x 1 A 1 +x 2 A 2 +...+x k A k = b, missä x i > 0, i = 1,2,...,k.. Jotta x olisi käypä perusratkaisu, niin täytyy osoittaa, että vektorit A 1,A 2,...,A k ovat lineaarisesti riippumattomia. Tehdään vastaoletus: Oletetaan, että A 1,A 2,...,A k ovat lineaarisesti riippuvia. Tällöin pätee y 1 A 1 +y 2 A 2 +...+y k A k = 0. Määritellään y = (y 1,y 2,...,y k,0,...,0) R n. Koska x i > 0, 1 i k, niin voidaan valita ε siten, että x+εy 0, x εy 0. Nyt x = 1(x + εy) + 1 (x εy), mikä ei voi olla totta koska x on K:n ääripiste. Ts. 2 2 A 1,A 2,...,A m ovat lineaarisesti riippumattomia ja x on käypä perusratkaisu. Yhteenveto LP-onglemasta A R m n, m < n, r(a) = m, c 0 c T x = min! Ax = b x 0 (LP) Lause 2.20. Olkoon X tehtävän (LP) käypä joukko. Tällöin pätee täsmälleen yksi seuraavista (i) X = 26

(ii) X. On olemassa optimiratkaisu x siten, että x on käypä perusratkaisu (eli X:n ääripiste). (iii) X. Optimiratkaisua ei ole vaan pätee inf x X ct x =. 27