Inversio-ongelmien laskennallinen peruskurssi Luento 7 8
|
|
- Eeva-Liisa Lahtinen
- 6 vuotta sitten
- Katselukertoja:
Transkriptio
1 Inversio-ongelmien laskennallinen peruskurssi Luento 7 8 Kevät Iteratiivisista menetelmistä Tähän mennessä on tarkasteltu niin sanottuja suoria menetelmiä, joissa (likimääräinen) ratkaisu saadaan kerralla esimerkiksi pseudoinverssiä käyttämällä. Suorat menetelmät kuitenkin tavallisesti vaativat matriisien käänteismatriisin laskemisen, mikä on suurien ongelmien tapauksissa numeerisesti raskas suoritus. Iteratiivisissa menetelmissä sen sijaan tavallisesti konstruoidaan jono likimääräisiä ratkaisuja, jotka (toivon mukaan) konvergoivat kohti jonkinlaista hyväksyttävää ratkaisua. Lisäksi iteratiiviset menetelmät eivät useimmiten vaadi matriisien kääntämistä, jolloin ne saattavat sopia paremmin isoille ongelmille. 2 Konjugaattigradienttimenetelmä (CG) Tarkastellaan ongelmaa m = Ax. oletetaan, että matriisi A on ns. SPD, symmetrinen ja positiividefiniitti. Toisin sanoen, matriisille A pätee: 1. A T = A (symmetrisyys), 2. kaikilla x R n, x 0, pätee x T Ax > 0 (positiividefiniittisyys) Jos matriisi A on symmetrinen, on sen singulaariarvohajotelma muotoa A = UΣU T. 1
2 Tällöin yo. hajotelma on myös matriisin A ominaisarvohajotelma: jos U = [u 1, u 2,..., u n ], niin Au j = σ j u j, ja erityisesti, jos A on positiividefiniitti, niin σ j = u T j σ j u j = u T j Au j > 0, matriisin A kaikki ominaisarvot ovat positiivisia. Matriisi A määrittelee ns. A-normin kaavalla x 2 A = x T Ax. Koska {u 1, u 2,..., u n } muodostavat ortogonaalisen kannan avaruudessa R n, voidaan kirjoittaa Tällöin x = j=1 n x j u j, x j = u T j x. ( j=1 ) T ( n ) x T Ax = x j u j x j σ j u j n k=1 n = σ j x 2 j = x 2 A, j=1 joten A on painotettu euklidinen normi {u 1, u 2,..., u n } koordinaattisysteemissä. Olkoon x R n ongelman m = Ax oikea ratkaisu, x = A 1 m. Kaikille x R n määritellään e = x x (virhe), r = Ae = Ax Ax = Ax m Virheen e koon mittaamiseksi määritellään (residuaali). φ(x) = e 2 A = e T Ae = e T r = r T A 1 r. Koska oikea ratkaisu x on tuntematon, ei funkionaalia φ(x) voida laskea. Huomaa, että φ(x) 0, φ(x) = 0 x = x. Siis minimoimalla φ voitaisiin saada oikeaa ratkaisua x lähellä oleva likimääräinen ratkaisu. Vaikka funktionaalin φ arvoa ei voida suoraan laskea, on se kuitenkin mahdollista minimoida iteratiivisesti. 2
3 Konjugaattigradienttimenetelmä on yksi vanhimmista ns. Krylovin aliavaruus -menetelmistä. Olkoon x 1 R n (usein voidaan valita x 1 = 0) ensimmäinen arvaus ratkaisuksi. Tällöin ensimmäinen residuaali on r 1 = m Ax 1, ja oletetaan, että r 1 0. Niin sanottu k. asteen Krylovin aliavaruus on K k (r 1, A) = sp{r 1, Ar 1, A 2 r 1,..., A k 1 r 1 }. Krylovin aliavaruus -menetelmissä ajatuksena on yrittää löytää likimääräsiratkaisu aliavaruudesta K k (r 1, A). Olkoon alkuarvaus x 1 ja ensimmäinen residuaali r 1 kuten edellä. Määritellään ensimmäinen hakusuunta s 1, s 1 = r 1, ja yritetään minimoida funktio R R, Nyt α φ(x 1 + αs 1 ). φ(x 1 + αs 1 ) = (x 1 + αs 1 x ) T A(x 1 + αs 1 x ) = α 2 s T 1 As 1 + 2αs T 1 A(x 1 x ) + (x 1 x ) T A(x 1 x ) = α 2 s T 1 As 1 2αs T 1 r 1 + φ(x 1 ), ja minimi saavutetaan derivaatan nollakohdassa 2αs T 1 As 1 2s T 1 r 1 = 0 α = st 1 r 1 s T 1 As 1. Määritellään nyt ratkaisun uusi iteraatio x 2, x 2 = x 1 + αs 1, ja uusi residuaali r 2, r 2 = m Ax 2 = r 1 αas 1. Huomaa, että s T 1 r 2 = s T 1 r 1 αs T 1 As 1 = 0, vektorit s 1 ja r 2 ovat kohtisuorassa toisiaan vastaan. 3
4 Tämän jälkeen jatketaan kuten edellä: valitaan uusi hakusuunta s 2 ja minimoidaan funktio α φ(x 2 + αs 2 ). Yleisesti iteraatiokierroksella k = 1, 2,..., α k = arg min φ(x k + αs k ) = st k r k s T k As k Ongelmana on, miten tulisi valita hakusuunta s k? Määritelmä 2.1. Olkoon {s 1, s 2,..., s k } joukko lineaarisesti riippumattomia vektoreita. Niitä sanotaan A-konjugaateiksi, jos Nyt s T j As l = 0, kun j l. Ideana on valita hakusuunnat siten, että 1. {s 1, s 2,..., s k } ovat A-konjugaatteja, ja 2. sp{s 1, s 2,..., s k } = K k (r 1, A). s 1 = r 1, sp{s 1 } = K 1 (r 1, A). Oletetaan, että olemme valinneet A-konjugaatit {s 1, s 2,..., s k }, ja että Olkoon sp{s 1, s 2,..., s k } = K k (r 1, A). r k+1 = m Ax k+1, ja oletetaan että r k+1 0. Etsitään uutta hakusuuntaa s k+1 muodossa s k+1 = r k+1 + βs k. Jotta A-konjugaattisuusehto toteutuisi, vaaditaan s T k As k+1 = s T k Ar k+1 + βs T k As k = 0, β = st k Ar k+1 s T k As. k 4
5 Nyt, kun j < k, s j As k+1 = s T j Ar k+1 + βs T j As k = (As j ) T r k+1, ja As j A(sp{s 1,..., s k 1 }) = AK k 1 (r 1, A) K k (r 1, A) = sp{s 1,..., s k } r k+1, joten s T j As k+1 = 0. Täten siis uusin hakusuunta s k+1 on A-konjugaatti vektoreille s 1, s 2,..., s k ja sp{s 1,..., s k+1 } = K k+1 (r 1, A). Huomioi vielä, että s T k r k = (r k + β k 1 s k 1 ) T r k = r T k r k + β k 1 s T k 1r k = r k 2, sillä s T k r k = 0, joten α k = st k r k s T k As k = r k 2 s T k As. k Lisäksi r k+1 2 = r T k+1r k+1 = r T k+1(m Ax k+1 ) = r T k+1(m Ax k α k As k ) = r T k+1r k α k r T k+1as k = α k r T k+1as k, koska r k K k (r 1, A) = sp{s 1,..., s k } r k+1. Täten joten r k+1 2 = r k 2 s k As k r T k+1as k = r k 2 β k, β = r k+1 2 r k 2. Kootaan nyt kaikki edellä oleva iteratiiviseksi algoritmiksi: 5
6 CG-algoritmi 1. k = 1: Valitse x 1 (esim x 1 = 0), r 1 = m Ax 1, s 1 = r 1 2. Iteroi, kunnes lopetusehto täyttyy: α k = r k 2 s T k As ; k x k+1 = x k + α k s k ; r k+1 = r k α k As k ; β k = r k+1 2 r k 2 ; s k+1 = r k+1 + β k s k. Lopetusehtona voi käyttää esimerkiksi Morozovin diskrepanssiperiaatetta, iterointi lopetetaan, kun r k ε, missä ε on (arvioitu) mittausvirheen normi. Lisäksi kannattaa myös asettaa iteroinneille jokin yläraja, mikä estää iterointisilmukan joutumisen äärettömään looppiin, jos Morozovin diskrepanssiehto ei täyty. 3 Conjugate Gradient for Least Squares (CGLS) CG-menetelmän rajoituksena on se, että matriisin A tulee olla symmetrinen ja positiividefiniitti. Yleinen (ylideterminoitu) ongelma voidaan kuitenkin palauttaa muotoon, jossa CG-menetelmää voidaan soveltaa. Tarkastellaan ongelmaa m = Ax, missä A R n n ja oletetaan, että A T A on kääntyvä. Tällöin yo. ongelman pienimmän nösumman ratkaisu saadaan kaavalla ˆx = A + m = (A T A) 1 A T m, Bˆx = b, 6
7 missä B = A T A ja b = A T m. Siis ongelman pienimmän nösumman ratkaisun ˆx löytämiseksi voidaan soveltaa CG-algoritmiä yhtälöön Huomaa, että nyt residuaali Bˆx = b. r k = b Bx k = A T m A T Ax k, joten määritellään erikseen diskrepanssi d k = m Ax k. Tällöin r k = A T d k, ja lisäksi nyt α k = r k 2 s T k Bs k = r k 2 As k 2. Kootaan ylläoleva iteratiiviseksi algoritmiksi: CGLS-algoritmi 1. k = 1: Valitse x 1, d 1 = m Ax 1, r 1 = A t d 1, y 1 = As Iteroi, kunnes lopetusehto täyttyy: α k = r k 2 y k 2 ; x k+1 = x k + α k s k ; d k+1 = d k α k y k ; r k+1 = A T d k+1 ; β k+1 = r k+1 2 r k 2 ; s k+1 = r k+1 + β k+1 s k ; y k+1 = As k+1. 7
Inversio-ongelmien laskennallinen peruskurssi Luento 4
Inversio-ongelmien laskennallinen peruskurssi Luento 4 Kevät 20 Regularisointi Eräs keino yrittää ratkaista (likimääräisesti) huonosti asetettuja ongelmia on regularisaatio. Regularisoinnissa ongelmaa
LisätiedotInversio-ongelmien laskennallinen peruskurssi Luento 2
Inversio-ongelmien laskennallinen peruskurssi Luento 2 Kevät 2012 1 Lineaarinen inversio-ongelma Määritelmä 1.1. Yleinen (reaaliarvoinen) lineaarinen inversio-ongelma voidaan esittää muodossa m = Ax +
LisätiedotInversio-ongelmien laskennallinen peruskurssi Luento 3
Inversio-ongelmien laskennallinen peruskurssi Luento 3 Kevät 2011 1 Singulaariarvohajotelma (Singular Value Decomposition, SVD) Olkoon A R m n matriisi 1. Tällöin A voidaan esittää muodossa A = UΣV T,
LisätiedotKonjugaattigradienttimenetelmä
Konjugaattigradienttimenetelmä Keijo Ruotsalainen Division of Mathematics Konjugaattigradienttimenetelmä Oletukset Matriisi A on symmetrinen: A T = A Positiivisesti definiitti: x T Ax > 0 kaikille x 0
LisätiedotLikimääräisratkaisut ja regularisaatio
Luku 3 Likimääräisratkaisut ja regularisaatio Käytännön inversio-ongelmissa annettu data y ei aina ole tarkkaa, vaan sisältää häiriöitä. Tuntemattomasta x on annettu häiriöinen data y F (x + }{{}}{{} ε.
LisätiedotNumeeriset menetelmät TIEA381. Luento 5. Kirsi Valjus. Jyväskylän yliopisto. Luento 5 () Numeeriset menetelmät / 28
Numeeriset menetelmät TIEA381 Luento 5 Kirsi Valjus Jyväskylän yliopisto Luento 5 () Numeeriset menetelmät 3.4.2013 1 / 28 Luennon 5 sisältö Luku 4: Ominaisarvotehtävistä Potenssiinkorotusmenetelmä QR-menetelmä
LisätiedotMS-C1340 Lineaarialgebra ja
MS-C1340 Lineaarialgebra ja differentiaaliyhtälöt QR-hajotelma ja pienimmän neliösumman menetelmä Riikka Kangaslampi Kevät 2017 Matematiikan ja systeemianalyysin laitos Aalto-yliopisto PNS-ongelma PNS-ongelma
LisätiedotEsimerkki 19. Esimerkissä 16 miniminormiratkaisu on (ˆx 1, ˆx 2 ) = (1, 0).
Esimerkki 9 Esimerkissä 6 miniminormiratkaisu on (ˆx, ˆx (, 0 Seuraavaksi näytetään, että miniminormiratkaisuun siirtyminen poistaa likimääräisongelman epäyksikäsitteisyyden (mutta lisääntyvän ratkaisun
LisätiedotMS-C1340 Lineaarialgebra ja differentiaaliyhtälöt
MS-C1340 Lineaarialgebra ja differentiaaliyhtälöt ja pienimmän neliösumman menetelmä Riikka Kangaslampi Matematiikan ja systeemianalyysin laitos Aalto-yliopisto 2015 1 / 18 R. Kangaslampi QR ja PNS PNS-ongelma
LisätiedotNumeeriset menetelmät TIEA381. Luento 4. Kirsi Valjus. Jyväskylän yliopisto. Luento 4 () Numeeriset menetelmät / 44
Numeeriset menetelmät TIEA381 Luento 4 Kirsi Valjus Jyväskylän yliopisto Luento 4 () Numeeriset menetelmät 21.3.2013 1 / 44 Luennon 4 sisältö Lineaarisen yhtälöryhmän ratkaisemisesta: Choleskyn menetelmä
LisätiedotNumeeriset menetelmät
Numeeriset menetelmät Luento 5 Ti 20.9.2011 Timo Männikkö Numeeriset menetelmät Syksy 2011 Luento 5 Ti 20.9.2011 p. 1/40 p. 1/40 Choleskyn menetelmä Positiivisesti definiiteillä matriiseilla kolmiohajotelma
LisätiedotKohdeyleisö: toisen vuoden teekkari
Julkinen opetusnäyte Yliopisto-opettajan tehtävä, matematiikka Klo 8:55-9:15 TkT Simo Ali-Löytty Aihe: Lineaarisen yhtälöryhmän pienimmän neliösumman ratkaisu Kohdeyleisö: toisen vuoden teekkari 1 y y
LisätiedotOminaisvektoreiden lineaarinen riippumattomuus
Ominaisvektoreiden lineaarinen riippumattomuus Lause 17 Oletetaan, että A on n n -matriisi. Oletetaan, että λ 1,..., λ m ovat matriisin A eri ominaisarvoja, ja oletetaan, että v 1,..., v m ovat jotkin
LisätiedotOrtogonaalisen kannan etsiminen
Ortogonaalisen kannan etsiminen Lause 94 (Gramin-Schmidtin menetelmä) Oletetaan, että B = ( v 1,..., v n ) on sisätuloavaruuden V kanta. Merkitään V k = span( v 1,..., v k ) ja w 1 = v 1 w 2 = v 2 v 2,
LisätiedotMatriisilaskenta Luento 12: Vektoriavaruuden kannan olemassaolo
Matriisilaskenta Luento 12: Vektoriavaruuden kannan olemassaolo Antti Rasila 2016 Vektoriavaruuden kannan olemassaolo Jos {v 1, v 2,..., v k } on äärellisulotteisen vektoriavaruuden V lineaarisesti riippumaton
LisätiedotLuento 9: Newtonin iteraation sovellus: optimointiongelma
Luento 9: Newtonin iteraation sovellus: optimointiongelma ilman rajoitusehtoja Optimointiongelmassa tehtävänä on löytää annetun reaaliarvoisen jatkuvan funktion f(x 1,x,,x n ) maksimi tai minimi jossain
LisätiedotMS-A0003/A Matriisilaskenta Laskuharjoitus 6
MS-A3/A - Matriisilaskenta Laskuharjoitus 6 Ratkaisuehdotelmia. Diagonalisointi on hajotelma A SΛS, jossa diagonaalimatriisi Λ sisältää matriisin A ominaisarvot ja matriisin S sarakkeet ovat näitä ominaisarvoja
Lisätiedot3.2.2 Tikhonovin regularisaatio
3 Tikhonovin regularisaatio Olkoon x 0 R n tuntematon, M R m n teoriamatriisi ja y Mx + ε R m (316 annettu data Häiriöherkässä ongelmassa pienimmän neliösumman miniminormiratkaisu x M + y Q N (M x + M
LisätiedotOminaisarvoon 4 liittyvät ominaisvektorit ovat yhtälön Ax = 4x eli yhtälöryhmän x 1 + 2x 2 + x 3 = 4x 1 3x 2 + x 3 = 4x 2 5x 2 x 3 = 4x 3.
Matematiikan ja tilastotieteen laitos Lineaarialgebra ja matriisilaskenta II Ylimääräinen harjoitus 6 Ratkaisut A:n karakteristinen funktio p A on λ p A (λ) det(a λi ) 0 λ ( λ) 0 5 λ λ 5 λ ( λ) (( λ) (
LisätiedotLuento 5: Suurten lineaaristen yhtälöryhmien ratkaiseminen iteratiivisilla menetelmillä
Luento 5: Suurten lineaaristen yhtälöryhmien ratkaiseminen iteratiivisilla menetelmillä Matriisit voivat olla kooltaan niin suuria, että LU-hajotelman laskeminen ei ole järkevä tapa ratkaista lineaarista
LisätiedotLikimääräisratkaisut ja regularisaatio
48 Luku 4 Likimääräisratkaisut ja regularisaatio Ryhdytään tarkastelemaan klassisia approksimatiivisia ratkaisumenetelmiä huonosti asetetuille tai häiriöherkille äärellisulotteisille lineaarisille ongelmille
LisätiedotVektorien virittämä aliavaruus
Vektorien virittämä aliavaruus Esimerkki 13 Mikä ehto vektorin w = (w 1, w 2, w 3 ) komponenttien on toteutettava, jotta w kuuluu vektoreiden v 1 = (3, 2, 1), v 2 = (2, 2, 6) ja v 3 = (3, 4, 5) virittämään
LisätiedotNumeeriset menetelmät TIEA381. Luento 8. Kirsi Valjus. Jyväskylän yliopisto. Luento 8 () Numeeriset menetelmät / 35
Numeeriset menetelmät TIEA381 Luento 8 Kirsi Valjus Jyväskylän yliopisto Luento 8 () Numeeriset menetelmät 11.4.2013 1 / 35 Luennon 8 sisältö Interpolointi ja approksimointi Funktion approksimointi Tasainen
LisätiedotMS-A0204 Differentiaali- ja integraalilaskenta 2 (ELEC2) Luento 7: Pienimmän neliösumman menetelmä ja Newtonin menetelmä.
MS-A0204 Differentiaali- ja integraalilaskenta 2 (ELEC2) Luento 7: Pienimmän neliösumman menetelmä ja Newtonin menetelmä. Antti Rasila Matematiikan ja systeemianalyysin laitos Aalto-yliopisto Kevät 2016
LisätiedotMS-C1340 Lineaarialgebra ja
MS-C1340 Lineaarialgebra ja differentiaaliyhtälöt Matriisinormi, häiriöalttius Riikka Kangaslampi Kevät 2017 Matematiikan ja systeemianalyysin laitos Aalto-yliopisto Matriisinormi Matriisinormi Matriiseille
LisätiedotOletetaan ensin, että tangenttitaso on olemassa. Nyt pinnalla S on koordinaattiesitys ψ, jolle pätee että kaikilla x V U
HY / Matematiikan ja tilastotieteen laitos Vektorianalyysi II, syksy 018 Harjoitus 4 Ratkaisuehdotukset Tehtävä 1. Olkoon U R avoin joukko ja ϕ = (ϕ 1, ϕ, ϕ 3 ) : U R 3 kaksiulotteisen C 1 -alkeispinnan
LisätiedotLuento 8: Epälineaarinen optimointi
Luento 8: Epälineaarinen optimointi Vektoriavaruus R n R n on kaikkien n-jonojen x := (x,..., x n ) joukko. Siis R n := Määritellään nollavektori 0 = (0,..., 0). Reaalisten m n-matriisien joukkoa merkitään
LisätiedotNumeeriset menetelmät
Numeeriset menetelmät Luento 6 To 22.9.2011 Timo Männikkö Numeeriset menetelmät Syksy 2011 Luento 6 To 22.9.2011 p. 1/38 p. 1/38 Ominaisarvotehtävät Monet sovellukset johtavat ominaisarvotehtäviin Yksi
LisätiedotMatemaattinen Analyysi / kertaus
Matemaattinen Analyysi / kertaus Ensimmäinen välikoe o { 2x + 3y 4z = 2 5x 2y + 5z = 7 ( ) x 2 3 4 y = 5 2 5 z ) ( 3 + y 2 ( 2 x 5 ( 2 7 ) ) ( 4 + z 5 ) = ( 2 7 ) yhteys determinanttiin Yhtälöryhmän ratkaiseminen
Lisätiedot(0 desimaalia, 2 merkitsevää numeroa).
NUMEERISET MENETELMÄT DEMOVASTAUKSET SYKSY 20.. (a) Absoluuttinen virhe: ε x x ˆx /7 0.4 /7 4/00 /700 0.004286. Suhteellinen virhe: ρ x x ˆx x /700 /7 /00 0.00 0.%. (b) Kahden desimaalin tarkkuus x ˆx
LisätiedotRatkaisuehdotukset LH 7 / vko 47
MS-C34 Lineaarialgebra, II/7 Ratkaisuehdotukset LH 7 / vko 47 Tehtävä : Olkoot M R symmetrinen ja positiividefiniitti matriisi (i) Näytä, että m > ja m > (ii) Etsi Eliminaatiomatriisi E R siten, että [
Lisätiedot802320A LINEAARIALGEBRA OSA II
802320A LINEAARIALGEBRA OSA II Tapani Matala-aho MATEMATIIKKA/LUTK/OULUN YLIOPISTO SYKSY 2016 LINEAARIALGEBRA 1 / 64 Sisätuloavaruus Määritelmä 1 Olkoon V reaalinen vektoriavaruus. Kuvaus on reaalinen
LisätiedotPaikannuksen matematiikka MAT
TA M P E R E U N I V E R S I T Y O F T E C H N O L O G Y M a t h e m a t i c s Paikannuksen matematiikka MAT-45800 4..008. p.1/4 Käytännön järjestelyt Kotisivu: http://math.tut.fi/courses/mat-45800/ Luennot:
LisätiedotVapaus. Määritelmä. jos c 1 v 1 + c 2 v c k v k = 0 joillakin c 1,..., c k R, niin c 1 = 0, c 2 = 0,..., c k = 0.
Vapaus Määritelmä Oletetaan, että v 1, v 2,..., v k R n, missä n {1, 2,... }. Vektorijono ( v 1, v 2,..., v k ) on vapaa eli lineaarisesti riippumaton, jos seuraava ehto pätee: jos c 1 v 1 + c 2 v 2 +
LisätiedotRatkaisuehdotukset LH 8 / vko 47
Ratkaisuehdotukset LH 8 / vko 47 Tehtävä 1: Olkoot A R n n matriisi, jonka singulaariarvohajotelma on A [ ] [ ] Σ U 1 U r 0 [V1 ] T 2 V 0 0 2 Jossa Σ r on kääntyvä matriisi, [ U 1 U 2 ] ja [ V1 V 2 ] ovat
LisätiedotKannan vektorit siis virittävät aliavaruuden, ja lisäksi kanta on vapaa. Lauseesta 7.6 saadaan seuraava hyvin käyttökelpoinen tulos:
8 Kanta Tässä luvussa tarkastellaan aliavaruuden virittäjävektoreita, jotka muodostavat lineaarisesti riippumattoman jonon. Merkintöjen helpottamiseksi oletetaan luvussa koko ajan, että W on vektoreiden
Lisätiedot1 Sisätulo- ja normiavaruudet
1 Sisätulo- ja normiavaruudet 1.1 Sisätuloavaruus Määritelmä 1. Olkoon V reaalinen vektoriavaruus. Kuvaus : V V R on reaalinen sisätulo eli pistetulo, jos (a) v w = w v (symmetrisyys); (b) v + u w = v
LisätiedotTehtäväsarja I Kerrataan lineaarikuvauksiin liittyviä todistuksia ja lineaarikuvauksen muodostamista. Sarjaan liittyvät Stack-tehtävät: 1 ja 2.
HY / Avoin yliopisto Lineaarialgebra ja matriisilaskenta II, kesä 2016 Harjoitus 3 Ratkaisut palautettava viimeistään maanantaina 29.8.2016 klo 13.15. Tehtäväsarja I Kerrataan lineaarikuvauksiin liittyviä
LisätiedotSisätuloavaruudet. 4. lokakuuta 2006
Sisätuloavaruudet 4. lokakuuta 2006 Tässä esityksessä vektoriavaruudet V ja W ovat kompleksisia ja äärellisulotteisia. Käydään ensin lyhyesti läpi määritelmiä ja perustuloksia. Merkitään L(V, W ) :llä
Lisätiedot2. Teoriaharjoitukset
2. Teoriaharjoitukset Demotehtävät 2.1 Todista Gauss-Markovin lause. Ratkaisu. Oletetaan että luentokalvojen standardioletukset (i)-(v) ovat voimassa. Huomaa että Gauss-Markovin lause ei vaadi virhetermien
LisätiedotLuento 8: Epälineaarinen optimointi
Luento 8: Epälineaarinen optimointi Vektoriavaruus R n R n on kaikkien n-jonojen x := (x,..., x n ) joukko. Siis R n := Määritellään nollavektori = (,..., ). Reaalisten m n-matriisien joukkoa merkitään
LisätiedotMS-A0207 Differentiaali- ja integraalilaskenta 2 (Chem) Yhteenveto, osa I
MS-A0207 Differentiaali- ja integraalilaskenta 2 (Chem) Yhteenveto, osa I G. Gripenberg Aalto-yliopisto 21. tammikuuta 2016 G. Gripenberg (Aalto-yliopisto) MS-A0207 Differentiaali- ja integraalilaskenta
Lisätiedotx = y x i = y i i = 1, 2; x + y = (x 1 + y 1, x 2 + y 2 ); x y = (x 1 y 1, x 2 + y 2 );
LINEAARIALGEBRA Ratkaisuluonnoksia, Syksy 2016 1. Olkoon n Z +. Osoita, että (R n, +, ) on lineaariavaruus, kun vektoreiden x = (x 1,..., x n ), y = (y 1,..., y n ) identtisyys, yhteenlasku ja reaaliluvulla
LisätiedotLineaarialgebra ja matriisilaskenta II Syksy 2009 Laskuharjoitus 1 ( ) Ratkaisuehdotuksia Vesa Ala-Mattila
Lineaarialgebra ja matriisilaskenta II Syksy 29 Laskuharjoitus (9. - 3..29) Ratkaisuehdotuksia Vesa Ala-Mattila Tehtävä. Olkoon V vektoriavaruus. Todistettava: jos U V ja W V ovat V :n aliavaruuksia, niin
LisätiedotJAKSO 2 KANTA JA KOORDINAATIT
JAKSO 2 KANTA JA KOORDINAATIT Kanta ja dimensio Tehtävä Esittele vektoriavaruuden kannan määritelmä vapauden ja virittämisen käsitteiden avulla ja anna vektoriavaruuden dimension määritelmä Esittele Lause
LisätiedotLineaarialgebra ja matriisilaskenta I, HY Kurssikoe Ratkaisuehdotus. 1. (35 pistettä)
Lineaarialgebra ja matriisilaskenta I, HY Kurssikoe 26.10.2017 Ratkaisuehdotus 1. (35 pistettä) (a) Seuraavat matriisit on saatu eräistä yhtälöryhmistä alkeisrivitoimituksilla. Kuinka monta ratkaisua yhtälöryhmällä
LisätiedotMS-A0205/MS-A0206 Differentiaali- ja integraalilaskenta 2 Luento 6: Ääriarvojen luokittelu. Lagrangen kertojat.
MS-A0205/MS-A0206 Differentiaali- ja integraalilaskenta 2 Luento 6: Ääriarvojen luokittelu. Lagrangen kertojat. Jarmo Malinen Matematiikan ja systeemianalyysin laitos 1 Aalto-yliopisto Kevät 2016 1 Perustuu
LisätiedotMatriisilaskenta, LH4, 2004, ratkaisut 1. Hae seuraavien R 4 :n aliavaruuksien dimensiot, jotka sisältävät vain
Matriisilaskenta LH4 24 ratkaisut 1 Hae seuraavien R 4 :n aliavaruuksien dimensiot jotka sisältävät vain a) Kaikki muotoa (a b c d) olevat vektorit joilla d a + b b) Kaikki muotoa (a b c d) olevat vektorit
LisätiedotNumeeriset menetelmät
Numeeriset menetelmät Luento 4 To 15.9.2011 Timo Männikkö Numeeriset menetelmät Syksy 2011 Luento 4 To 15.9.2011 p. 1/38 p. 1/38 Lineaarinen yhtälöryhmä Lineaarinen yhtälöryhmä matriisimuodossa Ax = b
LisätiedotMS-A0204 Differentiaali- ja integraalilaskenta 2 (ELEC2) Luento 6: Ääriarvojen luokittelu. Lagrangen kertojat.
MS-A0204 Differentiaali- ja integraalilaskenta 2 (ELEC2) Luento 6: Ääriarvojen luokittelu. Lagrangen kertojat. Antti Rasila Matematiikan ja systeemianalyysin laitos Aalto-yliopisto Kevät 2016 Antti Rasila
Lisätiedotx = y x i = y i i = 1, 2; x + y = (x 1 + y 1, x 2 + y 2 ); x y = (x 1 y 1, x 2 + y 2 );
LINEAARIALGEBRA Harjoituksia, Syksy 2016 1. Olkoon n Z +. Osoita, että (R n, +, ) on lineaariavaruus, kun vektoreiden x = (x 1,..., x n ), y = (y 1,..., y n ) identtisyys, yhteenlasku ja reaaliluvulla
LisätiedotEllipsoidimenetelmä. Samuli Leppänen Kokonaislukuoptimointi. S ysteemianalyysin Laboratorio
Ellipsoidimenetelmä Kokonaislukuoptimointi Sovelletun matematiikan lisensiaattiseminaari Kevät 2008 / 1 Sisällys Ellipsoidimenetelmän geometrinen perusta ja menetelmän idea Formaali ellipsoidimenetelmä
LisätiedotOminaisarvot ja ominaisvektorit 140 / 170
Ominaisarvot ja ominaisvektorit 140 / 170 Seuraavissa luvuissa matriisit ja vektori ajatellaan kompleksisiksi, ts. kertojakuntana oletetaan olevan aina kompleksilukujoukko C Huomaa, että reaalilukujoukko
LisätiedotMS-A0003/A0005 Matriisilaskenta Laskuharjoitus 3 /
MS-A3/A5 Matriisilaskenta, II/27 MS-A3/A5 Matriisilaskenta Laskuharjoitus 3 / 3. 7..27 Tehtävä (L): Etsi kaikki yhtälön Ax = b ratkaisut, kun 3 5 4 A = 3 2 4 ja b = 6 8 7 4. Ratkaisu : Koetetaan ratkaista
LisätiedotRatkaisuehdotukset LH 10 / vko 48
MS-C134 Lineaarialgebra, II/017 Ratkaisuehdotukset LH 10 / vko 48 Tehtävä 1: Olkoot A R n n symmetrinen ja positiividefiniitti matriisi. Näytä, että (i T A n (λ iα i (ii A n (λ i α i jossa α i on siten,
LisätiedotKertausta: avaruuden R n vektoreiden pistetulo
Kertausta: avaruuden R n vektoreiden pistetulo Määritelmä Vektoreiden v R n ja w R n pistetulo on v w = v 1 w 1 + v 2 w 2 + + v n w n. Huom. Pistetulo v w on reaaliluku! LM2, Kesä 2012 227/310 Kertausta:
LisätiedotLuento 10: Optimointitehtävien numeerinen ratkaiseminen; optimointi ilman rajoitusehtoja
Luento 10: Optimointitehtävien numeerinen ratkaiseminen; optimointi ilman rajoitusehtoja Seuraavassa esitetään optimointitehtävien numeerisia ratkaisumenetelmiä, eli optimointialgoritmeja, keittokirjamaisesti.
LisätiedotLineaarialgebra ja matriisilaskenta I
Lineaarialgebra ja matriisilaskenta I 30.5.2013 HY / Avoin yliopisto Jokke Häsä, 1/19 Käytännön asioita Kurssi on suunnilleen puolessa välissä. Kannattaa tarkistaa tavoitetaulukosta, mitä on oppinut ja
LisätiedotLineaarikombinaatio, lineaarinen riippuvuus/riippumattomuus
Lineaarikombinaatio, lineaarinen riippuvuus/riippumattomuus 1 / 51 Lineaarikombinaatio Johdattelua seuraavaan asiaan (ei tarkkoja määritelmiä): Millaisen kuvan muodostaa joukko {λv λ R, v R 3 }? Millaisen
LisätiedotMatriisilaskenta Luento 8: LU-hajotelma
Matriisilaskenta Luento 8: LU-hajotelma Antti Rasila 2016 Matriisihajotelmat 1/2 Usein matriisiyhtälön Ax = y ratkaiseminen on epäkäytännöllistä ja hidasta. Siksi numeerisessa matriisilaskennassa usein
LisätiedotTalousmatematiikan perusteet: Luento 13. Rajoittamaton optimointi Hessen matriisi Ominaisarvot ja vektorit Ääriarvon laadun tarkastelu
Talousmatematiikan perusteet: Luento 13 Rajoittamaton optimointi Hessen matriisi Ominaisarvot ja vektorit Ääriarvon laadun tarkastelu Viime luennolla Aloimme tarkastella yleisiä, usean muuttujan funktioita
LisätiedotMS-A0004/MS-A0006 Matriisilaskenta Laskuharjoitus 6 / vko 42
MS-A0004/MS-A0006 Matriisilaskenta Laskuharjoitus 6 / vko 42 Tehtävät 1-4 lasketaan alkuviikon harjoituksissa ryhmissä, ja ryhmien ratkaisut esitetään harjoitustilaisuudessa (merkitty kirjaimella L = Lasketaan).
LisätiedotLineaarialgebra ja differentiaaliyhtälöt Harjoitus 4 / Ratkaisut
MS-C34 Lineaarialgebra ja differentiaaliyhtälöt, IV/26 Lineaarialgebra ja differentiaaliyhtälöt Harjoitus 4 / t Alkuviikon tuntitehtävä Hahmottele matriisia A ( 2 6 3 vastaava vektorikenttä Matriisia A
LisätiedotTehtäväsarja I Seuraavat tehtävät liittyvät kurssimateriaalin lukuun 7 eli vapauden käsitteeseen ja homogeenisiin
HY / Avoin yliopisto Lineaarialgebra ja matriisilaskenta I, kesä 2014 Harjoitus 4 Ratkaisujen viimeinen palautuspäivä: pe 662014 klo 1930 Tehtäväsarja I Seuraavat tehtävät liittyvät kurssimateriaalin lukuun
Lisätiedot1. Normi ja sisätulo
Kurssimateriaalia K3/P3-kursille syksyllä 3 83 Heikki Apiola Sisältää otteita Timo Eirolan L3-kurssin lineaarialgebramonisteesta, jonka lähdekoodin Timo on ystävällisesti antanut käyttööni Normi ja sisätulo
LisätiedotMonissa käytännön ongelmissa ei matriisiyhtälölle Ax = b saada ratkaisua, mutta approksimaatio on silti käyttökelpoinen.
Pns ratkaisu (Kr. 20.5, Lay 6.5 C-II/KP-II, 20, Kari Eloranta Monissa käytännön ongelmissa ei matriisiyhtälölle Ax = b saada ratkaisua, mutta approksimaatio on silti käyttökelpoinen. Määritelmä Jos A on
LisätiedotTeknillinen tiedekunta, matematiikan jaos Numeeriset menetelmät
Numeeriset menetelmät 1. välikoe, 14.2.2009 1. Määrää matriisin 1 1 a 1 3 a a 4 a a 2 1 LU-hajotelma kaikille a R. Ratkaise LU-hajotelmaa käyttäen yhtälöryhmä Ax = b, missä b = [ 1 3 2a 2 a + 3] T. 2.
LisätiedotHavainnollistuksia: Merkitään w = ( 4, 3) ja v = ( 3, 2). Tällöin. w w = ( 4) 2 + ( 3) 2 = 25 = 5. v = ( 3) = 13. v = v.
Havainnollistuksia: Merkitään w = ( 4, 3) ja v = ( 3, 2). Tällöin w = w w = ( 4) 2 + ( 3) 2 = 25 = 5 v = v v = ( 3) 2 + 2 2 = 13. w =5 3 2 v = 13 4 3 LM1, Kesä 2014 76/102 Normin ominaisuuksia I Lause
LisätiedotNeliömatriisi A on ortogonaalinen (eli ortogonaalimatriisi), jos sen alkiot ovat reaalisia ja
7 NELIÖMATRIISIN DIAGONALISOINTI. Ortogonaaliset matriisit Neliömatriisi A on ortogonaalinen (eli ortogonaalimatriisi), jos sen alkiot ovat reaalisia ja A - = A T () Muistutus: Kokoa n olevien vektorien
LisätiedotAvaruuden R n aliavaruus
Avaruuden R n aliavaruus 1 / 41 Aliavaruus Esimerkki 1 Kuva: Suora on suljettu yhteenlaskun ja skalaarilla kertomisen suhteen. 2 / 41 Esimerkki 2 Kuva: Suora ei ole suljettu yhteenlaskun ja skalaarilla
Lisätiedot3x + y + 2z = 5 e) 2x + 3y 2z = 3 x 2y + 4z = 1. x + y 2z + u + 3v = 1 b) 2x y + 2z + 2u + 6v = 2 3x + 2y 4z 3u 9v = 3. { 2x y = k 4x + 2y = h
HARJOITUSTEHTÄVIÄ 1. Anna seuraavien yhtälöryhmien kerroinmatriisit ja täydennetyt kerroinmatriisit sekä ratkaise yhtälöryhmät Gaussin eliminointimenetelmällä. { 2x + y = 11 2x y = 5 2x y + z = 2 a) b)
LisätiedotOsoita, että täsmälleen yksi vektoriavaruuden ehto ei ole voimassa.
LINEAARIALGEBRA Harjoituksia 2016 1. Olkoon V = R 2 varustettuna tavallisella yhteenlaskulla. Määritellään reaaliluvulla kertominen seuraavasti: λ (x 1, x 2 ) = (λx 1, 0) (x 1, x 2 ) R 2 ja λ R. Osoita,
LisätiedotOsittaisdifferentiaaliyhtälöt
Osittaisdifferentiaaliyhtälöt Harjoituskokoelmat 4 ja 5, kevät 2011 Palautus Eemeli Blåstenille to 23.6. klo 16.00 mennessä 1. Ratkaise Dirichlet ongelma u(x, y) = 0, x 2 + y 2 < 1, u(x, y) = y + x 2,
LisätiedotVapaus. Määritelmä. Vektorijono ( v 1, v 2,..., v k ) on vapaa eli lineaarisesti riippumaton, jos seuraava ehto pätee:
Vapaus Määritelmä Oletetaan, että v 1, v 2,..., v k R n, missä n {1, 2,... }. Vektorijono ( v 1, v 2,..., v k ) on vapaa eli lineaarisesti riippumaton, jos seuraava ehto pätee: jos c 1 v 1 + c 2 v 2 +
Lisätiedot3 Lineaariset yhtälöryhmät ja Gaussin eliminointimenetelmä
1 3 Lineaariset yhtälöryhmät ja Gaussin eliminointimenetelmä Lineaarinen m:n yhtälön yhtälöryhmä, jossa on n tuntematonta x 1,, x n on joukko yhtälöitä, jotka ovat muotoa a 11 x 1 + + a 1n x n = b 1 a
LisätiedotMS-C1340 Lineaarialgebra ja
MS-C1340 Lineaarialgebra ja differentiaaliyhtälöt Vektoriavaruudet Riikka Kangaslampi kevät 2017 Matematiikan ja systeemianalyysin laitos Aalto-yliopisto Idea Lineaarisen systeemin ratkaiseminen Olkoon
LisätiedotTehtäväsarja I Seuraavat tehtävät liittyvät kurssimateriaalin lukuun 7 eli vapauden käsitteeseen ja homogeenisiin
HY / Avoin yliopisto Lineaarialgebra ja matriisilaskenta I, kesä 2015 Harjoitus 4 Ratkaisut palautettava viimeistään maanantaina 862015 klo 1615 Tehtäväsarja I Seuraavat tehtävät liittyvät kurssimateriaalin
LisätiedotLineaarialgebra ja matriisilaskenta II. LM2, Kesä /141
Lineaarialgebra ja matriisilaskenta II LM2, Kesä 2012 1/141 Kertausta: avaruuden R n vektorit Määritelmä Oletetaan, että n {1, 2, 3,...}. Avaruuden R n alkiot ovat jonoja, joissa on n kappaletta reaalilukuja.
LisätiedotMATEMATIIKAN JAOS NUMEERISET MENETELMÄT
MATEMATIIKAN JAOS NUMEERISET MENETELMÄT Harjoitustehtäviä, kevät 2012 1. Tarkastellaan summaa S = 1+0.4+0.3+0.2+0.04+0.03+0.02+0.01. a) Laske summa laskukoneella vasemmalta oikealle käyttäen liukulukuaritmetiikkaa,
LisätiedotKertausta: avaruuden R n vektoreiden pistetulo
Kertausta: avaruuden R n vektoreiden pistetulo Määritelmä Vektoreiden v R n ja w R n pistetulo on v w = v 1 w 1 + v 2 w 2 + + v n w n. Huom. Pistetulo v w on reaaliluku! LM2, Kesä 2014 164/246 Kertausta:
LisätiedotHarjoitusten 5 vastaukset
Harjoitusten 5 vastaukset 1. a) Regressiossa (1 ) selitettävänä on y jaselittäjinävakiojax matriisin muuttujat. Regressiossa (1*) selitettävänä on y:n poikkeamat keskiarvostaan ja selittäjinä X matriisin
Lisätiedotominaisvektorit. Nyt 2 3 6
Esimerkki 2 6 8 Olkoon A = 40 0 6 5. Etsitäänmatriisinominaisarvotja 0 0 2 ominaisvektorit. Nyt 2 0 2 6 8 2 6 8 I A = 40 05 40 0 6 5 = 4 0 6 5 0 0 0 0 2 0 0 2 15 / 172 Täten c A ( )=det( I A) =( ) ( 2)
LisätiedotOsakesalkun optimointi. Anni Halkola Turun yliopisto 2016
Osakesalkun optimointi Anni Halkola Turun yliopisto 2016 Artikkeli Gleb Beliakov & Adil Bagirov (2006) Non-smooth optimization methods for computation of the Conditional Value-at-risk and portfolio optimization.
LisätiedotInsinöörimatematiikka D
Insinöörimatematiikka D M. Hirvensalo mikhirve@utu.fi V. Junnila viljun@utu.fi Matematiikan ja tilastotieteen laitos Turun yliopisto 2015 M. Hirvensalo mikhirve@utu.fi V. Junnila viljun@utu.fi Luentokalvot
LisätiedotInsinöörimatematiikka D
Insinöörimatematiikka D M. Hirvensalo mikhirve@utu.fi V. Junnila viljun@utu.fi A. Lepistö alepisto@utu.fi Matematiikan ja tilastotieteen laitos Turun yliopisto 2016 M. Hirvensalo V. Junnila A. Lepistö
LisätiedotDierentiaaliyhtälöistä
Dierentiaaliyhtälöistä Markus Kettunen 4. maaliskuuta 2009 1 SISÄLTÖ 1 Sisältö 1 Dierentiaaliyhtälöistä 2 1.1 Johdanto................................. 2 1.2 Ratkaisun yksikäsitteisyydestä.....................
Lisätiedot3 Lineaariset yhtälöryhmät ja Gaussin eliminointimenetelmä
3 Lineaariset yhtälöryhmät ja Gaussin eliminointimenetelmä Lineaarinen m:n yhtälön yhtälöryhmä, jossa on n tuntematonta x 1,, x n on joukko yhtälöitä, jotka ovat muotoa a 11 x 1 + + a 1n x n = b 1 a 21
LisätiedotAntti Rasila. Kevät Matematiikan ja systeemianalyysin laitos Aalto-yliopisto. Antti Rasila (Aalto-yliopisto) MS-A0204 Kevät / 16
MS-A0204 Differentiaali- ja integraalilaskenta 2 (ELEC2) Luento 5: Gradientti ja suunnattu derivaatta. Vektoriarvoiset funktiot. Taylor-approksimaatio. Antti Rasila Matematiikan ja systeemianalyysin laitos
Lisätiedotl 1 2l + 1, c) 100 l=0 AB 3AC ja AB AC sekä vektoreiden AB ja
MATEMATIIKAN PERUSKURSSI I Harjoitustehtäviä syksy 7. Millä reaaliluvun arvoilla a) 9 =, b) + 5 + +, e) 5?. Kirjoita Σ-merkkiä käyttäen summat 4, a) + + 5 + + 99, b) 5 + 4 65 + + n 5 n, c) +
LisätiedotTalousmatematiikan perusteet: Luento 14. Rajoittamaton optimointi Hessen matriisi Ominaisarvot Ääriarvon laadun tarkastelu
Talousmatematiikan perusteet: Luento 14 Rajoittamaton optimointi Hessen matriisi Ominaisarvot Ääriarvon laadun tarkastelu Luennolla 6 Tarkastelimme yhden muuttujan funktion f(x) rajoittamatonta optimointia
LisätiedotARMA(p, q)-prosessin tapauksessa maksimikohdan määrääminen on moniulotteinen epälineaarinen optimointiongelma.
missä µ = c φ ja C j,k = Γj k) = σ 2 φj k φ 2. ARMAp, q)-prosessin tapauksessa maksimikohdan määrääminen on moniulotteinen epälineaarinen optimointiongelma. Käytännösssä optimointi tehdään numeerisesti
LisätiedotOppimistavoitematriisi
Oppimistavoitematriisi Lineaarialgebra ja matriisilaskenta I Esitiedot Arvosanaan 1 2 riittävät Arvosanaan 3 4 riittävät Arvosanaan 5 riittävät Yhtälöryhmät (YR) Osaan ratkaista ensimmäisen asteen yhtälöitä
LisätiedotOppimistavoitematriisi
Oppimistavoitematriisi Lineaarialgebra ja matriisilaskenta I Arvosanaan 1 2 riittävät Arvosanaan 5 riittävät Yhtälöryhmät (YR) Osaan ratkaista ensimmäisen asteen yhtälöitä ja yhtälöpareja Osaan muokata
Lisätiedot(1.1) Ae j = a k,j e k.
Lineaarikuvauksen determinantti ja jälki 1. Lineaarikuvauksen matriisi. Palautetaan mieleen, mikä lineaarikuvauksen matriisi annetun kannan suhteen on. Olkoot V äärellisulotteinen vektoriavaruus, n = dim
Lisätiedotl 1 2l + 1, c) 100 l=0
MATEMATIIKAN PERUSKURSSI I Harjoitustehtäviä syksy 5. Millä reaaliluvun arvoilla a) 9 =, b) 5 + 5 +, e) 5?. Kirjoita Σ-merkkiä käyttäen summat 4, a) + + 5 + + 99, b) 5 + 4 65 + + n 5 n, c)
Lisätiedot4.0.2 Kuinka hyvä ennuste on?
Luonteva ennuste on käyttää yhtälöä (4.0.1), jolloin estimaattori on muotoa X t = c + φ 1 X t 1 + + φ p X t p ja estimointivirheen varianssi on σ 2. X t }{{} todellinen arvo Xt }{{} esimaattori = ε t Esimerkki
Lisätiedot6 MATRIISIN DIAGONALISOINTI
6 MATRIISIN DIAGONALISOINTI Ortogonaaliset matriisit Neliömatriisi A on ortogonaalinen (eli ortogonaalimatriisi), jos sen alkiot ovat reaalisia ja A - = A T Muistutus: vektorien a ja b pistetulo (skalaaritulo,
LisätiedotYhtälöryhmän iteratiivinen ratkaiseminen
Yhtälöryhmän iteratiivinen ratkaiseminen V V I Berg Matematiikan pro gradu Jyväskylän yliopisto Matematiikan ja tilastotieteen laitos Kesä 2015 Tiivistelmä: V V I Berg, Yhtälöryhmän iteratiivinen ratkaiseminen
LisätiedotKuvaus. Määritelmä. LM2, Kesä /160
Kuvaus Määritelmä Oletetaan, että X ja Y ovat joukkoja. Kuvaus eli funktio joukosta X joukkoon Y on sääntö, joka liittää jokaiseen joukon X alkioon täsmälleen yhden alkion, joka kuuluu joukkoon Y. Merkintä
LisätiedotLause 4.2. Lineearinen pienimmän keskineliövirheen estimaattoi on lineaarinen projektio.
Määritelmä 4.3. Estimaattoria X(Y ) nimitetään lineaariseksi projektioksi, jos X on lineaarinen kuvaus ja E[(X X(Y )) Y] 0 }{{} virhetermi Lause 4.2. Lineearinen pienimmän keskineliövirheen estimaattoi
Lisätiedot