Matriisilaskentaa tilastotieteilijöille

Transkriptio

1 Matriisilasketaa tilastotieteilijöille Matriisilasketaa tilastotieteilijöille Ilkka Melli.. Vektorit.. Vektoriavaruudet ja vektorialiavaruudet.3. Lieaarie riippuvuus ja riippuattouus.4. Lieaariset yhtälöt.5. Sisätulo ja vektori ori.6. Ortogoaaliset vektorit.7. Suorat ja tasot.8. Ortogoaalie projektio ja ortogoaalie kopleetti TKK Ilkka Melli (007) /8

2 Matriisilasketaa tilastotieteilijöille Matriisilasketaa tilastotieteilijöille.. Vektorit VEKTORIT JA NIIDEN ALKIIOT VEKTOREIDEN YHTEENLASKU JA KERTOMINEN REAALILUVULLA LASKUSÄÄNNÖT VEKTOREIDEN YHTEENLASKULLE JA KERTOMISELLE REAALILUVULLA.. Vektoriavaruudet ja vektorialiavaruudet VEKTORIAVARUUS VEKTORIALIAVARUUS LINEAARIKOMBINAATIOT VEKTORIJOUKON VIRITTÄMÄ VEKTORIALIAVARUUS.3. Lieaarie riippuvuus ja riippuattouus LINEAARINEN RIIPPUVUUS LINEAARINEN RIIPPUMATTOMUUS VEKTORIAVARUUDEN KANTA.4. Lieaariset yhtälöt HOMOGEENISET LINEAARISET YHTÄLÖT JA NIIDEN RATKAISUT EPÄHOMOGEENISET LINEAARISET YHTÄLÖT JA NIIDEN RATKAISUT LINEAARISET YHTÄLÖRYHMÄT JA NIIDEN RATKAISUT.5. Sisätulo ja vektori ori SISÄTULO VEKTORIN NORMI ELI PITUUS LASKUSÄÄNNÖT SISÄTULOLLE.6. Ortogoaaliset vektorit ORTOGONAALISUUS ORTONORMAALISUUS ORTOGONALISOINTI.7. Suorat ja tasot SUORAT TASOT.8. Ortogoaalie projektio ja ortogoaalie kopleetti ORTOGONAALINEN PROJEKTIO ORTOGONAALINEN KOMPLEMENTTI SUORA SUMMA TKK Ilkka Melli (007) /8

3 Matriisilasketaa tilastotieteilijöille.. Vektorit Vektorit ja iide alkiot Olkoo kpl {( x, x,, x) xi, i,,, } = = = reaalilukuje jouko -kertaie karteesie tulo itsesä kassa. Joukko o - diesioaalie eli -ulotteie euklidie avaruus. Avaruude pisteet ovat reaalilukuje x i, i =,,, (järjestettyjä) jooja. Jos siis x, ii x = (x, x,, x ) jossa x i, i =,,,. Kutsue jatkossa avaruude pisteitä x vektoreiksi ja pistee x = (x, x,, x ) i. koordiaattia x i, i =,,, vektori x i. kopoetiksi eli alkioksi. Edellä saottu erkitsee sitä, että saaistae vektorit ja -ulotteise euklidise avaruude pisteet. Voie kuvata vektoria x = (x, x,, x ) geoetrisea objektia avaruude origosta eli pisteestä 0 = (0, 0,, 0) pisteesee x ulottuvaa uolea; ks. kuvaa alla, joka esittää kaksiulotteise euklidise avaruude vektoria x = (x, x ). x = (x, x ) x 0 = (0, 0) Vektoreide yhteelasku ja kertoie reaaliluvulla Määrittelee seuraavassa peruslaskutoiitukset vektoreille. Kertoie reaaliluvulla Olkoo x, a Reaaliluvu a ja vektori x = (x, x,, x ) tulo o -vektori ax = (ax, ax,, ax ) x TKK Ilkka Melli (007) 3/8

4 Matriisilasketaa tilastotieteilijöille Kuva alla havaiollistaa kaksiulotteise euklidise avaruude reaaliluvulla a. ax = (ax, ax ) vektori x kertoista x = (x, x ) ax x Yhteelasku Olkoot x, y Vektoreide x = (x, x,, x ) ja y = (y, y,, y ) sua o -vektori x + y = (x + y, x + y,, x + y ) Laskusääöt vektoreide yhteelaskulle ja kertoiselle reaaliluvulla Suoraviivaisi laskutoiituksi ähdää, että vektorit toteuttavat seuraava lausee kohdat (i)-(vii). Lause... Olkoot x, y, z ja a, b. (i) x + y = y + x (ii) x + (y + z) = (x + y) + z (iii) O oleassa vektori 0 = (0, 0,, 0) x + 0 = x Vektoria 0 kutsutaa ollavektoriksi. site, että (iv) O oleassa vektori u = x = ( x, x,, x ) site, että x + u = 0 Vektoria u = x kutsutaa vektori x vastavektoriksi. (v) a(x + y) = ax + ay (vi) a(bx) = (ab)x (vii) x = x Huoautus: 0 = (0, 0) x ax Lausee... kohdista (i) ja (ii) seuraa, että vektoreide sua voidaa laskea issä järjestyksessä tahasa. TKK Ilkka Melli (007) 4/8

5 Matriisilasketaa tilastotieteilijöille Kuva alla havaiollistaa kaksiulotteise euklidise avaruude y = (y, y ) suaa. vektoreide x = (x, x ) ja y x x x y y y y x + y = y + x x x 0 = (0, 0) x y.. Vektoriavaruudet ja vektorialiavaruudet Vektoriavaruus Saoe, että joukko V o vektoriavaruus, jos jouko V ielivaltaiset alkiot x, y ja z toteuttavat lausee... kohdat (i)-(vii). Site -ulotteie euklidie avaruus o vektoriavaruus. Vektorialiavaruus Olkoo M. Oletetaa, että joukko M o suljettu reaaliluvulla kertoise ja yhteelasku suhtee: (i) x M, a ax M (ii) x, y M x + y M Tällöi saoe, että joukko M o vektoriavaruude vektorialiavaruus. Suoraa laskealla ähdää, että avaruude vektorialiavaruudet ovat vektoriavaruuksia, ts. jos joukko M o avaruude vektorialiavaruus, ii lausee... kohdat (i)-(vii) pätevät kaikille vektorialiavaruude M vektoreille. Lieaarikobiaatiot Oletetaa, että x, x,, x y = aix i ja a, a,, a. Vektoria kutsutaa vektoreide x, x,, x lieaarikobiaatioksi tai lieaariyhdistelyksi. Vektorijouko virittää vektorialiavaruus Olkoo S = {x, x,, x x i, i =,,, } TKK Ilkka Melli (007) 5/8

6 Matriisilasketaa tilastotieteilijöille joki vektoriavaruude vektoreide joukko ja olkoo M( S) = { y y = ax, x, x,, x S, a, a,, a } i i jouko S vektoreide kaikkie lieaarikobiaatioide joukko. Lause... Jouko S = {x, x,, x x i, i =,,, } vektoreide kaikkie lieaarikobiaatioide joukko M(S) o vektorialiavaruus. (i) Oletetaa, että y M(S), jolloi y = aix i jossa x, x,, x S, a, a,, a. Olkoo a. Tällöi (ii) a y = a a x = ( aa ) x i i i i ja site ay M(S) Oletetaa, että y, z M(S), jolloi y = z = a x i i b x i i jossa x, x,, x S, a, a,, a, b, b,, b. Tällöi ai i bi i ( ai bi) i y+ z = x + x = + x ja site y + z M(S) Kohdista (i) ja (ii) seuraa, että jouko S vektoreide kaikkie lieaarikobiaatioide joukko M(S) o vektorialiavaruus. Lause... otivoi se, että jouko S = {x, x,, x x i, i =,,, } vektoreide kaikkie lieaarikobiaatioide joukkoa M(S) o kutsutaa vektoreide x, x,, x virittääksi vektorialiavaruudeksi. TKK Ilkka Melli (007) 6/8

7 Matriisilasketaa tilastotieteilijöille Lause... Jouko S = {x, x,, x x i, i =,,, } vektoreide kaikkie lieaarikobiaatioide joukko M(S) o suppei vektori avaruude vektorialiavaruuksista, jotka sisältävät jouko S osajoukkoaa. Todistetaa esi, että jouko S vektoreide kaikkie lieaarikobiaatioide joukko M(S) sisältää jouko S osajoukkoaa. Olkoo x k S Valitsealla a k = ja a i = 0, i k, ähdää, että jokaie vektori x k S voidaa esittää vektoreide x, x,, x lieaarikobiaatioa: x k = aix i Site x k M(S) ja olee siis todistaeet, että S M(S) Todistetaa toiseksi, että M(S) o suppei iistä vektorialiavaruuksista, joka sisältävät jouko S osajoukkoaa. Oletetaa, että U o ielivaltaie avaruude jouko S osajoukkoaa: S U vektorialiavaruus, joka sisältää Koska U o vektorialiavaruus, ii U sisältää alkioiaa yös kaikki jouko S vektoreide lieaarikobiaatiot. Site olee todistaeet, että M(S) U jote M(S) o suppei jouko S vektorit osajoukkoaa sisältävistä vektorialiavaruuksista..3. Lieaarie riippuvuus ja riippuattouus Lieaarie riippuvuus Vektorit x, x,, x ovat lieaarisesti riippuvia, jos o oleassa reaaliluvut a, a,, a site, että aixi = 0 TKK Ilkka Melli (007) 7/8

8 Matriisilasketaa tilastotieteilijöille ja kaikki reaaliluvut a, a,, a eivät ole saaaikaisesti ollia. Palautetaa ielee, että erkitä 0 tarkoittaa (-ulotteista) ollavektoria: 0 = (0, 0,,0) Lieaarie riippuattouus Jos vektorit x, x,, x eivät ole lieaarisesti riippuvia, e ovat lieaarisesti riippuattoia. Jos vektorit x, x,, x ovat lieaarisesti riippuattoia, iistä yhtäkää ei voida esittää uide lieaarikobiaatioa, ikä erkitsee sitä, että aixi = 0 vai, jos a = a = = a = 0. Vektoriavaruude kata Olkoo S vektoriavaruude vektorialiavaruude M lieaarisesti riippuattoie vektoreide joukko, joka virittää vektorialiavaruude M. Tällöi saoe, että jouko S vektorit uodostavat vektorialiavaruude M kaa. Lause.3.. Vektorit e = (, 0, 0,, 0, 0) e = (0,, 0,, 0, 0) e = (0, 0, 0,, 0, ) uodostavat vektoriavaruude kaa. Vektorit e, e,, e ovat lieaarisesti riippuattoia, koska aie ( a, a,, a) = 0 vai, jos a = a = = a = 0. Lisäksi jokaie avaruude vektori x = (x, x,, x ) voidaa esittää vektoreide e, e,, e lieaarikobiaatioa: x = ( x, x,, x) = xiei Site vektorit e, e,, e uodostavat vektoriavaruude kaa. Lauseessa.3.. ääritellyt vektorit e, e,, e ovat vektoriavaruude koordiaattiakseleide suutaisia yksikkövektoreita (so. koordiaattiakseleide suutaisia vektoreita, joide pituus = ) ja e uodostavat s. stadardikaa vektoriavaruudelle. TKK Ilkka Melli (007) 8/8

9 Matriisilasketaa tilastotieteilijöille Lause.3.. Oletetaa, että joukot {u, u,, u p } ja {v, v,, v q } ovat kaksi vektoriavaruude vektorialiavaruude M kataa. Tällöi p = q. Oletetaa esi, että p < q. Koska vektorit u, u,, u p uodostavat vektorialiavaruude M kaa, ii vektori v voidaa esittää vektoreide u, u,, u p lieaarikobiaatioa: p v = aiu i ja aiaki yksi luvuista a, a,, a p o ollasta poikkeava. Olkoo tää a i. Tästä seuraa, että yös vektorit v, u, u,, u i, u i+,, u p uodostavat vektorialiavaruude M kaa. Site vektori v voidaa esittää vektoreide v, u, u,, u i, u i+,, u p lieaarikobiaatioa ja voie korvata yhde vektoreista u, u,, u i, u i+,, u p vektorilla v ii, että tuloksea saatava vektorijoukko uodostaa vektorialiavaruude M kaa. Huoaa, että vektoria v ei voida korvata vektorilla v, koska v ja v ovat saa kaa vektoreia lieaarisesti riippuattoia. Tätä korvauseettelyä voidaa jatkaa kues jäljelle jäävät vektorit v, v,, v p ja e uodostavat vektorialiavaruude M kaa. Site olee todistaeet, että (q p) kpl vektoreista v, v,, v q o redudatteja, jote välttäättä p q. Saalla tavalla voidaa osoittaa, että oletuksesta p > q seuraa, että välttäättä p q. Yhdistäällä epäyhtälöt p q ja p q saadaa yhtälö p = q. Lauseesta.3.. seuraa, että vektoriavaruude vektorialiavaruude M jokaisessa kaassa o yhtä ota alkiota. Jos vektorialiavaruude M kaassa o alkiota, saoe, että vektorialiavaruude M diesio o : di(m) = Lause.3.3. Olkoo S = {x, x,, x x i, i =,,, } joki vektorialiavaruude M kata. Tällöi jokaisella vektorialiavaruude M vektorilla y o yksikäsitteie esitys y = aix i kataa S kuuluvie vektoreide x, x,, x lieaarikobiaatioa. TKK Ilkka Melli (007) 9/8

10 Matriisilasketaa tilastotieteilijöille Oletetaa, että Tällöi y = a x = b x i i i i ai i bi i ( ai bi) i 0= x x = x Koska vektorit x, x,, x ovat katavektoreia lieaarisesti riippuattoia, ii välttäättä a i b i = 0, i =,,, eli a i = b i, i =,,, Site vektori y esitys y = aix o yksikäsitteie. i.4. Lieaariset yhtälöt Hoogeeiset lieaariset yhtälöt ja iide ratkaisut Oletetaa, että a, a,, a ja x, x,, x. Tarkastellaa lieaarista yhtälöä ( ) x a + x a + + x a = 0 Kutsue yhtälöä ( ) hoogeeiseksi. Yhtälö ( ) toteutuu, jos x = x = = x = 0 Saoe, että x = x = = x = 0 o yhtälö ( ) triviaali ratkaisu. Olee jatkossa kiiostueita lähiä yhtälö ( ) epätriviaaleista ratkaisuista, so. illaisi vektoreita a, a,, a koskevi ehdoi o oleassa reaaliluvut x, x,, x, jotka kaikki eivät ole saaaikaisesti ollia, ii, että yhtälö ( ) pätee. Suoraa lieaarise riippuvuude ääritelää soveltaalla saadaa seuraava lause: Lause.4.. Välttäätö ja riittävä ehto sille, että hoogeeisella yhtälöllä ( ) x a + x a + + x a = 0 o epätriviaali ratkaisu o se, että vektorit a, a,, a ovat lieaarisesti riippuvia. TKK Ilkka Melli (007) 0/8

11 Matriisilasketaa tilastotieteilijöille Muodostetaa hoogeeise yhtälö ( ) x a + x a + + x a = 0 ratkaisusta x, x,, x -vektori x = (x, x,, x ) Lause.4.. Hoogeeise yhtälö ( ) x a + x a + + x a = 0 ratkaisut x = (x, x,, x ) aliavaruude. (i) (ii) uodostavat vektoriavaruude vektori- Oletetaa, että vektori x = (x, x,, x ) o yhtälö ( ) ratkaisu ja olkoo a. Tällöi yös vektori ax = (ax, ax,, ax ) o yhtälö ( ) ratkaisu, koska ax a + ax a + + ax a = a(x a + x a + + x a ) = a0 = 0 Oletetaa, että vektorit x = (x, x,, x ) ja y = (y, y,, y ) ovat yhtälö ( ) ratkaisuja. Tällöi yös vektori x + y = (x + y, x + y,, x + y ) o yhtälö ( ) ratkaisu, koska (x + y )a + (x + y )a + + (x + y )a = (x a + x a + + x a ) + (y a + y a + + y a ) = = 0 Kohdista (i) ja (ii) seuraa, että yhtälö ( ) ratkaisut uodostavat avaruude aliavaruude. Lause.4.3. Olkoo M(x) hoogeeise yhtälö ( ) x a + x a + + x a = 0 ratkaisuje x = (x, x,, x ) uodostaa vektorialiavaruus ja olkoo M(a) vektoreide a, a,, a virittää vektorialiavaruus. Tällöi di(m(x)) = di(m(a)) Oletetaa, että di(m(a)) = k jolloi vektoriavaruudella M(a) o kata, jossa o k vektoria. vektori- TKK Ilkka Melli (007) /8

12 Matriisilasketaa tilastotieteilijöille Voie yleisyyde kärsiättä olettaa, että vektorit a, a,, a k uodostavat avaruude M(a) kaa. Tällöi voie esittää vektorit a k+, a k+,, a uodossa a i = x i a + x i a + + x ik a k, i = k +, k +,, Muodostetaa -vektorit x = (x k+,, x k+,,, x k+,k,, 0,, 0) x = (x k+,, x k+,,, x k+,k, 0,,, 0) x k = (x, x,, x k, 0, 0,, ) Vektorit x, x,, x k ovat lieaarisesti riippuattoia ja toteuttavat yhtälö ( ). Todistetaa, että vektorit x, x,, x k virittävät yhtälö ( ) ratkaisuje uodostaa vektorialiavaruude M(x). Olkoo y = (y, y,, y ) yhtälö ( ) ratkaisu. Tällöi yös y + y k+ x + y k+ x + + y x k o yhtälö ( ) ratkaisu. Koska tää ratkaisu o uotoa (z, z,, z k, 0, 0,, 0) ii z a + z a + + z k a k = 0 Tää o ahdollista vai, jos z = z = = z k = 0 ikä erkitsee sitä, että y + y k+ x + y k+ x + + y x k = 0 ikä o yhtäpitävää se kassa, että y = y k+ x y k+ x y x k Site jokaie yhtälö ( ) ratkaisu voidaa esittää vektoreide x, x,, x k lieaarikobiaatioa eli vektorit x, x,, x k virittävät yhtälö ( ) ratkaisuje uodostaa vektorialiavaruude M(x). Koska vektorit x, x,, x k ovat lieaarisesti riippuattoia ja virittävät vektorialiavaruude M(x), e uodostavat vektorialiavaruude M(x) kaa ja lisäksi di(m(x)) = k = di(m(a)) Epähoogeeiset lieaariset yhtälöt ja iide ratkaisut Oletetaa, että a, a,, a, a 0 ja x, x,, x. Tarkastellaa lieaarista yhtälöä ( ) x a + x a + + x a = a 0 TKK Ilkka Melli (007) /8

13 Matriisilasketaa tilastotieteilijöille Kutsue yhtälöä ( ) epähoogeeiseksi. Suoraa lieaarise riippuvuude ääritelää soveltaalla saadaa seuraava lause: Lause.4.4. Välttäätö ja riittävä ehto sille, että epähoogeeisella yhtälöllä ( ) x a + x a + + x a = a 0 o ratkaisu o se, että vektori a 0 riippuu lieaarisesti vektoreista a, a,, a. Lause.4.5. Kaikki epähoogeeise yhtälö ( ) x a + x a + + x a = a 0 ratkaisut saadaa vastaava hoogeeise yhtälö ( ) x a + x a + + x a = 0 yleise ratkaisu ja ielivaltaise epähoogeeise yhtälö ( ) ratkaisu suaa. Lause ähdää todeksi huoaaalla, että jos vektorit x = (x, x,, x ) ja y = (y, y,, y ) ovat yhtälö ( ) ratkaisuja, ii vektori x y o yhtälö ( ) ratkaisu. Lause.4.6. Epähoogeeise yhtälö ( ) x a + x a + + x a = a 0 ratkaisu o yksikäsitteie, jos vektorit a, a,, a ovat lieaarisesti riippuattoia. Jos vektorit a, a,, a ovat lieaarisesti riippuattoia, ii di(m(a)) = jossa M(a) o vektoreide a, a,, a virittää vektorialiavaruus. Lausee.4.3. ukaa di(m(x)) = di(m(a)) = = 0 Site hoogeeise yhtälö x a + x a + + x a = 0 aioaa ratkaisua o triviaali ratkaisu x = x = = x = 0 ja väite seuraa lauseesta.4.5. TKK Ilkka Melli (007) 3/8

14 Matriisilasketaa tilastotieteilijöille Lieaariset yhtälöryhät ja iide ratkaisut Oletetaa, että a j = (a j, a j,, a j ) Tarkastellaa lieaarista yhtälöryhää ( ) ax + ax + + a x = 0 ax + ax + + ax = 0 ax+ ax+ + ax = 0, j =,,, jossa o yhtälöä ja tuteatota. Saoe, että vektorit a, a,, a ovat yhtälöryhä sarakevektorit. Määritellää yhtälöryhä rivivektorit kaavalla b i = (a i, a i,, a i ), i =,,, Olkoo M(a) sarakevektoreide a, a,, a virittää vektorialiavaruus, M(b) rivivektoreide b, b,, b virittää vektorialiavaruus ja M(x) yhtälöryhä ( ) ratkaisuje x, x,, x uodostaa vektorialiavaruus. Lause.4.7. Lieaarisesti riippuattoie rivie lukuäärä lieaarisessa yhtälöryhässä ( ) o saa kui lieaarisesti riippuattoie sarakevektoreide lukuäärä. Lisäksi di(m(a)) = di(m(b)) ja di(m(x)) = di(m(a)) = di(m(b)) Oletetaa, että r kpl yhtälöryhä ( ) rivivektoreista b, b,, b o lieaarisesti riippuattoia ja olkoo di(m(a)) = k jossa M(a) o yhtälöryhä ( ) sarakevektoreide a, a,, a virittää vektorialiavaruus. Jos poistae yhtälöryhästä ( ) e yhtälöt, joita vastaavat rivivektorit ovat lieaarisesti riippuvia, ii yhtälöryhä ( ) ratkaisuje joukko M(x) säilyy saaa. Koska lausee.4.3. ukaa di(m(x)) = di(m(a)) = k ii k kappaletta redusoidu yhtälöryhä sarakevektoreista o lieaarisesti riippuattoia. Koska sarakevektoreissa o vai r alkiota, riippuattoie sarakevektoreide lukuäärä voi olla korkeitaa r. Site k r. Koska rivie ja sarakkeide roolit voidaa yllä esitetyssä päättelyketjussa vaihtaa, ii saae yös epäyhtälö k r. Yhdistäällä epäyhtälöt k r ja k r saadaa yhtälö k = r. TKK Ilkka Melli (007) 4/8

15 Matriisilasketaa tilastotieteilijöille.5. Sisätulo ja vektori ori Sisätulo Olkoot x, y. Vektoreide x = (x, x,, x ) ja y = (y, y,, y ) sisätulo eli skalaaritulo o reaaliluku xy = xiyi Vektori ori eli pituus Sisätulo avulla voidaa ääritellä vektori pituus. Olkoo x x = (x, x,, x ) ori eli pituus o reaaliluku Vektori x x = xx = x + x + + x ori x eliö o x = x x = x + x + + x. Vektori Huoaa, että ori eliö kaava o Pythagoraa lausee yleistys -ulotteisee euklidisee avaruutee. Laskusääöt sisätulolle Lause.5.. Olkoot x, y, z ; a. Tällöi (i) x y = y x (ii) x x > 0, jos x 0 x x = 0, jos x = 0 (iii) (ax) y = a(x y) (iv) (x + y) z = x z + y z (v) xy x y (vi) x + y x + y Kohdat (i)-(iv) voidaa todistaa varsi suoraviivaisi laskutoiituksi. Todistae siksi tässä vai kohdat (v) ja (vi). (v) Olkoot x, y ja t. Määritellää vektori u= tx+ y Kohda (ii) ukaa uu = tx+ y tx+ y = t xx + txy + yy ( )( ) 0 TKK Ilkka Melli (007) 5/8

16 Matriisilasketaa tilastotieteilijöille ikä o ahdollista vai, jos uuttuja t suhtee. astee yhtälö t xx + txy + yy = 0 diskriiatti D = ( xy) 4( xx)( yy ) 0 ikä o yhtäpitävää se kassa, että ( xy ) ( xx )( yy ) Ottaalla tästä epäyhtälöstä eliöjuuri saadaa todistettavaa ollut epäyhtälö xy x y (vi) Olkoot x, y. Tällöi kohdasta (v) seuraa, että x+ y = ( x+ y)( x+ y) = xx + xy + yy = x + xy + y x + xy + y x + x y + y ( x y ) = + Ottaalla tästä eliöjuuri saadaa todistettavaa oleva epäyhtälö x+ y x + y Lausee.5.. kohda (v) kaava o Schwarzi epäyhtälö vektoreille. Schwarzi epäyhtälö vektoreille esitetää usei vektoreide x ja y kopoettie avulla uodossa xiyi xi yi Schwarzi epäyhtälö ojalla vektoreide x ja y välise kula ϕ kosii voidaa ääritellä kaavalla cos( ϕ) = xy x y ks. kuvaa alla. y ϕ x 0 = (0, 0) TKK Ilkka Melli (007) 6/8

17 Matriisilasketaa tilastotieteilijöille Lausee.5.. kohda (vi) kaava x+ y x + y o kolioepäyhtälö; ks. kuvaa alla. x y y x + y = y + x 0 = (0, 0) x.6. Ortogoaaliset vektorit Ortogoaalisuus Olkoot x, y. Jos xy = xy = 0 i i ii vektorit x ja y ovat ortogoaalisia eli kohtisuorassa toisiaa vastaa. Merkitä: Lause.6.. x y Oletetaa, että vektorit x, x,, x ovat pareittai ortogoaalisia ja lisäksi x i 0, i =,,,. Tällöi vektorit x, x,, x ovat lieaarisesti riippuattoia. Olkoot vektorit x, x,, x,. Oletetaa, että pareittai ortogoaalisia ja lisäksi x i 0, i =,, aixi = 0 Tällöi x j ai i = a i j i = a j j j =, j =,,, x xx xx 0 ikä o ahdollista vai, jos a j = 0, j =,,, Site vektorit x, x,, x ovat lieaarisesti riippuattoia. TKK Ilkka Melli (007) 7/8

18 Matriisilasketaa tilastotieteilijöille Lause.6.. Jos vektorit x, x,, x ovat pareittai ortogoaalisia ja virittävät vektorialiavaruude M, ii e uodostavat vektorialiavaruude M kaa. Lauseessa.6.. ääriteltyä kataa kutsutaa vektorialiavaruude M ortogoaaliseksi kaaksi. Lauseesta.6.. seuraa, että jos vektorit x, x,, x ovat pareittai ortogoaalisia, ii e uodostavat vektoriavaruude ortogoaalise kaa. Ortooraalisuus Olkoot x, y ja. Jos vektorit x ja y ovat ortogoaalisia ja yksikkövektori ittaisia eli x y = 0 x = y = ii vektorit x ja y ovat ortooraalisia. Jos vektorit x, x,, x ovat pareittai ortooraalisia, e uodostavat vektoriavaruude ortooraalise kaa. Lause.6.3. Olkoo x vektori x y = x x, x 0, ori ja olkoo Tällöi y = Lausee.6.3. ukaa jokaie vektoriavaruude ortogoaalie kata voidaa uutaa vektoriavaruude ortooraaliseksi kaaksi. Vektoriavaruude koordiaattiakseleide suutaiset yksikkövektorit e = (, 0, 0,, 0, 0) e = (0,, 0,, 0, 0) e = (0, 0, 0,, 0, ) ovat ortooraalisia. Site vektorit e, e,, e uodostavat ortooraalise kaa vektoriavaruudelle. Ortogoalisoiti Oletetaa, että vektorit x, x,, x ovat lieaarisesti riippuattoia. Seuraava lausee ukaa vektoreista x, x,, x voidaa aia kostruoida ortogoaaliset vektorit y = x, y,, y TKK Ilkka Melli (007) 8/8

19 Matriisilasketaa tilastotieteilijöille Lause.6.4. Oletetaa, että vektorit x, x,, x ovat lieaarisesti riippuattoia. Tällöi o oleassa reaaliluvut a ; a 3, a 3 ; ; a i,i, a i,i,, a i ; ; a,, a,,, a site, että vektorit y = x y = x a y y 3 = x 3 a 3 y a 3 y y i = x i a i,i y i a i,i y i a i y y = x a, y a, y a y ovat ortogoaalisia. Vektori y i kertoiet a i,i, a i,i,, a i saadaa ratkaistuksi yhtälöistä, jotka saadaa erkitseällä vektori y i sisätulot vektoreide y, y,, y i kassa olliksi. Jos siis keskeää ortogoaaliset vektorit y, y,, y i o jo äärätty, ii vektori y i kertoiet a i,i, a i,i,, a i saadaa yhtälöistä yy i = xy i ai yy = 0 yy = xy a y y = 0 i i i yy = xy a y y = 0 i i i i i, i i i Site kertoiille a i,i, a i,i,, a i saadaa yhtälöt a a xy xy = = i i i yy y xy xy = = i i i yy y xy xy = = i i i i aii, y i yi yi Meetelää, jolla lieaarisesti riippuattoista vektoreista x, x,, x uodostetaa ortogoaaliset vektorit y, y,, y, kutsutaa Grai ja Schidti ortogoalisoitieeteläksi. TKK Ilkka Melli (007) 9/8

20 Matriisilasketaa tilastotieteilijöille Havaiollistetaa vektori y ääräytyistä Grai ja Schidti ortogoalisoitieetelässä. Olee siis valieet Tällöi y = x y = x a y jossa kerroi a äärätää site, että vektori y o kohtisuorassa vektoria y vastaa. Saae site yhtälö yy = xy a yy = 0 josta kerroi a saadaa ratkaistuksi: a xy xy = = yy y Olkoo ϕ vektoreide y ja x välie kula ja olkoo xy xy y y z = a y = y = x = x cos( ϕ) y x y y y Vektori z o vektori y suutaie vektori, joka pituus o z = x cos( ϕ) Vektorit z, y ja x uodostavat suorakulaise kolio, joka kateetteia ovat vektorit z ja y ja hypoteuusaa o vektori x. Lisäksi Ks. kuvaa alla. x = z + y x y ϕ Lauseesta.6.4. seuraa välittöästi: Lause.6.5. z Oletetaa, että vektorit x, x,, x uodostavat vektoriavaruude kaa. Tällöi vektoreista x, x,, x voidaa kostruoida ortogoaalie kata vektori avaruudelle. y TKK Ilkka Melli (007) 0/8

21 Matriisilasketaa tilastotieteilijöille.7. Suorat ja tasot Suorat Tarkastellaa avaruude suorie ääritteleistä. Avaruude pistee a kautta kulkeva ja vektori v 0 suutaie suora L uodostuu avaruude pisteistä x, jotka toteuttavat yhtälö x = a + tv, t Kuva alla esittää kaksiulotteise avaruude kautta ja o vektori v suutaie. suoraa L, joka kulkee vektori a kärkipistee a v L Yhtälöä x = a + tv, t kutsutaa suora L paraetriesitykseksi, joka paraetria o uuttuja t. Suora L paraetriesitys o kopoettiuodossaa jossa 0 = (0, 0) x i = a i + tv i, t, i =,,, x = (x, x,, x ) a = (a, a,, a ) v = (v, v,, v ) Jos v = (v, v,, v ) 0, pistee a kautta kulkeva, vektori v suutaise suora L eiparaetrie esitys o uotoa x a x a x a = = = v v v Jos = ja v 0, suora yhtälö voidaa kirjoittaa uotoo jossa x = a + bx v a = a a v TKK Ilkka Melli (007) /8

22 Matriisilasketaa tilastotieteilijöille o suora vakioteri (suora ja x -akseli leikkauspiste) ja v b = v o suora kulakerroi. Jos = ja v 0, suora yhtälö voidaa kirjoittaa uotoo jossa x = c + dx v c= a a v o suora vakioteri (suora ja x -akseli leikkauspiste) ja v d = v o suora kulakerroi. Avaruude pisteide a ja b a kautta kulkeva suora L uodostuu avaruude pisteistä x, jotka toteuttavat yhtälö x = ( t)a + tb, t Erityisesti pisteide x = ( t)a + tb, t [0,] uodostaa joukko o pisteet a ja b yhdistävä jaa. Huoaa, että pisteide a ja b kautta kulkeva suora L suutavektoriksi v voidaa valita vektori v = b a Kuva alla esittää kaksiulotteise avaruude suoraa L, joka kulkee vektoreide a ja b kärkipisteide kautta. Suora o vektori v = b a suutaie. L a v b Avaruude 0 = (0, 0) suorat ovat vektoriavaruude vektorialiavaruuksia. TKK Ilkka Melli (007) /8

23 Matriisilasketaa tilastotieteilijöille Tasot Tarkastellaa avaruude tasoje ääritteleistä. Avaruude pistee a kautta kulkeva taso P, joka oraalia o vektori w 0 uodostuu avaruude pisteistä x, jotka toteuttavat yhtälö w (x a) = 0 Kuvaa alla esittää koliulotteise avaruude ja joka oraalia o vektori w. 3 tasoa P, joka kulkee vektori a kärkipistee w P a 0 = (0, 0, 0) Tavallisesti avaruude jossa ja Avaruude taso P yhtälö esitetää uodossa w x + w x + + w x = d d = a w x = (x, x,, x ) a = (a, a,, a ) w = (w, w,, w ) tasot ovat vektoriavaruude vektorialiavaruuksia..8. Ortogoaalie projektio ja ortogoaalie kopleetti Ortogoaalie projektio Olkoo M vektoriavaruude vektorialiavaruus. Jos vektori z o ortogoaalie jokaista vektorialiavaruude M vektoria vastaa, saoe, että vektori z o ortogoaalie aliavaruutta M vastaa. Merkitä: z M TKK Ilkka Melli (007) 3/8

24 Matriisilasketaa tilastotieteilijöille Lause.8.. Olkoo M vektoriavaruude aito vektorialiavaruus ja oletetaa, että vektori x M. Tällöi o oleassa yksikäsitteiset vektorit y ja z 0 site, että x = y + z issä y M ja z o ortogoaalie aliavaruutta M vastaa. Oletetaa, että vektorit α, α,, α r uodostavat vektorialiavaruude M kaa. Kostruoidaa vektoreista α, α,, α r, α r+ = x ortogoaaliset vektorit ξ, ξ,, ξ r, ξ r+ Grai ja Schidti ortogoalisoiti-eetelällä (ks. lausetta.6.4.). Tällöi jossa x = (a r+,r ξ r + a r+,r ξ r + + a r+, ξ ) + ξ r+ = y + z ja Koska ii y = a r+,r ξ r + a r+,r ξ r + + a r+, ξ z = ξ r+ M = M(α, α,, α r ) = M(ξ, ξ,, ξ r ) y M Lisäksi kostruktiosta seuraa, että z o kohtisuorassa jokaista vektoria ξ, ξ,, ξ r vastaa. Site vektori z o kohtisuorassa jokaista aliavaruude M vektoria vastaa. Todistetaa vielä esitykse x = y + z yksikäsitteisyys. Olkoo siis x = y + z toie vektori x esitys, joka toteuttaa ehdot ja Koska y M z M (y y ) + (z z ) = 0 TKK Ilkka Melli (007) 4/8

25 Matriisilasketaa tilastotieteilijöille ii Site ja edellee (z z ) ((y y ) + (z z )) = 0 + (z z ) (z z ) = 0 z z = 0 y y = 0 jote z = z ja y = y. Jos vektorit x, y, z toteuttavat lausee.8.. ehdot, ii vektori y o vektori x ortogoaalie projektio aliavaruutee M. Huoaa, että vektorit x, y, z uodostavat suorakulaise kolio, joka hypoteuusaa o vektori x ja kateetteia ovat vektorit y ja z. Lause.8.. Olkoo x, u, u 0. Määritellää vektorit v = xu u u ja w = x v Tällöi vektori v o vektori x ortogoaalie projektio vektorille u. Lisäksi vektori w o kohtisuorassa vektoria v vastaa. Valitaa aliavaruudeksi M vektori {u} suutaie suora. Lauseesta.8.. seuraa, että o oleassa yksikäsitteiset vektorit y ja z 0 site, että x = y + z, issä y M ja vektori z o ortogoaalie aliavaruutta M vastaa. Olkoo v = xu u u ja w = x v Selvästi v M. Lisäksi xu ( xu )( xu ) ( xu ) ( xu ) wv = xv vv = xu uu = = 0 u u u u u jote vektorit w ja v ovat ortogoaalisia: w v TKK Ilkka Melli (007) 5/8

26 Matriisilasketaa tilastotieteilijöille Vektoreide y ja z yksikäsitteisyyde takia ja y = v z = w Lause voidaa todistaa yös soveltaalla lausee.6.4. todistuksessa esitettyä Grai ja Schidti ortogoalisoiti-eetelää. Lause.8.3. Olkoo M vektoriavaruude Oletetaa, että x = y + z jossa y M ja z M. Tällöi Olkoo z = i x u u M x = y + z issä y M ja z M. Tällöi (y u) z = 0 jokaiselle ja site Lisäksi jos u M x u = (x u) (x u) = (y + z u) (y + z u) = (y u) (y u) + z z z z = z (x u) (x u) = z u = y aito vektorialiavaruus ja oletetaa, että vektori x M. Lausee.8.3. ukaa pistee x (so. vektori x kärkipistee) lyhi etäisyys vektorialiavaruudesta M saadaa projisoialla vektori x aliavaruutee M. 3 Kuva alepaa havaiollistaa koliulotteise avaruude vektori x projisoitia lieaarisesti riippuattoie vektoreide u ja u virittäää vektorialiavaruutee (tasoo) M. Vektori y o vektori x projektio tasoo M, z = x y ja vektorit z ja y ovat ortogoaalisia. Vektorit x, y, z uodostavat siis suorakulaise kolio, joka hypoteuusaa o vektori x. TKK Ilkka Melli (007) 6/8

27 Matriisilasketaa tilastotieteilijöille x z u M y u Ortogoaalisilla projektioilla keskeie rooli tilastotieteessä yleise lieaarise alli pieiä eliösua estioiissa. Ortogoaalie kopleetti Olkoo S joki vektoriavaruude S { z zy 0 kaikille y S} = = vektoreide joukko. Tällöi joukko o iide vektoreide joukko, jotka ovat kohtisuorassa kaikkia joukkoo S kuuluvia vektoreita vastaa. Joukko S o vektoriavaruude vektorialiavaruus ja sitä kutsutaa jouko S ortogoaaliseksi kopleetiksi. Lause.8.4. Olkoo S joki vektoriavaruude vektoreide joukko, M(S) jouko S vektoreide virittää vektorialiavaruus ja S jouko S ortogoaalie kopleetti. Tällöi jokaie vektori x voidaa esittää uodossa x = y + z issä y M(S), z S ja z 0. Lisäksi di( ) = = di( M( S)) + di( S ) Lausee alkuosa seuraa suoraa lauseesta.8.. Oletetaa yt, että vektorit a, a,, a r uodostavat jouko S vektoreide virittää vektorialiavaruude M(S) kaa ja vektorit TKK Ilkka Melli (007) 7/8

28 Matriisilasketaa tilastotieteilijöille b, b,, b s uodostavat jouko S ortogoaalise kopleeti S kaa. Vektorit a, a,, a r, b, b,, b s ovat lieaarisesti riippuattoia, koska jokaie vektori b j o kohtisuorassa jokaista vektoria a i vastaa. Site välttäättä r + s Oletetaa, että r + s < Tällöi o oleassa aiaki yksi vektori x, x 0, joka o lieaarisesti riippuato vektoreista a, a,, a r, b, b,, b s. Site voie lausee alkuosa ukaa löytää vektori z, joka o ortogoaalie vektoreita a, a,, a r, b, b,, b s vastaa. Erityisesti vektori z o site ortogoaalie vektoreita a, a,, a r vastaa ja site x S jolloi vektori x o riiputtava lieaarisesti vektorialiavaruude S katavektoreista b, b,, b s. Tää o kuiteki ahdotota, koska edellä o todettu, että vektori x o lieaarisesti riippuato vektoreista a, a,, a r, b, b,, b s. Koska oletus r + s < o johtaut ristiriitaa, ii r + s = Suora sua Olkoo S joki vektoriavaruude vektoreide joukko, M(S) jouko S vektoreide virittää vektorialiavaruus ja S jouko S ortogoaalie kopleetti. Koska lausee.8.3. ukaa jokaie vektoriavaruude vektori x voidaa esittää vektoreide y M(S) ja z S suaa, saoe, että vektoriavaruus o vektorialiavaruuksie M(S) ja S suora sua. Merkitä: = M ( S) S TKK Ilkka Melli (007) 8/8