Helsinki University of Technology Laboratory of Telecommunications Technology S-38. Signaalinkäsittely tietoliikenteessä I Signal Processing in Communications ( ov) Syksy 998 6. Luento: Adaptiiviset koraimet I prof. Timo Laakso Vastaanotto torstaisin klo - Huone G, puh. 45 473 Sähköposti: timo.laakso@hut.fi Adaptiivinen FIR-korain (LM ) Viimeksi tarkasteltiin ideaalisen koraimen z-siirtofunktiota. Z-siirtofunktion kompleksisuutta ei raoitettu, a se oli yleensä paitsi rekursiivista muotoa myös ääretön asteluvultaan. Seuraavassa raoitutaan äärellisen pituiseen FIR-koraimeen. Ensin ohdetaan matriisinotaation avulla ideaalinen MMSEratkaisu. Tämän pohalta kehitetään gradienttityyppinen iteratiivinen ratkaisumenetelmä matriisiyhtälölle oka yksinkertaistuu aikanaan käyttökelpoiseksi LMS (least mean square)-adaptointi-algoritmiksi. LMS-algoritmi on pohana useimmille käytännön lineaarisille a takaisinkytketyille (DFE-)koraimille...998 Teletekniikan laboratorio Sivu Received signal Receive filter Adaptiivisen koraimen rakenne Adaptive FIR equalizer Training signal generator Error - + Decisions Adaptiivisen lineaarisen koraimen perusrakenne on Kuvassa -. e k...adaptiivisen lin. koraimen rakenne Alkupään vastaanottosuodatin on yleensä alipäästösuodatin, oka poistaa kohinaa Adaptiivinen (lineaarinen) korain toteutetaan yleensä FIRrakenteella Koraimen kertoimia ohataan virhesignaalilla. Virhesignaali muodostetaan Alustusvaiheessa (training mode) lähettämällä tunnettu testisignaali Seurantavaiheessa (tracking mode) käyttämällä hyväksi menneitä päätöksiä. Virheelliset päätökset (alle %) eivät uuri haittaa...998 Teletekniikan laboratorio Sivu 3..998 Teletekniikan laboratorio Sivu 4
a k Adaptiivisen DFE-koraimen rakenne P(z) n k Lähetyssuodin+kanava r k C(z) Päätöstakaisinkytkennnän sisältävän kantataauisen DFEkoraimen diskreettiaikainen mallin perusrakenne on Kuvassa -...998 Teletekniikan laboratorio Sivu 5 u k Prekursorikorain Postkursorikorain q k D(z) e k a k...adaptiivisen DFE-koraimen rakenne Adaptointi perustuu virhesignaaliin missä on alustusvaiheessa tunnettu symbolisekvenssi a seurantavaiheessa vastaanottimen päätössekvenssi. Prekursorin N-tappinen siirtofunktio on muotoa (Huom! Kanava-lähetyssuodin on nyt P(z) a korain C(z) ) m Cz ( ) = cz ( 3. ) m m= ( N ) (käytännössä kausaloitava N viiveellä). Postkursori on M m Dz () = dz ( 4.) m= Tämä toteutetaan M-tappisella FIR-rakenteella. m..998 Teletekniikan laboratorio Sivu 6 3 FIR-koraimen MSE-ratkaisu (LM..) r k+l- r k+l- r k-l r k+l T T T T Johdetaan N-tappisen FIR koraimen (.) MSE. Määritellään ensin kerroinvektori c = c -L c -L+ c -L+ c L [ c L c cl]..998 Teletekniikan laboratorio Sivu 7 T ( 5. ) missä ovat FIR-suotimen kertoimet, N = L+ a N oletetaan parittomaksi. q k...... FIR-koraimen MSE-ratkaisu Vastaavat suodatettavat koraimen input-näytteet hetkellä k kootaan samanmittaiseksi vektoriksi: T [ r r r ] r k = k + L k k L Virhesignaali saadaan muotoon e = a q = a cr T ( 7. ) k k k k k ( 6. ) Yleisesti kaikki suureet ovat kompleksiarvoisia. Oletetaan lisäksi että kaikki signaalit ovat nollakeskiarvoisia a (laaassa mielessä) stationäärisiä eli niiden stokastiset ominaisuudet eivät muutu aan funktiona...998 Teletekniikan laboratorio Sivu 8 4
... FIR-koraimen MSE-ratkaisu Neliövirhe voidaan työstää muotoon (Haroituksissa!) H H H E e = E a Re c E a r + c E r r c [ ] [ ] [ ] H H = E[ ak ] { } + { } [ ] k k k k k k Re ca cφc ( 8. ) missä yläindeksi H merkitsee hermitointia eli transponointia a konugointia. Lisäksi määritellään ristikorrelaatiovektori [ r ] a= E a k k ( 9. ) a autokorrelaatiomatriisi Φ Φ Φ ( N ) Φ Φ H Φ = E[ rr k k ] = Φ Φ N (. )..998 Teletekniikan laboratorio Sivu 9 Autokorrelaatiomatriisi Autokorrelaatiomatriisilla on tärkeitä ominaisuuksia: ) on Hermiten (hermiittinen) matriisi, eli Φ H = Φ T* = Φ (os Φ on reaalinen, se on symmetrinen). ) on Töplitz-matriisi eli diagonaalin suuntaisilla alidiagonaaleilla on sama elementti. Autokorrelaatiofunktion arvo riippuu siis vain korreloitavien viive-erosta: Φ = E[r k+ r k* ] 3) on positiivi-semidefiniitti eli mille tahansa vektorille x x H Φx on positiivinen a on siten tulkittavissa neliölliseksi pituusmitaksi...998 Teletekniikan laboratorio Sivu 5 Optimaalinen MMSE-ratkaisu Tarkastellaan kaavan (.8) neliövirhelauseketta kun FIRsuotimen pituus on a signaalit ovat reaaliarvoisia. Saadaan [ k ] E[ k ] E e = a ac+ Φ c a = E a r, = r ( 4. ) [ k k] Φ E[ k] Tämä voidaan helposti täydentää muotoon E [ ek ] = E[ ak ] a / Φ + Φ( a / Φ ac / Φ + c ) = E[ ak ] a / Φ + Φ( c a/ Φ) osta nähdään että MSE:n minimoiva ratkaisu c:lle on..998 Teletekniikan laboratorio Sivu...Optimaalinen MMSE-ratkaisu Tämä yksinkertainen tulos on voidaan yleistää kompleksiseen vektoritapaukseen: LM Har. -4 Johda kertomalla auki, että E [ ek ] E[ ak ] H H = a Φ a+ ( Φ a c) Φ( Φ a c) ( 5. ) on yhtäpitävä (.8:n kanssa). Koska Φ on positiivi-semidefiniitti, kaavan (.5) viimeinen termi on aina ei-negatiivinen eli pienimmillään nolla. Optimiratkaisu saadaan siis valitsemalla x = Φ a c = copt = Φ a ( 6. ) Ratkaisu (os se on olemassa) on aina yksikäsitteinen...998 Teletekniikan laboratorio Sivu 6
...Optimaalinen MMSE-ratkaisu Edelläsaatu ratkaisu (.6) minimoi lausekkeen (.5) MSE:n, sillä muut termit eivät riipu kerroinvektorista c. Minimi-MSE:ksi saadaan H [ a ] Φ E[ a ] H ξ min = E a a = a c ( 7. ) k k opt MSE:n yleinen kaava saadaan siis muotoon E[ ] = ξ min + ( Φ a c) Φ( Φ a c) ( 8. ) H e k MSE riippuu suoraan siitä, kuinka lähellä c on optimia. MSE:n kuvaaa on (hyper)paraboloidi N-ulotteisessa avaruudessa. Optimiratkaisu (.6) voidaan ohtaa myös derivoimalla MSE:n lauseke vektorin c suhteen a asettamalla derivaatta nollaksi (ks. kiran Har. -5). Tulos on tietysti sama...998 Teletekniikan laboratorio Sivu 3 MSE-gradienttialgoritmi (LM..3) Kaavan (.6) optimikerroinvektori löydetään matriisinkäännöllä eli ratkaisemalla lineaarinen yhtälöryhmä oka riippuu autokorrelaatiomatriisin Φ termeistä (autokorrelaatiofunktion Φ arvoista) a ristikorrelaatiovektorista a. Jos kerroinvektoria oudutaan päivittämään usein (niinkuin oletetaan), se on työläs tapa, a lisäksi siinä voi tulla numeerisia (laskentatarkkuus-)ongelmia. Lisäksi autokorrelaatio- a ristikorrelaatiotermit täytyy tuntea (tai estimoida)...998 Teletekniikan laboratorio Sivu 4 7 Suoran ratkaisun siasta etsimme iteratiivista algoritmia, oka vähitellen lähestyy optimiratkaisua. Ratkaisu perustuu siihen perustulokseen että optimikerroinvektori on yksikäsitteinen a virhepinta (MSE:n kuvaaa kerroinvektoriavaruudessa) on unimodaalinen, eli sillä on vain yksi globaali minimi (ei paikallisia ääriarvoa!). Tällöin voidaan MSE-käyrää pitkin edetä aina negatiivisen gradientin suuntaan eli alamäkeen optimiratkaisua kohti. c Too large step size c opt c Negative of gradient for small step size c Kuva -3 havainnollistaa gradienttialgoritmin periaatteellista toimintaa (kaksiulotteinen tapaus)...998 Teletekniikan laboratorio Sivu 5..998 Teletekniikan laboratorio Sivu 6 8
MSE-gradienttialgoritmi (MSEG) voidaan esittää muodossa [ e ] c = c β + c E k ( 7. ) missä c + a c ovat uusi a vanha kerroinvektori, β on askelparametri (/ on mukana otta seuraavat kaavat sievenevät) a nablalauseke on MSE-virhepinnan gradientti. Derivoimalla MSE:n lauseke saadaan (ks. kiran Har. -5) [ e k ] c E = Φ c a ( 5. ) olloin algoritmi (.7) saadaan muotoon c = c + a c = + I c + β( Φ ) ( βφ) βa ( 8. )..998 Teletekniikan laboratorio Sivu 7 Esimerkki -: tutkitaan taas reaalista skalaaritapausta (Esim. -), olloin MSEG-algoritmi saadaan muotoon c + = ( βφ ) c + βa ( 8. ) Vähennetäänpä kummaltakin puolelta optimiratkaisu c opt a käytetään kaavaa a=φ c opt : c+ copt = ( βφ) c copt + βφcopt = ( βφ )( c c ) ( 3. a) Kun oletetaan kertoimen alkuarvoksi, voidaan (+):s ratkaisu lausua myös muodossa c c = + ( βφ ) ( c c ) ( 3. b) opt..998 Teletekniikan laboratorio Sivu 8 opt opt 9 Tästä kaavasta nähdään, että Ratkaisu suppenee aina kohti optimia (alkuarvosta riippumatta) os βφ < Tästä seuraa askelparametrille vaatimus < βφ < < βφ < < β < Φ Nopeimmin algoritmi suppenee os β=/φ : tällöin tarvitaan vain yksi iteraatio! MSEG-algoritmin suppeneminen Edellisen esimerkin tulos voidaan yleistää kompleksiarvoiseen vektoritapaukseen. Esitetään kaava (.8) muodossa c + copt = ( I βφ) c copt + βφcopt = ( I βφ)( c copt) Merkitsemällä q =c -c opt a käyttämällä alkuarvoa q saadaan ratkaisu muotoon q = + I ( βφ) q ( 3. ) Mutta milloin algoritmi suppenee? Nyt sen selvittäminen on hieman työläämpää kuin skalaaritapauksessa a matriisin ominaisarvoa a -vektoreita tarvitaan...998 Teletekniikan laboratorio Sivu 9..998 Teletekniikan laboratorio Sivu
...MSEG-algoritmin suppeneminen Kaavan (.3) kerroinmatriisi voidaan esittää modaalihaotelmana ( I βφ) N = ( H βλ) v v ( 38. ) i= i missä λ i on matriisin Φ ominaisarvo (aina reaalinen a ei-neg.!) a v i vastaava ominaisvektori (v i H v i =). Termi (- βλ i ) on lausekkeen (.38) i:s suppenemismoodi. Jotta okainen moodi suppenisi, on vaadittava että suurinta ominaisarvoa vastaava moodi suppenee, mistä seuraa askelparametrin suppenemisehto < β <..998 Teletekniikan laboratorio Sivu i ( 39. ) λ max i...mseg-algoritmin suppeneminen Voidaan lisäksi osoittaa, että suppeneminen on hidasta kun ns. ominaisarvohae λ max / λ min (suurimman a pienimmän ominaisarvon suhde) on suuri. Käytännössä suuri ominaisarvohae ilmenee siten, että MSEpinnan (hyper)paraboloidin poikkipinta on litistynyt (hyper)ellipsi. Tällöin gradienttisuunta kääntyy voimakkaasti edettäessä kohti malan pohaa, olloin on pakko käyttää pienehköä askelparametria ettei aeta ohi. Kuva -6: c Direction of Direction of v negative gradient v negative gradient c c v v c..998 Teletekniikan laboratorio Sivu Ominaisarvot a tehospektri Vieläkin havainnollisempi on spektritulkinta. Voidaan osoittaa, että signaalin tehospektri asettaa raat ominaisarvohaeelle: ω ω [ Se ] λ [ Se ] min ( ) < < max ( ) ( 45. ) ω ω a tehospektrihän on autokorrelaatiofunktion Fourier-muunnos: ω ωk Se ( ) = Φ ke ( 46. ) k = Ominaisarvot riippuvat matriisin dimensioista. Voidaan osoittaa, että ominaisarvoen minimi a maksimi lähestyvät (.45):n raa-arvoa kun matriisin kokoa (eli adaptoitavan suotimen pituutta) kasvatetaan....ominaisarvot a tehospektri Suppenemisen kannalta on siten parasta, että koraimen inputsignaalin spektri on mahdollisimman tasainen (lähellä valkoista kohinaa). Jos spektrissä on yksikin nollakohta, suppeneminen hidastuu periaatteessa nollaan kun suotimen pituutta kasvatetaan. Käytännön pohakohinan takia tämä on lähinnä teoreettinen ongelma. Silti pitkien suotimien adaptointi on hidasta varsinkin kun signaalin spektri on vaihteleva...998 Teletekniikan laboratorio Sivu 3..998 Teletekniikan laboratorio Sivu 4
Yhteenveto 6. luennosta Tällä luennolla käsiteltiin FIR-koraimen adaptointia. Tutustuttiin mm. seuraaviin käsitteisiin MSE-virheen lauseke matriisimuodossa N-pituiselle FIRsuotimelle MSE-gradienttialgoritmi (MSEG) MSEG-algoritmin suppeneminen Askelparametrin määrittäminen Ominaisarvohae, tehospektri a suppeneminen..998 Teletekniikan laboratorio Sivu 5 3