[ ] [ ] [ ] { } [ ] Helsinki University of Technology Laboratory of Telecommunications Technology

Transkriptio

1 Helsini University of Tehnology Laboratory of Teleommuniations Tehnology S-38. Signaalinäsittely tietoliienteessä I Signal Proessing in Communiations ( ov) Sysy Luento: Adaptiiviset orjaimet II Stoastinen gradienttialgoritmi (LM.) Edellisessä luvussa päästiin FIR-suotimen adaptointiin MSEgradienttialgoritmilla (MSEG) joa orjaa aselparametrin määräämän verran erroinvetoria ohti optimirataisua. Valitettavasti MSEG perustuu myös siihen, että anavan ominaisuudet eli autoorrelaatiomatriisi ja ristiorrelaatiovetori tunnetaan. Näin ei yleensä ole, eli äytännön tuntemattomissa ja muuttuvissa anavissa tarvitaan vielä lisää ysinertaistusia. prof. Timo Laaso Vastaanotto torstaisin lo - Huone G, puh Sähöposti: timo.laaso@hut.fi Teleteniian laboratorio Sivu...Stoastinen gradienttialgoritmi Lopullinen algoritmi saadaan ottamalla äyttöön stoastinen ( ohinainen ) gradienttiestimaatti taran asemesta. Stoastiseen gradienttiin perustuva adaptointi tunnetaan yleensä LMS (Least-Mean Square)-algoritmina, vaia nimi onin epätara (MSE-virhe minimoituu vain approsimatiivisesti). Näin saadaan uitenin äyttöelpoinen ja ehä maailman eniten äytetty adaptiivinen suodinalgoritmi. Gradientti ennen odotusarvoa MSEG-gradientti johdettiin ottamalla neliövirheestä ensin odotusarvo ja sitten gradientti: H H T E e = E a Re E a r E r r [ ] [ ] [ ] H H = E[ a ] { } { } [ ] Re a Φ ( 8. ) Tarastellaan nyt ensin neliövirheen gradienttia ilman odotusarvoa. Kosa gradientti ja odotusarvo ovat lineaarisia operaattoreita, niiden järjestystä voidaan vaihtaa: { } H H T e = a Re a r r r ( 49. ) Teleteniian laboratorio Sivu Teleteniian laboratorio Sivu 4

2 ...Gradientti ennen odotusarvoa Tälle saadaan gradientisi (s. Harj. -5 edellä) T e = r ( a r ) = e r ( 5. ) Tästä voitaisiin nyt ottaa odotusarvo ja saada tuttu tulos [ ] E e = a j Φ ( 5. ) mutta (.5) onin itse asiassa toteutusen annalta parempi sellaisenaan. Voidaan osoittaa, että se antaa harhattoman (unbiased) estimaatin todelliselle gradientille. Estimaatti on stoastinen eli ohinainen. Stoastinen gradienttialgoritmi (SG) SG-algoritmin muainen ertoimien adaptiivinen päivitys on muotoa [ e ] β = E = ( 5. ) ja sijoittamalla tähän (.5) saadaan SG-algoritmi muotoon T [ ] = βe r = I βr r βa r ( 53. ) Tätä voidaan nyt verrata MSEG-algoritmiin = β( a Φ ) = ( I βφ) βa ( 8. ) j j j j Teleteniian laboratorio Sivu Teleteniian laboratorio Sivu Stoastinen gradienttialgoritmi SG-algoritmista tehdään seuraavat havainnot: ) SG-algoritmi sisältää (valittavaa aselparametria β luuunottamatta) vain havaintoarvoja ja muita tunnettuja suureita, eli on suoraan lasettavissa ilman muuta estimointia ) Kun MSEG-algoritmissa iteraatioindesi j oli aiaindesistä riippumaton, SG-algoritmissa j =. Gradientin estimointi toteutetaan siis aiaesiarvoistamalla tulevaa dataa. SG-algoritmin lasentatoteutus r r -j z - z - []j Aumulator a SG-algoritmin lasenta yhtä päivitettävää errointa ohden on esitetty Kuvassa -7. β e Teleteniian laboratorio Sivu Teleteniian laboratorio Sivu 8 4

3 ...SG-algoritmin lasentatoteutus Adaptaatioaava (.53) voidaan irjoittaa omponenttimuodossa [ ] [ ] = β er, L j L ( 54. ) j j j eli lasenta etenee modulaarisesti omponentti errallaan. Uusi virhetermi lasetaan ierrosen päätteesi seuraavaa päivitystä varten. SG-algoritmin suppeneminen (LM..) Perusero MSEG- ja SG-algoritmissa on että MSEG on deterministinen, eli (unhan auto- ja ristiorrelaatiodata tunnetaan) suppeneminen etenee ennaltamäärättyä polua pitin. Sen sijaan SG-algoritmin suppenemisessa on aina stoastista variaatiota, eli joillain iteraatioerralla tulos voi huonotain. Suppeneminen on esimääräistä. SG-algoritmin suppenemista voidaan tarastella ottamalla odotusarvo (.53):sta: T [ ] a ] I r r r I a = E β β = ( βφ) β ( 57. ) Teleteniian laboratorio Sivu Teleteniian laboratorio Sivu 5...SG-algoritmin suppeneminen (LM..) Ottamalla odotusarvo vielä erroinprosessin suhteen saadaan [ ] βφ E[ ] E ( I ) βa ( 58. ) SG-algoritmin suppenemispolu on siis esimäärin sama uin MSEG-algoritmilla. Tästä seuraa, että myös suppenemisehdot (aselparametrin valinta) ovat pääpiirteissään samat molemmille algoritmeille....sg-algoritmin suppeneminen Suppenemisen taremman analyysin helpottamisesi määritellään vanhaan tapaan virhevetori q = opt ( 59. ) (Harj. -.) Johda SG-algoritmin päivitysaava muotoon missä q = Γq β d r ( 6. ) I r r T Γ = β ( 6. ) ja d on virhesignaali optimisuotimelle d = a r T ( 6. ) opt Teleteniian laboratorio Sivu Teleteniian laboratorio Sivu 6

4 ...SG-algoritmin suppeneminen Kosa on nolla vain esimäärin, SG-algoritmi (.6) ei osaan suppene tarasti ohti optimirataisua vaan jää eiumaan sen ympärille. Rataisu on vain esimäärin optimaalinen! SG-algoritmin hyvyyttä voidaanin arvioida erroinvetorin Eulidisen (neliöllisen) virhemitan avulla q = q H q ( 63. ) joa ertoo uina lähellä ertoimet ovat optimia Teleteniian laboratorio Sivu 3 SG-algoritmin jäännosvirhe Viime ädessä iinnostaa uitenin miä on suodatetun ja halutun signaalin ero (virhesignaali e ). Tämän neliövirhe ja erroinvirhe (.63) ovat yhteydessä seuraavasti uten edellä (.5) johdettiin: E[ ] = ξ min q Φq ( 65. ) H e Kesiarvoistamalla tämä myös erroinvetorien suhteen saadaan [ E e ] E [ H = q Φq ] ξ min ( 66. ) Jälimmäistä termiä sanotaan jäännösvirheesi (eess MSE) ja se ertoo uina paljon ertoimien stoastisesta vaihtelusta aiheutuu lisävirhettä Teleteniian laboratorio Sivu 4 7 SG-algoritmin suppenemisehto Tarastellaan jäännösvirheen lauseetta siinä erioistapausessa että input-prosessi r on orreloimatonta (valoista ohinaa), eli Φ = ΦI, Φ = E r ( 67. ) [ ] Tällöin esimääräinen MSE saadaan muotoon [ ] E e = ξ min Φ q ( 68. ) Voidaan johtaa (s. irjan Appendi -A) tulos: E [ q ] E[ q ] N Teleteniian laboratorio Sivu 5 = γ β Φ ξ min ( 69. ) missä γ = βφ β NΦ...SG-algoritmin suppenemisehto Valoisen ohinan tapausessa on vain ysi adaptaatiomoodi (ominaisarvot ovat samat). Kaavasta (.69) näyy, uina jäännösvirhe riippuu aselparametrista β. Tulosesta voidaan myös johtaa ehto algoritmin suppenemiselle, eli γ = βφ β N Φ < ( 7. ) Nopeimpaan suppenemiseen johtaa pienin γ:n arvo, josta saadan optimi-β:si β opt = ( 7. ) N Φ Teleteniian laboratorio Sivu 6 8

5 ...SG-algoritmin suppenemisehto Suppenemisehtoa (.7) havainnollistaa Kuva -8: γ -/N β β opt β opt...sg-algoritmin suppenemisehto SG-algoritmin stabiilisuusehdosi saadaan (-<γ:<): < β < = βopt ( 7. ) NΦ Tätä voidaan verrata MSEG-algoritmin stabiilisuusehtoon < β < ( 39. ) λ ma SG-algoritmin stabiilisuusehto on usein paljon tiuempi - huomaa että se on ääntäen verrannollinen suotimen pituuteen N. Algoritmin stoastinen luonne vaatii siis ylimääräistä pelivaraa Teleteniian laboratorio Sivu Teleteniian laboratorio Sivu 8 9 SG-algoritmin modifiaatioita (LM..) Aselparametrin normalisointi Epästationäärisessä ympäristössä signaalin teho voi vaihdella paljonin, miä vaiuttaa suoraan algoritmin suppenemisnopeuteen jos aselparametri β pidetään vaiona. Tämä voidaan helposti eliminoida normalisoimalla β seuraavasti a β = ( 77. ) σ b missä a ja b ovat sopivia parametreja ja σ on input-signaalin tehon estimaatti aiaindesillä. Tehon estimointiin voidaan äyttää esponentiaalisesti painotettua aiaesiarvoa j j= j σ = ( α) α r ( 78. ) Teleteniian laboratorio Sivu 9...SG-algoritmin modifiaatioita Kaavassa (.78) tietysti <α<. Tällöin tehoestimaatille saadaan näppärä reursioaava σ = ασ ( α) r ( 79. ) Kasimoodialgoritmit (Gear-Shift Algorithms) Johtotransmissiossa (esim. äänitaajuusmodeemit) anava muuttuu vain vähän yhteyden aiana, jolloin aluestimoinnin jäleen aselparametria voidaan pienentää Teleteniian laboratorio Sivu

6 Adaptiivinen DFE Edellä saatiin lineaarisen FIR-orjaimen adaptointiin ehitettyä lopultain äyttöelpoinen menetelmä: stoastinen gradientti(sg- eli LMS-)algoritmi. Adaptiivinen DFE (LM.3) DFE-orjaimen raenne oli jo esillä aiemmin Kuvassa -: Seuraavasi ehitellään vastaava algoritmi päätöstaaisinytetylle eli DFE-orjaimelle, jossa on lineaarisen orjaimen lisäsi osuus joa vähentää ISIä edellisiin päätösiin perustuen. Osoittautuu, että lineaarisen FIR-orjaimen SGalgoritmia voidaan äyttää pienin muutosin lähes sellaisenaan DFE-orjaimen adaptointiin. a P(z) n r C(z) u q D(z) a e Teleteniian laboratorio Sivu Teleteniian laboratorio Sivu...Adaptiivinen DFE DFE-orjaimessa on siis lineaarinen FIR-osa (preursori) joa suodattaa tulevia näytteitä uten pelä LE. Lisäsi reursiivinen osa (postursori) poistaa ISIä vähentämällä vanhoja symboliarvoja (estimaatteja) sopivilla painoertoimilla. Postursori vähentää siis vain ISIä eiä ohinaa. Se vaiuttaa uitenin oo orjaimen ohinavahvistuseen helpottamalla preursorin toimintaa. Käytettäessä MSE-virheen minimointiriteeriä postursorin lisääminen vaiuttaa siis myös preursorin optimaalisiin ertoimiin. Adaptointi on siis tehtävä yhteisesti. Adaptiivisen DFE:n FIR-raenne Oletamme nyt, uten edellä, että preursori on antiausaalinen N-ertoiminen FIR-suodin ja postursori on M-ertoiminen ja ausaalinen (ei-ausaalisuus poistuu äytännössä viivettä lisäämällä). Lasenta voidaan esittää differenssiyhtälöllä i i i= ( N ) M q = r da ( 8. ) i= i i eli se on painotettu esiarvo uusista input-näytteistä ja vanhoista päätösistä. Vaia järjestelmä sisältää taaisinytentää, se voidaan esittää formaalisti Kuvan - FIR-raenteella Teleteniian laboratorio Sivu Teleteniian laboratorio Sivu 4

7 Adaptiivisen DFE:n FIR-raenne Adaptiivisen DFE:n MSE-rataisu r N-... z - z - -N r N- -N r z - z-... -d z - -d M Input-näytteet oostuvat paitsi halutusta symboleista myös esinäisvaiutusesta ja ohinasta, eli ne ovat muotoa r = p a p a n = p a n ( 8. b) n n n n n n jossa summausindesit ja ertoimet p n eivät yleensä ole taraan tiedossa. Sijoittamalla aavaan (.8) saadaan _ a Kuva -. DFE-orjaimen raenne. q e q = p a d a n i n ( i) n i i i i i= ( N ) n i= i= ( N ) = ν a n ( 8. ) m m m i i i= ( N ) jossa päätöset on oletettu oieisi. M Teleteniian laboratorio Sivu Teleteniian laboratorio Sivu Adaptiivisen DFE:n MSE-rataisu Tämä voidaan jaaa olmeen termiin: q = a i n ' ν Ensimmäinen on haluttu symboli. Toinen on ISI-termi joa on muotoa i = νma m ( 8. ) jossa m p d, M i i i= ( N ) ν = p i i i= ( N ) Kolmas termi edustaa ohinaa., muulloin ( 8. ) Teleteniian laboratorio Sivu 7...Adaptiivisen DFE:n MSE-rataisu Tätä havainnollistaa Kuva -: a a n P(z) D(z) P(z)C(z) -D(z) C(z) n Teleteniian laboratorio Sivu 8 C(z) _ q q 4

8 ...Adaptiivisen DFE:n MSE-rataisu Kun oletetaan että ohina ja lähetetyt symbolit (ja siten myös ISI) ovat riippumattomia, niitä voidaan MSE:n minimoinnin annalta tarastella eriseen. Kun lisäsi symbolit esenään ovat riippumattomia, on ilmeistä että oonaisvirheen odotusarvo voidaan minimoida valitsemalla postursorin ertoimet d siten, että M ISI-termiä nollautuu. Näin saadaan MMSE-rataisu postursoriertoimille muodossa...adaptiivisen DFE:n MSE-rataisu Toteutusessa voitaisiin optimoida suoraan preursoriertoimet sopivalla algoritmilla ja lasea postursoriertoimet aavasta (.83). Käytännössä on uitenin helpompaa äyttää Kuvan - raennetta ja signaaleja suoraan adaptointiin, uten seuraavasi johdetaan. dm = ipm i m M ( 83. ) i= ( N ) Olettaen että ISI-termit tunnetaan, postursoriertoimet riippuvat suoraan preursorista Teleteniian laboratorio Sivu Teleteniian laboratorio Sivu 3 5 SG-algoritmi DFE:lle Formaalisti SG-algoritmi voidaan johtaa DFE:n tapauselle suoraviivaisesti. Määritellään erroinvetori T [ N d dm] v = ( ) ( 86. ) joa sisältää siis preursorin ja postursorin ertoimet perääin, NM elementtiä. Vastaava pidennetty datavetori on muotoa T [ r r a a ] w = N M ( ) ( 87. ) Teleteniian laboratorio Sivu 3...SG-algoritmi DFE:lle Virhesignaali voidaan nyt esittää muodossa e = a v T w ( 88. ) joa on formaalisti samanlainen uin LE-orjaimen virheen lausee. Analogiaan vedoten voidaan atsoa mallia SGalgoritmille aavasta (.53): = β er ( 53. ) Ottamalla erroinvetorillein päivitysindesi saadaan DFEorjaimen SG-algoritmi muotoon v = v β e w ( 89. ) Teleteniian laboratorio Sivu 3 6

9 DFE-SG-algoritmin ominaisuusia Aiemmin analysoitiin ideaalisen DFE-orjaimen ominaisuusia stationäärisessä tilanteessa. Olennaista oli ohinavahvistusen pieneneminen osa ISIn poisto helpottuu. Lähteessä Bingham: The Theory and Pratie of Modem Design (Wiley 988, s. 89) todetaan, että SG-DFE suppenee nopeammin uin SG-LE, osa anavaa ei tarvitse ääntää oonaan. Näin SG-DFE on vähemmän herä input-signaalin autoorrelaatiomatriisin ominaisarvohajeelle. Kosa pre- ja postursorien errointen lasenta perustuu samaan virhesignaaliin, omplesisuus ja suppeneminen ovat suunnilleen samanlaista uin (NM)-tappisella SG-LE-FIRorjaimella. Toteutus on siis ysinertainen mutta tehoas Teleteniian laboratorio Sivu 33 7