INFORMAATIOTEORIA & KOODAUS TÄRKEIMPIEN ASIOIDEN KERTAUS A Tietoliikennetekniikka II Osa 28 Kari Kärkkäinen Syksy 2015

Transkriptio

1 1 INFORMAATIOTEORIA & KOODAUS TÄRKEIMPIEN ASIOIDEN KERTAUS

2 TEENVETO 2 Informaatioteoria tarkastelee tiedonsiirtoa yleisemmällä, hieman abstraktilla tasolla ei enää tarkastella signaaleja aika- tai taajuusalueissa. Siten saadaan käsitys järjestelmien saavutettavissa olevasta suorituskyvystä mm. kapasiteetin Shannon-raja. Symboliin liittyvä informaation määrä on symbolin esiintymistodennäköisyyden käänteisarvon logaritmi. Jos logaritmin kantaluku on kaksi, niin yksikkönä on bitti 10 hartley, e natti. Lähteen keskimääräistä informaatiota keskimääräistä epävarmuutta kutsutaan entropiaksi, jonka maksimiarvo saavutetaan, kun symbolit yhtä todennäköisiä myös epävarmuus tuolloin suurin. Kanavan transitiodiagrammin, kanavamatriisin ja sen ehdollisten transitiotodennäköisyyksien Py j x i avulla voidaan määritellä diskreetti kanavamalli, jonka todennäköisyyksien taakse kätkeytyy modulaatiomenetelmä ja muut järjestelmäparametrit. ja ovat kanavan tulon ja lähdön entropiat. Kanavan tulon entropia on käytännössä sama kuin siihen liitettävän lähteen entropia.

3 TEENVETO 3 on kanavan tulon keskimääräinen epävarmuus ekvivokaatio, eli keskimääräinen harakoille mennyt menetetty informaatio, kun kanavan lähdöstä on tehty havainto. Ennen havaintoa, epävarmuus oli, joten noiden lukujen erotus kuvaa siirretyn tiedon määrää. puolestaan kuvaa kanavan lähdön sisältämää keskimääräistä epävarmuutta virhe-entropiaa, kun tulo tiedetään., on tiedonsiirtojärjestelmän kokonaisentropia. Keskinäisinformaatio siirtoinformaatio määritellään: I; Sen maksimimarvoa sanotaan kanavan kapasiteetiksi, joka maksimoituu lähdesymbolien todennäköisyyksien yli. Sen yksikkö on [bittiä/symboli]. Maksimi saavutetaan, kun siirrettävät symbolit ovat yhtä todennäköisiä, jolloin C max log 2 M [bit/symb].

4 TEENVETO hteinen leikkauspinta-ala vastaa keskinäisinformaatiota I; ja yhteispinta-ala unioni vastaa kokonaisentropiaa,. Ideaalitapauksessa neliöiden tulisi olla päällekkäin, ts. 0 ja I; kaikki lähteen informaatio siirtyy. 4 I; ; ; I I,, + +,

5 TEENVETO 5 I; ; ; I I,, + +

6 TEENVETO 6 Lähteenkoodaus poistaa epäsystemaattista redundanssia, jotta informaation määrä lähetettyä kanavasymbolia kohden maksimoituu. Jos lähteen informaationopeus on pienempi kuin kanavan kapasiteetti, niin Shannonin 1. teoreeman nojalla voidaan löytää lähteenkoodausmenetelmä, jolla siirto onnistuu. Idea on sama kuin Morse-koodauksessa, eli annetaan pienin määrä symboleita useimmin toistuvalle kirjaimelle. Vrt. Kirjainten ASCII- 8 bit ja Morsedoodaus. Lähteenkoodausmenetelmiä: Shannon-Fano, uffman tuottaa suurimman tehokkuuden, eli se on optimaalinen lähdekoodi. Keskimääräinen sananpituus lähteenkoodauksessa lähestyy lähteen entropian arvoa. Kun ne ovat samoja, zippauksen tehokkuus 100%. Virheetön siirto P E 0 on mahdollista Shannonin 2. teoreeman mukaan kanavakoodausteoreema, jos lähteen informaationopeus on pienempi kuin kanavan kapasiteetti ja lähetykseen on käytettävissä riittävästi aikaa. Teoreema ei kerro miten nuo virheen korjaavat koodit löydetään. Niitä etsitään koodausteorian avulla. Kanavakoodauksessa lisätään systemaattista redundanssia.

7 TEENVETO 7 Shannon-artley -laki sitoo lähetystehon ja kanavan kaistanleveyden toisiinsa, siis kaksi tärkeintä tiedonsiirron perusresurssia: C c B log S N [ bit / s] uom! 2-kantainen logaritmi. Kaavan perusteella voidaan johtaa ns. Shannonin raja, johon kaikkia siirtojärjestelmiä verrataan. Siirtojärjestelmät: kaistarajoitetut, tehorajoitetut, sekä kaista- että tehorajoitetut esim. TCM. Kanavakoodausmenetelmät: forward error correction FEC, automatic request and repeat ARQ. ARQ tarvitsee paluukanavan. FEC-periaqate: lohkokoodit, konvoluutiokoodit. Koodisuhde on k/n. n,k -lohkokoodissa on sanassa n k pariteettibittiä ja k infobittiä. Systemaattisessa koodissa k infobittiä esiintyy sellaisenaan. Minimietäisyyden d min perusteella määräytyy lohkokoodin korjauskyky: t d min 1 /2. Konvoluutiokoodeilla se on: t d free 1 /2 Pariteetintarkistuskoodissa pariteettibitti ilmaisee yhden virheen.

8 TEENVETO 8 Toistokoodi on tehokas, mutta koodisuhde on huono 1/n. Pariteetintarkistusmatriisilla [] on ominaisuus: [] [T] 0. Kun [R] [T] + [E], ja oiresana [S] [] [R] [] [E], jonka perusteella voidaan paikallistaa yksi virhe: [S] on laskennan perusteella se []:n sarake, joka vastaa virheen paikkaa. [A] k:n bitin infosana ja [T] n:n bitin koodattu sana sarakevektorina. Generaattorimatriisi: [T] [G] [A]. amming-koodi on yhden virheen korjaava koodi, jolla pariteetintarkistusmatriisin sarakkeet ovat sarakeindeksin binäärisiä vastineita. Niillä oiresanan binäärinen vastine ilmaisee virheen paikan. Sykliset koodit ovat lohkokoodeja, joiden koodisanat saadaan yhden koodisanan syklisinä siirtoina. Kooderi ja dekooderi virheenkorjaimineen voidaan toteuttaa helposti takaisinkytketyilla siirtorekistereillä ja kombinaatiologiikkapiireillä.

9 TEENVETO 9 Koodatun järjestelmän kanavan symbolivirhetn. on suurempi kuin koodaamattoman järjestelmän samalla informaatiobittinopeudella, koska k:n informaatiosymbolin energia täytyy jakaa n:lle kooatulle symbolille aikayksikössä lähetettävä n/k bittiä kanavaan. Virheen korjaava koodaus tuo kuitenkin koodausvahvistusta, joka kompensoi menetyksen desibeleinä. Koodin ja kanavan ominaisuudet vaikuttavat koodausvahvistuksen määrään. Lomittelutaulukkoa käytetään ryöppyvirhe -ympäristössä satunnaistamaan virheet, jotta satunnaisvirheitä korjaavat koodit pystyvät niitä korjaamaan esim. häipyvä monitiekanava matkapuhelintietoliikenteessä tai tahallinen häirintä sotilastietoliikenteessä. Myös ketjukoodausta voidaan käyttää. Konvoluutiokoodeilla on vaikutuspituuden pituinen muisti, joka vaikuttaa virheenkorjauskykyyn. Dekoodausmenetelmät: puuhaku, Viterbi-algoritmi suurimman uskottavuuden ML-ilmaisin, sekventiaalinen dekoodaus.

10 TEENVETO 10 euristisesti keksitty turbokoodaus on koodausmenetelmä, jolla päästään hyvin lähelle Shannonin rajaa. Toteutetaan lomittelijalla ja kahdella takaisinkytketyllä systemaattisella konvoluutiokooderilla RSCC. Trelliskoodattu modulaatio TCM - yhdistää M-tasoisen digitaalisen modulaation ja kanavakoodauksen siten, että todennäköisimmin bittivirheitä aiheuttavien symbolien välinen eukliidinen etäisyys kasvaa, mikä pienentää lopullista P E -arvoa VA-ilmaisun jälkeen. Menettely ei vaadi koodaamattomaan järjestelmään samalla informaationopeudella verrattuna lisätehoa ja lisäkaistanleveyttä. TCM on siten sekä kaista- että tehorajoitettu siirtomenetelmä. Sitä kutsutaan myös Ungerboeck-koodaukseksi keksijänsä mukaan. TCM-dekoodaus suoritetaan Viterbi-algoritmilla pehmeää päätöksentekoa soveltaen lasketaan eukliidista etäisyyttä ammingetäisyyden laskennan sijaan kova päätöksenteko amminglaskennassa.