Digitaalinen Audio & Video I

Transkriptio

1 Digitaalinen Audio & Video I Johdanto Digitaalinen audio Psykoakustiikka Äänen digitaalinen esitys Monikanavaääni ja äänen digitaalinen siirto Digitaalinen kuva Diskreetti kosiinimuunnos JPEG 1

2 Johdanto Multimediassa hyödynnetään todellista ääntä, kuvaa ja videota Lähteet on ensin muutettava signaaleiksi mikrofoni, kamera, videokamera Analogiset signaalit on muunnettava digitaalisiksi näytteistys, A/D-muunnos Usein informaatio halutaan vielä pakata 2

3 Johdanto (jatk.) Pakkausmenetelmä voi olla hukkaamaton (lossless) tai hukkaava (lossy) Pakattua tietoa voidaan tallentaa ja siirtää Pakattu tieto pitää purkaa ennen käyttöä Digitaalinen informaatio pitää myös muuttaa analogiseksi Tämän jälkeen signaali voidaan soittaa tai näyttää käyttäjälle 3

4 Digitaalisen audion sovellusalueet Tietokoneella tuotettu ääni Äänen tallennus ja käsittely Digitaalinen viestintä Vastaajapalvelu Puhesyntetisaattori Puheentunnistus Tietokoneistettu puhelinpalvelu Tiedon esittäminen äänenä (Sonification) 4

5 Psykoakustiikka Taajuusalue Dynaaminen alue Taajuusominaisuudet Ajan vaikutus Maskaus Vaihe Binauraalinen kuulo ja lokalisaatio 5

6 Taajuusalue Ihmisen kuuloalue on noin 20 Hz - 20 khz Kuulo heikkenee iän mukana Äänen korkeus ei ole suoraan verrannollinen äänen taajuuden kanssa 6

7 Dynaaminen alue Kipurajalla äänen amplitudi voi olla 1,000,000 kertaa kuulorajalla olevan äänen amplitudi Mittana käytetään desibeliä db = 20 log10 (A/B) Kuuloraja on 0 db ja kipuraja on n db Kuulo on aistihavainto, jota ei voi suoraan mitata kuultu äänenkorkeus muuttuu amplitudia muutettaessa voimakkuus riippuu äänen taajuudesta 7

8 8

9 Taajuusominaisuudet Luonnollinen ääni sisältää useiden taajuuksien siniaaltoja Taajuudet voidaan laskea Fourier-analyysin avulla Luonnollisten äänten taajuudet ovat tyypillisesti perustaajuuden monikertoja Korva on herkkä spektrin laaksoille ja kukkuloille Selkeästi erottuvia kohtia kutsutaan formanteiksi Esim. vokaalit erotetaan formanttien avulla 9

10 Klarinetin ääni 10

11 Taajuusmuoto 11

12 Ajan vaikutus Soittimien äänillä on kolme osaa: Attack, Steady-State ja Decay Yksinkertaisessa synteesissä generoidaan ääni taajuuskomponenttien avulla ja muutetaan voimakkuutta eri vaiheissa Oikeasti spektrin taajuuskomponenttien väliset suhteet muuttuvat ajan Kuulo on erityisen herkkä isku-vaiheessa 12

13 Maskaus Äänet voivat peittää toisensa osittain tai kokonaan Myös keskinäiset muutokset ovat mahdollisia Tietyllä taajuudella esiintyvä ääni nostaa kuulorajaa laajemmalla taajuusalueella Taajuuksien pitää olla yli kriittisen rajan päässä toisistaan, jotta äänet kuultaisiin erillisinä Kriittinen raja kasvaa taajuuden kasvaessa 13

14 Maskaus (jatk.) Amplitudi Taajuus 14

15 Vaihe Saman taajuuksisten äänten välillä voi olla vaihe-ero 180 asteen vaihe-ero kumoaa äänet keskenään On olemassa todisteita, että ihminen pystyy erottamaan äänten vaihe-eron 15

16 Binauraalinen kuulo ja lokalisaatio Ihminen pystyy määrittämään äänilähteen sijainnin voimakkuus, aika-ero, taajuus Kallo, korvalehdet ja kuuloelimet suodattavat ääntä Lisäksi äänten heijastumien vaikuttaa merkittävästi Äänilähteet on sijoitettava samaan paikkaan kuvallisen informaation kanssa 16

17 Äänen digitaalinen esitys Koodaus aikaulottuvuudessa Muunnokset Lineaarinen ennustus Parametrinen koodaus Digitaalisen audion siirto 17

18 Koodaus aikaulottuvuudessa Äänestä otetaan näytteitä näytetaajuudella Näytetaajuuden pitää olla vähintään kaksi kertaa maksimitaajuus (Nyquistin taajuus) Yleisiä näytetaajuuksia: 8, 44.1 ja 48 khz Signaalin amplitudi näytteenottohetkellä muutetaan numeroarvoksi 18

19 Laskostuminen (a) Sinisignaali (b) 1 x näytteenottotaajuus (c) 1,5 x näytteenottotaajuus (d) 2 x näytteenottotaajuus 19

20 Pulse Code Modulation (PCM) 20

21 Koodaus aikaulottuvuudessa (jatk.) Näytteiden otto aiheuttaa kvantisointivirheen Jokainen bitti parantaa signaalikohina-suhdetta: 20 log 10 2 = 6 db Yleisesti käytetään 16 bittiä 16 * 6 db = 96 db Ihmisen dynaaminen alue on kuitenkin enemmän (n. 120 db) 21

22 Koodaus aikaulottuvuudessa (jatk.) Muunnokset analogisten ja digitaalisten signaalien välillä tehdään A/D ja D/A-muuntimilla Lisäksi tarvitaan suodatusta Anti-alias ja Reconstruction -suodattimet Korkeatasoisissa järjestelmissä ne ovat virhelähde Ongelma voidaan ratkaista ylinäytteistyksellä (oversampling) Myös tietokone aiheuttaa helposti ylikuulumista 22

23 Muut koodausmenetelmät Deltamodulaatiossa (DPCM) koodataan vain peräkkäisten näytteiden välinen ero Adaptiivisessa deltamodulaatiossa (ADPCM) askelkoko voi muuttua 23

24 Muunnokset Muunnosten avulla signaalit voidaan esittää toisessa esitysmuodossa Tavoitteena on saada signaalien siirto tehokkaammaksi ja robustisemmaksi 24

25 Fourier-muunnos Fourier-muunnoksen kertoimet esittävät signaalia taajuus-ulottuvuudessa Stationaariset signaalit voidaan esittää tarkasti Fourier-kertoimien avulla Muuttuvien signaalien tapauksessa käytetään diskreettiä Fourier-muunnosta Muunnos tehdään käyttäen Fast Fourier Transformation (FFT) -algoritmia 25

26 Taajuuskanavat Myös maskaus-efektiä voidaan hyödyntää koodauksessa Signaali jaetaan taajuusalueisiin, jotka koodataan erikseen (Subband Coding) Esim. Mini Disc -levyt (Sony), DCC-kasetit (Philips) ja MP3 Menetelmää on hyödynnetty myös puheen koodauksessa ja tunnistuksessa 26

27 MPEG-audio MPEG-audio hyödyntää Subband-koodausta Signaali jaetaan 32 kanavaan (Layer 1) Jako tehdään 384:n näytteen ryhmälle kerrallaan FFT-muunnoksen avulla erotellaan puhdasta sinivärähtelyä ja kohinaa sisältävät kanavat Vain kiinnostavat kanavat koodataan Kanavaa kohden käytettävä bittimäärä vaihtelee Layer I yli 128 kbps / kanava 27

28 Begin Subband analysis FFT analysis Quantization of samples Scale factor calculation Coding of scale factors Calculation of masking and required bit allocation Determination of nontransmitted subbands Adjustment to fixed bit-rate Coding of samples Coding of bit allocation Formatting and transmission End 28

29 MPEG-audio (jatk.) Layer 2 noin 128 kbps / kanava 1152 näytteen ryhmä 3 skaalauskerrointa 36 taajuuskanavaa Layer 3 (MP3) noin 64 kbps / kanava suodatinpankki Huffmann-koodaus koodaukseen käytettävien bittien lukumäärää voi vaihdella 29

30 Code-Excited Linear Prediction (CELP) Puhetta voidaan myös koodata synteesin avulla Dekoodeerin vastaanottaa ohjausdatan ja syöttää sen synteesisuodattimeen Synteesisuodatin matkii puhetta käyttäen lineaarista ennustusta yksinkertainen ohjaussignaali tuottaa puhetta Enkooderi kokeilee erilaisia syötesignaaleja ja valitsee lähinnä koodattavaa puhenäytettä olevan syötesignaalin 30

31 Monikanavaääni Elokuvaa katseltaessa halutaan usein käyttää monikanavaääntä luonnolisemman tilavaikutelman aikaansaamiseksi Vasemman ja oikean äänikanavan lisäksi voidaan käyttää keskikanavaa ja sivu/takakanavia Lisäksi matalat taajuudet voidaan toistaa erillisen subwooferin kautta Käytössä on vaihtoehdot 5.1, 6.1 ja

32 Matriisi-dekooderi Tarvittavien lisäkanavien informaatio voidaan koodata varsinaisten stereokanavien joukkoon käyttäen +90º ja -90º vaihe-eroa Esim. Dolby Surround matriisi Encoding Matrix Left Right Center Surround Left Total j0.707 Right Total k0.707 j = + 90º phase-shift, k = - 90º phase-shift 32

33 Monikanavaäänen järjestelmät Dolby Surround: vasen, oikea, keski ja takakanava (mono) Dolby Pro Logic: digitaalinen versio edellisestä, jossa kaksi takakanavaa (mono) Dolby Pro Logic II: erillinen bassokanava ja erilliset takakanavat (stereo) Dolby Digital, DTS, SDDS: vasen, oikea, keski, basso, vasen-taka ja oikea-taka koodataan jokainen erikseen (digitaalisesti) 33

34 Monikanavaäänen järjestelmät Dolby Digital Ex: kahteen takakanavaan on koodattu kaksi sivukanavaa ja yksi takakanava (6.1) DTS-ES: vasen, oikea, keski, vasen-sivu, oikea-sivua, taka ja bassokanava on kukin koodattu erikseen (6.1) Dolby Digital Plus, DTS-HD, Dolby TrueHD: sekä sivuilla että takana on vasen ja oikea kanava erikseen (7.1) 34

35 Digitaalinen äänen siirto Äänen siirtämiseksi digitaalisessa muodossa on useita standardeja Kulutuselektroniikassa tunnetuin on Sony/Philips Digital Interconnect Format (S/PDIF) esim. liitäntä DVD-soittiminen ja av-vahvistimen välillä kotiteatterissa Siirtotienä voi olla koaksiaalikaapeli tai optinen kuitu (TOSLINK) 35

36 Diskreetti kosinimuunnos Lohkot DCT-kertoimet Kvantisointi Zig-zag -järjesteys Juoksupituuskoodaus Vaihtuvapituinen koodaus 36

37 Käyttötarkoitus Diskreetti kosinimuunnos on yleisin kuvan ja videon pakkauksessa käytetty menetelmä Discrete Cosine Transform (DCT) Sitä käyttävät mm. JPEG MPEG-1, MPEG-2 ja MPEG-4 H.261 ja H.263 DCT-muunnos perustuu siihen, että kaikki luonnollisesta lähteestä otetut kuvat sisältävät tekstuureja eli pintakuviointia 37

38 Lohkot Kuva jaetaan ensin pienempiin lohkoihin Yleensä käytetään 8 x 8 pikselin lohkoja Värikuvissa eri värikomponentit käsitellään erikseen DCT-muunnos selvittää mitä taajuuksia kukin lohko sisältää 38

39 DCT-kertoimet Kertoimet esitetään kerroinmatriisin muodossa Matriisin koko on sama kuin alkuperäisen lohkon Horisontaalit taajuudet ovat riveillä ja vertikaaliset taajuudet sarakkeissa Taajuudet kasvavat oikealle ja alaspäin Ensimmäin kerroin on ns. DC-kerroin ja se kertoo lohkon valoisuuden 39

40 DCT-kertoimet 40

41 Kvantisointi DCT-muunnokselle on tyypillistä, että matalat taajuudet korostuvat ja korkeita taajuuksia on vähän Korkeille taajuuksille voidaan käyttää vähemmän bittejä Erillinen kvantisointitaulu kertoo kuinka paljon bittejä kullekin kertoimelle varataan Kvantisointitaulu määrää kuvan pakkausasteen 41

42 Zig-zag -järjestys Kertoimet voidaan järjestää ns. Zig-zag -järjestykseen, jossa matalat taajuudet ovat ensin ja korkeat taajuudet jonon lopussa Jonon alussa on suuria yleensä suuria lukuja, mutta jonon lopussa on yleensä hyvin pieniä lukuja ja paljon nollia 42

43 DCT-koodaus 43

44 Juoksupituuskoodaus Zig-zag -sekvenssin lopussa olevista nollista päästään kätevästi eroon ns. Juoksupituuskoodauksella Run Length Encoding (RLE) RLE-koodauksessa ilmoitetaan ensin kuinka monta kertaa tiettty luku esiintyy peräkkäin lukujonossa ja sen jälkeen varsinainen luku Esim. 127, 65, 19, 5, 5, 0, 0, 0, 6, 0, 0, 0,0, 0 => 1, 127, 1, 65, 1, 19, 2, 5, 3, 0, 1, 6, 5, 0 44

45 Vaihtuvanmittainen koodaus Usein toistuvat symbolit korvataan uusilla symboleilla, joissa on vähän bittejä Huffman tai aritmeettinen koodaus Huffman koodaus edellyttää erillistä taulukkoa Aritmeettinen koodaus ei tarvitse taulukkoa, mutta vaatii enemmän laskentaa Lisäksi aritmeettisen koodauksen kompressioaste 5-10 % parempi 45

46 JPEG Tavoitteet Arkkitehtuurit Hukkaamaton koodaus Tehokkuus 46

47 Tavoitteet Kompressiosuhde / kuvanlaatu voidaan valita Sopii mihin tahansa kuviin Sekä ohjelmisto että laitteisto Neljä eri moodia: sekventiaalinen koodaus (alkuperäinen järjestys) progressiivinen koodaus (monivaiheinen koodaus) hukkaamaton koodaus (täydellinen toisto) hierarkinen koodaus (monta eri resoluutiota) 47

48 Arkkitehtuurit Hukkaavissa moodeissa käytetään DCTkoodausta 8 x 8 pikselin lohkoille Sekventiaalisessa moodissa lohkojen DCTkertoimet lähetään lohko kerrallaan Progressiivisessa moodissa kertoimet talletetaan muistiin ja lähetetään ryhmissä Hierarkisessa moodissa valitaan erilaisia resoluutiota koodattavaksi 48

49 Sekventiaalinen JPEG 49

50 Progressiivinen JPEG 50

51 Hierarkinen JPEG 51

52 Hukkaamaton JPEG 52

53 Hukkaamaton koodaus Hukkaamaton koodaus käyttää ennustusta Käytössä on seitsemän eri vaihtoehtoa kuinka monta ja mitä pikseliä käytetään Ennustava koodaus pääsee kompressiosuhteeseen 2:1 53

54 Tehokkuus 0,25-0,5 bpp: kohtalainen - hyvä laatu 0,5-0,75 bpp: hyvä - erittäin hyvä laatu 0,75-1,5 bpp: erittäin hyvä laatu 1,5-2,00 bpp: ei erotu alkuperäisestä 54