Tiedostorakenteet. R&G Chapter Tietokannan hallinta, kevät 2006, Jan 1

Samankaltaiset tiedostot
Helsingin yliopisto/tktl Tietokannan hallinta kevät Harri Laine 1 D B. Yksitasoiset talletusrakenteet

Yksitasoisia talletusrakenteita käytetään lähinnä datatietueiden talletukseen

Helsingin yliopisto/tktl Kyselykielet, s 2006 Tietokantaoperaatioiden toteutuksesta Harri Laine 1. Tiedostorakenteet.

Jokaisella tiedostolla on otsake (header), joka sisältää tiedostoon liittyvää hallintatietoa

oheishakemistoja voi tiedostoon liittyä useita eri perustein muodostettuja

D B. Harvat hakemistot. Harvat hakemistot

Hakemistorakenteet. R & G Chapter Tietokannan hallinta, kevät 2006, Jan 1

Helsingin yliopisto /TKTL Tietokannan hallinta Harri Laine 1 D B. Harvat hakemistot. Harvat hakemistot

Hakemistotyypeistä. Hakemistorakenteet. Hakemiston toteutuksesta. Hakemiston toteutuksesta

D B. Harvat hakemistot

Hajautusrakenteet. R&G Chapter Tietokannan hallinta, kevät 2006, Jan 1

D B. Tietokannan hallinta kertaus

Helsingin yliopisto/tktl Tietokantojen perusteet, s 2006 Tietokantaoperaatioiden toteutuksesta 3. Harri Laine 1

Hajautusrakenteet. Hajautukseen perustuvat tiedostorakenteet. Hajautukseen perustuvat tiedostorakenteet. Hajautukseen perustuvat tiedostorakenteet

TKHJ:ssä on yleensä komento create index, jolla taululle voidaan luoda hakemisto

Algoritmit 1. Luento 5 Ti Timo Männikkö

Helsingin yliopisto/tktl Tietokantojen perusteet, s 2006 Tietokantaoperaatioiden toteutuksesta Harri Laine 1

Tietorakenteet, laskuharjoitus 7, ratkaisuja

D B. Levykön rakenne. pyöriviä levyjä ura. lohko. Hakuvarsi. sektori. luku-/kirjoituspää

D B. Tiedostojen käsittely

D B. B+ -puun tasapainotus poistossa. B+ -puun tasapainotus poistossa. Poistot. B+ -puun tasapainotus poistossa. B+ -puun tasapainotus poistossa

3. Tietokannan hakemistorakenteet

3. Tietokannan hakemistorakenteet

Luento 2: Tiedostot ja tiedon varastointi

D B. Levytiedostojen käsittely. Levytiedostojen käsittely

Algoritmit 2. Luento 5 Ti Timo Männikkö

Algoritmit 2. Luento 4 Ke Timo Männikkö

Algoritmit 2. Luento 6 Ke Timo Männikkö

1. a) Laadi suoraviivaisesti kyselyä vastaava optimoimaton kyselypuu.

Algoritmit 2. Luento 4 To Timo Männikkö

Insert lauseella on kaksi muotoa: insert into taulu [(sarakenimet)] values (arvot)

lähtokohta: kahden O(h) korkuisen keon yhdistäminen uudella juurella vie O(h) operaatiota vrt. RemoveMinElem() keossa

B-puu. 3.3 Dynaamiset hakemistorakenteet

58131 Tietorakenteet (kevät 2009) Harjoitus 6, ratkaisuja (Antti Laaksonen)

Käsitellyt hakemistot (hajautus, ISAM): hakemisto-osa on staattinen eli ei muutu muuten kuin uudelleenorganisoinnissa.

HELIA 1 (15) Outi Virkki Tiedonhallinta

Algoritmit 2. Luento 3 Ti Timo Männikkö

HELIA 1 (16) Outi Virkki Tietokantasuunnittelu

Helsingin yliopisto/tktl Kyselykielet, s 2006 Optimointi Harri Laine 1. Kyselyn optimointi. Kyselyn optimointi

2. Tietokannan tallennusrakenteet

Algoritmit 2. Luento 2 To Timo Männikkö

TIEDONHALLINTA - SYKSY Luento 11. Hannu Markkanen /10/12 Helsinki Metropolia University of Applied Sciences

2. Tietokannan tallennusrakenteet

Algoritmit 2. Luento 3 Ti Timo Männikkö

Liitosesimerkki Tietokannan hallinta, kevät 2006, J.Li 1

HAAGA-HELIA Heti-09 1 (12) ICT05 Tiedonhallinta ja Tietokannat O.Virkki Näkymät

Algoritmit 1. Luento 6 Ke Timo Männikkö

Helsingin yliopisto/tktl Kyselykielet, s 2006 Tietokantaoperaatioiden toteutuksesta Harri Laine 1. Kyselyjen käsittely

HELIA 1 (14) Outi Virkki Tiedonhallinta

Kyselyiden käsittely. R & G Chapter Tietokannan hallinta, kevät 2006, Jan 1

Tietokannan hallinta. Kevät 2004 Jan Lindström R&G Chapter 1

Algoritmit 2. Luento 2 Ke Timo Männikkö

Fyysinen suunnittelu

Liitosesimerkki. Esim R1 R2 yhteinen attribuutti C. Vaihtoehdot

Ohjelmoinnin perusteet Y Python

Helsingin yliopisto/tktl Tietokannan hallinta, s Harri Laine 1 D B. Kyselyjen käsittely ja optimointi

Algoritmit 2. Luento 6 To Timo Männikkö

jotakin käyttötarkoitusta varten laadittu kokoelma toisiinsa liittyviä säilytettäviä tietoja

HELIA 1 (11) Outi Virkki Tiedonhallinta

Tarkennamme geneeristä painamiskorotusalgoritmia

Tietokanta (database)

Algoritmit 2. Luento 5 Ti Timo Männikkö

Helsingin yliopisto/tktl DO Tietokantojen perusteet, s 2000 Johdanto & yleistä Harri Laine 1. Tietokanta. Tiedosto

Algoritmit 1. Luento 7 Ti Timo Männikkö

Tiedonhallinnan perusteet. Viikko 1 Jukka Lähetkangas

D B. Kyselyjen käsittely ja optimointi. Kyselyn käsittelyn vaiheet:

D B. Kyselyjen käsittely ja optimointi. Kyselyjen käsittely ja optimointi

811312A Tietorakenteet ja algoritmit , Harjoitus 2 ratkaisu

TKT20001 Tietorakenteet ja algoritmit Erilliskoe , malliratkaisut (Jyrki Kivinen)

4 Tehokkuus ja algoritmien suunnittelu

Tietokannat. CREATE TABLE table(col1,col2,... ); Luo uuden taulun. CREATE TABLE opiskelijat(opnumero,etunimi,sukunimi);

SQL-perusteet, SELECT-, INSERT-, CREATE-lauseet

Levymuisti. R&G Chapter 8 & Tietokannan hallinta, kevät 2006, Jan 1

Tietorakenteet ja algoritmit - syksy

HAAGA-HELIA Heti-09 1 (17) ICT05 Tiedonhallinta ja Tietokannat O.Virkki Suorituskyky

Pikalajittelu: valitaan ns. pivot-alkio esim. pivot = oikeanpuoleisin

FYYSINEN SUUNNITTELU

Tietokantakurssit / TKTL

Tietokantojen suunnittelu, relaatiokantojen perusteita

Tiedon talletuspaikkoja. Levymuisti. Vaihtoehtoisia talletusrakenteita. Tietokantojen säilytys. R&G Chapter 8 & 9. Useita vaihtoehtoja:

AVL-puut. eräs tapa tasapainottaa binäärihakupuu siten, että korkeus on O(log n) kun puussa on n avainta

useampi ns. avain (tai vertailuavain) esim. opiskelijaa kuvaavassa alkiossa vaikkapa opintopistemäärä tai opiskelijanumero

Tietokannat. CREATE TABLE table(col1,col2,... ); Luo uuden taulun. CREATE TABLE opiskelijat(opnumero,etunimi,sukunimi);

Tietorakenteet ja algoritmit Johdanto Lauri Malmi / Ari Korhonen

PALKKA-AINEISTON SIIRTOTIEDOSTO

TIETOJEN TUONTI TIETOKANNASTA + PIVOT-TAULUKON JA OLAP-KUUTION TEKO

Ohjelmoinnin perusteet Y Python

Jouni Huotari OLAP-ohjetekstit kopioitu Microsoftin ohjatun OLAP-kuution teko-ohjeesta. Esimerkin kuvaus ja OLAP-määritelmä

Lisätään avainarvo 1, joka mahtuu lehtitasolle:

17 BUDJETOINTI. Asiakaskohtainen Budjetti Ylläpito-ohjelma. Dafo Versio 10 BUDJETOINTI. Käyttöohje. BudgCust Yleistä

Algoritmit 1. Luento 12 Ti Timo Männikkö

Lisätään avainarvo 6, joka mahtuu lehtitasolle:

TIETOKANNAT: MYSQL & POSTGRESQL Seminaarityö

HELIA 1 (15) Outi Virkki Tietokantasuunnittelu

Kääreluokat (oppikirjan luku 9.4) (Wrapper-classes)

Algoritmit 1. Luento 10 Ke Timo Männikkö

2 Eläinlistan kautta voidaan tallentaa tietoja kuolleille eläimille

Excel-taulukkoon X- ja Y-sarakkeisiin tallennettujen koordinaattien muuntaminen paikkatietokohteiksi

D B. Kyselypuut ja ekvivalenssi

Ohjelmoinnin perusteet Y Python

Transkriptio:

Tiedostorakenteet R&G Chapter 9 16.02.06 Tietokannan hallinta, kevät 2006, Jan 1

Tiedostorakenteet Tiedostojen tehokkuutta yhtä kyselyä kohti arvioidaan usein tarvittavien levyhakujen määrällä. kuten levykäsittelyn yhteydessä todettiin levyhakuja on kahden tyyppisiä: satunnaishakuja ja peräkkäishakuja 16.02.06 Tietokannan hallinta, kevät 2006, Jan 2

Tiedostorakenteet Kokonaistehokkuuteen vaikuttaa myös puskureiden määrä oikean levyhaun tarpeen todennäköisyys vähenee puskureiden määrän kasvaessa. Myös levyjen ominaisuudet ja verkkoyhteyksien nopeus vaikuttavat kokonaistehokkuuteen. 16.02.06 Tietokannan hallinta, kevät 2006, Jan 3

Tiedostorakenteet Levyhakujen määrä on yksinkertainen ja selkeä tehokkuusmitta: ei riipu laitteistosta riippuu tiedostorakenteesta arvioinnissa voi käyttää keskiarvoja, maksimia, jne. vrt. tietorakenteiden analyysi 16.02.06 Tietokannan hallinta, kevät 2006, Jan 4

Tiedostorakenteet Tiedostorakenteen tasolla vaikuttavia tekijöitä ovat mm. tietueiden järjestys tietueiden sijainti suhteessa toisiinsa miten tietueita kytketään tiedoston sisällä tiedostojen välillä käytetäänkö suoria osoitepohjaisia kytkentöjä vaiko relaatiokantojen avainperustaisia epäsuoria kytkentöjä 16.02.06 Tietokannan hallinta, kevät 2006, Jan 5

Tiedostorakenteet Tiedostorakenteet tarjoavat tiedostojen käsittelyyn varsinaisten datatietueiden sijoittelun lisäksi erilaisia apurakenteita (indeksejä), joilla pyritään nopeuttamaan käsittelyä. Relaatiotietokantojen avainperusteiset kytkennät vaativat apurakenteita toimiakseen tehokkaasti. Apurakenteet vaativat levytilaa, puskuritilaa, omia ylläpitotoimia lisäysten ja muutosten yhteydessä. 16.02.06 Tietokannan hallinta, kevät 2006, Jan 6

Tiedostorakenteet Tietokannan kokonaistehokkuuteen vaikuttaa myös erilaisten tietokantaoperaatioiden osuus ja jakautuma kokonaiskuormassa. paljonko on tietyn tyyppisiä kyselyjä, milloin paljonko on lisäyksiä, miten ne jakautuvat Operaatioiden tarpeet voivat olla ristiriitaisia. Kuorma ei välttämättä pysy samanlaisena vaan muuttuu ajan myötä. 16.02.06 Tietokannan hallinta, kevät 2006, Jan 7

Järjestämätön peräkkäisrakenne (kasa) Järjestämättömässä peräkkäisrakenteessa eli kasassa (heap) tietueet sijoitetaan peräkkäin tiiviisti tiedoston sivuille lisäysjärjestyksessä uusi tietue lisätään aina tiedoston loppuun. Rakenne on useissa tkhj:ssä taulujen toteutuksen perusrakenne. Rakenne soveltuu hyvin peräkkäiskäsittelyyn, jossa tietueiden järjestyksellä ei ole merkitystä. 16.02.06 Tietokannan hallinta, kevät 2006, Jan 8

Järjestämätön peräkkäisrakenne (kasa) Taulun perustaminen create table lauseella luo tyhjän kasan Yleensä tämä tarkoittaa yhtenäisen sivualueen varaamista tiedostolle, alueen koko voi olla järjestelmän päättämä tai siihen voi vaikuttaa esim. järjestelmäparametreilla tai create table lauseella. Oraclen käyttää tästä alkuvarauksesta nimitystä initial extent ja sen koon voi määritellä taulukohtaisesti. jos tiedosto kasvaa niin suureksi, ettei se enää mahdu alkuperäiselle sivualueelle otetaan käyttöön jatkoalueita. Tyypillisesti alueet kytketään ketjurakenteeksi. 16.02.06 Tietokannan hallinta, kevät 2006, Jan 9

Järjestämätön peräkkäisrakenne (kasa) Lisäys kasarakenteessa on nopeaa. Haetaan tiedoston viimeinen sivu ja lisätään tietue sinne. Ellei tietue mahdu sivulle otetaan käyttöön seuraava sivu. Korkeintaan 2 levyhakua (oletetaan kuvaajan olevan muistissa). 16.02.06 Tietokannan hallinta, kevät 2006, Jan 10

Järjestämätön peräkkäisrakenne (kasa) Jos tiedostossa on N sivua, vaatii tietueen haku avaimen perusteella keskimäärin N/2 levyhakua. Yleensä kasarakennetta ei käytetäkään yksinään, vaan sen päälle rakennetaan tiheitä indeksejä tehostamaan hakuja. esimerkiksi Oraclessa avaimen määrittely luo automaattisesti avainperustaisen indeksin. 16.02.06 Tietokannan hallinta, kevät 2006, Jan 11

Järjestämätön peräkkäisrakenne (kasa) Tietueen poisto edellyttää: 1. Tietueen hakua rakenteesta. 2. Tietueen poistamista haetulta sivulta, joko merkitsemällä tietue poistetuksi tai tiivistämällä sivu. 3. Muuttuneen sivun vientiä takaisin levylle. Poistojen seurauksena sivuille tulee tyhjää tilaa ja tiedoston täyttösuhde pienenee. 16.02.06 Tietokannan hallinta, kevät 2006, Jan 12

Järjestämätön peräkkäisrakenne (kasa) Jos poisto tyhjentää koko sivun, voidaan sivu liittää vapaiden sivujen ketjuun uudelleenkäytettäväksi. Vaihtuvapituisten tietueiden muutokset voivat kasvattaa tietueen pituutta. Tietueiden pituuden kasvuun voidaan varautua jättämällä sivuille kasvuvaraa eli sivuja ei täytetä heti aluksi tiiviisti vaan vaikkapa vain 70 prosenttisesti. Voi käydä myös niin, että kasvanut tietue ei enää mahdu sivulle. Tällöin käytetään tyypillisesti ylivuotosivuja tietueiden ylivuotaneiden osien tallennukseen. Tietueita ei siirretä kokonaan toiselle sivulle, koska silloin jouduttaisiin ylläpitämään indeksejä. Ylivuotosivut ovat huonoja peräkkäiskäsittelyn kannalta. 16.02.06 Tietokannan hallinta, kevät 2006, Jan 13

Järjestämätön peräkkäisrakenne (kasa) Poistot ja muutokset degeneroivat rakennetta rakenteesta tulee harva ja epäyhtenäinen rakenne voidaan korjata ajoittaisin uudelleenorganisoinnein uudelleenorganisoinnissa luodaan uusi kasarakenne ja korvataan sillä vanha kaikki vanhan rakenteen varaan rakennetut indeksit on rakennettava uudelleen. 16.02.06 Tietokannan hallinta, kevät 2006, Jan 14

Kasarakenne listana Tieto Sivu 1 Tieto Sivu 2 Tieto Sivu N Käytetyt sivut Otsikko sivu Tieto Sivu 1 Tieto Sivu 2 Tieto Sivu K Vapaat sivut 16.02.06 Tietokannan hallinta, kevät 2006, Jan 15

Kasarakenne hakemistona Otsikko sivu Tieto sivu 1 Tieto sivu 2 hakemisto Tieto sivu N 16.02.06 Tietokannan hallinta, kevät 2006, Jan 16

Järjestämätön peräkkäisrakenne (kasa) Tarkastellaan taulua employee. Oletetaan että taulussa on 8000 riviä (ei ihan pikkufirma). Tehdään kysely select * from employee where ssn= 1234567 Joudutaan läpikäymään koko tiedosto ellei tiedetä, että ssn on avain ja keskimäärin puolet jos se on määritelty avaimeksi ja löytyy (ensimmäinen osuma on ainoa) siis keskimäärin 4000 riviä. 16.02.06 Tietokannan hallinta, kevät 2006, Jan 17

Järjestämätön peräkkäisrakenne (kasa) Olkoon levyn pyörimisnopeus on 100 kierrosta sekunnissa, lohkokoko 4K tavua, uralla 50 lohkoa, levypintoja 12 sekä täyttösuhde 80%. Yhden Employee tietueen keskipituus voisi olla 300 tavua. Lohkossa olisi tällöin keskimäärin 10 tietuetta, uralla 500 ja sylinterillä 6000, eli tarvitaan 2 sylinteriä ja yhteensä 16 kierrosta koko tiedoston siirtämiseen eli maksimissaan 16*10 ms=160 ms +kohdistusaika +pyörähdysviive (yht. 10ms), eli noin 170 ms ja avainpohjaisessa haussa keskimäärin puolet tästä eli n 85 ms (olettaen, että tietue löytyy). 16.02.06 Tietokannan hallinta, kevät 2006, Jan 18

Järjestetty peräkkäisrakenne Sequential file Tietueet sijaitsevat tiedostossa jonkin kentän (esimerkiksi työntekijänumeron) mukaan järjestettyinä. Tietueiden järjestys on jokin tyypillisesti käsittelyssä usein tarvittava järjestys Rakenne tukee tietueiden käsittelyä peräkkäin halutussa järjestyksessä 16.02.06 Tietokannan hallinta, kevät 2006, Jan 19

Järjestetty peräkkäisrakenne Lisäykset pitää järjestetyssä peräkkäisrakenteessa sijoittaa oikealle kohdalleen järjestyksessä. 10 20 30 40 50 60 70 80 90 100 45 Pahimmassa tapauksessa pitäisi siirtää koko tiedoston loppuosa uusiin paikkoihin. Yleensä jätetään lisäyksille tilaa sivuille täyttösuhde jää alhaiseksi. Jos sivulle tulee lisäys, joka ei mahdu sinne, otetaan käyttöön ylivuotosivu, joka linkitetään sivuun. Lisäysten kasautuessa ylivuotoketjusta voi tulla pitkä. 16.02.06 Tietokannan hallinta, kevät 2006, Jan 20

Järjestetty peräkkäisrakenne Poistot ja muutokset tehdään kuten kasarakenteeseen. Tietueen haku tiedostosta järjestysavaimen perusteella vaatii tiedostoa läpilukemalla saman verran levyhakuja kuin kasarakenteessa, jos tietue löytyy eli N/2. Löytymättömyys voidaan todeta keskimäärin samalla levyhakujen määrällä. Tässä suhteessa rakenne on parempi kuin kasa. Järjestetty peräkkäisrakenne tukee myös järjestysavaimeen perustuvia arvovälihakuja sekä erisuuruusvertailuja!=,<,<= 16.02.06 Tietokannan hallinta, kevät 2006, Jan 21

Järjestetty peräkkäisrakenne Järjestetty peräkkäisrakenne mahdollistaa myös binäärihaun käytön. Periaate: Etsi tietuetta tiedoston keskimmäiseltä (k=roof(n/2)) sivulta Jos ei löytynyt ja avain<sivun pienin avain, jatka samalla periaatteella sivuilta 1.. k 1. Jos ei löytynyt ja avain>sivun suurin avain, jatka samalla periaatteella sivuilta k+1.. N. Haku päättyy kun tietue löytyy tai tietuetta ei löydy sivulta mutta avain sijoittuu sivun pienimmän ja suurimman avaimen väliin (ei ole tiedostossa) tai etsintää pitäisi jatkaa tyhjästä sivujoukosta 16.02.06 Tietokannan hallinta, kevät 2006, Jan 22

Järjestetty peräkkäisrakenne Binäärihaussa tarvitaan enintään roof(log 2 N) levyhakua. (roof(x) = pienin kokonaisluku, joka on suurempi kuin x) Aiemman esimerkin 8000 employee tietueen tiedostossa oli 800 lohkoa, eli tietueen haku järjestysavaimen perusteella vaatisi enintään roof(log 2 800) = 10 levyhakua, joka satunnaishakuajalla laskettuna samalla n 10 ms satunnaishakuajan levyllä olisi samaa luokkaa kuin keskimääräinen saantiaika kasarakenteesta (100ms vs 85 ms). 16.02.06 Tietokannan hallinta, kevät 2006, Jan 23

Järjestetty peräkkäisrakenne Järjestetty peräkkäisrakenne ei ole tyypillinen tietokantojen yhteydessä käytetty tiedostorakenne Vanhanaikaisissa eräsovelluksissa se oli laajasti käytetty soveltuu erityisen hyvin tilanteisiin, jossa pitää tahdistaa usean laajan aineiston käsittely 16.02.06 Tietokannan hallinta, kevät 2006, Jan 24