Esimerkki ohjemasuoritusmallien käytöstä

Transkriptio

1 Esimerkki ohjemasuoritusmallien käytöstä Luento Ohjelmistojen suorituskyky 1 SEKVENSSIKAAVIOISTA SUORITUSVERKKOIHIN Ohjelmistojen suorituskyky 2 Helsingin Yliopisto / Tktl 1

2 Sekvenssit suoritusverkoiksi Tarkoituksena on muuntaa jokaisen performanssiskenaarion sekvenssikaaviot kvantitatiivisesti (=numeroina) ratkaistavaksi ohjelmasuoritusmalliksi Itsenäisiä suoritussäikeitä ja hajautettuja objekteja sisältävien sekvenssien muuntaminen vaatii hieman enemmän vaivaa kuin yhdessä säikeessä tapahtuvan sekvenssin Prosessi on kuitenkin periaatteessa samanlainen molemmissa tapauksissa Ohjelmistojen suorituskyky 3 Sekvenssit suoritusverkoiksi Sekvenssikaavioissa viestin vastaanottaminen liipaisee vastaanottajassa toiminnon, joka voi olla jokin operaatio tai tilamuutos Suoraviivainen tapa muuntaa sekvenssi suoritusverkoksi on seurata viestinuolia ja tehdä jokaisesta liipaistusta toiminnosta oma persussolmunsa Monessa tapauksessa yksittäiset toiminnot eivät niinkään ole mielenkiintoisia suorituskyvyn kannalta, vaan peräkkäisiä toimintoja voidaan yhdistää samaan perussolmuun Myös solmulaajennoksia voi käyttää hyväksi jakamalla yhteenkuuluvia toimintoja aliverkkoihin tarkempaa analyysiä varten Ohjelmistojen suorituskyky 4 Helsingin Yliopisto / Tktl 2

3 Sekvenssit suoritusverkoiksi Toisto- ja valintarakenteet on helppo muuttaa vastaaviksi suoritusverkkorakenteiksi Jos esim. valintarakenteita ei ole käytetty sekvensseissä, pitää tarkastella saman skenaarion vaihtoehtoisia suorituksia kuvaavia sekvenssejä ja tunnistaa niistä vaihtoehtoiset toiminnot Sekvenssien muuntaminen verkoiksi vaatii luonnollisesti harjaantumista mallinnusmenetelmien käytössä sekä ymmärrystä suorituskykyyn vaikuttavista yleisistä tekijöistä sekä tiettyjen teknologioiden ominaisista tekijöistä Toistot, eri suorituspolut frekvensseineen, ohjelmistoresurssien käytön intensiivisyys, viestinnän ja toiminnan synkronoinnin aiheuttamat viiveet jne. Keskittyminen oleellisiin asioihin ja turhien yksityiskohtien karsiminen Ohjelmistojen suorituskyky 5 ICAD CASE STUDY Ohjelmistojen suorituskyky 6 Helsingin Yliopisto / Tktl 3

4 ICAD Seuraavassa läpikäytävä esimerkkitapaus perustuu CAD sovellukseen, jota suunnittelu-insinöörit käyttävät erilaisten fyysisten rakenteiden piirtämiseen ja evaluointiin (eli suunnitteluun) Sovellus tallettaa suunnitelmat tietokantaan ja tarjoaa rakenne-editorin suunnitelmien interaktiiviseen katselmointiin ja arviointiin Esimerkkitapauksessa käydään läpi erilaisia arkkitehtuurivaihtoehtoja ja näytetään, miten niiden suorituskykykä voidaan arvioida ohjelmasuoritusmalleilla Ohjelmistojen suorituskyky 7 ICAD -piirrokset ICAD rakennepiirros koostuu elementeistä ja kulmapisteistä (nodes) Elementit voivat ovat palkkeja, kolmioita tai levyjä, jotka yhdistävät vastaavasti kahta, kolmea ja neljää tai useampaa kulmapistettä Elementteihin liittyy dataa, joka on merkityksellistä suunniteltavan rakenteen fysikaalisten ja muiden ominaisuuksien kannalta Kulmapisteellä on paikka kolmiulotteisessa avaruudessa sekä muita rakennemallien evaluoinnin kannalta tarpeellisia attribuutteja Ohjelmistojen suorituskyky 8 Helsingin Yliopisto / Tktl 4

5 ICAD käyttötapaukset Sovelluksella on lukuisia käyttötapauksia, mutta tässä esimerkissä keskitytään Piirrä käyttötapaukseen ja sen yhteen skenaarioon nimeltä PiirräMalli, jossa sovellus piirtää tietokannasta ladattavan mallin näytölle Tyypillinen malli koostuu vain palkeista ja kulmapisteistä ja siinä on 2000 palkkia Vaatimuksena on piirtää tyypillinen malli 10 sekunnissa tai nopeammin Ohjelmistojen suorituskyky 9 PiirräMalli -skenaario Ohjelmistojen suorituskyky 10 Helsingin Yliopisto / Tktl 5

6 ICAD ARKKITEHTUURI Ohjelmistojen suorituskyky 11 Arkkitehtuuri 1 ICAD-rakenteen esitys olioina Kaikilla objekteilla on myös oma tunniste (id -numero) Koostesuhde esitetään tietokannassa käyttäen tunnistetta viitteenä Ohjelmistojen suorituskyky 12 Helsingin Yliopisto / Tktl 6

7 Arkkitehtuuri 1 PiirräMalli -skenaarion tarkennus Ohjelmistojen suorituskyky 13 Arkkitehtuuri 1 Ajonaikaiset näkymät Prosessit Sijoittelu Ohjelmistojen suorituskyky 14 Helsingin Yliopisto / Tktl 7

8 Arkkitehtuuri 1 Suoritusverkot initialize retrievebeam findbeams createbeam createmodel sortbeams each beam drawmod findnodes each node opendb drawbeam setupnode retrieve + create close drawnodes (a) Draw Model (b) initialize (c) drawbeam Ohjelmistojen suorituskyky 15 Ohjelmistoresurssit EDMS kutsujen määrä tietokantaprosessiin CPU suoritettavien konekäskyjen määrä I/O levyhakujen määrä tietokantahakua kohti Get/Free muistinhallintaoperaatioiden määrä (muistin varaus/vapautus) Screen montako kertaa grafiikkaoperaatiot piirtävät näytölle Ohjelmistojen suorituskyky 16 Helsingin Yliopisto / Tktl 8

9 PiirräMalli -verkon resurssikulutus (paras tapaus) Askel EDMS CPU I/O Get/Free Screen createmodel drawmod opendb findbeams sortbeams close retrievebeam createbeam findnodes setupnode drawnodes Ohjelmistojen suorituskyky 17 Prosessointikustannukset Devices CPU Disk Display Quantity Service Units K instr. Phys. I/O Units EDMS CPU 1 I/O Get/Free 0.1 Screen Service Time Ohjelmistojen suorituskyky 18 Helsingin Yliopisto / Tktl 9

10 Ohjelmasuoritusmallin ratkaisu Lasketaan parhaan tapauksen suoritusaika: initialize 0.27s findbeams 0.21s s / iteraatio sortbeams drawbeam 1.27s each beam s Yhteensä sek. Ei täytä 10 sekunnin tavoiteaikaa mallin (2000 palkkia) piirtämiselle! close 0.06s Ohjelmistojen suorituskyky 19 ICAD ARKKITEHTUURI Ohjelmistojen suorituskyky 20 Helsingin Yliopisto / Tktl 10

11 Uusi idea Arkkitehtuuri 1 on hyvin kaukana tavoitesuorituskyvystä Voisiko ongelma aiheutua siitä, että skenaariossa luodaan suuri joukko olioita? Jokaista palkkia ja kulmapistettä kohden luodaan oma olio, jolle pitää varata muistialue ja tehdä erilaisia alustustoimia (konstruointi) Muokataan oliorakennetta käyttäen Flyweight patternia Ohjelmistojen suorituskyky 21 Arkkitehtuuri 2 Luodaan vain yksi ilmentymä elementtityypistä ja kulmapisteestä; ilmentymän sisäinen tila on sama kaikille piirroksen elementeille Palkin piirto-operaatio saa parametrina tietueen, joka sisältää kunkin piirroksen palkin muuttuvan tilan (kulmapisteitä kuvaavan datan yms.) Ohjelmistojen suorituskyky 22 Helsingin Yliopisto / Tktl 11

12 Muutokset suoritusverkkoon Ohjelmasuoritusmallin muutokset ovat pieniä Olioiden create luontioperaatiot drawbeam osaverkosta siirtyvät osaksi initialize osaverkkoa Vastaava resurssikulutus siis poistuu 2000 kertaa suoritettavasta silmukasta mutta muokatun ohjelmasuoritusmallin ratkaisu ei näytä tilanteen juuri parantuneen: Suoritusaika pienee vain 60 ms sekuntiin! Ohjelmistojen suorituskyky 23 Johtopäätös Olioiden konstruktorien kutsut eivät siis aiheuta merkittävää lisäystä suoritusaikaan Huomaa kuitenkin, että toisenlaisessa suoritusympäristössä ja syviä perintähierarkioita sisältävässä ohjelmistossa tulos olisi voinut olla toinenkin Muita huomioita Ohjelmasuoritusmallin muuttaminen vaihtoehtojen vertailemiseksi on melko helppoa On tärkeää pyrkiä kvantifioimaan eri ratkaisuvaihtoehtojen ominaisuudet eikä vain seurata erilaisia ohjenuoria, jotka eivät sovikaan tilanteeseen Ohjelmistojen suorituskyky 24 Helsingin Yliopisto / Tktl 12

13 Tulosten analyysi Ratkaistua ohjelmasuoritusmallia voidaan käyttää myös havaitun ongelman tarkempaan syyniin Kun tarkastellaan verkon solmujen suoritusajoiksi muutettuja resurssikäyttöä, huomataan levyliikenteen aiheuttavan ylivoimaisesti suurimman osan suoritusajasta Ohjelmistojen suorituskyky 25 initialize Ratkaistut suoritusverkot ja niiden resurssien käyttö CPU 0.00 Disk 0.27 Display 0.00 retrievebeam CPU Disk Display findbeams CPU 0.00 Disk 0.21 Display 0.00 createbeam CPU Disk Display sortbeams each beam CPU 0.00 Disk 1.27 Display 0.00 findnodes each node CPU Disk Display drawbeam CPU 0.20 Disk Display 2.00 setupnode CPU Disk Display CPU 0.00 CPU close Disk 0.06 drawnodes Disk Display 0.00 Display Ohjelmistojen suorituskyky 26 Helsingin Yliopisto / Tktl 13

14 Analyysi Levyn käyttö näyttää johtuvan tietokantahauista Levyn käyttö jakautuu drawbeam verkon solmujen retrievebeam ja setupnode solmujen kesken, joissa molemmissa haetaan tietokannasta dataa Flyweight patternin käyttö ei vaikuta tietokannan käyttöön, joten se ei auta tähän ongelmaan On siis kehitettävä uusi ratkaisu, jossa pyritään vähentämään tietokannan käytöstä seuraavan levyliikenteen aiheuttamia viiveitä Ohjelmistojen suorituskyky 27 ICAD ARKKITEHTUURI Ohjelmistojen suorituskyky 28 Helsingin Yliopisto / Tktl 14

15 3. Kerta toden sanoo? Päätämme kuitenkin säilyttää Flyweight patternin osana uuttakin ratkaisua, koska se todennäköisesti parantaa ratkaisun skaalautuvuutta huomattavasti suurempien rakennepiirrosten käsittelyssä 3. arkkitehtuurin ytimessä on nyt oivallus, että haemme kerralla tietokannasta suuren määrän dataa (piirrosobjekteja vastaavia tietueita) sen sijaan, että tekisimme haun joka objektille erikseen Ohjelmistojen suorituskyky 29 retrieveblock Lisätään tietokantaliittymäämme operaatio retrieveblock Hakee yhdellä kertaa 20Kt dataa (64 palkkia ja 170 kulmapistettä) ja tallettaa datan Model-objektiin Kaikkien palkkien haku vaatii nyt 33 tietokantapyyntöä ja kulmapisteiden haku vaatii vain yhdeksän pyyntöä Ohjelmistojen suorituskyky 30 Helsingin Yliopisto / Tktl 15

16 Uusi sekvenssikaavio 33 kertaa 9 kertaa Etsii palkin kulmapisteet omista kokoelmistaan Ohjelmistojen suorituskyky 31 Uusi ratkaistu suoritusverkko initialize getdata each beam matchanddraw close Kokonaisaika: Ohjelmistojen suorituskyky 32 Helsingin Yliopisto / Tktl 16

17 Huomioita ICAD Esimerkki demonstroi ohjelmasuoritusmallien muodostamista arkkitehtuurisuunnitelmista ja eri vaihtoehtojen kvantitatiivista evaluointia mallien avulla Alustavien mallien luonti on melko helppoa ja niiden muuttaminen on suoraviivaista Yksinkertaisetkin mallit riittävät isoimpien ongelmien havaitsemiseen Ohjelmistojen suorituskyky 33 Huomioita Monimutkaisempia mallejakin tarvitaan myöhemmin, kun halutaan analysoida työkuormien ja resurssikilpailun vaikutuksia systeemitasolla Näitä analyysejä varten tarvitaan arvioita kehitettävien uusien ohjelmien eri toimintojen suoritusajoista Ohjelmasuoritusmallit tuottavat näitä arvioita Ohjelmistojen suorituskyky 34 Helsingin Yliopisto / Tktl 17

18 Mallinnusvinkkejä 1. Suorituskykymalliin ei tarvitse sisällyttää kaikkia ohjelmiston suorituksen kulun yksityiskohtia Malli on kehitettävän ohjelmiston abstraktio Pyri ottamaan mukaan vain detaljit, joilla arvioit olevan oleellista vaikutusta suorituskykyyn 2. Tee malleista hierarkisia Käytä laajennettuja solmuja pitämään yksityiskohtien määrä hallittavalla tasolla kussakin verkossa Ohjelmistojen suorituskyky 35 Mallinnusvinkkejä 3. Ratkaise pahimman ja parhaimman tapauksen mallit epävarmuuden kompensoimiseksi Jos parhaimman tapauksen mallin evaluointi osoittaa ongelmia olevan, etsi parempi arkkitehtuuriratkaisu Jos pahimman tapauksen malli näyttää hyvää tulosta, kehitystyötä voidaan jatkaa tältä pohjalta Jos mallien evaluointien tulokset ovat jotain siltä väliltä, keskity eniten resursseja vaativiin prosessointiaskeleisiin ja pyri saamaan niille tarkemmat resurssikulutusarviot lisäanalyysejä varten Ohjelmistojen suorituskyky 36 Helsingin Yliopisto / Tktl 18

19 Mallinnusvinkkejä 4. Tutki suorituskykyarvioiden (=mallien ratkaisujen) herkkyyttä käytetyille syötearvoille Jos pieni muutos jonkin askeleen resurssitarpeessa aiheuttaa suuren muutoksen koko skenaarion suoritusaikaan, ohjelmistosi on herkkä näille piirteille Olet löytänyt ohjelmiston toiminnan kannalta kriittisen resurssin Ohjelmistojen suorituskyky 37 Mallinnusvinkkejä Herkkyyksien tyypillisiä syitä Laitteet, jotka toimivat korkealla käyttöasteella (utilization) pieni lisäys kuormassa voi aiheuttaa suuren lisäyksen vastausaikoihin (kts. Skaalautuvuus 1. luennolla) Pieni lisäys suoritusajoissa silmukan sisällä kertautuu silmukan suorituskertojen lukumäärällä koko skenaarion suoritusajassa Suorituspolkujen synkronoinnista ja resurssien jakamisesta aiheutuvat viiveet rinnakkain eteneville prosesseille Ohjelmistojen suorituskyky 38 Helsingin Yliopisto / Tktl 19