Kokemuksia Geoserveristä IL:n avoimen datan projektissa Mikko Visa

Samankaltaiset tiedostot
Ryhmä 6. Ilmatieteen laitos, SYKE, HELCOM, Uudenmaan liitto

Avoin data miten Ilmatieteen laitoksen dataa hyödynnetään? Anu Petäjä

KRYSP-rajapintojen suorituskykytestaukset. Jari Torvinen

Projektinhallintaa paikkatiedon avulla

Helsinki Testbedin säätuotteet tänään ja tulevaisuudessa

TIEP114 Tietokoneen rakenne ja arkkitehtuuri, 3 op. FT Ari Viinikainen

niissä olevan viallisen zlib-koodin takia. Spectra Linux 1.2:n kerneleissä tämä vika on korjattu. Raimo Koski

INSPIRE-toimeenpanon seuranta. Tulokset 2017

Palveluiden hyötyjen ja vaikutusten todistaminen Palveluiden hyötyjen ja vaikutusten todistaminen/ Ville Jussila

LAS- ja ilmakuva-aineistojen käsittely ArcGIS:ssä

Tampereen paikkatietoinfrastruktuuri ja Inspire. Kunnat ja Inspire koulutus Marko Kauppi

Kartta-aineistojen visualisointi. ProGIS Aaro Mikkola

BORIS 2. Järjestelmän rajapinnat. Samuli Neuvonen, SYKE Rajapinnat tehokäyttöön -seminaari

Kaupunkimittauksen tietopalvelut KMO:n tietopalvelut, Jussila ja Uotila

FOSS4G at CSC. CSC Tieteen tietotekniikan keskus Kylli Ek

Katselupalvelut ja latauspalvelut - Paikkatietoa karttakuvina ja GML-muodossa

KADA (Drupal 7) migraatio uuteen (versioon) webiin

INSPIRE-toimeenpanon seuranta. Tulokset 2016

Katselupalvelut ja latauspalvelut - Paikkatietoa karttakuvina ja GML-muodossa

Paikkatiedon hyödyntäminen vesiensuojeluyhdistyksissä

Paikkatietopalveluiden tuottaminen ja käyttö Tikessä

TIETOKANTOJEN PERUSTEET MARKKU SUNI

Infran omaisuudenhallinnan rajapintahanke (ja tietoportaali) Saara-Maija Pakarinen Espoon kaupunki SKTY syyspäivät 2017

Valuma-alueet pilvipalvelusta Leaflet+Zoo+GeoServer -kombolla

2.0 IoT. Ilmakehätapaaminen Emma Bruus

FinFamily PostgreSQL installation ( ) FinFamily PostgreSQL

JHS 180 Paikkatiedon sisältöpalvelut Laajennos, liitteet 2-4. Lassi Lehto

1. Tarkastellaan seuraavaa stokastista Petri-verkkoa: p 2. p 1. lock write 1

Navigointi- ja taktiikkaohjelmistot. X Sail Racing Team Christer Baggström

Ilmasto-opas.fi Klimatguide.fi Climateguide.fi

Liikenneverkot-tietotuote

CUDA. Moniydinohjelmointi Mikko Honkonen

Paikkatietoinsinööri Asko Harinen. Case: Nurmijärvi

Tilastokeskuksen rajapintapalveluiden käyttöönotto MapInfo - ohjelmistossa Ohjeita laatiessa on käytetty MapInfon versiota 11.5.

Ladataan taustalle ensin Maanmittauslaitoksen WMTS-rajapinnan maastokartta

Datan avautuminen ja jakelupalvelu

Paikkatietorajapinnat IT arkkitehtuurin näkökulmasta

Laskuharjoitus 9, tehtävä 6

ELOKUVAKASVATUS SODANKYLÄSSÄ VIDEON SIIRTÄMINEN DVD-LEVYLLE

Rajapintojen hyödyntäminen aineistojen myynti- ja jakelupalveluissa

Lentosäähavaintojärjestelmä ILMARI ja operatiiviset käyttöönotot

Kansallinen maastotietokanta -seminaari Lappeenranta Kuntien aineistojen vienti KMTK-kantaan. Jussi Immonen, MML

Uutta Remote Support Platform 3.1 -versiossa

Haka-palveluiden valvonta ja tilastointi AAIEye -työkalun avulla. Mika Suvanto, CSC

Oskarin avulla kaupungin karttapalvelut kuntoon

WAGO TOPLON LON ONWORKSORKS

Tampereen paikkatietoinfrastruktuuri ja Inspire. Kunnat ja Inspire koulutus Marko Kauppi

AdministrativeUnits (AU) Latauspalvelut ESDIN-projektissa

Tietovarannot. Anna Eteläaho. Analyysi ja yhteenveto avoimen datan innovaatiokilpailun kilpailutöistä. Intressiryhmän 2. kokous 27.2.

Ylläpitodokumentti. Boa Open Access. Helsinki Ohjelmistotuotantoprojekti HELSINGIN YLIOPISTO Tietojenkäsittelytieteen laitos

INSPIRE ArcGIS-tuotteilla. Ulla Järvinen ja Jussi Immonen INSPIRE-koulutuksessa

Kohti Euroopan yhteisiä karttapalveluja

Terrasolid kaupunkimallipäivä, Kuntien aineistojen vienti KMTK-kantaan. Jussi Immonen, MML

Koordinaattimuunnospalvelu

INSPIRE-toimeenpanon seuranta. Tulokset 2018

Sisällys. 18. Abstraktit tietotyypit. Johdanto. Johdanto

OPMET ja Ilmailusaa.fi. Joonas Eklund Yhteyspäällikkö / Meteorologi Asiakaspalvelut Ilmailu ja Puolustusvoimat

Oraclen syvin ydin. Pertti Eiskonen Yleisradio Oy Tietokanta-asiantuntija. OUGF syysseminaari 2002 Sivu 1

Avoimen lähdekoodin ratkaisut paikkatiedon analysoinnin ja visualisoinnin mahdollistajina

MML:n karttakuvapalvelut WMS-palveluista WMTS-karttatiileihin (Rajapinnat tehokäyttöön seminaari)

Gammaspektrometristen mittausten yhdistäminen testbed-dataan inversiotutkimuksessa

Digiroad-aineiston hyödyntäminen rajapintapalveluiden kautta Esri ArcGIS

Digiroad-aineiston 2018_01 haltuunotto

Ilmasto-opas.fi Klimatguiden.fi Climateguide.fi

Copyright Observis Oy All rights reserved. Observis Oy Ville Kanerva, CTO Heikki Isotalus, COO Datasta tietoa

Inspire-verkosto: Yhteistyö -työryhmä Rajapintapalvelujen käytettävyys. Jari Reini

Johdanto. Olet rekisteröitynyt cined.eu -esitysalustalle ja käyttäjätilisi onaktivoitu.

SEPA - Design Patterns

Tilastokeskuksen rajapintapalveluiden käyttöönotto QGISohjelmistossa

Säätilan kehitys ennen Loimaan onnettomuutta

Amazon Web Services (AWS) on varmaankin maailman suosituin IaaS-tarjoaja. Lisäksi se tarjoaa erilaisia PaaS-kategoriaan kuuluvia palveluita.

Digiroad-aineiston hyödyntäminen rajapintapalveluiden kautta MapInfo

Oskari.org. kehittäminen

Tilastokeskuksen rajapintapalveluiden käyttöönotto QGIS-ohjelmistossa

1 Tivax Professional 4.5

lukio-opettajilleopettajille

Valppaan asennus- ja käyttöohje

Vinkkejä sään ennakointiin ja sään muutosten havainnointiin

Harjoitustyö 3 - Reittioptimisaatio

Tietokone. Tietokone ja ylläpito. Tietokone. Tietokone. Tietokone. Tietokone

VM/2232/ /2016

Avoimen lähdekoodin karttapalvelu Oskarin hyödyntäminen HSY:ssä. Henna-Kaisa Räsänen HSY paikkatietoseminaari Finlandia-talo

Suomi.fi-kartat Suomi.fi-palvelutietovaranto. Suomi.fi-kartat, PTV WMS/WFS rajapintakoulutus

On instrument costs in decentralized macroeconomic decision making (Helsingin Kauppakorkeakoulun julkaisuja ; D-31)

Miksi OGC-palveluita?

Kansallisen paikkatietoportaalin kehittäminen Paikkatietoikkuna.fi

Tiedosto Muuttuja Kuvaus Havaintoväli Aikasarjan pituus. Intelin osakekurssi. (Pörssi-) päivä n = 20 Intel_Volume. Auringonpilkkujen määrä

Miten paikkatietoaineistoja hyödynnetään rajapintojen avulla. Jari Reini

Väylät. Prosessorin tie ulkomaailmaan Pienissä järjestelmissä vain yksi väylä. Osoite, data ja ohjaussignaalit Prosessori ainoa herra (master)

Lataa Rentoutuen elinvoimaa 1 (cd) - Jarmo Liukkonen. Lataa

Capacity Utilization

18. Abstraktit tietotyypit 18.1

Linuxissa uusi elämä 1

Ohjelmoinnin perusteet Y Python

Tiken paikkatietopalvelut

Gap-filling methods for CH 4 data

Se mistä tilasta aloitetaan, merkitään tyhjästä tulevalla nuolella. Yllä olevassa esimerkissä aloitustila on A.

Rosatomin laitoksen turvallisuus

Ilmaisia ohjelmia laserkeilausaineistojen käsittelyyn. Laserkeilaus- ja korkeusmalliseminaari Jakob Ventin, Aalto-yliopisto

Transkriptio:

Kokemuksia Geoserveristä IL:n avoimen datan projektissa Mikko Visa

Asennus Otettu käyttöön 2013 WMS-palvelussa Versio 2.4.x Vain WMS käytössä Ei klusteroitu Geoserverin ratkaisulla(tätä nykyä on tuki) Oma klusterointiratkaisu jaetulla konfiguraatiolla Virallisessa klusteroinnissa joutuisi ilmeisesti säätämään 15 x instanssia erikseen 3 fyysistä konetta (jokaisessa 24 x CPU, 128GB RAM), jokaisessa 3 x Tomcat/Geoserver-instanssia 32GB heap / instanssi Java6, Tomcat6 F5 kuormanjakaja 25/9/2014 2

Aineistot ja formaatit Havainto-layerit: tutkakuvia, lämpötilahavaintoja, uv-indeksi, suhteellinen kosteus, tuuli, paine, sademäärä, pilvisyys, veden korkeus, aallonkorkeus Ennuste-layerit: lämpötila, suhteellinen kosteus, tuuli, sade, pilvisyys, paine isoviivoina, lämpötila isoviivoina, meriveden lämpötila ja suolaisuus Raster input: ImageMosaic (GeoTIFF) Vector input: PostGIS (featuredata, esim. Isoviivat) ObsPlugin (oma proprietary toteutus) Tulossa WFS-plugin korvaamaan (tästä lisää myöhemmin) 25/9/2014 3

GeoTIFF Tutkakuvat julkaistu harmaasävy GeoTIFF:nä, käyttäjä voi itse visualisoida Ilmatieteen laitoksen käyttämät SLD:t julkaistu GitHUB:ssa 25/9/2014 4

ImageMosaic Kaikki rasteriaineisto käyttää ImageMosaic-pluginia Mahdollistaa aikadimensiotuen Imagemosaic-pluginin kanssa opittiin, että tulee ehdottomasti oltava layerin konffissa USE_JAI_IMAGEREAD = false JAI = kuvankäsittelykirjasto, hyödynnetään WMS-vastauksen outputin generoinnissa Geoserverissä on Java-toteutus, mutta paras hyöty saadaan natiivikirjastolla Oleellinen rasteriaineiston kanssa In particular, installing the native JAI is important for all raster processing, which is used heavily in both WMS and WCS to rescale, cut and reproject rasters. Installing the native JAI is also important for all raster reading and writing, which affects both WMS and WCS. Finally, native JAI is very useful even if there is no raster data involved, as WMS output encoding requires writing PNG/GIF/JPEG images, which are themselves rasters. 30/9/2014 5

WFS-tuki Tehty tuki, jotta saadaan WFS:n kautta visualisoitua WMSlayerien päälle suoraan omasta rajapinnasta. WFS 2.0 SimpleFeature-tuki geoserveriin Tulossa Geoserver 2.7.0 versioon WMS-layerin lähde (Store) voi siis jatkossa olla WFS 2.0 palvelu Toteutus: https://github.com/geotools/geotools/tree/master/modules/ unsupported/wfs Tarvetta ollut muillakin: http://osgeo-org.1560.x6.nabble.com/ Cascading-WFS-2-0-in-GeoServer-td5041596.html 25/9/2014 6

Tile Cache Geoserverin GeoWebCache käytössä Cache-hakemisto NFS:llä, usea kone, usea geoserver-instanssi Lukitusmekanismi tullut Geoserver 2.5 versiossa, ennen tätä ei olisi toiminut NFS:llä (erilliset cache-hakemistot kaikilla instansseilla) Ennusteet haasteena Kaikki ennusteen ajankohdata uusitaan aina kerralla; työläs operaatio yhdelle koneelle Havainnot kevyempi operaatio, niitä lisätään aina ajanhetki kerrallaan 30/9/2014 7

Tile Cache / levytila Cachen koko merkittävä Havaintolayereiden tilejä 5 päivän edestä Ennustelayereiden tilejä yksi ennuste, 19 ajanhetkeä Zoom-tasot 0-7 Havainnot 5min stepit ja 5 päivää -> hieman alle 90 GB / layer 1h stepit ja 5 päivää -> 5-10 GB / layer Ennuste 19 ajanhetkellä -> n. 1,2 GB / layer 1/10/2014 8

Tile Cache / Kuormitus Kestää 5000 req/s yhteisellä tile cachella, vasteajat eivät juuri kasva kuorman kasvaessa Paitsi jos jotain jää cachettamatta, niin päästään vain 300 req/s; ongelmana on tiedostolukko. Muut layerkyselyt jäävät odottamaan dataa ja jono täyttyy. Geoserver tokenee tästä, mutta hitaasti Osan cachetti F5 kuormanjakaja 25/9/2014 9

GRIB-tiedoston visualisointi Kokeiltiin (käyttäen Geoserver WPS extension), mutta todettiin epävakaaksi. Lisäksi teki huonoa jälkeä isoviivojen kanssa Tehty oma isoviivalaskentaohjelma Javalla, joka laskee yksinkertaisia isoviivapolygoneja annetuista GeoTIFF-muotoisista lähdetiedostoista ja kirjoittaa lopputulokset joko tiedostoihin levylle GeoJSON-muodossa tai suoraan PostGIS-tietokantaan 30/9/2014 10

NetCDF-tuki? Paljon säädataa on suoraan NetCDF-formaatissa Tälle ei ollut tukea aiemmin, suuri puute Nyt näyttää olevan ainakin jonkunlainen community-tuki 25/9/2014 11