Täysautomatisoitu raportointiympäristö. Joni-Petteri Paavilainen Jani Alatalo



Samankaltaiset tiedostot
Makrojen mystinen maailma lyhyt oppimäärä

Dynaamista ja joustavaa ohjelmointia - maukasta makrokielellä

Ruokahalu kasvaa syödessä lisää makrokielen herkkuja

DI Studion käyttökokemuksia. Kaisu Ikonen, Tilastokeskus

HELIA 1 (15) Outi Virkki Tietokantasuunnittelu

Proseduurit, funktiot ja herättimet - esimerkkeinä Oracle, SQL Server, MySQL ja OCELOT. Jouni Huotari S2008

PROSEDUURIT, FUNKTIOT JA HERÄTTIMET - ESIMERKKEINÄ ORACLE, SQL SERVER, MYSQL JA OCELOT JOUNI HUOTARI K2009

AJAX-konsepti AJAX. Asynkronisuus. Nykyisten web-ohjelmien ongelmia. Asynchronous JavaScript And XML

SAS ja Sharepoint. Yhteiselon ihanuus ja kurjuus

Web Service torilla tavataan!

SAS/IML käyttö ekonometristen mallien tilastollisessa päättelyssä. Antti Suoperä

Written by Administrator Monday, 05 September :14 - Last Updated Thursday, 23 February :36

WinTraden päivitys- ja asennusohjeistus

Hyödyt irti XDW:stä. Kim Johnsson Projektipäällikkö/Cerion Solutions Oy

Versionhallintaa. Versionhallinnan käyttöönotto SAS ympäristössä

SAS sovellusten hallinnointi helpoksi Turbo Charge -menetelmällä Tapio Kalmi, SAS Institute Oy

HELIA 1 (14) Outi Virkki Tiedonhallinta

Tällä viikolla. Kotitehtävien läpikäynti Aloitetaan Pelifirman tietovaraston suunnittelu Jatketaan SQL-harjoituksia

Insert lauseella on kaksi muotoa: insert into taulu [(sarakenimet)] values (arvot)

HAAGA-HELIA Heti-09 1 (12) ICT05 Tiedonhallinta ja Tietokannat O.Virkki Näkymät

HELIA 1 (15) Outi Virkki Tietokantasuunnittelu

Power BI Tech Conference Power BI. #TechConfFI. Johdanto

DATA-vaiheen ohjelmoijan yleissivistys helposti unohtuvia asioita

HELIA 1 (14) Outi Virkki Tiedonhallinta

Web Services tietokantaohjelmoinnin perusteet

Joko tunnet nämän Oracle10g SQL:n piirteet? Kari Aalto Saariston IT

HELIA TIKO-05 1 (17) ICT03D Tieto ja tiedon varastointi Räty, Virkki

Tapahtumakalenteri & Jäsentietojärjestelmä Ylläpito

Tikon Ostolaskujenkäsittely/Web-myyntilaskutus versio 6.3.0

Tikon Ostolaskujenkäsittely/Web-myyntilaskutus versio 6.4.0

HELIA 1 (11) Outi Virkki Tiedonhallinta

FinFamily PostgreSQL installation ( ) FinFamily PostgreSQL

Tiedonhallinnan perusteet. Viikko 1 Jukka Lähetkangas

Online raportoinnin onnistunut käyttöönotto osana Palveluhallintaa. Case Elisa Appelsiini

Järjestelmäarkkitehtuuri (TK081702) Hajautettu tietokanta. Hajautuksen hyötyjä

HELIA 1 (13) Outi Virkki Tietokantasuunnittelu

Tietokannat. CREATE TABLE table(col1,col2,... ); Luo uuden taulun. CREATE TABLE opiskelijat(opnumero,etunimi,sukunimi);

Alustavia käyttökokemuksia SAS Studiosta. Timo Hurme Maa- ja elintarviketalouden tutkimuskeskus MTT (v alusta Luonnonvarakeskus / Luke)

Työkalujen merkitys mittaamisessa

SQL - STRUCTURED QUERY LANGUAGE

TIEDONHALLINTA - SYKSY Luento 11. Hannu Markkanen /10/12 Helsinki Metropolia University of Applied Sciences

XML -muotoisen raportin luonti

Kanta PHR:n CapabilityStatement ja REST-API. Eeva Turkka

VisualStudio Pikaopas, osa 1: WEB sivujen suunnittelu

CLOUDBACKUP TSM varmistusohjelmiston asennus

Novapoint Finnish Value Pack Asennusohje Mar-06 1(5)

Aditro Tikon ostolaskujen käsittely versio SP1

18 LIITTYMÄT MUIHIN JÄRJESTELMIIN

EASY Tiedostopalvelin Käyttöopas

Ohjelmoinnin peruskurssien laaja oppimäärä

TIETOKANTOJEN PERUSTEET OSIO 11 MARKKU SUNI

Aditro Tikon ostolaskujen käsittely versio 6.2.0

Aditro Tikon ostolaskujen käsittely versio SP1

Tietokannat. CREATE TABLE table(col1,col2,... ); Luo uuden taulun. CREATE TABLE opiskelijat(opnumero,etunimi,sukunimi);

Järjestelmäarkkitehtuuri (TK081702)

2 3 LIITE 2. Index.php 1 (10) 4 5 <?php 6 7 /*! \mainpage Artikkelihallintaohjelma 8 * 9 * \section intro_sec Introduction 10 * 11 * Tämän on

VIRTA tiedonsiirtotavan kehittäminen - Eräsiirrosta inkrementaaliseen tiedonsiirtoon

Opiskeluoikeuksien maaran tiedonkeruu

Migraation ilot ja itkut. Hilkka Lamminsivu Anneli Keinonen

A TIETORAKENTEET JA ALGORITMIT

Finnish Value Pack Asennusohje Vianova Systems Finland Oy Versio

TIETOKANTOJEN PERUSTEET MARKKU SUNI

Tietokannan hallintajärjestelmän (DBMS) palvelut ja rakenne

Excel-taulukkoon X- ja Y-sarakkeisiin tallennettujen koordinaattien muuntaminen paikkatietokohteiksi

TIEP114 Tietokoneen rakenne ja arkkitehtuuri, 3 op. Assembly ja konekieli

FinFamily Installation and importing data ( ) FinFamily Asennus / Installation

Tehtävä 1. Tietojen lisääminen, poistaminen, päivittäminen ja tulostaminen

Digitaalisen median tekniikat xhtml - jatkuu

SQL-perusteet, SELECT-, INSERT-, CREATE-lauseet

Ohjelmointikielet ja -paradigmat 5op. Markus Norrena

Kirjasto Relaatiotietokannat Kevät Auvinen Annemari Niemi Anu Passoja Jonna Pulli Jari Tersa Tiina

Maiju Mykkänen Susanna Sällinen

Hellä ensikosketus. Tomi Kiviniemi

PROJEKTIDOKUMENTAATIO ASENNUS M. NIEMI

VHOPE-sovelluksen ja VHOPE-kirjastotiedostojen asentaminen

Opettajana Mika Sorsa, HAMK:n ammatillisen opettajakoulutuksen opetusharjoittelija

CSE-A1200 Tietokannat

Dictionary taulut. Miten perus metadataa käytetään koodillisesti joustavuutta lisäämään

Hakukyselyt: SELECT * FROM taulu WHERE sarake1 = Malli Nimi [WHERE sarake1 LIKE M% ] [WHERE BETWEEN ehto1 AND ehto2] [WHERE sarake1 IN/= (alikysely)]

BaseMidlet. KÄYTTÖOHJE v. 1.00

List-luokan soveltamista. Listaan lisääminen Listan läpikäynti Listasta etsiminen Listan sisällön muuttaminen Listasta poistaminen Listan kopioiminen

Ohjelmoinnin perusteet Y Python

Ohjelmoinnin peruskurssien laaja oppimäärä

Muita tietokantaobjekteja. Näkymät, synonyymit, indeksointi, valtuudet ja systeemihakemisto

FLEXnet lisenssipalvelun määritys/päivitys serverille (LMTOOLS) ja verkkolisenssimäärittelyt työasemalle

Pitkäaikaistallennus. CSC - Tieteen tietotekniikan keskus IT2008 Ari Lukkarinen

MUITA TIETOKANTAOBJEKTEJA NÄKYMÄT, SYNONYYMIT, INDEKSOINTI, VALTUUDET JA SYSTEEMIHAKEMISTO

Käyttöohje Planeetta Internet Oy

XNA grafiikka laajennus opas. Paavo Räisänen. Tämän oppaan lähdekoodit ovat ladattavissa näiden sivujen Ladattavat osiossa.

Tech Conference Visual Studio 2015, C#6,.NET4.6. Heikki Raatikainen. #TechConfFI

Johdatus Stata-ohjelmistoon

TEHTÄVÄ 5: Microsoft Virtual PC asennus ja hallinta

Sense tiedostot Käyttöohje Opastinsilta 8 ae Helsinki

VisualStudio Pikaopas, osa 1: WEB-sivujen suunnittelu

Jypelin käyttöohjeet» Ruutukentän luominen

TIEDONHALLINNAN PERUSTEET - SYKSY 2013

Näkymät ja tiedon suojaus

ETL-DEMO. Esimerkki ETL-kuvauskielen käyttöstä

Tietokannat. CREATE TABLE table(col1,col2,... ); Luo uuden taulun. CREATE TABLE opiskelijat(opnumero,etunimi,sukunimi);

TIETOKANTOJEN PERUSTEET OSIO 14 MARKKU SUNI

Transkriptio:

Täysautomatisoitu raportointiympäristö Joni-Petteri Paavilainen Jani Alatalo

Miksi tähän ryhdyttiin?

Miten asiassa edettiin?

Vaatimuksia Reaaliaikaisuus n 15 min Hallitut käyttöoikeudet Raportin tekijöillä ei välttämättä näkyvyyttä koko dataan Kukin näkee datasta vain sen mihin on oikeutettu Käyttöoikeuksien määrittelylle helppo prosessi Datan lisääminen järjestelmään helppoa ja yksinkertaista

Visio Tieto virtaa lähes reaaliaikaisesti Operatiivisista järjestelmistä tietokantaan Tietokannasta SAS VA:n muistiin Ei manuaalista ylläpitoa VA:n päässä Lähes reaaliaikainen raportti kokoajan monitorilla KPIt, jotka indikoivat paineen kasvua Korjaavat toimet voidaan aloittaa ilmiön alkaessa

Tiimi Joni-Petteri Paavilainen, Elisa Appelsiini Niko Mäkelä, Elisa Appelsiini, Data Ville Kajatsalo, Tae Konsultointi, Data Jaakko Marila, Javascript, Dashboard Pasi Helenius, Dashboard Jani Sassi, Tietoturva Pertti Viitamäki, Data Ilkka Maristo, Päivitys Johannes Koskinen, Asennukset Jani Alatalo, Tech lead

Toteutus Tietokanta Yksi rajapinta dataan Datalähteet suojassa SAS Visual Analytics Dashboardit monitoreilla Raportit

Performanssi toteutuksesta Tietokanta & AD Palomuuri SAS Visual Analytics Palomuuri Käyttäjät, Raportin tekijät Data, joka ihanasti virtailee

Varoitus!! SAS akronyymejä 200) { Code var lastupdate = 0; var updateframe = function() { var iframe = document.getelementbyid('dashboardframe'); iframe.src = iframe.src; }; var checkupdatefile = function () { var filerequest = new XMLHttpRequest(); filerequest.onreadystatechange = handlestatechange; filerequest.open("get", "d1_updated.txt", true); filerequest.send(); Esitys sisältää Koodia Teknisiä yksityiskohtia function handlestatechange() { if (filerequest.readystate === 4 && filerequest.status == if (lastupdate == 0) lastupdate = parseint(filerequest.responsetext); else if (parseint(filerequest.responsetext)!= lastupdate) { lastupdate = parseint(filerequest.responsetext); updateframe(); } } }; }; window.onload = function() { var intervalid = setinterval(checkupdatefile, 30000); };

Täysautomatisoitu Dataflow Rivikohtainen tietoturva Metadata rakenteet Itsensä virkistävä raportti

Dataflow 1. Luetaan kannasta taulut 2. Luetaan lataussäännöt ohjaustaulusta - jos uusitaulu, lisätään ohjaustauluunuusirivi 3. Jokaista taulua kohden 1. Tarkistetaan onko uuttadata 2. Jos on käynnistetään ohjaustaulun määräämä ajo 3. Luetaan muuttuneet tiedot kannasta (delta) 4. Tarkistetaan deltanrakenne 5. Jos sama, deltalataus (upsert) 6. Jos eri, täyslataus ja metadatan päivitys 7. Ehdolliset lukuoikeudet

Deltalataus Delta muistiin Päällekkäiset rivit pois taulusta Lisätään delta tauluun proc imstat data=laseri.kohdetaulu noprint; where %dellist ; deleterows / purge; run; where; set delta_taulu / drop; quit;

Täyslataus Uusi kopio muistiin apu Poistetaan taulu Luodaan uuden kaltainen taulu tyhjänä Lisätään tyhjään tauluun rivit apu taulusta Dropataan apu taulu data LASeRi.t_Taulu; set ondisk.taulu; run; *Drop table from memory; proc delete data=laseri.taulu; run; *Create empty table; data LASeRi.Taulu; set ondisk.taulu(obs=0); run; *append loaded table to empty and drop temp table; proc imstat data=laseri.taulu; set t_taulu / drop; run;

Rivikohtainen tietoturva Käyttövaltuutuksien hallinta AD:ssa Ryhmän nimet ja muuttujan sisältö 1:1 Vain Read Metadata + Ehdollinen Read data work.auth_call; set authdata.lasr_table_authorizations; length tname $ 200; tname = "omsobj:physicaltable?@name='" Lasr_name "'"; rc_remove = METASEC_SETAUTH('', tname, type, name, "Remove", permission, ""); rc_add = METASEC_SETAUTH('', tname, type, name, action, permission, condition); run;

Metadatarakenteet AD:sta merkityt ryhmät Metadataan Ryhmiin kuuluvat käyttäjät AD Sync koodin jatkeella uusille ryhmille Kansiorakenne ACT + ACE suojaamaan sisältöä actrc = METASEC_APPLYACT("", t_uri, act_uri,0);

Itsensä virkistävä raportti Jaakko Marila HTML sivu Javascript iframe Data valmis aikaleima web tiedostoon javascript havaitsee päivityksen iframelle refresh data _NULL_; file "xxx/yyy/ddd/htdocs/asia/d1_updated.txt"; length updatetime $20; updatetime = put(datetime(), 20.0); put updatetime; run; if (lastupdate == 0) lastupdate = parseint(filerequest.responsetext); else if (parseint(filerequest.responsetext)!= lastupdate) { lastupdate = parseint(filerequest.responsetext); updateframe();

Kehitysajatuksia Latauksiin tarkistukset ja hälytykset Kaksivaiheinen tunnistautuminen

Olemmeko visiossa?

Kysymyksiä? jani.alatalo@sas.com