Siirtotiedoston tekninen koulutus



Samankaltaiset tiedostot
Kokemuksia PDF/A:sta Arkistolaitoksen VAPApalvelussa

VAPA. Sähköisen säilyttämisen palvelu [ESITYSAINEISTO]

Kansallisarkisto. SÄHKE2-siirtotiedoston testauspalvelu

Palvelukuvaus v Alkujaan digitaalisen aineiston vastaanoton ja säilyttämisen palvelu

Syntysähköisten. Markus Merenmies / Kansallisarkisto

SÄHKE2-SERTIFIOINTIKRITEERIT

VAPA YLEISKUVAUS ARKISTOLAITOKSEN SÄHKÖISEN SÄILYTTÄMISEN PALVELUSTA

VAPA Ohje aineistojen siirtämiseksi arkistolaitoksen VAPA-järjestelmään

SÄHKE-hanke. Tekninen mallintamisen Siirtotiedoston metatietokuvaukset

SÄHKE2-SERTIFIOINTIKRITEERIT

Kansallisarkiston sähköisen säilyttämisen palvelut kuntien teknisen sektorin käyttöön. Markus Merenmies

Digitaaliseen säilytykseen hyväksyttävät tiedostoformaatit

VAPA-palvelukuvaus v. 2.2 [ ]

Alkujaan digitaalisen aineiston siirtäminen Kansallisarkistoon

Luonnos eams-rakenteeksi

Alkujaan digitaalisen aineiston siirtäminen Kansallisarkistoon

Ohje digitaalisessa muodossa olevan aineiston siirtoon ja allekirjoittamiseen vaadittavien avainten muodostamisesta

SÄHKE2-vaatimusten mukainen hävitysesitys ja sen tietosisältö

Kansallisarkisto VAPA -palvelun käyttöönotto

SÄHKE2-SOVELLUSAUDITOINNIT

JHS 156 suosituksen päivitys

Sähke2 Meta+etomalli. Ari Vainio

SÄHKE2-Siirto-ohje. SÄHKE2 Siirto-ohje. v (23) Sovellusohje SÄHKE2-määräyksen mukaisen siirtotiedoston muodostamiseksi

Heikki Helin Metatiedot ja tiedostomuodot

SÄHKE2-SERTIFIOINTIKRITEERIT

JUHTA - Julkisen hallinnon tietohallinnon neuvottelukunta

Ohje - Kuntien ilmoitukset

Sähköisen arkistoinnin reunaehdot

Sähköisten asiakirjallisten tietojen käsittely, hallinta ja säilyttäminen

Asiakirjallisten tietojen metatietojen tuottamisen periaatteet

Kansallisarkisto SÄHKE2-AUDITOINNIT PALVELUKUVAUS. v. 1.0 ( )

SÄHKE2-vaatimusten mukainen hävitysesitys ja sen tietosisältö

EMVHost Online SUBJECT: EMVHOST ONLINE CLIENT - AUTOMAATTISIIRROT COMPANY: EMVHost Online Client sovelluksen käyttöohje AUTHOR: DATE:

Varmennepalvelu Rajapintakuvaus Kansallisen tulorekisterin perustamishanke

Aineistosiirron testauksen aloituksen ohje Trafin sopimuskumppaneille

Titan SFTP -yhteys mittaustietoja varten

Aineistojen paketoinnin pilotit PAS-seminaari 2013 Kuisma Lehtonen

Maakuntavalmisteluorganisaatioiden arkistojen käsittely

1 (37) Liite 2 SÄHKE2. Metatietomalli

T2V2 Vaaratilanneilmoitussanomakuvaus

JUHTA - Julkisen hallinnon tietohallinnon neuvottelukunta

Digitaalisen median tekniikat xhtml - jatkuu Harri Laine 1

Varmennepalvelu Yleiskuvaus Kansallisen tulorekisterin perustamishanke

Vanhojen potilastietojen arkistointi Ohje palvelun käyttöönottajalle

REKISTERI- JA TIETOKANTA-AINEISTOJEN SIIRTÄMINEN VAPA-PALVELUUN

OP Tunnistuksen välityspalvelu

Tekninen kuvaus Aineistosiirrot Interaktiiviset yhteydet iftp-yhteydet

SÄHKE- ja Moreqvaikutukset. dokumenttienhallinnan järjestelmäkehitykseen. Juha Syrjälä, Affecto Finland Oy

CSV - XML ohjelman käyttöohje

Digitaalisen median tekniikat xhtml - jatkuu

PAS-tilanne ja julkaistujen opinnäytteiden pitkäaikaissäilytykseen liittyvä prosessi ja edellytykset

Rekisteri- ja tietokanta-aineistojen siirtäminen Kansallisarkiston sähköisen säilyttämisen palveluun

TIEDON LASKUN LÄHETTÄJÄN WEB-SOVELLUS. Käyttäjän ohje, Kotkan kaupunki

Massadigitoinnin kokonaisuus

RAJAPINTAKUVAUS Itella Customer Connection

Liite D: Poikkeamispäätösten ja suunnittelutarveratkaisujen mallinnus tiedonsiirtoa varten

Sähköinen säilyttäminen

Vanhojen potilastietojen arkistointi palvelu

TIETOSUOJASELOSTE Seloste henkilötietojen käsittelystä ja rekisteröidyn oikeuksista EU:n yleinen tietosuoja-asetus (2016/679)

Varmennepalvelu Rajapintakuvaus Tulorekisteriyksikkö

Vanhojen potilastietojen arkistointi

Pikaopas - Rahoitushakemus

Liite B. Asemakaavan mallinnus tiedonsiirtoa varten

Vanhojen potilastietojen arkistointi palvelun käyttöönotto

Tietojen siirtäminen excel-ohjelmalla ja tietojen kuvaus

T2V2 Turvallisuushavaintoilmoitussanomakuvaus

Liite C: Rakennuslupatietojen mallinnus tiedonsiirtoa varten

Autentikoivan lähtevän postin palvelimen asetukset

Piirustusten toimittaminen rakennusvalvontaan. Ohje rakennusvalvonnan asiakkaille

ARKISTOLAITOS. Asiakirjahallinnon keskeiset standardit. Pekka Henttonen ylitarkastaja.

Suomi.fi Viestit. SFTP API Viranomaisille. Versio 1.0 / Hyväksytty. Väestörekisterikeskus

Digitaalisen median tekniikat xhtml - jatkuu

Tekninen rajapinta - Soveltamisohje Kansallisen tulorekisterin perustamishanke

Tiedonsiirto helposti navetta-automaation ja tuotosseurannan välillä

Poikkeusinfo XML-rajapinnan kuvaus, rajapinnan versio 2 Seasam Group

Vakuutusyhtiöiden testausinfo

Maastotietokannan torrent-jakelun shapefile-tiedostojen purkaminen zip-arkistoista Windows-komentojonoilla

Kansallisarkisto VAPA -palvelu

Liite 7: Asiakastietoa käsittelevä järjestelmä Sosiaalihuollon asiakastiedon arkisto. Rajapintakäyttötapaukset

Kokemuksia. aineistojen paketoinnin piloteista. KDK-pitkäaikaissäilytys seminaari

Arkistolaitos VAPA -palvelu

Tulorekisteri: Varmenne Visma Fivaldi

Henkilötietojen siirtotiedoston muodostusohje Excel-ohjelman avulla

Liite A. Kantakartan mallinnus tiedonsiirtoa varten

Työsähköpostin sisällön siirto uuteen postijärjestelmään

WWW-PALVELUN KÄYTTÖÖNOTTO LOUNEA OY

Olet tehnyt hyvän valinnan hankkiessasi kotimaisen StorageIT varmuuskopiointipalvelun.

1. Skannaus ja tekstintunnistus (OCR) verkkoskannerilta

Tekstin digitointi Kansallisarkistossa

Sosiaalihuollon asiakastiedon arkisto Sosiaalihuollon metatietomalli Metatietoesimerkit

Metatiedot lainsäädäntötiedon hallinnassa

TESTIRAPORTTI - JÄRJESTELMÄ, ADMIN Virtuaaliyhteisöjen muodostaminen Versio 1.0

Sosiaalihuollon asiakastiedon arkisto Sosiaalihuollon metatietomalli Metatietoesimerkit

Helppo ottaa käyttöön, helppo käyttää Basware Virtual Printer

Lohtu-projekti. Testaussuunnitelma

Kolme vuotta digitaalista pitkäaikaissäilytystä

ARVI-järjestelmän ohje arvioinnin syöttäjälle

Vaatimusmäärittely Ohjelma-ajanvälitys komponentti

Tikon tilaustenkäsittely ja Laskutus

Tikon Kirjanpito Tikon Kirjanpito

Transkriptio:

Siirtotiedoston tekninen koulutus Mikko Eräkaski Markus Merenmies 24.10.2012

Käsiteltäviä aihealueita Siirron yleiskuva ja vastaanoton periaatteet Sähke2-metatietomalli ja -skeema Pitkäaikaissäilytettävien tiedostomuotojen käsittely ja laadunvarmistus Varmenteiden käyttö (varmiste.sig) Verkkoyhteydet ja tiedonsiirto Siirtojen onnistumisen seuranta ja siirron paluukanavan hyödyntäminen Aineiston VIRPA-käyttö: yleiskuvaus ja tekninen käyttötapa Arkistolaitoksen tarjoamat siirtämisen tukipalvelut sekä ohjeistus

Siirron yleiskuva ja vastaanoton periaatteet

Siirron periaatteet 1) Luottamuksen ehyt ketju 2) Siirrettävän aineiston poiminta järjestelmästä mahdollisuus määrittää kriteerit 3) Itse siirto ei edellytä merkittävää valmistelua 4) Automaattinen tiedonsiirto järjestelmien välillä 5) Automaattinen vastaanottoprosessi VAPAssa

Asiakirjat Tiedostot SAHKE-metatiedot sahke1.xml Allekirjoitus Varmiste.sig Mitä siirretään?

Siirrettävän aineiston kriteerejä VÄHIMMÄISVAATIMUKSET: Käsittelyprosessi / asia tulee olla päättynyt Tehtävään liittyvät pysyvästi säilytettävät asiakirjat on merkitty valmis Tiedostojen tulee olla hyväksyttyjä formaatteja Pakolliset SÄHKE2-metatiedot Aineistoa ei ole aikaisemmin siirretty VAPA muistaa aineiston yksilöivät tunnisteet MITÄ VOIDAAN SIIRTÄÄ: Natiivimuodot tiedostoista Muita metatietoja (custom metadata)

Siirron toimintaperiaate Tietojärjestelmien välinen tiedonsiirto VAPA-palvelu mahdollistaa siirtojen automatisoinnin järjestelmien välillä Siirtävä tietojärjestelmä SIIRTO Vastaanotto Kuittaus siirrosta Paluuraportti Siirtokokonaisuuden koko on vapaasti määriteltävissä Pienin mahdollinen siirtokokonaisuus on yksi (1) asia VAPA-palvelu

Miten aineisto järjestäytyy VAPAssa? VAPA TEHTÄVÄLUOKITUS PÄÄTEHTÄVÄ TEHTÄVÄ ALATEHTÄVÄ Asia 1 Asia 2 Asia 3 ALATEHTÄVÄ Asia 1 Asia 2 Asia 3 Asia 4 PÄÄTEHTÄVÄ SIIRROT SIIRTO 1. ALATEHTÄVÄ Asia 1 Asia 2 ALATEHTÄVÄ Asia 1 Asia 2 SIIRTO 2. ALATEHTÄVÄ Asia 13 ALATEHTÄVÄ Asia 3 Asia 4 Aineisto ei järjesty VAPAssa siirtokokonaisuuden mukaan, vaan tehtäväluokan mukaan Tehtäväluokalle voidaan siirtää aineistoa vaiheittain. Yksi asia on siirrettävä aina kerrallaan

Vastaanotto tarkistaa saapuvan aineiston Tavoitteena automatisoitu ja luotettava siirtoprosessi. VAPA suorittaa siirrettävälle aineistolle automaattisia teknisiä tarkistuksia Virustarkistus Allekirjoitus (varmiste.sig) Pakolliset SÄHKE2-metatiedot Tiedostojen ja kokonaisuuden eheys Jos vastaanoton tarkistuksissa tapahtuu virhe, hylätään koko paketti

Siirron jälkeen Siirtävälle taholle VAPA-raportointiliittymä siirtojen seuranta virheraportit aineiston kertymäraportit Siirron jälkeen: alkuperäinen aineisto VAPAssa, siirtävän organisaation järjestelmässä olevat asiakirjatiedot katsotaan kopioiksi siirrettyjen asiakirjatietojen tilatiedoksi tulee tietojärjestelmässä siirretty

Sähke2- metatietomalli

Metatietojen siirto Sahke.xml -tietotiedostojen (=SÄHKE-metatietojen) yhteenlaskettu koko ei saa ylittää 100MB XML-skeeman mukainen rakenne Arvojoukot ja elementtien nimet sekä suhteet ja toisteellisuuden Tukee organisaation omaa laadunvarmistusta http://www.arkisto.fi/skeemat/sahke2_2011_12.xsd

SAHKE1.XML Digitaalinen rahtikirja TransferInformation Sopimustiedot Todentaa osaltaan siirtävän osapuolen ContactInformation Siirtoon liittyviä yhteystietoja CaseFile Toistuva elementti, jossa alirakenteita Siirrettävän aineiston metatiedot

Transfer information Elementti NativeID Title TransferContractId MetadataSchema Kuvaus ja käyttötarve Yksilöi siirtokokonaisuuden ja erottaa sen muista saman organisaation lähettämistä siirtokokonaisuuksista. Identifiointitunnuksen muodostamiseksi voidaan käyttää OID-tunnusta.(SÄHKE 6.1.1) Yksilöidään siirtävä järjestelmä. Tätä tunnusta käytetään siirtokokonaisuuden autenttisuuden todentamiseksi ja sen arvon tulee olla sama kuin mikä on ilmoitettu palvelun käyttöönottolomakkeessa. Tähän tallennetaan arkistolaitoksen kanssa laaditun siirto- ja säilytyssopimuksen numero. Sopimusnumero on aina tietojärjestelmäkohtainen ja sitä käytetään vastaanoton yhteydessä yhtenä tarkistettavana tekijänä. Informatiivinen, ei käytetä tarkistuksiin.

ContactInformation Elementti Organisation.Name ContactPerson.Name ContactPerson.Address ContactPerson.PhoneNumber ContactPerson.Email Kuvaus ja käyttötarve Kontaktitietoihin (SÄHKE 6.2) sisällytetään siirrosta vastaavan teknisen yhteyshenkilön tiedot. Arkistolaitoksen edustaja voi tarvittaessa ottaa yhteyttä tähän henkilöön, jos siirrossa on ongelmia.

CaseFile, eli itse aineisto CaseFile: Käsittelyprosessi Action: Prosessiin liittyvä toimenpide Record: Asiakirja Document: Asiakirjaan liittyvä tiedosto

CaseFile Elementti Created NativeId Language Restriction Title RetentionPeriod RetentionReason Status ClassificationScheme. MainFunction Function agent Action Kuvaus ja käyttötarve Avattu/laadittu Yksilöivä tunnus. Kieli (2.4) 2 merkkiä, SFS-ISO 639-1 standardi Rajoitus (myös julkinen) Nimeke -1 on pysyvä säilytys Määräys tai laki, johon pysyvä säilytys perustuu Tila (valmis) Tehtäväluokituksen päätehtävä Tehtävä Toimija Toimenpiteen metatiedot (oma kokonaisuus)

CaseFile - esimerkki Elementti esimerkki Created 2012-09-21 NativeId Language Restriction Title urn:oid:1.2.246.10.2458859.07.01.05.02.2008.1 Fi RetentionPeriod -1 RetentionReason Status PublicityClass = julkinen PersonalData = sisältää henkilötietoja Henkilöstötilinpäätös AL/12345/07.01.01.03.01/2008 Ratkaistu Function 07.01.05.02 agent Role = Kirjaaja Name = Kalle

Action Elementti Created Title Agent.role Agent.name Type Record Kuvaus ja käyttötarve Laadittu. Pvm ei saa olla aiempi kuin CaseFile:n vastaava elementti. Nimeke Toimijan rooli (esim. kirjaaja) Toimijan nimi Toimenpiteen tyyppi (esim. valmistelu) Toimenpiteeseen liittyvät asiakirjat (ei pakollinen)

Record Elementti Kuvaus ja käyttötarve Created Avattu/laadittu NativeId Yksilöivä tunnus. Language Kieli (2.4) 2 merkkiä, SFS-ISO 639-1 standardi Restriction Rajoitus (myös julkinen) Title Nimeke RetentionPeriod -1 on pysyvä säilytys RetentionReason Määräys tai laki, johon pysyvä säilytys perustuu Status Tila (valmis) Function Tehtävä Type Asiakirjan tyyppi, esim. lausunto, päätös, hakemus Authenticity Asiakirjan alkuperäisyys ja eheys todettu (4.2) Document Tiedoston metatiedot (oma kokonaisuus)

Record - esimerkki Elementti Status Esimerkki Valmis Function 07.01.05.02 Type Authenticity Päätös Checker = Kirjaamo Date = 2012-09-21 Description = Todettu allekirjoituksesta

Document Elementti NativeId UseType File.name File.Path Format.name Format.version HashAlgoritm HashValue Kuvaus ja käyttötarve Yksilöivä tunnus. Käyttötarkoitus: Arkisto, Natiivi, Julkaisu Tiedoston nimi Tiedostopolku siirtopaketissa ilmaistaan suhteessa XML-siirtotiedoston sijaintiin. Informativinen Informativinen Eheystunnisteen algoritmi: md5, sha1, sha256 Eheystunnisteen arvo

Document esimerkki

Yksilöinti - NativeID Prosessin, asiakirjan ja tiedoston yksilöinti Yksiselitteinen ja globaalisti tunnistettavissa Käytännössä siirtäjäkohtaisesti uniikki yksilöinti Yksilöinti hierarkian eri tasoille tarkentuen Suositellaan OID:n käyttöä (JHS 159 ISO OIDyksilöintitunnuksen soveltaminen julkishallinnossa) Tunnistetta käytetään aineiston noutamisen tukemiseksi. (VIRPA-käyttö)

Validointi

XML-validointi Käyttökelpoisen XML-tiedoston täytyy olla joko oikein muodostettu (well-formed) tai oikeellinen eli validi (valid) Oikein muodostettu täyttää XML-kielen muotomääritykset siten, että esimerkiksi jokaisella merkinnällä (tag) on vastaava loppumerkintä. Oikeellisen dokumentin rakenne tarkastetaan dokumenttityypin mukaisesti. Dokumenttityyppi määrää mm. mitä elementtejä voi käyttää dokumentissa. Se määrää myös mitkä elementit saavat sijaita minkäkin elementin sisällä ja mitä attribuutteja kuuluu millekin elementille.

Validointi työkaluna Tarkistaa, että pakolliset elementit ovat mukana Arvoluettelot, kuten ei sisällä henkilötietoja ja näiden tarkan kirjoitusasun Ennakkovalidointi säästä työtä ja selvittelyn ongelmia kaikilta osapuolilta

Skeemaviittaukset <s2:metadata xmlns:xsi="http://www.w3.org/2001/xmlschema-instance" xmlns:s2="http://www.arkisto.fi/skeemat/sahke2/2011/12/20" xsi:schemalocation="http://www.arkisto.fi/skeemat/sahke2/2011/12/20 http://www.arkisto.fi/skeemat/sahke2_2011_12.xsd"> <s2:metadataschema> http://www.arkisto.fi/skeemat/sahke2/2011/12/20 </narc:metadataschema>

Pitkäaikaissäilytettävien tiedostomuotojen käsittely ja laadunvarmistus

Asiakirjat siirtokuntoon Konvertointi sp-muotoon mahdollisimman aikaisin Tiedostojen nimeäminen ohjeiden mukaisesti Natiivimuodot Eivät yksin kelpaa säilytykseen Pitkäaikaissäilytyksen muodot PDF/A-1b, myös PDF/A-1a UTF8 (XML) TIFF (rev 5 ja rev6), säilyttävät hyvin ilmiasun Ei saa olla linkkejä tai riippuvuutta ulkoisista elementeistä. Fonttien yms. Käytettävyyden varmistaminen

Tiedostojen nimeäminen VAPAan siirrettävien asiakirjatiedostojen nimissä on sallittu seuraavat merkit: a-z A-Z 0-9 - _. ( ) # välilyönti Tiedostonimen pituus on maksimissaan 256 merkkiä. Yksittäisen asiakirjatiedoston koko ei saa ylittää 2GB

Siirrettävät asiakirjat Arkistolaitoksen VAPA -palveluun siirretään vain pysyvästi säilytettävät asiakirjat ja näistä vain lopulliset versiot. Väliversioita samasta asiakirjasta ei siirretä. Asiakirjatiedon yhteydessä siirtotiedossa tulee esittää tiedoston käyttötapa: Natiivi, Julkaisu tai Arkisto. <s2:usetype>arkisto</s2:usetype> <s2:file> <s2:name>f0010696.pdf</s2:name> <s2:path>00002614\pdf\f0010696.pdf</s2:path> </s2:file>

Auditointointikriteerit Formaattien hallinta Onko organisaatiossa ohjeistettu käyttämään käsittelyprosessissa vain sellaisia tiedostomuotoja, jotka voidaan konvertoida arkistolaitoksen edellyttämiin pitkäaikaissäilytyksen muotoihin? Ovatko siirrettävien pysyvästi säilytettävien asiakirjojen tiedostomuodot joko PDF/A tai TIFF?

Formaattien hallinta Formaattikirjasto (Pronom) Tunnistaminen (droid) Sisäisten tunnisteiden avulla selvittää mikä formaatti on kyseessä Karakteristointi Määrittää ne ominaisuudet, jotka halutaan säilyvän Preservation Plan (Plato)

DROID DROID (Digital Record Object Identification) is a software tool to perform automated batch identification of file formats. It is designed to meet the fundamental requirement of any digital repository to be able to identify the precise format of all stored digital objects, and to link that identification to a central registry of technical information about that format and its dependencies. It uses internal and external signatures to identify and report the specific file format versions of digital files. These signatures are stored in an XML signature file, generated from information recorded in the PRONOM technical registry. New and updated signatures are regularly added to PRONOM, and DROID can be configured to automatically download updated signature files from the PRONOM Web site via Web services

Eheystarkiste Lasketaan asiakirjatiedostoista Varmistaa tiedoston muuttumattomuuden Laskenta järjestelmän tai siirto-osion toimesta Algoritmi MD5 SHA-1 SHA-256 merkintä md5 sha1 sha256

Työkaluja md5sum Droid Komentorivipohjainen työkalu *xml > tiedostot.md5 Graafinen käyttöliittymä, myös komentorivi Vain md5

1) Tiedostoista lasketaan eheystarkisteet 2) Tiedostojen eheystarkiste tallennetaan aineiston metatietoihin 3) Metatieto tiedostoista lasketaan myös eheystarkisteet, jotka tallennetaan varmiste.sig tiedostoon 4) Varmiste.sig allekirjoitetaan sähköisesti

Varmenteiden käyttö (varmiste.sig)

Todistusvoimaisuuden synty Digitaalisessa muodossa syntyneet asiakirjat on muodostettu hallitussa prosessissa siten, että prosessin vaiheet on todennettavissa. Tietojärjestelmän ominaisuudet tukevat aineiston tietoturvallista käsittelyä ja estävät oikeudettoman tietojen muuttamisen tai poiston Asiakirja-aineisto voidaan siirtää arkistoon siten, että siirron eheys ja siirtäjä voidaan todentaa

Siirtokokonaisuuden allekirjoitus Varmistaa aineiston siirtäjän sekä eheyden Allekirjoitetaan vain metatiedot Asiakirjojen eheystarkiste on metatiedoissa mukana Joko henkilö tai järjestelmävarmenne, sovittava VAPA-tuen kanssa Paketin allekirjoittajana voi olla luonnollinen henkilö tai tietojärjestelmä, joka edustaa allekirjoittajaa. Allekirjoitus tallentuu varmiste.sig tiedostoon

Allekirjoittaminen Manuaalinen vaihe siirtopaketin kokoamisen jälkeen. varmistutaan lähettäjästä Luodaan varmiste.sig tiedosto Sisältää eheystarkisteet metatiedoista, eli SAHKE1.XML tiedosto, ei muista tiedostoista Pkcs7 muotoinen allekirjoitus, joka varmistaa metatietojen eheystarkisteet

Varmenteen todentaminen openssl x509 -in <sertifikaattitiedosto> -text Myöntäjä Kenelle tehty Itse sisältö openssl x509 -in <sertifikaattitiedosto> -purpose käyttötarkoitukset "Kyllä" oltava väh. seuraavissa: S/MIME signing Any Purpose Any Purpose CA OCSP Helper

Siirtävä järjestelmä meta doc 1) Tiedostoista lasketaan eheystarkisteet Siirtokokonaisuus Sähke.xml <File> <Meta> Varmiste.sig mdsum (sähke.xml) Signature (PKCS#7) ref md5 2) Tiedostojen eheystarkiste tallennetaan aineiston metatietoihin 3) Metatieto tiedostoista lasketaan myös eheystarkisteet, jotka tallennetaan varmiste.sig tiedostoon 4) Varmiste.sig allekirjoitetaan sähköisesti

Verkkoyhteydet ja SFTP-tiedonsiirto

Aineiston siirto Suojattu tiedonsiirto palvelimelta toiselle VAPA suorittaa siirrettävälle aineistolle automaattisia teknisiä tarkistuksia Jos vastaanoton tarkistuksissa tapahtuu virhe, siirto keskeytyy ja se on aloitettava alusta Siirtävälle taholle VAPA-extranetin raportointipalvelu siirtojen seuranta virheraportit aineiston kertymäraportit Siirron jälkeen: alkuperäinen asiakirja VAPAssa, siirtävän organisaation järjestelmässä olevat asiakirjat katsotaan kopioiksi Siirrettyjen asiakirjojen ja käsittelyprosessien tilatiedoksi tulee tietojärjestelmässä siirretty

Hallinnolliset toimet Siirtotunnukset 1 tunnus / ympäristö / org Raportointikäyttäjien ilmoittaminen Palomuuriavaukset Testi ja tuotanto Testiympäristön määräaikainen käyttö Testauspalvelun käyttö osana sähköisen säilyttämisen lupaa

Siirron tekninen toteutus SFTP yhteys tähän soveltuvalla clientillä Kokonaisuuden siirto, joko kerralla tai osissa. Tulee olla binääri-muodossa (ei tekstimuodossa) Viimeisenä triggerinä varmiste.sig

Siirron virheilmoitukset Allekirjoitus tehtävä aina viimeisenä jos tietosisältöä muutetaan allekirjoituksen jälkeen, niin pakettia ei hyväksytä Samaa aineistoa voi luovuttaa vain kerran. Jos aineisto on VAPA:ssa ja sinne yritetään tuoda samaa aineistoa uudelleen, tulee virheilmoitus dublikaatista. Tarkistus identifiointitunnuksesta. Onnistuneesta tai epäonnistuneesta siirrosta tulee sähköpostiin ilmoitus

Palomuuriavaukset VAPA-tuelta lomake, jolla kohdejärjestelmän IPosoitteet. Tällä ilmoitetaan myös lähdejärjestelmän osoitteet Käytetyt portit SFTP 115, HTTP 80, FTP 20 ja 21 Liikennöintisuunta siten että yhteyden avaus aina siirtäjän suunnasta Yhteydet pääsääntöisesti: testi-testi ja tuotantotuotanto Teknisesti siirtävä järjestelmä voi olla sellainen, joka kyetään verkkoteknisesti yksilöimään ja luomaan palomuuriyhteys Yhteyksien luomiseen varattava aikaa noin 1-2 vko

SFTP client sovelluksista Tiedostojen siirtämiseen tarkoitettuja sovelluksia Rajapinta mahdollista rakentaa myös operatiiviseen järjestelmään Soveltuvia järjestelmiä mm. Cyberduck http://cyberduck.ch/ WinScp http://winscp.net FileZilla http://filezilla-project.org Siirtotoiminto mahdollista osin automatisoida työkalun avulla Edellytyksenä kyky binäärimuotoiseen siirtoon.

Siirtotapahtuma Siirretään ensin aineistopaketti metatiedot ja asiakirja tiedostot Kun muu aineisto on siirtynyt, siirretään allekirjoitus (varmiste.sig) binäärisenä

Siirtohakemistot aineistossa Koottu aineisto järjestetään siirtokokonaisuudeksi siten, että jokaiselle siirrettävälle asiakirjallisen tiedon käsittelyprosessille (asialle) luodaan oma alihakemistonsa. Siirrettävät asiakirjatiedostot kootaan hakemistoon siten, että jokaista tiedostomuotoa varten luodaan oma hakemistonsa. SÄHKE-metatiedot sisältävät XMLtiedostot (metatiedostot) sijoitetaan siirtokokonaisuuden juureen

Siirtohakemistot VAPA:ssa Siirtokokonaisuus käsitellään yhtenä kokonaisuutena. Jokaista siirtokokonaisuutta varten luodaan oma alihakemisto päätason alaisuuteen. VAPA sulkee pääsyn siirtokokonaisuuteen siirron jälkeen sen käsittelyn ajaksi. Jos siirtokokonaisuuden käsittely päättyy virhetilanteeseen, niin alihakemistoa käytettäessä varmistetaan, että vain pääsy kyseiseen alihakemistoon estyy. Alihakemiston nimeämisessä voidaan käyttää esimerkiksi järjestelmän tunnistetta ja päivämäärää,

Siirtokokonaisuuden paketointi Hakemistorakenne, jossa metatiedoista on viittaukset asiakirja tiedostoihin. Huom! Suhteellinen viittaus suhteessa metatietoihin EI: c:\siirto\aineistot\123\abc KYLLÄ: \123\abc

Aineiston tekninen siirto Käyttäjätunnukset sopimuksen teon yhteydessä Suojattu tiedonsiirto palvelimelta toiselle SFTP-protokollalla Palomuuriavaukset tilattava etukäteen SFTP-client sovelluksia vapaasti saatavilla

Siirtojen onnistumisen seuranta ja siirron paluukanavan hyödyntäminen

Aineiston vastaanotto VAPA suorittaa siirrettävälle aineistolle automaattisia teknisiä tarkistuksia Virustarkistus Allekirjoitus (varmiste.sig) Sopimustiedot XML:n rakenteen oikeellisuus Tiedostojen ja kokonaisuuden eheys Arvojoukot Jos vastaanoton tarkistuksissa tapahtuu virhe, hylätään koko paketti Tavoitteena automatisoitu ja luotettava siirtoprosessi.

Siirron jälkeen alkuperäinen asiakirja on tämän jälkeen VAPAssa siirtävän organisaation järjestelmässä olevat asiakirjat katsotaan kopioiksi Aineisto tulee merkitä siirretyksi Hallintaoikeus ja velvollisuus säilyy vielä siirtäjällä, kunnes aineisto luovutetaan Siirretyn oman aineiston käyttö mahdollista VIRPA-rajapinnan kautta

Siirron paluukanava Kaikista siirtoyrityksistä tulee raportti siirtäjälle, joka kertoo siirron tilan Paluukanavan avulla muodostetaan koneellisesti luettava siirtoraportti, joka mahdollistaa siirron jälkeisen tilatiedon automaattisen päivittymisen siirtävässä järjestelmässä tukee parhaiten käyttötapaa, jossa siirtoja tapahtuu usein ja lyhyellä siirtosyklillä Käytettävissä samoin kuin VIRPA-rajapinta

Paluusanoma Paluuraportti on suoritetun siirron tilasta VAPAssa tuotettu XML-muotoinen raportti, jonka sisällön kutsuva järjestelmä tulkitsee. Kutsu perustuu siirretyn aineiston tunnukseen Sanomapohjainen tunnistaminen (käyttäjätunnus ja salasana) https://[palvelun osoite].narc.fi/ DeliveryService/ReportDownload?ingestID=[s2:Transfe rinformation/s2:nativeid ] Kutsun otsikkotiedoissa on esitettävä iplanetdirectorypro eväste ja sen arvona session luonnissa saatu token.id:n arvo.

Vastauksen tulkinta <rep:report xmlns:rep="http://vapa.narc.fi/reports/ingestreport"> <rep:ingeststatus>success</rep:ingeststatus> <rep:transferid>122.123.123/rep:transferid> Raportti sisältää vastaanoton työnkulun raporttitiedon XMLmuodossa, josta mahdolliset virheet on löydettävissä

Siirtotoiminnallisuuksien auditointi

Onko järjestelmässä toiminnot, joiden avulla siirrettävät asiakirjatiedostot konvertoidaan arkistolaitoksen vaatimusten mukaisiin tiedostomuotoihin, kuten PDF/A ja TIFF Vaatimus tulee todentaa pistokokein aineistosta, jossa on eri formaateissa olevaa aineistoa ja siirtokokonaisuuden lopputuloksesta tarkistetaan konvertoitujen asiakirjatiedostojen tyypit ja näiden konversioiden onnistuminen.

Onko järjestelmässä toiminnot, joiden avulla siirtokokonaisuus muodostuu sellaiseen hakemistorakenteeseen, että se on siirrettävissä yhtenä yhtenäisenä kokonaisuutena VAPApalveluun. Todennetaan arvioimalla muodostunutta hakemistorakennetta siten, että se ei sisällä siirtokokonaisuuteen kuulumattomia tiedostoja ja että siirrettävät tiedostot ovat helposti siirrettävissä.

Onko järjestelmässä toiminnot, joiden avulla siirrettäväksi tarkoitettu aineisto voidaan poimia järjestelmästä, joko erinä tai käsittelyprosessi kerrallaan. Onko järjestelmässä toiminnot, joiden avulla siirrettäväksi tarkoitettu aineisto merkitään poimituksi sen jälkeen kun aineisto on otettu osaksi siirrettävää kokonaisuutta? Onko järjestelmässä toiminnot, joiden avulla epäonnistuneen siirron jälkeen siirrettäväksi poimittu aineisto voidaan palauttaa poimintaa edeltävään tilaan ei poimittu.

Aineiston VIRPA-käyttö: yleiskuvaus ja tekninen käyttötapa

Periaate Aineiston suorakäyttörajapinta (VIRPA) tarjoaa organisaatiolle mahdollisuuden noutaa VAPAan siirtämiään aineistoja NativeID:n avulla

Palvelun kuvaus aineiston nouto edellyttää, että aineiston aineiston identifiointitunnuksia mahdollistaa vain aineiston noudon VAPA-järjestelmästä, ei aneiston palauttamista takaisin VAPAan tai aineiston muokkaamista. VIRPA-rajapinta ei sisällä erillisiähakutoiminnallisuuksia tai näiden tukea. haettavan aineiston käyttöoikeudet perustuvat kutsuvan järjestelmän omaan käyttäjä- ja käyttöoikeushallintaan.

Hakutavat VIRPA-rajapinta noutaa pyydetyn aineiston kutsuvalle järjestelmälle ZIP-pakettina, joka sisältää sekä pyydetyn asiakirjatiedoston että siihen liittyvät metatiedot. Kutsuvan järjestelmän vastuulla on esittää nämä tiedot vastaanottajalle. Aineistoa voidaan hakea joko sykronisesti tai asynkronisesti. synkronisessa haussa paluusanoma sisältää suoraan pyydetyn aineiston asynkronisessa haussa paluusanoma sisältää linkin osoitteeseen, josta aineisto on myöhemmin haettavissa.

Arkistolaitoksen tarjoamat siirtämisen tukipalvelut sekä ohjeistus

VAPA-tuki Siirtoon liittyvät käytännön järjestelyt Palomuuriavaukset Siirtäjän alustukset VAPAssa Tunnusten myöntäminen Virheilmoitusten tulkinta ja ongelmien selvittäminen On aina ensimmäinen yhteydenottopiste siirtoon liittyvissä teknisissä kysymyksissä Kanavoi tukipyynnöt eteenpäin tarvittaessa Vapa-tuki@narc.fi

VAPA-siirtotestaus Varmistutaan siirtokokonaisuuden rakenteellisesta oikeellisuudesta Nähdään siirtopaketin sisällöllinen oikeellisuus Suoritetaan kun on uusi VAPA-palveluun liittyvä järjestelmä tai jos järjestelmän siirtotoiminnallisuuteen on tehty merkittäviä muutoksia. Edellyttää organisaation itse tuottamaa testiaineistoa Sovellusta tai järjestelmää, jonka avulla siirtokokonaisuus voidaan siirtää testijärjestelmään. Sähköisen säilyttämisen luvan edellytys on testauksella todennettu siirtotoiminnallisuus

Testit Automaattisesti Metatietorakenteen XML-rakenne Asiakirjatiedostojen formaattien määritystenmukaisuus Eheystarkisteet ja allekirjoitus Manuaalisesti SÄHKE2-metatietojen käyttö Konversioiden käytettävyys

Siirtotestauksen vaiheet 1/2 nro. Kuvaus toimenpiteistä 1. Siirtoyhteyden muodostaminen - Palomuuriavausten ja allekirjoittajan tietojen toimittaminen VAPA-tuelle - VAPA-tuki toimittaa siirtotunnukset 2. Siirtoyhteyden testaus - Siirtäjä testaa yhteyden toimivuuden 3. Testaus 1-vaihe: siirron läpimeno Siirtotestaus aloitetaan pienellä aineistolla, jotta mahdolliset virheet on helppo korjata (esim. yksi asia ja pari asiakirjaa). dokumentaatio / ohje Siirto-ohje Siirto-ohje Siirto-ohje Siirtotestauksen ohje Ensimmäinen versio siirtokokonaisuudesta voidaan lähettää myös s-postilla.

Siirtotestauksen vaiheet 2/2 nro. Kuvaus toimenpiteistä dokumentaatio / ohje 4. Testaus 2-vaihe: aineiston variaatiot Kun siirto on mennyt läpi voidaan vähitellen kasvattaa aineisto kokoa. Siirtotestauksen ohje Käytetään testiaineistoa, joka edustaa kattavasti siirrettävää aineistoa ja sen rakenteita 5. Testaus 3-vaihe: aineiston sisällöllinen validointi Kansallisarkisto katselmoin vaiheessa 2. siirtrettyä aineistosta VAPA-järjestelmässä. Siirtotestauksen ohje 6. Siirtotestauksen päättäminen Yhteinen käsitys testauksen riittävyydestä 7. VIRPA-rajapinnan ja siirron paluuraportin rajapinnan testaus. VIRPA-ohje

Testauksessa käytettävä aineisto Ei tule käyttää oikeaa aineistoa etenkään jos sisältää arkaluonteisia tietoja Aineisto, joka edustaa kattavasti niitä rakenteita ja muotoja, jotka ovat järjestelmän tuotantokäytössä tyypillisiä. Huomioida myös aineistokohtaiset erityispiirteet Asioiden ja asiakirjojen lukumäärää oleellisempaa on aineiston monipuolisuus ja kattavuus.

Testiaineisto Asiat: Salassa pidettävä asia Salassa pidettävä asiakirja (SP) + julkinen asiakirja (SP) samassa asiassa Asia, joka sisältää määräajan ja pysyvästi säilytettäviä asiakirjoja Päätetty, mutta uudelleenavattu asia tuleeko mukaan? Asia, josta on hävitetty jo määräajan säilytettäviä asiakirjoja Asia, joka sisältää suhde- merkintöjä toiseen asiaan. Muita ominaisuuksia: Asiakirja, josta on useita eri versioita tuleeko viimeinen versio? Saapunut sähköisesti allekirjoitettu asiakirja Tiedostomuotoja: DOT, PPT, PPTX ja XLS, XLSX, DOC, DOCX, JPEG, HTML, ODF, PNG tms. etupäässä niitä, joita ko. järjestelmässä käytetään.

Ohjeita testaajalle: Varmista aluksi siirtoyhteyden toimivuus Sovi VAPA-tuen kanssa testiajankohta Aloita testaus pienillä aineistoilla Validoi siirtokokonaisuus ensin itse Sahke.xml Varmiste.sig Kuittaus siirroista siirtoja suorittavan tahon sähköpostiin

Lisätietoja VAPA-palvelusta ja sen käyttöönotosta Siirron tekninen tuki Mikko Eräkaski 050 363 5769 Vapa-tuki@narc.fi email. Etunimi.sukunimi@narc.fi