KOMISSION TIEDONANTO EUROOPAN PARLAMENTILLE, NEUVOSTOLLE, EUROOPAN TALOUS- JA SOSIAALIKOMITEALLE JA ALUEIDEN KOMITEALLE

EUROOPAN KOMISSIO Bryssel 28.9.2017 COM(2017) 555 final KOMISSION TIEDONANTO EUROOPAN PARLAMENTILLE, NEUVOSTOLLE, EUROOPAN TALOUS- JA SOSIAALIKOMITEALLE JA ALUEIDEN KOMITEALLE Laitonta verkkosisältöä vastaan Lisää vastuuta verkkoalustoille FI FI

1. JOHDANTO Verkkoalustat edistävät merkittävällä tavalla innovointia ja kasvua digitaalitaloudessa. Ne ovat tuoneet ennenäkemättömällä tavalla etenkin pienten ja keskisuurten yritysten saataville tietoa, tietojenvaihtomahdollisuuksia ja uusia markkinamahdollisuuksia. Verkkoalustat tarjoavat lisäksi useimmille internetin käyttäjille tärkeimmän väylän tietoon ja muuhun sisältöön, tapahtuipa se hakukoneiden, sosiaalisten verkostojen, mikrobloggaussivustojen tai videonjakoalustojen kautta. Alustojen liiketoimintamallit ovat viime aikoina myös luoneet käyttäjien ja sisällön välille entistä läheisempiä yhteyksiä, joita hyödynnetään etenkin kohdennetussa mainonnassa. Alustat yhdistävät miljardeja käyttäjiä valtaviin määriin sisältöä ja tietoa 1 ja tarjoavat kansalaisille ja yrityksille innovatiivisia palveluja. Verkkoon voidaan kuitenkin ladata ja näin ollen sieltä on myös saatavissa laitonta sisältöä. Sen määrä kasvaa merkittävällä tavalla, mikä herättää vakavaa huolta, johon on puututtava voimakkaasti ja tehokkaasti. Se mikä on laitonta verkon ulkopuolella, on laitonta myös verkossa. Yllyttäminen terrorismiin, muukalaisvihamielinen ja rasistinen puhe, jolla julkisesti lietsotaan vihaa ja väkivaltaa, samoin kuin lasten seksuaaliseen hyväksikäyttöön liittyvä materiaali on EU:ssa laitonta. Verkossa saatavilla olevan terroristisen materiaalin määrän kasvu ja tällaisen sisällön leviäminen muodostavat vakavan uhan turvallisuudelle ja uhrien ihmisarvolle. Euroopan unioni on vastannut näihin huoliin erinäisillä toimenpiteillä. 2 Verkossa olevan laittoman sisällön tunnistaminen ja poistaminen on tämän päivän digitaaliselle yhteiskunnalle silti haaste, johon on vastattava kiireesti. Huolestuneena EU:ssa tehtyjen terrori-iskujen sarjasta ja verkossa leviävästä terroristisesta propagandasta Eurooppa-neuvosto totesi 22. ja 23. heinäkuuta seuraavaa: Eurooppa-neuvosto odottaa, että toimiala [ ]kehittää uutta teknologiaa ja välineistöä, jolla parannetaan terroritekoihin yllyttävän sisällön automaattista tunnistamista ja poistamista. Tätä olisi tarvittaessa täydennettävä asiaankuuluvilla lainsäädäntötoimenpiteillä EU:n tasolla. Myös G7- ja G20-maiden johtajat antoivat vastaavat lausunnot hiljattain pidetyissä huippukokouksissa. 3 Vastaavasti myös Euroopan parlamentti kehotti verkkoalustoista antamassaan päätöslauselmassa verkkoalustoja vahvistamaan toimia laittoman ja haitallisen sisällön torjumiseksi ja komissiota esittämään ehdotuksia näiden ongelmien ratkaisemiseksi. 4 Verkkoalustoilla, joiden välityksellä useimmat internetinkäyttäjät nykyään saavat sisällön käyttöönsä, on merkittävää yhteiskunnallista vastuuta: on suojeltava käyttäjiä ja koko yhteiskuntaa ja estettävä se, että rikolliset ja muut loukkaavaa toimintaa verkossa harjoittavat pääsisivät hyödyntämään alustojen palveluita. Alustojen tarjoamista avoimista digitaalisista tiloista ei saa tulla kasvualustaa esimerkiksi terrorille, laittomalle vihapuheelle, lasten hyväksikäytölle tai ihmiskaupalle eikä tiloja, joilla ei piitata oikeusäännöistä. On selvää, että laittoman verkkosisällön leviäminen voi murentaa 1 Nykyään joka sekunti julkaistaan noin 8 000 tviittiä Twitterissä, ladataan 1 000 valokuvaa Instagramiin, tehdään 60 000 Google-hakua ja katsotaan 70 000:ta YouTube-videota. Ks. http://www.internetlivestats.com/ 2 Ks. jakso 2. 3 Eurooppa-neuvoston päätelmät, ST 8 2017 INIT, 22. ja 23. kesäkuuta 2017, G7-ryhmän Taorminan julkilausuma, 26. toukokuuta 2017, ja G20-johtajien julistus, 8. heinäkuuta 2017. 4 Euroopan parlamentin päätöslauselma 15. kesäkuuta 2017 verkkoalustoista (2016/2274(INI)). 2

luottamusta digitaaliseen ympäristöön. Lisäksi se voisi uhata alustaekosysteemien ja digitaalisten sisämarkkinoiden taloudellisen kehityksen jatkumista. Verkkoalustojen olisi päättäväisesti tehostettava toimiaan tämän ongelman ratkaisemiseksi osana vastuuta, jonka niiden keskeinen rooli yhteiskunnassa niille antaa. Laittoman verkkosisällön torjumisessa on käytettävä asianmukaisia ja tehokkaita turvatoimia, joilla varmistetaan vaarassa olevien eri perusoikeuksien suojaaminen. Koska verkkoalustojen merkitys tiedon saatavuuden kannalta kasvaa entisestään, myös niillä on tärkeä tehtävä tasapainon saavuttamisessa. Laittoman verkkosisällön torjunnassa EU:ssa olisi hyödynnettävä ja myös otettava huomioon EU:n kansainvälisesti toteuttamat toimet. Tässä tiedonannossa esitetään ohjeita ja periaatteita, joiden avulla verkkoalustat voivat yhteistyössä kansallisten viranomaisten, jäsenvaltioiden ja muiden sidosryhmien kanssa tehostaa toimiaan laittoman verkkosisällön torjumiseksi. 5 Tarkoituksena on helpottaa ja tehostaa hyvien käytäntöjen soveltamista laittoman sisällön torjumiseksi, havaitsemiseksi ja poistamiseksi ja siihen pääsyn estämiseksi, jotta voidaan varmistaa laittoman sisällön tehokas poistaminen, avoimuuden lisääminen ja perusoikeuksien suojeleminen verkossa. Lisäksi pyritään selkeyttämään verkkoalustojen vastuuta, kun ne ryhtyvät ennakoiviin toimiin laittoman sisällön tunnistamiseksi tai poistamiseksi tai siihen pääsyn estämiseksi (nk. laupiaan samarialaisen toimet). 2. TAUSTA Euroopan unioni on jo reagoinut laittoman verkkosisällön aiheuttamaan ongelmaan sekä sitovilla että vapaaehtoisilla toimenpiteillä. Poliittisiin toimiin kuuluvat lasten seksuaalisen hyväksikäytön ja seksuaalisen riiston sekä lapsipornografian torjumisesta annettu direktiivi, 6 terrorismintorjuntaa koskeva direktiivi 7 sekä tekijänoikeuksien 8 ja audiovisuaalisia mediapalveluja koskevan direktiivin 9 uudistamisen yhteydessä ehdotetut toimenpiteet. Näitä toteutettuja ja ehdotettuja lainsäädäntötoimia on täydennetty erilaisilla ei-lainsäädännöllisillä toimenpiteillä, joista mainittakoon seuraavat: verkossa levitettävän vihapuheen torjumista koskevat käytännesäännöt, 10 terroristiseen propagandaan liittyvät EU:n internetfoorumin 11 toimet, 12 yhteisymmärryspöytäkirja väärennettyjen tuotteiden myynnistä, komission tiedonanto 5 Esitettyjen toimien perustana on käytetty laajoja julkisia ja kohdennettuja kuulemisia ja sidosryhmien seminaareja. 6 Ks. komission hiljattain antama kertomus Euroopan parlamentille ja neuvostolle lasten seksuaalisen hyväksikäytön ja seksuaalisen riiston sekä lapsipornografian torjumisesta 13 päivänä joulukuuta 2011 annetun direktiivin 2011/93/EU 25 artiklassa tarkoitettujen toimien täytäntöönpanon arvioinnista. 7 Terrorismintorjuntadirektiivissä (EU) 2017/541 velvoitetaan jäsenvaltiot toteuttamaan tarvittavat toimenpiteet sen varmistamiseksi, että terrorismirikoksen tekemiseen julkisesti yllyttävä verkkosisältö poistetaan ripeästi (21 artikla). EU:n internetfoorumin puitteissa verkkoalustat poistavat terroristisen sisällön vapaaehtoisesti saatuaan ilmoituksen EU:n internetsisällöstä ilmoittamista käsittelevältä yksiköltä (EU IRU). 8 COM(2016) 593. 9 COM(2016) 287. 10 http://ec.europa.eu/justice/fundamental-rights/files/hate_speech_code_of_conduct_en.pdf 11 http://europa.eu/rapid/press-release_ip-15-6243_en.htm 12 http://ec.europa.eu/transparency/regdoc/rep/3/2016/en/3-2016-3724-en-f1-1.pdf 3

verkkokauppatuotteiden markkinavalvonnasta, 13 elintarvikeketjun tuotteiden myynti verkossa, EU:n toimintasuunnitelma luonnonvaraisten eläinten ja kasvien laittoman kaupan torjumiseksi, 14 sopimattomia kaupallisia menettelyjä koskevaan direktiiviin liittyvä ohjeistus 15 sekä kansallisten viranomaisten yhteistoimet kuluttajansuoja-asioiden yhteistyöverkoston puitteissa. 16 Eurooppalainen strategia internetin parantamiseksi lasten näkökulmasta 17 on itsesääntelyaloite, jolla pyritään parantamaan verkkoympäristöä lasten ja nuorten kannalta, koska he ovat vaarassa altistua esimerkiksi väkivaltaiselle tai seksuaaliseen hyväksikäyttöön perustuvalle sisällölle taikka nettikiusaamiselle. Vuosina 2016 ja 2017 antamissaan tiedonannoissa 18 komissio korosti, että verkkoalustojen on tarpeen toimia vastuullisemmin ja tehostaa EU:n laajuisia itsesääntelytoimia laittoman sisällön poistamiseksi. Komissio on lisäksi sitoutunut parantamaan alustojen kanssa käytävien eri alakohtaisten vuoropuhelujen koordinointia ja selvittämään tarvetta laatia ohjeita virallisista ilmoittamis- ja toimintamenettelyistä. Tällöin olisi haettava synergiaa jo käynnissä olevien vuoropuhelujen ja muilla aloilla käynnistettyjen toimien kanssa niitä rajoittamatta. Jälkimmäisiä ovat esimerkiksi Euroopan turvallisuusohjelman puitteissa toteutettavat ja vihapuheeseen liittyvät toimet. Tuoreiden raporttien mukaan näissä alakohtaisissa aloitteissa on jo edistytty. Vihapuheen osalta kävi kesäkuussa 2017 julkaistuista raporteista ilmi, että kun tarkasteltiin ilmoitetuista vihapuhesisällöistä muodostettua otosta eräissä EU-maissa, poistamisprosentti oli kuudessa kuukaudessa noussut 28 prosentista 59 prosenttiin tapauksista, vaikka alustojen välillä oli merkittäviä eroja. 19 Myös poistamisen nopeus oli samana aikana parantunut jonkin verran. Edelleen kuitenkin 28 prosentissa tapauksista sisältö poistettiin vasta viikon kuluttua. 20 Tämä osoittaa, että ei-sääntelyllisellä mallilla voidaan saada tuloksia erityisesti silloin, kun tukena on toimenpiteitä, joilla helpotetaan yhteistyötä kaikkien toimijoiden kesken. Terroristista sisältöä torjuvan EU:n internetfoorumin puitteissa puolestaan noin 80 90 prosenttia Europolin ilmoittamasta sisällöstä on sitten foorumin perustamisen poistettu. 21 Mitä taas tulee lasten seksuaaliseen hyväksikäyttöön liittyvään materiaaliin, vihjelinjojen verkosto INHOPE kertoi jo vuonna 2015, että tällaisesta materiaalista poistettiin 91 prosenttia 72 tunnin kuluessa ja joka kolmas tapaus jo 24 tunnissa. 22 Myös käynnissä olevissa eri alakohtaisissa vuoropuheluissa on havaittu merkittävää eri alojen välistä vastaavuutta menettelyissä, joita sovelletaan sisällön havaitsemiseen, tunnistamiseen, poistamiseen ja uudelleenlataamisen estämiseen. Tässä tiedonannossa on hyödynnetty näitä havaintoja. 13 EUVL C 250, 1.8.2017. 14 http://ec.europa.eu/environment/cites/pdf/wap_en_web.pdf 15 SWD(2016)163, 25.5.2016. 16 http://ec.europa.eu/internal_market/scoreboard/performance_by_governance_tool/consumer_protection_cooperation _network/index_en.htm 17 Tiedonanto COM(2012) 196 final (Strategia internetin parantamiseksi lasten näkökulmasta): https://ec.europa.eu/digitalsingle-market/en/alliance-better-protect-minors-online 18 COM(2016) 288 ja COM(2017) 228. 19 http://europa.eu/rapid/press-release_ip-17-1471_fi.htm 20 http://ec.europa.eu/newsroom/just/item-detail.cfm?item_id=71674 21 http://europa.eu/rapid/press-release_ip-17-544_en.htm 22 http://www.inhope.org/libraries/annual_reports/inhope_annual_report_2015.sflb.ashx?download=true 4

Laittoman sisällön poistamiseen sovellettavat oikeudelliset puitteet muodostaa EU:n tasolla sähköistä kaupankäyntiä koskeva direktiivi, 23 jolla muiden muassa yhdenmukaistetaan ne edellytykset, joiden täyttyessä tietyt verkkoalustat eivät ole vastuussa säilyttämästään laittomasta sisällöstä digitaalisilla sisämarkkinoilla. Verkkoalustoilla oleva laiton sisältö voi levitä etenkin sellaisten verkkopalvelujen kautta, jotka sallivat kolmansien osapuolten sisällön lataamisen. Tällaiset säilytyspalvelut ( hosting-palvelut ) kuuluvat tietyin edellytyksin sähköistä kaupankäyntiä koskevan direktiivin 14 artiklan soveltamisalaan. 24 Mainitussa artiklassa säädetään, että säilytyspalvelun tarjoaja 25 ei ole vastuussa kolmannen osapuolen pyynnöstä tallennetuista tiedoista, jos a) palvelun tarjoajalla ei ole tosiasiallista tietoa laittomasta toiminnasta tai tiedoista eikä hänen tiedossaan vahingonkorvausvaatimuksen kyseessä ollen ole tosiasioita tai olosuhteita, joiden perusteella toiminnan tai tietojen laittomuus on ilmeistä, tai b) palvelun tarjoaja toimii viipymättä tietojen poistamiseksi tai niihin pääsyn estämiseksi heti saatuaan tiedon tällaisista seikoista. Direktiivin olisi samalla muodostettava tarkoituksenmukainen perusta sellaisten nopeiden ja luotettavien menettelyjen kehittämiselle, jotka mahdollistavat laittomien tietojen poistamisen ja näiden saannin estämisen. 26 Direktiivin 15 artiklassa säädetään lisäksi, että jäsenvaltiot eivät saa asettaa palvelun tarjoajille [14 artiklassa] tarkoitettujen palvelujen toimittamisen osalta yleistä velvoitetta valvoa siirtämiään ja tallentamiaan tietoja eivätkä yleistä velvoitetta pyrkiä aktiivisesti saamaan selville laitonta toimintaa osoittavia tosiasioita tai olosuhteita. Direktiivin johdanto-osan 47 kappaleessa muistutetaan kuitenkin, että kielto koskee vain yleistä seurantavelvoitetta ja että se ei automaattisesti koske erityistapauksissa asetettavia seurantavelvoitteita, eikä se myöskään vaikuta kansallisten viranomaisten kansallisen lainsäädännön mukaisesti antamiin määräyksiin. Vuonna 2016 antamassaan verkkoalustoja käsittelevässä tiedonannossa komissio sitoutuikin säilyttämään verkkoalustoihin sovellettavan tasapainoisen ja ennustettavan vastuujärjestelmän keskeisenä sääntelykehyksenä, jolla tuetaan digitaalista innovointia digitaalisilla sisämarkkinoilla. Tässä tiedonannossa annetut ohjeet eivät rajoita EU:n säännöstön soveltamista. Ne liittyvät verkkoalustojen toimintaan ja etenkin näiden alustojen tarjoamiin säilytyspalveluihin 27 sähköistä kaupankäyntiä koskevan direktiivin 14 artiklassa tarkoitetussa mielessä ja kattavat kaikki laittoman 23 Sähköisestä kaupankäynnistä 8. kesäkuuta 2000 annettu direktiivi 2000/31/EY. 24 On syytä huomata, että sähköistä kaupankäyntiä koskevan direktiivin mukaisesti 12 14 artiklassa säädettyä vastuusta vapauttamista voivat hyödyntää vain sellaiset tietoyhteiskunnan palvelujen tarjoajat, joita voidaan pitää välittäjinä toimivina palveluntarjoajina (eli jotka tarjoavat pelkkää siirtotoimintaa, välimuistiin tallentamista tai säilytystä (hostingpalvelut)). Direktiivin johdanto-osan 42 kappaleessa täsmennetään, että poikkeukset vastuusta koskevat ainoastaan toimintaa, joka on luonteeltaan puhtaasti teknistä, automaattista ja passiivista, jolloin tietoyhteiskunnan palvelun tarjoaja ei tunne siirrettäviä tai tallennettavia tietoja eikä valvo niitä. 25 Useimmat verkkoalustat tarjoavat käyttäjien lataaman sisällön säilytyspalveluja. 26 Sähköistä kaupankäyntiä koskevan direktiivin johdanto-osan 40 kappale. Huomattakoon, että tässä tiedonannossa keskitytään säilytyspalvelun tarjoajiin eikä pelkkää siirtotoimintaa (12 artikla) tai välimuistiin tallentamista (13 artikla) tarjoaviin palveluntarjoajiin. 27 Säilytyspalvelu on tietoyhteiskunnan palvelu, joka käsittää palvelun vastaanottajan toimittamien tietojen tallentamisen. Tähän ryhmään voi kuulua monia erilaisia toimijoita, kuten verkossa toimivia markkinapaikkoja, videonjakoalustoja, sosiaalisia verkostoja, bloggaus- tai arvostelusivustoja taikka uutissivustoilla käyttäjien kommenteille varattuja osioita. 5

sisällön eri luokat. Samalla otetaan asianmukaisesti huomioon se, että eri sisältötyypit saattavat edellyttää erilaista käsittelyä. EU:ssa ei tällä hetkellä ole yhdenmukaistettua ja johdonmukaista tapaa laittoman sisällön poistamiseksi. Unionissa käytetäänkin erilaisia lähestymistapoja, jotka vaihtelevat jäsenvaltioiden, sisältöluokkien tai verkkoalustan tyypin mukaan. Yhtenäisempi malli tehostaisi laittoman sisällön torjumista. Lisäksi se edistäisi digitaalisten sisämarkkinoiden kehittämistä ja vähentäisi kustannuksia, jotka johtuvat verkkoalustoihin sovellettavien moninaisten sääntöjen noudattamisesta, mikä koskee myös tulokkaita. On korostettava, että näissä lainsäädäntöpuitteissa ei määritellä saati yhdenmukaisteta sitä, mikä tekee sisällöstä laittoman. Se mikä on laitonta määritetään EU:n tason erityisessä lainsäädännössä ja kansallisessa lainsäädännössä. 28 Vaikka esimerkiksi terrorismiin liittyvä materiaali, laiton vihapuhe tai lasten seksuaaliseen hyväksikäyttöön liittyvä materiaali poikkeavat luonteeltaan, ominaispiirteiltään ja aiheuttamaltaan vahingolta selvästi tekijänoikeuksien tai tuoteturvallisuussääntöjen loukkaamisesta, verkossa harjoitetuista laittomista kaupallisista käytännöistä taikka loukkaavasta toiminnasta verkossa, kaikki nämä laittoman sisällön eri tyypit kuuluvat samojen, sähköistä kaupankäyntiä koskevalla direktiivillä vahvistettujen laaja-alaisten lainsäädäntöpuitteiden soveltamisalaan. Kun lisäksi otetaan huomioon, että näiden erityyppisten sisältöjen poistamismenettelyissä on huomattavaa samankaltaisuutta, tässä tiedonannossa käsitellään kaikenlaista laitonta verkkosisältöä mutta otetaan huomioon alakohtaiset erot, kun ne ovat asianmukaisia ja perusteltuja. EU:ssa tuomioistuimilla ja kansallisilla toimivaltaisilla viranomaisilla, myös lainvalvontaviranomaisilla, on toimivalta nostaa syyte rikoksista ja määrätä oikeudenmukaisilla menettelyillä rikosoikeudellisia seuraamuksia tietyn verkossa harjoitetun toiminnan tai verkossa annetun tiedon laittomuuden perusteella. Verkkoalustoilla on puolestaan oikeus estää infrastruktuurinsa ja liiketoimintansa käyttö rikolliseen toimintaan ja vastuu suojella käyttäjiään ja estää laiton sisältö alustoillaan. Niillä on tavallisesti tekniset keinot tällaisen sisällön tunnistamiseen ja poistamiseen. Tämä on sitäkin tärkeämpää siksi, että verkkoalustat ovat tehneet valtavia investointeja kehittääkseen monipuolista teknologiaa, jolla ne keräävät ennakoivasti tietoja alustalla kiertävästä sisällöstä ja käyttäjien käyttäytymisestä. Nopeat päätökset laittoman sisällön poistamisesta ovat toki tärkeitä, mutta myös asianmukaisia suojatoimia tarvitaan. Sitä varten on myös tasapainotettava julkisten ja yksityisten elinten roolit. Tässä tiedonannossa esitetyt ohjeet ja periaatteet eivät siksi kohdistu vain laittoman sisällön havaitsemiseen ja poistamiseen. Niillä pyritään lisäksi vastaamaan huoleen laillisen sisällön turhasta poistamisesta, joka vaikuttaa sananvapauteen ja tiedotusvälineiden moniarvoisuuteen. Sen vuoksi 28 EU:n lainsäädännön piiriin kuuluvia (tai mukaan otettavaksi ehdotettuja) aloja ovat esimerkiksi yllyttäminen terrorismiin, laiton vihapuhe, lasten seksuaalinen hyväksikäyttö, tekijänoikeudet, tuoteturvallisuus, elintarvikkeiden, tupakkatuotteiden ja lääkeväärennösten tarjonta ja myynti, kuluttajansuojasäännöt ja tuoteturvallisuustoimenpiteet. Vuonna 2016 komissio lisäksi selkeytti sopimattomista kaupallisista menettelyistä annetussa direktiivissä 2005/29/EY säädettyjä avoimuuteen ja huolelliseen ammatinharjoittamiseen liittyviä velvollisuuksia, joita verkkoalustojen on elinkeinonharjoittajina noudatettava kuluttajiin nähden. 6

olisi otettava käyttöön riittävät suojatoimet, jotka mukautetaan kulloisenkin laittoman sisällön tyypin perusteella. Kiistämättä on olemassa yleiseen etuun liittyviä huolestuttavia kysymyksiä, jotka liittyvät sellaiseen sisältöön, joka ei välttämättä ole laitonta mutta joka voi olla haitallista, kuten valeuutisiin tai alaikäisille haitalliseen sisältöön. 29 Tässä tiedonannossa pääpaino on kuitenkin laittoman sisällön havaitsemisessa ja poistamisessa. 3. LAITTOMAN SISÄLLÖN HAVAITSEMINEN JA SIITÄ ILMOITTAMINEN Tässä jaksossa on tarkoitus esittää, mitä verkkoalustojen, toimivaltaisten viranomaisten ja käyttäjien olisi tehtävä havaitakseen laittoman sisällön nopeasti ja tehokkaasti. Verkkoalustat voivat saada tietää laittomasta sisällöstä eri tavoin ja eri kanavien kautta. Näitä kanavia ovat mm. seuraavat: i) tuomioistuimen päätös tai hallintopäätös, ii) ilmoitus toimivaltaisilta viranomaisilta (esim. lainvalvontaelimeltä), erikoistuneilta luotettavilta ilmoittajilta, immateriaalioikeuksien haltijoilta tai tavallisilta käyttäjiltä tai iii) alustan omat tutkimukset tai oma tietämys. EU:n ja kansallisesta lainsäädännöstä johtuvien oikeudellisten velvoitteidensa ja huolenpitovelvoitteensa täyttämisen lisäksi verkkoalustojen olisi huolehdittava, että niiden tarjoama verkkoympäristö on turvallinen käyttäjille, torjuu rikollista ja muuta lainvastaista hyödyntämistä ja ehkäisee ja estää rikollista ja muuta loukkaavaa toimintaa verkossa. 3.1. Tuomioistuimet ja toimivaltaiset viranomaiset Kansalliset tuomioistuimet ja tietyissä tapauksissa toimivaltaiset viranomaiset voivat EU:n ja/tai kansallisen lainsäädännön mukaisesti antaa verkkoalustoille sitovia määräyksiä tai hallintopäätöksiä, joissa niitä vaaditaan poistamaan laiton sisältö tai estämään pääsy siihen. 30 Koska laittoman sisällön poistaminen nopeasti on usein olennaisen tärkeää tällaisen sisällön laajemman levittämisen ja sen aiheuttaman vahingon estämiseksi, verkkoalustojen olisi lisäksi voitava tehdä nopeasti päätöksiä laittoman sisällön suhteen mahdollisesti toteutettavista toimista ilman, että niitä vaadittaisiin oikeuden päätöksellä tai hallintopäätöksellä. Näin pitäisi voida toimia etenkin silloin, kun lainvalvontaviranomainen tunnistaa laittoman sisällön ja ilmoittaa siitä alustalle. Verkkoalustojen olisi tällaisia vastuulleen kuuluvia tehtäviä täyttäessään myös otettava käyttöön 29 Ehdotuksessa audiovisuaalisia mediapalveluja koskevan direktiivin tarkistamiseksi käsitellään tätä asiaa audiovisuaalisesta näkökulmasta. 30 Sähköistä kaupankäyntiä koskevan direktiivin 14 artiklan 3 kohdassa täsmennetään, että 14 artikla ei vaikuta tuomioistuimen tai hallintoviranomaisen mahdollisuuteen vaatia jäsenvaltioiden oikeusjärjestelmien mukaisesti palvelun tarjoajaa lopettamaan tai estämään väärinkäytökset. Esimerkiksi teollisuus- ja tekijänoikeuksien noudattamisen varmistamisesta annetun direktiivin 2004/48/EY 11 artiklassa säädetään, että jäsenvaltioiden on myös varmistettava, että oikeudenhaltijoilla on mahdollisuus hakea kieltotuomiota sellaisia välittäjiä vastaan, joiden palveluja kolmannet osapuolet käyttävät teollis- tai tekijänoikeuden loukkaamiseksi, sanotun kuitenkaan rajoittamatta direktiivin 2001/29/EY 8 artiklan 3 kohdan soveltamista. 7

asianmukaisia suojatoimia, jotta käyttäjät voivat käyttää oikeuttaan tehokkaisiin oikeussuojakeinoihin. Verkkoalustoilla olisi sen vuoksi oltava tarvittavat resurssit, jotta ne olisivat perillä toimintaansa sovellettavista oikeudellisista puitteista. Niiden olisi lisäksi tehtävä tiivistä yhteistyötä lainvalvontaviranomaisten ja tapauksen mukaan muiden toimivaltaisten viranomaisten kanssa ja etenkin varmistettava, että niille voidaan nopeasti ja tehokkaasti toimittaa pyyntö poistaa laiton sisältö viipymättä ja että ne voivat soveltuvissa tapauksissa ilmoittaa lainvalvontaviranomaisille merkeistä, jotka viittaavat verkossa tapahtuvaan rikolliseen toimintaan. 31 Jotta vältettäisiin päällekkäiset toimet ja ilmoitukset, jotka vähentäisivät poistamistoimien tehokkuutta ja vaikuttavuutta, lainvalvontaviranomaisten ja muiden toimivaltaisten viranomaisten olisi lisäksi pyrittävä kaikin tavoin tekemään keskenään yhteistyötä sellaisten toimivien digitaalisten rajapintojen määrittelemiseksi, jotka helpottavat ilmoitusten toimittamista nopeasti ja luotettavasti, ja huolehdittava siitä, että laiton sisältö tunnistetaan ja siitä ilmoitetaan tehokkaasti. Jotta tämä yhteistyö sujuisi, verkkoalustojen ja viranomaisten olisi nimettävä asiaa varten yhteyspisteet. Terroristisen sisällön 32 torjumiseksi Europolin yhteyteen on perustettu EU:n internetsisällöstä ilmoittamista käsittelevä yksikkö (IRU), jossa turvallisuusasiantuntijat arvioivat sisältöä ja ilmoittavat terroristisesta sisällöstä verkkoalustalle (joissakin jäsenvaltioissa on oma vastaava yksikkö). Verkkoalustojen olisi järjestelmällisesti parannettava yhteistyötään jäsenvaltioiden toimivaltaisten viranomaisten kanssa, ja jäsenvaltioiden olisi huolehdittava siitä, että tuomioistuimet pystyvät tehokkaasti reagoimaan laittomaan verkkosisältöön, ja tehostettava viranomaisten (rajatylittävää) yhteistyötä. Verkkoalustojen ja lainvalvontaviranomaisten tai muiden toimivaltaisten viranomaisten olisi nimettävä toimivat yhteyspisteet EU:ssa ja tapauksen mukaan määriteltävä toimivat digitaaliset rajapinnat helpottamaan niiden välistä yhteydenpitoa. Verkkoalustoja ja lainvalvontaviranomaisia rohkaistaan lisäksi kehittämään teknisiä rajapintoja, joiden avulla ne voivat tehostaa yhteistyötään sisällön hallintasyklin koko mitalta. Jotta tähän haasteeseen löydettäisiin toimivia ja teknisesti kestäviä ratkaisuja, voi olla hyvä tehdä yhteistyötä myös tekniikan alan toimijoiden kanssa. 31 Sähköistä kaupankäyntiä koskevan direktiivin 15 artiklan 2 kohdassa säädetään, että jäsenvaltiot voivat asettaa tietoyhteiskunnan palvelun tarjoajille velvoitteita ilmoittaa viipymättä toimivaltaisille viranomaisille kyseisen palvelun vastaanottajien väitetysti toteuttamista, laittomiksi väitetyistä toimista tai antamista väitetysti laittomista tiedoista taikka velvoitteen toimittaa toimivaltaisille viranomaisille näiden pyynnöstä tietoja, joiden avulla on mahdollista tunnistaa ne toimitetun palvelun vastaanottajat, joiden kanssa palvelun tarjoajat ovat tehneet tallentamista koskevan sopimuksen. 32 Terrorismin torjumisesta annetun direktiivin (EU) 2017/541 5 artiklassa tarkoitetussa merkityksessä. 8

3.2. Ilmoitukset 3.2.1. Luotettavat ilmoittajat Laiton verkkosisältö voidaan poistaa nopeammin ja varmemmin, kun verkkoalustat ottavat käyttöön etuoikeutettujen käyttäjien kanavan niille ilmoitusten tekijöille, joilla on erityistä asiantuntemusta ilmoittamisessa alustan verkkosivustolla olevasta mahdollisesti laittomasta sisällöstä. Nämä luotettavat ilmoittajat ovat erikoistuneita tahoja, joilla on erityistä asiantuntemusta laittoman sisällön tunnistamisessa ja erityiset rakenteet tällaisen verkkosisällön havaitsemiseksi ja tunnistamiseksi. Tavallisiin käyttäjiin verrattuna näiden luotettavien ilmoittajien voidaan odottaa tuovan käyttöön asiantuntemuksensa ja toimivan tiukkojen laatunormien mukaisesti. Tämän pitäisi johtaa laadukkaampiin ilmoituksiin ja nopeampiin poistotoimiin. Verkkoalustoja kannustetaan hyödyntämään olemassa olevia luotettavien ilmoittajien verkostoja. Esimerkiksi terroristisen sisällön tapauksessa Europolin yhteydessä toimivalla internetsisällöstä ilmoittamista käsittelevällä yksiköllä on tarvittava asiantuntemus arvioida, onko jotain sisältöä pidettävä terroristisena tai väkivaltaisten ääriliikkeiden verkkosisältönä. Asiantuntemuksensa pohjalta se toimii lainvalvontatehtävänsä ohella myös luotettavana ilmoittajana. Lasten seksuaaliseen hyväksikäyttöön liittyvästä materiaalista ilmoittamista varten perustettujen vihjelinjojen verkosto INHOPE on toinen esimerkki luotettavasta ilmoittajasta. Vihapuheen osalta on taas olemassa kansalaisyhteiskunnan järjestöjä tai puolijulkisia elimiä, jotka ovat erikoistuneet laittoman rasistisen ja muukalaisvihamielisen verkkosisällön tunnistamiseen ja siitä ilmoittamiseen. Jotta varmistettaisiin, että ilmoitukset ovat laadukkaita ja laiton sisältö poistetaan nopeammin, toimiala voisi sopia EU:n tasolla kriteereistä, jotka perustuvat etenkin perusoikeuksien ja demokraattisten arvojen kunnioittamiseen. Näistä kriteereistä voidaan sopia itsesääntelyjärjestelyjen tai EU:n standardointijärjestelmän puitteissa, ja ne määrittävät sen, mitä tahoa voidaan pitää luotettavana ilmoittajana. Niiden olisi oltava riittävän joustavia, jotta voidaan ottaa huomioon sisältökohtaiset erityispiirteet ja luotettavan ilmoittajan rooli. Muita kriteereitä voisivat olla esimerkiksi sisäisen koulutuksen standardit, prosessistandardit ja laadunvarmistus samoin kuin oikeudelliset suojatoimet, jotka koskevat riippumattomuutta, eturistiriitoja ja yksityisyyden ja henkilötietojen suojaa. Suojatoimet ovat erityisen tärkeitä niissä harvoissa tapauksissa, joissa alustat voivat poistaa sisältöä saatuaan siitä ilmoituksen luotettavalta ilmoittajalta mutta selvittämättä sisällön laillisuutta tarkemmin itse. Näissä harvoissa tapauksissa myös luotettavien ilmoittajien osalta voitaisiin tarkastaa näiden kriteerien täyttyminen, ja luotettavan ilmoittajan aseman osoittamiseksi voitaisiin perustaa sertifiointijärjestelmä. Järjestelmän väärinkäytön estämiseksi olisi joka tapauksessa oltava käytettävissä riittävät suojatoimet, kuten kohdassa 4.3 esitetään. Toimivaltaisille viranomaisille olisi tarjottava mahdollisuus soveltuvissa tapauksissa osallistua luotettavia ilmoittajia koskeviin raportointijärjestelyihin. On pystyttävä ottamaan tasapainotetusti huomioon tarve huolehtia luotettavien ilmoittajien toimittamien ilmoitusten laadukkuudesta, niiden lisätoimenpiteiden laajuus, joita yritykset toteuttaisivat suhteessa luotettaviin ilmoittajiin, ja rasite, joka aiheutuu näiden laatustandardien 9

noudattamisen varmistamisesta. Jos luotettavien ilmoittajien järjestelmää käytetään vahvistettujen standardien vastaisesti, olisi luotettavan ilmoittajan etuoikeutettu asema poistettava. Komissio rohkaisee verkkoalustoja ja luotettavia ilmoittajia tekemään tiivistä yhteistyötä. Verkkoalustan olisi voitava käsitellä luotettavien ilmoittajien ilmoitukset nopeutetulla menettelyllä. Yhteistyössä olisi harjoitettava keskinäistä tiedonvaihtoa, jotta poistamisprosessia voitaisiin arvioida ja parantaa ajan mittaan. Komissio selvittää etenkin asianomaisten sidosryhmien kanssa käytävässä vuoropuhelussa tarkemmin mahdollisuuksia sopia luotettaviin ilmoittajiin sovellettavista EU:n laajuisista kriteereistä. 3.2.2. Käyttäjien tekemät ilmoitukset Jotta laittoman verkkosisällön torjuminen olisi tehokasta, myös tavallisten käyttäjien olisi voitava ilmoittaa laittomasta sisällöstä verkkoalustoille ja pystyä luottamaan siihen, että perustellut ilmoitukset otetaan huomioon ja että niihin reagoidaan ripeästi. Verkkoalustojen olisi tarjottava vaivattomasti käyttöön saatavat ja helppokäyttöiset mekanismit, joiden avulla käyttäjät voivat ilmoittaa laittomana pitävästään sisällöstä, jota alustat säilyttävät. Jos sisältö on julkisesti saatavilla, tällaisten ilmoitusmekanismien olisi oltava suuren yleisön käytettävissä ilman vaatimusta käyttäjäksi kirjautumisesta. Jotta mahdollisesti laittoman sisällön arvioimisen tehokkuutta ja tarkkuutta voitaisiin parantaa, mekanismin olisi tarjottava mahdollisuus tehdä ilmoitus helposti sähköisessä muodossa. Komission ehdotuksessa audiovisuaalisia mediapalveluja koskevan direktiivin tarkistamiseksi on tarkoitus asettaa videonjakoalustojen tarjoajille velvollisuus perustaa ja ylläpitää mekanismeja, joilla käyttäjät voivat tehdä ilmiannon tai ilmoituksen audiovisuaalisesta sisällöstä, joka voi haitata alaikäisten fyysistä, henkistä tai moraalista kehitystä tai joka sisältää yllyttämistä väkivaltaan tai vihaan. 3.2.3. Ilmoitusten korkean laadun varmistaminen Verkkoalustojen olisi otettava käyttöön toimivia mekanismeja, joilla helpotetaan riittävän tarkkojen ja asianmukaisesti perusteltujen ilmoitusten tekemistä, jotta alustat pystyvät tekemään nopeasti tietoon perustuvan päätöksen jatkotoimista. Tämän pitäisi helpottaa sellaisten ilmoitusten tekemistä, joissa selostetaan syyt, joiden perusteella ilmoittaja pitää sisältöä laittomana, ja joissa annetaan selkeät tiedot mahdollisesti laittoman sisällön sijainnista (esim. URL-osoite). Ilmoitusmekanismien olisi oltava näkyviä, helposti käyttöön otettavia, helppokäyttöisiä ja kontekstisidonnaisia. Niiden avulla pitäisi voida helposti ilmoittaa erilaisista sisältötyypeistä esimerkiksi valitsemalla perusteluettelosta se peruste, jonka vuoksi sisältöä pidetään laittomana. Jos se on teknisesti toteutettavissa, voidaan tarjota esimerkiksi mahdollisuus tehdä ilmoitus heti aineiston ensimmäisen esiintymän yhteydessä tai käyttää kirjautumistunnisteita uudelleen. Tällaisten riittävästi perusteltujen ja riittävän yksityiskohtaisten ilmoitusten avulla alustat pystyvät löytämään laittoman sisällön nopeasti, tekemään perusteellisen arvion sisällön laittomuudesta ja 10

ryhtymään tarvittaessa nopeasti toimiin. Se, kuinka tarkkoja tietoja alustat tarvitsevat voidakseen tehdä nopeasti tietoon perustuvia päätöksiä, voi vaihdella suurestikin sisällön tyypistä toiseen. Käyttäjillä ei tavallisesti pitäisi olla velvollisuutta tunnistautua tehdessään ilmoituksen laittomana pitämästään sisällöstä, ellei tunnistetietoja tarvita sisällön lainmukaisuuden määrittämiseen (esim. tekijänoikeuksien haltijan selvittämiseen). Näin on erityisesti tapauksissa, joissa ilmoittajan turvallisuus voi olla uhattuna tai henkilöllisyyden paljastaminen voi johtaa oikeudellisiin seurauksiin. Kun käyttäjät haluavat pysytellä alustojen suhteen nimettöminä, heitä olisi kannustettava tekemään ilmoituksensa luotettujen ilmoittajien välityksellä, jos sellaisia on. Ilmoituksen tekijällä olisi kuitenkin oltava mahdollisuus antaa halutessaan yhteystietonsa ilmoituksen yhteydessä, jotta verkkoalusta voi pyytää häneltä lisätietoja tai ilmoittaa hänelle mahdollisesti kaavailemistaan jatkotoimista. Tällöin ilmoituksen tekijälle olisi toimitettava vastaanottoilmoitus ja tiedot ilmoituksen johdosta toteutetuista toimenpiteistä. Vastaanottoilmoituksella vältetään se, että ilmoituksen tekijän olisi tarkastettava, onko ilmoitukseen reagoitu, ja lisäksi se voi toimia näyttönä tuomioistuimessa tai tuomioistuimen ulkopuolisissa menettelyissä tällaisiin menettelyihin sovellettavien sääntöjen mukaisesti. 3.3. Verkkoalustan toteuttamat ennakoivat toimenpiteet 3.3.1. Ennakoivat toimenpiteet ja vastuuvapaus Kun otetaan huomioon verkkoalustojen keskeinen asema ja valmiudet sekä niiden tähän liittyvät vastuut, niiden olisi otettava käyttöön tehokkaita ennakoivia toimenpiteitä laittoman verkkosisällön havaitsemiseksi ja poistamiseksi eikä pelkästään reagoitava mahdollisesti saamiinsa ilmoituksiin. Tiettyjen laittoman sisällön luokkien tapauksessa ei ilman tällaisia alustojen ennakoivia toimenpiteitä välttämättä päästä täysin tavoitteeseen, että vakavan haitan vaaraa lievennettäisiin. Vapaaehtoisten ennakoivien toimenpiteiden toteuttaminen ei komission näkemyksen mukaan automaattisesti johda siihen, ettei verkkoalusta voisi hyödyntää sähköistä kaupankäyntiä koskevan direktiivin 14 artiklassa säädettyä vastuuta koskevaa poikkeusta. Ensinnäkin vastuuta koskeva poikkeus voidaan myöntää vain säilytyspalvelujen tarjoajille, jotka täyttävät direktiivin 14 artiklan vaatimukset. Tällaisten palveluntarjoajien toiminta käsittää tietojen tallentamisen kolmansien osapuolten pyynnöstä, eikä niillä ole aktiivista roolia, jonka vuoksi ne tuntisivat kyseiset tiedot tai valvoisivat niitä. 33 Komission 14. syyskuuta 2016 esittämän tekijänoikeudesta digitaalisilla sisämarkkinoilla annettavan direktiiviehdotuksen johdanto-osan 38 kappaleessa todetaan tästä seuraavaa: Mainitun [sähköistä kaupankäyntiä koskevan direktiivin] 14 artiklan osalta on tarpeen varmentaa, toimiiko palvelun tarjoaja aktiivisessa roolissa, myös optimoimalla ladattujen teosten tai aineiston esitysmuotoa tai edistämällä niitä, riippumatta tähän käytettyjen keinojen luonteesta. 33 Sähköistä kaupankäyntiä koskevan direktiivin johdanto-osan 42 kappale. Ks. asiassa Google France annetun tuomion 114 ja 120 kohta, sekä asiassa C-324/09 L Oréal vastaan ebay 12. heinäkuuta 2011 annetun tuomion 113 kohta. 11

Nimenomaan sähköistä kaupankäyntiä koskevan direktiivin 14 artiklan osalta unionin tuomioistuin selventää asiassa L Oréal vastaan ebay, että pelkästään se, että [verkkoalusta] tallentaa palvelimelleen myyntitarjoukset, vahvistaa palvelunsa yksityiskohtaiset säännöt, saa palvelustaan korvauksen ja antaa yleisluonteisia neuvoja asiakkailleen, ei voi merkitä sitä, että siltä evätään [sähköistä kaupankäyntiä koskevan direktiivin 14 artiklassa] säädetyt vastuuta koskevat poikkeukset. 34 Tuomioistuimen mukaan tällainen vaikutus kuitenkin syntyy, kun sen sijaan kyseinen ylläpitäjä antaa apua, joka muodostuu muun muassa kyseessä olevien myyntitarjousten esityksen optimoinnista tai näiden tarjousten edistämisestä. 35 Tämä viittaa siihen, että pelkästään se seikka, että verkkoalusta toteuttaa tiettyjä toimenpiteitä, jotka liittyvät sen palvelujen tarjoamiseen yleisellä tavalla, ei välttämättä merkitse sitä, että alustalla on säilyttämäänsä materiaaliin nähden aktiivinen rooli ja että alusta ei voisi sen vuoksi hyödyntää vastuuta koskevaa poikkeusta. Komission näkemyksen mukaan tällaisiin toimenpiteisiin voi ja pitäisikin kuulua myös laittoman verkkosisällön havaitsemiseen ja poistamiseen tähtääviä ennakoivia toimenpiteitä, kun nämä toimenpiteet toteutetaan verkkoalustan palvelusopimuksen soveltamiseksi. Tämä vastaa sitä erilaisten etujen välistä tasapainoa, johon sähköistä kaupankäyntiä koskevalla direktiivillä pyritään. 36 Komissio muistuttaakin, että on kaikkien osapuolten edun mukaista, että hyväksytään ja käytetään nopeita ja luotettavia menettelyjä, joiden avulla voidaan poistaa laittomat tiedot ja estää niihin pääsy. 37 Vaikka direktiivissä kielletään verkkoalustojen yleinen velvoittaminen pyrkiä aktiivisesti saamaan selville tosiasioita, 38 siinä myös tunnustetaan vapaaehtoisten toimenpiteiden merkitys. 39 Toiseksi mainittakoon, että sähköistä kaupankäyntiä koskevan direktiivin 14 artiklassa säädetään, että kyseisen artiklan soveltamisalaan kuuluvat palveluntarjoajat voivat hyödyntää vastuuta koskevaa poikkeusta vain, kun seuraavat kaksi edellytystä täyttyvät: a) palvelun tarjoajalla ei ole tosiasiallista tietoa laittomasta toiminnasta tai tiedoista eikä hänen tiedossaan vahingonkorvausvaatimuksen kyseessä ollen ole tosiasioita tai olosuhteita, joiden perusteella toiminnan tai tietojen laittomuus on ilmeistä, tai b) palvelun tarjoaja toimii viipymättä tietojen poistamiseksi tai niihin pääsyn estämiseksi heti saatuaan tiedon tällaisista seikoista. Unionin tuomioistuin on täsmentänyt, että nämä edellytykset koskevat kaikkia tilanteita, joissa asianomainen [verkkoalusta] tulee tietoiseksi [tosiasioista tai olosuhteista, joiden perusteella huolellisen talouden toimijan olisi pitänyt todeta asianomainen laittomuus] ja että tämä pätee kolmannen osapuolen tekemän ilmoituksen lisäksi tilanteeseen, jossa verkkoalusta saa selville laittoman toiminnan tai laittomien tietojen olemassaolon oma-aloitteisen tutkimuksen seurauksena. 40 34 Asiassa L Oréal vastaan ebay annetun tuomion 115 kohta. 35 Asiassa L Oréal vastaan ebay annetun tuomion 116 kohta. 36 Sähköistä kaupankäyntiä koskevan direktiivin johdanto-osan 41 kappale. 37 Sähköistä kaupankäyntiä koskevan direktiivin johdanto-osan 40 kappale. 38 Sähköistä kaupankäyntiä koskevan direktiivin 15 artiklan 1 kohta. 39 Sähköistä kaupankäyntiä koskevan direktiivin johdanto-osan 40 kappale. 40 Asiassa L Oréal vastaan ebay annetun tuomion 120 121 kohta. 12

Tästä seuraa, että verkkoalusta saattaa laittoman sisällön havaitsemiseksi ja poistamiseksi toteuttamiensa toimenpiteiden kautta saada tietoonsa laittomia toimia tai laitonta tietoa tai tulla tietoisiksi niistä, mikä näin ollen voisi johtaa siihen, että vastuuta koskeva poikkeus evättäisiin siltä sähköistä kaupankäyntiä koskevan direktiivin 14 artiklan 1 kohdan a alakohdan mukaisesti. Tällaisissa tapauksissa verkkoalustalla on edelleen mahdollisuus toimia viipymättä kyseisten tietojen poistamiseksi tai niihin pääsyn estämiseksi, kun se on saanut ne tietoonsa tai tullut tietoiseksi niistä. Näin toimiessaan verkkoalusta voi edelleen hyödyntää vastuuta koskevaa poikkeusta 14 artiklan 1 kohdan b alakohdan mukaisesti. Näin ollen voidaan todeta, että huoli vastuuta koskevan poikkeuksen epäämisestä ei muodostune esteeksi niiden tehokkaiden ennakoivien vapaaehtoisten toimenpiteiden soveltamiselle, joita tässä tiedonannossa pyritään edistämään. 3.3.2. Laittoman sisällön havaitseminen teknologian avulla Kun otetaan huomioon verkkoalustojen välittämän materiaalin suuri määrä sekä tietojenkäsittelyyn ja koneälyyn liittyvän teknologian edistyminen, automaattisesta havaitsemis- ja suodattamisteknologiasta on tulossa yhä tärkeämpi väline laittoman verkkosisällön torjumisessa. Monet suuret alustat käyttävät nykyään jonkinlaisia täsmäytysalgoritmeja, joiden perustana on erilaista teknologiaa pelkästä metadatasuodatuksesta sisällön tiivistämiseen ja varustamiseen tunnisteilla. Sähköistä kaupankäyntiä koskevassa direktiivissä täsmennetään, että vastuuta koskevat direktiivin säännökset eivät estä kehittämästä ja panemasta tehokkaasti täytäntöön teknisiä suoja- ja tunnistusjärjestelmiä ja digitaalitekniikan mahdollistamia teknisiä valvontavälineitä. 41 Direktiivissä tehdään selväksi myös se, että tällainen toiminta on toteutettava EU:n ja kansallisessa lainsäädännössä asetettujen sääntöjen asettamissa rajoissa; tämä koskee etenkin yksityisyyden ja henkilötietosuojaa ja jäsenvaltioille asetettua kieltoa asettaa yleisiä valvontavelvollisuuksia. 42 Alakohtaisessa lainsäädännössä voidaan vahvistaa pakollisesti sovellettavia sääntöjä, joiden mukaan verkkoalustojen on toteutettava esimerkiksi tekijänoikeuteen liittyviä toimenpiteitä, jotka auttavat varmistamaan laittoman sisällön havaitsemisen ja poistamisen, myös siinä tapauksessa, että ne voivat hyödyntää sähköistä kaupankäyntiä koskevan direktiivin 14 artiklassa säädettyä vastuupoikkeusta. Yleisemmällä tasolla tällaisen teknologian käyttöön ja jatkokehittelyyn kannustetaan etenkin silloin, kun kyse on vakavasta haitasta, kuten Eurooppa-neuvosto päätelmissään 22. kesäkuuta 2017 peräänkuulutti. 43 Automaattisia välineitä ja suodattimia voidaan käyttää mahdollisesti loukkaavan sisällön tunnistamiseen, ja tällaisten välineiden kehittäminen on edistynyt yksityisen ja julkisen tutkimustoiminnan yhteydessä. Sisällön automaattinen tunnistaminen on esimerkiksi tekijänoikeuksien alalla osoittautunut tehokkaaksi välineeksi jo useiden vuosien ajan. 41 Sähköistä kaupankäyntiä koskevan direktiivin johdanto-osan 40 kappale. 42 Sähköistä kaupankäyntiä koskevan direktiivin johdanto-osan 40 kappale ja 15 artiklan 1 kohta. 43 http://www.consilium.europa.eu/en/press/press-releases/2017/06/22-euco-security-defence/ 13

Komissio tukee lisätutkimusta ja innovatiivisia lähestymistapoja, joissa mennään nykytilaa pitemmälle ja joiden tavoitteena on parantaa laittoman sisällön tunnistamiseen käytettävien teknisten välineiden tarkkuutta. 44 Lisäksi se kehottaa toimialaa varmistamaan, että käyttöön otetaan innovaatioita, jotka saattavat osaltaan lisätä automaattisten havaitsemismenetelmien tehoa ja vaikuttavuutta. Toimiala käyttää automaattisia välineitä nykyään rajatakseen kiistanalaista sisältöä, jota asiantuntijat sen jälkeen arvioivat ja tarvittaessa tunnistavat laittoman sisällön. Tällainen ihmisen osallistumista edellyttävä periaate on yleensä tärkeä osa automaattisia menetelmiä, joilla pyritään määrittämään sisällön laittomuus etenkin osa-alueilla, joilla virheet ovat yleisiä tai joilla on tutkittava sisällön kontekstia. Komissio katsoo, että sähköistä kaupankäyntiä koskevan direktiivin 14 artiklan soveltamisalaan kuuluvien verkkoalustojen ennakoivat toimenpiteet, joilla pyritään havaitsemaan ja poistamaan alustojen säilyttämä laiton sisältö mukaan luettuna automaattiset välineet ja välineet, joilla on tarkoitus varmistaa, että jo poistettua sisältöä ei ladata alustalle uudelleen eivät sinällään ja yksinään ole peruste vastuuta koskevan poikkeuksen epäämiselle. Erityisesti on todettava, että tällaisten toimenpiteiden toteuttaminen ei välttämättä merkitse sitä, että asianomainen verkkoalusta olisi omaksunut aktiivisen roolin, jonka vuoksi se ei enää voisi hyödyntää poikkeusta. Jos verkkoalusta tällaisten toimenpiteidensä kautta saa todellista tietoa laittomasta toiminnasta tai laittomista tiedoista tai tulee tietoiseksi niistä, sen on toimittava viipymättä kyseisten laittomien tietojen poistamiseksi tai niihin pääsyn estämiseksi, jolloin alusta täyttää edellytyksen sille, että se voi edelleen hyödyntää kyseistä poikkeusta. Verkkoalustojen olisi kaikin keinoin pyrittävä ennakoivasti havaitsemaan, tunnistamaan ja poistamaan laiton verkkosisältö. Komissio suosittelee voimakkaasti, että verkkoalustat käyttävät vapaaehtoisia ja ennakoivia toimenpiteitä, joilla tähdätään laittoman sisällön havaitsemiseen ja poistamiseen, ja että ne lisäävät yhteistyötään, automaattiseen havaitsemisteknologiaan tehtäviä investointeja ja tällaisen teknologian käyttöä. 4. LAITTOMAN SISÄLLÖN POISTAMINEN On koko yhteiskunnan edun mukaista, että verkkoalustat poistavat laittoman sisällön mahdollisimman nopeasti. Sisällön poistaminen ei kuitenkaan saisi estää taustalla mahdollisesti olevaan lainrikkomukseen liittyvän syytteen nostamista tai muita siihen liittyviä toimenpiteitä. Tässä suhteessa on tärkeää, että viranomaiset ja verkkoalustat jakavat keskenään asiaa koskevaa 44 Toimiala keskittyy tutkimus- ja innovointitoimissaan nykyään sellaisten analyysivälineiden kehittämiseen, joilla pystyttäisiin ymmärtämään paremmin luonnollista kieltä sekä tietoketjuja sosiaalisissa verkostoissa ja parantamaan tietolähteiden, levittämismallien ja väärennetyn henkilöllisyyden tunnistamista. Komissio on tukenut alan tutkimusta ja innovointia rahoittamalla hankkeita, joissa kehitetään automaattisia varmennusvälineitä, joilla tarkastetaan käyttäjien tuottaman sisällön todenmukaisuus sosiaalisissa verkostoissa. Nämä välineet voivat auttaa havaitsemaan mahdolliset totuudenvastaisuudet teksteissä, kuvissa tai videoissa ja tukea valeuutisten jäljittämistä. Välineillä ei kuitenkaan nykyisellään pystytä selvittämään tällaisen sisällön laittomuutta. 14

näyttöä. Aiheesta on valmisteilla säädösehdotus, 45 jonka pitäisi helpottaa näytön käyttämistä maiden rajojen ylitse. Sen, että alusta poistaa laittoman sisällön, ei pitäisi vaikuttaa rikkomusten tutkintaa tai syytteen nostamista unionin tai kansallisen lainsäädännön perusteella. Käytettävissä olisi lisäksi oltava tehokkaita suojatoimia, joilla pienennetään laillisen sisällön poistamisen riskiä ja joiden tukena on toimivia avoimuusvaatimuksia, joilla lisätään poistamiseen liittyvää vastuuvelvollisuutta. 4.1. Viipymättä tapahtuva poistaminen ja rikosten ilmoittaminen lainvalvontaviranomaisille Sähköistä kaupankäyntiä koskevassa direktiivissä vaaditaan, että verkkoalustat toimivat viipymättä laittoman sisällön poistamiseksi saatuaan siitä tiedon, jos ne haluavat edelleen hyödyntää vastuuta koskevaa poikkeusta. Se mitä tämä käytännössä merkitsee, riippuu kulloisenkin tapauksen erityispiirteistä etenkin laittoman sisällön tyypistä, ilmoituksen oikeellisuudesta ja mahdollisesti aiheutuvasta vahingosta. Sisältötyypin mukaan tarvitaan erilainen määrä kontekstuaalista tietoa, jotta voidaan käytännössä määrittää yksittäisen sisältöesiintymän laillisuus. Esimerkiksi lasten seksuaaliseen hyväksikäyttöön liittyvän materiaalin laittomuus on helpompi määrittää kuin loukkaavien väitteiden laittomuus, jolloin on yleensä huolellisesti analysoitava se asiayhteys, jossa väite on esitetty. Sisällön poistaminen nopeasti on erityisen tärkeää, kun kyseessä on vakava haitta, kuten terroritekoon yllyttäminen. Silloin poistamiseen voidaan soveltaa erityisiä määräaikoja. Eräissä vapaaehtoisissa menettelyissä, kuten verkossa levitettävän vihapuheen torjumista koskevissa käytännesäännöissä, määritellään poistamisajalle suuntaa-antavia tavoitteita. Mainituissa käytännesäännöissä tavoiteaikana on useimpien tapausten osalta 24 tuntia. Sisällön täysin automaattinen poistaminen kokonaan tai toistaiseksi voi olla erityisen tehokas ja suositeltava toimenpide silloin, kun olosuhteet eivät juuri jätä epäilystä materiaalin laittomuudesta. Näin on esimerkiksi tapauksissa, joissa materiaali poistetaan lainvalvontaviranomaisten ilmoituksen perusteella tai kyse on tunnetusta laittomasta sisällöstä, joka on jo aiemmin poistettu kohdassa 4.3 tarkoitettujen turvatoimien perusteella. Nyrkkisääntönä on, että luotettavien ilmoittajien tekemään ilmoitukseen perustuva poistaminen olisi tehtävä muita tapauksia nopeammin, kun otetaan huomioon ilmoituksessa annettujen tietojen laatu ja paikkansapitävyys ja ilmoittajan luotettu asema. Kun kyse on immateriaalioikeuksien rikkomisesta johtuvasta taloudellisesta vahingosta, rikkomuksen mahdollisesti aiheuttamien taloudellisten vahinkojen laajuus voi riippua läheisesti siitä, miten nopeasti sisältö poistetaan. 45 Lisätietoja ks. https://ec.europa.eu/info/law/better-regulation/initiatives/ares-2017-3896097_fi and https://ec.europa.eu/home-affairs/what-we-do/policies/organized-crime-and-human-trafficking/e-evidence_en. 15

Kun verkkoalustat ilmoittavat selkeästi ajan, joka niillä on kulunut poistopyyntöjen käsittelyyn eri sisältötyyppien kohdalla, on helpompi arvioida, onko toimenpide toteutettu viipymättä. Se myös lisää alustojen yleisempää vastuuvelvollisuutta. Joskus ja etenkin jos verkkoalustoilla on vaikeuksia arvioida tietyn sisällön laillisuutta ja kyse on mahdollisesti kiistanalaisesta päätöksestä, niiden voi olla hyvä toimittaa epäselvät tapaukset kolmannelle osapuolelle ja pyytää siltä neuvoa. Itsesääntelyelimet ja toimivaltaiset viranomaiset toimivat eri jäsenvaltioissa tällaisina osapuolina. Onkin erittäin suositeltavaa ottaa tällainen yhteistoiminta osaksi verkkoalustojen ja toimivaltaisten viranomaisten tehostettua yhteistyötä. Verkkoalustojen olisi ilmoitettava lainvalvontaviranomaisille aina, kun niiden tietoon tulee tai ne havaitsevat näyttöä rikoksesta tai muusta lainvastaisuudesta, jotta asia tulee asianomaisten viranomaisten tietoon ja nämä pystyvät tutkimaan ja asettamaan syytteeseen henkilöitä, jotka tuottavat tällaista sisältöä, tai jos järjestäytyneet rikos- tai terroristiryhmät käyttävät palveluja väärin. Tällöin niiden olisi toimittava asiassa sovellettavien lakisääteisten vaatimusten, kuten henkilötietojen suojasta annetun asetuksen (EU) 2016/679, 46 mukaisesti. Näin voi olla tarpeen toimia myös silloin, kun kyse on sellaisten tuotteiden tarjoamisesta ja myynnistä tai sellaisista kaupallisista käytännöistä, jotka ovat EU:n lainsäädännön vastaisia. Tarve tehdä lainvalvontaviranomaisten kanssa yhteistyötä rikosten tutkinnassa ja syytteeseenpanossa voi joissakin tapauksissa johtaa myös siihen, etteivät verkkoalustat poista käsillä olevaa laitonta sisältöä, jos käynnissä olevan tutkinnan yhteydessä näin vaaditaan ja toimitaan kansallisten viranomaisten tarkassa valvonnassa ja täysin kansallisen rikosprosessilain mukaisesti. Lainvalvontaviranomaisten olisi luotava tarvittavat valmiudet toteuttaa tällaisiin ilmoituksiin liittyvät asianmukaiset toimenpiteet. 47 Hyvä esimerkki yhteyspisteistä on Europolin perustama SIRIUSportaali, 48 joka tukee jäsenvaltioita verkossa toteutettavissa terrorisminvastaisissa tutkinnoissa muun muassa helpottamalla verkkoalustojen ja EU:n lainvalvonnan yhteistyötä. 49 Sähköistä kaupankäyntiä koskevan direktiivin 14 artiklan mukaisesti verkkoalustojen on toimittava viipymättä laittoman sisällön poistamiseksi tai siihen pääsyn estämiseksi heti saatuaan tiedon tällaisesta sisällöstä, jos ne haluavat hyödyntää vastuuta koskevaa poikkeusta. Sisällön poistaminen nopeasti on erityisen tärkeää, kun kyseessä on vakava haitta, kuten terroritekoon yllyttäminen. Laittoman sisällön eri muotojen poistamiseen kulunut aika ja käytetty menettely olisi selvästi ilmoitettava avoimuusraporteissa. Komissio analysoi poistamiseen sovellettavia kiinteitä määräaikoja vielä tarkemmin. 46 6 artiklan 1 kohdan c alakohta luettuna yhdessä 6 artiklan 4 kohdan kanssa. 47 Sähköistä kaupankäyntiä koskevan direktiivin 15 artiklan 2 kohdassa säädetään, että jäsenvaltiot voivat asettaa tietoyhteiskunnan palvelun tarjoajille velvoitteita ilmoittaa viipymättä toimivaltaisille viranomaisille kyseisen palvelun vastaanottajien väitetysti toteuttamista, laittomiksi väitetyistä toimista tai antamista väitetysti laittomista tiedoista taikka velvoitteen toimittaa toimivaltaisille viranomaisille näiden pyynnöstä tietoja, joiden avulla on mahdollista tunnistaa ne toimitetun palvelun vastaanottajat, joiden kanssa palvelun tarjoajat ovat tehneet tallentamista koskevan sopimuksen. 48 Shaping Internet Research Investigations Unified System. 49 Europol auttaa lisäksi uusien keskitettyjen yhteyspisteiden perustamisessa antamalla siihen liittyvää koulutusta niiden maiden lainvalvontaviranomaisille, joissa ei vielä ole keskitettyä yhteyspistettä. 16