Taustoitusta vastuullisuuskriteereihin Mika Nieminen 16.1.2019 VTT beyond the obvious 1
Miksi tekoälyn eettisyys ja vastuullisuus? Negatiivisten seurausten välttäminen Geneerinen teknologia, jolla lukemattomia sovellusalueita Ohjelmoinnin ja datan kulttuurinen kiinnittyneisyys sekä monimutkaisuus Hyödyntäminen yhteiskunnallisesti epätoivotulla tavalla esim. yksityisyyden suoja, disinformaatio ja rikollisuus Yhteiskunnallisen hyväksyttävyyden ja toivottavuuden lisääminen Vaikuttaa monin tavoin jokapäiväiseen elämäämme erilaisissa rooleissa, tästä syystä avoin keskustelu tarpeen Yhteiskunnallisen ja liiketoiminnallisen vaikuttavuuden kasvattaminen Esim. vahvistaa yrityksen brändiä, lisää luottamusta tuotteisiin, vähentää liiketoiminnan riskejä ja epätoivottuja seurauksia 16.1.2019 VTT beyond the obvious 2
Lähtökohtia Taustalla useita vastuullisen tutkimus- ja innovaatiotoiminnan sekä tekoälyn etiikan malleja Tutkittu viime vuosina useissa EU-hankkeissa, esim: SATORI (Stakeholders Acting Together On the ethical impact assessment of Research and Innovation), RRI Tools, ja Responsible Industry. AI:n etiikkaan liittyviä malleja esim. Ethical OS Toolkit ja Ethics in design of Autonomous Intelligent Systems (Leikas ym. 2018) Vastaavia periaatteita sisältyy esim. juuri lausuntokierroksella oleva EU:n komission luonnokseen ETHICS GUIDELINES FOR TRUSTWORTHY AI (https://ec.europa.eu/futurium/en/node/6044) ja äskettäiseen AI4People raporttiin (Floridi et al. 2018) 16.1.2019 VTT beyond the obvious 3
Esimerkki: Responsible- Industry Projekti tutki, kuinka yksityiset yritykset voivat toteuttaa tutkimus- ja innovaatiotoimintaansa vastuullisesti. Projektin tavoitteena oli lisätä ymmärrystä vastuullisen tutkimus- ja innovaatiotoiminnan periaatteista sekä testata niiden toimivuutta yritysten käytännöissä. http://www.responsibleindustry.eu/home Lähde: Overview scheme of the framework. Responsible-Industry project. (2015) 4
Kuvaus tekoälyä soveltavan hankkeen vastuullisesta toteuttamisesta Vastuullisuuden osa-alueet Eettisyys Osallistaminen Läpinäkyvyys/ avoimuus Luotettavuus ja turvallisuus Tarkentava selitys Toiminnan ja sen tuotosten tulee olla vallitsevien arvojen mukaisia Loukkaamattomuus, ihmisarvo ja yksilön vapaus: toiminnan ja sen tuotosten tulee palvella ihmisten tarpeita tavalla, joka tukee ihmisten oikeuksia, vapauksia ja kulttuurista monimuotoisuutta. Oikeudenmukaisuus ja tasa-arvo: innovaatioiden tulee edistää tasa-arvoisia käyttömahdollisuuksia ja niiden tulee olla saatavilla eri ihmisryhmille fyysisistä ja psyykkisistä eroista huolimatta. Yksityisyys: ihmisillä tulee olla oikeus itseään koskevan ja itse tuottamansa datan hallinnointiin ja kontrollointiin. Keskeiset sidos- ja kansalaisryhmät, joita asia koskettaa tulee tunnistaa ja ottaa aidosti osaksi kehittämistoimintaa Ymmärrettävyys: päätökset ja toiminnot tulisi selittää ja perustella käyttäjille ja muille sidosryhmille Hyväksyttävyys: innovaatioiden ja toiminnan tulee olla sidosryhmien ja kansalaisten näkökulmasta hyväksyttäviä, käyttökelpoisia ja toivottavia. Ihmisten määräysvalta innovaatioista: ihmisillä tulee olla mahdollisuus valita miten ja josko innovaatioita otetaan käyttöön, jotta saavutetaan ihmisten valitsemia päämääriä. Toiminnan ja tuotosten tulee olla mahdollisimman avoimia kehittämistä tukevan oppimisen ja vuorovaikutuksen lisäämiseksi. Läpinäkyvyys: hankkeen tavoitteista, toiminnasta ja tuloksista tulee keskustella sekä tiedottaa sidosryhmiä ja kansalaisia totuudenmukaisesti ja avoimesti. Toiminnan tuotosten tulee olla luotettavia ja turvallisia Luotettavuus: innovaatioiden tulee olla riittävän luotettavia niihin tarkoituksiin, joissa niitä käytetään. Esimerkiksi käyttäjien tulee olla varmoja, että kerätty data on luotettavaa ja että järjestelmä ei välitä kontrolloimattomasti dataa ulkopuolisille. Turvallisuus: innovaation turvallisuus tulisi pystyä todentamaan aina kun tarpeellista ja väärinkäytön riskit tulisi minimoida. 16.1.2019 VTT beyond the obvious 5