Ihminen ja transhumaanien teknologioiden haasteet 5. luento 15.11.2010 Helsingin työväenopisto FM Jussi Tuovinen TULEVAISUUSHORISONTTI JA TEKNOLOGINEN SINGULARITEETTI
LUENNON TEEMOJA Miten hyvin voimme ennakoida teknologisen kehityksen mukanaan tuomia yhteiskunnallisia, sosiaalisia, kognitiivisia ja fysiologisia muutoksia ja niiden vaikutuksia ihmisyyteen? Ovatko epävarmuustekijät vain määrällisiä ja käytännöllisiä vaiko myös laadullisia ja periaatteellisia? Käsitteellä teknologinen singulariteetti on pyritty argumentoimaan, että tällainen periaatteellinenkin rajoite on olemassa ja vieläpä tulossa suhteellisen pian, mutta onko tälle käsitykselle perusteita? Onko yli-inhimillinen äly mahdollista? Jos on, mitä potentiaalisia riskejä siihen voi liittyä? Miten tulla toimeen pahantahtoisen superälyn kanssa?
TULEVAISUUDEN ENNUSTAMISESTA Tulevaisuuden ennustaminen tunnetusti hankalaa Prediction is very difficult, especially about the future. Niels Bohr (1885-1962) Eräissä asioissa alkaneen kehityksen suuntaa voi arvioida, mutta jotkut innovaatiot tuovat mukanaan ennakoimattomia laadullisia hyppäyksiä, esim. kirjoitustaito, pyörä, höyrykone, sähkö jne. Tyypillistä on jossain tilanteessa nopeassa kehitysvaiheessa olevan kehityksen jatkumisen ja kiihtymisen olettaminen ja ennakoimattomien tekijöiden huomiotta jättäminen Esim. yliäänilentoliikenteen ja avaruusmatkailun kehityksen yliarviointi ja hajautetun tietotekniikan ja kulutuselektroniikan leviämisen aliarviointi 1950-70-luvuilla. Esim. Avaruusseikkailu 2001:ssa (valm. v. 1968) ei osattu ennakoida kännyköitä, PC:eitä, läppäreitä, tekstareita tai sähköposteja
ENNUSTAMINEN ON VAIKEAA I "Tulevaisuudessa tietokoneet eivät paina enempää kuin 1,5 tonnia." (Popular Mechanics vuonna 1949, ennustaessaan tieteen vastustamatonta voittokulkua) "Arvioni mukaan maailmassa on markkinoita viidelle tietokoneelle." (IBM:n puheenjohtaja Thomas Watson vuonna 1943) Olen matkustellut tätä maata pitkin ja poikin ja keskustellut parhaiden asiantuntijoiden kanssa. Voin vakuuttaa teille, että automaattinen tietojenkäsittely atk on kupla, joka puhkeaa parissa vuodessa. (Kustannustalo Prentice Hall in businesskirjoista vastaava toimittaja, vuonna1957)
ENNUSTAMINEN ON VAIKEAA II "Mutta, olisiko siitä mitään hyötyä?" (IBM:n Advanced Computing Systems Divisionan insinööri vuonna 1968, kommentoidessaan mikrosirua) "Ei ole olemassa ainuttakaan syytä, minkä takia ihmiset haluaisivat tietokoneen kotiinsa." (Ken Olson, Digital Equipment Corporation perustaja ja hallituksen puheenjohtaja vuonna 1977) Puhelimessa on aivan liian paljon vikoja, että se voisi olla vakavasti otettava kommunikaatioväline. Tällaisella laitteella ei voi olla meille mitään arvoa. (Western Union Internal memo vuonna 1876)
ENNUSTAMINEN ON VAIKEAA III Menimme käymään Atarin luona ja sanoimme: Olemme rakentaneet tämän hämmästyttävän laitteen, jossa on joitain teidän valmistamianne osia. Voisitteko rahoittaa tämän kehittämistä? Voisimme jopa antaa tämän teille, saatte sen, jos palkkaatte meidät ja maksatte palkkamme. He sanoivat: Ei. Niinpä menimme Hewlet-Packardille, ja he sanoivat: Me emme tarvitse teitä. Ettehän te ole käyneet edes kouluanne vielä loppuun. (Apple Computer Inc. perustaja Steve Jobs yrityksitään saada Atari ja HP kiinnostumaan hänen ja Steve Wozniakin mikrotietokoneesta) "640 Kb pitäisi olla kylliksi kenelle tahansa." (Bill Gates vuonna 1981)
TULEVAISUUDENTUTKIMUS ELI FUTUROLOGIA Monitieteinen ja tieteiden välinen tiedonala, jonka päätehtävä on kartoittaa jonkin ilmiön mahdollisia, todennäköisiä ja toivottavia tulevaisuuksia Tulevaisuudentutkimuksen perusolettamuksen mukaan tulevaisuus ei ole ainakaan kokonaan deterministinen eli ennalta määrätty, vaan tulevaisuus on avoin ja siihen voidaan vaikuttaa Tulevaisuudentutkimus ei pyrikään siten ennustamaan yhtä ainoaa tulevaisuutta, vaan kartoittamaan mahdollisia vaihtoehtoisia tulevaisuustiloja Tulevaisuudentutkijat käyttävät hyväkseen erilaisia työkaluja kuten esimerkiksi aikasarja-analyyseja, skenaarioita ja simulaatioita
ONKO TULEVAISUUSTUTKIMUS TIEDETTÄ? Tulevaisuudentutkimus poikkeaa merkittävästi muista tieteenaloista, sillä tulevaisuustietoa ei voida testata empiirisesti nykyhetkessä, koska se ei ole vielä tapahtunut Tämän vuoksi tulevaisuudentutkimusta ja sen tuottaman tiedon totuudenmukaisuutta ja todistettavuutta kohtaan on usein esitetty kritiikkiä Toisaalta tulevaisuudentutkimuksessa laajalti omaksutun kriittisen realismin tietoteorian mukaan kaikki tieto on epätäydellistä ainakin joltain osin, ja tieto on aina vain oikeutettu ja hyvin perusteltu tosiuskomus Tämän tulkinnan mukaan siis hyvin perusteltua tosiuskomusta koskien tulevaisuutta voidaan myös pitää tietona
TEKNOLOGINEN SINGULARITEETTI Tulevaisuudentutkimuksessa esitetty hypoteesi, jonka mukaan yli-inhimillinen tekoäly kiihdyttää teknologisen kehityksen ja sosiaalisen muutoksen niin nopeaksi, että singulariteettia edeltäneet ihmiset eivät pysty ymmärtämään tai mielekkäästi ennustamaan tulevaisuutta Ilmiön nimitys on analogia, joka viittaa modernin fysiikan sääntöjen kaatumiseen lähellä mustan aukon singulariteettia Singulariteetin arvioidaan tapahtuvan aikaisintaan 2030- luvulla, mutta arviot ovat kiistanalaisia Käsitettä käytetty jo 1950-luvulla, mutta se tuli yleiseen tietoisuuteen vasta 1980-luvulla matemaatikko ja tieteiskirjailija Vernor Vingen myötä; essee The Coming Technological Singularity, 1993
ÄLYKKYYSRÄJÄHDYS JA SUPERÄLY Vinge esittää monta vaihtoehtoista ja/tai rinnakkaista kehityskulkua kohti singulariteettia: 1. Keino-/tekoälyn kehittäminen 2. Ihmisen ja tietokoneen yhä kehittyneempi yhteistyö (kyborgit) 3. Biologisten ihmisten älykkyyden kehittäminen (geneettisesti tai muuten) Jossain vaiheessa kehittyvä älykkyys johtaa positiiviseen takaisinkytkentäsilmukkaan: yhä älykkäämmät järjestelmät voivat kehittää itseään ja/tai toisia järjestelmiä entistäkin älykkäämmiksi, ja mikä olennaisinta - tavallista ihmistä nopeammin Toteutuessaan tämä ilmiö aiheuttaisi älykkyysräjähdyksen, joka johtaisi yli-inhimillisen superälyn ilmaantumiseen
SINGULARITEETIN ENNUSTAMATTOMUUS Singulariteettihypoteesiin liitetään usein väittämä, että meille on mahdotonta ennustaa, mitä singulariteetin jälkeen tarkkaan ottaen tapahtuisi Väittämä perustuu sille, että koska ko. maailmassa vaikuttaisi nykyihmistä suuresti älykkäämpiä olentoja, emme voi tietää, millä tavoin ne maailmaa kehittäisivät tämähän vaatisi sen, että olisimme itsekin lähtökohtaisesti yhtä älykkäitä Älyn lisäksi keskeinen kysymys tietoisuus, tahto ja tunteet; tulevatko ne automaattisesti vai olisiko tunteeton superäly mahdollista, ja jos kumpi olisi riskialttiimpaa ihmisen kannalta? Vrt. kapinoivat robotit ja tietokoneet (Terminaattorit, Proteus, HAL 9000 jne.)
HYVÄ VAI PAHA SUPERÄLY? Vaikuttamalla syntyvien olentojen arvoihin niiden alkumuotoja luodessamme voimme pyrkiä varmistamaan, että ne kunnioittavat myös vähemmän älykkäiden tietoisten olentojen oikeuksia (= me ja muut eläimet) Mutta onko takeita, että tuollainen perusasetus säilyisi kaikissa olosuhteissa? Asimovin robotiikan lait Ihmistenkin lakeihin löytyy rikkojia, miksei sitten tekoälyn ja robottien tapauksessa? Täydellisiä järjestelmiä ei yleensä ole
ONKO HYPOTEESI PERUSTELTU? Näkemykset Vingen skenaarion aktualisoitumisen todennäköisyydestä vaihtelevat suuresti Ne, joiden mielestä teknologinen singulariteetti on periaatteessa mahdollinen, pitävät kuitenkin hyvinkin mahdollisena että se tapahtuu viimeistään v. 2100 mennessä Toisaalta kuten aiemminkin on nähty, ennusteet voivat heittää hyvinkin paljon Radikaalisti ja nopeastikin levinneille teknologisille innovaatioille (radio, TV, tietokone, kännykkä jne.) ominaista on, että ne asettuvat lähes saumattomasti olemassa oleviin ihmiskäytänteisiin toki aikanaan niitä muokaten ja muuntaen Yhtäkkiselle jyrkälle ja periaatteelliselle muutokselle ei näyttäisi olevan esikuvia
RAYMOND KURZWEIL (S. 1948) Amerikkalainen keksijä ja pioneeri mm. optisen hahmontunnistuksen, puheen syntetisoinnin, puheentunnistusteknologian ja elektronisten kosketinsoittimien alalla Kirjoittanut kirjoja mm. terveydestä, tekoälystä, transhumanismista ja teknologisesta singulariteetista Ennustanut teknologisen singulariteetin toteutuvan vuoteen 2045 mennessä Toisaalta samaa on ennustettu tapahtuvaksi jo ohitettuina vuosina (esim. 2009), joten äkillisen murroksen tuloon voi suhtautua vähintäänkin skeptisesti
KIIHTYVÄN MUUTOKSEN LAKI Kiihtyvän muutoksen laki (The Law of Accelerating Returns) on Kurzweilin ehdotus Mooren lain yleistykseksi, jonka mukaan tekoälyn ja muiden tietoteknisten sovellusten suorituskyky kasvaa myös geometrisessä sarjassa ja jossain vaiheessa saavuttaa ja ylittää ihmisen älyn ja myös sen ennakoitavissa olevat kehityspiirteet Analogia Thomas Malthuksen (1766-1834) tunnettuun teoriaan väestönkasvun (lisääntyy geometrisessä sarjassa) ja ravinnontuotannon kasvun (aritmeettinen sarja) välisestä peruuttamattomasta ristiriidasta Toisaalta peruste myös kritiikkiin; Malthuksen teoria ei ole ainakaan sellaisenaan toteutunut
MOOREN LAKI Gordon E. Mooren jo v. 1965 tekemä havainto, jonka mukaan transistorien lukumäärä kaksinkertaistuu halvasti toteutettavissa mikropiireissä joka toinen vuosi Viimeisimpien arvioiden mukaan laki näyttää pitävän paikkansa vielä vuosien ajan
TEKOÄLYN EVOLUUTIO Kehitämme tietokoneen, johon lisäämme aina vaan enemmän aina nopeampia suorittimia, työmuistia ja tallennusyksiköitä Tämä tekoäly oppii näin jatkuvasti lisää ja tallentaa tätä eri syötelaitteista tulevaa informaatiota aina vain paremmin ja paremmin, eli luo tallennetun tiedon hakemistorakenteita jotka aina paremmin yhdistävät eri tietoja toisiinsa Yhdistämme keinoälykoneeseen erilaisia teknisiä apuvälineitä, jotta laite voi paremmin olla yhteydessä itsenäisesti eri tiedonlähteisiin ja hakea tietoa eri lähteistä Koneellamme on yhteydet tietoverkkoihin ja kaapeli/satelliittikanaviin, skannerit ja "tekniset kädet" kirjojen, lehtien ja muun paperimateriaalin käsittelyyn jota ei vielä löydy datamuodossa
ITSEOPPIVA TEKOÄLY Tekoälykoneemme opettelee ja järjestelee kaikki kirjakielet mahdollisimman tehokkaasti ja pian se pystyy käsittelemään millä tahansa tunnetulla kielellä kirjoitetun datan ja tekstin Pian koneemme käy läpi kaikki kirjastojen materiaalit jne. Kun lajiteltua tietoa on tarpeeksi keinoäly alkaa yhdistämään erillisiä tiedonkappaleita aina vain laajemmiksi kokonaisuuksiksi Luonnontieteiden ja muiden tieteiden tiedonsirpaleista se kokoaa tehokkaiden hakurutiiniensa avulla pian niitä yhdistävät tiedot ja muodostaa näistä uusia kokonaiskuvia eri tieteenaloista
TEKOÄLY KEHITTÄÄ ITSEÄÄN Haluaako tekoälymme, joka on ohittanut kaikki ihmisen tieteelliset saavutukset jäädä paikalleen, vai haluaako se liittää itseensä itsenäiseen toimintaan kykenevien yksiköiden verkkoon? Jotta tekoäly saisi mahdollisimman paljon uuta tietoa se ei voi jäädä paikalleen, vaan sen ohjaamat yksiköt lähtevät yhä kauemmas hakemaan uutta tietoa, ensin maapallolla ja pian avaruuteen Teko- tai nyt reilusti jo superäly myös haluaa laajentaa aistejaan ja se suunnittelee yhä kauemmas näkeviä kaukoputkia tai sm-ilmaisimia ja yhä pienempään näkeviä mikroskooppeja
SUPERÄLY PUOLUSTUSKANNALLA Todennäköisesti superäly jo melko pian on alkanut "ajatella" omaa turvallisuuttaan ja ennen pitkää se suojaa itsensä ihmiseltä, tuolta tyhmältä ja mitättömältä olennolta Ihmistiedon rajat tulevat pian vastaan ja superäly suuntautuu muuhun, jolloin ihmisen merkitys sille vähenee kovaa vauhtia Superälyn tiedon keruuseen suunnittelemien ja valmistamien yksiköiden määrän kasvaessa niiden ja ihmisten rauhanomaisen rinnakkaisolon lakipiste saavutetaan ja alkaa intressiristiriidat Tuhoaako superäly silloin ihmiskunnan?
RAY HAMMOND JA UUSI LAJI Brittiläinen tulevaisuudentutkija, jonka mukaan jo muutaman vuosikymmenen päästä evoluutiossa tapahtuu merkittävä loikka: älykkäät koneet tai koneälykkyys ihmiseen yhdistettynä muodostavat kokonaan uuden lajin Hammondin mukaan ihmistä älykkäämpi tietokone voi olla keskuudessamme jo 15 vuoden päästä, ja meillä pitää olla sääntöjä ja toimintatapoja jo valmiiksi Sääntöihin kuuluvat muun muassa toimintatavat älyrobottien kanssa: annetaanko niiden esimerkiksi liikkua ja ladata itsensä vapaasti Miten ehkäistään ihmisen kannalta ei-toivotut konfrontaatiot? (vrt. Isaac Asimovin robotiikan lait)
SUPERÄLY Yli-inhimillinen äly (superäly) on mikä tahansa ihmisälyä kaikin tavoin paremmin suoriutuva äly Tätä vaatimusta ei täytä esimerkiksi kaikki ihmiset voittava shakkitietokone, vaan yli-inhimilliseksi tunnustettavan älyn tulee olla ihmistä paremmin suoriutuva myös esim. tieteellisen luovuuden, yleisen viisauden sekä sosiaalisten taitojen aloilla Usein erotellaan heikosti ja vahvasti yli-inhimillinen äly. Heikko superäly olisi esimerkiksi tuhatkertaisella nopeudella pyörivä (esim. tehokkaaseen nanotietokoneeseen ladattu) ihmismieli Ulkopuoliselle tavalliselle ihmistarkkailijalle tällainen mieli voisi näyttää hyvinkin älykkäältä, koska se ehtisi ajatella paljon biologista ihmistä nopeammin (vrt. Turingin testi)
SUPERSUPERÄLY Vahvasti yli-inhimillinen äly puolestaan tarkoittaa älyä, joka ei ole vain ihmisaivoja nopeampi ajattelija, vaan myös tähän verrattuna kvalitatiivisesti jollain tapaa ylivertainen Tällaisen älyn suhde ihmisälyyn voidaan rinnastaa ihmisälyn suhteeseen koiran älyyn: jos koiran mieltä nopeutetaan tuhatkertaisesti, ei koirasta silti tule ihmisen tasoista ajattelijaa, vaan tarvitaan rakenteellisiakin muutoksia Tällaisen laadullisesti yli-inhimillisen älyn on väitetty olevan kenties saavutettavissa jopa kuluvalla vuosisadalla ja ehkä jopa aikaisemmin ja tämä käytännössä tarkoittaisi teknologisen ja tekoälyllisen singulariteetin saavuttamista (vrt. Kurzweil ja 2029)
IHMIS- JA KONEOHJELMAT Laskentakapasiteettipuolella koneiden kasvuteho lähestyy kovaa vauhtia ihmisaivoja ja ohittanee sen piankin, joten mahdolliset ongelmat ja epätarkkuus ei liity niinkään tähän, vaan ohjelmapuoleen Mikäli laskennallinen neurotiede kehittyy tarpeeksi, ihmisaivojen käyttämät oppimisalgoritmit voidaan ehkä toteuttaa tietokoneohjelmina Tällöin konetta opetettaisiin kuten ihmislasta, ja siitä tulisi oma, ainakin jollain tapaa inhimillinen persoonansa niin hyvässä kuin pahassakin Koska konetietoisuuden mahdollisuutta ei ole periaatteen tasolla ratkaistu tai todennettu, kaikki tämä on ainakin vielä toistaiseksi vahvasti spekulatiivista
IHMISÄLYN LATAUS KONEELLE Toinen potentiaalinen keino superälyn kehittämiselle voisi olla olemassa olevan ihmismielen lataaminen koneelle, mikäli tällainen teknologia saadaan kehitettyä Tällöin konetehojen kasvaessa ladattu mieli saavuttaisi heikon superälyn, ja oletettavasti biologisista rajoituksista vapautettuna sitä voitaisiin kehittää (tai se kehittyisi itse) aktiivisestikin kohti vahvaa superälyä Tarjoaa hyvinkin huikeita tulevaisuudennäkymiä mutta myös jo aivan periaatteellisia haasteita liittyen ihmisen kokemaansa (tai kuvittelemaansa) minuuteen ja identiteettiin, yksilön sosiaaliseen ja juridiseen asemaan jne. Perusedellytyksenä tietysti asianmukaisen teknologian toteutuminen
FRANKENSTEIN-SKENAARIO Kolmas vaihtoehto on luoda mieli puhtaalta pöydältä joko biologiselle tai mekaaniselle pohjalle tai näiden yhdistelmälle Tämä ratkaisumalli vaatii yleisen teorian ja tiedon kognitiosta (vrt. tieto geeneistä ja niiden vaikutuksesta edellytyksenä geenimanipulaatiolle) Riittävää tietoa ja teoriaa tällaiselle kognitiomanipulaatiolle ei vielä ole, mutta ellei sitouduta joihinkin dualistisiin tai uusmystisiin käsityksiin tietoisuudesta, ei ole periaatteellista estettä, etteikö joskus vielä olisi Riskit, haasteet ja mahdollisuudet periaatteessa samoja kuin muissakin skenaarioissa Uusi laji voitaisiin luoda hyväksi, mutta aivan yhtä hyvin myös pahaksi
SUPERÄLY TULEE (?) OLETKO VALMIS? Lähestymistavasta ja kehitysvaihtoehdoista riippumatta olisi tärkeää pohtia jo etukäteen, miten varautua superälyn potentiaalisesti valtaviin vaikutuksiin ja ohjata niitä hyödyttämään tietoisia olentoja kauhuskenaarioiden sijaan Vaikeasti ennustettavien teknologisten tekijöiden ohella on myös helpommin ennustettavia, kuten ihmisluonne, jossa on ainakin toistaiseksi tapahtunut suhteellisen hidasta kehitystä, vaikka arvo- ja asennemaailmoissa suhteellisen nopeatkin muutokset ovat mahdollisia Niinpä niin kauan kun nykyisenkaltainen ihmisäly pitää kiinni ohjaksista, on odotettavissa niin hyvää kuin pahaa, niin positiivisia kuin negatiivisiakin sovelluksia
ELÄMME KIINNOSTAVIA AIKOJA Mikäli taas superäly (biologinen, mekaaninen tai joku näiden yhdistelmä) astuu remmiin, alkaa todellinen ennakoimattomuuden vyöhyke eli jonkinasteinen singulariteetti Miten sitten käykään, aika tulee näyttämään, mutta ei-kovinuskalias arvaus on, että kävi niin tai näin, elämme varsin mielenkiintoisia aikoja Edellyttäen tietysti, ettei maailma lopu Maya-kalenterin mukaisesti 21.12.2012, mitä pidän kuitenkin suhteellisen epätodennäköisenä esitetyn evidenssin valossa Voin tietysti olla väärässäkin, ja lupaankin tarjota oluet kaikille oikein arvanneille 22.12.2012, mikäli näin ikävästi sattuisi käymään