PARVIÄLYKKYYS JA MUURAHAISPOHJAISET ALGORITMIT

Transkriptio

1 PARVIÄLYKKYYS JA MUURAHAISPOHJAISET ALGORITMIT Mikko Suominen Pro gradu -tutkielma Tietojenkäsittelytieteen laitos Tietojenkäsittelytiede Heinäkuu 2013

2 ITÄ-SUOMEN YLIOPISTO, Luonnontieteiden ja metsätieteiden tiedekunta, Kuopio Tietojenkäsittelytieteen laitos Tietojenkäsittelytiede Opiskelija, Suominen Mikko: Parviälykkyys ja muurahaispohjaiset algoritmit Pro gradu -tutkielma, 61 s., 6 liitettä (34 s.) Pro gradu -tutkielman ohjaaja: FT Maija Marttila-Kontio Heinäkuu 2013 Tutkielmassa parvikäyttäytyminen ja parviälykkyys esitellään esimerkkien avulla, pääasiassa mehiläisten ja muurahaisten avulla. Tutkielmassa esitellään myös kaksi muurahaispohjaista parviälykkyysalgoritmia ja verrataan algoritmien suoritusnopeutta keskenään kolmella Kauppamatkustajan ongelman ilmentymällä. Tutkielmassa käytetyt muurahaispohjaiset parviälykkyysalgoritmit ovat Ant System ja Ant Colony System. Tutkielmassa on verrattu Ant System ja Ant Colony System -algoritmien suoritusaikoja keskenään riippumattomien otosten t-testillä ja Mann-Whitneyn U- testillä Kauppamatkustajan ongelman ilmentymissä rd100, berlin52 sekä pr152. Riippumattomien otosten t-testillä ja Mann-Whitneyn U-testillä on haluttu osoittaa algoritmien suoritusaikojen tilastolliset erot. Ant Colony System löysi lyhimmän reitin kaikista kolmesta ilmentymistä selvästi nopeammin kuin Ant System, joten erot olivat tilastollisesti merkitseviä. Tutkielman pohjalta jatkotutkimuksena suositellaan vertaamaan algoritmien löytämien lyhimpien reittien pituuksia keskenään. Tutkielman kokeellinen osuus osoitti, että Ant System -algoritmi on hitaampi kuin Ant Colony System -algoritmi, mutta Ant System -algoritmilla löydettiin muutamia kertoja lyhyempi reitti kuin Ant Colony System -algoritmilla kaikista kolmesta Kauppamatkustajan ongelman ilmentymistä. Avainsanat: parvikäyttäytyminen, parviälykkyys, muurahaispohjaiset algoritmit, Ant System, Ant Colony System ACM-luokat (ACM Computing Classification System, 2013 version): Machine learning, Multi-agent reinforcement learning, Paths and connectivity problems, Probabilistic reasoning i

3 UNIVERSITY OF EASTERN FINLAND, Faculty of Science and Forestry, Kuopio School of Computing Computer Science Student, Suominen Mikko: Swarm Intelligence and Ant-Based Algorithms Master s Thesis, 61 p., 6 appendixes (34 p.) Supervisor of the Master s Thesis: PhD Maija Marttila-Kontio July 2013 In this thesis swarm behavior and swarm intelligence is introduced by examples of nature, mainly with examples of bees and ants. Algorithm s running times are compared with each other with three Travelling Salesman Problem instances. The antbased swarm intelligence algorithms used in this thesis are Ant System and Ant Colony System. Running times of the algorithms with the instances of Travelling Salesman Problem rd100, berlin42 and pr152, are compared with each other with an independent sample t-test and with Mann-Whitney U test. With the tests the statistical difference in algorithms running times is proved. Ant Colony System found the shortest path from all instances faster than Ant System and the differences between running times are statistically significant. Based on this thesis and for further studies, the shortest paths found with Ant System and Ant Colony System algorithms are recommended to be compared with each other. Based on the results of this thesis, Ant System algorithm occasionally managed to find a shorter path than Ant Colony System from all three instances of Travelling Salesman Problem. The running time of Ant System -algortihm was slower than the running time of Ant Colony System -algoritm in every scenario with the tested Travelling Salesman problem instances. Keywords: swarm behaviour, swarm intelligence, ant-based algorithms, Ant System, Ant Colony System CR Categories (ACM Computing Classification System, 2013 version): Machine learning, Multi-agent reinforcement learning, Paths and connectivity problems, Probabilistic reasoning ii

4 Esipuhe Tämä tutkielma on tehty Itä-Suomen yliopiston Kuopion kampuksen Tietojenkäsittelytieteen laitokselle aikavälillä marraskuu 2011 ja heinäkuu Haluan erityisesti kiittää tämän tutkielman ohjaaja Maija Marttila-Kontiota kärsivällisestä ja neuvovasta ohjauksesta. Tutkielman teko venyi reilusti pidemmäksi alkuperäisestä suunnitelmasta muun muassa terveydellisistä syistä johtuen, joten ohjaajalta on vaadittu kärsivällisyyttä tutkielman tekoprosessin ajan. Viimein kaikkien vaiheiden jälkeen olen saanut tutkielman valmiiksi ja yksien kansien sisään ja voin huokaista helpotuksesta sekä keskittyä elämässä muihin asioihin. Kiitos kannustuksesta ja tukemisesta myös vanhemmilleni sekä veljilleni, joilta olen saanut myös neuvoja tämän tutkielman tekoprosessin aikana. iii

5 Lyhenteet ja termit ADAPTIIVINEN Muutoksiin sopeutuva DYNAAMINEN JÄRJESTYS Olosuhteiden mukaan liikkuva ja mukautuva järjestys EI-MINIMAALINEN REITITYSALGORITMI Reititysalgoritmi, jonka tehtävänä on etsiä reitti verkosta jollain muulla heuristiikalla kuin lyhimmällä polun heuristiikalla FEROMONI Muurahaisten levittämä kemikaali, jolla houkutellaan muita muurahaisia hajun avulla HAIHTUMISKERROIN Numeerinen arvo väliltä [0,1), minkä mukaan feromonit haihtuvat kaarilta HAMILTONIN POLKU Verkosta löytyvä polku, jossa jokaisessa verkon solmussa käydään vain kerran HEURISTIIKKA Kokemukseen perustuva oppiminen HIUKKASPARVIOPTIMOINTI Parviälykkyyden kehittynein sovellus, jossa käytetään apuna liikkuvia partikkeleita KAARI Verkon osa, joka yhdistää solmut keskenään KAUPPAMATKUSTAJAN ONGELMA Lyhimmän polun etsintäongelma, jossa kauppamatkustajan tehtävänä on vierailla jokaisessa kaupungissa vain kerran ja palata lähtöpisteeseen iv

6 NEGATIIVINEN PALAUTE Parviälykkyydessä esiintyvä ilmiö, jolla pyritään estämään muutosta NP-VAIKEA PARADIGMA Ongelma, johon ei ole löydetty yleispätevää ratkaisua NOLLAHYPOTEESI Tilastollisen päätöksenteon oletus, jonka oikeellisuutta testataan tilastollisella testillä MANET Matkapuhelinten AdHoc -verkko eli langattoman kommunikoinnin matkapuhelinverkko MERKITSEVYYSTASO Tilastotieteen termi, jolla kuvataan todennäköisyyttä hylätä oikeassa oleva nollahypoteesi MINIMAALINEN REITITYSALGORITMI Reititysalgoritmi, jonka tehtävänä on etsiä lyhin reitti verkosta MUURAHAISKOLONNAOPTIMOINTI Tietojenkäsittelytieteessä käytetty termi muurahaisten lyhimmän reitin etsinnässä pesän ja ruoan välillä MUURAHAISALGORITMI Muurahaisten käyttäytymisen tutkimisen tuloksena syntynyt algoritmi, jonka tehtävänä on etsiä lyhintä polkua verkosta OTOSKOKO Tässä tutkielmassa: Tilastollisen kokeen suorituskertojen määrä samalle Kauppamatkustajan ilmentymälle v

7 PARTIKKELI Parvessa tai verkossa itsenäisesti ryhmän osana liikkuva agentti, muurahainen tai yksilö PARVIÄLYKKYYS Tutkimusalue, jossa tutkitaan partikkelien itseorganisoituvaa kollektiivista älykkyyttä POSITIIVINEN PALAUTE Parviälykkyydessä esiintyvä ilmiö, jonka pyrkimyksenä on vahvistaa muutosta PROAKTIIVINEN Ennakoiva REAKTIIVINEN Herkästi ulkoisiin ärsykkeisiin reagoiva REYNOLDSIN SÄÄNNÖT Parvikäyttäytymisen kolme sääntöä: välttäminen, suuntaus ja vetovoima. Säännöt pätevät kaikkiin parviin STAATTINEN Muuttumaton, ulkoisiin muutoksiin reagoimaton SOLMU Verkon osa, jolla yhdistetään verkon kaaret keskenään TOPOLOGIA Perusrakenne. Tässä tutkielmassa tarkoitetaan verkon perusrakennetta USEIDEN EDESTAKAISTEN REITTIEN REITITYS Multiple Round Trip Routing -algoritmi, joka on kehitetty datapakettien edestakaiseen reititykseen VASTAHYPOTEESTI Nollahypoteesin vastahypoteesi, jonka oikeellisuutta testataan tilastollisella testillä vi

8 VERKKO Reititysongelmien kuvantamistapa ja verkko koostuu solmuista ja kaarista VÄHITEN MERKITSEVÄ BITTI Least Significant Bit. Luvun binääriesityksessä viimeinen eli oikeanpuoleisin bitti vii

9 Sisällysluettelo 1 Johdanto Parvikäyttäytyminen Parvikäyttäytyminen ympärillämme Näkymättömät johtajat Kulkusirkat ja Reynoldsin säännöt Parviälykkyys Parviälykkyyden perusperiaatteet Mehiläiset Muurahaiset Parviälykkyyden hyödyt ongelmanratkaisussa sekä parviälykkyyden sovellukset Muurahaisten parviälykkyys ja niihin perustuvat algoritmit Muurahaispohjaisten algoritmien esitys tietojenkäsittelytieteessä Kommunikaatioverkot ja reititysalgoritmit Reititysalgoritmien ongelmia Reititysalgoritmien testaus Kauppamatkustajan ongelma (Travelling Salesman Problem), TSP TSP käytännössä: ajoneuvojen reititysongelma Ant System (AS) Ant Colony System (ACS) Ant Colony System: Viestintästrategiat Ant system ja ant colony system -algoritmien ratkaisutehokkuus kauppamatkustajan ongelman ratkaisussa Ant System ja Ant Colony System -algoritmien tietorakenteet Ant System ja Ant Colony System -algoritmien muuttujat ja metodit Toteutuksessa käytetyt ohjelmat ja resurssit Algoritmien suoritustehokkuuksien analysointi kauppamatkustajan ongelmassa Pohdinta Viitteet Liitteet Liite 1: Ant System -algoritmin pseudokoodi (3 sivua) Liite 2: Ant Colony System -algoritmin pseudokoodi (3 sivua) Liite 3: Ant System -algoritmin lähdekoodi (13 sivua) Liite 4: Ant Colony System -algoritmin lähdekoodi (14 sivua) Liite 5: Ant Colony System -algoritmin suoritusajat ja löydettyjen reittien pituudet viii

10 muuttujan arvojen vaihdellessa (1 sivu) Liite 6: Microsoft Public License (2 sivua) ix

11 1 Johdanto Tässä tutkielmassa tutustutaan parviälykkyyteen ja kahteen muurahaispohjaiseen parviälykkyysalgoritmiin Ant System ja Ant Colony System. Parviälykkyyden tutkimisen inspiraationa on toiminut eläinkunta ja pääasiassa kulkusirkkojen, mehiläisten ja muurahaisten parvikäyttäytyminen. Tutkielmassa parviälykkyyttä tarkastellaan kulkusirkkojen, mehiläisten ja muurahaisten parvikäyttäytymisen avulla. Parviälykkyydessä on kysymys yksilöiden yhteistoiminnasta ongelman ratkaisemiseksi. Esimerkiksi muurahaiset käyttävät parviälykkyyttä ruoan etsimiseen ja mehiläiset uusien pesäpaikkojen etsimiseen. Toimintoihin käytetään yksinkertaisia sääntöjä, joiden avulla parvikäyttäytyminen ja sitä kautta parviälykkyys on mahdollista, mutta mistä säännöt johtavat juurensa ja miten ne syntyvät? Tässä tutkielmassa vastataan muun muassa tuohon kysymykseen. Termi parviäly esiteltiin ensimmäisen kerran vuonna 1989 (Beni & Wang, 1989), jolloin parviälykkyyden tutkimus lähti todistetusti liikkeelle. Mehiläiset ja muurahaiset ovat olleet pääasiallinen innostuksen lähde parviälykkyyden tutkimuksessa (Fisher, 2009; Fleischer, 2003). Muurahaisten toimintaa on tutkittu eniten ja muurahaisten tutkimisen avulla on kehitetty parviälykkyysalgoritmeja, kuten Ant System ja Ant Colony System -algoritmit. Eräitä tunnetuimpia parviälykkyyden tutkijoita ovat Eric Bonabeau, Marco Dorigo sekä Guy Theraulaz, jotka ovat myös kirjoittaneet kirjan Swarm Intelligence: From Natural to Artificial Systems (Bonabeau et al., 1999), johon tässä tutkielmassa viitataan useaan otteeseen. Lisäksi tutkielmassa käytetään muun muassa tutkijoiden Luca Maria Gambardellan, Vittorio Maniezzon ja Alberto Colornin tutkimustuloksia parviälykkyydestä (Di Caro et al., 1998; Dorigo et al., 1997). Parviälykkyys ja muurahaispohjaiset algoritmit valittiin tutkielman aiheeksi, koska parviälykkyyttä voidaan implementoida jokapäiväiseen ongelmanratkaisuun, laskennallisista ongelmista liike-elämään (Bonabeau & Meyer, 2001). Tutkielmassa perehdytään parviälykkyyteen parvikäyttäytymisen kautta ja analysoidaan Ant System ja Ant Colony System -algoritmien suoritustehokkuutta Kauppamatkustajan ongelman ratkaisemisessa. Kauppamatkustajan ongelma on NP-täydellinen ongelma 1

12 (Cook, 2007), joten siihen ei ole löytynyt yleispätevää ratkaisua. Parviälykkyyden sovellukset, kuten Ant System ja Ant Colony System -algoritmit tarjoavat uusia ratkaisumahdollisuuksia Kauppamatkustajan ongelmaan. Kauppamatkustajan ongelmaa pidetään benchmarkina laskennallisessa optimoinnissa (Bonabeau et al., 1999), joten tässä tutkielmassa esiteltyjen algoritmien suoritustehokkuuden testaus Kauppamatkustajan ongelman ilmentymillä oli luonnollinen vaihtoehto. Tutkielman kokeellisessa osuudessa verrataan Ant System ja Ant Colony System - algoritmien suoritusaikoja ja lyhimpiä löydettyjä reittejä Kauppamatkustajan ongelman ilmentymissä keskenään. Suoritusaikoja verrataan keskenään tilastollisin menetelmin. Saatujen tulosten avulla on haluttu osoittaa, että Ant Colony System - algoritmi on kehittyneempi versio Ant System -algoritmista sekä että muurahaispohjaiset parviälykkyysalgoritmit Ant System ja Ant Colony System ovat käyttökelpoisia algoritmeja lyhimmän reitin etsinnässä Kauppamatkustajan ongelman ilmentymissä. Tutkielmassa johdatellaan lukijaa aiheeseen lukujen 2 ja 3 avulla. Luvussa 2 kerrotaan parvikäyttäytymisestä ja sen yhteydestä luontoon. Luvussa 3 keskitytään parviälykkyyteen, joka liitetään läheisesti parvikäyttäytymiseen. Luvussa keskitytään enemmän parviälykkyyden hyötyihin ja muurahaisiin, koska tutkielman aiheena ovat parviälykkyys ja muurahaispohjaiset algoritmit. Luvussa 4 esitellään Kauppamatkustajan ongelma sekä Ant System että Ant Colony System -algoritmit matemaattisten kaavojen tarkkuudella. Luvussa esitellään myös Kauppamatkustajan ongelman yksi käytännön sovellus sekä Ant Colony System -algoritmin parantamiseksi seitsemän eri viestintästrategiaa. Luvussa 5 Ant System ja Ant Colony System -algoritmeja testataan kauppamatkustajan ongelman ilmentymien avulla sekä esitetään ja analysoidaan saadut tulokset. Luvussa 6 on tutkielman yhteenveto ja pohdinta. Pohdinnassa esitellään tutkielman pohjalta tehdyt johtopäätökset ja jatkotutkimusideat. 2

13 2 PARVIKÄYTTÄYTYMINEN Tässä luvussa esitellään parvikäyttäytymistä. Esimerkkien avulla huomataan, että parvikäyttäytyminen on osa ihmisten ja eläinten jokapäiväistä elämää. Lisäksi on havaittavissa, että parvikäyttäytymisen ja parviälykkyyden välillä ei ole suurta eroa ja parvikäyttäytymistä on ymmärrettävä, jotta voidaan ymmärtää parviälykkyyttä. Kappaleessa 2.1 kuvataan parviälykkyyttä ympärillämme. Kappaleessa 2.2 kuvataan parvikäyttäytymiselle tyypillisiä näkymättömiä johtajia, joiden passiivisella johtamisella parvet liikkuvat. Kappaleessa 2.3 perehdytään kulkusirkkoihin, joiden tutkiminen on auttanut ymmärtämään parvikäyttäytymistä. Samassa kappaleessa esitellään myös Reynoldsin säännöt, joita jokainen parven yksilö noudattaa huomaamattaan. 2.1 Parvikäyttäytyminen ympärillämme Parvikäyttäytyminen on eläinten käyttäytymispiirre, jossa eläimet hakeutuvat toisten samanlaisten yksilöiden läheisyyteen (Wootton, 1998). Parvikäyttäytyminen on ominaista kaikille suurina joukkoina esiintyville eläimille ja ihmisille. Tutkimus (Fisher, 2009) on osoittanut, että parvikäyttäytyminen ei vaadi monimutkaisia käyttäytymismalleja, vaan yksinkertaisia vuorovaikutussääntöjä vierekkäisten yksilöiden kanssa. Esimerkiksi jalkapallopelissä ihmiset tekevät aaltoja yleisössä. Jokaisen yksilön kohdalla tehdään vuorollaan samat liikkeet, eli noustaan ylös, nostetaan kädet ilmaan ja lasketaan kädet alas. Seuraavana vuorossa olevat henkilöt tekevät edellisen esimerkin mukaan liikkeensä. Tällainen informaation välitys yksinkertaisilla menettelytavoilla on parvikäyttäytymisen perusperiaatteita. Eläimet, varsinkin hyönteiset ja ihmiset, osaavat liikkua sulavasti suurina joukkoina törmäilemättä toisiinsa säilyttäen tiiviin parvimaisen rakenteensa. Eläinten parvikäyttäytymistä on tutkittu paljon ja muun muassa muurahaisten käyttäytymisen tutkimisen (Dorigo et al., 1999) kautta on kehitetty parviälykkyyden sovelluksia Parvikäyttäytymistä on kaikkialla elottomassa ja elollisessa luonnossa ja useat luontokappaleet ovat jatkuvasti tekemisissä parvikäyttäytymisen kanssa. 3

14 Noudattamalla yksinkertaisia sääntöjä luontokappaleet muodostavat monimutkaisia rakenteita ja kaavoja. Elottomat rakenteet muodostavat myös monimutkaisia rakenteita. Atomien molekyylit esimerkiksi muodostavat kiteitä ja hiekkadyynit muodostuvat tuulen puhaltaessa aavikon yli. Molemmissa tapahtumissa noudatetaan yksinkertaisia sääntöjä. Hiekkadyynit muodostuvat maan vetovoiman, tuulen ja viereisten hiekanjyvien kitkan vaikutuksesta. Atomit sekä molekyylit taas vetävät tai hylkivät toisiaan magneettikenttiensä mukaan muodostaen suuriakin kokonaisuuksia vetovoimiensa ansiosta. Esimerkki parvikäyttäytymisestä on esitetty kuvassa 1, jossa kalaparven kalat ovat lähellä toisiaan kuitenkaan törmäilemättä toisiinsa. Tiiviinä parvena kaloilla on paremmat mahdollisuudet välttyä saalistajilta. Kuvassa 2 on kuva aavikosta. Kuvalle on muodostunut säännöllinen kuvio tuulen ja hiekanjyvien kitkan vaikutuksesta. Kuva 1: Kalaparvi, jonka yksilöt noudattavat vuorovaikutussääntöjä. Sääntöjä noudattamalla kalat pysyvät tiiviinä parvena. (Dunleavy, 2011.) 4

15 Kuva 2: Aavikolle muodostuneita kuvioita tuulen ja kitkan vaikutuksesta. (Yapp, 2005.) Myös ihmiset ja eläimet hylkivät sekä vetävät toisiaan puoleensa vaikkakaan ei yhtä selkeästi kuin atomit ja molekyylit. Nämä ihmisihmis ja eläinjoukot vaikuttavat ulkopuolisen silmään ään olevan epäjärjestyksessä eli ulkoapäin tarkasteltuna joukot vaikuttavat olevan täydellisen epäjärjestyksen vallassa, mutta samalla kaikki ovat viereisiin yksilöihin nähden järjestyksessä ja noudattavat tiettyjä yksinkertaisia sääntöjä. Säännöt määrittelevät määrittelevät kokonaisia yhteisöjä, eikä niinkään vain sen yksittäisiä jäseniä. Tällaista järjestystä kutsutaan dynaamiseksi järjestykseksi, järjestykseksi koska parven jäsenten väliset säännöt muodostavat dynaamisia,, eli ajan mukaan muuttuvia kaavoja suurten kokonaisuuksien välille. väl (Fisher, 2009.) Dynaamista järjestystä on kahdenlaista: sellaista, millä ei päädytä mihinkään päämäärään vaan kuljetaan ympäriinsä ikään kuin kuin yrittäen löytää järjestys. järjestys Toinen dynaamisen järjestyksen muoto on olosuhteiden mukaan muuttuva järjestys. Tällaisesta ällaisesta järjestyksestä on hyvänä esimerkkinä kalaparvet, jotka mukautuvat kohdatessaan saalistajan ja palaavat sen jälkeen alkuperäiseen muotoonsa. Tällaiset parvet ovat dynaamisia parvia, koska ne pystyvät mukautumaan olosuhteiden muutoksiin. (Fisher, 2009.) 2009 Dynaamiset parvet eivät tarvitse yksittäistä johtajaa, jotta muutokset tapahtuvat. Hyvänä esimerkkinä on yleisön yhtyminen yksittäisten ihmisten taputuksiin (Fisher, 2009).. Aluksi yleisöstä alkavat taputtamaan muutamat ihmiset sieltä täältä ja 5

16 vähitellen taputuksiin on yhtynyt enemmän ja enemmän ihmisiä. Hetken kuluttua kaikki yleisöstä taputtavat synkronoidusti. Yleisössä kaikki toimivat itsensä johtajina eli niin sanottuina näkymättöminä johtajina. Aihetta käsitellään tarkemmin seuraavassa kappaleessa. 2.2 Näkymättömät johtajat Näkymättömät johtajat (Fisher, 1999) ovat parvessa näkymättömiksi tekeytyviä suunnannäyttäjiä. Näkymätön johtaja on parhaimmillaan, kun sen olemassaoloa ei huomata. Näkymättömät johtajat pysyvät näkymättömissä parven muille jäsenille, koska parven käyttäytymissäännöt pitävät huolen, että parven jäsenet pysyvät parvessa. Partikkelien eksyessä reitiltä ne palaavat vähitellen takaisin parveen, koska niihin kohdistuu negatiivinen palaute, joka pyrkii korjaamaan virheitä. Negatiivinen palaute esitellään tarkemmin luvussa 3. Ihmisten käyttäytymistä, johtajuutta ja päätöksentekoa tutkivassa tutkimuksessa (Dyer et al., 2009) henkilöt kävelivät tasaisella nopeudella huoneessa, jonka seinillä oli kirjaimia A:sta J:hin. Heidän piti kävellä noin kädenmitan päässä vähintään yhdestä henkilöstä ja pysähtyä, kun heitä käskettiin. Kenelläkään ei ollut omaa määränpäätään ja kaikkien oli pysyttävä ryhmässä, kuten mehiläiset parvessa. Muutamille henkilöille oli annettu ohjeeksi mennä tietyn kirjaimen kohdalle, mutta heidänkin piti kulkea koko ajan kädenmatkan päässä vähintään yhdestä henkilöstä. Ihmisten käskettyä pysähtyä suurin osa oli saman kirjaimen kohdalla, koska heidät oli johdatettu sinne. Muutamat henkilöt, joille oli annettu ohjeeksi mennä tietyn kirjaimen kohdalle toimivat johtajina. Samalla tavalla mehiläiset pystyvät lentämään parvena kohteeseensa vaikka suurin osa ei kohdetta tiedäkään. Couzilin ja hänen kollegoidensa (Couzil et al., 2005) tekemä tietokonesimulaatio osoitti, että mitä isommasta parvesta oli kysymys, sitä vähemmän yksilöitä tarvittiin johdattamaan parvea. Edellisessä esimerkissä informoituja henkilöitä oli vain viisi prosenttia koko parvesta eli kymmenen henkilöä kahdestasadasta. Tietokonesimulaatiot osoittavat, että nämä viisi prosenttia informoiduista ihmisistä pystyvät johdattamaan muut määränpäähän yhdeksänkymmenen prosentin tarkkuudella (Fisher, 1999). 6

17 Muutamat informoidut yksilöt parvessa parantavat parven toimintaa huomattavasti, mutta ilman informoituja yksilöitä parvi reagoi vain ulkoisiin ärsykkeisiin. Esimerkiksi kalaparvet reagoivat, kun ne kohtaavat saalistajan ja kulkusirkat reagoivat tuuleen lentämällä myötätuulen suuntaisesti. Näissä esimerkeissä saalistaja sai kalaparven käyttäytymään tietyllä tavalla ja tuuli sai kulkusirkat käyttäytymään tietyllä tavalla. Parvikäyttäytymisellä pidetään parvi kasassa, mutta ilman päämäärää tai tavoitetta parven on mahdotonta olla proaktiivinen, eli ennakoida toimintaansa esimerkiksi saalistajien varalta. 2.3 Kulkusirkat ja Reynoldsin säännöt Kulkusirkat ovat heinäsirkkoja, jotka muodostavat suuria yhtenäisiä parvia. Yksittäiset kulkusirkat vaeltelevat päämäärättömästi ympäriinsä, mutta tarpeeksi suuret kulkusirkkapopulaatiot käyttäytyvät kuin sotilaskolonna. Muiden sirkkojen välitön läheisyys saa kaikki sirkat kulkemaan joukkona eteenpäin etsien ruokaa ja syöden reitiltään kaiken mahdollisen ravinnoksi kelpaavan. Kulkusirkkojen parvikäyttäytymisen tutkiminen on antanut arvokasta tietoa siitä, miten eläinparvet hyönteisistä ihmisiin liikkuvat, sekä siitä, minkälaisia sääntöjä parvet noudattavat. Kulkusirkat pysyvät parven sisällä organisoidussa muodostelmassaan välttääkseen tulemasta syödyksi takana kulkevan sirkan toimesta. Toinen, parven koossa pitävä voima on positiivinen palaute, eli muutaman kulkusirkan kulkeminen yhteen suuntaan saa muutkin kulkemaan samaan suuntaan 1. Positiivinen palaute esitellään tarkemmin luvussa 3. (Fisher, 1999.) Craig Reynolds kehitti (1995) parvisimulaation vuonna 1986 käyttäen lintujen sijaan pieniä kolmioita (boids). Boidit käyttäytyvät samaan tapaan, kuin lentävät linnut ja yksittäisten lintujen kadottaessa parvensa linnut löytävät takaisin muiden joukkoon hetken harhailtuaan päämäärättömästi ilmassa. 1 Tällaisen monimutkaisen kollektiivisen käyttäytymisen parempaan ymmärtämiseen tarvitaan kuitenkin avuksi tietokonesimulaatioita (Fischer, 2009). 7

18 Reynoldsin kehittämät säännöt selittävät parvikäyttäytymistä, koska kaikki parven yksilöt noudattavat ko. sääntöjä. Säännön pätevät myös kaikkiin parviin eläinkunnassa sekä kaikkiin tietokonemalleihin, jotka simuloivat parvikäyttäytymistä. Tietokonesimulaation avulla on saatu selville, että myös kulkusirkat noudattavat kolmea Reynoldsin sääntöä.. Reynolds havaitsi, että simulaation toteuttamiseen ei vaadita monimutkaista ohjelmointia, vaan boidit noudattavat kolmea yksinkertaista sääntöä. Säännöt ovat havainnollistettu kuvassa 3. Määritelmä 1.. Reynoldsin säännöt parvikäyttäytymisestä (Reynolds, 1995): 1. Välttäminen (Avoidance): Vältä törmäämästä muihin partikkeleihin 2. Suuntaus (Alignment): Liiku suunnilleen samaan suuntaan, kuin vieressä olevat partikkelit liikkuvat 3. Vetovoima (Attraction): Pidä etäisyys viereisiin partikkeleihin suurin piirtein samana Kuva 3: Craig Reynoldsin lintuparvisimulaation kolme sääntöä. Ylhäällä sääntö 1. välttäminen, keskellä sääntö 2. suuntaus ja alhaalla sääntö 3. vetovoima. (Reynolds, 1995.) 8

19 3 PARVIÄLYKKYYS Tässä luvussa esitellään parviälykkyyttä. Parviälykkyyden esimerkkeinä toimivat muurahaiset ja mehiläiset. Edellä mainitut hyönteiset ovat myös olleet pääasiallinen innostuksen lähde parviälykkyyden tutkimuksessa (Fisher, 2009; Fleischer, 2003). Hyönteisistä muurahaisten toimintaa on tutkittu eniten ja muurahaisten tutkimisen avulla on kehitetty parviälykkyysalgoritmeja, kuten Ant System ja Ant Colony System. Kappaleessa 3.1 selitetään parviälykkyyden perusperiaatteita. Kappaleessa 3.2 tarkastellaan mehiläisiä ja kappaleessa 3.3 muurahaisia. Molemmat hyönteiset ovat olleet merkittävässä asemassa parviälykkyyden ymmärtämisessä ja kehittämisessä. Kappaleessa 3.4 tarkastellaan parviälykkyydet hyötyjä ongelmanratkaisussa sekä lyhyesti viittä parviälykkyyden sovellusta. 3.1 Parviälykkyyden perusperiaatteet Parviälykkyys on parvikäyttäytymisen kehittyneempi muoto, missä parvet toimivat yhdessä ratkaistakseen ongelmia. Parviälykkyydessä on kyse oppimisesta ja se vaatii kommunikaatiota parven sisällä (Fleischer, 2003). Parvikäyttäytymistä kutsutaan parviälykkyydeksi, kun koko parvea käytetään ongelmanratkaisussa. Parvikäyttäytyminen on pelkästään parven jäsenten eli partikkelien yhteistoimintaa, ilman ongelmanratkaisua. Tietojenkäsittelytieteessä parven jäseniä kutsutaan partikkeleiksi. Parviälykkyydessä on kyse suurten ja monimutkaisten kokonaisuuksien hallitsemisesta, vaikka kokonaisuuksien välinen kommunikaatio on minimaalista. Suurten kokonaisuuksien vuoksi parviälyllä toteutetut järjestelmät ovat hajautetusti ohjattuja, missä yhden osan hajoaminen ei kaada koko järjestelmää. (Fleisher, 2003.) Parviälykkyyden taustalla on hyönteisten tutkiminen, hyönteisten käyttäytymisestä opitut asiat ja opittujen asioiden soveltamisesta tietojenkäsittelytieteeseen. Hyönteiset esiintyvät suurina, organisoituina joukkoina joiden selviytymiskyvyt ja ravinnonetsintäkyvyt ovat hyvät. Hyönteiset, kuten mehiläiset ja muurahaiset, 9

20 käyttävät selviytymiseen ja ravinnon etsimiseen työskentelytapoihin yksinkertaista kommunikointia ja organisoituun liikkumiseen yksinkertaisia liikkumissääntöjä. Hyönteiset käyttäytyvät ulkoisten ärsykkeiden mukaan ja nämä ärsykkeet saavat hyönteiset toimimaan itseorganisoidusti (Menzel & Giurfa, 2001). Yksittäinen hyönteinen ei löydä ratkaisua ongelmaan, mutta yhtenä parvena tai kolonnana ratkaisu löydetään jaetun informaation avulla (Camazine et al., 2001). Parviälykkyydestä puhuttaessa esiintyvät usein termit positiivinen ja negatiivinen palaute (positive and negative feedback), jotka ovat keskeisiä termejä parvikäyttäytymisessä ja -älykkyydessä. Positiivisella palautteella vahvistetaan ilmiötä ja negatiivisella palautteella pyritään pitämään asiat ennallaan. Positiivinen ja negatiivinen palaute ohjailevat myös populaatioiden kasvua luonnossa, osakemarkkinoiden vaihtelua sekä parviälykkyydessä esiintyviä malleja. (Fisher, 2009.) Positiivinen palaute synnyttää joukossa massakäyttäytymistä. Lähimmät yksilöt vaikuttavat mielipiteillään ja käyttäytymisellään muiden valintoihin. Tällä tavalla toimivat myös muurahaiset kolonnissaan: yksilöt pitävät valintaansa hyvänä, joten valintaa tekevät muurahaiset noudattavat lähimpien yksilöiden esimerkkiä. Negatiivinen palaute pyrkii säilyttämään nykyisen tilan ja korjaamaan virheitä. Virheet aiheuttavat poikkeavuutta normaalitilasta, joten negatiivisella palautteella pyritään takaisin normaalitilaan. Esimerkiksi ajaessa autoa ja auton ajautuessa oikealle, negatiivisella palautteella pyritään saamaan ohjauspyörä kääntymään vasemmalle, jotta autolla palataan takaisin alkuperäiselle ajolinjalle. Positiivisella palautteella pyritään voimistamaan ohjauspyörän kääntymistä oikealle, jolloin auton pyörät vievät autoa enemmän oikealle pois ajolinjaltaan. 3.2 Mehiläiset Reynoldsin säännöt eli liikkumissäännöt selittävät parvikäyttäytymistä, kuten kappaleessa 2.3 on todettu. Sen lisäksi mehiläisten käyttäytymistä tutkimalla ymmärretään Reynoldsin sääntöjen vaikutusta parven ongelmanratkaisussa, kun muutaman yksilön on johdatettava mehiläisparvi oikeaan paikkaan. 10

21 Yksittäiset mehiläiset noudattavat Reynoldsin kolmea sääntöä samoin kuin kulkusirkat. Kulkusirkoista poiketen yksittäiset mehiläiset osaavat viestittää toisilleen löytämänsä paikan sijainnin. Michiganin yliopistossa tehty Fred Dyerin tutkimus (Dyer, 2002) on osoittanut, että mehiläistiedustelijat välittävät tiedon muille mehiläisille tanssimalla niiden edessä kahdeksikkoa. Tanssin näkee kuitenkin vain murto-osa mehiläisistä, ja tanssin nähneet mehiläiset lentävät harvoin parven ensimmäisinä ja silti parvella päädytään oikeaan paikkaan. Martin Lindauer (1955) havaitsi ensimmäisenä, että muutamat parven mehiläisistä lentävät suuremmalla nopeudella kuin muut. Viisikymmentä vuotta myöhemmin sama ilmiö mehiläisparvessa vahvistettiin (Beekman et al. 2006). Näytti siltä, että suuremmalla nopeudella lentävät mehiläiset olivat suunnannäyttäjiä muille mehiläisille. Niiden avulla parvi löysi perille kohteeseensa. Tässä vaiheessa ei vielä tiedetty tietävätkö kaikki nopeimmin lentävät mehiläiset reittiä perille. Tietokonesimulaatio (Couzil et al. 2005) osoitti, että mehiläisparvet löytävät perille, vaikkei kaikki nopeimmin lentävistä mehiläisistä tietäisikään reittiä perille. Tietokonesimulaatio osoitti myös, että parven johdattamiseen oikeaan kohteeseen tarvitaan vain muutama informoitu mehiläinen, koska kaikki noudattavat Reynoldsin kolmea sääntöä. Parven johdattamiseen tarvitaan vain muutama partikkeli, joilla on selvä määränpää. Muilla ei ole minkäänlaista määränpäätä, joten muut seuraavat informoituja mehiläisiä niin kauan, kun heillä ei ole omaa päämäärää tavoiteltavanaan. 3.3 Muurahaiset Kulkusirkat ja mehiläiset auttavat meitä ymmärtämään parvikäyttäytymistä ja osittain vastaamaan kysymykseen siitä mitä parviälykkyys on. Tutkimalla muurahaisten käyttäytymistä parviälykkyyttä ymmärretään paremmin. Muurahaisten tutkiminen onkin tarjonnut lukuisia algoritmeja parviälykkyyteen, joista kahta tutkitaan tässä tutkielmassa. Muurahaiset löytävät aina lyhimmän reitin muurahaiskeon ja ruoan välillä ja ilmiön pohjalta on ryhdytty kehittämään muurahaispohjaisia parviälykkyysalgoritmeja (Dorigo et al., 1999). Brysselin yliopistossa ekologisen käyttäytymisen yksikössä 11

22 muurahaisten kyky lyhimmän reitin löytämiseksi muurahaiskeon ja ruoan välillä todistettiin kokeellisesti (Goss et a., 1989). Muurahaiskeon ja ruoan välille tehtiin silta, jota pitkin kulki kaksi eripituista reittiä kohteeseen. Ensin muurahaiset lähtivät sattumanvaraisesti kahta reittiä pitkin ruoan luokse. Muutaman minuutin kuluttua kaikki kulkivat lyhintä reittiä pitkin keolta ruoalle. Muurahaiset löysivät lyhimmän reitin levittämällä feromoneja reiteilleen. Feromonit ovat kemikaaleja, joiden hajua muurahaiset seuraavat (Fisher, 2009). Muurahaiset levittävät feromoneja kulkemilleen reiteilleen ja muurahaiset seuraavat hajun perusteella vahvinta feromonijälkeä. Muurahaiskeolla odottavat muurahaiset lähtevät seuraamana ensimmäisten muurahaisten jättämää feromonijälkeä ruoalle. Aikanaan pidemmiltä reiteiltä takaisin ehtineet muurahaiset lähtevät myös kulkemaan lyhintä reittiä, koska lyhimmällä reitillä on kulkenut enemmän muurahaisia kuin pidemmällä ja siihen on levitetty enemmän feromoneja. Kuva 4 havainnollistaa vaiheittain kohtien a, b, c ja d avulla muurahaista hakeutumisen lyhimmälle reitille. Kohdassa a muurahaiset saapuvat kohtaan, jossa on tehtävä päätös reitistä. Kohta b osoittaa, että muurahaiset valitsevat sattumanvaraisesti jommankumman reitin. Kohdassa c osoitetaan, että lyhemmän reitin valinneet muurahaiset ovat ensimmäisinä perillä, koska kaikki muurahaiset liikkuvat samalla nopeudella. Kohdassa c lyhyempää reittiä on käytetty enemmän ja siihen on levitetty enemmän feromoneja, koska siitä on kulkenut enemmän muurahaisia kuin pidemmällä reitillä. 12