Transkriptio

1 Neuroverkot yhteenveto A l y ha 5 t3 Aleksi Jetsu j etsu@ h y tti. uku. f i P a ttern d i s c overy: T h e r esea r c h, led b y P r o f esso r H eikki M a n n ila, f o c uses o n m eth o d s f o r f in d in g f r eq uen tly o c c ur r in g p a tter n s in c o m p lex d a ta sets. T h e to p ic s in c lud e d isc o v er y o f r ules f r o m tim e ser ies, f in d in g p a tter n s f r o m seq uen c es o f ev en ts, a n d th e use o f p a tter n d isc o v er y in p r ed ic tio n a n d c luster in g, f o r a p p lic a tio n s in c lud in g e. g. b io in f o r m a tic s a n d d o c um en t a n a ly sis. h ttp : / / w w w. c is. h ut. f i/ r esea r c h / L l i s s i L n n o n o p m ä ä r ä, n o p m j o h v a, m a y y " o p p " a v a o. T ä j o h n o v a y ä n p n m, j o m n m j a d g m a h d o m m j a n v ä. h : / / w w w. c h f p r o j n a n g / K ä p a h m o n r o c o n ( M a y P c o n, M L P ) v n a v. M L P o r o r n a n o n a, j o o n y p a o a ä. M L P o a ö r o, y h d m m a p r o j a r o. S y ö r o o j o y. P r o j a r o o a n a y. V n r o o v a y p y j ä. V n ä y j p a o, j o ä d ä n o p a n a h d a. T y y p M L P n v o v a ä n n n g. Y m ä ä y v ä v o v a j o m n m j a p ö r n m. M o m a n ä o n g o v a r a a m p h m v a, m n a a n a o n a v a a v.. h : / / w w w. f / / a r K o p o n / K o p o n. h uonnol en ki el en kä ttel y: uo llisen kielen eus, suur i er i kieliä ea kielen uuttum in en ta t siih en että llit tä ty ia sa ta sta tied sta stä tuen eur er kko kä tetä uh een tun ista isen kä sikir itettuj en er kkien tun ista iseen ia lo ien llista iseen ih isen ko een lillä ttp is. ut. i/ ec ts/ tla sittely ta tuu iker s-p er ep tr ulti-l er er ep tr er ko ulla -v er kko ko stuu useista ker ksista in kka isia eur ej tka ky tketty kä ttä en in tettuj lin kkej -v er ko t ko stuv t sy teker ksesta estä ta i usea sta iilo ker ksesta ulo stulo ker ksesta teker s ko stuu uko sta tun tev ia ksikö itä iilo ker kset ulo stulo ker s ko stuv t la sken llisista ksikö istä er ko ker kset t ty illisesti tä sin ky tketty er ko ly kky s ta llen tuu ky tken tö en in ker to im iin tka sä etä etuksen ika ko lleen illiset -v er ko so ellukset t er ila isia sä tö -, tun istus-, en ustus- ta i luo kitteluo elm ia leisim t esim er kkein kä tettä t so ellukset t kä sin kir itettuj en er kkien tun ista in en ssikur ssien en usta in en lem t istä elm ista t to ista iseksi tka isem tto ia er in teisellä lä esty ista lla utta eur lila sken lla sa utettu lup ia tulo ksia ttp it. lut. i/ kur ssit/ -9 sem in s/ en en tm l S ä ä ka m era n kuva n l uoki ttel u: T a r ko ituksen a o n a uto m a a ttisesti luo kitella j a en n usta a sä ä h a v a in to j a, kuten sa teet. T ä m ä ta p a h tuu sa telliittikuv ien a v ulla, j o sta p ikselien a v ulla p y sty tä ä n h a v a in n o im a a n j a er o ttelem a a n er i o m in a isuuksia. S el l ul oos a n kei ton ha l l i nta neuroverkon a vul l a : N eur o v er kko j en a v ulla v o id a a n p r o sessej a h a llita tutkim a lla p elkä stä ä n p a ika llisten m itta usa r v o j en, kuten esim er kiksi lä m p ö tilo j en j a a lka lisuud en v ä lisiä r iip p uv uuksia. N eur o v er ko lla o n ky ky sisä istä ä o lem a ssa o lev a t r iip p uv uud et siten, että p r o sessien er ila iset tila t v o id a a n id en tif io id a j a kuv a ta itseo r g a n iso iv a n ka r ta n ka ksiulo tteiselle kuv a p in n a lle. E sim er kiksi W isa f o r est O y : n P ieta r sa a r en teh ta illa o n y h teisty ö ssä T ekn illisen K o r kea ko ulun in f o r m a a tio tekn iika n la b o r a to r io n ka n ssa tutkittu itseo r g a n iso iv a n ka r ta n kä y ttö ä j a tkuv a to im isen sellulo o sa n keito n ta r kka ilussa. P r o sessin tila a kuv a ta a n er ila isilla m itta usm uuttuj illa : ko lm ella er i p a iko ista m ita tulla lä m p ö tila lla, ka h d ella er i p a iko ista m ita tulla a lka lisuusa r v o lla sekä sellulo o sa n ka p p a -

2 luvulla. Eri keitoilla ja keiton kestäessä nämä kuusi lukua vaihtelevat tietyissä rajoissa riip p uen silti samalla toisistaan. Itseorg anisoiva kartta laskee muun muassa yli kaksisataa erilaista p rosessitilan mallia eli p rosessista tehtävän mitauksen arvoyhd istelmää, jotka kuvaavat p rosessissa esiintyviä tap auksia mahd ollisimman realistisesti. http : / / w w w.tml.hut.f i/ S tud ies/ T ik / / N ew tec h/ neuroverkot_ 2.html Itseorg anisoiva kartta ( S O M ) koostuu kuvap isteistä. K uhunkin kuvap isteeseen liittyy tietynsisältö isiä tietoalkioita kuvaava malli. M allit ovat järjestyneet siten, että kartalla lähekkäin olevat mallit kuvaavat keskenään samankaltaisia tietoalkioita. J okainen tietoalkio sijoittuu kartalla siihen kuvap isteeseen jossa oleva malli vastaa tietoalkiota p arhaiten. http : / / w eb som.hut.f i/ w eb som/ stt/ d oc / f in/ taustaa.html 1. D a t a a n a l y s i s w i t h t h e S O M. http : / / w w w.c is.hut.f i/ researc h/ In p rojec ts led b y d oc ent S amuel K aski, S elf O rg aniz ing M ap -b ased method s are d evelop ed f or d ata analysis and inf ormation visualiz ation. A p p lic ations of the S O M are stud ied in g roup s sp ec ializ ing on b ioinf ormatic s, learning metric s, sp eec h, and natural lang uag e mod elling. T he larg est ap p lic ation of the S O M in d ata mining, W EB S O M, d eals w ith the org aniz ation of larg e d oc ument c ollec tions. S O M method s are also used in sleep d isord er researc h, f or w hic h automated analysis method s are d evelop ed in c oop eration w ith R innekoti, an institute f or the c are of mentally retard ed p eop le. 2. A d a p t i v e a n a l y s i s o f i m a g e s. In this researc h p rojec t, led b y A c ad emy P rof essor Erkki O ja, the emp hasis is on novel ad ap tive and learning alg orithms f or imag e p roc essing and analysis. B oth theory and ap p lic ations are d evelop ed. In the P ic S O M p rojec t, the S elf -O rg aniz ing M ap is ap p lied f or imag e d atab ase retrieval. In A d ap tive O C R, learning method s in on-line c harac ter rec og nition are stud ied. S ome ind ustrial ap p lic ations w ere d evelop ed und er the IM P R ES S p rojec t A rto K ärkkäinen T K M 2 J uha H okkanen T K M 2 H eikki R issanen Neuroverkon käyttäminen käsinkirjoitetun tekstin tunnista miseen T arkoituksena on laatia menetelmiä, joid en avulla void aan tunnistaa erilaiset kirjoitustyylit toisistaan. T yyp illisiä laitteita ovat esimerkiksi erilaiset kämmenmikrot, joissa ei ole olemassa mitään näp p äimistö ä. Erilaiset kirjoitustyylit p yritään tunnistamaan itseorg anisoituvienkarttojen avulla. K irjoitustyylit tallennetaan vektoriin. T ekijät: Erkki O ja, J orma L aaksonen, V uokko V uori, M atti A ksela ja J ari K ang as

3 l WWW-o s o i t e : h t t p : / / w w w. c i s. h u t. f i / r e s e a r c h / I A / h c r / H e n r i k H ä r k ö n e n, J a r i R ä i h ä 1. h t t p : / / w w w. v t t. f i / r t e / p r o j e c t s / f i t s / h a n k e 3 / M a t k a _ a j a n _ l y h y e n _ a i k a v a l i n _ e n n u s t e m a l l i. p d f V T T E l e k t r o n i i k k a t e h n y t t u t k i m u k s e n m i t e n n e u r o v e r k k o j a v o i k ä y t t ä ä m a t k a -a j a n e n n u s t a m i s e e n t i e t y l l ä t i e v ä l i l l ä p e r u s t u e n r e a a l i a i k a i s e e n l i i k e n n e d a t a a n, k ä y t t ä e n M L P -n e u r o v e r k k o j a. T u l o k s e t o l i v a t y h t e n e v ä t n y t t e h t y j e n m a l l i e n k a n s s a, j o t e n n i i h i n v o i o l l a t y y t y v ä i n e n. M a l l e j a v o i d a a n l i s ä k s i p i t ä ä v a r s i n h y v i n v a r a u t u n e i n a y k s i t t ä i s t e n i l m a i s i m i e n r i k k o u t u m i s i i n. M a l l e j a v o i t a i s i i n p a r a n t a a j o n k i n v e r r a n m i t t a a m a l l a l i n k i l l e s a a p u v a a l i i k e n n e m ä ä r ä ä j a k a s v a t t a m a l l a m a t k a -a i k a h a v a i n t o j e n o t o s k o k o a. Monikerrosperseptronineuroverkko. 2. h t t p : / / w w w. h u t. f i / ~ j h i i p a k k / k a p u _ r a p o r t t i. h t m K a p e l l i m e s t a r i s e u r a n n a s s a t u t k i m u s o n g e l m a n a o n s i m u l o i d u n s o i t i n m a l l i n s y n k r o n o i n t i p a r t i t u u r i n m ä ä r ä ä m ä ä n m u s i i k k i i n j a k a p e l l i m e s t a r i j o h t o o n. T ä m ä v a a t i i j o h t a j a n l i i k k e i d e n s e u r a n t a a, s e k ä s o i t t a j a n t o i m i n n a n m a l l i n t a m i s t a. H a n k e o n o s a D I V A -p r o j e k t i a ( D i g i t a l I n t e r a c t i v e V i r t u a l A c o u s t i c s ), j o k a t u t k i i j a k e h i t t ä ä m e n e t e l m i ä u p o t t a a i h m i n e n v i r t u a a l i s e e n ä ä n i - j a k u v a m a i s e m a a n. E n s i m m ä i s e s s ä v a i h e e s s a k ä y t e t t i i n ' o r g a n i s o i t u a k a r t t a a ', j o n k a j ä l k e e n l a a j e n n e t t i i n S O M i i n. J a t k o k e h i t y s t ä p e r u s t u e n b a c k -p r o p a g a t i o n v e r k k o i h i n. Kuva 1. Vakiin t un e e t l y ö n t ikuvio t

4 Kuva 2: Kapellimestarin käden liike Jani Peltonen, TKO3 j p p elton@ h y tti. u k u. f i N eu r al netw or k s and ar tif ic ial intellig enc e 251&CFT O K E N = Y llä ole v as ta os oitte e s ta lö y ty v ä s s ä tu tk imu k s e s s a s e lv ite tä ä n, mite n ne u rov e rk ot j a te k oä ly tu tk imu s ov at tois iins a s idok s is s a j a mite n ne u rov e rk ot tu le e liittä ä te k oä ly ope tu k s e e n. Artik k e lis s a pä ä s tä ä n j ohtopä ä tö k s e e n, e ttä ne u ro-v e rk k oj e n tä y ty y olla me rk ittä v ä s s ä os as s a mis s ä tahans a te k oä ly k u rs s is s a. Artik k e lis s a my ö s hav ainnollis te taan, mite n ne u rov e rk k ok ä s ite v oidaan inte groida pe rinte is e e n te k oä ly k u rs s in mate riaaliin. Pattern-b as ed f au l t d i ag no s i s u s i ng neu ral netw o rk s 11&coll=portal&dl=ACM&CFID= &CFT O K E N = T ä s s ä tu tk imu k s e s s a on tu tk ittu ne u rov e rk k oj a v irhe s k e naarioide n talle tu k s e s s a j a j ä lj ittä mis e s s ä. V aatimu k s e na k o. tu tk imu k s e s s a on s e, e ttä v irhe diagnoos i te hdä ä n re aaliaik ais e na. Artik k e lis s a hahmote llaan ark k ite htu u ri re aaliaik ais e e n k aav a-pohj ais e e n diagnoos iin pe ru s tu v aan as iantu ntij aj ä rj e s te lmä ä n, j ok a k y k e ne e v as taanottamaan j a tu lk its e maan k ohinaa s is ä ltä v iä, k e s k e ne rä is iä j a mahdollis e s ti v irhe e llis iä s y ö tte itä. T u tk imu k s e s s a e s ite tä ä n my ö s mm. s u ihk u k one e s e e n liite ty n v irhe diagnoos ia te k e v ä n prototy y ppij ä rj e s te lmä n tu lok s ia. J a n n e L e s k i n e n N e u r o v e r k k o j e n s o v e l l u k s i a N e u r o v e r k o t p a p e r i t e o l l i s u u d e s s a E s i m e r k i k s i W i s a f o r e s t O y : n P i e t a r s a a r e n t e h t a i l l a o n y h t e i s t y ö s s ä T e k n i l l i s e n K o r k e a k o u l u n i n f o r m a a t i o t e k n i i k a n l a b o r a t o r i o n k a n s s a t u t k i t t u i t s e o r g a n i s o i v a n k a r t a n ( S O M ) k ä y t t ö ä

5 jatkuvatoimisen selluloosan keiton tarkkailussa. Itseorganisoiva kartta laskee muun muassa yli kaksisataa erilaista p rosessitilan mallia eli p rosessista teh tä vä n mittauksen arvoyh d istelmä ä, jotka kuvaavat p rosessissa esiintyviä tap auksia mah d ollisimman realistisesti. h ttp : / / w w w.tml.h ut.f i/ S tud ies/ T ik / / N ew tec h / neuroverkot_ 2.h tml N eurolaskenta tied on komp ressoinnissa K uvien ja p uh een komp ressointi on h yvä sovelluskoh d e neurolaskennalle. N e ovat alunp erinkin ep ä tä smä llistä tietoa, jonka muuttaminen h ieman toiseen muotoon on sallittua. S ignaalien korjausta h ed elmä llisemp i sovelluskoh d e on inf ormaation komp ressointi. T yyp illinen sovellus on tied onsiirto, jossa inf ormaatio tiivistetä ä n siirtotap ah tuman ajaksi ja sen jä lkeen p alautetaan alkup erä iseen muotoonsa. N eurolaskennalla teh tä vä inf ormaation komp ressointi on tietoa h ä vittä vä ä eli komp ressoid usta esityksestä p alautettava inf ormaatio ei vä lttä mä ttä ole tä ysin sama kuin alkup erä inen. h ttp : / / w w w.tekes.f i/ julkaisut/ rap ortit/ 4 3 _ 9 4 / new _ p age_ 4 9.h tm J anne R ossi Menetelmä aerobisen kunnon arviointiin H enkilö id en aerob ista kuntoa on arvioitu h enkilö n p erustietojen ( mm. ikä, p ituus ja p aino) ja sykkeid en p erusteella. M enetelmä on keh itetty, koska p erinteinen h ap enottoon p erustuva aerob isen kunnon mittaus on kallista. A erob ista kuntoa mittaava algoritmi p erustuu b ac k-p rop agation-menetelmä ä n. h ttp : / / w w w.ee.oulu.f i/ researc h / neurogroup / ap p lic ations/ S C IA 9 7.h tm W E B S O M-kartta S T T : n uutismateriaalista W E B S O M -kartan avulla void aan automaattisesti organisoid a tekstid okumentteja sekä muod ostaa niistä tied on lö ytä mistä h elp ottavia visuaalisia karttoja. E nnen kartan muod ostamista d okumenttien sisä ltö muutetaan numeeriseen muotoon. J okaista sanaa vastaa tietty numeroarvojen yh d istelmä ja sitä p ainotetaan sen mukaan, kuinka usein sana esiintyy d okumentissa. V arsinaisen d okumenttikartan luomiseen kä ytetä ä n S O M -tekniikkaa. K artalla olevat sanat kuvaavat mah d ollisimman h yvin kyseiselle alueelle sijoittuvia d okumentteja. h ttp : / / w eb som.h ut.f i/ w eb som/ stt/ d oc / f in/ J ani P alviainen

6 M l K a p e l l i m e s t a r i -t u n n i s t a j a K a p e l l i m e s t a r e i d e n l i i k k e i s t ä r y t m i ä j a m u u t a m u s i i k k i -i n f o a n e u r o v e r k k o j e n a v u l l a k a i v a v a j ä r j e s t e l m ä. M a h d o l l i s t a j o h t a a t i e t o k o n e o r k e s t e r i a k o t o n a? E r i v e r s i o i s s a k ä y t e t t y e r i v e r k k o t y y p p e j ä, t ä l l ä h e t k e l l ä k ä y t ö s s ä b a c k -p r o p -v e r k k o. " L ä h d e m a t e r i a a l i n a o n o l l u t Y l e i s r a d i o n m a g n e e t t i a n t u r i l a i t t e i s t o l l a k a p e l l i m e s t a r e i s t a m i t a t t u a l i i k e d a t a a. " " H a n k e o n o s a D I V A -p r o j e k t i a ( D i g i t a l I n t e r a c t i v e V i r t u a l A c o u s t i c s ), j o k a t u t k i i j a k e h i t t ä ä m e n e t e l m i ä u p o t t a a i h m i n e n v i r t u a a l i s e e n ä ä n i - j a k u v a m a i s e m a a n. " h t t p : / / w w w. h u t. f i / ~ j h i i p a k k / k a p u _ r a p o r t t i. h t m a t k a -a j a n ( l y h y e n a i k a v ä l i n ) e n n u s t e m a l l i T u t k i m u k s e s s a k e h i t e t ä ä n l i i k e n t e e n m a t k a -a i k o j e n e n n u s t a j a a. V ä l i l l e L a h t i -H e i n o l a s i j o i t e t u t m i t t a r i t t i e d o t t a v a t e s i m e r k i k s i l i i k e n t e e n m ä ä r ä s t ä j a k e s k i n o p e u k s i s t a. T i e t o j e n a v u l l a p y r i t ä ä n l a a t i m a a n e n n u s t e s i i t ä k u i n k a k a u a n m a t k a a n k u l u u, j o l l o i n t ä m ä v o i d a a n i l m o i t t a a e s i m. r a d i o s s a t i e n k ä y t t ä j i l l e. J ä r j e s t e l m ä p y r k i i o t t a m a a n h u o m i o o n m y ö s t o d e l l i s e n e l ä m ä n r a j o i t u k s i a ( t i e d o n s i i r t o o n k u l u v a a i k a ). E n n u s t a m i s e s s a k ä y t e t ä ä n m o n i k e r r o s p e r s e p t r o n i n e u r o v e r k k o j a. h t t p : / / w w w. v t t. f i / r t e / p r o j e c t s / f i t s / h a n k e 3 / M a t k a _ a j a n _ l y h y e n _ a i k a v a l i n _ e n n u s t e m a l l i. p d f N e u r a l M i l l N e u r o v e r k k o i h i n p e r u s t u v a t e o l l i s t e n p r o s e s s i e n k o n t r o l l o i n t i a h e l p o t t a v a o h j e l m a. " N e u r a l -M i l l o n n e u r o v e r k k o -o h j e l m a, j o n k a e n s i s i j a i n e n t e h t ä v ä o n p r o s e s s i n o h j a u k s e n k o n t r o l l o i n t i. T o i s a a l t a o h j e l m a a v o i k ä y t t ä ä m i n k ä t a h a n s a t e h t ä v ä n o p p i m i s e e n. S y ö t e t i e d o s t o, j o k a s i s ä l t ä ä p r o s e s s i n m i t t a u s a r v o j a, v o i v a i h d e l l a v a l u u t t a k u r s s i t i e d o i s t a v a i k k a p a s e m e n t i n t e k o o n l i i t t y v i i n t i e t o i h i n. S e v o i s i i s s i s ä l t ä ä k ä y t ä n n ö s s ä m i t ä t a h a n s a n u m e e r i s t a t i e t o a. N e u r a l -M i l l o n k u i t e n k i n s u u n n i t e l t u e r i t y i s e s t i j u u r i t e o l l i s u u d e n p r o s e s s e i h i n. " N e u r a l -M i l l k ä y t t ä ä i t s e j ä r j e s t y v ä ä k a r t t a a ( S O M ). h t t p : / / w w w. e x p r e s s f i n l a n d. c o m / c e f / f i n / n e u r o v e r k o t. a s p

7 M Keijo Haataja K n o w l e d g e D i s c o v e r y B a s e d o n N e u r a l N e t w o r k s h ttp : / / p or tal. ac m. or g / c itation. c f m? id = & c ol l = p or tal & d l = A C M & C F I D = & C F T O KE N = # F u l l T ex t Knowledge discovery can be defined as the learning of implicit and previously unknown nontrivial knowledge from data or observations. A n artificial neural network is represented by a set of nodes and arrows. A node corresponds to a neuron; an arrow corresponds to a connection, along with the direction of signal flow between neurons. S ome nodes are designated as input units, others as output units. A n artificial neural network is trained empirically on a data set by adj usting its weights, so a given input can be mapped to a target output. I n this way, the network learns, or discovers, the knowledge embedded in the data. I ts power stems from the network s own internal ability to adapt and selforganiz e. A significant development is the C ertainty F actor N etwork ( C F N et). T his special network refers to the feedforward multilayer neural network in which the network activation function is based on the certainty factor model, a model for uncertainty management in traditional ex pert systems. I t overcomes the traditional disadvantage having a black-box nature in the neural network approach, allowing its knowledge to be decoded precisely. T he C F N et can discover the domain concepts from a small fraction of domain instances with accuracy significantly better than C 4. 5, which today is the best representative rulelearning system available. L as s e Hak k ar ain en ja A n tti Kaas in en WEBSOM h ttp : / / w eb s om. h u t. f i/ w eb s om / WEBSOM is a m eth od f or or g an iz in g m is c el l an eou s tex t d oc u m en ts on to m ean in g f u l m ap s f or ex p l or ation an d s ear c h. W E B S O M is b as ed on th e S O M ( S el f -O r g an iz in g M ap ) al g or ith m th at au tom atic al l y or g an iz es th e d oc u m en ts on to a tw o-d im en s ion al g r id s o th at r el ated d oc u m en ts ap p ear c l os e to eac h oth er. r es u l ts : c r eation of c on s id er ab l y l ar g er m ap s, im p r ov ed q u al ity of m ap s, au tom atic l ab el in g, an d a p os s ib il ity to p er f or m s ear c h es on th e m ap s. T h e O n -l i n e R e c o g n i t i o n o f H a n d w r i t t e n C h a r a c t e r s h ttp : / / w w w. c is. h u t. f i/ v u ok k ov / h c r T h e g oal of th e p r ojec t is to d ev el op ad ap tiv e m eth od s f or on -l in e r ec og n ition of h an d w r itten c h ar ac ter s. I n th is c as e, ad ap tation m ean s th at th e s y s tem is ab l e to l ear n n ew w r itin g s ty l es d u r in g its n or m al u s e. D u e to th e l ear n in g, th e u s er c an u s e h is ow n n atu r al s ty l e of w r itin g in s tead of s om e c on s tr ain ed s ty l e. T y p ic al ap p l ic ation s f or on - l in e h an d w r itin g r ec og n ition ar e s m al l h an d -h el d d ev ic es, f or ex am p l e P D A s, in w h ic h it r ep l ac es a k ey b oar d. O u r w or k c on c en tr ates on th e r ec og n ition of is ol ated ar k k u P u l s a

8 l A) Independent Component Analysis h t t p: / / w w w. c i s. h u t. f i / pr o j e c t s / i c a / T ä l l ä v o i d a a n e r o t t a a s e k o i t t u n e e s t a s i g n a a l i s t a t o i s i s t a a n r i i ppu m a t t o m a t s i g n a a l i t. D e m o s s a o n s e k o i t t u n u t e r i ä ä n i l ä h t e i t ä j a I C A a l g o r i t m i e r o t t a a n e. M i k r o f o n e j a t u l e e o l l a y h t ä m o n t a k u i n ä ä n i ä h a l u t a a n e r o t t a a. I C A : a v o i d a a n k ä y t t ä ä e s i m. M E G a i v o s i g n a a l i e n e r o t t a m i s e e n t a i t e l e k o m m u n i k a a t i o s s a s i g n a a l i e n e r o t t a m i s e e n. M a t l a b : i i n o n s a a t a v i s s a F a s t I C A S W -pa k e t t i. T ä m ä k ä y t t ä ä f i x e d -po i n t i t e r a a t i o t a m i k ä o n n o pe a m pi k u i n ' g r a d i e n t d e s c e n t ' m e n e t e l m ä. M e n e t e l m ä ( B l i n d s i g n a l s e pa r a t i o n ) pe r u s t u u s i g n a a l i e n t i l a s t o l l i s e e n r i i ppu m a t t o m u u t e e n j a s i i h e n e t t ä e r i m i k r o f o n i t t a i m i t t a u k s e t o v a t v a i h e s i i r r o s s a ( j a m a h d o l l i s e s t i e r i a m pl i t u d i l a l ), j o l l o i n s i g n a a l i t v o i d a a n e r o t t a a m a t e m a a t t i s e s t i. T a r k e m pi m a t r i i s i l a s k e n t a -pe r i a a t e l ö y t y y : h t t p: / / w w w. c i s. h u t. f i / pr o j e c t s / i c a / i c a d e m o / N e u r v o e r k k o j e n k ä y t t ä m i n e n t ä s s ä pr o j e k t i s s a j ä i v ä h ä n e pä s e l v ä k s i, m u t t a t u t k i m u s o n t e h t y ' N e u r a l N e t w o r k s R e s e a r c h C e n t r e ' : s s ä. C o c t a i l -pa r t y d e m o o n o s o i t t e e s s a : h t t p: / / w w w. c i s. h u t. f i / pr o j e c t s / i c a / c o c k t a i l / c o c k t a i l _ e n. c g i B ) S peec h R ec og nition U sing N eu r al N etw or k s h t t p: / / c s l u. c s e. o g i. e d u / t u t o r d e m o s / n n e t _ r e c o g / r e c o g. h t m T ä s s ä pr o j e k t i s s a o n t u t k i t a a n a u t o m a a t i s t a pu h e e n t u n n i s t u s t a. P u h e d i g i t o i d a a n ( n ä y t e t t ä / s e k u n t i ) j a s i i t ä e r o t e t a a n pi i r t e e t t a a j u u s -t a s o s s a ( m u o d o s t u s / l a s k e n t a s u o r i t e t a a n 1 0 m s v ä l e i n ), l o ppu t u l o k s e n a o n n s. frame. N e u r o v e r k k o a k ä y t e t ä ä n l u o k i t t e l e m a a n f r a m e t ph o n e e t e i k s i. V i t e r b i -s e a r c h : i ä o n s i t t e n k ä y t e t t y e r o t t a m a a n s a n a t. N e u r o n e i t a o n s e u r a a v a s t i : -i n pu t l a y e r h i d d e n l a y e r o u t pu t l a y e r L a i n a u s a r t i k k e l i s t a : " F i r s t, w e d i g i t i z e t h e s pe e c h t h a t w e w a n t t o r e c o g n i z e ; f o r t e l e ph o n e s pe e c h t h e s a m pl i n g r a t e i s s a m pl e s pe r s e c o n d. S e c o n d, w e c o m pu t e f e a t u r e s t h a t r e pr e s e n t t h e s pe c t r a l -d o m a i n c o n t e n t o f t h e s pe e c h ( r e g i o n s o f s t r o n g e n e r g y a t pa r t i c u l a r f r e q u e n c i e s ). T h e s e f e a t u r e s a r e c o m pu t e d e v e r y 1 0 m s e c, w i t h o n e 1 0 -m s e c s e c t i o n c a l l e d a frame. T h ir d, a neu r al netw or k ( also c alled an AN N, mu lti-layer per c eptr on, or M L P ) is u sed to c lassif y a set of th ese f eatu r es into ph onetic -b ased c ateg or ies at eac h f r ame. F o u r t h, a V i t e r b i s e a r c h i s u s e d t o m a t c h t h e n e u r a l - n e t w o r k o u t pu t s c o r e s t o t h e t a r g e t w o r d s ( t h e w o r d s t h a t a r e a s s u m e d t o b e i n t h e i n pu t s pe e c h ), i n o r d e r t o d e t e r m i n e t h e w o r d t h a t w a s m o s t l i k e l y u t t e r e d. "

9 Marttila/Tossavainen S ovellu salu eita: -h t t p : / / w w w. d o n t v e t e r. c o m / o t h e r a i / o t h e r a i. h t m l # n n ( l i n k k e j ä e r i l a i s i i n n e u r o v e r k k o s o v e l l u k s i i n ) -H a h m o n t u n n i s t u s -S ä ä t ö t e k n i i k k a / m i t t a u s -T e k o e l ä m ä -S e l l u l o o s a n k e i t o n h a l l i n t a n e u r o v e r k o n a v u l l a E s i m e r k k e j ä D ig itaalisen eliö n su u nnittelu sta, http : //w w w. m lab. u iah. f i/~ tosalm in/alif e/org anism. htm l D i g i t a a l i s i a g e e n e j ä k e i n o e l i ö i l l e, j o i t a m a l l i n n e t a a n t i e t o k o n e e n m u i s t i i n l u o d u s s a k o l m i u l o t t e i s e s s a t i l a s s a, j o s s a v a l l i t s e v a t t a v a n o m a i s e t f y s i i k a n l a i t. Y h t e n ä h a a s t e e n a o n l u o d a m a h d o l l i s i m m a n k e s t ä v ä, " r o b u s t i " t a p a k o o d a t a e l i ö i d e n o m i n a i s u u k s i a, j o t t a m u t a a t i o i t a v o i t a i s i i n s i m u l o i d a i l m a n k e i n o t e k o i s i a r a j o i t u k s i a, t o i n e n h a a s t e o n k e h i t t ä ä y l e i s k ä y t t ö i n e n t a p a m ä ä r i t e l l ä e l i ö i d e n g e o m e t r i a. K u l l e k i n n e u r o n i l l e v o i o l l a v a i n k o l m e s y ö t e t t ä, t u l o s t e i t a o n v a i n y k s i. N e u r o n i t v o i v a t o l l a y h t e y d e s s ä t o i s i i n s a p a i t s i n o o d i n s i s ä l l ä, m u t t a m y ö s n o o d i e n v ä l i l l ä v o i ( j a p i t ä ä ) k u l k e a i n f o r m a a t i o t a. K u h u n k i n n o o d i i n l i i t t y y n e u r o n e i t a, m u t t a e l i ö l l ä v o i o l l a m y ö s v a p a i t a n e u r o n e i t a, j o i d e n a v u l l a o n m a h d o l l i s t a m u o d o s t u a j o n k i n l a i n e n k e s k u s h e r m o s t o. f i n i t e e l e m e n t m e t h o d ( F E M ) -l a s k e n t a a ( H ä m ä l ä i n e n, J ä r v i n e n, ). S ellu loosan k eiton hallinta neu roverk on avu lla, http : //w w w. tm l. hu t. f i/s tu d ies/tik / /N ew tec h/neu roverk ot_ 2. htm l N e u r o v e r k k o j e n k ä y t t ö o n l ä h t e n y t k ä y n t i i n m y ö s e s i m e r k i k s i p r o s e s s i t e o l l i s u u d e s s a, j o s s a s e l l u n k e i t o n h a l l i n n a s s a o n p e r i n t e i s t e n f y s i k a a l i s t e n j a k e m i a l l i s t e n p r o s e s s i n t i l o j e n m a l l i t u k s e n s i j a s t a o t e t t u k ä y t t ö ö n i t s e o r g a n i s o i v a n k a r t a n k ä y t t ö k e i t o n h a l l i n n a s s a j a t a r k k a i l u s s a. S e l l u p r o s e s s i n o h j a u k s e s s a n e u r a a l i v e r k k o m a l l i n n u s o n u s e i n y h d i s t e t t y j o h o n k i n m u u h u n p r o s e s s i n o h j a u s m e n e t e l m ä ä n, k u t e n e s i m e r k i k s i : t i l a s t o l l i s e e n p r o s e s s i n o h j a u k s e e n, s u m e a o h j a u k s e e n t a i m o n i m u u t t u j a s ä ä t ö ö n. verk k ona i t s e o r g a n i s o i t u v a k a r t t a ( s e l f -o r g a n i z i n g m a p ). O p p i m i n e n t a p a h t u u k i n s o l m u j e n v ä l i l l ä s i j a i t s e v i e n l i i t o s t e n v o i m a k k u u k s i s s a t a p a h t u v i n a m u u t o k s i n a. M u u t o s t e n v o i m a k k u u k s i e n s y n t y t a p a o n k u i t e n k i n o h j e l m o i t u v a l m i i k s i m a l l i i n.

10 Mikko Nieminen K a p el l imes t a r i-t u nnis t a j a K a p el l imes t a r eid en l iikkeis t ä r y t miä j a mu u t a mu s iikki-inf oa neu r ov er kkoj en a v u l l a ka iv a v a j ä r j es t el mä. Ma h d ol l is t a j oh t a a t iet okoneor kes t er ia kot ona? E r i v er s iois s a kä y t et t y er i v er kkot y y p p ej ä, t ä l l ä h et kel l ä kä y t ö s s ä b a c k-p r op -v er kko. " L ä h d ema t er ia a l ina on ol l u t Y l eis r a d ion ma g neet t ia nt u r il a it t eis t ol l a ka p el l imes t a r eis t a mit a t t u a l iiked a t a a. " " H a nke on os a D I V A -p r oj ekt ia ( D ig it a l I nt er a c t iv e V ir t u a l A c ou s t ic s ), j oka t u t kii j a keh it t ä ä menet el miä u p ot t a a ih minen v ir t u a a l is een ä ä ni- j a ku v a ma is ema a n. " h t t p : / / w w w. h u t. f i/ ~ j h iip a kk/ ka p u _ r a p or t t i. h t ml Ma t ka -a j a n ( l y h y en a ika v ä l in) ennu s t ema l l i T u t kimu ks es s a keh it et ä ä n l iikent een ma t ka -a ikoj en ennu s t a j a a. V ä l il l e L a h t i-h einol a s ij oit et u t mit t a r it t ied ot t a v a t es imer kiks i l iikent een mä ä r ä s t ä j a kes kinop eu ks is t a. T iet oj en a v u l l a p y r it ä ä n l a a t ima a n ennu s t e s iit ä ku inka ka u a n ma t ka a n ku l u u, j ol l oin t ä mä v oid a a n il moit t a a es im. r a d ios s a t ienkä y t t ä j il l e. J ä r j es t el mä p y r kii ot t a ma a n h u omioon my ö s t od el l is en el ä mä n r a j oit u ks ia ( t ied ons iir t oon ku l u v a a ika ). E nnu s t a mis es s a kä y t et ä ä n moniker r os p er s ep t r onineu r ov er kkoj a. h t t p : / / w w w. v t t. f i/ r t e/ p r oj ec t s / f it s / h a nke3 / Ma t ka _ a j a n_ l y h y en_ a ika v a l in_ ennu s t ema l l i. p d f Neu r a l Mil l Neu r ov er kkoih in p er u s t u v a t eol l is t en p r os es s ien kont r ol l oint ia h el p ot t a v a oh j el ma. " Neu r a l -Mil l on neu r ov er kko-oh j el ma, j onka ens is ij a inen t eh t ä v ä on p r os es s inoh j a u ks en kont r ol l oint i. T ois a a l t a oh j el ma a v oi kä y t t ä ä minkä t a h a ns a t eh t ä v ä n op p imis een. S y ö t et ied os t o, j oka s is ä l t ä ä p r os es s in mit t a u s a r v oj a, v oi v a ih d el l a v a l u u t t a ku r s s it ied ois t a v a ikka p a s ement int ekoon l iit t y v iin t iet oih in. S e v oi s iis s is ä l t ä ä kä y t ä nnö s s ä mit ä t a h a ns a nu meer is t a t iet oa. Neu r a l -Mil l on ku it enkin s u u nnit el t u er it y is es t i j u u r i t eol l is u u d en p r os es s eih in. " Neu r a l -Mil l kä y t t ä ä it s ej ä r j es t y v ä ä ka r t t a a ( S O M). h t t p : / / w w w. ex p r es s f inl a nd. c om/ c ef / f in/ neu r ov er kot. a s p

11 l l N i i n a P ä i v i n e n N e u r o v e r k k o t u t k i m u k s i a U u t i n e n : n e u r o v e r k k o t u n n i s t a a p u h u t u t s a n a t p a r e m m i n k u i n i h m i s e t h t t p : / / w w w. s c i e n c e d a i l y. c o m / r e l e a s e s / / 1 0 / h t m E t e l ä -K a l i f o r n i a n y l i o p i s t o n b i o l ä ä k e t i e t e e n t u t k i j a t o v a t k e h i t t ä n e e t j ä r j e s t e l m ä n, j o k a t u n n i s t a a p u h u t u t s a n a t. J ä r j e s t e l m ä t u n n i s t a a s a n a t v a l k o i s e n k o h i n a n s e a s t a, m y ö s m u i d e n ä ä n i e n s e a s t a h u o m a t t a v a s t i i h m i s t ä p a r e m m i n. J ä r j e s t e l m ä o n t o t e u t e t t u n e u r o v e r k o l l a, j o s s a o n v a i n 1 1 n e u r o n i a, j o i t a y h d i s t ä ä 3 0 l i n k k i ä. N e u r o n i t o n t o t e u t e t t u s i r u i n a, j o t k a m a t k i v a t h i p p o k a m p u k s e n s o l u j e n t o i m i n t a a. J o k a i s e l l e n e u r o n i l l e a n n e t t i i n h i e m a n t o i s i s t a a n p o i k k e a v a t o m i n a i s u u d e t, j o n k a j ä l k e e n v e r k k o a o p e t e t t i i n b i o l o g i s e n m a l l i n m u k a a n. T o r o n t o n y l i o p i s t o, t i e t o j e n k ä s i t t e l y t i e t e e n l a i t o s : N e u r o v e r k k o, j o k a t u l k i t s e e d a t a h a n s k a n l i i k k e e t p u h e e k s i p u h e s y n t e t i s a a t t o r i n a v u l l a. h t t p : / / l e a r n i n g. c s. t o r o n t o. e d u / g l o v e -t a l k. h t m K ä y t e t ä ä n m o n i k e r r o k s i s t a n e u r o v e r k k o a j a h i e m a n m o d i f i o i t u a b a c k -p r o p a g a t i o n o p p i m i s t a. O p e t u s v a i h e e s s a k ä y t e t ä ä n y h t ä " p u h u j a a ", j o n k a k ä d e n l i i k k e e t t u l k i t a a n p u h e e k s i. S a n a s t o s i s ä l t ä ä e l e e n t u l k i n n a n s a n a l l i s e k s i. J ä r j e s t e l m ä t u o t t a a v ä ä r ä n s a n a n v a i n a l l e 1 % t a p a u k s i s t a, j a n o i n 5 % t a p a u k s i s t a e i t u o t e t a m i t ä ä n s a n a a. O p e t u s a i k a a j a l o p u l l i s t a s u o r i t u s k y k y ä v o i d a a n p a r a n t a a k ä y t t ä m ä l l ä p i e n i ä e r i l l i s i ä v e r k k o j a. H a r v i n a i s t e n h i u k k a s t e n l ö y t ä m i n e n h t t p : / / c i t e s e e r. n j. n e c. c o m / h t m A r t i k k e l i T s e k k i l ä i s e n y l i o p i s t o n t u t k i m u k s e s t a. K a h t a n e u r o v e r k k o a k ä y t e t t i i n e r o t t a m a a n k a h d e n l a i s i a t a p a h t u m i a y d i n k o k e i s s a. T a p a h t u m a l l a t a r k o i t e t a a n t ä s s ä y h t e y d e s s ä p r o t o n i e n t ö r m ä y k s e s s ä t a p a h t u v i a e r i l a i s i a p r o s e s s e j a. T a r k o i t u k s e n a o n l ö y t ä ä t a p a h t u m i a, j o i s s a e s i i n t y y H i g g s i n b o s o n i j a s u o d a t t a a n e m u i d e n e i - k i i n n o s t a v i e n t a p a u s t e n j o u k o s t a. A r t i k k e l i s s a e s i t e l l ä ä n k ä y t e t t y v e r k k o a r k k i t e h t u u r i s e k ä o p e t u s a l g o r i t m i. T u t k i j a t i t s e o l i v a t t y y t y v ä i s i ä t u l o k s i i n s a. O l l i K o s o n e n 1. h t t p : / / w w w. c i s. h u t. f i / r e s e a r c h / s o m -r e s e a r c h / S e l f -o r g a n i z i n g m a p s T h e S O M i s a n a l g o r i t h m u s e d t o v i s u a l i z e a n d i n t e r p r e t l a r g e h i g h -d i m e n s i o n a l d a t a s e t s. T y p i c a l a p p l i c a t i o n s a r e v i s u a l i z a t i o n o f p r o c e s s s t a t e s o r f i n a n c i a l r e s u l t s b y r e p r e s e n t i n g t h e c e n t r a l d e p e n d e n c i e s w i t h i n t h e d a t a o n t h e m a p. T h e r e s e a r c h a c t i v i t i e s o f t h e g r o u p i n c l u d e a p p l i c a t i o n s o f t h e S e l f -O r g a n i z i n g M a p ( S O M ) a n d L e a r n i n g V e c t o r Q u a n t i z i n g ( L V Q ) a l g o r i t h m s o f A c a d e m i c i a n K o h o n e n. A p p l i c a t i o n s

12 M r g a n i z i n g M a p s v b u s a t t R r c C t r i n s u c a p p c a t i o n s a s : A u t o m a t i c s p r o g n i t i o n C n i c a v o i c a n a s i s o n i t o r i n g o t c o n d i t i o n o i n d u s t r i a p n t s a n d p r o c s C u d c s s i c a t i o n o m s a t t i m a g A n a s i s o t r i c a s i g n a o m t b r a i n O r g a n i z a t i o n o a n d r r i a o m r g d o c u m t c o t i o n s ( t W E B M m d ) A n a s i s a n d v i s u a z a t i o n o r g c o t i o n s o s t a t i s t i c a d a t a ( g. m a c r o o n o m i c d a t a ) The Self-O ha e een ed he es ea h en e h li eec h ec li l e ly f he f l la es es lo la fi fr elli e es ly f elec l ls fr he f et ev l fr la e en llec he SO et ho ly li f la e llec f l e. ec 2. h t t p : / / w w w.c i s.h u t.f i / p r o j e c t s / i d e / I n t elli g en t D a t a E n g i n eer i n g R es ea r c h G r o u p The I n t elli g en t D a t a E n g i n eer i n g R es ea r c h G r o u p c o n s i s t s o f r es ea r c her s i n t he L a b o r a t o r y o f C o m p u t er a n d I n fo r m a t i o n Sc i en c e ( C I S) a t t he H els i n k i U n i v er s i t y o f Tec hn o lo g y ( H U T). The g r o u p i s hea d ed b y p r o fes s o r O lli Si m u la. O u r M i s s i o n d p a n d a p p p r o b i n d d t d a t a r i v m d s r p r o c s / i n d u s t r i a d a t a a n a s i s, a n d t o d v k n o w g a n d k n o w w o t m d s t o o u r i n d u s t r i a p a r t n s. O u r c o r c o m p c a r i s d a t a a n a s i s a n d d a t a m i n i n g i n c o m p s y s t s u s i n g n r a n w o r k s, p i a t r g a n i z i n g M a p ( M ). I n o u r p r o j t s, w v s a g o a : To ev elo ly lem ep en en -d en et ho fo es l ly eli er led e -ho f hes e et ho l er e et en e ea ly lex em eu l et es ec lly he Self-O SO ec e ha e ev er l ls - t o d ev elo p n ew m et ho d s a n d a p p ly ex i s t i n g o n es, - t o help s o lv e p r o b lem s o f o u r i n d u s t r i a l p a r t n er s u s i n g t he m et ho d s, - t o d eli v er m et ho d k n o w led g e t o o u r p a r t n er s, a n d - t o r ep o r t o u r w o r k s i n p u b li c a t i o n s : c o n fer en c es, j o u r n a l a r t i c les, t hes es, a n d v i a W W W. 3. h t t p : / / w e b s o m.h u t.f i / w e b s o m / s t t / d o c / f i n / W E B M i t s r g a n i s o i v i a k a r t t o j a d o k u m t t i k o k o i s t a W E B M o n m ä, j o v o i d a a n a u t o m a a t t i s t i o r g a n i s o i d a t s t i d o k u m t t i k o k o i a s ä m u o d o s t a a n i i s t ä t i o n y t ä m i s t ä o t t a v i a v i s u a a s i a k a r t t o j a. t t u s SO - eo en elm SO en et elm lla es ek en elm ek ed lö help li To eu

13 e m o k o o s t u u d o k u m e n t t i k a r t a s t a s e k ä w w w ä y t t ö l i i t t y m ä s t ä, j o l l a k a r t t a a o n h e l p p o t u t k i a. D o k u m e n t t i k a r t a n l u o m i s e s s a k e s k e i s e l l ä s i j a l l a o n i t s e o r g a n i s o i v a k a r t t a (. WEBSOM-d -k SOM) I t s e o r g a n i s o i v a k a r t t a I t s e o r g a n i s o i v a k a r t t a ( SOM, Se l f -Or g a n i z i n g Ma p ) o n a k a t e m i a p r o f e s s o r i T e u v o K o h o s e n k e h i t t ä m ä n e u r o l a s k e n t a a n p e r u s t u v a t i e t o j e n k ä s i t t e l y m e n e t e l m ä, j o l l a v o i d a a n a u t o m a a t t i s e s t i j ä r j e s t ä ä j a h a v a i n n o l l i s t a a m o n i m u t k a i s i a t i e t o j o u k k o j a. Me n e t e l m ä o n l e v i n n y t k ä y t t ö ö n y m p ä r i m a a i l m a n, j a t ä h ä n m e n n e s s ä s i i t ä o n j u l k a i s t u y l i t u t k i m u s t a. Si t ä o n s o v e l l e t t u m m. a u t o m a a t t i s e e n p u h e e n t u n n i s t a m i s e e n, k u v a -a n a l y y s i i n, r o b o t i i k k a a n, t e o l l i s u u s p r o s e s s i e n k u v a a m i s e e n, t i e t o l i i k e n n e t e k n i i k a n s o v e l l u k s i i n, e r ä i s i i n l ä ä k e t i e t e e l l i s i i n d i a g n o o s e i h i n s e k ä f i n a n s s i a n a l y y s i i n. I t s e o r g a n i s o i v a k a r t t a k o o s t u u k u v a p i s t e i s t ä. K u h u n k i n k u v a p i s t e e s e e n l i i t t y y t i e t y n s i s ä l t ö i s i ä t i e t o a l k i o i t a k u v a a v a m a l l i. T i e t o a l k i o v o i k o o s t u a v a i k k a p a y h t ä h e n k i l ö ä t a i v a l t i o t a k o s k e v i s t a t i e d o i s t a t a i - k u t e n t ä s s ä s o v e l l u k s e s s a - y k s i t t ä i s t ä s a n a a t a i d o k u m e n t t i a l u o n n e h t i v i s t a n u m e e r i s i s t a a r v o i s t a. Ma l l i t o v a t j ä r j e s t y n e e t s i t e n, e t t ä k a r t a l l a l ä h e k k ä i n o l e v a t m a l l i t k u v a a v a t k e s k e n ä ä n s a m a n k a l t a i s i a t i e t o a l k i o i t a. J o k a i n e n t i e t o a l k i o s i j o i t t u u k a r t a l l a s i i h e n k u v a p i s t e e s e e n j o s s a o l e v a m a l l i v a s t a a t i e t o a l k i o t a p a r h a i t e n. L i s ä t i e t o j a i t s e o r g a n i s o i v a s t a k a r t a s t a. WEBSOM-a r k k i t e h t u u r i D o k u m e n t t i k a r t t a D o k u m e n t i t j ä r j e s t y v ä t a u t o m a a t t i s e s t i v i s u a a l i s e k s i k a r t a k s i SOM-m e n e t e l m ä ä k ä y t t ä e n. En n e n j ä r j e s t ä m i s t ä d o k u m e n t t i e n t e k s t i s i s ä l t ö m u u n n e t a a n n u m e e r i s e e n e s i t y s m u o t o o n. K u t a k i n d o k u m e n t t i a v a s t a a u s e i t a s a t o j a n u m e r o a r v o j a. T ä l l a i n e n d o k u m e n t t i e n k o o d a u s p e r u s t u u s i i h e n, e t t ä j o k a i s t a s a n a a v a s t a a t i e t y n l a i n e n n u m e r o a r v o j e n y h d i s t e l m ä. Mi t ä u s e a m m i n s a n a e s i i n t y y d o k u m e n t i s s a s i t ä s u u r e m p i t ä m ä n y h d i s t e l m ä n o s u u s k o o d i s s a o n. L i s ä k s i s a n o j a p a i n o t e t a a n n i i d e n y l e i s y y d e n m u k a a n. Es i k ä s i t t e l y v a i h e e s s a t e k s t i a i n e i s t o s t a p o i s t e t a a n v ä l i m e r k i t, n u m e r o t j a m u u t k o o d i t, s e k ä j ä t e t ä ä n y l e i s i m m ä t j a h a r v i n a i s i m m a t s a n a t p o i s k ä s i t t e l y s t ä. Su o m e n k i e l i s e n a i n e i s t o n k ä s i t t e l y n e r i t y i s p i i r t e e t. Su o m e n k i e l i s e s s ä t e k s t i s s ä s a n a t e s i i n t y v ä t e r i t t ä i n u s e i n t a i p u n e e s s a m u o d o s s a, e i k ä s a m a n s a n a n t a i p u n e i t a m u o t o j a v o i l ö y t ä ä h e l p o s t i e s i m e r k i k s i s a n a n k a t k a i s u a k ä y t t ä m ä l l ä. T ä s t ä s y y s t ä o s a n a s u o m e n k i e l i s e n a i n e i s t o n e s i k ä s i t t e l y ä s a n a t o n p a l a u t e t t u p e r u s m u o t o o n L i n g s o f t Oy : n T WOL -o h j e l m a l l a. L i s ä t i e t o j a m m. s u o m e n k i e l i s e n t e k s t i n k ä s i t t e l y s t ä y l e e n s ä s e k ä t e h t ä v ä ä n s o v e l t u v i s t a o h j e l m i s t a l ö y d ä t L i n g s o f t i n w w w -s i v u i l t a. D o k u m e n t t i k a r t a n n i m i k k e e t, e l i k a r t a l l e k i r j o i t e t u t s a n a t, o n v a l i t t u a u t o m a a t t i s e l l a m e n e t e l m ä l l ä s i t e n, e t t ä n e k u v a i s i v a t m a h d o l l i s i m m a n h y v i n k y s e i s e n a l u e e n d o k u m e n t t e j a. H a k u

14 Hakuteksti koodataan numeerisiksi arvoiksi samoin kuin dokumenttikarttaa muodostettaessa. N ä in sf aadul l e koodil l e etsitä ä n sitä l ä h innä vastaava al ue kartal ta vertaamal l a koodia kartan y ksikö itä vastaaviin mal l eih in. Haun tul oksena l ö y ty neet l ä h immä t karttay ksikö t esitetä ä n kä y ttä j ä l l e y mp y rö inä dokumenttikartal l a. K ä y ttö l iitty mä K ä y ttö l iitty mä muodostuu kokoel masta w w w -sivuj a, sekä c g i-oh j el mista, j oil l a on toteutettu mm. h akuominaisuus. Saija Rahkola, Sari Timonen / /N ewtec h/n eur o v er ko t_ 2.html 1 SOM neuroverkkomenetelmänä selluloosan keiton h allinnassa I tseorg anisoivaa karttaa on sovel l ettu muun muassa p rosessitekniikan j a kemian kä y ttö ö n. neuroverkon avul l a T eol l isuusp rosessia on mah dotonta h al l ita h y vin omaamatta kä sity stä p rosessissa esiinty vistä til oista sekä tietoa tietty ä til aa seuraavasta uudesta til asta. N euroverkkoj en avul l a voidaan p rosessej a h al l ita tutkimal l a p el kä stä ä n p aikal l isten mittausarvoj en, kuten esimerkiksi l ä mp ö til oj en j a al kal isuuden vä l isiä riip p uvuuksia. E simerkiksi W isaf orest O y : n P ietarsaaren teh tail l a on y h teisty ö ssä T eknil l isen K orkeakoul un inf ormaatiotekniikan l ab oratorion kanssa tutkittu itseorg anisoivan kartan kä y ttö ä j atkuvatoimisen sel l ul oosan keiton tarkkail ussa. P rosessin til aa kuvataan eril aisil l a mittausmuuttuj il l a: kol mel l a eri p aikoista mitatul l a l ä mp ö til al l a, kah del l a eri p aikoista mitatul l a al kal isuusarvol l a sekä sel l ul oosan kap p a-l uvul l a. E ri keitoil l a j a keiton kestä essä nä mä kuusi l ukua vaih tel evat tiety issä raj oissa riip p uen sil ti samal l a toisistaan. I tseorg anisoiva kartta l askee muun muassa y l i kaksisataa eril aista p rosessitil an mal l ia el i p rosessista teh tä vä n mitauksen arvoy h distel mä ä, j otka kuvaavat p rosessissa esiinty viä tap auksia mah dol l isimman real istisesti. I tseorg anisoivassa kartassa y ksi kuvap iste vastaa y h tä ty y p il l istä p rosessin til aa. Ä l y kkä ä t j ä rj estel mä t, Harj oitus 5, T eh tä vä 3 S amp sa W il l man j a J anne T ö rnroos h ttp : / / w w w. c is. h ut. f i/ researc h / : I ndep endent C omp onent A nal y sis. I ndep endent C omp onent A nal y sis ( I C A ) is a novel statistic al meth od w h ose maj or ap p l ic ation is in sig nal sep aration. I ndep endent c omp onent sig nal s c an b e f ound f rom

15 M M their mixtures, f o r exa mp l e, f ro m M E G b ra in s ig n a l s, tel ec o mmun ic a tio n s ig n a l s, o r mixed s p eec h. I n the p ro j ec t, b o th theo retic a l w o rk o n I C A a n d s ev era l a p p l ic a tio n s a re s tud ied. T he f o c us o f the theo retic a l p a rt is in B a y es ia n metho d s a n d the d ev el o p men t o f f a s t a l g o rithms. D a ta a n a l y s is w ith the S O M. S el f O rg a n iz in g M a p -b a s ed metho d s a re d ev el o p ed f o r d a ta a n a l y s is a n d in f o rma tio n v is ua l iz a tio n. A p p l ic a tio n s o f the S O M a re s tud ied in g ro up s s p ec ia l iz in g o n b io in f o rma tic s, l ea rn in g metric s, s p eec h, a n d n a tura l l a n g ua g e mo d el l in g. T he l a rg es t a p p l ic a tio n o f the S O M in d a ta min in g, W E B S O M, d ea l s w ith the o rg a n iz a tio n o f l a rg e d o c umen t c o l l ec tio n s. S a mul i K es o l a http : / / w w w. c is. hut. f i/ res ea rc h/ s o m-res ea rc h/ S O M v erk k o j a k ä y tetä ä n k un o rg a n is o id a a n s uurta j o uk k o a mo n iul o tteis ta d a ta a ( s a ira a l a s o v el l uk s is s a j o p a k o l mek y mmen tä ul o tteis ta ). P ro j ek tis s a k ä y tettiin K o ho s en v erk k o a j a s itä o n k ä y tetty s eura a v is s a s o v el l uk s is s a : p uheen tun n is tuk s es s a, tehta id en o hj a uk s es s a, s a tel l iittik uv ien l uo k ittel us s a, s uurien d o k umen ttik o k o el mien j ä rj es tä mis es s ä. P ro j ek tin j o hd o s s a / j ä s en en ä o n to imin ut my ö s K o ho n en its ek in. http : / / w w w. c is. hut. f i/ p ro j ec ts / id e/ P ro j ek tin ta rk o ituk s en a o n l uo k itel l a d a ta a riip p uma tta min k ä l a is ta s e o n ta i että mis tä l ä htees tä s e tul ee. P ro j ek ti o n v iel ä k es k en j o ten s en o n n is tun eis uutta o n v a ik ea a rv io id a. P ro j ek ti o n en emmä n k in " k a tto " -p ro j ek ti, j o k a ta rj o a a tieto ta ito a y hteis ty ö k ump p a n eil l e. P ro j ek ti o n j a ettu n el j ä ä n a l ip ro j ek tiin j o tk a ta rj o a v a t teo l l is uud en ta rp eis iin ra tk a is uj a. L is ä k s i p ro j ek ti to imiin k o l men muun p ro j ek tin S a ri P a s a n en a tk a -a j a n en n us tema l l i L a hti-hein o l a v ä l il l ä a tk a -a ik a tied o tuk s el l a p y ritä ä n v a ik utta ma a n a uto il ij o id en o d o tuk s iin ma tk a n s uj umis es ta j a v a ik utta a tien k ä y ttä j ien ma tk a -a ik a o d o tuk s iin. E n n us tema l l ein a k ä y tettiin mo n ik erro s p ers ep tro n in euro v erk k o j a el i M L P -v erk k o a. V erk o s s a s y ö tek erro k s en n euro n ien mä ä rä o l i y htä s uuri k uin s y ö tep a ra metrien mä ä rä j a v a s tek erro s ten n euro n ien mä ä rä v a s ta a v a s ti y htä s uuri k uin v a s tep a ra metrien mä ä rä p iil o k erro s ten mä ä rä k s i v a l ittiin y k s i. O ik ein en n us tettuj en ma tk a -a ik o j en o s uus k uv a s ta a ma l l in hy v y y ttä. M a l l i o n n is tui s uhteel l is en hy v in. w w w o s o ite:

16 n_ennu stem alli.pd f J a t k e t i i l e n t u k k e u t u m i s e n e s t ä m i n e n O u l u n y l i o p i s t o n t u t k i m u s, j o s s a m a l l i t t e h t y m y ö t ä k y t k e t y i l l ä n e u r o v e r k o i l l a, j o i t a o n o p e t e t t u b a c k p r o p a g a t i o n -m e n e t e l m ä l l ä. M a l l i l l a p y s t y t t i i n s u h t e e l l i s e n h y v i n e n n u s t a m a a n t u k k e u m a k o h t i a. w w w o s o i t e : lu.fi/d ocs/lib rary/level_0 /b no32.pd f T e e m u M a t i l a i n e n N e u r o v e r k o n k ä y t t ö e r i t u t k i m u k s i s s a : O s o i t t e e s t a h t t p : / / w w w. c s. u t e x a s. e d u / u s e r s / n n / l ö y t y y t i e t o a U T C S N e u r a l N e t s r e s e a r c h r y h m ä s t ä. E s i m e r k k e i n ä v o i d a a n m a i n i t a t u t k i m u k s e t t e k o ä l y n j a l u o n n o l l i s e n p u h e e n s a r a l t a. O s o i t t e e s t a h t t p : / / w w w. c i s. h u t. f i / r e s e a r c h / l ö y t y y s u o m a l a i s e n n e u r o v e r k k o t u t k i m u s k e s k u k s e n a i h e i t a. E s i m. k u i n k a S O M v e r k k o a o n k ä y t e t t y d a t a n a n a l y s o i n t i i n, i n f o r m a a t i o n v i s u a l i s o i n t i i n j a k u i n k a n e u r o v e r k k o a o n k ä y t e t t y h a k u k o n e e n t o t e u t u k s e e n. O s o i t t e e s t a h t t p : / / w e b s o m. h u t. f i / w e b s o m / l ö y t y y S O M : l l a t o t e u t e t t u i n t e r n e t h a k u k o n e j o s s a k ä y t e t t ä ä n W E B S O M n i m i s t ä m e t o d i a : WEBSOM Method WEBSOM i s a m e t h o d f o r o r g a n i z i n g m i s c e l l a n e o u s t e x t d o c u m e n t s o n t o m e a n i n g f u l m a p s f o r e x p l o r a t i o n a n d s e a r c h. W E B S O M i s b a s e d o n t h e S O M ( S e l f -O r g a n i z i n g M a p ) a l g o r i t h m t h a t a u t o m a t i c a l l y o r g a n i z e s t h e d o c u m e n t s o n t o a t w o -d i m e n s i o n a l g r i d s o t h a t r e l a t e d d o c u m e n t s a p p e a r c l o s e t o e a c h o t h e r. S e e a l s o t h e l i s t o f p u b l i c a t i o n s. T h e m a t h e m a t i c a l p r e l i m i n a r i e s, b a c k g r o u n d, b a s i c i d e a s, i m p l i c a t i o n s, a n d n u m e r o u s a p p l i c a t i o n s o f S e l f -O r g a n i z i n g M a p s a r e d e s c r i b e d i n t h e r e c e n t b o o k K o h o n e n : S e l f - O r g a n i z i n g M a p s ( S p r i n g e r, ; s e c o n d e x t e n d e d e d i t i o n ). T i m o f e i T c h o u d o v, N a t a l i a H a k k a r a i n e n

17 - T ä mä n o hj elman av ulla k ä y ttä j ä v o i tehd ä astro lo o gi set en n ustuk set. H ä n elle tarj o taan mahd o lli suuk si a tehd ä ho ro sk o o ppi v uo d elta e.k r. v uo teen , n ä y tä plan eetto j en k o o rd i n aati t j n e. K ä y tetty n euro v erk k o o n salai n en, j o ten emme ti etä sen n i meä. l.go v : /pro j /n euro n /pro j ects/lun g-dx.html - T he purpo se o f thi s pro j ect was to d ev elo p an auto mated sy stem wi th n eural n etwo rk s, f uz z y lo gi c, an d i mage pro cessi n g techn i q ues to an aly z e lun g v en ti lati o n an d lun g perf usi o n n uclear i mages an d to i d en ti f y speci f i c lun g d i seases.