Vertaisarvioinnit työvälineenä kaupunkien ilmastotyössä Koostanut: Sakari Saarinen, Itämeren kaupunkien liiton ympäristökomissio 9.3.2010 1
Vertaisarvioinnin käytäntöjä Vertaisarvionnissa (Peer review) on kyse ulkoisesta arvioinnista, jossa kriittiset ystävät arvioivat riippumattomalla tavalla sitä, kuinka arvioitava kaupunki/taho toimii ja edistyy suhteessa johonkin määriteltyyn ideaaliin/vertailukriteeristöön. Vertaisarviointi on siten kriteeriperusteista suorituksen arviointia eli asiantuntijoiden harkittu arvio edistyksestä, jota arvioitava on saanut aikaan pyrkiessään kohti määriteltyä vertailutavoitetta eli ihannetilannetta. Vertaisarvioijat (peers) ovat arvioinnin kohteena olevan sektorin/asiakokonaisuuden asiantuntijoita ja ammattilaisia eli tekevät samankaltaisia töitä samankaltaisessa organisaatiossa kuin on arvioinnin kohteena. Arvioijat ovat objektiivisia ja puolueettomia ja he arvioivat yleensä suunnilleen omaansa vastaavan organisaatiotason toimintaa. Vertaisarvioinnin prosessi voidaan jakaa tavallisesti kolmeen osaan: - arviointivierailua valmistelevat toimet (ennakkomateriaalit, itsearviointi, vierailun sisällön suunnittelu ja valmistelu) - arviointivierailu (haastattelujen, työpajojen ym. suorittaminen) - raportointi (kirjallinen raportointi, muu palauteaineisto, mahdollinen päätöstilaisuus) Tämä yhteenveto selostaa lyhyesti ja käytännönläheisesti vertaisarvioinnin eri osapuolten tehtävät ja vastuut näiden kolmen arviointivaiheen aikana. Vertaisarvioinnin osapuolet ovat arvioinnin suorittava arviointitiimi sekä ns. isäntäkaupunki eli käytännössä arvioinnin kohteena oleviin toimintoihin läheisesti liittyvät henkilöt. Isäntäkaupungin on nimettävä kutakin arviointia varten koordinaattori/yhteyshenkilö, jonka käytännön vastuut ovat moninaiset. Seuraavassa tarkastellaan yksityiskohtaisemmin arviointiimin ja isäntäkaupungin tehtäviä ja toimintoja. VERTAISARVIOINNIN KOHDE Vertaisarvioinnin kulloinenkin kohde tai sisältö määrittyy yleensä isäntäkaupungin tarpeen perusteella. Arviointiyhteistyön yhtenä tavoitteena on molempien osapuolten oppiminen joten on hyvä pyrkiä neuvottelemaan kohteesta ja sen rajaamisesta ja muodostaa siitä yksimielisyys osapuolten välillä hyvissä ajoin ennen arvioinnin käytännön valmistelujen aloittamista. 2
Yhteisesti on sovittava aika-/henkilöresurssi, jonka kukin osapuoli arviointia kohden voi käyttää ja sopeutetaan sitten arvioinnin kohteen rajaus tähän sovittuun voimavaraan. On hyvä myös varautua siihen, että vielä valmisteluvaiheessa voidaan tehdä muutoksia arviointikohteen rajauksessa. VERTAISARVIOINTITIIMI Arvioinnin tarkan kohteen tultua sovituksi valitaan seuraavaksi arviointitiimi. Arviointitiimissä on tiimin johtaja tai vetäjä sekä tarvittava määrä tiimin jäseniä, yleensä vähintään 2 4. Tiimin johtajalla tulisi olla kokemusta vertaisarviointien tekemisestä ja sen jäseniltä tulisi löytyä asiantuntemusta arvioinnin kohteena olevalta alalta. Tiimin johtajalle tulisi myös nimetä sijainen samoin kuin yksi tai kaksi varahenkilöä tiimin varsinaisille jäsenille. Arviointitiimin vetäjä Tiimin vetäjän rooli on johtaa koko arviointia, toimia ensisijaisena yhteyshenkilönä tiimin ja isäntäkaupungin välillä kaikkien arvioinnin vaiheiden aikana, toimia arviointitiimin neuvojana ja puheenjohtajana sen kokouksissa valmisteluvaiheen ja haastattelupäivien aikana sekä haastattelujen päätöskokouksessa, välittää ja toimittaa tarvittavat materiaalit ja arvioinnin loppuraportin isäntäkaupungille sekä osallistua tarvittaessa tiimin edustajana arvioinnin päätöstilaisuuteen. Päätöstilaisuus pidetään, mikäli niin yhteisesti sovitaan sen jälkeen kun isäntäkaupungin edustajilla on ollut riittävästi aikaa tutustua arvioinnin kirjalliseen loppuraporttiin. Tiiminvetäjä päättää myös tarvittavat tehtävien delegoinnit ja hoitaa muut tiimin johtamiseen liittyvät tehtävät. Tiimin vetäjän työajan käyttö yksittäisessä arvioinnissa riippuu tietysti arvioinnin kohteen laajuudesta ja rajaamisesta, mutta minimissään se ei voi olla vähempää kuin 8 10 työpäivää tai 60 75 työtuntia. Tiimin vetäjä on vastuussa: - että isäntäkaupungin koordinaattorin esittämä arviointiohjelma ja työlle varatut tilat ovat sopivat ja asianmukaiset - että sovittu arviointitiimi saadaan kokoon, tiimin jäsenillä on käytössään tarvittava ennakkomateriaali sekä arviointia varten tarvittavat valmistelevat tiimin kokoukset pidetään - että tiimin jäsenten roolit ja tehtävät arvioinnin kuluessa ovat selkeät - että tarvittavat alustukset tai haastattelujen johdannot valmistellaan ja päätetään niiden pitäjät 3
- että haastatteluille sovitaan selkeä rakenne ja että tiimin jäsenet perehdytetään haastattelujen tekemiseen - että käytetään sopivia menetelmiä haastattelujen kirjaamiseen ja muiden arvioinnin aikana tehtyjen havaintojen rekisteröintiin - että jokaisen haastattelupäivän lopuksi pidetään tiimin yhteenvetokokous, jossa kirjataan muistiin päivän havainnot - että loppuraportin valmistelun työnjako tiimin jäsenten kesken on selkeä ja että raportti toimitetaan isäntäkaupungille sovitussa aikataulussa Arviointitiimin jäsenet Arviointitiimin jäseniltä tulee löytyä riittävää asiantuntemusta arvioinnin kohteena olevista asioista. Tiimin jäsenten ajankäyttö riippuu myös arvioinnin kohteesta ja sen rajaamisesta. Minimissään tiimin jäsenen työpanos yhtä arviointia kohden on 5 6 työpäivää tai 37 45 tuntia. Myös tiimin jäsenten on hyvä varautua osallistumaan mahdolliseen arvioinnin päätöstilaisuuteen. Tiimin jäsenet ovat vastuussa: - siitä että tutustuvat isäntäkaupungin toimittamaan arvioinnin kohteeseen liittyvään materiaaliin ja tekevät siitä havaintoja ja kirjaavat ne muistiin - että osallistuvat arviointitiimin arviointitilannetta (haastattelupäiviä) valmisteleviin kokouksiin, joissa kootaan mm. ennakkomateriaalista tehdyt havainnot - että hyvissä ajoin varaavat sovitut haastattelupäivät ja pyytävät esimiehiltään matkamääräykset näiksi päiviksi - että varautuvat haastattelupäivinä valmistelemaan ja aktiivisesti suorittamaan haastattelut yhteisesti sovitussa formaatissa ja riittävästi kirjaamaan niiden aikana tehdyt havainnot - että tekevät havainnoista päivittäin yhteenvedot ja tuovat ne tiimin päivittäisiin yhteenvetopalavereihin - että varaavat aikaa haastattelupäivien jälkeen kirjoittaakseen sovitun osuutensa arviointiraportista ja osallistuvat arviointiraportin kokoamista ja viimeistelyä varten pidettäviin kokouksiin 4
ISÄNTÄKAUPUNKI Isäntäkaupunki nimeää arviointia varten koordinaattorin/yhteyshenkilön, joka on päävastuussa yhteydenpidosta arviointitiimiin sekä arvioinnin käytännön järjestelyistä paikan päällä. Arviointikohteesta riippuen koordinaattori saattaa tarvita avustavia henkilöitä joko käytännön järjestelyissä tai yhteydenpidossa eri sidosryhmiin, joiden panosta mahdollisesti tarvitaan arvioinnin aikana. Siksi olisi hyvä, jos päätös koordinaattorista voitaisiin tehdä päällikkötasolla ja samalla päätettäisiin hänen valtuuksistaan organisaation sisällä tai sitten päällikkö nimeää nuo mahdolliset avustavat henkilöt neuvoteltuaan asiasta koordinaattorin kanssa. Koordinaattori Koordinaattori on isäntäkaupungin palveluksessa ja hänen työtehtävänsä liittyvät arvioinnin kohteena oleviin kaupungin toimintoihin. Koordinaattori toimii ensisijaisena yhteyshenkilönä arviointiimiin ja sen vetäjään. Hän on päävastuussa kaikista arviointipäivien käytännön valmisteluista. Koordinaattoria voi tarvittaessa avustaa muitakin henkilöitä. Jos arvioinnin kohde on laaja, on tämä myös toivottavaa. Koordinaattori päättää myös (neuvoteltuaan arviointitiimin vetäjän kanssa) keitä arviointivierailun aikana haastatellaan ja ketkä muuten osallistuvat arviointiin isäntäkaupungin edustajina. Arviointivierailun aikana tarvittavan majoituksen, lounaspaikkojen yms. varaamisesta sovitaan erikseen koordinaattorin ja arviointitiimin vetäjän kesken. Koordinaattorin (ja avustavien henkilöiden) työpanos arviointia kohden voi vaihdella huomattavasti, mutta se on todennäköisesti aina suurempi kuin arviointitiimin vetäjän työpanos. Koordinaattori on vastuussa: - että toimittaa hyvissä ajoin ennen sovittua arviointivierailua arviointiimin käyttöön tarvittavan ennakkomateriaalin arvioinnin kohteesta - että hänellä on tarvittaessa käytettävissään avustavia henkilöitä arviointivierailun käytännön valmisteluissa - mikäli haastattelut suoritetaan useissa eri paikoissa, että arviointitiimillä on käytössään joukkoliikennekartat ja aikataulut - että varaa arviointitiimin käyttöön tarvittavan tukikohtahuoneen (kts. jäljempänä) sekä mahdolliset muut tilat - että varaa haastateltavilta ja muilta isäntäkaupungista arviointiin osallistujilta ajat haastattelupäiviksi ja sovittaa nämä niin, että arviointiimin jäsenet ehtivät hyvin haastattelusta tai 5
tapaamisesta toiseen ja että päiväohjelmassa on riittävät lounas- ym. tauot - että toimittaa haastateltaville ja muille osallistujille tarvittavat tiedot vertaisarvioinnista ja sen tavoitteista - että osallistuu arviointitiimin briiffauskokoukseen (1. tiimikokous kohdekaupungissa), jossa käydään läpi tulevien päivien ohjelma ja sovitaan lopullisesti haastattelujen ja mahdollisten muiden tapahtumien työnjaosta yms. - että varaa arviointivierailupäivinä itselleen riittävästi aikaa jotta voi tarvittaessa osallistua esim. arviointiimin päivittäisin yhteenvetokokouksiin ja että voi avustaa arviointiimiä mahdollisissa käytännön ongelmissa - varaa tilan ja kutsuu tarvittavat isäntäkaupungin edustajat arviointivierailun lopuksi pidettävään palautepalaveriin, jossa arviointitiimi antaa ensimmäisen suullisen palautteen haastattelujen ja muiden havaintojen tuloksista Tukikohtahuone Arviointitiimi tarvitsee tukikohdakseen huoneen, joka on sen käytettävissä koko sen ajan, jonka tiimi isäntäkaupungissa viettää. Huoneesta tulisi löytyä työskentely/kokoustilaa koko tiimille sekä muutamalle muulle henkilölle mahdollisia lyhyitä työpajoja tai laajempia haastattelutilanteita varten. Tukikohtaa tarvitaan ensimmäisen kerran joko haastattelupäiviä edeltävänä iltana tai ensimmäisen haastattelupäivän aamuna pidettävälle briiffauskokoukselle. Ihannetapauksessa huoneen varustus on: - kokoustila n. 6-8 henkilölle plus pari työpistettä - tietokone nettiyhteydellä tai ainakin nettiyhteys - 2 fläppitaulua plus tarvittavat tussit ja kynät - PP projektori - eri värisiä muistilappuja - teen/kahvinkeittomahdollisuus ainakin huoneen lähistöllä Lisätietoa - BUSTRIP-projektin vertaisarviointimetodologia, ohjeistus, arviointien esitykset ja raportit: www.bustrip-project.net - Koulutussektorin eurooppalainen vertaisarviointitietopankki: www.peer-revieweducation.net Tähän liittyvä suomenkielinen opas: http://www.oph.fi/instancedata/prime_product_julkaisu/oph/embeds/46867_euroopp alaisen_vertaisarvioinnin_opas_ammatilliseen_koulutukseen.pdf 6
7