Hankearvioinnin monet kasvot

Transkriptio

1 Hankearvioinnin monet kasvot

2 Arvioinnin määritelmiä on monia Pattonin (1997) mukaan arviointi on systemaattista informaation keräämistä toiminnan toteutuksesta, luonteesta ja vaikutuksista, jotta toiminnan arvo voidaan määritellä, sen vaikuttavuutta voidaan parantaa tai, jotta saadaan tietoa päätöksentekoon tulevaisuuden ratkaisuja varten. Arviointi on prosessi, jossa tarkastellaan systemaattisesti ja objektiivisesti politiikan, ohjelman, hankkeen/projektin tai toimenpiteen merkitystä, tehokkuutta ja vaikutuksia suhteessa niille asetettuihin tavoitteisiin (European Commission 1997).

3 Arviointi Arvioinnin avulla seurataan ja tehdään tarvittavia täsmennyksiä ja korjausliikkeitä kehittämisprosesseissa Lisäksi arvioinnin kautta tehdään näkyväksi hankkeen hyvät käytännöt, tulokset ja vaikutukset. Hankkeen vaikutuksia voidaan tarkastella asiakasvaikutuksina, organisatorisina, alueellisina, yhteiskunnallisina. Prosessiarvioinnissa arviointi toimii ennen kaikkea palautteena ja hankkeen ohjaamisen välineenä. Seppänen-Järvelä, Riitta (2004); Prosessiarviointi kehittämisprojektissa 4_04.pdf?sequence=1

4 Arviointi/seuranta - esimerkki Seurannassa tuotetaan ns. neutraalia informaatiota, arvioinnissa siitä tehdään johtopäätöksiä eli tieto suhteutetaan johonkin kriteeriin ja siitä seuraa mahdollisesti joitakin toimenpiteitä. Esimerkki seurantatietoa on asiakasmäärä, arviointi näkökulma vertaa sitä asetettuun kriteeriin, jolloin määrä voidaan arvioida riittäväksi tai riittämättömäksi Vrt. Seppänen-Järvelä 2004

5 Arviointi voidaan jakaa 1 Ennakkoarviointiin (Esim. ESR-ohjelmien ennakkoarviointi) Formatiiviseen arviointiin Hankkeen aikainen arviointi, kuinka hanketta on toteutettu ja miten sen toimintaa voitaisiin parantaa Summatiiviseen arviointiin Kohdistuu lopputuloksiin, vaikutuksiin ja vaikuttavuuteen. Formatiivinen ja summatiivinen arviointi täydentävät toisiaan. Pelkkä lopputulosarviointi ilman edes kevyttä prosessiarviointia ei ole suositeltavaa (Seppänen-Järvelä 2004).

6 Arviointi voidaan jakaa 2 Itsearviointiin, jossa toiminnan toteutuksesta vastaavat työntekijät itse arvioivat työtään ja muokkaavat tätä var- ten erilaisia arviointimenettelyjä. Ulkoiseen arviointiin, jossa hankkeen ulkopuolinen taho toteuttaa arvioinnin Prosessiarviointi voidaan toteuttaa esimerkiksi itsearviointina/sisäisenä arviointina, tai siinä voi olla tukena jokin ulkopuolinen taho vrt. vertaisarviointi

7 Havaintoja Kehittämisprojektiin osallistuvat ymmärtävät arvioinnin merkityksen ja hyödyntämismahdollisuudet parhaiten silloin kun he itse osallistuvat arviointivälineiden suunnitteluun ja myös itse arviointiin (Seppänen-Järvelä 2004) vrt. asiakasosallisuus - arviointiosallisuus Kun projektien onnistumista tai epäonnistumista on tutkittu, on havaittu että tärkein syy liittyy siihen, miten kehittämistoiminta tai interventio on toteutettu (Seppänen- Järvelä 2004). Kts. Seuraava dia

8 Arvioinnin toteutus: hankkeen alussa tulisi laatia erillinen arviointisuunnitelma, jos arviointia ei ole sisällytetty hankesuunnitelmaan Arviointisuunnitelma voi olla osa hankkeen alussa laadittavaa tarkennettua hankesuunnitelmaa Hanke/arviointisuunnitelmassa mietittävä: Mitkä ovat arvioinnin tavoitteet Mitä resursseja arviointiin on käytettävissä? Missä projektin vaiheessa arviointi/arvioinnit tehdään? Onko itsearviointi oikea valinta, vai tulisiko mahdollisesti käyttää (myös) ulkopuolista arviointia? Onko arvioijalla/arvioijilla riittävää arviointiosaamista? Osataanko arviointi kohdistaa oikeisiin asioihin? Suunnitelmassa tulee olla sekä formatiivinen osuus että myös summatiivinen osuus

9 Arviointi voi kohdistua Hankkeeseen kokonaisuutena, kokonaisarviointi,hanke osana toimintaympäristöä Hankkeen tiettyihin osiin: tarvitaan rajauksia jotta arvioinnista tulee hallittava Työllistämishankkeissa arvioinnin kohteita voivat olla esimerkiksi kokeillut työllistämistoimet, työhön kuntoutus, tuetun työllistämisen asiakasnäkökulma tai hyödyt. Arviointi voi kohdistua toimintamuotoihin, työkäytäntöihin, prosesseihin ja palvelurakenteisiin (Kokko, Riitta-Liisa 2013) Arviointi voi kohdistua myös tiettyyn teemaan, esimerkiksi ESR-toiminnassa arvioitavia teemoja/horisontaalisia periaatteita ovat sukupuolten tasa-arvo, kestävä kehitys, yhdenvertaisuus

10 Arviointiin vaikuttavat mm. Kuka on arvioinnin tilaaja (rahoittaja, alueellinen organisaatio, projekti) Saatavilla oleva aineisto Arvioinnin ajankohta Resurssit (rahallinen panostus, arviointiosaaminen) Yleisohjeena voidaan pitää, että valitaan aina sellainen asetelma joka vastaa parhaiten tilaajaorganisaation tiedontarvetta ja on kokonaistaloudellisesti järkevin suhteessa tiedontarpeeseen (Virtanen, Uusikylä (2002)

11 Arviointisuunnitelma - itsearviointina ja/tai ulkopuolisena arviointina (vrt. Kivipelto Hankearvioinnin asiat) 1. Hankkeen toimeenpanon arviointi ( projektiryhmän ryhmäytyminen, kohderyhmien tavoittaminen, tavoiteura) Itsearviointi, ryhmäkeskustelut, johtopäätökset, muutostarpeet, ohjausryhmän arviointi hankkeen toiminnasta Asiakaspalaute, alkumittaukset Toiminnan muutostarpeet, orastavat hyvät käytännöt (asiakkaiden ja sidosryhmien palautteen pohjalta) 2. Hankkeen tuloksellisuuden ja vaikuttavuuden (onnistumisen, hyödyllisyyden jne) arviointi tuotokset, tulokset, vaikutukset, kustannustarkastelu, hyvät käytännöt,levittäminen Itsearviointi Kyselyt yhteistyötahoille, verkostolle Asiakaspalaute, loppumittaukset 3. Arvioinnin johtopäätökset, suositukset

12 Mitä vaaditaan? Itsearviointi/arviointi Oman toiminnan arviointi on hankkeen normaalia toimintaa. Hankkeelle valitaan sen toimintaa parhaiten tukeva arviointimenetelmä. Arviointi voidaan toteuttaa itsearviointina tai ulkoisena palveluna. Toteutumista ja tuloksia arvioidaan suhteessa hankkeen tavoitteeseen. Arvioinnissa olisi hyvä kuunnella hankehenkilöstön ja ohjausryhmän lisäksi myös yhteistyökumppaneiden ja kohderyhmän edustajia. Arvioinnin pohjalta voidaan tarvittaessa neuvotella rahoittavan viranomaisen kanssa hankkeen uudelleen suuntaamisesta. Tavoitteiden saavuttamisen lisäksi arvioinnin kohteena voi olla esim. ohjausryhmän toiminta viestintä hankkeessa tehdyt toimenpiteet ja niiden laatu hankkeen kehittämän toiminnan jatkuvuus

13 Sokran arviointitoiminnasta

14 Sokra-arvioinnissa ei tehdä hanketason arviointia vaan aktivoidaan hankkeita tekemään itsearviointia ja esimerkiksi asiakastyytyväisyyskyselyjä, asiakasraatitoimintaa jne. (vrt.asiakasarviointi) Korostetaan arvioinnin suunnittelun dokumentaation ja hyödyn ymmärryksen merkitystä Korostetaan hankkeen arviointitoiminnan suuntaamista hankkeen resurssien mukaan pienikin voi olla kaunista Sokran arvioinnin suuntaamisessa pyritään toimimaan siten, että vastataan hankkeiden kysyntään arviointitukeen liittyen.

15 Aloittavien TL5 hankkeiden kysely (kesäkuu2015) Miten arviointi hankkeessanne on suunniteltu tehtävän? Hankkeen arviointitoimintaa ei ole vielä suunniteltu yksityiskohtaisesti Hankkeen arviointia ohjaa rahoittajan luoma arviointipohja 5 1 Hankkeessa on tarkoitus tehdä ulkoinen arviointi 7 4 Hankkeessa on tarkoitus tehdä asiakasarviointia Hankkeessa on tarkoitus tehdä vertaisarviointia Hankkeessa on tarkoitus tehdä itsearviointia Hankkeessa on nimetty arvioinnista vastava henkilö Alueelliset Osahankkeet Valtakunnalliset

16 Millaista arviointiin liittyvää tukea Sokralta toivotaan Millaista tukea tarvitsette Sokralta arviointiinne liittyen? Emme tarvitse tukea arviointitoimintaamme Muuta ohjeistusta 2 1 Tietoa lupaavista/hyvistä käytännöistä, niiden tunnistamisesta ja levittämisestä Opastusta ja välineitä asiakasarviointiin Opastusta ja välineitä vertaisarviointiin Opastusta ja välineitä itsearviointiin Alueelliset Osahankkeet Valtakunnalliset

17 Sokralta toivotun arviointituen kanavat Miten arviointiin liittyvää tukea ja neuvontaa tulisi jakaa? Muuten 1 1 Verkkosivujen, hankkeille laadittavan arviointioppaan jne. kautta Arviointityöpajoissa Seminaareissa Alueelliset Osahankkeet Valtakunnalliset

18 Sivulla tietoa asiakasarvioinnista, itsearvioinnista ja hyvistä käytännöistä Asiakasarviointi Asiakasosallisuus tarkoittaa, että asiakas osallistuu aktiivisesti palvelun suunnitteluun, järjestämiseen, tuottamiseen, kehittämiseen ja/tai arviointiin. Asiakkaan osallistumisesta arviointitoimintaan käytetään termiä asiakasarviointi. Asiakas voi osallistua arviointiin koko arviointiprosessin ajan tai olla mukana vain jossakin osassa esimerkiksi loppuarvioinnissa. Tilanteesta riippuen asiakasarviointiin voivat osallistua kaikki asiakkaat tai asiakkaat voidaan valita joidenkin kriteerien perusteella. Toisinaan voi myös olla tarpeen ottaa arviointiin mukaan asiakkaiden lähipiiriin kuuluvia henkilöitä.

19 Arvioinnin arkea, pinnalla, tilannekuvia

20 Arviointi ja mittaaminen Mittari on arviointiväline esimerkiksi laite, kysymyslomake, haastattelu tai työkokous, jolle on laadittu asioiden käsittelysabluuna. Esimerkkinä Kykyviisarin laadinta ja käyttö laatijana Solmu-hanke. Kykyviisari on kehitteillä oleva menetelmä, jonka avulla voi arvioida työelämän ulkopuolella olevan työikäisen työ- ja toimintakykyä. Sen avulla voi seurata myös, miten työ- ja toimintakyky muuttuvat vrt. vaikuttavuus Sokran aloittavien hankkeiden kyselyssä asiakasarviointimenetelmiä mainittiin nimeltä mm. Goal( ESY ( ) Suositeltavaa käyttää jo kehitettyjä mittareita, menetelmiä mittaamiseen, jollei mittarin, arviointivälineen kehittäminen ole hankkeen päätavoite

21 Hankepalaverit arvioinnin välineinä. Tilanne, kun arviointia ei ole suunniteltu, resursseja siihen ei ole osoitettu, mutta sitä pitäisi tehdä. Yksi tapa aloittaa on hankepalaverin yhteydessä. Arviointiin käytettävä tieto kerätään hankepalavereissa työntekijöiltä, myös asiakkailta (esimerkiksi kokouksen alussa) Arvioinnin keskeiset teemat (työmenetelmät, onnistumiset, tiedotus, yhteistyökumppanit jne.) listataan etukäteen Arviointikeskustelun tulokset ja päätökset dokumentoidaan ja käytännön toimenpiteistä sovitaan Tämän jälkeen siirrytään muihin asioihin, asiakkaat jatkavat palaverissa tarpeen mukaan (idea kts. Kivipelto ym.2012)

22 Miten arvioinnissa saadaan eri ryhmien ääni kuuluviin, esimerkiksi nuoret, ikääntyneet työttömät, maahanmuuttajat? Kyselyt ja haastattelut vaikeita, aikaa vieviä, vaativat osaamista Asiakasraati? Hyvä vaihtoehto jos asiantuntemusta käytännön suoritukseen. Osallistuva havainnointi. Etnografiset menetelmät vaativat osaamista. Ryhmähaastattelut. Potentiaalinen vaihtoehto, eri toimijaryhmät fokusryhmät (fokusryhmissä fasilitaattori, kirjuri) Eri ryhmien (fokusryhmien) pohjalta hankkeen toimijat saavat tietoa kehittämistyönsä suunnan oikeellisuudesta, tarvittavista korjausliikkeistä jne. Haaste: tiedon määrä, vaikeasti hallittava, fasilitaattorilta vaaditaan kokemusta, kysymysten oikeaa asettelua ja kykyä kuunnella Kts. Kivipelto ym. 2012

23 Arvioinnin parasta toteuttamistapaa ei voida määritellä (vrt Patton 1997) KKkiii