official magazine of CAS

 


Important links

International cooperation

 

ESO

EUSCEA

AlphaGalileo

WFSJ

EUSJA General Assembly

eusja.jpg EUSJA General Assembly
& EUSJA Study Trip

Prague, Czech Republic
March 14–17, 2013

I. etapa hodnocení pracovišť AV ČR za léta 2005–2009

08_1.jpg
  Všechna fota: © Stanislava Kyselová, Akademický bulletin

Vážený pane předsedo, vážené členky a členové
Akademického sněmu, vážení hosté, dámy a pánové,
je nesporné, že jedním z nejdůležitějších úkolů jak pracovišť, tak vedení Akademie věd je trvalý a rostoucí důraz na zvyšování kvality vědecké a odborné činnosti, zapojování a zlepšování účasti pracovišť na mezinárodní vědecké činnosti a kvalitní naplňování dalších funkcí Akademie věd daných příslušnými legislativními předpisy. K naplnění tohoto úkolu organizuje vedení AV ČR od roku 1993 pravidelné hodnocení svých pracovišť. Současné kolo hodnocení je již v pořadí čtvrtým, nepočítáme-li průběžné hodnocení v roce 2008, které nám nařizoval zákon při kontrole řešení výzkumných záměrů. Akademie věd je přitom jedinou organizací VaV, která takováto hodnocení organizuje.
Po diskusi, zejména s Vědeckou radou AV ČR, jsme zpracovali Návrh průběhu hodnocení výzkumné činnosti pracovišť AV ČR, jímž Akademická rada schválila provedení pravidelného hodnocení výzkumné činnosti pracovišť AV ČR za období 2005–2009, s posouzením trendů a také s tím, že se zdůrazní dosahované výsledky jednotlivých vědeckých útvarů pracovišť.
Tento postup hodnocení je legislativně v souladu se zákonem č. 130/2002 Sb., o podpoře výzkumu, experimentálního vývoje a inovací, jenž předpokládá každoroční výpočet výše institucionální podpory pracovišť na základě zhodnocení jejich výsledků za posledních pět let, tedy nástroj známý jako „kafemlejnek“. Vzhledem k tomu, že tento princip je ve zřejmém rozporu s podporou kvalitní vědy a výzkumu a je naprosto nevhodný pro hodnocení i následné institucionální financování pracovišť AV ČR, je třeba využít možnosti, kterou zákon nabízí v § 7 bodě 6. Cituji: „Poskytovatel může výši podpory upravit podle podrobnějšího hodnocení používajícího mezinárodně uznávaných metodik, například Research Assessment Exercise.“

Při stanovení rozsahu hodnocení vyšla Akademická rada z úvahy, že po předchozích pěti kolech hodnocení a reorganizací (jen v posledním kole bylo reorganizováno či zrušeno sedm pracovišť) si prakticky všechna pracoviště vydobyla svoje místo v AV ČR, a proto je třeba se podívat kriticky dovnitř pracovišť. Navržený způsob hodnocení vstřícně reagoval na obecný požadavek neposuzovat pracoviště jako celek, ale soustředit se na výkonnost jednotlivých výzkumných týmů. Parametry a proces hodnocení byly proto nastaveny kritičtěji než při předchozím hodnocení v roce 2004.
Proces stanovení menších evaluačních jednotek – vědeckých útvarů – se však ukázal jako nelehká záležitost, neboť diverzita organizačních struktur v Akademii věd je obrovská a liší se podle oborů a pracovišť. Proto bylo nutné, aby hodnoticí komise ve spolupráci s vedením pracovišť nejprve našly konsensus o evaluačních jednotkách. Takovýchto jednotek jsme stanovili 406, hodnoceno jich však bylo jen 397, protože mezitím několik útvarů zaniklo a jiné se ukázaly jako důležité jen pro ústav (měly např. pouze servisní charakter).
Kromě povinného důrazu vedení Akademie věd na zvyšování kvality a množství vědeckých výstupů bylo dalším cílem hodnocení posoudit současný stav a vývoj vědecké a odborné úrovně pracovišť a zároveň získat relevantní podklady pro rozhodování o výši institucionální podpory pracovištím od r. 2012.
V souladu s výše zmíněným legislativním rámcem jsme pro hodnocení pracovišť a jejich vědeckých útvarů přijali základní metodologickou koncepci založenou na systému peer review, multikriteriálním hodnocení a v relevantních případech na použití indikátorové analýzy. Abychom dobře porozuměli podstatě hodnocení v Akademii věd – jedná se nejen o hodnocení samotných výsledků, ale také o kontext jejich vzniku, perspektivy rozvoje, mezinárodní spolupráci apod. Na rozdíl od jednoparametrového „kafemlejnku“ zohledňuje systém hodnocení v Akademii věd jak minulou výkonnost, tak i budoucí plány výzkumníků. Při jeho tvorbě jsme využili holandský Standard Evaluation Protocol 2003–2009 For Public Research Organization a některé vhodné metodologické prvky jsme převzali z britského Research Assessment Exercise. Hodnoticí pětibodová stupnice a slovní charakterizace jednotlivých stupňů kvality byla převzata z hodnoticích systémů European Science Foundation (ESF) a ALLEA.
Podklady jsme rozčlenili do pěti tematických okruhů zahrnujících kvalitu a výsledky vědecké činnosti, přínos pro společnost, zapojení do mezinárodní spolupráce, personální, materiální a organizační otázky. Zároveň jsme posuzovali účast na řešení grantových a programových projektů ČR, pedagogickou činnost, účast na činnostech vědecké obce a další aktivity.
Z důvodu tematické a oborové různorodosti jsme pracoviště i jejich vědecké útvary rozdělili do dvou typů – typ I a typ II. Pro ústavy I. a II. VO a některé ústavy III. VO byla rozhodujícím kritériem kvalita výsledků vědecké činnosti a jejich význam v mezinárodním kontextu. Pro ústavy III. VO, zejména některé jejich vědecké útvary, případně i některé specializované útvary jednotlivých ústavů I. a II. oblasti věd, byl a je rozhodující význam jejich vědecké činnosti v kontextu národním (typu II). Některá pracoviště zařadila část svých vědeckých útvarů do typu I, část do typu II. Do tohoto hodnocení jsme nezařadili Středisko společných činností AV ČR a Knihovnu AV ČR, které nemají vědecký charakter činnosti a které budou ještě tento rok hodnoceny jiným způsobem jako pracoviště typu III (infrastrukturní).
Vzhledem ke dvěma odlišným typům pracovišť/vědeckých útvarů byla uzpůsobena i váha jednotlivých kritérií, jak můžete vidět v zobrazené tabulce.

08_2.jpg

Je třeba otevřeně říci, že hodnoticí komise, o nichž budu hovořit dále, zřejmě oprávněně kritizovaly nízkou váhu okruhu E zahrnující aktivity v pedagogické činnosti. Tato váha však byla nastavena po dlouhých diskusích a hlavním důvodem byla skutečnost, že pracoviště Akademie věd mají být především neuniverzitním typem výzkumu. Přesto však je významnou zprávou z hodnocení, že pracoviště, kde se starají o „dorost“, zpravidla nemají problém s kvalitou a množstvím vědecké produkce. Více než kdy jindy se opět projevuje nerovnoprávnost pracovišť Akademie věd při provádění doktorského studia, a to i přes velmi kolegiální a vstřícný přístup většiny vysokých škol, se kterými mají pracoviště uzavřeny smlouvy o doktorském studiu.

Pro vlastní hodnocení jmenovala Akademická rada na svém 16. zasedání na základě návrhů pracovišť devět hodnoticích komisí, pro každou vědní sekci jednu. Hodnoticí komise měly 62 členů, z toho šest pocházelo z Akademie věd a 10 bylo ze zahraničí. V zájmu koordinace logisticky složitě nastaveného procesu byla jmenována Řídicí skupina, která se pravidelně scházela a která průběžně zpřesňovala některé technické parametry hodnoticího procesu. Záměrně říkám technické, nikoli však hodnocení samé. To se týkalo hlavně doplnění podkladů, dále některých změn či posunu termínů v harmonogramu a zpřesnění některých formulací v Metodickém pokynu. Vždy však byl záměrem kvalitní výsledek hodnocení, nikoli pouhé byrokratické lpění na dodržení postupu.
Po technické stránce jsme hodnocení zabezpečili přes elektronické rozhraní s autorizovaným přístupem pro hlavní aktéry hodnoticího procesu. Prostřednictvím rozhraní měla pracoviště přístup k výsledkům hodnocení. Tento způsob provedení hodnocení se ukázal jako neobyčejně vhodný, velmi flexibilní a umož-nil celý proces významně zlevnit a zrychlit. Všechny relevantní dokumenty související s přípravou a průběhem hodnocení jsou průběžně zveřejňovány na interních webových stránkách Akademie věd. V souvislosti s dotazy vznesenými v průběhu hodnocení je třeba říci, že mnoho nejasností či přímo nedorozumění vzniklo prostým nedostatkem informací jinak dostupných na této adrese.
Podrobný popis činností hodnoticích komisí obsahuje podkladový dokument. Krátce jen zmíním, že úvodní setkání členů hodnoticích komisí se uskutečnilo počátkem května 2010; komise se poté setkávaly podle potřeby až do okamžiku závěrečných zasedání po prezenčním hodnocení. Hodnoticí komise své poslání plnily velice pečlivě, v některých případech si od pracovišť vyžádaly další doplňující informace. V závěru loňského roku zpracovaly komise návrhy profilů vědeckých útvarů a hodnocení pracovišť, které byly v průběhu ledna a února letošního roku konfrontovány pracovišti a zahraničními posuzovateli při prezenčních návštěvách pracovišť.
Uveďme k tomu několik statistických údajů. Celkem bylo získáno 665 posudků vědeckých útvarů od 237 zahraničních posuzovatelů. Prezenčních hodnocení se zúčastnilo 147 zahraničních posuzovatelů, tedy 62 % z celkového počtu posuzovatelů, kteří vypracovali posudek a byli na prezenční hodnocení pozváni. Závěrečné zprávy odevzdaly hodnoticí komise do 14. března 2011. Členové hodnoticích komisí svým nezaujatým kritickým pohledem naplnili obecnější rozměr tohoto hodnoticího procesu nejen pro Akademii věd, ale českou vědu všeobecně. Pokročilá vědecká komunita musí být schopna sama sebe kolegiálně, přesto kriticky hodnotit. Proto je třeba členům hodnoticích komisí poděkovat za jejich záslužnou práci.

V tezích přijatých Akademickou radou při přípravě tohoto kola hodnocení byla předem formulována zásada, že konečné výsledky hodnocení nepřevezme vedení Akademie věd mechanicky, nýbrž budou především kvalifikovaným východiskem k jejich další interpretaci v širším kontextu. Akademická rada po detailní analýze závěrů předložených hodnoticími komisemi konstatovala jistou nevyrovnanost v pojetí jednotlivých kritérií v hodnocených tematických okruzích, případně nepřesvědčivé zdůvodnění hodnoticího stupně 1, a proto přistoupila k nezbytným, ale promyšleným úpravám výsledných známek některých vědeckých útvarů. Korekce jsme provedli u 44 útvarů, tj. u 11 % z celkového počtu 397 hodnocených útvarů vedle přeškálování na podrobnější stupnici s krokem 0,5 bodu a drobná zaokrouhlení desetinných čísel. Tyto korekce se nepromítnuly do celkového hodnocení pracovišť, které má pro vedení Akademie věd pouze informativní charakter.
V některých případech přistoupila Akademická rada ke zjemnění konečných známek vědeckých útvarů použitím mezistupňů, a tak měla výsledná škála celkem 10 stupňů. Podrobnější členění podle názoru Akademické rady i mnoha členů hodnoticích komisí lépe vyjadřuje diverzitu kvality činností a zároveň přináší další významnou informaci pro vedení Akademie věd. Na okraj podotýkám, že evaluační systémy v Německu pracují s devítibodovou stupnicí, a tedy že ani v tomto případě nedošlo k odchylce od použití mezinárodně uznávaných metodik.
V této souvislosti musím uvést na pravou míru tvrzení v textu Zprávy o hodnocení, že na základě provedených úprav nebylo změněno relativní pořadí vědeckých útvarů. Tato formulace není zcela přesná a do textu se dostala nedopatřením. Tímto akceptuji připomínku Dozorčí komise Sněmu.

Výsledky hodnocení byly vedení pracovišť zpřístupněny 24. března 2011 a do 4. dubna 2011 všechna pracoviště zaslala svoje vyjádření. Tato vyjádření se dělí do tří skupin: 14 pracovišť souhlasí s výsledky bez výhrad; 24 souhlasí, ale má určité, zejména technické připomínky; 14 pracovišť má váž­nější výhrady netechnického charakteru. Podrobný rozbor bude předmětem následující negociační fáze hodnocení v období po Sněmu, jak koneckonců zdůraznil ve svém vystoupení i předseda AV ČR.

Celkové hodnocení vědeckých útvarů po úpravách Akademickou radou AV ČR

08_3.jpg

Celkové hodnocení vědeckých útvarů po úpravách Akademickou radou AV ČR v procentech

08_4.jpg

Na základě zhodnocení 397 vědeckých pracovních útvarů pracovišť lze shrnout výsledky hodnocení jednotlivých hodnoticích komisí následovně (viz tabulky):
Co tato čísla ukazují? Z přehledu je zřejmé, že Akademie věd má téměř 20 % jedničkových, špičkových týmů, které snesou srovnání s nejvyspělejšími zahraničními pracovišti v oboru, přibližně 60 % skupin je velmi dobrých a necelých 20 % bylo hodnoceno trojkou. Horší známku než trojku obdrželo zhruba 6 % výzkumných týmů. Z porovnání kvality vědeckých výstupů z minulého a tohoto cyklu hodnocení je patrné, že během hodnoceného období 2005–2009 došlo na pracovištích Akademie věd k podstatnému nárůstu měřitelné kvality a množství vědeckých výstupů pracovišť. Vyplývá to z bibliometrických údajů, závěrů hodnoticích komisí i výroků zahraničních posuzovatelů. Je však také zřejmé, že ke vzrůstající kvalitě a množství vědeckých výstupů nepřispívají všechny vědecké útvary pracovišť stejnou měrou. Přes složitost a logistickou náročnost tohoto cyklu hodnocení pracovišť Akademie věd konstatuji, že provést hodnocení až na úroveň jednotlivých vědeckých útvarů bylo správným rozhodnutím, protože podrobně popsalo profily vědecké a odborné činnosti pracovišť a poskytlo pro vedení Akademie věd i vedení pracovišť důležité podklady pro další zvyšování kvality vědecké práce.

08_6.jpg

Výsledky využije vedení Akademie věd při rozhodování, jak lépe financovat úspěšné týmy, i úvahách, co udělat s těmi, jejichž výsledky dobré nejsou. Uvedený způsob hodnocení tedy povede ke spravedlivějšímu a také efektivnějšímu systému rozdělování financí pro českou vědu.
Závěrem chci osobně poděkovat všem, kteří při-stupovali k procesu hodnocení se vší vážností u vědomí toho, že je to věc navýsost důležitá.

PETR RÁB,
člen Akademické rady,
předseda Řídicí skupiny