摘要:基于科技项目后评价视角构建财政R&D项目绩效评估体系是一种可行的方法。本文就该问题进行了有益的探索,指出评价体系的构造过程可分为评价指标初选和指标体系完善二个阶段,结合上海市的问卷调查资料,本文构建出财政R&D项目投入产出绩效评价体系,该体系具有一定的兼容性,可用于不同性质R&D项目(基础研究、应用研究和试验发展)的评估,期望给现实实践工作带来启发和帮助。
关键词:项目后评价 财政R&D项目 绩效评价 指标体系
作者:谢福泉 任浩 李峰
中图分类号:F223 文献标识码:A
任何科技活动都会带来一定的科技直接产出、经济效益和社会效益,这也意味着财政科技项目绩效呈多样性的表现特点,如何恰当地评价其经济效益,尤其是其无法用货币衡量的社会效益的评价,是个值得斟酌的问题。长期以来,财政部门一直无法采取一种比较准确的办法,来对财政科技项目的绩效进行衡量。而这一“盲点”,恰恰是减少资源损失浪费、提高效率的关键点。本文对财政科技项目绩效评估从后评价视角进行探索[1]。
一.后评估和财政R&D项目绩效评价
财政R&D项目绩效,就是指财政R&D项目投入产出活动所取得的实际效果。它反映了财政为满足社会公共需要而进行的资源配置活动与所取得的社会实际效果之间的比较关系,重点研究财政配置资源的合理性和资源使用的有效性。本文认为财政R&D项目投入产出绩效评价一种恰当的形式可以从R&D项目后评价入手,进行不同性质项目的评价,在汇总全部R&D项目绩效的基础上进行。理由主要有:
1.根据联合国教科文组织对科技活动所作的统计界定,科技活动中科学研究与试验发展(R&D)包括基础研究、应用研究、试验发展三类活动[2]。科技活动的分类为我们统计财政R&D项目投入产出绩效提供了统计范围和口径。
2.基于科技项目后评价角度构建财政R&D项目绩效后评价体系,既能够评价个体项目,也能够按项目性质汇总来评价某一类项目,从而有利于管理部门和决策者加强对科技项目的监督与审核,最大限度地促使项目发挥其经济效益和社会效益。
3.任何科技活动都会有一定的科技产出、经济效益和社会效益,尤其是R&D项目处于孕育科技成果的阶段,在项目完成时进行其经济效益、社会效益的评价,不利于较精确测量项目的间接或潜在的产出,从而不利于全面客观反映项目的绩效。
4.根据单位典型调研和调查问卷统计的结果,对R&D项目的经济效益和社会效益的评价期限问题,财政相关部门、科技服务部门和科技项目承担单位选择2年进行评价的人数比重为27.61%,选择3年进行评价的人数比重为41.72%,择5年进行评价的人数比重为22.70%,即在2~5进行项目经济效益和社会效益评价的人数比重为92.02%。
二.财政R&D项目绩效后评估体系的构建
(一)基本目标
财政R&D项目投入的基本目标是追求财政资金使用的经济性(Economy)、效率性(Efficiency)、效益性(Effectiveness),简称“三E”。通过实现的“三E”目标,全面综合地反映财政R&D项目投入产出的绩效状况。
财政R&D项目投入的经济性是指R&D项目投入规模总量一定的条件下,财政R&D项目投入在结构上应该合理,即财政R&D项目投入内部各构成要素符合社会共同需求的目的,且各构成要素占公共支出总量的比例协调、合理,能够促进建立财政R&D项目投入的有效支出决策机制和支出优先排序机制。
财政R&D项目投入的效率性是以支出使用环节为重点,考察财政R&D项目支出活动的产出同所消耗的财力等要素的比较关系。财政R&D项目支出的高效率,意味着用最小的财政R&D项目投入达到既定的目标,或者R&D项目投入既定而产出最大化。
财政R&D项目投入的效益性是指财政支出与所产生效果之间的关系。财政R&D项目投入的效益可以从不同领域的多个方面体现出来,如可以表现为财政R&D项目投入的经济效益和社会效益,也可以表现为直接效益和间接效益;还可以表现为近期效益和远期效益等。
(二)构建原则
参考国外经验,在财政R&D项目绩效指标设计上,按照“投入——产出——成果”这一逻辑程度进行指标设计。指标体系具体设计应根据评价项目的性质不同而不同,本指标体系的设计中体现了一般指标体系设计过程中所遵循的科学性原则、相关性原则、简明性原则、层次性原则、可比性原则、重要性原则、定量指标与定性指标性结合的原则等通用原则,并重点突出了以下原则:
1.系统性原则
评价指标应能从系统的角度,全面综合的反映财政R&D项目绩效的整体情况,既能反映直接效果,又能够反映间接效果,以保证综合评价的全面性和可信度。这些指标必须互相联系、互相制约。同时,每个指标应尽可能边界分明,避免互相包容,减少对同一内容的重复评价。评价指标构成互有内在联系的若干组、若干层次的指标体系,具有很强的系统性。
2.可操作性原则
科技项目管理是一项大量的、经常的、长期的活动,科技项目绩效评价又是科技管理的一项主要内容。为了保证绩效评价的有效实施,本评价指标体系做到了指标体系简繁适中,计算方法简便易行;评价指标所需的数据易于采集、适应目前的科技管理水平,数据的获得应符合成本效益原则,指标统计口径尽可能与计划口径、统计口径、会计核算口径相一致;各项评价指标及其相应的计算方法、各项数据能够标准化、规范化。
3.导向性原则
对财政R&D项目的绩效后评价,其目的不是单纯地评出名次和优劣,更重要的是引导和鼓励项目承担单位重视R&D项目的投入产出绩效。另一方面,财政各部门通过评估指标体系以可操作、可量化的形式注重财政投入成本与效益,确定优先资助领域或项目。指标体系有利于发挥财政宏观调控的导向性和贯彻相关政策的激励性。
4.差异性原则
科技活动具有不同的形式、内容和不同目的,呈多样性,科技项目是以科技活动作基础的,所以也具有多样性。项目评价如果不分类,则纷杂无章,很难进行可比性评价。财政R&D项目绩效后评估体系实现了基础研究、应用研究、试验发展三类不同性质项目的评价,同时指出三类不同性质项目指标选择上的差异性和指标权重上的差异性,使指标体系保证合理均衡。
5.利于间接绩效评价的原则
从未来发展趋势看,随着财政投入总比重的下降,以及资源投入集中度的提高,反映财政直接投入绩效的分析将越来越不具有指导意义。因此,间接评价体系的建立与不断完善将成为未来创新体系构建的重点。
财政科技投入的间接绩效评价,主要包括三个方面①财政科技投入的带动效应。利用有限的财政科技投入带动民间资金投入,从而扩大科技投入资金的供给规模,改善科技投入资金的供给结构。将财政科技投入作为杠杆,形成全社会科技投入的多元集聚。②财政科技投入的引导效应。通过财政对产业或地区的科技资源投入与相关政策,形成对资源流向的示范效应,逐步将社会依赖财政的直接投入绩效转为间接政策作用绩效。③财政科技投入的增续效应。财政一次性投入或有限度地追加投入形成的持续性增长效应,特别是社会持续性投入及所形成的循环经济效应,其中有关财政投入与社会资金到位量和到位阶段的关联度与大项目的财政合作方的资源贮备和到位情况的考察是绩效测度的重点。
通过对评价体系的研究与创新设计,逐步将以财政投入经费规模为效率评价标准转为以财政决策有效性和政策执行有效性为标准的评价。
(三)构建步骤
评估指标体系构建步骤如图:
图1: 评估指标体系建立程序示意图
(四)评估指标的选取
1.指标选择基本理论
绩效评价指标体系的构造过程可分为二个阶段,即指标体系评价指标的初选和指标体系的完善。评价指标的初选阶段主要使用定性分析方法,是从评价的目的和原则出发,考虑评价指标的充分性、可行性、稳定性、必要性以及指标评价方法的协调性等因素,由系统分析人员和决策者主观确定指标和指标结构的过程[3]。指标体系的完善阶段主要使用定量方法,因为初选后的指标体系未必是科学的,必须对初选的指标体系进行筛选。这一过程包括:
(1)指标相关性的分析,通过指标相关性分析去除相关程度高的指标,保持指标之间的相对独立性;
(2)调查问卷的信度、效度分析,通过调查问卷的信度、效度分析来保障问卷的有效性和正确性。
(3)初选指标体系的单体测验和整体测验[4]。其中:单体测验是指测验每个指标的可行性和正确性。可行性是指该指标的数值能否获得,那些无法和很难取得准确资料的指标,或者即使能取得但是费用很高(高于指标体系本身所带来的社会与经济效益)的指标,都是不可行的。正确性是指指标的计算方法、计算范围及计算内容应该正确。整体测验主要是测验整个指标体系的指标的重要性、完整性。重要性是指保留那些重要指标,剔除对评价结果无关紧要的指标。一般用德尔菲法对初步拟出的指标体系进行匿名评议。假设指标体系中某层次(或某子指标集合)有M个指标,请P位专家评议。组织者收到专家评议意见后,从专家对指标重要性评价的集中程度 、分散程度 和协调程度(用变异系数 和协调系数 表征)进行统计分析,由 、 、 和 综合分析可以决定是否进行第二轮咨询,以及选定指标体系。完整性是指统计指标体系是否已全面地、毫无遗漏地反映了最初描述的评价目的与任务,一般通过定性分析进行判断。
2.评价指标的初选
(1)确定指标体系结构
常见的评估指标体系的结构形式有以下三种:层次型评估指标体系、网络型评估指标体系和多目标型评估指标体系[5]。根据财政R&D项目绩效后评估指标体系的目的,课题组选用层次型评估指标体系,并将评估体系指标分为三层:目标层、要素层和指标层,其中指标层由定性指标和定量指标组成。
(2)选择评估指标
财政R&D绩效后评估体系按照评估绩效的构成要素进行分解,形成科技直接产出、经济效益产出、社会效益产出三个要素,并针对每一要素进行指标选择。评价指标的初选采用分析法:在收集大量文献资料、收集科技部、上海市科委、其他省市科委一些课题和重大研究项目评审资料,并借鉴各种统计年鉴基础上,初拟出财政R&D绩效后评估体系的各个要素指标。
3.指标体系的完善
首先,设计《上海市财政R&D项目绩效后评估体系指标调查问卷》,为了避免问卷条目的释义不清,语言表达模糊,课题组对问卷进行了十多人次的试填,进行修正。针对指标重要程度进行大范围问卷调查,并收集可能遗漏而实际中又很重要的指标。本次问卷发放360份,收回207份(回收率57.5%),其中165份为有效问卷(有效率79.71%)。问卷发放的对象包括:受到财政科技资助的科研单位、财政科技部门工作人员和企业科技人员。
其次,根据调查问卷分析指标的相关性,对初选指标体系进行信度、效度分析,对初选指标体系进行单体测验和整体测验,并根据分析结果来筛选指标,在多次讨论的基础上,最终确定财政R&D项目绩效后评估体系。
(五)指标体系
表1:财政科技R&D项目绩效后评估指标体系
目标层 |
|
指标层 |
|
|
投入 |
科技
投入 |
财政科技投入 |
财政科技资助总额 |
|
产出 |
科技
直接
产出
|
论文与专著 |
被四种检索系统收录的文章数
发表文章总数
专著数 |
项目科技水平含量 |
专利
|
专利授权量
发明专利授权量 |
奖励
|
国家级奖励
省部级奖励 |
人才培养
|
项目参与人员
研究生/访问学者/进修人员/博士后数 |
经济
效益
产出
|
成果转让 |
成果转让金额 |
优化产业结构
技术产品市场规模
提高社会生产率
提高产品质量 |
对GDP的贡献 |
增加值 |
社会
效益
产出
|
带动后续资金投入
|
企业资金投入
社会资金投入 |
生活质量
环境影响
资源利用
就业机会 |
对于指标的标度设计,在Delphi法进行专家调查的基础上,本文仅给出定性指标的标度(见表2)。
表2:定性指标标度标准
|
指标名称 |
0.8-1分 |
0.4-0.7分 |
0-0.3分 |
经济
效益
产出 |
优化产业结构 |
形成新产业 |
促进形成新产业 |
对新产业形成有影响 |
技术产品市场规模 |
国外市场需求 |
国内市场规模大 |
国内市场需求 |
提高劳动生产率 |
平均年增长40%以上 |
平均年增长10%-40% |
平均年增长10%以下 |
提高产品质量 |
提高200%以上 |
提高100%-200% |
提高100%以下 |
社会
效益
产出 |
生活质量 |
显著改善 |
较明显 |
不明显 |
对环境影响 |
改善生态环境 |
保护生态环境 |
对环境无污染 |
资源利用 |
利用污染性废物 |
利用再生资源 |
利用有限资源 |
就业机会 |
对就业增加有显著影响 |
对就业增加有较大影响 |
对就业增加影响不大 |
项目科技水平含量: |
基础 |
研究创新水平 |
原创创新 |
集成创新 |
模仿创新 |
应用研究 |
技术的创新与集成水平 |
国际领先/先进 |
国内领先 |
国内先进 |
关键技术的突破与掌握 |
掌握80%以上关键技术 |
掌握30%-80%关键技术 |
掌握30%以下关键技术 |
技术标准研制 |
形成新技术标准 |
促进形成新技术标准 |
对形成新技术标准有影响 |
试验发展 |
专有技术先进性 |
国际先进/领先 |
国内领先 |
国内先进 |
产品原型创新性 |
原创创新 |
集成创新 |
模仿创新 |
原始样机创新性 |
原创创新 |
集成创新 |
模仿创新 |
三.评价方法
在评价方法上,课题组采用层次分析法设计权重,选择应用模糊数学评价方法,通过计算全部项目的投入产出比指标对其绩效进行评估[6]。
1.指标权重的确定
基于本指标体系的结构形式是层次型评价指标体系,并且考虑到指标的信息基础,我们选定层次分析法(AHP)作为指标体系的权重确定方法。
2.指标的处理
(1)定量指标的处理
定量指标的计算采用模糊数学中隶属函数的处理方式计算得到指标分值,所选择的隶属度函数为:
正指标: 逆指标:
其中, 为指标分值, 为定量指标初始值, 为定量指标基准值,取去年所评全部项目同一指标初始值的平均值,即 , :去年所有参评项目个数。
(2)定性指标的处理
定性指标采用专家打分的方法,打分区间为[0,1],打分参照“定性指标评分标准”。取所有专家打分的平均值作为指标分值,即:即: ,其中, :专家人数, :指标分值, :定性指标初始值,即各位专家的评分。
(3)投入产出比的计算
全部项目的绩效由投入产出比来表示,投入产出比为全部项目的产出总分值与投入分值的比值,即: 。其中, :第 个产出指标的指标分值, :全部项目的财政科技投入(万元), :全部项目的投入分值,其计算公式如下: ,其中, :去年所评项目的平均财政科技投入,公式为 , :去年参评项目个数。
四.小结
基于科技项目后评价的财政R&D项目绩效后评估体系具备如下突出内容是:①在构建原则上,除一般原则外,重点突出遵循系统性、可操作性、导向性、差异性和利于间接绩效评价的原则;②评价指标上由定性指标和定量指标组成,在评价体系内容设计上具有兼容性。该指标体系可直接用于评价全部R&D项目总体绩效,也可进行局部调整分别形成基础研究项目评估子体系、应用研究项目评估子体系、试验发展项目评估子体系,针对不同性质R&D项目分别设置指标和确定指标权重进行合理的评估。
参考文献:
[1]王凭慧.科技项目评价方法[M],北京:科学出版社,2003.154-155
[2]国家统计局.科技投入统计规程(试行)[J]. 2000-4-6
[3]曾珍秀,顾培亮.可持续发展的系统分析与评价,北京:科学出版社,2000.
[4]郭秀花.实用医学调查分析技术[M].北京:人民军医出版社,2005,278-280.
[5]王凭慧.科技项目评价方法[M].北京:科学出版社,2003.41-42.
[6]刘应辉.经济数学基础教程[M].北京:经济科学出版社,2003.
|