Octobre 2013
Politique d’évaluation de l’AFD
1
2
AFD’s Evaluation Policy
目录 1
制定评估政策的原因
3
1.1 1.2
背景 评估政策文件的目标
3 4
2
法国开发署评估介绍
5
2.1 2.2 2.3 2.4 2.5
法国开发署评估的目标 评估原则 理念和标准 业务评估和其它关键点 主要评估类型
5 6 76 8 9
3
法国开发署评估遇到的挑战
12
3.1 3.2 3.3 3.4 3.5 3.6
提高业务的可评估性 根据评估的主要目标制定系统评估计划 明确评估进行中的责任 设计方便实用的评估工具 保证评估质量 充分发挥评估作用
12 13 15 16 17 18
4
和合作伙伴共同开展的工作
21
5
组织机构与资源
23
5.1 5.2
评估管理 人力与财力
23 24
6
附录
26
1. 2. 3. 4. 5. 6.
术语 可评估性的条件 法国评估机构的章程 评估的质量标准 法国开发署对评估结果的采纳 引用的经济与合作组织发展援助委员会的文件链接
26 27 28 29 30 31
…………………………………………………………………………………………………………
法国开发署的评估政策 …………………………………………………………………………………………………………
本文件是为法国开发署总部和各海外 代表处的工作人员、上级监管部门、 交换对象、合作伙伴和谈判对象,即 所有参与法国开发署投资的业务人员 及合作对象,包括非政府组织、咨询 顾问和其他出资者而创建的参考文本。 本文件是一份公开文件,并已有英文 版本。 法国开发署评估是法国公共发展援助 基金评估体系的一部分,由各监管机 构进行监督。本文件旨在推进该评估 体系的整体一致性。 对法方援助项目的评估 法国公共发展援助的评估主要由如下 三家政府机构的评估小组完成,该评 估体系的构成是: — 外交部项目评估小组,隶属于 法国外交部全球化、发展与合作总 司; — 财政部项目发展评估处(UEAD), 由财政部多边事务及发展司主管; — 法国开发署研究司的评估处和 资产处。 该文件的目标在于通过项目评估进一 步推动项目的发展。它强调项目评估 “旨在通过衡量双方在项目实施和项 目投入的效率,进而更好地指导业务, 拓宽投资渠道,改善合作机构的运转 机制,并向公众解释公共资金的使用 情况和公共政策的最终结果。”
三个评估机构的首要任务是引导或监 督他们开展的业务评估。监管法国开 发署的相关政府部门有权对其实施的 项目和方案进行评估。 这三个机构,虽然各自独立,但工作 方式十分相近。它们都以经济合作发 展组织援助委员会(DAC)的原则和 评估标准为参照,并拥有十分相似的 评估协议:面向评估业务各方的指导 管理部门,外包评估、提交和公布评 估结果。各部门建立的评估指导委员 会所实现的联合评估和交叉评估同样 也是评估方式和方法趋同的一个因素。 经国际合作与发展组织部委员会的 合作秘书处(cosec-CICID)批准,由 这三个机构共同商议制定联合评估 计划。根据国际合作与发展组织部 委员会 2013 年 7 月 31 日的决定, 这三个机构需要联合编制一份多年 期的评估计划。他们同时终止了国 家层面、欧洲层面或国际层面的其 他评估计划,例如:对援助效率提 出指标的《巴黎宣言》。 对法方援助项目的评估政策和战略评 估就在这份联合评估计划的范畴之内。 该评估计划中最近的成果便是对 1998 至 2010 年间法国援助项目评估政策 的总结,该总结已于 2012 年 12 月完 成。 国际合作与发展组织部委员会 2008 年 12 月 15 日召开的会议决定,法 国开发署需向其监管部门汇报评估 结果并由监管部门向议会提交。
法国开发署评估政策
1
2013 年 7 月 31 日,国际合作与发展 组织部委员会重申了这一决定:每 两年生成一份法国公共发展援助的 评估报告。
2010 年,法国国家审计署对法国公 共发展援助政策的评估系统进行了 审查,报告已于 2012 年 6 月发表。
法国开发署评估政策
2
1 制定评估政策的原因
.…………………………………………………………………………………………………………
1.1 背景 .…………………………………………………………………………………………………………
2010 年,在“发展中合作:法国视 野”框架文件中,法国的合作战略 应运而生。合作战略围绕四个相互 关联的重点构建而成:可持续和公 平的经济增长,消除贫困和不平等, 保护全球公共资产以及推广法制和 地区和平稳定。该战略确定了四个 合作区域,在不同的区域,追求不 同的目标,采取不同的金融手段。 为了使框架文件中的既定目标得以 实现,法国开发署制定了 2012-2016 (POS3)第三期战略计划,确认法 国开发署的业务领域,明确法国开 发署是法国合作战略实现的领头羊。 该计划的的目标之一是加强知识的 生产和交换,这同时也是评估的目 标之一,同时强调法国开发署作为 一个示范性机构的必要性,这意味 着法国开发署正在向透明化和问责 制而努力。正是认识到法国在效率、 问责制和透明度取得的显著进步, 国际合作与发展组织部际委员会 (CICID)于 2013 年 7 月 31 日开会, 确立这项改革是发展援助政策革新 的重点之一。
法国开发署评估政策就形成于这样 的背景下。如下的背景因素增加了 评估政策的合理性: -
当前的经济和财政环境要求对 公共政策进行绩效考核; - 近几年来,法国开发署得到了 长足的发展:业务量十年内增 加了五倍,业务范围和涉足领 域也有所扩展,交易对象和金 融产品呈现多样化。面对这样 的变化,对法国开发署项目的 跟踪和系统的评估显得越来越 重要,而且需要更为完善的实 施方法; - 在 2011 年釜山论坛上关于问 责制的承诺要求法国开发署在 项目评估方面做出更大的努力。 法国开发署第三个战略定位计 划 2012-2016(POS3)推动法 国开发署实现巴黎宣言,阿克 拉行动议程和釜山论坛等如下 方面的目标:援助效率、写作 原则和欧盟成员国之前的分工。 具体实现这一目标,只有通过 对项目的跟踪和评估这个途径。
法国开发署评估政策
3
.………………………………………………………………………………………………………
1.2 评估政策文件的目标 .………………………………………………………………………………………………………
该评估政策文件列出了法国开发署进行项目评估时参照的原则、标准和办法 1。 其首要目的是在法国开发署内部及其合作方之间,强调项目评估的重要性。
经济合作发展组织将评估定义为“对一个正在进行或已完成的项目的计划、实 施和结果 2进行系统和客观的评价。评估也指一个足够系统、客观的系统的过程, 这一过程能够决定一项正在进行或已经完成的发展活动的价值和影响”。 [来源:发展援助委员会,评估发展合作,标准和参考标准概述]
本文件旨在阐明评估过程中主要涉 及的不同方面,以及说明法国开发 署的评估理念、实施和使用规则。 此外,评估政策的目的还在于为法 国开发署提供这项活动的可读文本, 完善评估功能及其相关评价体系的 一致性和互补性。同时, 本文件也 为法国开发署关于评估程序和实施 方法的文件提供了一个框架文本。
这份评估政策文件涉及以下方面: — 法国开发署支持的所有项目和方 案(包括非政府组织的资助和海外省 资助 3); —接受评估的项目不限地域,不限 行业、不限主题; —法国开发署在项目中实施的工具。 政策修正
评估政策主要针对以下方面: — 法国开发署业务*的概念; — 法国开发署业务跟踪,特别是业 务结果*; — 评估规划; — 理念和实施; — 结果的利用。
在政策发展援助和评估方面的理念 正在发生迅速的演变。如果说国际 层面或法国政府援助的某些原则是 法国开发署评估政策制定的稳定基 础,那么这一评估政策极有可能在 未来几年发生变化。考虑到这些有 可能发生的变化,以及从执行过程 中积累的经验,评估政策文件将在 接下来的战略定位计划的制定中进 行修订。
1
该文件包括附录中的术语表。星标字的定义也在其中。 为了避免混淆,本文档使用评估这一术语来指代对正在进行或已完成的相关性和绩效考核的业务评估, 使用前期评估这一术语指代决定开展时的利益评估。 3 经合促进公司的活动和那些法署的海外省附属机构的活动并不适用于这一政策文件。 2
法国开发署评估政策
4
2 法国开发署评估介绍 .………………………………………………………………………………………………………
2.1 法国开发署评估的目标 .………………………………………………………………………………………………………
凭借这些经验教训,法国开发署评 估旨在改善未来的战略方针、计划 和援助项目。 评估政策将为法国开发署内部提供 知识资本积累的同时也为各合作伙 伴提供知识积累,也就目前关于发 展和法国公共援助发展政策的争论
提供一定的理论依据。 评估结果务必要向其监管部委,法 方和外方的利益相关者,以及公众 汇报。 该政策文件明确了评估如何推动三 个目标:完善业务活动,积累发展 与问责制度的经验。
评估与问责 评估是实行问责制必需的工具之一。根据世界经济合作发展组织的观点,问责制就是 “提供准确、公正和可信的进度报告与 [业务] 绩效报告的责任。”事实上,问责制 的第一个方面在于执行过程中的跟踪监督,需要借助收集完成指标与结果指标并将其 综合的能力;而另一方面就是在于评估。 业务监督机构应跟踪项目的实施方法,现已实现的结果和期望的目标,这是问责制的 主要工具,因为它可以向各利益方包括公众解答关于已取得发展成果的问题。这是法 国开发署发起的“舒适”指标改革的意义,也是“提升项目完工报告质量”所做出的 努力的意义。 评估,就其自身而言,应该对反映业务依据、实施和业务效果的主要问题做出判断。 它没有把提供既得成果的客观数据作为主要目的,而是解释和评估这些结果。人们期 望在仅有的对目标实现度的数量分析之余,能够有一个涉及面更广的绩效评估*,有 时候,人们期望能对“归功”于法国开发署的评估结果做出全面深刻的分析。 对世界合作发展组织而言,问责制也是“向纳税人和公民做出的责任报告”,这涉及 尊重一些评估领域原则以及结果的公布。 为了履行这一义务,法国开发署: — 致力于实现项目后评估程序,涵盖其资助的所有项目和方案,在对与项目质量相 关联的待评估业务进行选择时,不存在偏倚。后评估对业务部门已经评分的竣工 项目做出评估; — 汇报绩效,进行涉及面更广的评估,尤其包括其设计和实现的战略框架和业务工 具。这些评估结果会定期出版,在法国开发署的官网查看; — 每年通报评估活动的报告,该报告与财政部和外交部的评估机构的报告合并共同 提交议会。本文总结了在此期间通过评估而得到的主要结论和建议; — 与各监管部门进行联合评估,以支持法国发展援助的政策与战略。
法国开发署评估政策
5
.……………………………………………………………………………………………………
2.2 评估原则 .……………………………………………………………………………………………………
评估要遵循法国开发署职业道德基 本原则以及法国评估机构(SFE)的 公 共 政策、公共项目的评估章 程。 (查看附件)。 跟其他双边出资者一样,法国开发 署支持发展援助委员会的评估原则: 公正性,独立性,可信性,实用性, 参与性(当地的合作伙伴)和协调 性(与其他援助出资者)。 由于上述原则的实施可能会因出资 者不同而不同,因此很有必要阐述 一下法国开发署的相关原则: 独立性: • 评估实施与监督的部门独立于 项目设计和实施的部门;但是,评 估部门的独立程度取决于评估工作 的最终目的。 • 评估机构由法国开发署的上级 主管部门代表和顾问专家代表组成 的评估委员会实施监督。该委员会 对评估工作的评估准确性和质量, 计划的制定,以及评估方法提出自 己的观点。它直接向法国开发署的 董事会作年度报告。 质量: • 评估质量主要涉及负责引导和 开展评估工作的人员,以及评估过 程和评估工具。本文件列出了评估 的质量标准,评估人员的招聘准则 和法国开发署对这些人员的培训。 实用性: • 只有当评估工作有助于实现以 下目标才会计划开展:完善业务活
动,积累知识资本,汇报分析结果。 合作关系: • 法国开发署致力于发展釜山伙伴 关系,实现有效合作。它通过联合 或要求合作伙伴参与到评估过程进 而推动相互问责框架的实施。 • 然而,当法国开发署的业务旨在 推其自身的原则、价值和利益的时 候,评估的结果并不能成为法国开 发署及其合作伙伴所追求的目标。 出于对合作关系的透明度和清晰度 的考虑,法国开发署在评估方面鼓 励公开所有的目标。 协调性: • 在联合评估方面,法国开发署 完全服从于发展援助委员会的指导。 • 为了便于联合评估的实施,法 国开发署在发展援助委员会内部评 估网交流评估方案。在启动项目评 估的时候,法国开发署将系统地核 实与其它援助机构联合开展工作的 可操作性。 透明度: • 为了彰显法国开发署的社会责 任感,纸质版的评估政策已出版, 电子版可以在法国开发署官方网站 免费下载。随着新融资协议的实施, 法国开发署还出版了单个项目评估 结果总结的“业绩表”。这些表格也 可在法国开发署的网站上找到。 • 法国开发署严格遵守法国评估 机构的章程、法律条款,评估工作 中的需要的相关数据也将在合理的 时间内向公众公开。
法国开发署评估政策
6
.……………………………………………………………………………………………………
2.3 理念和标准 .……………………………………………………………………………………………………
理念 法国开发署将发展援助委员会的术 语表作为其业务和评估制定的主要 参考。 法国开发署希望通过培训和沟通, 与参与业务设计,实施,监督和评 估的人员分享业务过程中应用的业 务基本概念的定义。 标准 法国开发署借用发展援助委员会指 * 定的五条标准开展评估, :贴切性 , *
*
*
*
有效性 ,效率性 ,持续性 和影响 。 贴切性是主要指的是业务目标的一 致性、待处理的问题和/或是受益人 的需求。贴切性从合作伙伴的策略 以及援助出资方的优先权的基础上 分析了业务的一致性。有效性表示 如何追求已经实现或即将实现的特 定目标*。效率性是指对资源利用进 行的一种判断,以便能够达到目标。 持续性评估业务终止的时候,能在 多大范围内产生结果。影响涵盖了 业务的所有影响,无论是正面的或 是负面的,直接的或间接的,有意 的或无意的。 评估的标准构成了一个适应于每个 项目评估的框架。每个标准的重要 性因评估的目的不同而有所不同。 法国开发署对以下几个方面予以高 度重视: —法国开发署第三个战略定位计划
使可持续发展成为法国开发署所有业 务的共同参照标准。在评估中,包括 分析业务对可持续发展(经济发展, 消除贫困,减少不平等现象,保护生 物多样性和应对气候变化)作出的贡 献。该评估特别关注法国开发署和合 作伙伴对经济,环境和社会问题之间 的平衡所做出的努力。在项目评估方 面,法国开发署致力于系统地研究 A 级项目的社会和环境因素。A 级项目 即那些被认为是高风险和/或所谓处 于“敏感”领域的项目。通过项目评 估进一步证实某些限制、补偿措施以 及伴随的负面影响 — 因为法国开发署首先是放款人, 因此习惯首先判断其财政援助对借 款人财务状况的影响,而伴随着不 同的金融工具,对评估标准尤其是 持续性的评估标准进行的判断会具 有细微的差异。 — 在 2010 年 1 月向部长代表提交 《性别与发展》战略评估意见之后, 性别平等在法国发展政策中得到巩 固。法国开发署将性别问题纳入到 其业务相关性,有效性及其影响性 的分析范围之内。 — 最后,法国开发署试图鉴定业务 评估中的“附加值”。这涉及到判断 法国开发署业务与其它提供援助出 资者究竟有何不同。非财政投入 (技术专长,与受益人的对话,响 应性,牵连性,...)的作用和法国 开发署的特性将得到系统地研究。
法国开发署评估政策
7
.……………………………………………………………………………………………………
2.4 业务评估和其它关键点 .……………………………………………………………………………………………………
法国开发署的业务要遵循如下几个旨在完善其业务能力的“关键点” : 1. 第一点是项目经理本人预审业务时,需要充分利用他的专业知识,行业,地域 和合作伙伴的知识,以及经验教训。向法国开发署决策机构提交的介绍说明中涵盖了 这一点。法国开发署技术部门通过研究对其进行补充说明。 2. 第二点是风险部门的二次审查需要确认业务的设计使法国开发署尽量避免承受 过多的风险,而风险的概念定义则是相当广泛。法国开发署在汇报项目结果方面偶尔 表现出的力不从心使其形象承受了巨大的风险。因此,二次审查的任务是确保业务的 设计带有明确的,量化的特定目标*,并与各种符合实际的监控体系相协调。 3. 第三点是由监察部门监督,确保法国开发署的业务运作符合法律及监管规定, 遵守专业准则和职业道德。 4. 第四点是由业务部门质量监管单位予以监督,是对项目实施质量的评估,以及 通过项目经理在项目实施的过程中做出的评分基础上对其发展目标的实现前景做出评 估。 5. 第五点是项目完成时业务团队予以监督。指在项目完成报告(RAP)中建立一 个摆事实,举数字的初步小结,该小结内容涉及所使用的方法,所取得的成就和成 果。这份小结为该项目的评分提供一个依据。将每年的评分合并之后我们能够得出合 格项目的目标和方法指标。 6. 第六点是项目评估。
评估政策只涉及到上述第六个关键 点,但是要与其他五个关键点衔接 起来。尤其是 :
►
评估没有明确法国开发署如何管 理“项目周期”。评估是由监察部门 予以监督,某种意义上说,其任务 主要是绩效审核。项目的前期准备 和跟踪质量在评估期间将得到审查, 当它与评估标准相关的那一刻起, 就成为了被评估考虑的对象。
►
评估的结果独立于业务部门对项 目的自主评分。就法国开发署来说,
对完成的项目进行评分就好像是法 国开发署的自我评估。然而,在该 项目接受后评估时,要求评估人员 对业务部门做出的评分发表意见。
►
监督和评估的手段是不同的(见 评估和问责的方框),但确是互补 的:监督的质量实际上影响评估工 作的质量甚至是可行性。后评估将 在项目完成报告结束后启动,以便 得到关于实施方法、项目实行和最 终结果的准确信息。
法国开发署评估政策
8
项目监督质量取决于业务的设计质 量:因此法国开发署的评估部门可 以帮助项目经理对监督体系进行设 * 计,以确保业务的可评估性 。
对信息和数据的预先需求是必不可 少的,尤其是在评估能够影响业务 效果的时候,该评估的影响从最初 的参考持续到到项目的最终完成。
.……………………………………………………………………………………………………
2.5 主要评估类型 .……………………………………………………………………………………………………
法国开发署将不同类型的评估以融 入到监督、评估和研究的体系中。 经济合作发展组织通过不同的领域 (项目,行业,国家,主题,…) 在如下范畴内对项目进行评估:,评 估目的(概括的或详细的*),评估 完成时间(评估前,评估中和后评 估),方法(参照业务结果的评估, 评估类型 项目后评估
深入评估
战略评估 评估总括
范围
参与性评估和影响评估)以及它们 与业务评估负责人的关系(独立评 估,自我评估)。法国开发署借用所 有这些范畴进行评估。 评估类别 法国开发署按评估范围,方式方法, 以及目标主要实行四类评估工作: 方式方法
项目
主要(次要)目标
参照目标的评估 ( 基 础 目 标 评 估),回顾检查 (针对复杂方案) 项 目 , 项 目 组 “基于理论”的方 合,手段方法 法,实验和准实验 方法 部 门 , 地 域 , 目标的评估,回顾 横向业务框架 检查
改进业务,与业主 就结果进行对话
项目组合
业务的改善
—项目后评估。这些评估涵盖法国 开发署投资项目的所有类别。评估 的方法论都相当简单,注重实施过 程以及方案特定目标*的实现程度。 如果法国开发署的项目不借助特定 的评估方法评估,则将通过当地评 估的程序来进行:评估在评估部门 (见下文)的监督下由法国开发署 的各地代表处根据特定的协议来开 展。法国开发署在一些项目里为实
准评估
知识产物(业务改 善和问责制) 业务的改善(问责 制)
现发展目标做出贡献(通过一个共 同基金进行区域援助,全球或区域 的财政援助, ...)当不可能对这 些项目进行联合评估(见下文)时, 开发署会对这些项目分析回顾。在 特定国家或部门,非政府组织的资 助也成为项目评估的目标,该评估 是法国开发署和同非政府组织合作 部以及项目评估部共同实行管理的。
法国开发署评估政策
9
项目的当地评估 方案的当地评估是由法国开发署的各代表处和地区司在评估部门的协助下开展进行。 法国开发署的评估机制自 2007 年创立以来,表现出三大主要优势:
—
同参与评估过程的合作伙伴的交流。在这里,评估参与援助发展以及业务开 展。当地评估的主要目标之一是逐步组织与项目相关各方就业务结果的对话。
—
求助地方专家的可能性。动员地方专家也是法国开发署比较青睐的手段。因为 地方专家对当地的环境了如指掌,并且能够促进当地评估能力发展。 — 评估的文化在法国开发署业务部门和合作伙伴中传播。
— 深入评估。它们的分析领域,通 常是一个项目或同一领域的一组项 目或用相同的金融工具施行的一组 项目。评估的目的是为了更好了解 业务的结果和影响,了解联接业务 结果和影响的机制(当其建立时)。 深入评估往往侧重于创新项目或法 国开发署推广实施的模式的项目。 评估工作定位在研究和评估之间。 法国开发署会借助多样的评估途径 和方法。深入评估要求“基于理论” 的方法(例如,定性对比分析,贡 献度分析),基于“有或无”比较的 实验和准实验方法。对法国开发署 而言,从方法的角度来看,其主要 要求是评估方法和评估业务性质, 以及评估目的和提出问题的一致性。 在严格的设计中,法国开发署使用 影响评估的特定方法,力求衡量业 务影响。影响评估可以根据所谓的 “经验”方法,在一个“反事实” 的情况中对业务受益人进行比较, 也就是假设在一个没有业务的情况 下比较业务受益人的情况。 — 战略评估。业务框架(地域的, 行业的和横向的)反映了法国开发 署如何阐明监管部门委托给它的任
务,并创建分析框架,由此法国开 发署拟通过其金融和非金融产品来 获得发展成果。战略评估领域包括 业务框架*或这些业务框架下的子集, 或尚未正式确定的战略要素。战略 评估的结果应该起到提高战略框架 质量的作用。这些成形的评估*还可 促进问责制的发展。从方法论的层 面上看,这类评估的要求往往没有 第二类评估的高,而且能够生成分 析性回顾(见下文)。 — 评估和准评估的总括。评估部门 按主题,行业和地域完成总括,以 通过即成评估的经验来改善业务。 准评估是对评估本身进行评估,帮 助给予评估过程和知识需求与问责 制的贡献有效性等方面的批评性看 法。 分析回顾 该评估部门还能够承担“分析性回 顾”的工作,这个词虽由英文 reviews 翻译而来,却又不是十分精 * 确。这些有意形成 目标的工作并不 符合严格意义上的标准和评估方法, 也没有涵盖发展援助委员会的所有
法国开发署评估政策 10
评估标准,而只是包括一些被认为 有用的问题。它们可以采取不同的 形式:绘图法,业务组合的分析, 业务回顾,小结......当涉及到难 以评估且复杂的业务表现(见下文) 时,这些工作将被展开。具体来说,
回顾主要针对业务方面,并不是致 力于对业务效果和影响的评估。分 析回顾的工作在法国开发署内部进 行,但如果公众对其感兴趣,也可 对外发布。
法国开发署的海外省评估 本文件中所阐明的评估政策通过一定的调整后,同样适用于法国开发署的海外省的业务 评估。对其进行的调整主要是考虑到法国开发署任务的特殊性,和委托境外司的评估任 务两个方面。 法国开发署的使命之一是支持国家的公共政策,以促进海外省的经济和社会发展。它作 为一个运营商或是政策执行的主导方开展业务,并接受评估在评估方面,这种特殊的地 位通过以下几个方面得以显现: — 法国开发署对业务贴切性进行单独审查的低合法性,其中涉及发展援助委员 会惯用的评估标准的内容和解释; — 法国开发署在该领域的业务整合包括由境外司引导的评估。境外司和法国开 发署回归到相互学习评估的模式中,尤其是交叉参与到评估指导小组中。 — 受到境外司委托完成海外部门公共政策评估影响的可能性。 海外评估活动主要追求的目标是最初的尝试、决策援助、以及加强评估业务中各利益相 关方之间对话。海外评估主要将评估重点放在参与性方面,也就是在确定的评价方法 中,或是在利益相关者参与的评估过程中。海外评估范围包括(i) 地理业务框架,涉及 海外行业业务的框架部分 (ii) 以及数量缩减的投资项目,在这些项目中,评估活动帮 助法国开发署和负责实施项目的地方当局和地方公共机构维系好的伙伴关系。评估同时 包含法国开发署提供的财政援助以及为合作伙伴提供的咨询支持。 法国开发署海外资金援助的效果评估有可能更为复杂的(预算贷款...)。因此,为了 对业务进行有效评估,法国开发署在方法论方面做出了特别的努力。
法国开发署评估政策 11
3
法国开发署评估遇到的挑战
法国开发署在评估方面需要接受的挑战有:业务活动可评估性的提高,在 规划更加战略化,以及评估活动中不同方面人员与责任更加清晰化的背景下, 评估资源分配的更加优化,工作质量的提高,总体来说指的是效用和使用质量 的提高。 .……………………………………………………………………………………………………
3.1 提高业务的可评估性 .……………………………………………………………………………………………………
可评估业务是指业务的行动理论、 目标、指标和监督机制自设计之初, 就已有明确界定,业务的成果和结 果也得到有效监督。提高业务的可 评估性是法国开发署未来几年内要 优先发展的目标。这意味着参与设 计、决定、战略和业务实施等各个 阶段的不同人员需要做出不懈努力。
— 发展一个特殊的、方法论的工作, 使复杂业务(如预算支持)的可评 估性成为可能。 对上述努力具有促进作用的其它 “关键点”(见 2.4),主要有: •在项目前期, 由技术部门实施、 项目经理主导的项目质量审查;
基于这个目标,法国开发署致力于: — 建立一种普遍适用的评估理念, 前提是对法国开发署行为进行评估 的必要性已为各级机构所认可; —使评估扎根于项目周期和战略业 务框架的生成周期中; —使用适用于业务评估度的途径和 方法,不是所有业务都能用相同的 方法、相同的严谨程度进行评估之 后,
• 二次审查针对项目的监督系统控 制形成的意见; •递交给决策部门的详细说明业务监 督和评估机制的介绍; •由业务领导部门质检单位开展的, 对正在实施项目的质量评分以及监 督表现的年度回顾; •项目完工报告内容质量的提高和结 项报告的完善。
法国开发署评估政策 12
.……………………………………………………………………………………………………
3.2 根据评估的主要目标制定评估计划 .……………………………………………………………………………………………………
评估计划是对评估资源分配的优化 工作。首先需要制定各种评估类型 的“主要目标”,并制定法国开发署 评估项目相应的建立流程。
—项目证据不全:人们是否对业务 的确切性或有效性怀有特殊疑问? 它是否表现出了新的特点和/或它是 否需要进行复制/扩展?
根据知识生产的目标制定深入的评 估计划
—可评估性:在合理成本的范围内, 业务活动是否可评估?包括投资方 法方面是否可评估?
评估需要解答贷款业务的建立、实 施、效果等方面的一些问题。而提 出这些问题的部门有时候是业务指 导部门,有时是监管部门或检查机 构。 深入评估的计划首先是由评估部门、 业务部门,尤其是业务司技术部门 通过咨询建立。 对评估进行选择,要遵循三个标准: 评估的附加值、项目证据不全和业 务的可评估性: —评估的附加值:这个问题不是已 经被法国开发署或其他援助出资者 处理过了么?如果是其他援助出资 者已经处理过,那么在何种情况下, 通过这些评估获得的经验能够让人 满意?这个问题难道不应该由系统 性的回顾工作来回答么?
除了业务部门之外,评估部门也可 主动承担评估工作。尤其是对项目 工具评估的情况下,工具的效率经 常会成为法国开发署董事会或检查 机构发问的重点问题。 深入评估需要对法国开发署的研究 委员会做出陈述,该委员会负责法 国开发署研究、评估和规划工作。 深入评估需调动法国开发署评估中 约一半的人力和财力(不包括 2009 项目安排)。而这些人力及财力资源 的一部分是预留给最难以实现的影 响评估的。法国开发署计划每年进 行一定数量的研究以发展内部专业 经验,并对国际上影响评估的辩论 施加影响。该项目对法国开发署在 社会责任政策影响方面所采取的行 动进行了具体细化。
法国开发署的影响评估 影响评估是由法国开发署的评估部门和业务部门通过密切合作来共同进行的。通过这 种密切合作,法国开发署: — 从研究的角度(“知识不足”),以及业务角度(“效果运用”),甄别恰当项目; — 确保项目实施的条件适用于严格的评估,并确定最合适的方法来进行研究; — 确保所得结果更有效的宣传和应用(直接或更具战略性)。
法国开发署评估政策 13
评估部门的投入是十分有力的,特别是在确定开展评估的合作伙伴、确定影响评 估的协议、以及技术指导等方面(各种调查跟踪,对所用方法的批判性分析、对结果 的解释和宣传,等等) 。 这种内部团队的大力参与能够帮助法国开发署积极的参与到关于影响评估的国际 讨论中。 从此类评估的科学角度出发,法国开发署和该领域一些最有经验的实验室(制度 和全球化发展的发展研究机构,贾米尔贫困行动实验室,加利福尼亚大学伯克利分校 等)确定了合作伙伴关系,以寻找更多的方法和团队。只要有可能,它会联合业务所 在国的研究中心一起进行评估工作。 在影响评估中,实验评估能够建立业务与评估结果之间的因果联系。然而实验评 估并不适用于所有情况。考虑到业务和预算的限制,准实验方法可以代替此类评估。 法国开发署强调国家统计机构对影响评估的数据收集的重要性。如有可能,这项 数据收集的工作是以正在进行或计划进行的调查为依托。
战略评估致力于改善法国开发署的 业务框架。 鉴于评估活动所需要的资源,整体 业务框架在法国开发署战略方针计 划实施的 5 年期间不能接受评估。 战略评估是由战略指导部门支持并 完成的系统总结,其规划应该经过 严格筛选,并且符合一个时机标准: 评估是法国开发署战略方针计划的 重点么?评估是否帮助业务指导部 门定义和修改战略评估的框架?评 估是否解决董事会的具体问题? 后评估与项目合作伙伴相关,以学 习为目标。 对所有业务进行系统评估并不是一 个明智之举:它会导致高质量评估 研究方法的分散和利用率降低。因 此,评估的项目要通过多个标准进 行筛选:形成与受益人结果对话的 机制,从学习角度看的评估益 处,...但是,为了避免选择最令人 满意的项目进行评估,因此项目质
量不得干涉评估项目的选择。在实 践中,短期的项目评估规划由业务 指导部门和评估部门共同制定,以 确保后评估的程序在行业和区域方 面对已完成项目具有代表性。通过 参与评估规划,评估部门必须保证: 项目后评估同时也是法国开发署作 为发展援助机构绩效表现的工具。 因此,法国开发署开始扩大项目后 评估的范围,但在该范围内,法国 开发署不寻求评估项目在完成时要 全面达到目标。 正如法国开发署的条例所规定的那 样,对非政府组织的资助是评估的 主要活动。对非政府组织的资助的 评估是从国家和行业的角度出发。 评估规划 为了促进这些不同目标的实现,评 估规划一般为期三年:其中包括为 项目定位,评估战略的明确以及来 年评估的详细规划。 法国开发署评估政策 14
上述的评估规划融入了与上级主管 部门的联合评估,并需要接受评估 委员会的意见,该评委会宣布其对 问责制目标以及可行性的贡献。然 后该评估规划需要以评估清单的形
式向法国开发署署长申请通过,这 里的评估指的是来年财政工作要开 展的评估工作。这份清单之后被递 交到法国开发署的上级主管部门和 经济合作发展组织。
.……………………………………………………………………………………………………
3.3 明确评估过程中的责任 .……………………………………………………………………………………………………
在评估进行过程中要将责任予以明 确地说明,以便保证评估的独立性 和评估的质量。严格意义上讲,评 估不包括分析性回顾的工作,这里 我们将评估分为不同的两类:由评 估部门指导的评估和当地评估。
评估人员的选择需要在评估小组内 部进行沟通,但最终决定权在评估 部门。它既要负责预算也要保证评 估质量。影响评估是合作伙伴的职 责。(请参照影响评估的内容)。 评估监督小组
评估由评估部门指导 评估的准备 评估的质量取决于前期的准备工作。 评估部门首先应明确评估的目的 (为什么要评估,以及为谁评估?)。 之后,逐步开展前期的准备工作, 从而可以最大程度地明确评估范围 并确定益处。这些前期准备可以是 审阅文献或者是分析性回顾,比如 通过项目制图。 在评估小组成员的支持下起草工作 大纲。工作大纲要解释评估背景、 范围,提出一定的评估问题。明确 将要使用的评估方法。工作大纲中 包括含有将评估结果进行公布的规 则。 评估人员的选拔 将评估委托给第三方是最普遍的做 法。顾问的选择过程应按照法国开 发署的招标规定进行,要重视质量。
所有评估活动在评估部门指导和评 估监督小组的指导下进行。评估小 组要根据工作大纲要求定期召开会 议。通常,来自业务部门的行业专 家会协助评估部门,为评估部门服 务。 评估监督小组的构成是:一定数量 的开发署业务部门的代表,待评估 业务的相关各方,研究部门的专家, 外部有资质的人员,其中包括评估 领域有资质的人员。法国开发署的 上级主管部门也可以参与到评估小 组中来。主席职位由有资质的人士 担任, 或由研究部门的领导或开发 署评估部门的负责人担任。 评估监督小组人员的多样性是保证 评估质量和评估独立性的重要部分。 开发署希望来自世界各地的研究部 门,企业或非政府组织的知名人士 参与到评估小组中来。 评估监督小组为评估者的选择、对
法国开发署评估政策 15
评估成果的追踪和确认提供咨询。 小组依据明细就评估质量做出评价, 该明细建立在经合组织发展与援助 委员会的质量标准之上。(请参照附 录 4) 当地评估 项目的后评估工作由法国开发署当 地代表处按照简单而又标准化的程 序进行。
评估部门负责对当地评估进行监督: 即方法指导和评估质量检查,遵照 质量评分标准对后评估打分。该评 分标准采用的是简化后的经合组织 发展援助委员会的标准。指导内容 包括程序和参考文件的更新,业务 部门的培训,就工作大纲提出意见, 在有需要的情况下可提供具体方案, 甚至直接给予支持。直接支持的力 度是根据代表处的能力和需求而定。
代表处的职责是:
评估部门的任务是总结评估,使从 当地评估中得出的信息更有价值。
·指导整个评估过程,从工作大纲 的起草到最终报告的公布。 ·协调参与评估的不同人员的活动, 特别是与评估监督小组有联系的活 动以及开发署在当地的合作伙伴的 活动。
在评估非政府组织的投资时,要遵 照指定的协议。评估部门要参与工 作大纲的起草,评估方法的选择, 顾问的选择,具体方案的确认,评 估结果的发表。评估部门最常参与 的是已经组建完成的评估监督小组。
. .……………………………………………………………………………………………………
3.4 设计方便实用的评估工具 .……………………………………………………………………………………………………
通过评估的不同“产品”使评估有 助于认知和问责: — 建立在跟踪数据、评估者特定的 观察、分析、尤其是结论基础之上 的笔录,构成了评估的主要“产品”。 这些结论具有一种特性,并对评估 业务有一种有效性适用或者是一种 更为普遍的适用。为促进评估结果 的利用,我们区分以下两种结论: 由评估者鉴定的有普遍影响的评估 和在行业、主题或地域的基础上做
出的总结。 从结论中得出的建议可以使评估步 骤与决策过程建立联系。在评估者 和业务部门之间应建立一种联系, 以保证建议能够被业务设计和执行 部门采纳。一方面,要着力确保结 论是由完全独立的评估者总结得出, 另一方面,要体现业务部门的参与, 尤其要考虑到评估设计前期与目前 确认项目之间的时间差。
法国开发署评估政策 16
.……………………………………………………………………………………………………
3.5 保证评估质量 .……………………………………………………………………………………………………
法国开发署尽可能地在整个评估过 程中确保评估质量。法开署通过制 定更具战略意义的规划,要求技术 部门参与到项目当地评估的准备及 追踪的过程中,同时确保完工报告 为高质量的后评估工作提供大量的、 客观的信息来保证后评估的质量。 评估初期和过程中的质量 在初始阶段,法国开发署依靠评估 部门来确保: 1.从项目的设计阶段就有较好的可 评估性。 2.起草工作大纲,明确评估目的、 评估背景,提出部分评估问题。 3.选择外部咨询的时候注意他们的 标书质量。 4.选择好的方法。 5.在评估监督小组中有评估专家的 参与。 完成阶段的质量 法国开发署对评估质量有明细的评 价标准。它参考了发展与援助委员 会的标准:既针对评估者的工作质 量又针对评估过程本身。
附录四中有具体的明细评价标准。 评估部门和评估监督小组据此来决 定是否发布一项研究。 法国开发署不支持对项目进行评级, 以免不同评估者针对不同背景、不 同本质的项目做出有失公允的评价。 相反,法开署鼓励评估者综合、量 化地使用不同的评估标准以明确它 们在分析活动中所采取的立场。 质量检查分为三个层次: 第一层:由当地的代表处和地区司 检查当地评估的质量;由检查外部 评估方质量的机构负责法开署评估 部门的评估和非政府组织项目的评 估。 第二层:由法国开发署评估部门检 查当地评估的质量;法国开发署评 估部门在评估监督小组的协助下检 测开发署进行的评估和非政府组织 项目的评估。部分评估需要借助外 部专家专门负责质量检查。 第三层:评估委员会的责任是支持 法国开发署的汇报、以可信,独立 和透明的方式评估自身行为,特别 是就开发署进行的评估工作的质量 发表意见。
法国开发署评估政策 17
.……………………………………………………………………………………………………
3.6 充分发挥评估的作用 .……………………………………………………………………………………………………
法国开发署决定系统地加强所作评 估结果的利用。 法国开发署采用由罗西等人6提出的 三种评估结果利用的方法: 1.直接利用或作为工具利用,即决 策者和参与者使用评估的内容、结 论和建议。 2.概念性利用,一般来说以协助智 力讨论为目的。 3.说服利用和象征利用,以维护政 治立场为目的。 这种划分与最传统的反馈、总结、 宣传的观点相一致。开发署给出评 估信息的目的是符合前两项的,开 发署承担评估的宣传,因此在某些 情况下评估用于“说服利用”。 以反馈信息为目的的直接利用 评估的主要目标之一就是对业务进 行完善,从反馈中得到的经验教训 可以使用到新的项目中,或者用于 执行中的项目。
无论是在选择评估主体的时候、在 评估的准备阶段,还是在评估的实 施过程中,业务部门的参与都保证 了今后评估的实用性评估过程和最 终结果对于评估参与者来说同样重 要。 对于评估结论的回复 任何评估都应该得到部门的正式批 复。因此,与被评估项目有关的部 门都应就评估者作出的评估结论发 表意见。根据发展援助委员会的原 则,法国开发署保证评估开始一直 至结论阶段都会保持独立。 在某些情况下,当评估的结论认为 项目的进行需要重新进一步讨论时, 或者建议项目的方向需要有一个根 本的改变时,开发署的执行委员会 将对结论作出回复。 这一过程首先是与评估部门作出的 评估有关,当需要时,会应用于一 些当地评估和项目评估的总结工作 中。
目前的实践 提出建议 从评估开始阶段就组织反馈,反馈 可以通过以下几种方式进行。 -业务部门参与制定评估计划,编 写工作大纲,用于回答有关项目的 问题。 -选择评估主体需要考虑时机。目 的是尽可能地确保评估在合适的时 间进行以便指导开发署的项目、计 划以及战略性业务框架。
为了促进评估结果的直接利用,业 务部门直接参与到建议的制定中来。 根据具体情况,有两种可行的方式 可供选择: 1. 由评估者提出建议。在这种情况 下,与业务部门讨论后得出建议, 以使相关方接受、落实各方的责任; 2. 由有关部门和评估者共同提出建 议。这种方式旨在提高建议的质量、
法国开发署评估政策 18
可行性和业务部门的可操作性。一 旦法国开发署就评估结果予以表态, 相关部门将会和评估者一起参与建 议的拟定工作。在这种情况下,评 估者的角色是促使可靠建议的提出。 评估部门要确保提出的建议源自评 估结论,划分建议的优先等级,并 按相关方将建议进行分类。
开发署促进从评估中积累、获得和 使用知识。 更为易读的报告 报告是否简明清楚是评价评估质量 的标准之一。每个评估都应在工作 大纲中准备四页的总结,总结可以 发表在《发展问题》的系列当中。
建议的跟踪 评估工作的还原 根据法国审计总署和法开署内部审 计部门的建议,法开署将引入一个 “建议跟踪系统”。该系统将应用于 业务部门内部(而对由非政府组织 的投资项目评估的跟踪系统将应用 于同非政府组织合作部门的内部)。 除了这种机制以外,对于正处于决 策阶段的新项目,在合适的情况下, 法国开发署在项目介绍中会提及以 往评估中积累的相关经验。 评估部 门承诺在项目评估阶段支持业务团 队,以使他们能更好地了解之前评 估中的经验。 为了加强跟踪建议与完善新业务之 间的反馈性循环,制定计划时就应 考虑对相同对象(特别是主题和方 法)的评估,这样可以将得到的经 验应用于新的项目当中。 附录 5 中《评价的反馈过程》的表 格阐释了开发署如何在反馈结束时 加强评估的利用。 积累后的概念性利用 评估还可以协助了解情况、讨论结 论、吸取经验教训。为此,评估也 参与到有关发展援助的业务性知识 的生产中来。 为了支持这一总结过程,开发署强 化了知识管理的政策。在此情况下,
法国开发署会在可行和合适的时候, 在内部或相关国家还原评估工作。 除此之外,法国开发署通过不同的 渠道介绍评估工作:组织或参与不 定期的活动、交流研讨会,以及由 其它出资方或国际研究组织的活动 主题网络的利用 法国开发署内部建立非正式的主题 网络,旨在分享与主题相关的信息 和感想,可以使评估所取得的成果 发挥更大的价值。 评估结果的发表 法国开发署在两个刊物上发表它的 评估成果:《法国开发署的评估》, 也称为“后评估”,以及《联合评 估》。一些对于学术读者有用的评估 工作可以出版在研究部门的《工作 文件》系列中。 这些刊物是发行的,主要是通过法 国开发署的网站进行发表,并且在 由开发署、其它机构或援助方组织 的活动范围内免费发放。 建立评估结果的数据库 为了更好地分享评估中得到的资源, 法国开发署打算建立一套数据库, 所有员工都可以通过这套数据库查
法国开发署评估政策 19
阅所有的评估报告。这套数据库配 有搜素引擎,可以根据地域、行业, 评估内容或出版方式对文件进行搜 索。 评估部门的角色应当朝“信息中介” 的方向发展,包括主动开发这套数 据库,以便为业务部门获取在线信 息提供支持,并为需要的部门提供 内容概要。
法国开发署认为仅仅宣传成功的经 验会失去可信性、实用性。评估部 门应该保证传递平衡且实际的信息, 宣传符合法开署职业道德宪章中价 值的评估结果。
评估过程的拍摄也是项目评估的一 部分,然而它主要是一种信息和培 训工具,同样可用于宣传,它也是 法国开发署希望进一步开发的工具。
以为目的利用 如果说所有的评估结果都需要发表, 那么并不是所有的评估结果都值得 做相同的宣传。某些法国开发署鼓 励的业务或模式,其评估结果十分 有价值:法国开发署希望和更多的 人分享评估的经验和教训。在这种 情况下,将投入资源建设专门的宣 传工具。 成功和失败都可以是经验教训的来 源。
使用社交网站是推广评估工作、分 享已知情况、讨论发展援助问题的 一种途径。该途径在宣传部门或发 展援助委员会评估部门的支持下或 将得以拓展。 从更广的范围来讲,宣传部门将更 多参与评估过程,以便从工作大纲 阶段就设计评估工作的宣传模式, 更好地把宣传纳入到评估活动中来, 既要面向业务部门,又要面向外部。
法国开发署评估政策 20
4 和合作伙伴共同开展的工作 法国开发署支持和重视与外部合作 伙伴就评估工作展开合作和交流。 如果说此方面的能力强化是外交部 的职能范畴,那么法国开发署务的 评估就要尽可能地提升本土人员的 评估能力。当地项目评估主要借助 当地咨询公司以提高当地评估的能 力。法国开发署培训中心(CEFEB) 在其公共和私人硕士教学教材中增 加了评估相关的内容。 另外,开发署的评估部门也为那些 希望完善自己的评估工作的优先合 作伙伴提供支持和咨询。 开发署的评估部门与其它出资者的 评估部门保持密切的联系。在欧洲,
它努力使其评估工作与欧洲投资银 行和德国复兴银行相吻合,并相互 认可对方的评估程序。 最后,评估部门支持和积极参与评 估人员和负责人网络:国际上,有 经合组织下属的发展援助委员会的 评估网络 (EVALNET),影响评估网 络 (NONIE),和非洲影响评估机构 (African Impact Evaluation Network);在法国国内,法开署评 估部门也是法国评估机构的成员之 一,另外还有 F3E 基金会(负责推 广前期研究、横向研究和评估发展 基金)。F3E 基金会面向于非政府组 织和参与国际团结行动的法国地方 政府。
联合评估 对于开发署来说,联合评估是和其它出资者金融机构联合进行的评估。这种联合受益 人的评估方式称为合作伙伴评估。 法国开发署赞同发展援助委员会关于联合评估的原则:“援助方应致力于联合评估, 联合评估有两重好处:一方面加深不同援助机构对于彼此评估方法和程序的理解,另 一方面减轻接待国的行政负担”。在贯彻执行巴黎宣言援助有效性并根据共同模式, 法国开发署援助逐步增加。在此背景下,联合评估显得尤为必要。法国开发署同样遵 守 2006 年出版的关于<发展援助委员会联合评估管理的方针>。 法国开发署参与的联合评估针对的是与其它出资方共同支持的项目。在实现此类项目 的发展目标的过程中无法将法国开发署的贡献单独评估。此外,联合评估同样适用于 另一种联合出资的项目。对于此类项目出资方对于评估目标一致,以便在评估目的、 领域和评估问题上达成一致。法国开发署将评估计划在发展援助委员会内部评估网 EVALNET 网络上分享,以便推动联合评估的实现。在评估进行过程中,开发署将确认 与其他出资人的合作是否妥当。 联合评估中,法国开发署的定位并不固定。法国开发署可以领导评估工作,也可以委 托其联合融资方领导和执行评估。
法国开发署评估政策 21
然而,法国开发署希望尽可能多地参与到联合评估指导委员会中,因为在联合评估中 可以学习对方的评估方式及方法。 欧洲投资银行和德国复兴银行是法国开发署程序互认倡议下的重要合作伙伴,,法国 开发署希望能在联合融资项目后评估方面切实明确分工。 法国开发署也可以与其它国家进行联合评估,通常是与监管部委的评估单位进行合 作。尤其是在欧洲或国际范围内实行的较宽泛领域的评估,比如巴黎宣言的评估或国 家评估。 对于法国开发署,联合评估和其它评估具有同等地位,并以相似的方式发布:通常在 《联合评估》项目栏中公布,并在法国开发署的网站上发表,当报告使用其他语言撰 写,报告的概要将会翻译成法语。
法国开发署评估政策 22
5 组织机构与资源 .……………………………………………………………………………………………………
5.1 评估管理 .……………………………………………………………………………………………………
董事会 董事会批准法国开发署的评估政策, 每年至少对评估活动进行一次审议。 董事会对评估委员会主席提交的有 关法国发展署的评估工作质量和贴 切性进行审议。
建议跟踪体系的实施加强了领导层 在评估过程中的参与。该跟踪体系 也确实会对一些重要的评估结论给 予回应,并执行评估中给出的建议。 领导层的参与增强了评估工作的合 法性和实用性。 评估部门
评估委员会 经董事会决议,评估委员会于 2009 年 10 月成立,旨在“支持法国开发 署指定反馈汇报并使用更为可信、 独立、透明的方式评估其工作”。委 员会对法国开发署的评估政策和方 法给予建议。委员会由法国开发署 主管部委评估部门的负责人和 4 位 董事会指定的独立人士组成,负责 人亦由董事会所提名的精英人士担 任。 领导部门 领导部门在 POS3 中确认了对法国开 发署评估机构的支持,并经常性地 参与委员会的评估工作并认真听取 其意见。根据评估委员会的意见, 法国开发署领导层批准项目评估计 划。
评估部门接受委托准备评估计划, 引导或监督由法国开发署进行的评 估,检验评估质量,推进评估的利 用, 从广义上讲,在法国开发署内 部推广评估文化。评估部门确保法 国开发署对其项目评估的使用方法 恰当,并参与法国开发署开发成果 和进程评估的研究工作。 自 2006 年起,评估部门并入研究司 中,因而拥有相当的自由度,能够 方便的动用研究司的资源对社会学、 统计学和经济学的能力进行评估, 并方便了与法国开发署发行处的合 作。 评估部门负责人由法国开发署署长 任命。
法国开发署评估政策 23
.……………………………………………………………………………………………………
5.2 人力与财力 .……………………………………………………………………………………………………
投入评估人力资源 法国开发署的人力资源政策也对本 文中提及的评估政策的目标提供支 持。 法国开发署评估部门目前拥有十名 工作人员以保证顺利开展工作。尽 管这一数目略少于其他开发援助机 构(据 2009 年经济发展援助委员会 的一项调查,平均人数为 15 人), 但在未来几年内仍然会保持稳定, 从而保证 12 到 15 个项目评估以及 对 50 多个地方评估项目进行监督。 考虑到法国开发署评估中对环境评 估的重视,评估部门人员将包括一 位在环境和生物多样性领域富有资 历的专家。 人力资源管理方面所做的努力将有 助于加强能力建设。事实上,即使 通常评估工作均为外包,法国开发 署也必须注意自身评估能力的提高, 以保证能够设计指导复杂的评估, 确保外部评估人员所做的报告质量 并促进评估的内部利用。这一要求 对影响评估更为重要。保存内部实 力的目标同样也使评估部门更具吸 引力。 为达成以上目标,法国开发署计划: —在评估部门内部,合作者之间能 力互补,确保平衡状态:1.具有业 务实践经验,如技术部门的项目经 理;2.具有专业评估技能,需要借 助社会科学(经济学、社会学、人 类学…)。正在编制中的《能力参照 指导》将便于明确评估工作所需的 “职业”能力的定义。评估部门的
岗位描述将进一步明确所需经验、 精通的工具和方法、理论知识和必 不可少的学术知识。这一平衡将意 味着在评估部门中建立长期的内部 和外部聘任均衡; —编制长期的评估人员培训计划, 以评估方法和实践为重心。 由于与其他出资方工作的重要性, 评估部门应与其他资方共享人员交 流计划。 为促进开发署内部评估文化的发展, 人力资源部计划: —自 2013 年起,法国开发署的培训 计划新增了几个板块:“以结果为导 向的项目管理”,“回顾性评估”“项 目地方评估”“问责制与透明度”; —在人力资源管理政策的框架下, 将评估参照体系纳入到业务部门的 各个科室,以及与非政府组织合作 的部门中。 预算 本文件中所阐述的评估政策的实施 需要法国开发署及其上级监管部门 的预算投入做为支持。目前,每年 平均约投入 150 万欧元支付与评估 工作直接相关的服务费和合作研究 费用(不包括人员费用)。 地方评估评估费用及与非政府组织 合作部门支付给非政府组织费用均 源于外交部预算下的 209 计划—— “团结发展中国家”的资金赞助。
法国开发署评估政策 24
向评估委员会和上级监管部门提交 的年度评估工作报告负责说明法国 开发署用于评估项目的资源利用情 况。 其他评估由法国开发署的预算支持。
该资金拨付到评估部门所属的研究 部门的预算当中。这些资金的使用 是单独记录管理的,以便了解法国 开发署用于评估工作的资金预算, 跟踪的结果也同样记录到评估工作 的年度报告中去。
法国开发署评估政策 25
6 附录 .……………………………………………………………………………………………………
附录 1
术语
.……………………………………………………………………………………………………
► ► ►
效率:用以评价预期的结果最终实际达到的程度的评估标准。 效力:用以评价以“合理”成本取得何种程度的结果的评估标准。
过程评估:该评估围绕完善援助成果的目标展开。可针对已经完成的或是正 在进行的援助进行评估。
►
影响评估:一种具有严格科学性的评估,旨在通过反事实的方法辨别评估的 影响,即假设在没有任何援助干预的情形中,比较报告中阐述的人口的发展。
►
发展援助委员会定义的影响:援助引发的积极或消极,直接或间接,有意或 无意的作用。
► ►
项目援助:由法国开发署指导或支持的行动,意在引起改变。
总目标(最终目标):由援助带来的预期改变。这些改变通常证明了援助的 正当性。
►
特殊目标:受益人的状况、行为或发展过程中的改变,实际上,这些变化是 可以客观验证的。项目的实施是产生这些变化的主要原因。
►
贴切性:指出援助目的在何种程度上与所发现的问题相吻合的评估标准,广 义上说,贴切性涵盖了一致性概念:将项目援助的目的置于更广阔的战略框架 内。
► ► ► ►
成果:由受益人享受、援助产生的利益和服务。
►
持续性:指一旦援助结束,结果会延续下去的程度。
结果:由援助直接导致的变化,通常是受益人在行为和所处环境方面的改变。 分析性审核;对援助成果的检查,主要针对执行层面。
系统性审核:针对一个研究课题的专题审核,收集、选择和总结针对该课题 进行的所有研究和评估工作。
法国开发署评估政策 26
.……………………………………………………………………………………………………
附录 2
可评估性的条件
.……………………………………………………………………………………………………
目标
定义明确:可定量并定性; 清晰明确的特殊目标(预期结果)和预期成果,尽可 能地量化并使之目标值化。
指标值
清晰、单值,与不同水平的目标直接相关; 初始值和目标值,用以确认每个结果的指标值; 可用性、可靠性,跟踪监测预定指标所需信息的收集 方法、收集频率,及预算中预计使用的方法。
跟踪监测
描述性的跟踪监测体系; 系统地将观测到结果指标值与初始值、前期变化以及 设定目标相比较。
法国开发署评估政策 27
.……………………………………………………………………………………………………
附录 3
法国评估机构的章程
.……………………………………………………………………………………………………
多元性 评估属于公共管理、民主管理和科 学辩论的三重逻辑范围。它通过理 性的方式去看待不同的利益,收集 所评估行动的相关观点,这些观点 来自于评估参与者、专家或任何其 他的相关人员。 这种对观点多元化的考量意味着尽 可能每一次都吸收公共行动所涉及 的各方,使其参与到评估中,或以 其他合适的方式让各方参与评估。 保持距离 评估采用的是公平公正的方法。以 专业人员身份参与评估过程的人需 将任何可能的利益冲突告知其他的 合作方。 与管理和决策的过程相比,评估过 程采用自主方式,自主保护了公共 决策者的选择自由。
无相关人员同意,评估人员绝不透 露信息来源或意见提供方的名字。 透明化 评估成果发布的同时会清楚地展示 所评估的对象、最终目的、评估结 果接收方、提出的问题、采用的方 法及局限性,以及得出这些结论的 论据和标准。 评估成果最好能够公开,成果推广 的规则从起初就制定完成。无论采 取何种推广方式和手段,都应该保 证结论的完整性。 机遇 当评估活动可行,为了达到序言中 所提到的最终目标,评估就该被确 定。序言中提到的目标包括:民主 报告、开支的高效利用、有组织的 学习、促进未来的评估。 责任
技能 以专业人员身份参与评估过程的人, 会发挥在设计、评估、控制质量、 收集数据的方式和对结果的分析说 明方面的出众能力。他们重视提升 技能,注重与时俱进,尤其是借鉴 国际评估业界的经验。 尊重个人 以专业人员身份参与评估过程的人, 尊重所有相关人员的权利、对等, 并保障他们的安全。
评估过程中不同参与者的角色从评 估开始就根据评估中所承担的职责 进行分配(任务定义、过程领导、 调查分析、评估的系统阐述、可能 的建议以及结论公布)。 参与评估过程的个人和组织需使用 适当的方法并提供评估中必要的信 息。 他们共同对本章程中各原则的良好 执行承担责任。
法国开发署评估政策 28
.……………………………………………………………………………………………………
附录 4
评估的质量标准
.…………………………………………………………………………………………………
援助的目标是逻辑严密且可评估的。 评估针对援助展开,援助的逻辑是 可解释说明的。 评估的参考术语需要明确。参考术 语明确地描述评估的目标(为谁评 估,为什么要进行评估,为什么要 在此时进行评估),背景因素,领域, 采用方法和评估的目标。参考术语 还包括一定数量的评估问题以及评 估所用的方法。需要进行的分析项 也应明确。它还应当包括预期交付 成果的描述,评估预算的构成以及 用于还原结果的预算。参考术语要 对评估的管理进行描述。 从评估开始,就已经明确了评估的 管理流程。评估中不同参与方的责 任也有足够清晰的描述。评估监督 小组的组成和角色在评估一开始就 已经得到明确。 评估小组的选择程序是透明的。程 序应当简化优质报价的投标并符合 开发署的采购程序。直接采购的选 择属于特例。 被选中的评估团队要具备评估工作 必要的技能,拥有被评估领域较高 的专业技术知识并有较强的组织能 力。
评估的内容要与关注的问题及援助 的性质相一致,涵盖被评估的援助 活动,以便可以对援助的恰当性、 有效性和效果做出评判。 评估使用的方法应该是恰当的。正 确地应用评估方法能够有效解答评 估中提出的主要问题。评估方法的 不足也应进一步阐明。 收集的数据是可靠并符合事实的, 它们是质化和量化的。。当数据有所 不足,报告要对不足和数据使用的 限制给予解释。 评估的结果来源于数据的逻辑分析。, 源于对假设和现有逻辑的阐释。应 阐明其中的因果关系。 结论应当是可信公正的。它从逻辑 上源于理解,基于参考术语中明确 定义的评定标准或框架。对于介入 评估的所有参与者来说应当是均衡 和公正的。根据其重要性进行分级、 依据其可靠性进行分类,各涉及方 共同分享评估结论。 提出的建议源于结论。根据优先次 序对建议进行排序,并根据相关参 与者进行分类。
评估过程中,各参与方之间的对话 应当是高效的,并且充分考虑受益 人的意见。
结论报告应当是简明而清晰的。它 由一个评估总结构成,并且能够独 立于附录来阅读,它包括一个四页 的简短总结。
起草的报告应当满足评估委托方对 于信息的需求,且符合参考术语的 要求
评估的结果应该以高效适当的方式 进行传播推广(重新整合、出 版……)。 法国开发署评估政策 29
.……………………………………………………………………………………………………
附录 5
法国开发署对其评估部门工作结果的采纳
.……………………………………………………………………………………………………
评估的反馈步骤
评估步骤 1
制定计划
参与者 评估部门 业务部门
任务 过程的执行,提出建议;核实计 划的制定与评估政策的目标一致 提供咨询
评估委员会
2
3 关于某 些主题 的评估 重复出 现
4 5
6
7 8
针对项目可行性与适当性提出意 见 评估的准备 评估部门 起草工作大纲,选择顾问 工作参考小组(业 被征询意见 务部门参与其中) 评估的实施直 评估部门 领导外部咨询方 至结束 外部聘用方 根据工作大纲进行评估 评估监督小组 被征询对报告的意见 给评估质量评 评估部门 对质量进行打分 分 领导对评估结 根据决策的级别, 针对评估结果发表意见、确认立 果作出回复 业务部门或执行委 场 员会 提 出 整 改 建 外部聘用方 组织和主持工作 议,监督建议 业务部门 根据评估结果参与制定建议,确 的质量,确保 保建议的采纳 建议的采纳与 评估部门 确认建议与结论的一致性 实施 对建议的采纳 业务执行部门 保证对建议的跟踪 情况进行追踪 评估中获得的 业务部门 在项目设计及援助工作中参考并 经验 汲取之前评估中获得的经验教训
法国开发署评估政策
30
.……………………………………………………………………………………………………
附录 6 引用的经济与合作组织发展援助委员会的文件链接 .……………………………………………………………………………………………………
经济与合作发展组织发展援助委员会关于评估的主要术语表: http://www.oecd.org/development/peer-reviews/2754804.pdf 促进发展的合作评估:参考标准摘要,第二版: http://www.oecd.org/dac/evaluation/dcdndep/47832438.pdf 共同评估管理相关指导方针,发展援助委员会评估文集: http://www.oecd.org/development/evaluation/dcdndep/37681798.pdf 发展评估质量标准,董事会的参考著作和指导方针: http://www.oecd.org/dac/evaluation/dcdndep/44920384.pdf
法国开发署评估政策
31
2
AFDâ&#x20AC;&#x2122;s Evaluation Policy
Agence Française de Développement (AFD) 5, rue Roland Barthes - 75598 Paris cedex 12 France Tel.: + 33 1 53 44 31 31 www.afd.fr
AFD ‘s Evaluation Policy
40