首页 >> 资讯
谨防智库排名成娱乐选秀
2014年03月07日 07:45 来源:中国社会科学报 作者:许春燕 王继承 字号

内容摘要:

关键词:麦甘;排名;样本;全球智库;智库报告;研究;调查;分布;回收率;分类

作者简介:

  2012年夏我们曾撰文对美国宾夕法尼亚大学麦甘教授“全球思想库报告”排名机制、程序及其影响进行了介绍,2013年又撰文提醒“不要被麦甘全球智库排名报告误导”。2014年1月,麦甘教授第七次发布《全球智库报告》,我们看到,去年曾在北京当面与其交流的方法论硬伤(如调查样本回收率低、调查样本分布结构不透明、号称采用客观定量研究方法实际却采用主观印象调查方法等问题)不但没有克服,而且遭到世界银行研究人员质疑的智库概念界定模糊、研究方法与实际调查逻辑不一致、未尽职调查审核导致出现许多自相矛盾的低级错误等问题仍然存在。

  虽然存在诸多问题,国内仍然出现了一股追捧、跟风的现象。国内有机构复制、模仿麦甘《全球智库报告》的框架,推出了中国版的“智库排名报告”,同样不可避免地延续着麦甘全球智库报告的概念不清、分类含混、调查粗糙、报告不规范等问题,总体上呈现出一种研究浮躁的倾向。

  智库概念含混

  麦甘在2013年度《全球智库报告》中仍然将一些研究的捐助者(如世界银行海外发展研究所)、国际政治组织(如大赦国际)作为智库,没有摆脱其本身的智库定义边界模糊问题,甚至仍然出现将一个智库与其下属机构(如中国社会科学院和中国社会科学院世界经济与政治研究所)一起排名的滑稽现象。由于麦甘对智库的定义非常模糊,使得排名中掺杂了一些非智库机构。政府附属研究部门、营利咨询机构、非营利性智库、非政府组织、大学研究中心等各类机构都被认为是智库。更有甚者,直接将大学列为智库,如将中国国防大学(Chinese National Defense University)作为智库排列在“国防和国家安全领域的顶级智库”中。

  而国内跟风发布的中国智库报告“复制”了这一混乱状况。如在智库分类上划分出“高校智库”,将“北京大学”、“清华大学”等高等院校作为智库排名候选者,即在概念上将大专院校也视为智库。而据教育部网站公布,2012年我国普通高等院校总数为2442所,这与麦甘全球智库报告中关于中国智库只有426家的范畴明显相悖,也与其本身200多家调查样本相去甚远。

  分类不清,评价规则诡异

  麦甘2013年度《全球智库报告》划分出四类智库。第一和第二类是按照地理区域分类,如美国、非美国、世界各大洲等;第三类是按照研究领域分类,如科学技术、经济政策、国防安全类智库。这种分类尚可称为合理。但第四类智库,其分类原则较为诡异,如举办最佳会议的智库、涉及两家以上最佳机构合作的智库、拥有最佳关系网络的智库等,这种评价原则让参与打分者难以选择,没有哪个智库评价专家能有机会参与所有智库举办的会议,也没有哪个专家能深入了解到所要评价的所有智库的关系网络情况,更遑论涉及两家以上最佳机构合作的情况,因而这种分类所得到的“专家”评价结果不具可比性。而第四类的细分类别,如最佳新型智库、最值得关注的智库,因没有“新型”、“关注”的统一定义,更不具可比性。

  国内跟风推出的智库排名报告,其分类更是混乱。将“社科院智库”作为一个单独的大类来定义,只见“社科院”而不见“中科院”,显现出其对智库含义理解的视野太过狭窄。而用“党政军”来分类涵盖除院校、民间之外的智库,显然遗漏了人大、政协及司法领域的政策研究机构。

  评价方法与评价标准“两张皮”

  与2006年相比,麦甘2013年《全球智库报告》虽然在智库的提名和甄选流程上有了明显变化,但在评价方法上,仍然没有摆脱“扯大旗卖虎皮”的嫌疑。虽然麦甘在调查邮件中倡导以25个指标来排名打分,但由他自己及10个研究实习员构成的团队,显然无法获得全球智库所有25项指标数据,更不要指望近2000人的被调查对象能够全部理解并运用这25个指标来正确排名打分。虽然其倡导的评价标准是客观量化,但其实际采用的评价方法却是主观印象评分法,且其调查对象的回收率低,调查对象的国别、职业职位分布等信息均不透明。

  同样,国内机构追随麦甘所发布的智库排名报告,虽然列出了四大类多达16项的定量评价指标,但大部分指标采集过程过于主观。如智库决策(核心)影响力的指标“智库研究成果荣获领导批示次数和层次”等,需要相当扎实的基础工作和深厚的人脉关系。但其实际采用的却是问卷调查方法,以此获得被访者对智库的主观评价信息,并在此基础上统计主观印象分数,而不是对其提出的16项智库评价指标数据进行客观调查、收集统计的结果。因此,其公布的评价标准与实际采用的评价方法可说是相去甚远的“两张皮”。

  研究成果发布不规范

  国际上已有多位研究人员指责麦甘《全球智库报告》的研究成果缺乏规范。作为规范的调查研究报告,应公布其调查样本类别区域的设计分布、实际分布的统计信息(如地区、国家、性别、人员职业职位等),如此才能使读者判断一项调查研究抽样的代表性。作为采用专家小组提名的研究成果,应该报告专家小组(EP)的区域分布数据,例如亚洲有多少专家参与、他们的职业职位分布等,如此才能让读者了解这些专家小组成员对亚洲智库的认知熟悉程度。从麦甘历年《全球智库报告》公布的笼统数据推算出的反馈率来看,2012年通过邮件发放了13000份排名调查表,只回收了1950份,问卷回收率只有14.9%,可以认为未达到其调查对象的设计样本回收率,这会导致调查结果过高或过低的代表性问题,从而严重扭曲排名结果。而我们统计麦甘2013年度《全球智库报告》给出的零星数据表明,其第一轮调查发给了6826个机构和“成千上万”的记者、资金捐助者、决策者,但并没有报告具体发出的设计样本数量,也没有报告实际回收的数量。在第二轮调查中,既没有报告发出的设计样本数量,也没有公布样本的最终回收数量,最后仅给出了两个阶段共有超过1950个同行机构和专家参与提名和排名的评价数。即使假设其第二阶段与第一阶段最低数相等(均为6826份),计算得出的回收率也只有14.3%,低于2012年的回收率,说明麦甘《全球智库报告》走入第七个年头,其实际参与和回收率呈下降趋势。

  作为规范的社会科学研究成果报告,应该包括最基本的调查过程、样本设计分布和实际分布数据,仅仅简单地发布吸引公众眼球的排名结果,甚至可以说带有娱乐选秀的色彩,说明研究工作中存在急功近利的浮躁现象。

  同样,国内机构追随麦甘的做法,也没有报告智库提名者的群体分布数据及多轮问卷调查对象的设计样本数、实际回收率、区域分布、职业职位分布等数据信息。

  排名自相矛盾随处可见

  麦甘2013年度《全球智库报告》中,仍然存在“全球排名居前而地区排名居后”的自相矛盾现象,甚至出现加入美国智库一起排名就会出现前后颠倒名次的现象。仍以中国部分智库为例,其“全球顶级智库(非美国)”表中显示,“中国现代国际关系研究院(CICIR)”位列第28位,排在“中国国际问题研究所(CIIS)”第30位之前,而加入美国智库一起排名的“全球顶级智库(美国和非美国)”排名表中,CICIR位列第44,反而低于位列第36的CIIS。仅此一例可见,麦甘作为《全球智库报告》的负责人没有尽到最基本的审核职责。

  未尽职调查的例子俯拾皆是

  还是以中国智库为例,麦甘《全球智库报告》2013年将“九鼎公共事务研究所(Cathay Institute for Public Affairs)”排在“地区级顶级智库”中,但截至2014年3月,登录到其网站,其首页还仍然显示“……研讨会将于2013年7月29日下午……召开,欢迎参加”。仅此一例可见,网上信息如此少的智库能够连续几年被排在亚洲区域顶级智库的前列,反映麦甘项目组研究实习员未对每一个智库尽职核查。

  总结及建议

  麦甘《全球智库报告》项目具有吸引各国智库主动提交资料信息参与排名达到调查摸底的功能,成为美国收集世界各国智库数据、掌握政策影响渠道的一个情报搜集机制。国际上对麦甘全球智库排名多有批评,已经在酝酿发展替代性的排名报告,以降低麦甘报告对公众的误导。中国国内研究机构也在尝试做这样的工作,但要避免犯类似错误。

  评价智库的影响力,要深入理解中国智库与西方智库发挥影响力的实质区别,洞察中国智库现实中表现出的不同类别,设计符合中国国情的智库评价指标体系,并在公正独立的原则下,扎扎实实地以典型样本智库做研究对象来定量验证适合中国国情的智库评价指标,克服研究工作中急功近利的浮躁现象,规范地报告研究过程、样本数据等,以避免将智库排名研究变成一种娱乐选秀活动。

  (作者单位:中国人民大学劳动人事学院;国务院发展研究中心企业研究所)

分享到: 0 转载请注明来源:中国社会科学网 (责编:何容)
W020180116412817190956.jpg
用户昵称:  (您填写的昵称将出现在评论列表中)  匿名
 验证码 
所有评论仅代表网友意见
最新发表的评论0条,总共0 查看全部评论

回到频道首页
QQ图片20180105134100.jpg
jrtt.jpg
wxgzh.jpg
777.jpg
内文页广告3(手机版).jpg
中国社会科学院概况|中国社会科学杂志社简介|关于我们|法律顾问|广告服务|网站声明|联系我们