如何理解研究论文评价

第一方面，即总的原则是：基于指标的量化评估是第二位的，是辅助性的，而同行评价的质性评估是第一位，是主导性的。量化指标可以降低同行评价中的偏见，促进更加深入的审议，提高同行评价的质量，但量化指标不应取代评估者基于充分信息基础上的判断。评估者仍然需要对其评估负责，而不是完全让“数据说话”了事（第一条原则）。所以，“莱顿宣言”并不提倡科研评价要用量化指标，更不提倡把量化指标作为主导甚至是唯一指标。“莱顿宣言”只是说在用到起辅助作用的量化指标时需要注意的一些原则。第二方面，在总的原则指导下，运用科研评价指标做具体评价工作时的下位原则，即要充分考虑科研活动本身是创造性的、个性化的、独特性的等特点，所以需要在评价过程中特别注意科研活动的使命的差异（第二条原则）、地域性的差异（第三条原则）、学科性的差异（第六条原则）、个体性的差异（第七条原则）。这些差异容易被量化指标遮蔽，所以需要在评价中采用综合计量或者质性评估办法。第三方面，关于科研评价指标的具体数据采集和分析的要求，要公开透明（第四条原则）、可以复核验证（第五条原则）。第四方面，对科研评价指标的态度，要理解实质内涵（第八条原则）、警惕负面影响（第九条原则）、不断改进完善（第十条原则）。“莱顿宣言”每一条都内涵丰富，指向明确。与之对比，可以发现，我国科学评价工作还大有改进空间。“旧金山宣言”纠偏“以刊评文”“旧金山宣言”（The San Francisco Declaration on Research Assessment，DORA）的提出源于2012年12月美国细胞生物学学会年会期间，一些学术期刊的编辑和出版者提出关于科研评价的建议，在此基础上形成了“旧金山宣言”，2013年5月，78个科学组织的155位科学家签署了这份宣言。“旧金山宣言”引发了世界科学界的广泛关注，《科学》杂志撰写社论支持“旧金山宣言”，认为影响因子最重要的危害是可能妨碍创新，它引导科学家关注发高影响因子的文章，追逐所谓的“热点”，而不是潜心科研创新。

【争鸣与探讨】全国第四轮学科评估方案中的科研评价部分，特别是“A类期刊”的增列与取消，一时成为热议话题。事实上，科研评价是世界性难题，最近几年，国际学术界提出了科研评价方面的两个“宣言”——“莱顿宣言”和“旧金山宣言”。放在世界的范围内，如何看待这次学科评估中某些新鲜尝试呢？有哪些可取之处和不足之处？“A类期刊”的取消不意味着相应的探索和思考也被取消。“莱顿宣言”纠偏“量化至上”“莱顿宣言”（The Leiden Manifesto for research metrics）的提出源于2014年在荷兰莱顿召开的一次国际会议，美国佐治亚理工学院的公共政策教授Diana Hicks等提出了合理利用科学评价指标的七条原则，后来扩充为十条，并于2015年4月发表在《自然》杂志上。“莱顿宣言”的十条原则，简言之，第一，量化评估应当支撑质化的专家评估，而不是取而代之；第二，衡量绩效应基于机构、团队和个人的科研使命；第三，保护卓越的本地化的相关研究；第四，保持数据采集和分析过程的公开、透明和简单；第五，允许被评估者验证数据和分析；第六，考虑发表和引用的学科差异；第七，对个人研究的评价应基于其综合作品的质性评价；第八，应避免评估指标的不当的具体性和虚假的精确性；第九，识别认清评价指标对科研系统的影响；第十，定期审查评价指标并加以改进。按笔者的理解，这十大原则可以归为四个方面。第一方面，即总的原则是：基于指标的量化评估是第二位的，是辅助性的，而同行评价的质性评估是第一位，是主导性的。量化指标可以降低同行评价中的偏见，促进更加深入的审议，提高同行评价的质量，但量化指标不应取代评估者基于充分信息基础上的判断。评估者仍然需要对其评估负责，而不是完全让“数据说话”了事（第一条原则）。所以，“莱顿宣言”并不提倡科研评价要用量化指标，更不提倡把量化指标作为主导甚至是唯一指标。“莱顿宣言”只是说在用到起辅助作用的量化指标时需要注意的一些原则。第二方面，在总的原则指导下，运用科研评价指标做具体评价工作时的下位原则，即要充分考虑科研活动本身是创造性的、个性化的、独特性的等特点，所以需要在评价过程中特别注意科研活动的使命的差异（第二条原则）、地域性的差异（第三条原则）、学科性的差异（第六条原则）、个体性的差异（第七条原则）。这些差异容易被量化指标遮蔽，所以需要在评价中采用综合计量或者质性评估办法。第三方面，关于科研评价指标的具体数据采集和分析的要求，要公开透明（第四条原则）、可以复核验证（第五条原则）。第四方面，对科研评价指标的态度，要理解实质内涵（第八条原则）、警惕负面影响（第九条原则）、不断改进完善（第十条原则）。“莱顿宣言”每一条都内涵丰富，指向明确。与之对比，可以发现，我国科学评价工作还大有改进空间。“旧金山宣言”纠偏“以刊评文”“旧金山宣言”（The San Francisco Declaration on Research Assessment，DORA）的提出源于2012年12月美国细胞生物学学会年会期间，一些学术期刊的编辑和出版者提出关于科研评价的建议，在此基础上形成了“旧金山宣言”，2013年5月，78个科学组织的155位科学家签署了这份宣言。“旧金山宣言”引发了世界科学界的广泛关注，《科学》杂志撰写社论支持“旧金山宣言”，认为影响因子最重要的危害是可能妨碍创新，它引导科学家关注发高影响因子的文章，追逐所谓的“热点”，而不是潜心科研创新。“旧金山宣言”并不像“莱顿宣言”那样包含相当宽泛的内容，它只是针对期刊的计量指标（主要是期刊影响因子）而提出的，呼吁科学界停止使用期刊影响因子来评价科学家及其工作。内容包括总体建议以及对资助机构、研究机构、出版机构、计量指标提供机构以及科研人员的建议，共计18条。总体建议是：“停止使用期刊影响因子等期刊计量指标作为替代指标，来评价单个研究论文或学者个体的贡献，或者是作为聘用、晋升、资助等方面的依据。”其他区分对象的建议都是围绕着总建议展开的。期刊影响因子是20世纪50年代由汤姆森路透公司开发出来的，其最初提出的目的是为帮助图书馆评估和挑选决定订购哪种期刊，但是现在影响因子已经被广泛应用于评价个人和研究机构的水平和贡献。期刊影响因子的含义是某期刊前两年发表的论文在统计当年的被引用总次数除以该期刊在前两年内发表的论文总数。可见它只是期刊的评价指标，并非科研工作本身的评价指标，影响因子不具有对学术质量精确评价的功能，所以不能单凭影响因子就断言论文优劣。“旧金山宣言”倡导的就是评估科研工作要回归到科研工作本身的价值中去，而不是基于刊载的期刊。“A类期刊”弊大于利回到开篇的话题。客观地讲，这次学科评估方案在完善科研评价方面积极探索，其价值取向和工作方向与“莱顿宣言”所倡导的内容是比较契合的。比如在评估方案和相关说明中，提出“学术论文质量”采用“三结合”评价组合。一是坚持质量与数量相结合，采用代表性论文，在“比总量”与“比人均”之间找到平衡点；二是坚持主观与客观相结合，通过量化指标统计进行客观评价外，还通过“代表性论文”进行专家主观评价；三是坚持国内与国外相结合，要求包含一定比例的中文期刊，强化中国论文评价话语权。这背后的指导思想都是“莱顿宣言”提倡的摒弃“唯量化指标论”，采用更加综合的评价方式。“莱顿宣言”的第三条原则特别提到，要保护卓越的本地化的研究。研究的卓越不等同于在国际期刊上发表英文论文。一些偏重于本国或者区域性的课题的研究，往往并不被知名的英文期刊所青睐。“只有基于高质量的本地语言期刊的指标才能正确评价和推动卓越的本地化的研究。”这高度契合了这次评估中强化国内研究论文地位的思想。但“A类期刊”的取消仍有许多值得反思和总结的地方。无论如何，“A类期刊”的设定其本质依然是“以刊评文”，这是“旧金山宣言”所明确反对的。“以刊定质”，而不是用学术质量本身来评价科学研究，已经日益遭到越来越多人的反思、质疑、批评和抵制，这个时候又祭出这杆大旗，似有逆向而动之嫌。真正需要下功夫的是如何在同行评价和代表作评价方面拿出切实可行的操作办法，而不是继续在“看刊物、数数量”的道路上越走越远，那样只能带来更多的浮躁。更为重要的是，教育行政部门在主导此事，其“指挥棒的力量”不会随评估结束而结束，而会长久发挥作用。量化指标的推出在世界范围内几乎都是“民间”行为，鲜见教育行政部门直接推动设立。无论是从“管办评分离”“放管服”的角度，还是从落实创新发展理念、推进“两个一流建设”的角度，推出“A类期刊”都是弊大于利。