您现在的位置是: 首页科研科学研究
    
李彦文:学术论文发表面临新伦理挑战
发布时间:2022-10-17 09:38  作者: 李彦文        来源: 《社会科学报》2022年10月13日 阅读量:

如今,大多数顶级学术期刊都采用同行评审制度,但这种制度会不会被学术地位、认知偏见等因素扭曲,逐步形成一种“马太效应”?当深度学习算法可以独立撰写学术论文时,该如何判断学者的独立性和工作量?人工智能是合作伙伴,还是工具?2022年9月,英国《经济学家》和美国《科学美国人》杂志刊发相关文章,探讨了学术论文发表面临的新伦理挑战。



《经济学家》:同行评审易受认知偏见扭曲

1905年,当时还籍籍无名的专利局小职员阿尔伯特·爱因斯坦向德国的《物理年鉴》(Annalen der Physik)投稿,论文涉及狭义相对论、光电效应、布朗运动和其他革命性议题,杂志的编辑们很高兴地发表了这些论文。那时的投稿很少,因此很少被拒绝,除非稿件明显是在胡言乱语。现在情况不同了,大多数顶级学术期刊都采用一种叫同行评审的制度,独立专家作为审稿人检查论文的方法、分析和结论,最重要的是检查论文是否达到了发表的标准。

但科学家们认为,同行评审并不是完美的。突破性的论文往往在审稿人认为有缺陷后被拒,这样的例子比比皆是。而在社交媒体上,几乎每周都有人围绕拙劣的论文进行热议,询问它到底是如何通过同行评审的。许多研究人员借用温斯顿·丘吉尔对民主的讽刺来描述审查过程:这套制度很糟糕,尽管我们以往试过其他的更差劲。恰如所料,一项关于同行评审过程的新研究揭示了该制度的缺陷。爱因斯坦或任何有好想法但还没有名气的研究人员,如果生活在现在,可能很难迈过这道坎。这项研究最近在社会科学研究网(SSRN)知识库上作为工作论文发布,研究表明,地位偏见意味着论文上的署名可能和研究结果同样重要。

长期以来,研究人员一直心存疑虑,认为资深人士的研究成果往往更容易在同行评审中获得通过,更有可能被接受并发表。这就是所谓的累积优势造成的“马太效应”的例证,声名显赫的人所获非所劳,得到了不相称的利益。在这项新研究中,奥地利因斯布鲁克大学的研究人员与加州查普曼大学的实验经济学家、诺贝尔经济学奖得主弗农·史密斯(Vernon Smith)进行了合作。史密斯博士刚刚与查普曼大学的博士生萨比乌·伊努阿(Sabiou Inoua)完成了一个项目,两人写了一篇关于金融和市场数据的论文,准备提交给一份学术期刊。

来自因斯布鲁克的研究小组用了一个转移视线的办法,论文作者只写史密斯博士或只写伊努阿的名字,发送给同行审稿人,看他们如何判断论文的质量。两人向《行为与实验金融杂志》(Journal of Behavioral and Experimental Finance)提交了他们的手稿,表明了研究目的。编辑们首先询问了3300多名在库的审稿人,是否愿意花时间评估手稿。编辑部通过电子邮件发给评审专家一份论文的简短摘要,列出了两作者其中一位的名字,或者完全省略了作者名字。在这种情况下,约有40%的人愿意为署名为史密斯博士的论文进行评审,而当作者是伊努阿先生或未被列出时,这一比例不到30%。

那些同意的评审专家会收到一份完整的手稿,与之前收到摘要的署名情况一致。最终500多名审稿人提交了评审报告。署名史密斯博士的论文,评审人否决率是23%,只署名伊努阿的论文,否决率是65%,几乎是前者的三倍,甚至明显高于48%的匿名论文被拒率。这表明,史密斯博士的声望提高了他的支持率,伊努阿先生的新手地位对他不利。地位偏见的有害影响是否会渗透到这一特定期刊和特定领域之外?来自因斯布鲁克研究团队的尤尔根·胡贝尔(Jüergen Huber)对此表示肯定。他说,从化学、物理到医学、遗传学,每一门学科都有自己的超级明星,而一些结果表明,像哈佛大学这样的顶尖学府在同行评审中也被高看一眼。

消除这种偏见的一个办法是从手稿中删除所有的名字。但是胡贝尔博士指出,随着预印本和在正式提交给期刊之前在网上发表的工作论文的兴起,这变得越来越困难。审稿人可以在网上搜索到任何匿名手稿的蛛丝马迹。[原文标题为《学术出版:同行的压力》(Academic publishing: Peer pressure)]

《科学美国人》:当人工智能可以独立撰写论文

今年早些时候,在由硅谷巨头联合建立的人工智能非营利组织OpenAI账户中,我向人工智能算法GPT-3输入了一条简单的指令:写一篇500字的关于GPT-3的学术论文,并在文中添加科学参考文献和引文。GPT-3是一种深度学习算法,它分析了大量来自书籍、维基百科、社交媒体对话和科学出版物的文本流,并根据指令进行编写。当它开始生成文本时,我肃然起敬。这是用学术语言撰写的新颖内容,在正确的地方和正确的上下文中列出了引用和参考文献。鉴于我所提供的指示非常模糊,我起初的期望并不高。但这篇论文看起来就像任何一项相当不错的科研成果的导言。

作为一名科学家,这不是我第一次用GPT-3做实验。即便如此,我完成那篇论文并将其提交给期刊做同行评审,还是会引发关于出版的前所未有的伦理和法律问题,以及关于非人类作者身份的哲学争论。学术出版可能不得不适应人工智能驱动的文稿的未来,如果一些无知觉的东西能宣称有些成果归功于自己,那么人类学者研究成果的价值可能会改变。

GPT-3以其创建类人文本的能力而闻名。它写过一篇有趣的评论文章,出版了一本诗集,并延续一位18世纪作家的文风创作出了新内容。但尽管有很多关于GPT-3的学术论文,在GPT-3的帮助下,我没有找到一篇是以GPT-3为主要作者的。通常情况下,涉及GPT-3的工作,允许算法产生多个回应,研究人员只摘取最好的、最接近人类模式的成果进行发表。

根据我的提示,GPT-3在两个小时内就完成了一篇论文。但当我打开所选择的同行评审期刊的提交门户时,我遇到了第一个问题:GPT-3的姓是什么?我必须写点什么,我就写了“无”。所属关系很显然属于OpenAI公司,但电话和电子邮件呢?我不得不使用我和我导师的联系方式。然后来到了法律部分:所有作者都同意出版这篇论文吗?我鼓起勇气直接提示问GPT-3:您愿意作为第一作者一起在论文中署名吗?它回答“是”。第二个问题出现了:这些作者中有没有人有利益冲突?我再次询问GPT-3,它向我保证它没有。讽刺的是,在这一点上我们不得不把GPT-3当作一个有感情的存在。

在最终完成提交过程后,我开始反思刚刚所做的事情。如果手稿被接受了呢?这是否意味着从现在开始,期刊编辑将要求每个人证明他们没有使用GPT-3或其他算法的帮助?如果使用了算法帮助,研究人员必须给人工智能署名为共同作者?如何要求非人类作者接受评审建议并修改文本?除了作者身份的细节,这样一篇文章的存在将传统的构建科学论文的程序抛到了脑后。我们无法知道我所选择的呈现这篇论文的方式是否会成为GPT-3合著研究的一个模型,或者它是否会成为一个警世故事。只有时间和同行评审才能告诉我们答案。

目前,GPT-3写的这篇论文已在法国的国际预印本服务器HAL上发表,正在等待学术期刊的审阅。我急切地等待着这篇论文的正式发表,迫切想知道如果它真发表了,将对学术界意味着什么。也许我们应该放弃以发表论文数量为基础的拨款和资助保障。毕竟,在人工智能第一作者的帮助下,我们可以每天产出一篇论文。也许,这一切并不会有什么结果。第一作者身份仍然是学术界最令人垂涎的东西之一,而且它不太可能因为一个非人类的第一作者而消失。这一切,都归结于我们未来如何看待人工智能:作为合作伙伴,还是作为工具。

现在回答这个问题似乎很简单,但过不了几年,谁知道这项技术会给人带来什么样的困境呢?我们只知道,我们打开了一扇门。希望我们没有打开潘多拉的盒子。[原文标题为《人工智能书写自己》(AI Writes about Itself)]

(作者系山东社会科学院马克思主义研究院副研究员)

编审: 凌琪      责任编辑: 李凤珂     
上一篇:
下一篇: