“值得称赞”和“一丝不苟”等词的过多暗示了 ChatGPT 在数千项科学研究中的使用 | 技术

图书管理员 安德鲁·格雷 有了一个“非常令人惊讶”的发现。 他分析了去年发表的 500 万份科学研究，并发现 突然高 在他们的英文版本中，某些词语的使用存在差异，例如细致地（上升137％）、复杂（117％）、值得赞扬（83％）和细致（59％）。 伦敦大学学院的格雷只能找到一种解释：数以万计的研究人员正在使用 ChatGPT – 或其他类似的人工智能语言生成程序 – 来撰写他们的研究或至少“润色”它们。

有明显的例子。 中国科学家团队2月17日发表 一项研究 关于锂电池。 这项工作发表在爱思唯尔出版社的一本专业杂志上，开头是这样的：“当然，这里有一个可能的主题介绍：锂电池是……的有前途的候选者”。 作者显然要求 ChatGPT 提供介绍并按原样复制。 其他 文章 以色列研究人员于 3 月 8 日签署的另一本爱思唯尔期刊中包含这样的文字：“总而言之，双侧医源性损伤的管理我很抱歉，但我无法获得实时信息或患者特定数据，因为我是一个人工智能语言模型。” 几个月前，三名中国科学家发表了一幅疯狂的图画，画的是一只长着巨大阴茎的老鼠，这是一张由人工智能生成的图像 一项研究 关于精子前体细胞。

Andrew Gray 估计，至少 60,000 项科学研究（超过 2023 年分析的科学研究的 1%）是在 ChatGPT（2022 年底推出的工具）或类似工具的帮助下撰写的。 “我认为用 ChatGPT 撰写完整研究的极端案例很少见，”41 岁的苏格兰图书馆员 Gray 说。 在他看来，大多数情况下，人工智能被适当地用来“润色”文本——识别错别字或方便翻译成英文——但存在很大的灰度，其中一些科学家进一步利用ChatGPT的帮助，而没有验证结果。 “现在不可能知道这个灰色地带有多大，因为科学期刊不要求作者声明使用 ChatGPT，透明度非常低，”他感叹道。

正如该团队所表明的那样，人工智能语言模型不成比例地使用某些单词。 詹姆斯·邹，来自斯坦福大学（美国）。 这些术语往往具有积极的含义，例如值得称赞、细致、复杂、创新和多才多艺。 邹和他的同事在三月份警告说，科学研究的审稿人本身正在使用这些程序在作品出版之前撰写评估。 斯坦福大学研究小组分析了两次国际人工智能会议上发表的研究评论，发现“细致”一词出现的概率有所下降。 乘以 35。

另一方面，邹教授的团队在《自然》杂志的权威期刊上所做的更正中并没有检测到ChatGPT的明显痕迹。 ChatGPT 的使用与较差的评论质量相关。 “我觉得这真的很令人担忧，”格雷解释道。 “如果我们知道使用这些工具撰写评论会产生较低质量的结果，那么我们必须反思它们如何用于撰写研究以及这意味着什么，”伦敦大学学院的图书馆员说。 ChatGPT 推出一年后， 三分之一的科学家 根据该杂志的一项调查，他承认他用它来撰写研究报告 自然。

Gray的分析显示，2023年，“复杂”一词出现在109,000项研究中，是前几年平均50,000项研究的两倍多。 这个词精心地将工作岗位从 2022 年的约 12,300 个增加到 2023 年的 28,000 多个。值得称赞的是，从 6,500 个增加到近 12,000 个。 研究人员开玩笑说，他的同事们祝贺他报告的全面性，但 橡皮擦 待在专业杂志上发表。

很少有研究报告在其制备过程中使用人工智能。 Gray警告说，这可能会产生“一个恶性循环”，即ChatGPT的后续版本会用旧版本撰写的科学文章进行训练，从而引发越来越值得称赞的、复杂的、细致的、最重要的是，非实质性的研究。 。

文档老师 安赫尔·玛丽亚·德尔加多·巴斯克斯 强调了新分析的盎格鲁-撒克逊观点。 “母语不是英语的研究人员经常使用 ChatGPT，作为写作和提高英语语言的辅助工具，”塞维利亚巴勃罗·德·奥拉维德大学的研究人员说道。 “在我的环境中，人们使用 ChatGPT 主要是为了第一次翻译，甚至直接保留该翻译，”他指出。 这位西班牙教授错过了对使用不寻常术语的作者的起源的分析。

英语中人工智能最喜欢的另一个词是 钻研 （调查或深入研究）。 调查员 杰里米·阮斯威本科技大学（澳大利亚）计算得出 钻研 已经出现 超过0.5% 医学研究显示，在 ChatGPT 之前，这一比例还没有达到 0.04%。 是 数以千计的作者 突然调查或深入研究。 如果你问西班牙语版本的 ChatGPT 3.5 它比平时更频繁地使用哪些词，它会用“复杂”、“详细”、“值得赞扬”和“小心”等示例进行回答。

图书馆员安德鲁·格雷警告说，人类有可能被这种精心设计的新语言感染。 阮本人 已经被认可了 4月8日，社交网络X上的ChatGPT官方账号 进入抹布：“我喜欢深入，我该怎么办？”

您可以关注 材料 在 Facebook, X e Instagram点击此处接收 我们的每周通讯。