检测 ChatGPT 等工具何时生成文本是一项艰巨的任务。 流行的人工智能检测工具，如 GPTZero，可以为用户提供一些指导，告诉他们某些内容是由机器人而不是人类编写的，但即使是专门的软件也不是万无一失的，可能会发出误报。
作为一名一年多前开始报道人工智能检测的记者，我想整理《连线》杂志上有关该主题的一些最佳文章，以帮助像您这样的读者更好地理解这个复杂的问题。
对于发现 ChatGPT 和其他聊天机器人工具的输出还有更多疑问吗？ 订阅我的 AI Unlocked 时事通讯，如果您有任何与 AI 相关的问题想要解答或希望《连线》探索更多内容，请直接与我联系。
2023 年 2 月，作者：里斯·罗杰斯
这篇文章是在 ChatGPT 推出大约两个月后写的，我开始探讨人工智能文本检测的复杂性，以及人工智能革命对在线出版作家可能意味着什么。 创始人田德华 GPT零，与我谈论了他的人工智能检测器如何关注文本方差和随机性等因素。
在阅读时，请重点关注有关文本水印的部分：“水印可能能够指定某些单词模式对于人工智能文本生成器来说是禁止的。” 虽然这是一个很有前途的想法，但与我交谈的研究人员已经对其潜在功效表示怀疑。
2023 年 9 月 作者：Christopher Beam
这篇文章是《连线》去年 10 月号的一篇精彩文章，让您深入了解 Edward Tian 在努力扩大 GPTZero 的覆盖范围和检测能力时的心态。 关注人工智能如何影响学业至关重要。
人工智能文本检测是许多课堂教育工作者在对论文进行评分时最关心的问题，并且由于学生秘密使用聊天机器人来完成作业，他们可能会完全放弃论文作业。 虽然一些学生可能会使用生成式人工智能作为头脑风暴工具，但其他学生则使用它来制作整个作业。
2023 年 9 月，凯特·尼布斯 (Kate Knibbs)
公司是否有责任标记人工智能可能生成的产品？ 凯特·尼布斯 (Kate Knibbs) 调查了可能侵犯版权的人工智能生成的书籍如何在亚马逊上上市销售，尽管一些初创公司认为这些产品可以通过特殊软件发现并删除。 关于人工智能检测的核心争论之一在于，误报的可能性（人工编写的文本被意外标记为人工智能的作品）是否超过了标记算法生成的内容的好处。
2023 年 8 月，阿曼达·胡佛
除了家庭作业之外，人工智能生成的文本越来越多地出现在学术期刊中，而在学术期刊中，如果没有适当的披露，这些文本往往会被禁止。 阿曼达·胡佛（Amanda Hoover）写道：“人工智能撰写的论文还可能通过稀释科学文献库来吸引人们对优秀作品的关注。” 解决这个问题的一个潜在策略是开发人员构建专门的检测工具，在同行评审的论文中搜索人工智能内容。
2023 年 10 月 作者：凯特·尼布斯
去年二月，当我第一次与研究人员谈论人工智能文本检测的水印时，他们对用特定语言模式印记人工智能文本的潜力充满希望，但也持谨慎态度，这些语言模式人类读者无法检测到，但对检测软件来说却是显而易见的。 回想起来，他们的担忧似乎是有道理的。
仅仅半年后，凯特·尼布斯 (Kate Knibbs) 与多个消息来源进行了交谈，他们正在破解人工智能水印，并展示了它们作为检测策略的潜在弱点。 虽然不能保证失败，但给人工智能文本加水印仍然很难实现。
2024 年 4 月，阿曼达·胡佛
教师尝试使用的一种工具来检测人工智能生成的课堂作业是 特尼丁，一款添加了人工智能识别功能的抄袭检测软件。 （Turnitin 归 Advance 公司所有，Advance 是出版《连线》杂志的康泰纳仕集团的母公司。）阿曼达·胡佛 (Amanda Hoover) 写道：“Chechitelli 表示，该服务的大多数客户都选择购买人工智能检测。 但误报的风险和对英语学习者的偏见导致一些大学暂时放弃了这些工具。”
人工智能检测器更有可能错误地标记来自以下内容的书面内容 母语不是英语的人 作为人工智能而不是来自母语人士的。 随着开发人员继续致力于改进人工智能检测算法，错误结果的问题仍然是需要克服的核心障碍。
