业余时间，托尼·伊斯汀喜欢涉足股市。 去年的一天，他在谷歌上搜索了一家制药公司，这似乎是一项有前途的投资。 谷歌在其新闻选项卡上提供的首批搜索结果之一被列为来自 克莱顿县登记册，爱荷华州东北部的一份报纸。 他点击并阅读。 这个故事是乱码，缺乏有用的信息——网站上所有其他以金融为主题的帖子也是如此，与爱荷华州东北部完全无关。 “我立刻就知道出了什么问题，”他说。 互联网上有很多垃圾，但这让伊斯汀感到奇怪：为什么一家中西部的小报纸会大量发表有关零售投资的蹩脚博客文章？
伊斯汀准备好发现网上的神秘事物是不可抗拒的。 在美国空军从事心理战活动多年后，他加入了 Meta，在那里他调查了从虐待儿童到政治影响行动等各种肮脏行为。 现在他正处于工作间隙，并迎来了新的使命。 因此，伊斯汀联系了朋友桑迪普·亚伯拉罕（Sandeep Abraham），他是梅塔的前同事，曾在陆军情报部门和国家安全局工作，并建议他们开始挖掘。
两人的发现提供了生成式人工智能如何实现欺骗性新在线商业模式的快照。 充满人工智能生成的点击诱饵的网站网络正在由 利用知名媒体和品牌的声誉。 这些渠道通过迷惑和误导受众和广告商而繁荣起来，对曾经属于更有信誉的组织的 URL 进行“域名抢注”。 伊斯汀所提到的肮脏网站不再属于该报纸仍以其名义进行交易的名称。
尽管伊斯汀和亚伯拉罕怀疑该网络 登记的旧网站现在是为了直接赚钱的目标而创建的一部分，他们担心更多的恶意行为者可能会使用同样的策略将错误信息和宣传推入搜索结果中。 “这是巨大的威胁，”亚伯拉罕说。 “我们想敲响警钟。” 为此，两人 发布了一份报告 他们计划在深入研究人工智能标题诱饵的世界时发布更多内容，希望他们的业余时间努力能够帮助提高公众或立法者对这个问题的认识。
假新闻
这 克莱顿县登记册 成立于 1926 年，覆盖爱荷华州埃卡德小镇和更广阔的克莱顿县，这些县毗邻该州东北角的密西西比河。 “这是一篇很受欢迎的论文，”前联合编辑布莱斯·杜宾 (Bryce Durbin) 说道，他形容自己对现在在其前网址claytoncountyregister.com 上发表的内容感到“厌恶”。 （真实的 克莱顿县登记册 于 2020 年合并 北爱荷华时报 成为 时间登记，发表于 不同的网站。 目前还不清楚该报是如何失去对其网络域名的控制的。 这 时间登记 没有回复评论请求。）
正如伊斯汀在尝试研究他的制药股票时发现的那样，该网站仍然以克莱顿县登记册为品牌，但不再提供当地新闻，而是一个财经新闻内容工厂。 它发布了看似由人工智能生成的有关公用事业公司和 Web3 初创公司股票价格的文章，并通过显然也是由人工智能生成的图像进行说明。
Deepfake 检测初创公司 Reality Defender 的首席执行官 Ben Colman 表示：“我们查看的文章不仅是由人工智能生成的，而且每篇文章中包含的图像都是使用扩散模型创建的。”该公司应 WIRED 的要求对多篇文章进行了分析。 除了这一确认之外，亚伯拉罕和伊斯汀还注意到，一些文章包含承认其人造起源的文字。 “值得注意的是，这些信息是由 Automated Insights 自动生成的，”一些文章指出，并提到了一家提供语言生成技术的公司。
