为什么 Facebook 上充斥着用鸡蛋、意大利面或花椰菜做成的耶稣基督？ 技术

“没有人喜欢我的艺术作品”、“这是我亲手制作的！”、“2024 年 5 月是你最好的一年”，这些文字都伴随着 Facebook 上的情报生成的数千张奇异的耶稣基督图像。 人造的。 该网络的算法会推广它们，其中一些会像病毒一样传播，并设法吸引大量页面受众，然后利用它们的成功来获利甚至欺骗用户。

“这些图像令人着迷：有些很漂亮，有些很耸人听闻，有些则很奇怪，”斯坦福大学研究员、三月份一篇相关论文的合著者蕾妮·迪雷斯塔 (Renée DiResta) 说。 题为“如何 垃圾邮件发送者 诈骗者在 Facebook 上使用人工智能生成的图像来增加受众。” 成千上万的用户与这些图像进行交互，其中许多用户只是简单地说“阿门”，这可能意味着他们是机器人。

多年来，Facebook 已成为一个共享内容的网络，其基本目标是增加受众。 耶稣基督是另一种易于创建并吸引注意力的资源：“页面创建者之间争夺注意力意味着他们将使用任何似乎有效的策略，其中现在包括发布他们似乎正在推广的推荐系统的人工智能生成的内容， ”迪雷斯塔继续说道。

作者添加的文本有助于促进这种病毒式传播。 在一些图片中，一个黑人孩子站在意大利面条制成的耶稣基督旁边，上面写着：“感谢所有欣赏我的艺术的人。” 这些图像均表明它们是人工制作的。

这篇学术文章研究了 120 个 Facebook 页面，每个页面至少发布了 50 张人工智能生成的图像。 成功的证明是这些页面平均拥有近 130,000 名关注者。 在查看这些照片后不久，Facebook 的算法提供了更多示例和新变体。 《国家报》看到的内容来自拉丁美洲用户的页面，他们将这些宗教图像与人工智能制作的表情包、动物和静物结合起来，覆盖了“早上好”或有趣的视频。 其中一位是墨西哥的海地居民，他简短地回应本报，他确实制作了这些图像，人们真的很喜欢它们，并且他承认可以通过它们获得一些东西：“是的，”他回答说，但他没有想解释一下如何。 。 该用户拥有超过 7,000 名关注者。

除了 Facebook 内部的作弊之外，潜在的争论是：如果人们将这些荒谬的图像与真实的艺术混淆，那么当人工智能生成的东西真正真实时会发生什么？ 没有确定性，但也不是每个人都感到困惑。 在其中一张照片下，一位用户说道：“这是多么美妙的雕塑啊，这是上帝祝福的双手，我的爱人，你是个天才，上帝今天保佑你明天，哥伦比亚永远祝贺你。” 另一个人回应道：“哦，女士，你怎么能相信这些事情，你是多么容易被欺骗，你难道没有意识到这是一个假象吗？ “你不必相信网络上发布的一切。”

这位容易上当受骗的女士收到了另一封回复，说明了其中一种骗局。 如果有人相信这些假图像是真实的，他们可能更天真，更容易被骗：“我是法国人，距离我丈夫成熟已经有13年多了。” [sic] 在一场车祸中。 死后，我继承了丈夫的财产。 考虑到我的高龄和健康状况，我决定在经济上帮助那些希望获得经济援助以满足其需要的人，因为我没有孩子可以从我的遗产中受益，而且我不希望政府在我死后冻结我的财产。 因此，如果您对经济活动感兴趣，请给我发消息”，并添加了一个真实 WhatsApp 号码的链接。

“诈骗帐户偶尔会在页面上和群组中与容易上当的评论者互动，有时会要求提供有关他们的个人信息或提出销售不存在的产品，”文章解释道。 一旦在群组或页面中创建了受众，尝试获取利益的方式就会有所不同：“如果出现以下情况，我们会将页面标记为‘骗局’：其一，他们通过窃取、购买或更改页面的控制权来欺骗关注者； 二、虚假陈述姓名、地址或其他识别特征； 和/或，三，他们销售假冒产品，”学术文章详细介绍了这一点。

一些使用这些策略的页面经常更改名称，并让他们的追随者去做其他事情或推销受众。 垃圾邮件页面利用注意力将用户引导至 Facebook 之外充满广告的页面。

耶稣基督只是主要主张之一。 2023 年第三季度，全球 Facebook 上浏览量最高的 20 张图片之一就是这间配有玻璃地板的厨房。 根据该平台关于浏览次数最多的内容的季度报告，该网站的浏览量为 4000 万次，互动次数为 190 万次。 一些尝试这种陷阱的页面也尝试了动物、儿童、小屋或风景，以及任何可能在 Facebook 上引起注意的东西：“就像毕加索有他的蓝色时期一样，这些页面经常会经历时期，几十个雪雕; 几十个西瓜雕刻； 几十件木雕； 几十个精心布置的寿司盘，每个盘的风格都非常相似，”文章称。

“我们怀疑这些高水平的参与度部分是由 Facebook 的推荐算法驱动的，”迪雷斯塔和他的合著者、乔治敦大学的乔什·A·戈尔茨坦 (Josh A. Goldstein) 在论文中表示。 两年前，根据 Meta 泄露的一份文件，该社交网络改变了算法，使其更像 TikTok。 该文件称，其目标是“帮助人们找到并享受有趣的内容，无论它是否是由与你有联系的人制作的。” 作者展示了这种“为您推荐”的内容如何从 2021 年的 8% 上升到 2023 年的 24%（占观看次数的百分比）。

尽管所有这些病毒图像的中心是 Facebook，但 Instagram 也有：“人工智能生成的图像在 Instagram 上也很受欢迎，”迪雷斯塔说。 “它们在 Twitter 上无处不在，但 Facebook 和 Instagram 的设计让人们创建特定类型的视觉内容并随着时间的推移建立受众。”

二月份，Meta 宣布将对人工智能生成的内容进行标记 Facebook、Instagram 和 Threads 上都有。 目前，在任何这些情况下都不会发生这种情况。 为了评估潜在危险，这个细节很重要。 尽管在某些情况下很容易检测到人工智能生成的图像，但情况并非总是如此：“即使在存在明显迹象的情况下，识别它们仍然需要大量的认知努力，并且期望普通 Facebook 用户只是浏览。” 看看你的年表。

您可以关注 EL PAÍS 技术 在 Facebook y X 或在这里注册以接收我们的 时事通讯。