OpenAI：俄罗斯、中国、以色列利用其进行影响力宣传

哦该公司周四表示，penAI 已识别并删除了五个位于俄罗斯、中国、伊朗和以色列的秘密影响行动，这些行动正在利用其人工智能工具操纵舆论。

在一个 新报告OpenAI 详细介绍了这些团体（其中一些与已知的宣传活动有关）如何使用该公司的工具进行各种“欺骗性活动”。这些活动包括以多种语言生成社交媒体评论、文章和图片、为虚假账户创建名称和传记、调试代码以及​​翻译和校对文本。这些网络专注于 一系列问题，包括为加沙战争和俄罗斯入侵乌克兰辩护、批评中国异见人士、评论 印度、欧洲和美国的政治试图影响公众舆论。虽然这些影响行动针对的是广泛的在线平台，包括 X（以前称为 Twitter）、Telegram、Facebook、Medium、Blogspot 和其他网站， “OpenAI 分析师表示，“没有一个能够吸引大量观众。”

这是该公司发布的首份此类报告，发布之际，全球正担心人工智能工具可能对今年全球 64 场选举产生影响，包括 11 月的美国总统大选。报告中引用了一个例子，Telegram 上的一个俄罗斯群组发帖称：“我厌倦了这些脑残的傻瓜在美国人受苦的时候玩游戏。华盛顿需要理清优先事项，否则他们将感受到德克萨斯州的全面压力！”

OpenAI 分析师列举的例子表明，外国行为者似乎在很大程度上正在使用人工智能工具进行他们十年来一直在进行的同类型的在线影响行动。他们专注于使用虚假账户、评论和文章来塑造舆论和操纵政治结果。“这些趋势揭示了一种以进化而非革命为标志的威胁形势，”OpenAI 情报和调查团队首席研究员 Ben Nimmo 在报告中写道。“威胁行为者正在使用我们的平台来改进他们的内容并更有效地工作。”

阅读更多： 黑客可能利用 ChatGPT 攻击 2024 年大选

开发 ChatGPT 的 OpenAI 表示，目前每周活跃用户超过 1 亿。其工具让大量内容的生成变得更容易、更快捷，还可以用来掩盖语言错误和产生虚假参与。

OpenAI 查封的俄罗斯影响力活动之一，被该公司称为“Bad Grammar”，利用其人工智能模型调试代码，运行 Telegram 机器人，该机器人用英语和俄语发表简短的政治评论。该公司表示，该行动针对乌克兰、摩尔多瓦、美国和波罗的海国家。另一项被称为“Doppelganger”的俄罗斯行动，美国财政部已将其与克里姆林宫联系起来，它使用 OpenAI 的模型生成标题并将新闻文章转换为 Facebook 帖子，并创建英语、法语、德语、意大利语和波兰语评论。一个知名的中国网络 Spamouflage 也使用 OpenAI 的工具研究社交媒体活动，并生成中文、英文、日文和韩文文本，发布在 X、Medium 和 Blogspot 等多个平台上。

OpenAI 还详细介绍了特拉维夫一家名为 Stoic 的以色列政治营销公司如何使用其工具生成有关加沙战争的亲以色列内容。该活动绰号为“Zero Zeno”，针对美国、加拿大和以色列的受众。周三，Facebook 和 Instagram 的母公司 Meta 表示已删除 510 个 Facebook 账户和 32 个 Instagram 账户与同一家公司有关。这些虚假账户包括假冒非裔美国人和美国及加拿大学生的账户，经常回复知名人士或媒体组织的帖子，赞扬以色列、批评校园反犹太主义并谴责“激进伊斯兰教”。OpenAI 表示，它似乎未能获得任何重大参与。报告中的一篇帖子写道：“看，这些极端主义思想正在扰乱我们国家的氛围，这可不是什么好事。”

OpenAI 表示，它正在使用自己的人工智能工具更有效地调查和阻止这些外国影响行动。该公司周四表示：“得益于我们的工具，随附报告中描述的调查仅用了几天时间，而不是几周或几个月。”他们还指出，尽管人工智能工具发展迅速，但人为错误仍然是一个因素。“人工智能可以改变人类操作员使用的工具包，但不会改变操作员本身，”OpenAI 表示。“虽然意识到威胁行为者使用的工具不断变化很重要，但我们不应忽视可能影响其行动和决策的人为局限性。”

更多来自《时代》杂志