英国官员称伊朗和俄罗斯可能利用 Deepfake 视频扰乱英国和美国选举

随着人工智能深度假货的出现，世界各地的选举正在发生变化。 在印度，地方选举中已经出现了这种迹象，即利用已故领导人的声音来影响选民，而英国人民却在关注这种不可避免的影响。

A Rishi Sunak 政府最高部长 警告称，人工智能生成的深度伪造视频可能会被人们用来影响即将到来的大选。

英国内政大臣詹姆斯·克莱弗利 (James Cleverly) 在向 IT 专家和硅谷老板发表讲话时强调，人工智能深度造假可能会在 2024 年大选前掀起一场风暴。 据 Cleverly 称，深度造假视频已经出现并已在世界各地发挥作用，扰乱了选举。

内政大臣警告社交媒体用户不要被社交媒体平台上人工智能生成的视频所左右。 巧妙地向俄罗斯和伊朗解释了可能的情况，因为这些英国对手可能试图扰乱英国选举。 然而，这可能不是以英国为中心的攻击，因为世界上一半的国家将在 2024 年举行选举，包括欧盟、美国和英国。

内政大臣告诉《泰晤士报》，人工智能生成的内容正在加剧“思想和政策之战”，并且它正在“不断变化和扩大的数字领域”发生。

巧妙地呼吁在人工智能生成的内容（例如深度伪造内容）中为用户提供透明度和保障。

英国内政大臣表示：“有关数字内容和数字内容来源的问题与有关调度箱、新闻编辑室或广告牌广告的内容和来源的问题同样重要。”

随着工党和保守党联合起来反对，其他英国政治家也跨越党派界限表达了对人工智能深度假货的担忧。 随着选举临近，伦敦市长萨迪克·汗也对深度造假敲响了警钟。

2023 年初，一段人工智能生成的视频在媒体上流传，其中萨迪克·汗 (Sadiq Khan) 对停战日之前的抗议活动发表了评论。 伦敦市长表示，目前有关深度造假的法规并不能有效控制它。

类似的事情 印度发生了，南部特伦甘纳邦地方立法选举的选民看到了执政党 Bharat Rastra Samiti 的 KT Rama Rao 的一段 7 秒视频，呼吁为反对党国大党投票。

反对党在 Twitter 帖子上分享了这段 Deepfake 视频，并在 WhatsApp 群组中传播，该党 X 官方账户上的浏览量达到了 50 万次。

2020 年 2 月早些时候，印度执政党印度人民党 (Bharatiya Janata Party) 的议员 Manoj Tiwari 据称成为世界上第一位使用 Deepfake 进行竞选活动的领导人，他用三种不同语言（印地语、哈里扬维语和英语）推出了三个视频来接触民众不同的多元文化受众。 其中，只有印地语视频是真实的，另外两个是深度伪造的。 在这里，人工智能被用来改变他的表情、声音和词语，以匹配这些语言和文化的属性。

近日，印度南部某邦前首席部长泰米尔纳德邦 M 卡鲁纳尼迪 (Tamil Nadu M Karunanidhi) 死而复生，制作了一段深度造假视频来影响选民。

目前印度没有任何人工智能监管，特别是对于像这样的深度造假，专家认为，随着竞选活动的范围越来越广泛，影响到地区层面的人们，它们可能会在选举前影响国家的完整性。

伦敦市长萨迪克·汗在敦促制定强有力的人工智能立法时谈到了这一点，称这不是人工智能警务问题，而是人工智能监管和立法问题。

“我担心的是，在一场势均力敌的选举、一场势均力敌的公投中，这类深度造假视频和音频可能会产生影响，但我也担心的是，有时这类深度造假音频可能会导致严重的骚乱，特别是当情绪高涨，”伦敦市长萨迪克·汗说。

此举正值英国政府 英国发布人工智能监管白皮书。

随着世界即将进入选举年，几家科技巨头齐心协力，共同反对生成式人工智能的滥用。 ChatGPT 制造商 OpenAI、Meta、谷歌、微软等公司正在合作阻止人工智能的欺骗性使用。 但到目前为止，科技巨头并没有禁止深度造假视频。

本月早些时候，微软首席执行官 Satya Nadella 表示，有足够的技术可以 防止深度造假，例如为美国大选人工智能生成的内容添加水印。

与此同时，Meta 透露，它正在制定一种专门的方法来解决 6 月份欧盟议会选举之前欧洲的人工智能滥用和错误信息活动，但对选民影响力的担忧仍然存在。

这家科技巨头正在与 26 名独立的事实核查人员合作，他们在欧盟各地以 22 种语言工作，以标记其平台上的虚假信息。

Meta 欧盟事务主管 Marco Pancini 表示：“随着选举临近，我们将启动选举运营中心来识别潜在威胁并实时采取缓解措施。”