Deepfake 诈骗者在首次 AI 抢劫中携 2500 万美元逃走

周日，一份来自 南华早报 揭露了一家跨国公司香港办事处因涉及深度造假技术的复杂骗局而蒙受了高达 2 亿港元（2560 万美元）的重大财务损失。 该骗局以该公司首席财务官和其他员工的数字重建版本为特色，他们出现在视频电话会议中，指示员工转移资金。

由于调查仍在进行中，香港警方没有公布哪家公司被骗的详细信息。

Deepfakes 利用人工智能工具创造出极具说服力的假货 假视频 或者 录音，给个人和组织辨别真实内容和捏造内容带来了重大挑战。

这起事件在香港尚属首例，涉及巨额金额，并利用 Deepfake 技术模拟多人视频会议，所有参与者（除受害人外）都是伪造的真实人物图像。 诈骗者能够使用公开的视频和音频片段令人信服地复制目标个人的外表和声音。 目前，香港警方正在调查此案，尚未有人被捕。

该骗局最初是在一次网络钓鱼尝试后被发现的，当时该公司香港分公司财务部的一名员工收到了一条看似网络钓鱼的消息，据称是来自该公司驻英国的首席财务官，指示他们执行一项秘密交易。 尽管最初心存疑虑，但首席财务官和其他人在一次集体视频通话中的出现让该员工深信不疑，向五个不同的香港银行账户进行了 15 笔转账，总计 2 亿港元。 大约一周后，官员们意识到骗局发生，促使警方展开调查。

这起高科技盗窃案凸显了人们对人工智能技术新用途日益增长的担忧，最近由于虚假露骨图像的传播等事件而受到关注。 流行巨星泰勒·斯威夫特。 在过去的一年里，诈骗者一直在使用音频深度伪造技术 骗取人们的钱财 冒充陷入困境的亲人。

香港警方代理高级警司陈顺清强调，这起骗局很新颖，称这是香港首例在多人视频会议环境下受骗的案件。 他指出，骗子的策略是除了要求受害者进行自我介绍外，不直接与受害者接触，这使得骗局更具说服力。

警方提供了在视频通话中验证个人真实性的技巧，例如要求他们移动头部或回答确认其身份的问题，特别是在涉及汇款请求时。 企业环境中深度伪造诈骗的另一个潜在解决方案是为每位员工配备加密密钥对， 建立信任 通过在面对面会议上签署公钥。 随后，在远程通信中，这些签名密钥可用于对会议中的各方进行身份验证。

此外，香港警方计划加强其警报系统，涵盖 更快的支付系统 (FPS) 包括对与已知诈骗相关的交易的警告，到今年下半年将覆盖范围扩大到更广泛的电子和面对面交易。