2023 年针对身份验证系统的 Deepfake 换脸攻击将增加 704%

根据周三发布的一份报告，使用“换脸”技术试图绕过远程身份验证的 Deepfake 攻击在 2023 年增加了 704%。

身份验证公司 iProov 在​​其网站中发现，免费且低成本的换脸工具、虚拟相机和移动模拟器正在加速越来越多以深度伪造为重点的威胁行为者的行动。 2024 年威胁情报报告 标题为“生成式人工智能对远程身份验证的影响”。

“生成式人工智能极大地提高了威胁行为者的生产力水平：这些工具成本相对较低，易于访问，并且可用于创建高度令人信服的合成媒体，例如面部交换或其他形式的深度伪造，可以轻松欺骗人类iProov 首席科学官安德鲁·纽厄尔 (Andrew Newell) 在一份公开声明中表示：

除了将面部交换识别为“持续威胁行为者中的深度伪造选择”之外，iProov 的安全运营中心 (iSOC) 还发现，针对移动身份验证平台的注入攻击增加了 255%，而这些攻击中模拟器的使用增加了 353% 2023 年上半年和下半年之间。

此外，2022 年至 2023 年间，在线交换有关生物识别和视频识别系统攻击信息的威胁组织数量几乎翻了一番，其中 47% 的组织是在去年出现的。

生成式人工智能为深度伪造威胁行为者提供了更好、更便宜的工具包

可以轻松下载到手机或计算机上的免费和免费增值面部交换应用程序已经从一种有趣的新奇事物发展成为一种强大的欺骗工具。

与允许用户与朋友交换面孔以换取笑声的 Snapchat 过滤器不同，iProov 研究人员发现 SwapFace、DeepFaceLive 和 Swapstream 等 Deepfake 应用程序是针对远程 ID 验证系统的攻击中最常用的工具。

高级攻击者可以完善这些人工智能应用程序的使用来创建逼真的实时动态视频，并使用窃取的面具或木偶等自拍照来欺骗视频身份验证系统。

Deepfakes 视频最常与数字注入攻击相结合，这种攻击使用虚拟摄像头源来代替通常用于显示人脸以进行验证的网络摄像头或其他设备摄像头源。 例如，OBS Studio（一种合法的开源流媒体工具）包含虚拟摄像头功能，可用于显示深度伪造视频。

数字注入攻击在技术上比演示攻击更先进，在演示攻击中，屏幕上的面具或视频被举到摄像机前。 虽然许多面部生物识别系统配备了呈现攻击检测 (PAD)，但注入攻击更难以检测，并且到 2023 年频率将翻倍， 根据 Gartner 的报告。

iProov 表示，模拟器（例如免费的官方 Android Studio 软件开发套件中提供的 Android 模拟器）可以让威胁行为者隐藏虚拟摄像头的使用，并更有效地瞄准移动验证系统。

例如，经验丰富的攻击者可以生成 Deepfake 并在 PC 上设置虚拟摄像头，同时使用模拟器访问移动验证应用程序，并且看起来就像正常使用手机摄像头一样。

iProov 威胁分析师目前监控 110 多种不同的面部交换工具和存储库，这些工具和存储库可用于生成恶意深度伪造品。

Deepfake 攻击者将人类视为身份验证中最薄弱的环节

iProov 表示，Deepfake 威胁组织经常针对手动或混合身份验证系统，而人类操作员拥有最终决定权。 报告称，这些组织认为，与计算机面部识别系统相比，使用深度伪造注入攻击更容易欺骗人类。

事实上，据报告称，iProov 分析师观察到威胁行为者提供了如何故意使生物识别验证失败的说明，以便将其转发给人类操作员。

研究表明，人类检测深度赝品的能力有限， 一项研究发表在《网络安全杂志》上 研究发现，参与者识别深度伪造人脸图像的总体准确率为 62%。

另一项研究，在 Idiap 研究所进行， 在 2021 年 IEEE 声学、语音和信号处理国际会议 (ICSSP) 上发表，发现人类受试者只能在 24.5% 的时间内辨别出高质量的深度伪造视频。 然而，同一项研究还发现，人类的整体表现优于深度伪造检测算法。

有趣的是，Idiap 研究人员发现，被人类视为“明显虚假”的视频通常不会被算法检测到，而某些算法在检测对人类来说最困难的视频方面表现更好。

之前成功的深度造假计划已经表明，人类和数字生物识别系统都存在潜在的脆弱性。

上星期， 香港警方宣布 一名金融工作人员在与多位同事的深度假货参加电话会议后，被说服向诈骗者发送了相当于 2500 万美元的资金。 2021 年，中国的欺诈者利用 Deepfakes 欺骗政府运行的面部识别系统，通过伪造的税务发票窃取了相当于 7500 万美元的资金。

iProov 在​​报告的最后提出了一些建议，即要意识到纯人类或人类主导的远程身份验证系统的深度伪造风险，并确保生物识别技术经过独立的红队测试，以抵御数字注入攻击。 该公司还推荐基于云的多帧活性生物识别解决方案，而不是本地和基于单帧活性的系统。

纽厄尔在一封电子邮件中告诉 SC Media：“自动化系统与正确的专家监督相结合，可以利用人工智能的突破来生产有效的系统，从而在军备竞赛中保持领先地位。” “然而，我们预计视频采访等手动系统将面临越来越大的压力，因为无法通过肉眼检测高级深度伪造品。”