Deepfakes 不断演变。这家公司想一网打尽

在出现一系列涉及欺诈性求职者骗取签约奖金后逃跑的骗局之后，一些《财富》500 强公司已开始测试可以在实时视频通话中识别真人深度伪造的软件。

这项检测技术由 GetReal Labs 提供，该公司是由 只有法里德他是加州大学伯克利分校的教授，也是深度伪造和图像和视频处理领域的知名权威。

GetReal Labs 开发了一套工具，用于识别通过人工智能或手动方法生成或处理的图像、音频和视频。该公司的软件可以分析视频通话中的面部，并发现可能表明面部是人工生成并替换到真人身上的线索。

“这些并不是假想的攻击，我们听到的关于这些攻击的消息越来越多了，”法里德说。“在某些情况下，他们似乎试图窃取知识产权，渗透到公司。在其他情况下，他们似乎纯粹是为了获取财务利益，他们只是拿走签约奖金。”

联邦调查局发布了一份 警告 2022 年，有关深度伪造求职者在视频通话中冒充真人身份的报道。总部位于英国的设计和工程公司 Arup 丢失的 一名冒充公司首席财务官的深度伪造骗子骗走了 2500 万美元。爱情骗子也采用了这项技术，骗取毫无戒心的受害者的积蓄。

在实时视频中模仿真人只是人工智能技术实现的扭曲现实的手段之一。大型语言模型可以令人信服地模仿在线聊天中的真人，而短视频则可以通过 OpenAI 的 Sora 等工具生成。近年来，人工智能的惊人进步使深度伪造更加令人信服，也更容易实现。免费软件使深度伪造技能更容易磨练，而易于获取的人工智能工具可以将文本提示转换成逼真的照片和视频。

但在现场视频中模仿真人是一个相对较新的领域。制作这种深度伪造视频通常需要结合使用机器学习和面部跟踪算法，将假脸无缝拼接到真脸上，让闯入者可以控制屏幕上非法模仿者所说的话和所做的事。

Farid 向《连线》杂志演示了 GetReal Labs 的技术。当向该软件展示一张公司董事会会议室的照片时，它会分析与该图像相关的元数据，以查找该图像被修改的迹象。包括 OpenAI、Google 和 Meta 在内的几家大型人工智能公司现在都在人工智能生成的图像中添加数字签名，从而为确认其真实性提供了可靠的方法。然而，并非所有工具都提供这样的印章，开源图像生成器也可以配置为不提供。元数据也很容易被操纵。