联合国？ 联邦调查局？ 世界银行？ Deepfake警察局长被用来制作赔偿诈骗视频
预付费欺诈活动在文本和视频中使用生成人工智能来加快响应速度、逃避过滤器并使诈骗更具说服力。 大型语言模型和其他形式的生成人工智能 (GenAI) 有望提高许多人的工作效率，网络犯罪分子也不例外。 欺诈者正在使用 GenAI 来增强各种诈骗，从以消费者为中心的批量活动到高度针对性的商业电子邮件泄露尝试。 备受瞩目的案件涉及 损失数千万美元。 在过去六个月中，Netcraft 注意到带有 ChatGPT 生成文本迹象的预付费欺诈电子邮件有所增加，以及旨在说服潜在受害者并逃避用于阻止诈骗的现有过滤器的深度伪造视频新模式，包括冒充联邦调查局、联合国和世界银行的例子。 预付费欺诈是诈骗者中长期流行的一种模式：他们通常以一条未经请求的消息开始，表明收款人应收款项，例如，商人已向他们提供资金或他们赢得了“互联网竞赛”等竞赛。彩票”——只需支付相对较少的费用，他们就能获得这笔财富。 然而，所谓的财富并不存在：一旦付款，诈骗者就会卷走费用，并制造更多的障碍来继续提取资金，或者转向下一个受害者。 我们经常看到的另一种预付费欺诈是赔偿诈骗。 诈骗者利用前面提到的诱惑频率，声称他们可以让受害者重新获得他们所谓的资金。 这是为了进一步利用那些已经陷入其他形式诈骗的人，因为诈骗者自己会要求支付费用，而该基金从未存在过。 “Sandra Steven” Deepfakes 用于逃避电子邮件过滤器 Netcraft 最近收到了一段 Deepfake 视频，作为补偿诈骗的初步诱饵。 该电子邮件只是说：“尝试打开这个重要视频并遵守。” 通过从文本中删除典型的诈骗指标，此策略可能会逃避一些垃圾邮件过滤器，这些过滤器主要依赖于文本分类进行过滤。 在观看 Deepfake 视频时，还存在其他欺诈迹象，最明显的是剧本内容，其中包含“Mrs. 联邦调查局桑德拉·史蒂文”要求听众“转账一百二十美元”，以获得“经联合国批准”、现在由“世界银行”控制的所谓基金。 视频显示，“全部资金都在我的办公室里”，这表明办公桌上未经编辑的一堆现金代表了相关基金。 图 1：“Sandra Steven”的 Deepfake 视频 欺诈活动的另一个指标是来自商业人工智能头像生成器的水印 Wondershare Virbo。 文件元数据显示，该视频最初生成于 2024 年 3 月 1 日，显示犯罪分子积极适应新产品和技术。 如果生成的视频包含水印数据，则可以识别滥用用户，从而识别犯罪基础设施。 深度伪造的底层图像不是“桑德拉·史蒂文”，甚至不是联邦调查局官员：它是基于联合国驻塞浦路斯维持和平部队助理警察专员兼高级警察顾问萨图·科伊武的照片，来自 最初于 2021 年 9 月在 […]