实时 Deepfake 浪漫骗局已经到来
《连线》杂志对这些视频和三个相关的雅虎男孩电报频道的评论显示，随着深度造假应用程序和人工智能的改进，骗子的技术是如何演变的。 这是首次详细记录诈骗者使用深度伪造视频通话的具体策略和古怪技术。 视频显示雅虎男孩在涉及笔记本电脑和手机的设置中使用了该技术。 在多个视频中，诈骗者经常厚颜无耻地展示自己以及他们所诈骗的受害者的面孔。 “我不认为他们这样做是因为他们愚蠢，”迈蒙说。 “我认为他们根本不在乎，也不怕后果。” 雅虎男孩是经验丰富的骗子，他们公开吹嘘这一点。 从 Facebook 到 TikTok，他们的欺骗和招募的照片和视频在社交媒体上随处可见。 然而，拥有尼日利亚王子电子邮件诈骗链接的网络犯罪分子可以说是 Telegram 上最公开的。 在包含数千名成员的团体中，雅虎男孩组织并宣传他们的个人技能，以进行各种诈骗。 他们是熟练的社交操纵者，可以 对受害者产生长期影响。 每天都有数百个帖子宣扬商业电子邮件泄露、加密货币诈骗和冒充诈骗。 成员声称出售照片和视频编辑技能以及可用于构建令人信服的角色的整套露骨照片。 假身份证和看似合法的社交媒体资料正在出售。 诈骗“脚本”可以免费下载。 网络传染研究所的情报分析师保罗·拉菲尔 (Paul Raffile) 表示：“雅虎男孩具有有组织犯罪和无组织犯罪的成分。” 调查雅虎男孩对青少年进行性勒索 和 驾驶他们 走向自杀。 “他们没有领导者，也没有治理结构。” 拉菲尔说，相反，他们以集群形式组织起来，并在网上分享建议和技巧。 Telegram 没有回应《连线》杂志关于雅虎男孩频道的置评请求，但这三个频道似乎已无法访问。 迈蒙表示，数字骗子在 2022 年 5 月左右开始使用深度伪造作为浪漫骗局的一部分。 “人们所做的只是发布自己的视频，改变他们的外表，然后将它们发送给受害者 – 试图引诱他们与他们交谈，”他说。 从那时起，他们就继续前进。 为了制作视频，雅虎男孩使用了一些不同的软件和应用程序。 《连线》没有命名具体软件，以限制人们复制攻击的能力。 然而，他们使用的工具经常被宣传用于娱乐目的，例如允许人们与名人或有影响力的人交换面孔。 雅虎男孩的实时深度伪造通话以两种不同的方式进行。 在第一个例子中，如上图所示，诈骗者使用两部手机和一个换脸应用程序。 诈骗者拿着他们打电话给受害者的手机（迈蒙说，他们大多使用 Zoom，但它可以在任何平台上运行），并使用其后置摄像头记录第二部手机的屏幕。 第二部手机的摄像头对准了诈骗者的脸部，并且正在运行换脸应用程序。 视频显示，他们经常将两部手机放在支架上，以确保它们不会移动，并使用环形灯来改善实时面部交换的条件。
最大的 Deepfake 色情网站现已在英国被封锁
两个最大的深度伪造色情网站现已开始阻止人们试图从英国访问它们。 此举是在英国政府几天后做出的 公布的计划 制定一项新法律，将未经同意制造深度伪造品定为刑事犯罪。 非自愿的深度伪造色情网站和从照片上“剥掉”衣服的应用程序一直在以惊人的速度增长，给它们所针对的数千名女性造成了难以估量的伤害。 杜伦大学法学教授克莱尔·麦克格林表示，此举是“非常重要的时刻” 反对 深度伪造滥用。 “这结束了深度伪造性虐待材料的轻易获取和正常化，”麦格林告诉《连线》杂志。 自 Deepfake 技术于 2017 年 12 月首次出现以来，它一直被用来创建未经同意的女性性图像——将她们的脸换成色情视频或允许生成新的“裸体”图像。 随着技术的进步和变得更容易访问，数百个网站和应用程序已经创建。 最近，学生被发现创作同学的裸体。 英国的深度造假网站上的封锁今天首次被发现，其中两个最著名的服务在其登陆页面上显示通知，称来自该国的访问者不再可以访问这些网站。 由于这两个网站存在滥用行为，《连线》杂志没有点名。 受到限制的网站之一是当今最大的深度造假色情网站。 当从英国访问时，其主页显示一条消息称访问被拒绝。 “根据您所在国家或州的法律或（即将出台的）立法，我们很遗憾有义务拒绝您访问该网站，”该消息称。 它还显示访问者的 IP 地址和国家/地区。 另一个网站也有一个应用程序，显示类似的消息。 它说：“在您的国家/地区访问该服务被阻止”，然后暗示可能有办法绕过地理限制。 从美国访问时，这些网站似乎没有任何限制，但在其他国家/地区也可能受到限制。 目前尚不清楚这些网站为何引入位置限制，或者他们这样做是否是为了响应任何法律命令或通知。 也不清楚这些封锁是否是临时的。 通过电子邮件地址和联系表格发送到网站的消息没有得到回复。 这些网站的创建者尚未在网站或其社交媒体渠道上发布任何有关这些区块的公开消息。 英国通信监管机构 Ofcom 有权根据去年生效的英国备受争议的全面在线安全法，对有害网站采取行动。 然而，这些权力尚未完全发挥作用，Ofcom 仍在就这些权力进行咨询。 这些限制可能会大大限制英国寻找或试图创建深度伪造性虐待内容的人数。 数字情报公司Similarweb的数据显示，这两个网站中最大的网站上个月有1200万全球访问者，而另一个网站有400万访问者。 在英国，他们分别拥有约 500,000 名和 50,000 名游客。
Drake 和 TikTok 上其他名人的 Deepfake 的数学课引起了人们对错误信息的担忧
Leanne 和 Natasha Manikavasagar 姐妹对于在 TikTok 上看到人工智能生成的内容并不陌生。 但人工智能生成的德雷克教授三角学的深度伪造视频让他们大吃一惊。 “我很震惊，”安大略省布兰普顿市的九年级学生娜塔莎说。 “德雷克看起来有点奇怪，就像他的嘴不相符……他的方式……做手势之类的。这真的很奇怪，”12 年级的学生 Leanne 说。 抖音用户喜欢 @onlocklearning 和 @星光学院_x 使用软件操纵知名人物的相似度来解释数学、物理和工程中的概念，同时在短片视频中混合俚语和 Z 世代参考资料。 说唱歌手 Ice Spice 解释对数函数的 TikTok 观看次数已达到 1000 万次，也是今年该平台上出现的众多类似视频之一。 虽然一些教育工作者认为这些图像有可能提高学生对数学等主题的兴趣，但他们质疑它们是否提供了真正的学习机会，并担心错误信息传播的可能性。 其他人则将这些图像视为提高媒体素养并帮助学生学习如何发现错误信息的机会。 蒙特利尔麦吉尔大学教授克里斯塔·穆伊斯 (Krista Muis) 担心可能存在错误信息。 “我们从已经完成的研究中得知，互联网上超过 60% 的信息都是虚假或误导性的，因此内容是否准确始终是一个令人担忧的问题，”她在接受采访时表示。 媒体素养协会是一个非营利性慈善组织，旨在帮助人们对媒体及其影响有更深入的了解，其主席尼尔·安德森（Neil Andersen）也表达了同样的担忧。 但他也看到了学生潜在的学习机会，不仅可以学习复杂的学科，还可以学习媒体素养。 “我会邀请他们选择一个概念，挑选一些名人并制作他们自己的视频。在视频的过程中，他们将学习物理或三角学，但他们也会学习媒介。” 根据这些视频的评论部分，TikTok 教程吸引了年轻观众，除了最初的震惊之外，他们正在理解这些概念。 TikTok 用户@bisnip 评论道：“为什么这实际上很简单，我还没学过日志，但如果这就是全部，我就不怕了。” TikTok 用户 @cayden.steinbock 补充道：“我在一分钟内就学到了一些东西，而我的老师需要用一两节课来教我们这些东西。” 作为一个经常使用该应用程序的人，Leanne Manikavasagar 同意这些评论。 “听一位甚至可能是 Z […]
Deepfake 裸体生成器揭示了受害者令人不寒而栗的样子
该网站上的另一张图片显示了一群似乎在上中学的青少年：一个男孩在似乎是学校体育馆的地方自拍，两个女孩微笑着摆姿势拍照。 男孩的特征被 Snapchat 镜头遮挡，他的眼睛放大到遮住了他的脸。 显然上传的图像上的标题表明它们包括朋友、同学和浪漫伴侣的图像。 一个标题写着“我的女朋友”，展示了一位年轻女子对着镜子自拍。 许多照片都是在 TikTok、Instagram 和其他社交媒体平台上受欢迎的影响者。 其他照片似乎是人们分享日常生活图像的 Instagram 截图。 一张照片显示，一位年轻女子微笑着享用甜点，上面放着庆祝蜡烛。 几张照片中的人似乎与拍照者完全陌生。 一张从后面拍摄的照片描绘了一名妇女或女孩，她没有摆出姿势拍照，而只是站在似乎是旅游景点的地方。 《连线》杂志审查的一些图像经过裁剪，去掉了妇女和女孩的脸部，只显示她们的胸部或胯部。 大量观众 在对该网站进行为期八天的监控期间，《连线》杂志发现主页上出现了五张新的女性照片，探索页面上则出现了三张。 网站上列出的统计数据显示，这些图像中的大多数都积累了数百次“浏览量”。 目前尚不清楚提交到该网站的所有图像是否都会进入“主页”或“探索”提要，也不清楚视图是如何制成表格的。 主页上的每个帖子至少有几十个浏览量。 名人和拥有大量 Instagram 粉丝的人的照片位居网站上“观看次数最多”图像的榜首。 该网站有史以来观看次数最多的人是演员 Jenna Ortega（观看次数超过 66,000 次）、歌手兼作曲家 Taylor Swift（观看次数超过 27,000 次），以及来自马来西亚的影响者和 DJ（观看次数超过 26,000 次）。 斯威夫特和奥尔特加之前曾成为深度伪造裸体的目标。 的流通量 斯威夫特的假裸照 一月份的 X 事件引发了关于深度造假的影响以及为受害者提供更多法律保护的必要性的新讨论。 本月，NBC 报道称，七个月来，Meta 主持了 Deepnude 应用程序的广告。 该应用程序利用 Jenna Ortega 16 岁时的照片夸耀其“脱衣服”的能力。 在美国，没有联邦法律针对传播虚假的、未经同意的裸体图像。 少数几个州 制定了自己的法律。 […]
儿童卡通片可免费享受 YouTube 的 Deepfake 披露规则
YouTube 更新了新时代的规则手册 深度造假。 从今天开始，任何将视频上传到该平台的人都必须披露合成媒体的某些用途，包括生成人工智能，以便观众知道他们所看到的不是真实的。 YouTube 说它适用于“现实”的改变媒体，例如“使其看起来就像一座真正的建筑物着火了”或 交换 “一个人的脸与另一个人的脸。” 这 新政策 显示 YouTube 正在采取措施帮助遏制病毒传播 人工智能生成的错误信息 作为 美国总统选举 接近。 它所允许的内容也令人震惊：人工智能生成的针对儿童的动画不受新的合成内容披露规则的约束。 YouTube 的 新政策 将动画内容完全排除在公开要求之外。 这意味着 人工智能生成的内容骗子快速致富的新兴场景 可以继续制作针对儿童的视频，而不必透露他们的方法。 担心匆忙制作的童谣视频质量的家长将不得不自行识别人工智能生成的卡通片。 YouTube 的新政策还表示，创作者无需标记使用人工智能进行“主要是美观”的“次要”编辑，例如美颜滤镜或清理视频和音频。 使用人工智能“生成或改进”脚本或字幕也是允许的，无需披露。 YouTube 上不乏没有人工智能制作的低质量内容，但生成式人工智能工具降低了视频制作的门槛，从而加速了视频的制作。 YouTube 的母公司谷歌最近表示 调整其搜索算法 降级最近的洪水 AI 生成的标题诱饵，通过 ChatGPT 等工具成为可能。 视频生成技术尚不成熟 但进步很快。 既定问题 YouTube 是 儿童娱乐巨头，让 Netflix 和迪士尼等竞争对手相形见绌。 该平台过去一直在努力调整大量针对儿童的内容。 它因托管表面上适合或对儿童有吸引力的内容而受到批评，但实际上 仔细观察包含令人不快的主题。 《连线》杂志最近报道 针对儿童的 YouTube 频道的兴起，这些频道似乎使用人工智能视频生成工具来制作以通用 3D […]
佛罗里达州中学生因涉嫌制作同学的 Deepfake 裸体而被捕
根据《连线》通过公共记录请求获得的警方报告，两名来自佛罗里达州迈阿密的男孩于去年 12 月被捕，罪名是涉嫌在未经同意的情况下制作和分享由人工智能生成的男女同学的裸照。 逮捕报告称，这些年龄分别为 13 岁和 14 岁的男孩创作了“12 岁至 13 岁”学生的照片。 佛罗里达州的案件似乎是第一起因涉嫌分享人工智能生成的裸体图像而被逮捕和刑事指控的案件。 这些男孩被指控犯有三级重罪——与盗窃汽车或非法监禁的犯罪程度相同。 国家法律 该法案于 2022 年通过，规定未经他人同意而分享他人“任何改变的性描述”将构成重罪。 其中一名被捕男孩的家长没有及时回应发表评论的请求。 另一个男孩的家长则表示“无可奉告”。 负责此案的侦探和处理此案的州检察官没有及时回应置评。 随着人工智能图像制作工具的普及，已经发生了多起备受瞩目的未成年人涉嫌制作人工智能生成的同学裸照并未经同意分享的事件。 公开报道的案件中没有披露任何逮捕事件—— 伊瑟阔高中 在华盛顿， 韦斯特菲尔德高中 在新泽西州，以及 比佛利山庄维斯塔中学 在加利福尼亚州——尽管警方已提交报告。 在伊萨夸高中，警方选择不提出指控。 佛罗里达州案件的第一份媒体报道出现在去年 12 月，称这两名男孩在迈阿密 Pinecrest Cove 学院被停学 10 天，因为学校管理人员得知他们未经同意创建和分享虚假裸照的指控。 受害人家长得知此事后， 开始公开敦促 学校开除男生。 纳迪亚·汗-罗伯茨是其中一名受害者的母亲， 告诉 NBC 迈阿密 12 月，对于所有孩子受害的家庭来说，这一事件都造成了创伤。 “我们的女儿们和这些男孩一起走在同一条走廊里感到不舒服，”她说。 “这让我感觉受到了侵犯，感觉被利用了 [of] 我感到被利用了，”一位要求匿名的受害者说， 告诉电视台。 《连线》本周获得的逮捕记录显示，这起事件于 2023 年 12 […]
英国官员称伊朗和俄罗斯可能利用 Deepfake 视频扰乱英国和美国选举
随着人工智能深度假货的出现，世界各地的选举正在发生变化。 在印度，地方选举中已经出现了这种迹象，即利用已故领导人的声音来影响选民，而英国人民却在关注这种不可避免的影响。 A Rishi Sunak 政府最高部长 警告称，人工智能生成的深度伪造视频可能会被人们用来影响即将到来的大选。 英国内政大臣詹姆斯·克莱弗利 (James Cleverly) 在向 IT 专家和硅谷老板发表讲话时强调，人工智能深度造假可能会在 2024 年大选前掀起一场风暴。 据 Cleverly 称，深度造假视频已经出现并已在世界各地发挥作用，扰乱了选举。 内政大臣警告社交媒体用户不要被社交媒体平台上人工智能生成的视频所左右。 巧妙地向俄罗斯和伊朗解释了可能的情况，因为这些英国对手可能试图扰乱英国选举。 然而，这可能不是以英国为中心的攻击，因为世界上一半的国家将在 2024 年举行选举，包括欧盟、美国和英国。 内政大臣告诉《泰晤士报》，人工智能生成的内容正在加剧“思想和政策之战”，并且它正在“不断变化和扩大的数字领域”发生。 巧妙地呼吁在人工智能生成的内容（例如深度伪造内容）中为用户提供透明度和保障。 英国内政大臣表示：“有关数字内容和数字内容来源的问题与有关调度箱、新闻编辑室或广告牌广告的内容和来源的问题同样重要。” 随着工党和保守党联合起来反对，其他英国政治家也跨越党派界限表达了对人工智能深度假货的担忧。 随着选举临近，伦敦市长萨迪克·汗也对深度造假敲响了警钟。 2023 年初，一段人工智能生成的视频在媒体上流传，其中萨迪克·汗 (Sadiq Khan) 对停战日之前的抗议活动发表了评论。 伦敦市长表示，目前有关深度造假的法规并不能有效控制它。 类似的事情 印度发生了，南部特伦甘纳邦地方立法选举的选民看到了执政党 Bharat Rastra Samiti 的 KT Rama Rao 的一段 7 秒视频，呼吁为反对党国大党投票。 反对党在 Twitter 帖子上分享了这段 Deepfake 视频，并在 WhatsApp 群组中传播，该党 X 官方账户上的浏览量达到了 […]
泰勒·斯威夫特 Deepfake 丑闻显示出一个更大的问题
虽然迄今为止，人们对生成式人工智能的担忧主要集中在美国大选前夕可能出现的错误信息、工人可能被取代以及美国教育体系受到破坏，但还有另一个真实存在的危险——使用人工智能人工智能创造深度伪造的、未经同意的色情内容。 上个月，虚假的露骨色情照片 泰勒斯威夫特 是 流传的 在 X（该平台以前称为 Twitter）上，并允许在该平台上停留几个小时，然后最终被删除。 X 上的一篇帖子获得了超过 4500 万次浏览， 据 The Verge 报道。 稍后 X 被阻止的搜索结果 该公司业务运营主管称，出于安全原因，完全取消斯威夫特的名字是“临时行动”。 斯威夫特并不是唯一一个成为目标的人，但她的案件再次提醒人们，不良行为者利用生成式人工智能技术的进步，在未经同意的情况下创建虚假色情内容变得多么容易和廉价，而受害者却法律选择很少。 就连白宫也对这一事件发表了意见，呼吁国会立法，并敦促社交媒体公司采取更多措施，防止人们利用其平台。 “深度伪造”一词指的是合成媒体，包括照片、视频和音频，这些媒体通过使用人工智能工具进行操纵，以显示某人在做他们从未真正做过的事情。 这个词本身是由一位 Reddit 用户于 2017 年创造的，其个人资料名为“Deepfake”，并使用换脸技术在该平台上发布虚假色情剪辑。 Sensity AI 2019 年报告前身为 Deeptrace 的公司报告称，96% 的 Deepfake 内容都是色情内容。 与此同时，根据Similarweb在线流量数据，9月份共有2400万独立访问者访问了34家合成非自愿亲密图像提供商的网站 Graphika 引用。 这 联邦调查局 发出了 公共服务声明 6 月，该公司表示注意到“性勒索受害者报告使用虚假图像或视频的情况有所增加，这些图像或视频是根据其社交媒体网站或网络帖子上发布的内容创建的，根据请求提供给恶意行为者，或在视频聊天期间捕获。” “我们代表泰勒·斯威夫特感到愤怒，更对数以百万计没有资源收回自己形象自主权的人感到愤怒。” – Stefan Turkheimer，强奸、虐待和乱伦国家网络 (RAINN) 公共政策副总裁 联邦机构最近也发出警告 企业 关于深度造假可能给他们带来的危险。 […]
2023 年针对身份验证系统的 Deepfake 换脸攻击将增加 704%
根据周三发布的一份报告，使用“换脸”技术试图绕过远程身份验证的 Deepfake 攻击在 2023 年增加了 704%。 身份验证公司 iProov 在其网站中发现，免费且低成本的换脸工具、虚拟相机和移动模拟器正在加速越来越多以深度伪造为重点的威胁行为者的行动。 2024 年威胁情报报告 标题为“生成式人工智能对远程身份验证的影响”。 “生成式人工智能极大地提高了威胁行为者的生产力水平：这些工具成本相对较低，易于访问，并且可用于创建高度令人信服的合成媒体，例如面部交换或其他形式的深度伪造，可以轻松欺骗人类iProov 首席科学官安德鲁·纽厄尔 (Andrew Newell) 在一份公开声明中表示： 除了将面部交换识别为“持续威胁行为者中的深度伪造选择”之外，iProov 的安全运营中心 (iSOC) 还发现，针对移动身份验证平台的注入攻击增加了 255%，而这些攻击中模拟器的使用增加了 353% 2023 年上半年和下半年之间。 此外，2022 年至 2023 年间，在线交换有关生物识别和视频识别系统攻击信息的威胁组织数量几乎翻了一番，其中 47% 的组织是在去年出现的。 生成式人工智能为深度伪造威胁行为者提供了更好、更便宜的工具包 可以轻松下载到手机或计算机上的免费和免费增值面部交换应用程序已经从一种有趣的新奇事物发展成为一种强大的欺骗工具。 与允许用户与朋友交换面孔以换取笑声的 Snapchat 过滤器不同，iProov 研究人员发现 SwapFace、DeepFaceLive 和 Swapstream 等 Deepfake 应用程序是针对远程 ID 验证系统的攻击中最常用的工具。 高级攻击者可以完善这些人工智能应用程序的使用来创建逼真的实时动态视频，并使用窃取的面具或木偶等自拍照来欺骗视频身份验证系统。 Deepfakes 视频最常与数字注入攻击相结合，这种攻击使用虚拟摄像头源来代替通常用于显示人脸以进行验证的网络摄像头或其他设备摄像头源。 例如，OBS Studio（一种合法的开源流媒体工具）包含虚拟摄像头功能，可用于显示深度伪造视频。 数字注入攻击在技术上比演示攻击更先进，在演示攻击中，屏幕上的面具或视频被举到摄像机前。 虽然许多面部生物识别系统配备了呈现攻击检测 (PAD)，但注入攻击更难以检测，并且到 2023 年频率将翻倍， […]
Deepfake 诈骗者在首次 AI 抢劫中携 2500 万美元逃走
周日，一份来自 南华早报 揭露了一家跨国公司香港办事处因涉及深度造假技术的复杂骗局而蒙受了高达 2 亿港元（2560 万美元）的重大财务损失。 该骗局以该公司首席财务官和其他员工的数字重建版本为特色，他们出现在视频电话会议中，指示员工转移资金。 由于调查仍在进行中，香港警方没有公布哪家公司被骗的详细信息。 Deepfakes 利用人工智能工具创造出极具说服力的假货 假视频 或者 录音，给个人和组织辨别真实内容和捏造内容带来了重大挑战。 这起事件在香港尚属首例，涉及巨额金额，并利用 Deepfake 技术模拟多人视频会议，所有参与者（除受害人外）都是伪造的真实人物图像。 诈骗者能够使用公开的视频和音频片段令人信服地复制目标个人的外表和声音。 目前，香港警方正在调查此案，尚未有人被捕。 该骗局最初是在一次网络钓鱼尝试后被发现的，当时该公司香港分公司财务部的一名员工收到了一条看似网络钓鱼的消息，据称是来自该公司驻英国的首席财务官，指示他们执行一项秘密交易。 尽管最初心存疑虑，但首席财务官和其他人在一次集体视频通话中的出现让该员工深信不疑，向五个不同的香港银行账户进行了 15 笔转账，总计 2 亿港元。 大约一周后，官员们意识到骗局发生，促使警方展开调查。 广告 这起高科技盗窃案凸显了人们对人工智能技术新用途日益增长的担忧，最近由于虚假露骨图像的传播等事件而受到关注。 流行巨星泰勒·斯威夫特。 在过去的一年里，诈骗者一直在使用音频深度伪造技术 骗取人们的钱财 冒充陷入困境的亲人。 香港警方代理高级警司陈顺清强调，这起骗局很新颖，称这是香港首例在多人视频会议环境下受骗的案件。 他指出，骗子的策略是除了要求受害者进行自我介绍外，不直接与受害者接触，这使得骗局更具说服力。 警方提供了在视频通话中验证个人真实性的技巧，例如要求他们移动头部或回答确认其身份的问题，特别是在涉及汇款请求时。 企业环境中深度伪造诈骗的另一个潜在解决方案是为每位员工配备加密密钥对， 建立信任 通过在面对面会议上签署公钥。 随后，在远程通信中，这些签名密钥可用于对会议中的各方进行身份验证。 此外，香港警方计划加强其警报系统，涵盖 更快的支付系统 (FPS) 包括对与已知诈骗相关的交易的警告，到今年下半年将覆盖范围扩大到更广泛的电子和面对面交易。 2024-02-05 15:54:49 1707151724