员工因 Deepfake 损失 2500 万美元
L该员工只是认为他是在执行财务总监的命令。 他在香港一家跨国公司工作，在视频会议期间应上级要求进行了总计2500万美元的交易 深伪版本报告 BFM电视。 这次会议的所有参与者都是由一个 人工智能。 科学技术通讯 每周六下午 4 点 接收所有最新的科技新闻并深入了解重大谈话、重大发现、创新和幕后…… 谢谢！您的注册已通过电子邮件地址考虑： 要了解我们所有其他时事通讯，请访问此处： 我的账户 通过注册，您接受 一般使用条件 和我们的 隐私政策。 « 人们似乎比生活更伟大 该公司的总负责人告诉香港公共广播公司香港电台。这名员工对交易的合理性毫无准备，在五个不同的银行账户上进行了大约 15 笔交易。诈骗金额达 2 亿港元，即 2500 万美元。 。 基于被盗视频的诈骗 最初，员工通过电子邮件收到来自英国经理的邀请。 如果他首先想到的是网络钓鱼，也就是说欺诈性电子邮件，那么他的“假”同事熟悉的面孔会让他放心……并让他陷入困境。 一切都绝无偶然，调查人员甚至强调了这一骗局的高度专业精神。 据称，骗子在跨国公司不知情的情况下使用了被盗的员工视频。 这次数据盗窃需要几个月的工作。 人工智能通过模仿员工的声音来完成剩下的工作。 进行转账的员工在会议结束后给同事打电话发现了这个问题。 2019年，德国一家集团英国公司子公司的经理被电话困住，电话里的声音是人工智能模仿的。 诈骗金额：22万欧元。 1707057183 #员工因 #Deepfake #损失 #万美元 2024-02-04 14:12:00
X Network 暂停搜索泰勒·斯威夫特。 因为 Deepfake 色情内容 – 日记 N
X Network 暂停搜索泰勒·斯威夫特。 因为深度伪造色情内容 N的日记 人工制作的泰勒·斯威夫特的色情图片席卷了互联网。 白宫呼吁修改法律 诺温基.cz 令人厌恶的深度伪造。 泰勒·斯威夫特的裸照充斥互联网 动员网 泰勒·斯威夫特是人工智能的受害者。 网上流传她的裸照 | 欧洲2 Evropa2.cz 泰勒·斯威夫特 (Taylor Swift) 的假照片充斥着 X 网络，但 X 网络没有时间将其删除。 只有粉丝帮忙 捷克紧缩 1706575499 #Network #暂停搜索泰勒斯威夫特 #因为 #Deepfake #色情内容 #日记 2024-01-29 20:14:41
泰勒·斯威夫特 (Taylor Swift) 的 Deepfake 裸照显示我们多么需要人工智能监管：专家
上周，人工智能生成的图像在互联网上传播，这些图像描绘了超级巨星泰勒·斯威夫特的性暗示和露骨姿势，引发了恐惧和谴责——专家表示，这是一个警钟，表明我们现在需要对人工智能进行真正的监管。 Think Start 媒体和技术顾问 Mohit Rajhans 周日对 CTV 新闻频道表示，在生成和传播人工智能内容方面，“我们已经进入了网络狂野西部”。 “火车已经离开车站，通用人工智能已经到来，现在就轮到我们来弄清楚如何对其进行监管了。” 据报道，X 上流传的假图片花了 17 个小时才被删除。 目前，如果用户尝试在 X 上搜索术语“Taylor Swift”、“Taylor Swift AI”和“Taylor AI”，则会出现错误报告。该公司表示，这是一项临时措施，因为他们评估平台的安全性。 但在社交媒体网站采取行动之前，这位歌手的深度伪造色情图片已被观看了数千万次。 Deepfakes 是人工智能生成的以真人为主角的虚假场景图像和视频。 最大的危险是它们比经过处理的图像要真实得多。 Rajhans 说：“如果这项技术不受监管，就会有很多潜在的骚扰和错误信息传播。” Swift 的目标是 令人不安的 人工智能被用来在未经人们同意的情况下生成色情图像的趋势，这种做法被称为“复仇色情”，主要针对妇女和女孩。 拉杰汉斯表示，虽然人工智能多年来一直被滥用，但“泰勒效应”肯定会促使人们警惕并关注这个问题。 “发生的事情是……由于泰勒·斯威夫特的形象被用来做各种事情，从销售与她无关的产品到修改她的（形象）到各种性行为，更多的人已经意识到这项技术有多么猖獗，”他说。 就连白宫也在关注，并于周五表示需要采取行动。 白宫新闻秘书卡琳·让-皮埃尔在周五的一份声明中表示，斯威夫特假裸照的传播“令人震惊”，正在考虑采取立法行动，以便在未来更好地解决这些情况。 “显然应该立法来解决这个问题，”她说，但没有具体说明他们支持哪项具体立法。 代表数千名演员和表演者的工会 SAG-AFTRA 在周六的一份声明中表示，他们支持美国众议员乔·莫雷尔去年提出的立法提案，即《防止亲密图像深度伪造法案》。 “未经某人同意，必须禁止开发和传播虚假图像，尤其是那些具有淫秽性质的图像。 被定为非法”，工会在声明中表示。 让-皮埃尔在白宫简报中补充说，社交媒体平台“在执行自己的规则方面可以发挥重要作用”，以防止“未经同意的真人亲密图像”的传播。 拉杰汉斯周日表示，显然社交媒体公司需要加强处理深度造假问题。 “我们需要让社交媒体公司承担责任，”他说。“其中一些社交媒体公司必须处以巨额罚款。他们从使用社交媒体的人身上赚了很多钱。” 他指出，如果人们上传一首不属于他们的歌曲，它可能会在社交媒体网站上被标记。 “那么，为什么他们现在不使用这项技术来调节社交媒体，使深度造假无法渗透呢？” 他说。 2023 年的一份关于深度造假的报告发现，98% 深假视频 网络内容本质上是色情内容——深度伪造色情内容的目标人群中 99% 是女性。 韩国歌手和女演员成为了不成比例的目标，占深度伪造色情内容目标人群的 53%。 […]
泰勒·斯威夫特的 Deepfake 图像出现在社交媒体上：-
去年 7 月创建的照片插图显示了 FBI 发布的一项公共服务公告中显示的创建 AI 女孩的广告，该公告涉及恶意行为者操纵照片和视频以创建露骨内容和性勒索计划。 深度伪造色情内容的热潮正在超过美国和欧洲监管该技术的努力。 史蒂芬妮·雷诺兹/法新社，盖蒂图片社 隐藏标题 切换标题 史蒂芬妮·雷诺兹/法新社，盖蒂图片社 去年 7 月创建的照片插图显示了 FBI 发布的一项公共服务公告中显示的创建 AI 女孩的广告，该公告涉及恶意行为者操纵照片和视频以创建露骨内容和性勒索计划。 深度伪造色情内容的热潮正在超过美国和欧洲监管该技术的努力。 史蒂芬妮·雷诺兹/法新社，盖蒂图片社 一批新的深度造假视频和图像正在引起轰动——这种周期性现象似乎正在更频繁地发生，因为几项针对深度造假的法案仍在国会审议。 这个问题成为了本周的头条新闻，因为假冒色情图片的对象是流行巨星泰勒·斯威夫特 (Taylor Swift) X 上增殖 （以前称为 Twitter）、Telegram 和其他地方。 许多帖子被删除，但在其中一些帖子被删除之前 数百万次观看。 对斯威夫特著名形象的攻击提醒人们，近年来深度造假变得越来越容易。 许多应用程序可以将人脸高保真地交换到其他媒体上，最新的迭代承诺使用人工智能生成更令人信服的图像和视频。 Deepfakes 经常针对年轻女性 许多深度伪造应用程序都被宣传为普通人制作有趣视频和表情包的一种方式。 但许多最终结果与这个说法并不相符。 正如卡罗琳·奎克在《 普林斯顿法律杂志 去年，“自从这项技术变得更加广泛使用以来，90-95% 的 Deepfake 视频现在都是未经同意的色情视频，其中 90% 的目标是女性——大多数是未成年人。” Deepfake 色情内容最近被用来针对女高中生 在新泽西州 并在 华盛顿州。 法学教授丹妮尔·西特伦 (Danielle Citron) 表示，从本质上讲，此类深度造假是对隐私的攻击。 […]
泰勒·斯威夫特 (Taylor Swift) 的 Deepfake 露骨图片在社交媒体上传播
泰勒·斯威夫特 (Taylor Swift) 的色情 Deepfake 图像在网上流传，使这位歌手成为最受关注的歌手 科技灾难的著名受害者 平台和反滥用组织一直在努力解决这个问题。 斯威夫特的露骨和辱骂性假图片本周开始在社交媒体平台 X 上广泛传播。 她的“Swifties”热心粉丝群迅速动员起来，在以前称为 Twitter 的平台上发起反攻，并使用#ProtectTaylorSwift 标签，在其中充斥着这位流行歌星的更多正面形象。 一些人表示，他们正在举报分享深度假货的账户。 深度造假检测组织 Reality Defender 表示，它追踪到大量描绘 Swift 的未经同意的色情材料，尤其是在 X 上。一些图像还传播到了 Meta 旗下的 Facebook 和其他社交媒体平台。 （欲了解当天的热门科技新闻， 订阅 到我们的技术通讯 Today’s Cache） Reality Defender 的增长主管梅森·艾伦 (Mason Allen) 表示：“不幸的是，当其中一些被删除时，它们已经传播到了数以百万计的用户。” 研究人员发现了至少几十张独特的人工智能生成的图像。 最广泛分享的是与足球相关的内容，展示了涂满油漆或血迹斑斑的斯威夫特，这些内容将她物化，并在某些情况下对她的深度伪造角色造成了暴力伤害。 研究人员表示，过去几年中，明显的深度伪造的数量有所增加，因为用于生成此类图像的技术变得更容易获取和使用。 2019 年，人工智能公司 DeepTrace Labs 发布的一份报告显示，这些图像绝大多数都是针对女性的武器。 据称，大多数受害者是好莱坞演员和韩国流行歌手。 另请阅读 | 印度监管深度造假和生成人工智能 | 解释 滚石乐队的资深作家布列塔尼·斯帕诺斯（Brittany Spanos）在纽约大学教授斯威夫特的课程，她说斯威夫特的粉丝会迅速动员起来支持他们的艺人，尤其是那些非常严肃地对待自己的粉丝并在有不当行为的情况下。 […]
拜登音频 Deepfake 在选举前夕向专家发出警报
氮o 政治深度造假比世界各地的虚假信息专家更令世界各地的虚假信息专家感到震惊 篡改的音频消息 美国总统乔·拜登的言论于周末开始流传。 在电话留言中，一个声音被编辑成拜登的声音，敦促新罕布什尔州选民不要在周二的民主党初选中投票。 电话留言写道：“为 11 月的选举保留你的选票。” 它甚至使用了拜登的标志性短语之一：“真是一群胡言乱语。” 事实上，总统并未出现在新罕布什尔州竞选的选票上，而且初选投票并不妨碍人们参加 11 月的选举。 许多人警告说，新的人工智能驱动的视频和图像生成器今年将被用来获取政治利益，而世界近一半地区的代表在民意调查中面临着风险。 但现在专家们担心的是音频深度假货。 它们易于编辑，生产成本低廉，而且特别难以追踪。 研究人员表示，将令人信服的电话留言与选民登记数据库结合起来，坏人就拥有了即使是最先进的选举系统也无力应对的强大武器。 消费者权益倡导智囊团 Public Citizen 总裁罗伯特·韦斯曼 (Robert Weissman) 表示：“政治深度造假时刻已经到来。” 他呼吁立法者针对虚假音频和视频记录采取保护措施，以避免“选举混乱”。 拜登的虚假信息发布之际，越来越多的美国政治竞选活动使用人工智能软件来接触全体选民，而且投资者正在向语音克隆初创公司投入资金。 周一，当 Deepfake 手机短信流传开来时，人工智能语音复制初创公司 ElevenLabs 宣布已筹集新一轮资金 有价值的 该公司价值11亿美元。 被篡改的政治录音并不是第一次。 去年，在斯洛伐克议会选举之前，音频深度造假在社交媒体上传播，其中包括党领袖米哈尔·西梅卡 (Michal Simecka) 似乎正在讨论购买选票计划的一段视频。 与此同时，视频和音频深度伪造的政治用途已被证明是有限的。 目前还不清楚拜登的信息到底是如何产生的。 新罕布什尔州总检察长周一正在调查这起电话。 但波士顿大学新闻学和新兴媒体研究助理教授琼·多诺万表示，追踪虚假音频的来源将特别困难，因为它是通过电话而不是在线传播的。 通过电话传送的音频消息不带有相同的数字轨迹。 “这是下一代肮脏伎俩的迹象，”多诺万说。 假拜登剪辑让虚假信息研究人员和选举官员特别担忧还有另一个原因。 这证实了他们最大的担忧：不良行为者利用深度造假不仅是为了影响公众舆论，也是为了阻止选民完全参加投票。 研究操纵音频和选举的西北大学教授尼克·迪亚科普洛斯 (Nick Diakopoulos) 表示：“即使此类错误信息带来的混乱只会影响几百或几千张选票，但它对结果和成果而言可能是有意义的。” 美国联邦选举委员会在监管政治深度造假方面已经采取了一些小步骤，但尚未取缔有助于生成深度造假的技术。 一些州已经提出了自己的法律来遏制深度造假。 选举官员正在进行训练演习，为猛攻做好准备。 8 月，约 100 […]
拉什米卡·曼丹娜 (Rashmika Mandanna) 对她的 Deepfake 视频背后的男子被捕做出反应：“这是一个提醒……”
周六，德里警方声称逮捕了制作女演员拉什米卡·曼丹娜 (Rashmika Mandanna) 深度造假视频的男子。 被告是来自安得拉邦贡图尔的 24 岁伊曼尼·纳文 (Eemani Naveen)，他希望在自己的 Instagram 账号上增加粉丝。 去年11月，这段视频在社交媒体上疯传，引发各界要求对社交媒体进行监管。 在深度伪造视频中，拉什米卡的脸变成了伦敦影响者扎拉·帕特尔的脸。 该案的调查从 2023 年 11 月开始进行。 针对逮捕事件，拉什米卡也在她的 Instagram 上写道：“向@delhi.police_official 表达我衷心的感谢。 感谢您逮捕责任人。 衷心感谢用爱拥抱我、支持我并保护我的社区。 女孩和男孩——如果您的图像在未经您同意的情况下在任何地方使用或变形。 这是错误的！ 我希望这提醒您，您周围的人都会支持您，并且将会采取行动！ Х（原文如此）。” 据《今日印度》报道，被告纳文透露，他曾经管理过三名名人的粉丝页面。 为了增加 Rashmika 粉丝页面的关注者，他于 2023 年 10 月 13 日创建并发布了这个 Deepfake 视频。 一段似乎描绘 Rashmika Mandanna 进入电梯的深度伪造视频在社交媒体上疯传后不久，人们对技术滥用和缺乏足够法律保障的行为表示广泛抗议，导致这种有害的人工智能 (AI) 用途蓬勃发展。 不久之后，一段阿莉娅·布哈特 (Alia Bhatt) 变形脸的视频在社交媒体上疯传。 在视频中，阿莉娅·巴特的脸被剪辑在另一位女士身上，可以看到后者坐在床上。 视频中，一个女孩穿着蓝色花卉系带套装，上面印着阿丽娅的脸，她对着镜头做出了手势。 热门视频 Anupam Kher、Madhur […]