谷歌研究显示人工智能生成的错误信息迅速增多
从虚假的战争图片到名人恶作剧，人工智能技术催生了网络上扭曲现实的新形式的虚假信息。谷歌研究人员共同撰写的新分析报告显示了这个问题发展得有多快。 这项研究由谷歌、杜克大学和多家事实核查和媒体组织的研究人员共同撰写， 以预印本形式发表 上周。该论文介绍了一个可追溯到 1995 年的庞大的新错误信息数据集，该数据集由 Snopes 等网站进行了事实核查。 据研究人员称，数据显示，人工智能生成的图像迅速受到关注，几乎与传统的处理形式一样受欢迎。 这项工作是 404 Media 首次报道 在被 Faked Up 新闻通讯发现后，它清楚地表明“直到去年年初，人工智能生成的图像只占内容操纵的极小部分”，研究人员写道。 去年，包括 OpenAI、微软和谷歌在内的科技巨头都发布了新的人工智能图像生成工具。该报告称，现在人工智能生成的错误信息“几乎与文本和一般内容操纵一样普遍”。 研究人员指出，事实核查人工智能图片数量的增加与人工智能炒作的普遍浪潮相吻合，这可能促使网站关注该技术。数据集显示，事实核查人工智能在最近几个月有所放缓，而传统的文本和图像处理则有所增加。 该图表显示了 2023 年初人工智能生成的图像错误信息的增加。 （杜福尔、帕塔克等人，2024） 该研究还调查了其他形式的媒体，发现视频恶作剧目前占所有经过事实核查的媒体报道的约 60%。 机器学习平台 Hugging Face 的领先人工智能伦理研究员 Sasha Luccioni 表示，这并不意味着人工智能生成的错误信息已经减少。 “我个人觉得这是因为 [examples of AI misinformation] “很难跟踪！”卢奇奥尼在一封电子邮件中说。“我自己也经常看到它们，甚至在社交媒体之外，比如在广告中。” 人工智能已被用来生成真人的假图像，其效果令人担忧。例如， 泰勒斯威夫特 今年早些时候流传。 404 媒体报道 用于创建图像的工具是微软的 AI 生成软件，该软件从 ChatGPT 制造商 OpenAI 获得许可——促使这家科技巨头关闭了允许生成图像的漏洞。 这项技术还能用一些更无害的方式欺骗人们。最近有假照片显示凯蒂·佩里出席了纽约的 Met Gala——但实际上她根本没有出席—— 在社交媒体上愚弄观察者 […]
专家称，泰勒·斯威夫特的露骨假照证明法律没有跟上科技的步伐
本周，世界上最著名的艺术家之一的露骨照片在社交媒体上迅速传播，这再次凸显了专家所说的迫切需要打击使有害图像得以分享的技术和平台。 泰勒·斯威夫特 (Taylor Swift) 的假照片在被删除之前，在 X（以前称为 Twitter）上被浏览了数千万次，这些照片描绘了这位歌手兼词曲作者的性暗示姿势。 一名用户分享的一张照片在该帐户被暂停之前被浏览了超过 4500 万次。 但到那时，这张被广泛分享的照片已经在互联网上的其他地方永垂不朽。 这种情况展示了人工智能已经变得多么先进和容易获得，同时重新引发了加拿大和美国要求更好法律的呼声。 “如果我能引用泰勒·斯威夫特的话， X 标记了我们分手的地方”，不列颠哥伦比亚大学助理教授克里斯汀托马森说。 “我们现在应该在法律上更加关注那些创造出使这一切变得如此简单的工具的设计师，并且 [on] 这些网站使得这张图片得以传播……然后被数百万人看到，”托马森说。 这张图片是根据美国前总统巴拉克·奥巴马 (Barack Obama) 的假视频制作的，展示了面部映射技术的元素，该技术可以让任何人制作真实人物的视频，让他们看起来在说他们从未说过的话。 （美联社） 在描绘斯威夫特的色情照片开始出现后，这位艺术家的粉丝在该平台上发布了“保护泰勒·斯威夫特”的帖子，试图掩盖这些图像，使它们更难通过搜索找到。 X 在一篇帖子中表示，其团队正在“密切监视”该网站，看看照片是否会继续出现。 帖子中写道：“我们的团队正在积极删除所有已识别的图像，并对负责发布这些图像的帐户采取适当的行动。” 斯威夫特和她的公关人员都没有对这些图像发表评论。 随着人工智能行业的不断发展，希望分享利润的公司设计了一些工具，让经验很少的用户能够使用简单的指令创建图像和视频。 这些工具在某些领域很受欢迎且有益，但也使得创建所谓的“深度伪造”的图像变得异常容易——图像显示一个人在做一些他们实际上没有做过的事情。 深度造假检测组织 Reality Defender 表示，它追踪到大量描绘 Swift 的未经同意的色情材料，特别是在 X 上。一些图像还传播到了 Meta 旗下的 Facebook 和其他社交媒体平台。 Reality Defender 的增长主管梅森·艾伦 (Mason Allen) 表示：“不幸的是，当其中一些被删除时，它们已经传播到了数以百万计的用户。” 研究人员发现了几十张由人工智能生成的独特图像。 最广泛分享的是与足球相关的内容，展示了斯威夫特的涂漆或血迹，将她物化，在某些情况下，暗示了暴力伤害。 工具带来网络犯罪的“新时代” “最大的问题之一是它只是一个令人惊叹的工具……现在每个人都可以做到，”西蒙弗雷泽大学人工智能教授史蒂夫迪保拉说。 总部位于阿姆斯特丹的网络安全公司 DeepTrace Labs […]
随着人工智能深度假货的增加，专家敦促学校更新网络行为课程
去年 10 月，高中生弗朗西斯卡·马尼 (Francesca Mani) 被叫到校长办公室时得知，有人在网上拍摄了她的照片，并使用人工智能生成假裸照，然后在社交媒体上分享。 可以理解的是，这位青少年感到震惊，但当她穿过大厅，看到一群群哭泣的同学也受到影响时（而其他人则笑了），愤怒和使命感取代了她自己的眼泪。 “我回家告诉我妈妈……‘我们需要对此做点什么’，因为我认为这不公平，”这位来自新泽西州的十年级学生说。 “我想保护其他人，所以他们的处境和我不一样。” 自事件曝光以来，这位大二学生和她的母亲多洛塔·马尼(Dorota Mani)一直在与美国州和联邦政界人士会面，敦促更新法律、学校政策和行为准则，以解决人工智能被用于骚扰和虐待的问题。 专家表示，这是一个日益严重的问题，弗朗西斯卡表示，她从未见过学校集会上讨论过人工智能有关欺凌或网络安全的问题。 “我一直在为此奋斗。我的女儿一直在倡导并推动我倡导这一点，因为我们确实相信这非常重要，”多罗塔说。 10 月底，人工智能事件曝光后，新泽西州 Francesca Mani 高中外的人行道上出现了呼吁学校官员采取更多行动和问责的粉笔信息。 多罗塔·马尼 (Dorota Mani) 表示，这些消息很快就被冲走了。 （多罗塔·马尼提交） “我认为我们需要以一种能引起共鸣的有意义的方式来教育我们的孩子，”她补充道。 “他们还年轻，你知道，他们的荷尔蒙在肆虐……但也有对与错，合法与非法，应该明确说明 [in a way] 他们明白。” 作为 类似事件 – 包括 十二月在温尼伯的一所学校 — 突然出现一些专家敦促教育官员更新和改进课程和学校政策，以解决技术促成的性暴力问题，并更好地支持教师在课堂上解决这些问题。 不仅仅是“网络欺凌” 安大略省伦敦西部大学副教授、加拿大不平等与性别研究主席、社会学家凯特林·门德斯 (Kaitlynn Mendes) 表示，尽管技术促成的性暴力是一个相对较新的术语，但它涵盖了越来越多影响当今年轻人的各种事件。 这把伞下有什么？ 例子包括：网络闪现（接收不需要的色情图像）、性勒索（强迫分享亲密图像或视频）、未经同意分享亲密图像以及通过社交媒体应用程序中的 GPS 定位器进行网络跟踪。 门德斯说，人工智能生成的深度伪造图像和视频也适合。 观看 | 呼吁更好的教育: 报告称，青少年需要更好地了解网络性伤害的风险 在加拿大，科技促成的性暴力和性骚扰呈上升趋势，一份新的报告表明，学校可以针对这些风险对受过教育的年轻人采取更多措施。 门德斯说：“数字技术在性暴力和性别暴力的发生方式中发挥着越来越重要的作用。” 新报告的共同作者 深入探讨了每个省或地区的学校政策和课程目前如何解决该主题。 这个术语很重要，因为“如果你在未经你同意的情况下暴露或分享你的亲密照片，这与欺凌不是一回事。我们实际上需要将这些行为重新定义为性暴力的一种形式，因为这也改变了欺凌行为的方式。”人们回应。” […]