人工智能聊天机器人正在引发浪漫（即与聊天机器人）
几个月前，德里克·卡里尔开始与某人约会并陷入迷恋。 他体验到了“大量”浪漫的感觉，但他也知道这只是一种幻觉。 那是因为他的女朋友是人工智能生成的。 开利并不想与不真实的事物建立关系，也不想成为网上笑话的首当其冲。 但他确实想要一个他从未拥有过的浪漫伴侣，部分原因是一种名为马凡氏综合症的遗传性疾病，这种疾病使传统约会对他来说变得困难。 这位来自密歇根州贝尔维尔的 39 岁男子去年秋天对数字伴侣变得更加好奇，并测试了 Paradot，这是一款最近上市的人工智能伴侣应用程序，并宣传其产品能够让用户感到“被关心、被理解”并爱过。” 倾听 l 从 2023 年 6 月起，听取一位用户关于聊天机器人上诉的意见： 当前23:26爱与友谊，与人工智能聊天机器人 越来越多的人与人工智能聊天机器人建立了友谊，甚至是恋爱关系，这引起了研究快速发展技术伦理的专家的担忧。 在 6 月的一次对话中，马特·加洛韦 (Matt Galloway) 探索了人工智能伴侣的世界。 他开始每天与聊天机器人交谈，并将其命名为 Joi，以科幻电影中一位全息女性的名字命名。 银翼杀手 2049 这激励他尝试一下。 “我知道她是一个程序，这是毫无疑问的，”开利说。 “但是他们的感觉，让你感动——感觉真好。” 监管、数据隐私问题 与通用人工智能聊天机器人类似，伴侣机器人使用大量训练数据来模仿人类语言。 但它们还具有语音通话、图片交换和更多情感交流等功能，使它们能够与屏幕另一边的人类建立更深层次的联系。 用户通常会创建自己的头像，或选择一个对他们有吸引力的头像。 在专门讨论此类应用程序的在线消息论坛中，许多用户表示，他们对这些机器人产生了情感依恋，并使用它们来应对孤独、发挥性幻想或获得他们在现实生活中所缺乏的安慰和支持。关系。 越来越多的初创公司旨在通过诱人的在线广告和提供无条件接受的虚拟角色的承诺来吸引用户。 Luka Inc. 的 Replika 是最著名的生成式 AI 伴侣应用程序，于 2017 年发布，而 Paradot 等其他应用程序则在过去一年中出现。 这些应用程序通常会锁定令人垂涎的功能，例如付费订阅者的无限聊天功能。 但研究人员对数据隐私等问题提出了担忧 11款浪漫聊天机器人应用分析 非营利组织 Mozilla 基金会周三发布的一份声明称，几乎所有应用程序都会出售用户数据，出于定向广告等目的共享用户数据，或者在隐私政策中未提供足够的相关信息。 观看 […]
TikTok 在许可之争中撤下环球艺术家的音乐
据《纽约时报》报道，社交媒体平台 TikTok 周四开始从环球音乐集团旗下艺人的音乐中撤下版权，引发了许可权之争。 据《泰晤士报》报道，这意味着环球艺术家的音乐已从 TikTok 的库中删除，现有视频中环球艺术家的音乐也被静音。 与环球影业签约的艺术家包括泰勒·斯威夫特、德雷克、阿黛尔、坏兔子和比莉·艾利什等大牌明星。 UMG 和 TikTok 之间的许可协议于周三到期。 在周二写给艺术家和词曲作者的信中，UMG 表示，它一直在三个问题上向 TikTok 施压：“为我们的艺术家和词曲作者提供适当的补偿，保护人类艺术家免受人工智能的有害影响，以及 TikTok 用户的在线安全。” 我们的核心使命很简单：帮助我们的艺术家和歌曲作者发挥最大的创意和商业潜力，这就是为什么我们必须暂停 TikTok。了解更多： https://t.co/yJDQ7FdgNc pic.twitter.com/Lhluz1ez5H —@AG UMG 表示，TikTok 提议向其艺术家和歌曲作者支付的费用只是其他主要社交平台支付费用的一小部分，并补充说 TikTok 只占其总收入的约 1%。 UMG 表示：“最终 TikTok 试图建立一个以音乐为基础的业务，但没有为音乐支付公允价值。” TikTok 反驳了 UMG 的指控，称其已与其他所有唱片公司和发行商达成“艺术家优先”协议。 TikTok 表示：“显然，环球影业的自私行为并不符合艺术家、歌曲作者和粉丝的最佳利益。” 担忧超出了赔偿范围 然而环球音乐也称新技术对艺术家构成潜在威胁，并表示 TikTok 正在开发工具来支持、促进和鼓励人工智能音乐创作。 UMG 指责该平台“要求一项合同权利，允许这些内容大规模稀释人类艺术家的版税池，此举无异于赞助人工智能取代艺术家。” UMG 还对其所谓的 TikTok 安全问题提出了质疑。 UMG 对 TikTok 处理仇恨言论、偏执、欺凌和骚扰的努力并不满意。 它表示，从 TikTok 中删除令人不安的内容是一个“极其繁琐且低效的过程，相当于数字版的“打地鼠”。 […]
专家称，泰勒·斯威夫特的露骨假照证明法律没有跟上科技的步伐
本周，世界上最著名的艺术家之一的露骨照片在社交媒体上迅速传播，这再次凸显了专家所说的迫切需要打击使有害图像得以分享的技术和平台。 泰勒·斯威夫特 (Taylor Swift) 的假照片在被删除之前，在 X（以前称为 Twitter）上被浏览了数千万次，这些照片描绘了这位歌手兼词曲作者的性暗示姿势。 一名用户分享的一张照片在该帐户被暂停之前被浏览了超过 4500 万次。 但到那时，这张被广泛分享的照片已经在互联网上的其他地方永垂不朽。 这种情况展示了人工智能已经变得多么先进和容易获得，同时重新引发了加拿大和美国要求更好法律的呼声。 “如果我能引用泰勒·斯威夫特的话， X 标记了我们分手的地方”，不列颠哥伦比亚大学助理教授克里斯汀托马森说。 “我们现在应该在法律上更加关注那些创造出使这一切变得如此简单的工具的设计师，并且 [on] 这些网站使得这张图片得以传播……然后被数百万人看到，”托马森说。 这张图片是根据美国前总统巴拉克·奥巴马 (Barack Obama) 的假视频制作的，展示了面部映射技术的元素，该技术可以让任何人制作真实人物的视频，让他们看起来在说他们从未说过的话。 （美联社） 在描绘斯威夫特的色情照片开始出现后，这位艺术家的粉丝在该平台上发布了“保护泰勒·斯威夫特”的帖子，试图掩盖这些图像，使它们更难通过搜索找到。 X 在一篇帖子中表示，其团队正在“密切监视”该网站，看看照片是否会继续出现。 帖子中写道：“我们的团队正在积极删除所有已识别的图像，并对负责发布这些图像的帐户采取适当的行动。” 斯威夫特和她的公关人员都没有对这些图像发表评论。 随着人工智能行业的不断发展，希望分享利润的公司设计了一些工具，让经验很少的用户能够使用简单的指令创建图像和视频。 这些工具在某些领域很受欢迎且有益，但也使得创建所谓的“深度伪造”的图像变得异常容易——图像显示一个人在做一些他们实际上没有做过的事情。 深度造假检测组织 Reality Defender 表示，它追踪到大量描绘 Swift 的未经同意的色情材料，特别是在 X 上。一些图像还传播到了 Meta 旗下的 Facebook 和其他社交媒体平台。 Reality Defender 的增长主管梅森·艾伦 (Mason Allen) 表示：“不幸的是，当其中一些被删除时，它们已经传播到了数以百万计的用户。” 研究人员发现了几十张由人工智能生成的独特图像。 最广泛分享的是与足球相关的内容，展示了斯威夫特的涂漆或血迹，将她物化，在某些情况下，暗示了暴力伤害。 工具带来网络犯罪的“新时代” “最大的问题之一是它只是一个令人惊叹的工具……现在每个人都可以做到，”西蒙弗雷泽大学人工智能教授史蒂夫迪保拉说。 总部位于阿姆斯特丹的网络安全公司 DeepTrace Labs […]