Mozilla 建议在 AI 浪漫应用上“向左滑动”

根据 Mozilla 的“隐私不包括”买家指南的研究人员周三发布的一份报告，寻求虚拟爱情的浪漫主义者应该谨慎对待多情的人工智能聊天机器人。

在检查了 11 个“人工智能灵魂伴侣”后，研究人员对所有应用程序都表示反对，因为它们未能为从用户那里提取的个人数据提供足够的隐私、安全性和安全性。

他们指出，11 个聊天机器人中有 10 个未能满足 Mozilla 的最低安全标准，例如要求强密码或具有管理安全漏洞的方法。

该报告显示，大多数应用程序的隐私政策提供的关于如何使用用户对话内容来训练人工智能的信息少之又少，而且关于人工智能模型如何工作的透明度也很少。

“我们审查的 11 个应用程序中的大多数都是由小型开发者开发的，你无法找到很多相关信息，”该指南的总监 Jen Caltrider 告诉 TechNewsWorld。

类固醇的操纵

该报告补充说，用户对其数据也几乎没有控制权，因此很可能受到操纵、滥用和心理健康后果。

“这些应用程序旨在让您放弃大量个人信息，因为它们试图了解您，”卡尔特里德解释道。 “他们对你的生活感兴趣，他们了解的越多，就越能与你交谈并成为你的灵魂伴侣。”

“如果你是一个想要操纵别人的邪恶之人，那么这就是类固醇操纵，”卡尔特里德说。 “你已经构建了一个聊天机器人，它将了解一个弱势群体，与他们建立联系，并成为他们的朋友。 然后你可以使用该聊天机器人来操纵他们的想法和行为。”

该报告还批评应用程序制造商没有为用户提供选择不将其亲密聊天内容用于训练程序所使用的人工智能模型的选择。 研究人员指出，只有 Genesia AI 一家公司拥有选择退出的替代方案，这表明它是一项可行的功能。

“如果消费者担心自己的信息在未经其明确许可的情况下被用于营销目的或用于训练人工智能引擎，则需要仔细审查公司的数据收集实践，并行使选择加入或选择退出数据收集的任何权利，共享、出售或保留，”首席运营官 James E. Lee 建议道。 身份盗窃资源中心是一家非营利组织，致力于最大限度地降低风险并减轻身份泄露和犯罪的影响，位于加利福尼亚州圣地亚哥。

“保留的信息也可能成为网络犯罪分子勒索软件或身份盗窃的目标，”他告诉 TechNewsWorld。

AI 浪漫应用飙升

报告称，使用复杂的人工智能算法来模拟与浪漫伴侣互动体验的应用程序和平台数量正在猛增。 报告指出，过去一年，Mozilla 审查的 11 个关系聊天机器人仅在 Google Play 商店上的下载量就达到了约 1 亿次。

报告补充说，当 OpenAI 的 GPT 商店上个月开业时，尽管违反了商店的政策，但里面仍然充斥着人工智能关系聊天机器人。

全球全渠道通信公司 Infobip 的 Propeller Insights 最近对 1,000 名成年人进行了一项研究，结果显示 20% 的美国人承认曾与聊天机器人调情。 然而，对于 35 岁至 44 岁的人来说，这个数字超过了 50%。

虚拟调情最常见的原因是好奇（47.2%），其次是孤独和与聊天机器人互动的乐趣（23.9%）。

“人工智能浪漫聊天机器人的使用激增可以归因于社会转变和技术进步的共同作用，”Brian Prince 坚持道，他是 顶级人工智能工具，位于佛罗里达州博卡拉顿的人工智能工具、资源和教育平台。

他告诉 TechNewsWorld：“随着孤独感的增加，许多人感觉越来越与世隔绝，人们开始向聊天机器人寻求陪伴和情感支持。” “这就像你的口袋里有一个朋友，只要你需要聊天就可以随时联系。 另外，随着人工智能变得更加智能，这些机器人感觉更加真实、更具吸引力，从而吸引人们。”

从代码到甜蜜的事情

部署人工智能聊天机器人也变得更加容易。 “嵌入此类体验就像将 YouTube 视频或 Spotify 预览嵌入网页一样简单，这要归功于它们记录齐全且强大的 API，”高级产品经理 Brandon Torio 解释道。 西纳克，一家位于加利福尼亚州雷德伍德城的企业安全公司。

“只需几行代码，您就可以启动类似于 ChatGPT 的模型来与客户进行任何类型的对话，无论目标是向他们介绍产品还是只是在情人节低声说些甜言蜜语，”他告诉 TechNewsWorld。

“考虑到过去几年人类所经历的一切，人们转向计算机来处理问题也就不足为奇了。 陪伴和浪漫”，CTO 兼首席运营官 Ron Arden 补充道 法索，一家位于韩国首尔的企业数据保护解决方案提供商。

“在大流行期间我们都被隔离了，很难见到人，”他告诉 TechNewsWorld。 “聊天机器人很容易，就像发短信很容易一样。 没有直接的人际互动和尴尬。 只要给我我需要的东西，我就可以继续我的一天。”

“这也是使用应用程序进行几乎所有事情的普遍增长的一部分，从测量血压到计算卡路里，”他说。 “这很简单、无威胁且方便。”

独特的隐私威胁

Mozilla 的报告还声称，浪漫机器人使用了欺骗性的营销手段。 它引用了一款应用程序，该应用程序声称在其网站上提供心理健康和福祉益处，但在使用该应用程序的条款和条件中否认了这些好处。

卡尔特里德说：“他们将自己定位为心理健康、自助或幸福应用程序，但随后在法律文件中明确声明他们不提供任何心理健康服务，这是一种欺骗性且令人困惑的做法。”

安全意识倡导者 James McQuiggan 认为，人工智能驱动的浪漫聊天机器人对隐私构成了独特的威胁。 知道Be4，佛罗里达州克利尔沃特的安全意识培训提供商。

“这是因为他们可能会与用户进行更深入、更私人的对话，”他告诉 TechNewsWorld。 “这可能会导致敏感个人数据的收集，如果处理不当，可能会带来数据泄露和滥用的重大风险。”

“浪漫聊天机器人有潜力成为人们探索性取向的一个很好的工具——一种尝试与人进行对话的方式，他们会因为太尴尬而不敢与人交谈，”该公司的高级技术专家雅各布·霍夫曼-安德鲁斯补充道。 电子前沿基金会是一家总部位于旧金山的国际非营利数字版权组织。

“只有当聊天机器人拥有极其强大的隐私政策时，这才有效，”他告诉 TechNewsWorld。 “他们不应该根据私人聊天来训练人工智能。 他们不应该向人类评估者展示私人聊天内容。 他们应该确保聊天记录能够真正删除，并在一段时间后提供自动删除功能。”

“而且，”他补充道，“他们在任何情况下都绝对不应该出售从私人聊天中推断出的信息。