Mozilla 建议在 AI 浪漫应用上“向左滑动”
根据 Mozilla 的“隐私不包括”买家指南的研究人员周三发布的一份报告，寻求虚拟爱情的浪漫主义者应该谨慎对待多情的人工智能聊天机器人。 在检查了 11 个“人工智能灵魂伴侣”后，研究人员对所有应用程序都表示反对，因为它们未能为从用户那里提取的个人数据提供足够的隐私、安全性和安全性。 他们指出，11 个聊天机器人中有 10 个未能满足 Mozilla 的最低安全标准，例如要求强密码或具有管理安全漏洞的方法。 该报告显示，大多数应用程序的隐私政策提供的关于如何使用用户对话内容来训练人工智能的信息少之又少，而且关于人工智能模型如何工作的透明度也很少。 “我们审查的 11 个应用程序中的大多数都是由小型开发者开发的，你无法找到很多相关信息，”该指南的总监 Jen Caltrider 告诉 TechNewsWorld。 类固醇的操纵 该报告补充说，用户对其数据也几乎没有控制权，因此很可能受到操纵、滥用和心理健康后果。 “这些应用程序旨在让您放弃大量个人信息，因为它们试图了解您，”卡尔特里德解释道。 “他们对你的生活感兴趣，他们了解的越多，就越能与你交谈并成为你的灵魂伴侣。” “如果你是一个想要操纵别人的邪恶之人，那么这就是类固醇操纵，”卡尔特里德说。 “你已经构建了一个聊天机器人，它将了解一个弱势群体，与他们建立联系，并成为他们的朋友。 然后你可以使用该聊天机器人来操纵他们的想法和行为。” 该报告还批评应用程序制造商没有为用户提供选择不将其亲密聊天内容用于训练程序所使用的人工智能模型的选择。 研究人员指出，只有 Genesia AI 一家公司拥有选择退出的替代方案，这表明它是一项可行的功能。 “如果消费者担心自己的信息在未经其明确许可的情况下被用于营销目的或用于训练人工智能引擎，则需要仔细审查公司的数据收集实践，并行使选择加入或选择退出数据收集的任何权利，共享、出售或保留，”首席运营官 James E. Lee 建议道。 身份盗窃资源中心是一家非营利组织，致力于最大限度地降低风险并减轻身份泄露和犯罪的影响，位于加利福尼亚州圣地亚哥。 “保留的信息也可能成为网络犯罪分子勒索软件或身份盗窃的目标，”他告诉 TechNewsWorld。 AI 浪漫应用飙升 报告称，使用复杂的人工智能算法来模拟与浪漫伴侣互动体验的应用程序和平台数量正在猛增。 报告指出，过去一年，Mozilla 审查的 11 个关系聊天机器人仅在 Google Play 商店上的下载量就达到了约 1 亿次。 报告补充说，当 OpenAI 的 […]