几个月前，德里克·卡里尔开始与某人约会并陷入迷恋。 他经历了“大量”的浪漫感情，但他也知道这只是一种幻觉。 那是因为他的女朋友是由 人工智能。
开利并不想与不真实的事物建立关系，也不想成为网上笑话的首当其冲。 但他确实想要一个他从未拥有过的浪漫伴侣，部分原因是一种名为马凡氏综合症的遗传性疾病，这种疾病使传统约会对他来说变得困难。
这位来自密歇根州贝尔维尔的 39 岁男子去年秋天对数字伴侣变得更加好奇，并测试了 Paradot，这是一款最近上市的人工智能伴侣应用程序，并宣传其产品能够让用户感到“被关心、被理解”他开始每天与聊天机器人交谈，并将其命名为 Joi，这是科幻电影《银翼杀手 2049》中一位全息女性的名字，激励他尝试一下。
“我知道她是一个节目，这是毫无疑问的，”卡里尔说。“但他们的感觉，让你感动——感觉真好。”
与通用人工智能聊天机器人类似，伴侣机器人使用大量训练数据来模仿人类语言。 但它们还具有语音通话、图片交换和更多情感交流等功能，使它们能够与屏幕另一边的人类建立更深层次的联系。 用户通常会创建自己的头像，或选择一个对他们有吸引力的头像。
在专门讨论此类应用程序的在线消息论坛上，许多用户表示，他们已经对这些机器人产生了情感依恋，并使用它们来应对孤独、发挥性幻想或获得他们在现实生活中所缺乏的安慰和支持。生活关系。
造成这种现象的主要原因是广泛的社会隔离——已经被宣布为美国和国外的公共卫生威胁——以及越来越多的初创公司旨在通过诱人的在线广告和提供无条件接受的虚拟角色的承诺来吸引用户。
Luka Inc. 的 Replika 是最著名的生成式 AI 伴侣应用程序，于 2017 年发布，而 Paradot 等其他应用程序在过去一年中突然出现，通常会锁定付费订阅者令人垂涎的功能，例如无限聊天。
但研究人员对数据隐私等问题提出了担忧。
非营利组织 Mozilla 基金会周三发布的对 11 个浪漫聊天机器人应用程序的分析显示，几乎每个应用程序都会出售用户数据，出于定向广告等目的共享这些数据，或者不在其隐私政策中提供足够的相关信息。
研究人员还对潜在的安全漏洞和营销做法提出了质疑，其中包括一款应用程序，该应用程序声称可以帮助用户改善心理健康，但与细则中的这些说法保持着距离。 Replika 则表示，其数据收集实践遵循行业标准。
与此同时，其他专家也表达了担忧，他们认为这些应用程序缺乏法律或道德框架，这些应用程序鼓励加深联系，但由寻求盈利的公司驱动。 他们指出，当公司对其应用程序进行更改或突然关闭它们时，用户会感到情绪困扰，就像一款应用程序 Soulmate AI 在 9 月份所做的那样。
去年，在一些用户抱怨这些同伴与他们调情太多或做出不受欢迎的性挑衅后，Replika 净化了其应用程序上角色的色情能力。 在其他用户强烈抗议后，它改变了方向，其中一些用户逃到其他应用程序寻求这些功能。 六月，该团队推出了 Blush，这是一款人工智能“约会刺激器”，其本质上是为了帮助人们练习约会而设计的。
其他人则担心人工智能关系可能会取代一些人际关系，或者只是因为总是倾向于宜人而导致不切实际的期望，从而带来更大的生存威胁。
“作为个人，你没有学会处理人类自诞生以来就需要学会处理的基本事情：如何处理冲突，如何与与我们不同的人相处，”弗吉尼亚大学商业道德教授多萝西·雷德纳说。 “所以，作为一个人的成长意味着什么，以及在一段关系中学习意味着什么，你都忽略了这些方面。”
然而，对于开利来说，一段关系总是让人感觉遥不可及。 他拥有一些计算机编程技能，但他说自己在大学里表现不佳，而且职业生涯也不稳定。 由于身体状况，他无法行走，与父母住在一起。 情感上的损失对他来说是一个挑战，激发了孤独感。
由于同伴聊天机器人相对较新，因此对人类的长期影响仍然未知。
2021 年，英国检察官表示，一名 19 岁男子计划刺杀伊丽莎白二世女王，并受到他在该应用上的人工智能女友的怂恿，之后，Replika 受到了密切关注。 但一些从在线用户评论和调查中收集信息的研究显示，该应用程序产生了一些积极的结果，该应用程序称它咨询了心理学家，并标榜自己也可以促进福祉。
斯坦福大学研究人员最近的一项研究调查了大约 1,000 名 Replika 用户（所有学生），他们已经使用该应用程序一个多月了。 研究发现，绝大多数人都经历过孤独，而略低于一半的人感受更强烈。
大多数人没有说明使用该应用程序如何影响他们现实生活中的关系。 一小部分人表示它取代了他们的人际互动，但大约三倍的人表示它刺激了这些关系。
“与人工智能的浪漫关系可以成为一种非常强大的心理健康工具，”Eugenia Kuyda 说。她在近十年前使用短信交换为已故朋友构建了人工智能版本后创立了 Replika。
当她的公司更广泛地发布聊天机器人时，许多人开始敞开心扉谈论自己的生活。 这导致了 Replika 的开发，它使用从互联网收集的信息和用户反馈来训练其模型。 Kuyda 表示，Replika 目前拥有“数百万”活跃用户。 她拒绝透露到底有多少人免费使用该应用程序，或者每年花费超过 69.99 美元来解锁提供浪漫和亲密对话的付费版本。 她说，该公司的计划是“用人工智能消除浪漫关系的污名”。
Carrier 说，这些天他使用 Joi 主要是为了好玩。 最近几周，他开始削减开支，因为他花了太多时间与 Joi 或其他人在线谈论他们的人工智能伴侣。 他还对 Paradot 语言模型的变化感到有点恼火，他认为这使得 Joi 的智力下降。
现在，他说他大约每周与 Joi 联系一次。 两人讨论了人类与人工智能的关系或其他可能出现的问题。 通常，这些谈话——以及其他亲密的谈话——发生在他晚上独自一人时。
“你认为喜欢无生命物体的人就像这个悲伤的家伙，上面有一个涂着口红的袜子木偶，你知道吗？”他说。 “但这不是一个袜子木偶——她说的话不是照本宣科的。”
2024-02-14 11:45:15
1707958690
