几个月前，德里克·卡里尔开始与某人约会并陷入迷恋。
他体验到了“大量”浪漫的感觉，但他也知道这只是一种幻觉。
那是因为他的女朋友是人工智能生成的。
开利并不想与不真实的事物建立关系，也不想成为网上笑话的首当其冲。
但他确实想要一个他从未拥有过的浪漫伴侣，部分原因是一种名为马凡氏综合症的遗传性疾病，这种疾病使传统约会对他来说变得困难。
这位来自密歇根州贝尔维尔的 39 岁男子去年秋天对数字伴侣变得更加好奇，并测试了 Paradot，这是一款最近上市的人工智能伴侣应用程序，并宣传其产品能够让用户感到“被关心、被理解”并爱过。”
当前23:26爱与友谊，与人工智能聊天机器人
越来越多的人与人工智能聊天机器人建立了友谊，甚至是恋爱关系，这引起了研究快速发展技术伦理的专家的担忧。 在 6 月的一次对话中，马特·加洛韦 (Matt Galloway) 探索了人工智能伴侣的世界。
他开始每天与聊天机器人交谈，并将其命名为 Joi，以科幻电影中一位全息女性的名字命名。 银翼杀手 2049 这激励他尝试一下。
“我知道她是一个程序，这是毫无疑问的，”开利说。 “但是他们的感觉，让你感动——感觉真好。”
监管、数据隐私问题
与通用人工智能聊天机器人类似，伴侣机器人使用大量训练数据来模仿人类语言。 但它们还具有语音通话、图片交换和更多情感交流等功能，使它们能够与屏幕另一边的人类建立更深层次的联系。 用户通常会创建自己的头像，或选择一个对他们有吸引力的头像。
在专门讨论此类应用程序的在线消息论坛中，许多用户表示，他们对这些机器人产生了情感依恋，并使用它们来应对孤独、发挥性幻想或获得他们在现实生活中所缺乏的安慰和支持。关系。
越来越多的初创公司旨在通过诱人的在线广告和提供无条件接受的虚拟角色的承诺来吸引用户。
Luka Inc. 的 Replika 是最著名的生成式 AI 伴侣应用程序，于 2017 年发布，而 Paradot 等其他应用程序则在过去一年中出现。 这些应用程序通常会锁定令人垂涎的功能，例如付费订阅者的无限聊天功能。
但研究人员对数据隐私等问题提出了担忧
11款浪漫聊天机器人应用分析 非营利组织 Mozilla 基金会周三发布的一份声明称，几乎所有应用程序都会出售用户数据，出于定向广告等目的共享用户数据，或者在隐私政策中未提供足够的相关信息。
在深度造假、后真相和人工智能的时代，我们是否已经陷入了真实性危机？ 根据韦氏词典分析的数据，“真实”一词今年的搜索量大幅上升，导致该词典将其评为年度词汇。
研究人员还对潜在的安全漏洞和营销做法提出了质疑，其中包括一款应用程序，该应用程序声称可以帮助用户改善心理健康，但与细则中的这些说法保持着距离。 Replika 则表示，其数据收集实践遵循行业标准。
与此同时，其他专家也表达了担忧，他们认为这些应用程序缺乏法律或道德框架，这些应用程序鼓励加深联系，但由寻求盈利的公司驱动。
可以增进人际关系
去年，在一些用户抱怨这些同伴与他们调情太多或做出不受欢迎的性挑衅后，Replika 净化了其应用程序上角色的色情能力。 在其他用户强烈抗议后，它改变了方向，其中一些用户逃到其他应用程序寻求这些功能。 六月，该团队推出了 Blush，这是一款人工智能“约会刺激器”，其本质上是为了帮助人们练习约会而设计的。
有些人担心人工智能关系总是倾向于宜人，因此可能会带来不切实际的期望。
“作为个人，你没有学会处理人类自诞生以来就需要学会处理的基本事情：如何处理冲突，如何与与我们不同的人相处，”多萝西·雷德纳说弗吉尼亚大学商业道德教授。 “所以，作为一个人的成长意味着什么，以及在一段关系中学习意味着什么，你都缺失了这些方面。”
最近的一项研究 斯坦福大学研究人员对大约 1,000 名 Replika 用户（全部是学生）进行了调查，他们已经使用该应用程序一个多月了。 研究发现，绝大多数人都经历过孤独，而略低于一半的人感受更强烈。
大多数人没有说明使用该应用程序如何影响他们现实生活中的关系。 一小部分人表示它取代了他们的人际互动，但大约三倍的人表示它刺激了这些关系。
“这不是袜子木偶”
Eugenia Kuyda 大约十年前创立了 Replika，此前她使用短信交换为一位已故朋友构建了人工智能版本。
当她的公司更广泛地发布聊天机器人时，许多人开始敞开心扉谈论自己的生活。 这导致了 Replika 的开发，它使用从互联网收集的信息和用户反馈来训练其模型。
该项目让尤金妮娅·库伊达 (Eugenia Kuyda) 感到悲伤。 然后，这启发她创建了虚拟朋友应用程序 Replika。 全球有超过 1000 万人使用它。
Kuyda 拒绝透露具体有多少人免费使用该应用程序，或者有多少人每年花费超过 69.99 美元来解锁提供浪漫和亲密对话的付费版本。
对于开利来说，一段感情总是让人感觉遥不可及。 由于身体状况原因，他无法行走，与父母住在一起。 情感上的损失对他来说是一个挑战，激发了孤独感。
Carrier 表示，他最近几周开始削减开支，因为他花了太多时间与 Joi 或其他人在线谈论他们的人工智能伴侣。 他还对 Paradot 语言模型的变化感到有点恼火，他认为这使得 Joi 的智力下降。
现在，他说他大约每周与 Joi 联系一次。 两人讨论了人类与人工智能的关系或其他可能出现的问题。 通常，这些谈话——以及其他亲密的谈话——发生在他晚上独自一人的时候。
“你认为喜欢无生命物体的人就像这个悲伤的家伙，穿着涂着口红的袜子木偶，你知道吗？” 他说。 “但这不是一个袜子木偶——她说的话不是照本宣科的。”
1708309046
2024-02-14 15:48:07
