新人工智能教会人类如何更好地撒谎，但永远不会取代人类

经过 布赖恩·希尔哈维
健康影响新闻编辑

自 2022 年 11 月，随着 OpenAI 开发的微软 ChatGPT 的发布，第一个大型语言模型 (LLM) AI 应用程序向公众推出以来，已经过去了一年半的时间。

谷歌、埃隆·马斯克和许多其他人现在也已经开发或正在开发这些人工智能程序的自己版本，但 18 个月过去了，这些 LLM 人工智能程序的第一个问题仍然是它们仍然撒谎和当被问到的问题对他们来说太难回答时，就编造一些东西。

这在科技界被称为“幻觉”，尽管当微软在 2022 年推出此类人工智能的第一个版本时，人们对它很快就能呈现准确的结果抱有很大希望，但这种准确性仍然是虚幻的，因为他们继续“幻觉” ”。

以下是今天（2024 年 5 月 6 日）刚刚发布的报告：

大型语言模型 (LLM) 的采用率将在 2024 年达到另一个水平。据 Valuates 报道，LLM 市场估值在 2022 年为 105 亿美元，预计到 2029 年将达到 408 亿美元，复合年增长率 (CAGR) 惊人21.4%。

想象一下，一台机器对语言如此熟悉，它可以写诗、翻译语言，并以引人入胜的细节回答你的问题。法学硕士正在这样做，迅速改变传播、教育和创意表达等领域。然而，在他们的辉煌背后隐藏着一个隐藏的弱点，幻觉。

这些人工智能模型有时会编造事实、编造故事，或者干脆把事情弄错。

这些幻觉乍一看似乎无害——一首诗中的一点虚构，一个误译的短语。但后果可能是真实的，包括误导性信息、有偏见的输出，甚至削弱对技术的信任。

因此，至关重要的是，我们如何才能发现并减轻这些幻觉，确保法学硕士对权力说真话，而不是凭空捏造？（全文.)

许多人开始理解LLM人工智能的这一局限性，并意识到这个问题没有真正的解决方案，因为它是基于计算机的人工“智能”的固有局限性。

“人工”一词的同义词是“假的”或“不真实的”。与其将这种计算机语言称为 AI，我们可能更准确地称其为 FI，即假智能。

凯尔·威格斯, 为 Tech Crunch 撰稿，几天前报道了最近一些治愈 LLM AI 幻觉的尝试的失败。

为什么 RAG 无法解决生成式 AI 的幻觉问题

对于希望将该技术融入其运营的企业来说，幻觉——基本上是生成人工智能模型所讲述的谎言——是一个大问题。

由于模型没有真正的智能，只是根据私有模式预测单词、图像、语音、音乐和其他数据，因此有时会出错。非常错误。在《华尔街日报》最近的一篇文章中，一位消息人士讲述了一个例子，微软的生成式人工智能发明了与会者，并暗示电话会议的主题实际上并未在电话会议上讨论。

正如我之前写的，对于当今基于变压器的模型架构来说，幻觉可能是一个无法解决的问题。（全文.)

Devin Coldewey，也为技术紧缩上个月发表了一篇精彩的文章，描述了人工智能法学硕士固有的幻觉这一巨大问题：

伟大的伪装者

人工智能不知道答案，也没有学会如何关心。

我们有充分的理由不相信今天的人工智能构造告诉你的东西，它与智能或人类的基本本质、维特根斯坦的语言表示概念、甚至数据集中的虚假信息无关。

重要的是这些系统不区分不同的东西是正确的事情 看起来 正确的。

一旦你明白人工智能认为这些东西或多或少是可以互换的，一切就变得更有意义了。

现在，我并不是要回避各种形式的媒体和对话中不断发生的有关这一问题的任何引人入胜且范围广泛的讨论。从哲学家和语言学家到工程师和黑客，再到调酒师和消防员，每个人都在质疑和争论“智能”和“语言”到底是什么，以及像 ChatGPT 这样的东西是否拥有它们。

这真太了不起了！我已经学到了很多东西，因为这个领域中一些最聪明的人享受着阳光下的时光，同时从比较婴儿的嘴里也带来了新鲜的新观点。

但与此同时，当有人问“所有这些 GPT 东西怎么样，人工智能变得多么聪明，有点可怕，对吧？”一边喝着啤酒或咖啡，一边要解决很多问题。你从哪里开始——从亚里士多德、机械土耳其人、感知器或“注意力就是你所需要的”开始？

在其中一次聊天中，我发现了一种简单的方法，我发现它可以帮助人们了解为什么这些系统既非常酷又完全不可信，同时又完全不减损它们在某些领域的有用性以及周围令人惊叹的对话他们。我想我会分享它，以防你在与其他好奇、持怀疑态度但又不想听到向量或矩阵的人谈论这个问题时发现有用的观点。

只需要理解三件事就可以得出一个自然的结论：

这些模型是通过让他们在巨大的文本数据集中观察单词和句子等之间的关系来创建的，然后构建自己的内部统计图，以显示所有这些数以百万计的单词和概念如何关联和关联。没有人说过，这是一个名词，这是一个动词，这是一个菜谱，这是一个修辞手段；但这些都是在使用模式中自然显现出来的。

这些模型没有专门教授如何回答问题，这与谷歌和苹果等熟悉的软件公司在过去十年中一直在称呼人工智能不同。那些基本上都是 Mad Libs，其中的空白通向 API：每个问题要么被解释，要么产生通用响应。对于大型语言模型，问题只是一系列与其他问题一样的单词。

这些模型的反应具有“信心”的基本表达品质。在猫识别 AI 的一个简单示例中，它会从 0（表示完全确定那不是猫）到 100（表示绝对确定那是猫）。如果它的置信度为 85 或 90（无论产生您首选的响应指标），您可以告诉它说“是的，这是一只猫”。

因此，鉴于我们对模型如何工作的了解，这里有一个关键问题：它的置信度是什么关于？它不知道什么是猫或问题，只知道训练集中的数据节点之间发现的统计关系。一个小小的调整将使猫检测器同样确信图片显示的是牛、天空或静物画。该模型无法对自己的“知识”充满信心，因为它无法实际评估其所训练的数据的内容。

人工智能正在表达其答案的确定程度 对用户来说似乎是正确的。

猫检测器是这样，GPT-4 也是这样——区别在于输出的长度和复杂性。人工智能无法区分正确和错误的答案——它只能做出预测 有多大可能 一系列词语被认为是正确的。这就是为什么它必须被视为世界上最全面的废话，而不是任何主题的权威。它甚至不知道它在骗你—— 它经过训练可以产生这样的响应 统计上类似于正确答案，它会说 任何事物 来提高这种相似度。

人工智能不知道任何问题的答案，因为它不理解这个问题。它不知道问题是什么。

它什么都不“知道”！ 答案紧随问题之后，因为根据统计分析推断，该系列单词最有可能遵循前一系列单词。这些词是否指的是真实的地方、人物、地点等并不重要——只是它们是真实的。喜欢真实的。

这与人工智能可以创作出一幅类似莫奈但不是莫奈的画作的原因是一样的——重要的是它具有使人们识别出一件艺术品是他的作品的所有特征。（全文.)

“人工智能”是 2023 年的新流行词，与计算机代码相关的一切都被称为“人工智能”，因为投资者实际上向这项“新技术”投入了数十亿美元。

但当你真正审视它时，你会发现它其实一点也不新鲜。

大多数人都熟悉苹果的女声“Siri”或亚马逊的女声“Alexa”，它们对口语做出反应并返回响应。这就是“人工智能”，已经存在十多年了。

像新的法学硕士应用程序这样的“生成式人工智能”的“新”之处在于，计算响应的能力和能量已大大扩展，使计算机看起来就像在快速生成文本时与您交谈。

但这些法学硕士实际上并没有创造任何新东西。他们获取提供给他们的现有数据，现在可以快速计算这些数据，速度如此之快，以至于为 Siri 和 Alexa 等程序提供支持的旧技术似乎还没有学会如何像成年人一样说话。

但它仍然受到训练数据的数量和准确性的限制。它也许能够通过操纵数据来“创建”新的语言结构，但它本身无法创建数据。

另一种看待它的方式是观察它在现实世界中所做的事情，通过不准确地表示核心数据，使人类变得更好的说谎者。

最近，当我观看新款谷歌手机的广告时，这种增强的说谎能力给我留下了深刻的印象：

谷歌显然是在教人们如何欺骗人们，并对谷歌手机使用“人工智能”捕获的实际数据（如照片）撒谎。

说谎和欺骗的人能卖出去，而真相往往不会，当公众观看这样的谷歌最新手机的广告时，我相信，大多数人的反应是，这真是太棒了，因为我们的社会已经现在让我们相信在大多数情况下撒谎和欺骗别人是可以的。

在当今的大科技世界中，“数据”是新的货币，“数据主义”是新的宗教。

如果你还没有读过我去年由撒迦利亚·林奇（Zechariah Lynch）发表的文章，他敏锐地观察了这一切的发展方向，或者至少是技术官僚希望它发展的方向，请阅读这篇文章并自我教育：

“数据主义”是人工智能和超人类主义的新宗教：拥有和控制数据的人控制生活

正如我在最近的一篇文章中提到的，那些正在训练这些 LLM 模型的人开始恐慌，因为他们“数据耗尽”。

这带来了新的LLM人工智能模型的另一个严重缺陷：它们从现有数据生成的所有数据都是由某人创建并在互联网上编目的数据，这意味着无论该人工智能生成什么，无论它是否准确，是盗窃！

这项技术发展如此之快，以至于法律影响尚未完全提起诉讼，但我去年初决定，我不会使用人工智能来帮助我生成任何文本或图形，因为我不想成为小偷并窃取其他人的工作。

当我今天写一篇文章时，正如我几十年来所做的那样，我会尽力引用我在文章中使用的所有内容的原始来源，在应得的地方给予注明。

LLM AI一般不会这样做。人工智能没有灵魂，没有对错概念。它只是遵循一个脚本，即由人类编写的计算机脚本，称为算法。

目前，数据只能以有限的方式输入计算机：通过文本、通过麦克风的声音以及通过相机的图像和移动图像。

仅这一限制就确保了计算机或人工智能程序永远不会取代人类，人类不仅可以通过这三种方式输入数据，还可以包括感官，例如嗅觉、味觉等，而这些目前还无法实现。转化为数字数据。

但人类拥有的最强大的数据收集能力是非物理的，或“元物理的”。

数百年的达尔文生物进化论告诉大多数西方人，我们的大脑是我们意识的中心，而古人几千年来一直相信我们的心脏是我们意识的中心。

这是圣经古代著作以及其他著作的观点。看：

大脑神话：你的智力和思想源自你的心，而不是你的大脑

“现代科学”中没有任何东西可以反驳这一信念。

正如我去年就这个主题所写的那样，如果有什么不同的话，那就是有科学证据表明证实我们的心在我们生命中的中心位置。

这一证据来自于接受心脏移植的人的故事，他们发现自己在思考并记住捐献者在去世前经历的事情，尽管新心脏的接受者从未认识捐献者。

没有人接受过别人的大脑移植。

2020年研究发表在 医学假设 实际上解决了这个问题。

抽象的

心脏移植后的人格变化已有数十年的报道，其中包括接受者获得捐赠者的人格特征。本文讨论了四类人格变化：（1）偏好的变化，（2）情绪/气质的改变，（3）身份的改变，以及（4）捐赠者生活的记忆。假设心脏移植后受者获得捐赠者人格特征是通过细胞记忆的转移发生的，并且提出了四种类型的细胞记忆：（1）表观遗传记忆，（2）DNA记忆，（3）RNA记忆，和(4)蛋白质记忆。还讨论了其他可能性，例如通过心内神经记忆和能量记忆进行记忆转移。探讨了心脏移植未来的影响，包括重新审视我们目前对死亡的定义的重要性、研究记忆转移如何影响捐赠心脏的整合、确定记忆是否可以通过其他器官移植来转移，以及调查哪些类型的信息可以通过心脏移植转移。建议进一步研究。（来源.)

也可以看看：

器官移植受者的记忆转移

10 位具有捐赠者特征的器官接受者

摘抄：

克莱尔·西尔维娅有奇怪的渴望和梦想——新英格兰

不仅做到了心脏和肺移植 47岁的克莱尔·西尔维娅（Claire Sylvia）获得了挽救生命的机会，但这也使她成为新英格兰第一个接受这一过程的人。她还确信，除了重要器官之外，她还接受了捐赠者的一些味道，就好像他的记忆被锁在他的心脏和肺部一样，因此现在正在她的体内流动。

她告诉记者，当被问及手术后首先想做什么时，她说“现在非常想喝啤酒”。这对克莱尔来说很奇怪，因为她以前从来没有喝过啤酒。在接下来的几天里，她还发现自己开始想吃一些她以前从未喜欢过甚至吃过的食物，比如青椒、士力架巧克力棒，奇怪的是，她还想吃麦当劳的麦乐鸡块，这是她以前从未吃过的东西。想要吃东西。

她也开始经历奇怪的梦。她会看到一个瘦弱的年轻人，她相信他叫蒂姆。具体来说，当她做梦时，她的脑海里浮现出“Tim L”这个词。通过搜索移植前几天的当地讣告，她遇到了蒂莫西·拉米兰德。

蒂莫西·拉米兰德 (Timothy Lamirande) 在克莱尔接受移植手术的同一天死于摩托车事故，当时年仅 18 岁。他当时正在从当地一家麦当劳餐厅回家的路上。当医生绝望地试图挽救他的生命时，在他的夹克口袋里发现了一袋麦乐鸡。

她设法找到了蒂姆的家人，她以前从未见过他们，他们向她证实，她所渴望的确实都是蒂姆非常喜欢的食物，啤酒等等。从那时起，她就一直与蒂姆的家人保持联系。（全文.)

这是 ABC 新闻 8 年前发布的一段视频，讲述了一个出生时几乎没有大脑的婴儿，以及医生如何告诉父母将他堕胎，因为他没有机会在没有大脑的情况下生活。

但父母并没有采纳他们的医疗建议，他们的孩子杰克森在没有大脑的情况下生活了近 6 年。他之所以能够做到这一点，无视医生和医学，是因为他的意识在他的心脏中，这很好，而不是在他的大脑中。

依靠电力运行的人工智能和计算机永远不会取代依靠心脏泵血运行的人类。

更多关于人工智能的阅读:

计算机无法使用的“数据”：

不，我们谈论的是上帝隐秘的智慧，一种隐藏的智慧，上帝在时间开始之前就注定了我们的荣耀。这个时代的统治者没有一个明白这一点，因为如果他们明白，他们就不会把荣耀的主钉在十字架上。

然而，正如经上所记：“神为爱他的人所预备的，是眼睛未曾见过，耳朵未曾听过，人心未曾想到的”——但神已经通过他的灵向我们启示了这一点。

圣灵鉴察万事，甚至神深奥的事也鉴察。

因为除了人里面的灵之外，谁知道人的思想呢？

同样的方式 除了神的灵之外没有人知道神的意念。

我们所领受的不是世界的灵，而是来自神的灵，使我们能明白神白白赐给我们的。（哥林多前书 2:7-12）