人工智能 (AI) 可能会在很多方面产生误解。 如果软件和硬件的令人眼花缭乱的发展超出了我们大多数人的能力范围，那么最深层次的困惑可能来自人工智能的技术词汇。 人工智能充斥着来自认知科学和神经科学（BCS，包括认知科学和神经科学）的术语，它获得了不合理的生物学和认知特性，从而破坏了它的理解。 反过来，研究学习和行为背后的大脑功能的科学学科越来越多地借鉴人工智能所依赖的计算机和计算科学，在简单的计算机中改造了我们所知道的最复杂和多方面的生物实体。
面试
未来的工作：数字哲学家
布鲁诺·鲁菲利
概念贷款
人工智能学者们以“机器学习”为例，这是 Arthur Samuel 在 1959 年创造（或普及，争论尚未结束）的表达方式，表示“统计算法的开发和研究，能够从数据中学习并推广到新数据，从而无需明确指令即可执行任务但这种“学习”并不意味着神经科学家和认知心理学家所指的人类或动物通过环境经验获得新行为或心理内容或修改现有行为或心理内容的方式。 同样，在人工智能中，我们谈论“幻觉”来描述模型输出中的错误或偏差，与输入数据的有根据且准确的表示相比。 我们的幻觉有很大的不同，幻觉是在没有外部刺激的情况下产生的令人不安的知觉体验。
为了解释这种混乱，我们必须退后一步，从卡尔·施密特的观点开始，他观察到“现代国家理论的所有重要概念都是世俗化的神学概念”。 例如，“主权”、“例外状态”、“主权意志”、“法律的全能”、“合法性”等政治概念都可以追溯到神学概念：这种概念借用并没有消除政治的结构或影响。神学概念，但将它们重新置于世俗框架内。 这既是历史的观察，也是严厉的批判。 概念借用限制了对政治概念的批判性评价，正是因为它们的神学根源尚未完全解放出来，而政治中的权力动态和决策过程仍然反映着宗教思想所建立的结构。
科技双年展
人工智能？ 我们来敲木头
作者：芭芭拉·卡普托*
那些缺失的单词
这些考虑因素可以扩展到其他学科。 当新科学出现时，它们缺乏技术词汇来描述和交流其现象、问题、假设、观察、表述、理论等。迫切需要精确、清晰、连贯和简洁； 就定义达成一致并促进标准化。 通过发明新术语、使用希腊语或拉丁语的翻译或采用和改编其他学科的技术表达来填补空白。 人工智能发展非常迅速，需要借用相关领域的词汇：控制论、逻辑学、计算机科学和信息论； 最重要的是研究人类和动物的行为方式及其生物学基础的科学。 这一现象是从阿兰·图灵开始发展起来的，他对人类智能和行为的并行性产生了决定性的影响，以解释机器如何模仿生物认知的某些方面。 但最有问题的借用可能发生在定义整个领域的标签上：“人工智能”，由美国科学家约翰·麦卡锡在 20 世纪 50 年代中期创建。
除了用于“机器学习”的“学习”之外，人工智能中还有大量的生物学和心理学术语； 例如，我们记得“适应”、“计算机视觉”、“记忆”。 但也有许多具有技术含义的术语与它们在原始科学背景下的含义很少或根本没有关系。 以“注意力”为例，这是机器学习中最近引入的一个非常流行的术语。 在BCS中，它通常指的是在当前上下文中对相关神经或心理信号进行优先级排序以指导适应性行为的过程，并且该名词通常伴有其他限定词（例如，选择性注意、空间、基于对象、基于特征）。 机器学习中的含义非常不同，正如维基百科也证实的那样：“注意力是神经网络中的一种机制，特别是基于变压器的模型，它“计算每个单词的‘软’权重，更准确地说是为了将其合并到语境”。 这是一个多义性的例子，即使不是同名的：两个概念之间的科学差异是显着而深刻的，相似性是肤浅的且可以忽略不计，然而心理和生物包袱却发挥了一种语义力量，推动了更大的拟人化。 人工智能系统的注意力、学习和产生幻觉的能力进一步推动了人工智能项目、研究计划和商业战略。 不幸的是，这会导致“人工智能冬天”反复出现（Floridi 2020），但这并不奇怪。
另一方面，认知科学和神经科学借用了信息论和计算机科学的技术和可量化的结构，将大脑和思维构建为计算和信息处理系统。 例如，乌尔里克·奈瑟（Ulric Neisser）在标志着认知心理学诞生的文本中声称，“试图理解人类认知的心理学家的任务类似于试图发现计算机是如何编程的人的任务。在特别是，如果程序似乎存储和重用信息，它想知道这是通过什么“例程”或“程序”发生的”。 这里借用的表达方式列表也很长：我们谈论“架构”、“容量”、“编码和解码”、“采样”、“信噪比”、“传输”等等。
人工智能领域的 500 名意大利男性和女性
由意大利Tech编辑团队编辑
类比的局限性
在很多方面，并行性都是成功的，为探索人类思维的特性和生物学基础提供了科学和经验基础。 然而，它有时可能走得太远，导致一种还原论和贫乏的观点，在这种观点中，心灵的主观品质更多的是被回避而不是被理解。 因此，例如，心理现象所必需的或与之相关的大脑活动模式本身就被认为是充分的解释，我们头脑中生动和经验的内容被扁平化为神经元组的长期激活或功能状态，有意选择的时刻降低到达到决策极限的激活水平。
这种情况会让那些非专家但相信人工智能是智能的人、那些专家但相信人工智能将创建超级智能系统的人、以及那些懒得了解这个话题并利用其阴暗面来谋取利益的人感到困惑。 ，通常是财务。 人工智能的科幻形象所享有的可信度部分来自于对计算系统的拟人化解释，但也来自于对心灵的非常肤浅和纯粹的计算理解。
可以采取什么措施来解决这种概念混乱？ 就语言改革而言，可能没有什么：人工智能和BCS将继续使用它们的术语，无论它们有多么误导性，它们浪费了多少资源，以及它们在错误的人或环境中可能造成多大的损害。 人工智能仍然会将计算机描述为具有精神属性的人造大脑，而认知和脑科学将继续将大脑和思想扁平化，就好像它是一台生物计算机一样。
面试
Brigitta Muntendorf，音乐双年展上的人工智能作品
布鲁诺·鲁菲利
马力的教训
然而，正是该语言本身的历史让我们有理由抱有希望。 更好的理解和更多的事实可以塑造词语的含义并改善其使用。 我们仍然使用“太阳升起”和“太阳落下”这样的表达方式，即使没有人相信太阳相对于我们的星球会去任何地方：地心模型早已被放弃，语言保留了这些表达方式但已经更新的含义。
我们用一个提供乐观理由的类比来结束这篇文章。 十八世纪末工业革命期间，苏格兰发明家詹姆斯·瓦特在蒸汽机的发展中发挥了重要作用。 为了吸引新客户，他必须展示发动机如何超越马匹的工作。 然后他测量了煤矿中驮马所做的工作。 他观察到一匹矿马每分钟可以转动磨轮一次，将重物提升到一英尺约33,000磅的高度，因此将一马力的标准单位定义为每秒550磅的位移。 。 概念借用奏效了，术语“马力”（HP）被普遍采用来衡量蒸汽机的功率。 今天，它仍然是指示发动机机械功率的标准单位，但当然没有人在气缸之间寻找蹄子和鬃毛。 有一天，如果幸运的话，人们会像惠普一样考虑人工智能，而不再在计算和计算系统中寻找认知或心理特性。
*美国耶鲁大学数字伦理中心和博洛尼亚大学法律研究系。
** 美国耶鲁大学五仔研究所及心理学系
布鲁诺·鲁菲利 (Bruno Ruffilli) 翻译和总结。 原文较长，为英文，发表在《Minds and Machines》杂志 34, 5 (2024) 上，完整版已发布 WHO。
面试
科里·多克托罗和enshittification理论：为什么技术只会变得更糟
布鲁诺·鲁菲利
1714400881
#人工智能因为将机器拟人化将思维电脑化是错误的
2024-04-29 14:18:46
