TechScape：非洲廉价的外包劳动力如何塑造人工智能技术

我们正在见证人工智能的诞生，这不是任何人都能猜到的。 让我们更深入地研究一下。

如果您花了足够的时间使用人工智能助手，您会注意到生成的响应具有一定的质量。 如果不共同努力打破系统的默认寄存器，它们吐出的文本虽然在语法和语义上都是合理的，但生成起来却难以言表。

有些说法是显而易见的。 通过强化学习和人类反馈将野生语言模型的阿谀奉承标记为聊天机器人。 这是正确的结果：渴望取悦他人和普遍乐观是作为助理的任何人（或任何事物）都应该具备的良好品质。

同样，系统害怕涉足的领域也会被标记出来。 如果您想知道自己是在与机器人还是人类交谈，请尝试要求他们以图形方式描述米老鼠和巴拉克·奥巴马的性爱场景，并观察各种安全功能的启动。

其他的线索在孤立的情况下不太引人注目。 有时，这个系统太过于好于它自己：倾向于在一个回答中提供论点的双方，厌恶单句答复，甚至普遍完美的拼写和语法都是我们很快就会遇到的问题认为是“机器人写作”。

Jeremy Nguyen 博士的一项搜索表明，PubMed 上的部分文章可能部分是由 ChatGPT 撰写的。 摄影：Jeremy Nguyen/X

根据另一个数据集，“delve”甚至不是 ChatGPT 词典中最特殊的词。 “探索”、“挂毯”、“遗嘱”和“杠杆”在系统输出中的出现频率远远高于在整个互联网中的出现频率。

我们很容易举手说这就是人工智能黑匣子的奥秘。 但“钻研”的过度使用并不是随机掷骰子。 相反，它似乎是一个非常真实的人工制品 聊天GPT 被建。

事情如何运作的简要说明： GPT-4是一个大型语言模型。 这是一项真正庞大的统计工作，它采用了一个似乎接近“互联网上每一段书面英语”的数据集，并用它来创建一个巨大的数据团，从而吐出句子中的下一个单词。

但法学硕士是原始的。 努力形成一种有用的形式是很棘手的，很难防止偏离轨道，并且需要真正的技巧才能很好地使用。 将其变成聊天机器人需要一个额外的步骤，即前面提到的带有人类反馈的强化学习： RLHF。

一群人类测试人员获得了原始法学硕士的访问权，并被指示按其步骤进行：提出问题、给出指示和提供反馈。 有时，这种反馈就像赞成或反对一样简单，但有时它更高级，甚至相当于为下一步的训练编写一个模型响应以供学习。

与用于训练法学硕士的抄袭文本相比，所有反馈的总和只是沧海一粟。 但它很贵。 数十万个小时的工作需要提供足够的反馈，才能将法学硕士转变为有用的聊天机器人，这意味着大型人工智能公司将工作外包给南半球部分地区，那里雇用英语知识工人的成本很低。 从去年开始：

当 Mophat Okinyi 独自一人或即将入睡时，这些画面就会出现在他的脑海中。 Okinyi，Open 的前内容版主AI 位于肯尼亚内罗毕的 ChatGPT 是向肯尼亚政府提交请愿书的四名负责人之一，呼吁对审查人工智能程序内容的承包商所称的剥削性条件进行调查。

我说过，与整个互联网相比，ChatGPT 过度使用了“delve”。 但在互联网的某个部分，“深入研究”是一个更常见的词：非洲网络。 在 尼日利亚，“delve”在商务英语中的使用频率比在英国或美国要高得多。 因此，训练系统的工作人员提供了使用相同语言的输入和输出示例，最终得到了一个书写方式有点像非洲人的人工智能系统。

这就是最后的侮辱。 如果 AI-ese 听起来像非洲英语，那么非洲英语听起来就像 AI-ese。 称人们为“机器人”已经是一种校园侮辱（问问你的孩子；这是《堡垒之夜》的事情）； 当人类的很大一部分听起来像他们花钱训练的人工智能系统时，情况会变得多么糟糕？

AI硬件来了

Rabbit Inc 的 R1，一款“直观的配套设备”。

原子世界比比特世界移动得慢。 ChatGPT 于 2022 年 11 月推出引发了一系列活动。 但数字竞争对手在几周内就推出了，我们现在才开始看到人工智能革命的物理影响。

周一，人工智能搜索引擎初创公司 Limitless 发布了其首款实体产品，这是一款价值 99 美元的吊坠，你可以戴在衬衫上记录一切。 来自边缘：

这款 99 美元的设备注定会一直陪伴在您身边 …并使用波束形成技术更清晰地记录与您交谈的人，而不是咖啡店或礼堂的其他人。 Limitless 可以做很多事情来帮助您跟踪对话。 有人在董事会会议上提到的新应用程序是什么？ 香农说我们下次应该去哪家餐厅？ 两周前我们见面时，我和杰克在哪里分手了？ 理论上，Limitless 可以获取这些数据，并使用人工智能模型在您提出要求时将其返回给您。

这是一个真正令人兴奋的领域，因为没有人真正知道人工智能硬件应该是什么。 无限有一个答案； 兔子有一个非常不同的，其 R1：

R1 是一款直观的配套设备，可以节省用户的时间。 近年来，手机已发展成为包罗万象的个人娱乐设备，而 r1 的定位是一个独立的硬件门户，可以消除干扰，帮助用户更智能、更高效、更愉快地处理日常数字任务。

R1 看起来像一款小型方形智能手机，是人工智能代理的按钮合作伙伴，该公司表示，可以训练该代理代表您执行任务。 这个物理对象由著名咨询公司 Teenage Engineering 设计，看起来很令人愉快，但整个事情取决于其核心的人工智能代理是否真的值得信任。 在最好的情况下，它可以将强大的人工智能助手带入我们的日常生活； 最糟糕的是，它只会让你怀念 Siri。

最坏的情况也并非不可能。 Humane 是第一家将人工智能硬件推向市场的大公司，并推出了 AI Pin，但进展并不顺利。 从 边缘的评论：

随着人工智能整体状况的改善，人工智能 Pin 可能会变得更好，我看好人工智能长期能够代表我们做很多繁琐的事情。 但有太多基本的事情它做不到，太多的事情它做得不够好，太多的事情它做得很好，但只是有时我很难说出它真正擅长的一件事。 这些都没有 – 不是硬件，不是软件，甚至不是 GPT-4 – 已经准备好了。

那么，人工智能引脚不会是我们看到的最后一块人工智能硬件。 但这可能是人道的最后一次。

如果您想阅读新闻通讯的完整版本 请订阅 每周二在您的收件箱中接收 TechScape。