欢迎来到 No Jitter 的协作对话。 在当前的系列中，我们请行业领导者谈论人工智能如何提高生产力，以及他们如何定义什么是生产力，目的是帮助那些负责评估和/或实施 Gen AI 的人更好地了解哪些技术最能满足其组织和客户的需求。
在这次谈话中我们采访了 乔纳森·罗森伯格，首席技术官兼人工智能负责人 五九。 在加入 Five9 之前，Rosenberg 曾在思科担任协作技术小组 (CTG) 的首席技术官。 他还因 SIP 协议的作者而闻名，该协议是现代 IP 电信的基础。
在我们的谈话中，罗森伯格建议联络中心的新一代人工智能解决方案应从其对客户体验的潜在影响的角度来看待，并补充说任何人工智能技术都应根据其如何应用于现有问题来评估。
NJ：一些 CCaaS 供应商提供对多种大型语言模型 (LLM) 的访问，而另一些供应商则对其中一种进行了“标准化”，至少目前是这样。 企业……联络中心……如何评估生成式人工智能解决方案？
乔纳森·罗森伯格（JR）： 这项技术是如此新颖、如此前沿，而且它的发展速度如此惊人，以至于我们的理念 [at Five9] 是——一直是——我们需要使用任何东西 [model] 是同类中最好的，允许我们的联络中心供应商选择合适的 [for them] 或者我们的实施团队将为正确的工作选择正确的工具。 这些 [models] 具有不同的成本和性能权衡，它们正在快速发展，因此昨天最好或最便宜的东西可能不是明天最好或最便宜的东西。 您必须灵活并利用正确的工具来完成正确的工作。
NJ：您提到了法学硕士之间的成本、性能和隐含的不同能力。 IT 员工如何评估一种模型与另一种模型，甚至将其与联络中心已实施的解决方案进行比较？
JR: 大多数人不会根据喷气发动机的制造商来选择他们要乘坐的航班。 他们关心端到端的体验，即飞行。 这就是我们使用的基本类比。 您必须查看要解决的用例。
归根结底，企业联络中心经理不应该认为法学硕士是您（或像我们这样的供应商使用）用来构建可提供价值的解决方案的成分。 [That solution might be] 高性能聊天机器人或代理协助功能或呼叫摘要。 那 [solution] 是他们正在挑选的东西 那是 他们必须将这件事与他们今天所做的事情进行比较。
NJ：您使用 OpenAI——是直接进入 OpenAI 还是通过 Azure？ 您对使用多个法学硕士有何看法？ 我看到 Microsoft 正在将其他基础模型添加到其 Azure 产品组合中。
JR: 我们目前使用 [OpenAI] 通过蔚蓝。 作为 [Microsoft] 添加模型，我们将使用它们。 在 Five9，我们有一个人工智能团队，他们不断评估这些不同的模型，以了解它们的成本和性能，包括 OpenAI 和 [models from] 其他的。 当我们看到良好的结果时，我们将它们添加到我们可以与客户一起使用的解决方案库中。
NJ：您提到了呼叫摘要——这显然是联络中心最重要的 Gen AI 用例之一。 当我与 Forrester 的克里斯蒂娜·麦卡利斯特 (Christina McAlister) 交谈时，她提到，如果您在对话的每一次对话中都使用大型语言模型，而不是仅仅发送整个文字记录并获取其摘要，则可能会存在成本问题。 您对此有什么想法吗？ Five9在做什么？
JR: 这就是联络中心经理与构建产品的供应商所关心的问题不同的地方。 联络中心经理（联络中心买家）关心产品的价格……例如，汇总成本是多少。 在 Five9，我们有此产品和其他产品的价格手册 [use cases]。 我们不只是将人工智能模型的每个代币成本转售给 [the customer]。 我们以每个代理商的价格销售我们的产品，因为我们为大多数产品定价。 我们担心这个价格对于客户获得的利益来说是否物有所值。 这就是联络中心经理应该评估的。
现在，有一个不同的问题：好吧，在幕后，你的技术是如何工作的？ 它是否持续与 OpenAI 交互或发送 [data] 在通话结束时？ 不同的用例涉及使用它进行通话后总结的不同方式。 我们在电话后进行， [so] 我们获取整个成绩单并 [use it] 生成摘要。
我们做什么，如何使用LLM，以及何时发送数据，如何调整这些位，都是我们需要为联络中心经理解决的问题。 这就是我们担心的。 我们专注于交付业务成果，其中 [in this example] 是高质量的通话后总结。
[To reiterate]，联络中心的经理并不直接购买 LLM，也不是直接决定如何向 LLM 发送成绩单的人。 这就是像我们这样的供应商所做的。 我们 做出这些决定。 然后我们将产品出售给联络中心经理。 然后，联络中心经理必须做出决定：好的，我是选择 Five9 还是其中之一 [their] 竞争对手？ Five9 有通话后总结吗？ 它需要多少钱？
NJ：所有这些法学硕士都部署在云端。 正如您所知，整个联络中心市场是本地与云端的混合体。 如果您仅在本地部署，是否有办法在您的联络中心使用 Gen AI？
JR: 不，我的意思是，Prem 的最后一口气真的消失了——你还能买谁呢？ [Most] 维护合同即将到期。 Five9 始终是云，而我们的竞争对手则混合使用 [of on-prem and cloud]。 有了人工智能，你就可以拿起麦克风并放下它。 你必须去云端 [Gen] 人工智能; 在本地不可能做到这一点。
NJ：Gen AI 是让人们从本地部署到云端的最终推动力吗？
JR: 我认为推动已经发生了。 [AI] 正在进一步帮助有一点额外魅力的人们迁移到云，但是 [the trend] 已经热火朝天有一段时间了。
NJ：在您的其他一些采访中，您提到将对话摘要提交给代理，然后他们进行检查。 这基本上就是 Five9 现在的“人在循环中”的状态吗？
将会发生的事情是，我们将看到一系列不同的护栏——有些有“人在循环中”，有些则没有，从而发展对它可以访问多少（或多少）数据、多少数据的管理。你要求它做什么、说什么，不做什么，以及你多久将其放在客户面前 – 以及添加监控、测试和监督，就像你对一个人所做的那样。
我几乎想我们会看到 [quality management] 人工智能的质量管理是一种“谁观察观察者”的方法。 我们将让人确保人工智能不会说不恰当的话，然后通过现有的控制措施进行调整。 这是我们在 Five9 中所做的积极工作，对于安全、负责任地将这项技术引入行业至关重要。
NJ：那么这会如何运作呢？ 是 Five9 做出这些改变，还是联络中心的个人标记这些场景并做出这些改变？
JR: 我们将提供一套工具，允许联络中心经理在联络中心构建、测试、训练和监控生成式人工智能用例，并让他们轻松地做到这一点。 我们认为这是一种全新的技术，我们必须将其交给联络中心经理。 [Historically,] 我们将其他工具交给他们——IVR 构建器、活动经理和 QM，这与 [Gen AI] 因为质量管理就是管理质量和定义您想要发生的事情，然后确保它发生。
NJ：我认为基础、训练和检索增强生成（RAG）这些术语是采用大模型并将其“基础”到特定企业的语料库中的方法。
JR: 这正是我所说的工具的作用。 它控制着法学硕士可以访问的输入和数据。 这是管理大型语言模型的重要方法之一，就是告诉它你想要做什么，给它你想要它操作的数据，然后告诉它只根据这些数据做出决策。给你。
在幕后，存在成本，因为大多数模型供应商基于代币收费，而这些 [different use cases] 所有这些都会改变消耗的代币数量。 我们的工作就是简化它。
我们不会按代币向客户收费。 没有人知道代币的价值。 您认为代币值多少钱？ 你无法量化这一点。 但是你 能 量化并理解其价值 [something like]：“这将为我每个客服人员每月节省 X 分钟时间”或“这将提高我的 CX 分数，并且每个客服人员将花费我 X 美元。”
这些都是人们可以理解的事情，所以这就是我们定价的方式，我们会担心代币成本。
NJ：当您的客户来找您时，他们是想节省每次通话的时间，还是想削减成本，还是更看重 Gen AI 解决方案本身？
JR: 一切都太新了，以至于客户并不确切知道他们想要什么。 我们所做的一部分，也是我们价值观的重要组成部分，是在售前和售后与客户保持密切联系，帮助他们了解产品的价值。 我们有工具可以提供帮助 [them] 了解投资回报率，我们会深入解释其好处以及他们期望看到的内容。 我们还所做的就是让客户在购买之前先试用。
从历史上看，这在联络中心行业是闻所未闻的。 其他企业一直在这样做——“先试后买”并不是一个新想法。 您无法在本地执行此操作，但可以在云中执行此操作。 即使在云中，它也曾经令人望而却步，因为实施成本如此之高，以至于不具有成本效益。 但现在有了这些 [newer] 技术，我们能做到。 因此，我们让客户尝试总结并自行判断它是否给他们带来价值。 如果他们喜欢，他们就会购买。 他们一直在购买——我对这些结果非常满意。
NJ：当他们推出时，他们会进行 AB 测试吗？
JR: 这是一个混合体。 我们的一些早期客户在他们让代理采取行动的地方很勤奋 [call] 做笔记，然后整理成一个电子表格 [to track] “这是代理人写下的内容”和“这是法学硕士写下的内容”。 然后他们对它们进行比较以获得准确度指标。 在投资回报率方面，我们让其中一些人研究了处理时间的变化。
但这不仅仅是处理时间的问题，我认为这是业界痴迷太久的一件事。 重点需要更多地关注客户体验。 [Summarization] 实际上有助于改善客户体验。
您可能有过这样的经历：您致电联系中心，解释了您遇到的问题，但第一位客服人员无法解决您的问题。 因此，您回电后必须向下一位客服人员解释整个事情。 太可怕了，对吧？ 部分原因是，从历史上看，以简洁明了的格式记录上一次通话中发生的情况，让下一个客服人员能够快速了解发生的情况，成本太高。 好吧，现在我们可以做到了。 这项技术的普遍部署将有望提升该行业。
NJ：Gen AI 可以在呼叫前与虚拟代理一起部署，但您已经拥有非生成式 AI 方法——“传统”聊天/语音机器人。 Gen AI 是否代表了该模型的全面替代品，或者它最好用于帮助实现意图和实体？
JR：这是一个很棒的问题。 不同的供应商正在采取不同的方法。 我们相信存在一个连续体。 我们将这个想法称为“信任拨号”。 这又回到了管理与人工智能说任意话相关的风险。 “人在循环”对于代理协助非常有效，但它不适用于语音机器人或聊天机器人——这就是整个想法……没有人类。 那么我们该如何管理呢？
管理它的方法之一是这种连续体，在一种极端情况下根本没有人工智能。 这就是当前的意图和实体提取技术集。 但你能做的就是添加越来越多的东西。 您可以仅使用 Gen AI 进行意图检测和实体提取，但是 不是 生成发送给人类的文本。 这在很大程度上降低了实施成本，但不一定对客户体验有很大帮助。
那么你可能会说，也许我要做的就是使用 Gen AI 来进行部分知识查询——客户问了一个问题，所以我会用 Gen AI 来回答问题，但我不会用它来执行一个任务。自助服务流程，因为我还不信任具有 API 访问权限的 AI。 也许在某些用例中您确实想使用 API 做一些事情，但是 [control how the AI uses them]。
我们正在构建的东西——这又回到了我们为客户提供管理所有这一切的工具的核心理念——是将 Gen AI 集成到经典的定向对话流构建器中的工具，该构建器将允许您选择想要在哪里拨打旋钮根据您的业务需求。 该工具对于将该技术引入联络中心至关重要。
将会有其他供应商这样做。 如果你在硅谷扔一块石头，你就会击中一家联络中心 Gen AI 初创公司的首席执行官。 [Their approach] 基本上就是，“忘记这种老式的做法，我只想使用 Gen AI。” 这就是很棒的演示软件。 在某些用例中，这没问题，但对于大多数联络中心来说，他们希望在此信任范围内的不同操作点上有不同的用例。 获胜的供应商是像我们这样的供应商，他们将为这个连续体提供统一的工具链，让您能够充分利用新旧技术并将它们组合在一起。 这就是我们在这里所做的。
想知道更多？
检查以下内容：
另请查看 Five9 最近推出的 GenAI Studio，新泽西州的频繁撰稿人 Zeus Kerravala 以及新泽西州 Enterprise Connect 2024 的报道中对此进行了讨论。
1713970792
2024-04-24 14:45:29
#协作对话Five9 #的 #Jonathan #Rosenberg #谈论选择 #Gen #用例而不是模型
