FCC 对机器人呼叫中人工智能的禁令还不够

在 1 月 23 日美国民主党新罕布什尔州初选前几天，潜在选民开始接到电话 人工智能生成的假拜登总统音频 敦促他们在 11 月大选之前不要投票。 在斯洛伐克 脸书帖子 包含人工智能生成的虚假总统候选人计划窃取选举的音频—— 可能已经小费 选举对另一位候选人有利。 最近的选举 印度尼西亚 和 台湾 也受到人工智能生成的错误信息的损害。

为了回应新罕布什尔州的假拜登机器人电话， 美国联邦通信委员会 感动使 机器人通话中人工智能生成的声音非法 2 月 8 日。 但专家 IEEE 频谱 尽管生成式人工智能给旧的机器人电话诈骗带来了新的变化，并提供了加强欺骗个人的机会，但受访者并不相信此举足够。

2022 年美国因诈骗和垃圾邮件造成的总损失被认为是美国 395 亿美元，根据 TrueCaller 的说法，该公司制作了一个来电显示和垃圾邮件拦截应用程序。 同年，美国受骗者的平均损失金额 是 431.26 美元提供通话保护和身份服务的公司 Hiya 的一项调查显示。 Hiya 表示，随着生成式人工智能的使用越来越广泛，这一数字还会上升。

“总的来说，通过机器人电话进行的欺诈造成的损失令人难以置信，”说 埃里克·伯格，研究主任 英联邦网络倡议 在弗吉尼亚理工大学。

“我认为我们无法理解电话体验会因此而发生多快的变化。” ——乔纳森·尼尔森，希亚

人工智能将使诈骗者更容易瞄准个人

Hiya 产品管理总监乔纳森·尼尔森 (Jonathan Nelson) 表示：“生成式人工智能最大的担忧是它会采用定制的骗局并将其推向主流。” 他说，特别是，生成式人工智能将使执行更容易 鱼叉式网络钓鱼攻击。

一般来说， 网络钓鱼攻击 旨在诱骗人们放弃个人信息，例如密码和财务信息。 鱼叉式网络钓鱼然而，更具针对性：诈骗者确切地知道他们的目标是谁，他们希望通过更有针对性的方法获得更大的回报。 尼尔森说，现在，有了生成式人工智能，骗子可以抓取社交媒体网站、草稿文本，甚至 克隆可信的声音 将毫无戒心的个人从他们的大量资金中分走。

随着美国联邦通信委员会一致投票将自动电话中的生成式人工智能定为非法，问题自然转向了执法。 这就是专家们指出的地方 IEEE 频谱 尽管许多人也认为这是必要的第一步，但受访者普遍对此表示怀疑。 “这是一个有用的步骤，”说 丹尼尔·韦纳布伦南中心选举和政府项目主任，“但这不是一个完整的解决方案。” 韦纳表示，联邦通信委员会很难像美国联邦通信委员会那样采取更广泛的监管方法。 全面禁止深度造假 鉴于 FCC 的权限范围，欧盟正在考虑这一问题。

伯格曾于 2017 年至 2019 年担任 FCC 首席技术官，他表示，只有开始更广泛地执行机器人电话禁令，该机构的投票最终才会产生影响。 大多数类型的自动呼叫 已被禁止 自该机构于 1991 年制定《电话消费者保护法》以来。（也有一些例外情况，例如来自牙医办公室的预先录制的消息，提醒您即将进行的预约。）

“执法似乎并没有发生，”伯格说。 “政客们喜欢说，‘我们要追捕坏人’，但他们并没有这么做——他们的力度也没有我们希望看到的那么大。”

Robocall 执行工具可能不足以对抗人工智能

识别自动呼叫来源（从而防止不良行为者继续拨打）的关键方法是通过复杂的电信基础设施网络追踪呼叫并识别呼叫的始发点。 回溯过去是一件复杂的事情，因为呼叫通常会穿越由 AT&T 和 T-Mobile 等多个网络运营商维护的基础设施。 然而，在2020年， FCC 批准了一项授权 网络运营商开始实施 称为 STIR/SHAKEN 的协议 除其他反机器人电话措施外，这将使一步追踪成为可能。

“一步回溯已经得到证实，”伯格说。 回溯，例如， 确定了假拜登电话的来源 针对新罕布什尔州选民的目标是一家总部位于德克萨斯州的公司，名为“生命公司”(Life Corporation)。 伯格说，问题在于美国联邦通信委员会、美国联邦调查局和各州机构没有提供资源来追查大量的非法自动电话操作。 从历史上看，FCC 只追查 最大的肇事者。

“这些电话无法停止，”Hiya 的尼尔森说道，至少不能完全停止。 “我们的工作不是阻止他们，而是让他们无利可图。” 与类似的公司一样，Hiya 的目标是通过保护性服务降低成功欺诈的数量，包括暴露呼叫的发起地点和发起者，以降低个人接听呼叫的可能性，从而实现这一目标。

然而，纳尔逊担心生成式人工智能将使进入门槛如此之低，以至于这些预防措施的效果会降低。 例如，当今的诈骗几乎总是需要将受害者转移给呼叫中心的现场代理才能成功结束诈骗。 借助人工智能生成的声音，诈骗者最终可以完全切断呼叫中心。

“总的来说，通过自动电话进行的欺诈造成的损失令人难以置信。” ——埃里克·伯格，弗吉尼亚理工大学

尼尔森还担心，随着生成式人工智能的进步，人们将更难认识到他们一开始就不是在与真人交谈。 “这就是我们将开始失去立足点的地方，”尼尔森说。 “我们可能会发现越来越多的接听电话的人根本没有意识到这是一个骗局。” 例如，诈骗者将自己定位为虚假慈善机构，可以成功地募集“捐款”，而捐助者却毫不知情。

“我认为我们无法理解电话体验会因此而发生多快的变化，”尼尔森说。

执法方面的另一个复杂问题是，美国的大多数非法机器人电话都来自该国境外。 这 行业追溯组 发现以 2021 年为例， 占所有此类电话的 65% 起源于国际。

伯格指出，联邦通信委员会已采取措施打击国际自动电话。 该机构使其他运营商可以拒绝传递来自发起诈骗电话的网关提供商（连接国内基础设施与国际基础设施的网络运营商的术语）的流量。 例如，2023 年 12 月，FCC 命令两家公司， 实心双倍和 CallWin，停止传输非法自动呼叫或冒其他运营商被要求拒绝其流量的风险。

“执法似乎并没有发生。 没有达到我们希望看到的活力。” ——埃里克·伯格，弗吉尼亚理工大学

美国联邦通信委员会 (FCC) 最近针对机器人通话中的生成式人工智能采取的行动尚属首次，其他国家的监管机构是否会效仿还有待观察。 “我当然认为联邦通信委员会在其监管机构范围内采取迅速而大胆的行动树立了良好的榜样，”韦纳说。 不过，他也指出，其他民主国家的联邦通信委员会同行最终可能会得到更全面的结果。

伯格表示，很难说 FCC 的行动与其他监管机构相比如何。 FCC 经常走在时代的前沿，例如在 频谱共享——它经常落后，例如使用 中频5G。

尼尔森表示，他预计 FCC 的决定将在几年内得到修改，因为该决定目前阻止公司将生成式人工智能用于合法的商业行为

FCC的投票是否会产生任何实际效果还有待观察。 伯格指出，对于像假拜登这样的电话，因为拨打这些自动电话以及冒充总统已经是非法的，因此将电话的另一个方面定为非法可能不会改变游戏规则。

“通过使其三重非法，真的能阻止人们吗？” 伯格说。