选举、诈骗……在美国，人工智能语音通话被禁止

Haro 接到来自名人或亲戚的假电话。 美国电信监管机构（FCC）决定禁止 使用人工智能 (AI) 程序生成的声音进行自动呼叫为了打击该技术允许的日益复杂的骗局。

“恶意行为者在未经请求的电话中使用人工智能生成的声音来勒索弱势家庭成员、冒充名人并误导选民。 我们正在警告这些电话背后的诈骗者，”FCC 主席杰西卡·罗森沃塞尔 (Jessica Rosenworcel) 在联邦机构周四的新闻稿中援引该消息称。

FCC 明确表示，其决定立即生效，将这些旨在欺骗消费者的自动呼叫或“机器人呼叫”中使用的语音克隆技术定为非法。

引爆的恶意电话

在过去的一年里，生成式人工智能的爆炸式增长，使得根据日常语言的简单请求生成内容（文本、图像、声音）成为可能，引起了人们的重大关注和各种监管尝试。

美国联邦通信委员会指出，“近年来，此类电话的数量有所增加，因为这项技术现在可以通过模仿名人、政治候选人和亲密家庭成员的声音，用错误信息来欺骗消费者”。

最近，冒充总统乔·拜登的受操纵电话，旨在鼓励新罕布什尔州居民不要在民主党初选中投票，给人留下了持久的印象。 对潜在“非法企图扰乱”投票的调查正在进行中。

更好的人工智能框架

十月，国家元首 签署法令以更好地监管人工智能，无论是在安全、公平甚至是对劳动力市场的影响方面。 文中特别建议开发工具来轻松识别人工智能生成的内容。 这次，这位 80 岁的民主党人提到，他看到了一段自己用人工智能（deepfake）从头开始制作的视频。

“我想知道我什么时候可以这么说？ »，乔·拜登说道，他对利用人工智能冒充家庭成员来欺骗人们感到非常激动。

杰西卡·罗森沃塞尔周四表示：“州总检察长现在将拥有新的工具来打击这些诈骗，并确保公众免受欺诈和错误信息的侵害。”