敌人随着他的声音倒下。 当人工智能听起来很险恶时

AGI – 最新的备受瞩目的案件涉及巴尔的摩县一所高中的一名体育老师和前体育主任，因使用人工智能语音克隆服务陷害学校校长而被捕。 但在去年，人们对这项技术的兴趣 基于人工智能的语音克隆 随着服务变得更加人性化，它也在不断发展。 不当使用应用程序和软件进行语音克隆的案件（即使不是彻头彻尾的犯罪）也在不断增加。

巴尔的摩案件源于一月份在社交媒体上流传的一段录音，该录音据称是派克斯维尔高中校长埃里克·艾斯沃特发表种族主义和反犹太言论的虚假音频。 专家告诉巴尔的摩旗帜报和警方，导致艾斯沃特短暂停职的录音“音调平淡，背景声音异常干净，缺乏连贯的呼吸声或停顿”。

巴尔的摩县警方找到了达中·达里恩 (Dazhon Darien) 的录音，他是该校前体育主任，音频片段中也提到了他的名字。 据 WBAL-TV 11 和 WBAL-TV 报道，他会使用学校的计算机“访问 OpenAI 工具和 Microsoft Bing 聊天服务” 美国全国广播公司新闻。 他还通过电子邮件地址和相关的恢复电话号码与音频的发布相关联。

目前还不清楚 Darien 使用的是哪个 AI 语音平台。 警方周四在机场逮捕了这名男子，并表示派克斯维尔高中的体育主任录制这段录音是为了向艾斯沃特汇报，艾斯沃特当时正在对学校资金管理不善的情况进行调查。 他已获保释，面临的指控包括盗窃（因学校资金问题）、扰乱学校运作、报复目击者和跟踪等。

其他值得注意的案例也发生在巴基斯坦，被监禁的巴基斯坦前总理伊姆兰·汗 (Imran Khan) 的政党使用 ElevenLabs（一种流行的商用文本到语音生成平台）来 在竞选期间复制他的声音。 在德克萨斯州，两家公司与一家公司有联系 冒充总统乔·拜登的假机器人电话 告诉人们不要投票。 联邦通信委员会 禁止使用人工智能机器人电话 二月里。 自然地， 假德雷克 使用人工智能创作了歌曲《袖子上的心》。

在这种紧张的气候下， OpenAI 在 3 月份决定暂停 其人工智能文本转语音生成平台 Voice Engine 供公众使用。 这项服务只需要 15 分钟的音频剪辑就可以克隆某人的声音，由于该技术缺乏护栏，因此仅适用于有限数量的研究人员。

美国立法者已提出但尚未通过多项法案，例如 严禁假货法案 e 《禁止人工智能欺诈法案》 试图阻止科技公司在未经个人许可的情况下使用个人的面部、声音或姓名 巴尔的摩旗帜 据报道，巴尔的摩县警方相信一段录音