利用你所爱之人的声音进行的可怕人工智能骗局
最近的一个晚上，在布鲁克林的家中，一位名叫罗宾的女士正在她丈夫史蒂夫身边熟睡，这时她床头柜上的手机突然响起。 罗宾三十多岁，有一头又长又脏的金发。 她是一名室内设计师，专门设计豪华住宅。 那天晚上，这对夫妇去了科布尔山的一家天然葡萄酒酒吧，并提前几个小时回家并上床睡觉。 他们的两个年幼的孩子正在走廊另一头的卧室里睡觉。 “我总是一只耳朵醒着，”罗宾最近告诉我。 手机响了，她睁开眼睛，看了看来电显示，是婆婆莫娜，半夜以后从来没有打过电话。 “我想，也许这是一个屁股拨号，”罗宾说。 “所以我忽略了它，尝试翻身回到床上。 但后来我看到它又出现了。” 她拿起电话，电话那头传来莫娜的哭声，重复着“我做不到，我做不到”。 “我以为她是想告诉我发生了一些可怕的悲剧，”罗宾告诉我。 莫娜和她的丈夫鲍勃已经七十多岁了。 她是一位退休的派对策划人，他是一位牙医。 他们在马里兰州贝塞斯达度过温暖的几个月，在博卡拉顿度过冬天，在那里他们玩泡菜球和卡纳斯塔。 罗宾的第一个念头是发生了意外。 罗宾的父母也在佛罗里达过冬，她想象着他们四个人在一场车祸中的情景。 “你的大脑在半夜会做出奇怪的事情，”她说。 然后罗宾在电话里听到了鲍勃的声音。 （家人要求化名以保护隐私。）“莫娜，把电话递给我，”鲍勃的声音说道，然后，“去找史蒂夫。” 去找史蒂夫。” 罗宾认为这——他们不想在她独自一人的时候告诉她——作为他们认真的另一个标志。 她摇醒了史蒂夫。 “我想是你妈妈，”她告诉他。 “我认为她告诉我发生了一些可怕的事情。” 史蒂夫留着短发，身材健壮，在执法部门工作。 当他睁开眼睛时，他发现罗宾正处于惊慌失措的状态。 “她在尖叫，”他回忆道。 “我以为她全家都死了。” 当他接过电话时，他听到电话那头传来一个轻松的男性声音——可能是南方人的声音。 “你不会报警的，”那人说。 “你不会告诉任何人。 我已经拿枪指着你妈妈的头了，如果你不完全按照我说的做，我就会打爆她的脑袋。” 史蒂夫用自己的电话给一位在人质谈判方面有经验的同事打电话。 同事被静音了，所以他能听到电话却听不到。 “你听到这个了吗？？？” 史蒂夫给他发短信。 “我应该怎么办？” 同事回信说：“记笔记。 一直在说话。” 史蒂夫说，我们的想法是继续对话，推迟暴力并尝试了解任何有用的信息。 “我想听听她的声音，”史蒂夫对电话里的那个人说。 男子拒绝了。 “如果你再问我这个问题，我就会杀了她，”他说。 “你他妈疯了吗？” “好吧，”史蒂夫说。 “你想要什么？” 该男子索要旅费； 他想要五百美元，通过 Venmo 汇出。 “对于一个人来说，这是一笔非常小的钱，”史蒂夫回忆道。 “而且：我显然会付这个钱。” 罗宾听着，推断有人闯入了史蒂夫父母的家，为的是要一点现金而劫持他们。 在电话中，该男子给了史蒂夫一个 […]
FCC 对机器人呼叫中人工智能的禁令还不够
在 1 月 23 日美国民主党新罕布什尔州初选前几天，潜在选民开始接到电话 人工智能生成的假拜登总统音频 敦促他们在 11 月大选之前不要投票。 在斯洛伐克 脸书帖子 包含人工智能生成的虚假总统候选人计划窃取选举的音频—— 可能已经小费 选举对另一位候选人有利。 最近的选举 印度尼西亚 和 台湾 也受到人工智能生成的错误信息的损害。 为了回应新罕布什尔州的假拜登机器人电话， 美国联邦通信委员会 感动使 机器人通话中人工智能生成的声音非法 2 月 8 日。 但专家 IEEE 频谱 尽管生成式人工智能给旧的机器人电话诈骗带来了新的变化，并提供了加强欺骗个人的机会，但受访者并不相信此举足够。 2022 年美国因诈骗和垃圾邮件造成的总损失被认为是美国 395 亿美元，根据 TrueCaller 的说法，该公司制作了一个来电显示和垃圾邮件拦截应用程序。 同年，美国受骗者的平均损失金额 是 431.26 美元提供通话保护和身份服务的公司 Hiya 的一项调查显示。 Hiya 表示，随着生成式人工智能的使用越来越广泛，这一数字还会上升。 “总的来说，通过机器人电话进行的欺诈造成的损失令人难以置信，”说 埃里克·伯格，研究主任 英联邦网络倡议 在弗吉尼亚理工大学。 “我认为我们无法理解电话体验会因此而发生多快的变化。” ——乔纳森·尼尔森，希亚 人工智能将使诈骗者更容易瞄准个人 Hiya 产品管理总监乔纳森·尼尔森 (Jonathan […]
FCC 禁止在机器人通话中使用人工智能生成的声音
就在消息发布几周后，美国联邦通信委员会 (FCC) 周四禁止在机器人通话中使用人工智能 (AI) 生成的声音 模仿拜登总统 在新罕布什尔州初选之前向该州居民进行了宣传。 该机构一致通过了一项裁决，根据《电话消费者保护法》，承认人工智能生成的声音是“人造的”，该法案限制电话营销电话以及人造或预先录制的语音消息的使用。 该机构在一份新闻稿中指出，该法律赋予联邦通信委员会对机器人电话进行罚款的能力，并阻止电话运营商为非法机器人电话提供便利的电话。 它还允许消费者和组织起诉机器人呼叫者。 FCC 主席杰西卡·罗森沃塞尔 (Jessica Rosenworcel) 在一份声明中表示：“这似乎是遥远未来的事情，但它已经发生了。” “人工智能生成的语音克隆和图像创建工具现在更容易使用，并且更有可能用于欺诈。” “当我们聆听、观看和点击时，这项技术会让我们感到困惑，因为它会欺骗我们，让我们认为各种假货都是合法的，”她继续说道。 Rosenworcel 指出了最近发生的几起事件，包括上个月流行巨星泰勒·斯威夫特 (Taylor Swift) 的人工智能生成的露骨照片的传播，以及去年秋天在网上宣传牙科计划的人工智能版演员汤姆·汉克斯 (Tom Hanks)。 她似乎还提到了假拜登的电话，理由是“政治职位候选人的电话旨在让我们迷惑在哪里和何时投票。” 上个月，拜登向花岗岩州居民发出虚假电话，敦促他们为 11 月的选举保留投票，不要在初选中投票。 这位 FCC 主席补充道：“无论你喜欢哪位名人或政客，也无论你的亲属在寻求帮助时与你的关系如何，我们都有可能成为这些虚假电话的接收端。” 版权所有 2024 Nexstar Media Inc. 保留所有权利。 该材料不得出版、广播、重写或重新分发。 1707423133 #FCC #禁止在机器人通话中使用人工智能生成的声音 2024-02-08 17:27:57