人工智能如何增强垃圾邮件和欺骗性营销

“确实存在垃圾邮件发送者获胜的情况，”他说。 “有时在您的电子邮件收件箱、短信收件箱或 Google 搜索结果中。”

Lee 还谈到了营销公司如何收集大量个性化用户数据。 这使得他们能够为个人制作“高度针对性”的广告。 李认为，好的公司会在发送高度针对性的广告之前征求用户的同意，允许用户选择退出，并清楚地标记任何人工智能生成的内容。 但并非所有营销公司都是这样运作的。

“仅仅因为你了解这个人的一些情况并不一定意味着你应该以超个性化的信息来传达它，”他说。

例如，Lee 提出了一个假设场景，其中 PAC 或政党可以使用有针对性的人工智能垃圾邮件来影响选举结果。 借助“邮政加四”标签：九位数的邮政编码，可能只有一个街区那么小，营销人员可以更精细地联系个人。 对于来源可疑的微妙信息，媒体可能永远不会注意到。

“当反垃圾邮件法通过后，他们就豁免了 PAC 和非营利组织……了解到底是谁向您发送该消息的透明度并不总是很清楚，”他解释道。 “你可以采取加四，然后淹没人们……这意味着你最终可能会影响一场选举，甚至没有人知道它是如何受到影响的。”

李还指出，人工智能可以准确地复制人的声音。 不难想象，一家不道德的公司可能会如何利用该技术来区分“可疑的营销”和“鱼叉式网络钓鱼”。

“我已经制作了 60 个播客，”他说。 “你可以轻松地深度伪造我的声音，打电话给我的妻子，告诉她任何你想要的事情。 我可能会遇到大麻烦。”

李提醒听众，好消息是政府有法规来防止此类行为。 谷歌和微软等大公司通常会严格遵守这些规定。 但对于初创公司和个人来说，执法是漫无目的的，他们可能会通过违反规则而受益更多。

“品牌、初创公司或任何类型的实体越有斗志，他们的动机就是作弊，”他说。 “如果他们四天前刚刚成立公司，或者没有公司，那么他们的缺点是什么？ 这有点像超速。 在高速公路上行驶的速度越快，到达另一个目的地的速度就越快，但罚款也会增加。”

李总结说，日常用户保护自己的唯一方法就是对你在网上看到的已知来源之外的任何事物采取怀疑态度。

“过去是‘信任但要验证’。” 现在是“不信任” 和 验证一下，”他说。